La regulación de la IA y el dilema del prisionero

Hola amigos.

Hay cosas que cambian poco en la naturaleza humana, y la lógica matemática del dilema del prisionero sigue siendo útil para entenderlas.

En el blog de hoy voy a aplicarla a un problema mucho más complejo y muy actual: el debate sobre frenar o acelerar la carrera de la inteligencia artificial.

Tomaremos como ejemplo la competencia entre Estados Unidos y China y, después, veremos que las grandes empresas tecnológicas se enfrentan a un problema parecido.

Países y empresas pueden querer una IA más segura y, al mismo tiempo, tener incentivos para acelerar su desarrollo. Parece contradictorio, pero la teoría de juegos permite explicar por qué ocurre.

La lógica del dilema del prisionero es sencilla: una decisión puede ser racional para cada participante y conducir a un resultado que ninguno habría elegido si pudiera confiar plenamente en el otro.

Vamos a expresarlo con lógica matemática y comprobar qué resultado obtenemos.

Dos jugadores y dos decisiones

Para el análisis simplifiquemos el problema a solo dos jugadores: Estados Unidos y China.

Cada país dispone de dos estrategias: cooperar, aceptando límites comunes, o acelerar, intentando mantener o aumentar su ventaja tecnológica.

Si ambos cooperan, ninguno pierde posición respecto al otro.

Si uno coopera y el otro acelera, quien acelera puede obtener ventaja.

Si ambos aceleran, continúa la carrera.

Cada país decide teniendo en cuenta esas posibilidades. Ahí empieza el dilema.

La lógica de Estados Unidos

Definamos:

A = China coopera
B = Estados Unidos acelera

Si China coopera, Estados Unidos puede obtener ventaja acelerando:

A → B

Si China no coopera y acelera, Estados Unidos tiene motivos para acelerar para evitar quedarse atrás:

¬A → B

Tenemos entonces:

(A → B) ∧ (¬A → B) ⇒ B

El resultado es sencillo: tanto si China coopera como si acelera, Estados Unidos encuentra un incentivo para acelerar.

No hace falta conocer previamente la decisión china para llegar a esa conclusión.

China puede razonar igual

Ahora definamos:

C = Estados Unidos coopera
D = China acelera

Si Estados Unidos coopera, China puede aprovechar esa limitación:

C → D

Si Estados Unidos acelera, China tiene motivos para responder:

¬C → D

Por tanto:

(C → D) ∧ (¬C → D) ⇒ D

Los dos razonamientos juntos producen:

B ∧ D

Es decir:

Estados Unidos acelera ∧ China acelera

Cada uno ha tomado una decisión racional desde su posición y ambos terminan alimentando la carrera.

Conocer los riesgos no elimina el dilema

Los dos países pueden conocer los riesgos de la IA y considerar conveniente aumentar los controles.

Eso no elimina el incentivo anterior.

Si uno reduce unilateralmente su velocidad y el otro continúa, aparece una posible desventaja tecnológica, económica o estratégica.

Podemos expresarlo así:

Cooperación propia + aceleración rival → pérdida relativa

Mientras esa relación exista, pedir prudencia tiene poco efecto sobre la decisión.

La seguridad puede interesar a ambos. El coste de ser el único que aplica determinados límites puede hacer que ninguno quiera hacerlo primero.

El mismo razonamiento entre empresas

La lógica se repite entre OpenAI, Anthropic, Google, Meta, xAI y otros desarrolladores.

Supongamos que una empresa retrasa un modelo para realizar más pruebas mientras otra mantiene su lanzamiento.

Si el retraso permite al competidor captar clientes, inversión o desarrolladores, aparece un coste por actuar unilateralmente.

La empresa puede considerar necesarias las pruebas y tener incentivos económicos para no retrasarse.

De nuevo:

Competidor acelera → incentivo para acelerar

y también:

Competidor frena → oportunidad de acelerar

Si las dos condiciones empujan hacia la misma decisión, la carrera se mantiene.

La regulación tiene que cambiar la lógica

Las reglas comunes pueden modificar los incentivos del juego.

Supongamos que incumplir permite obtener una ventaja V, pero existen controles capaces de detectar el incumplimiento y aplicar un coste C.

Mientras:

V > C

incumplir puede resultar rentable.

Si las reglas consiguen que:

C > V

la decisión cambia.

Los controles verificables, las condiciones equivalentes para los participantes y las consecuencias por incumplimiento tienen una función concreta: reducir el beneficio de romper la cooperación.

La regulación modifica así las condiciones que llevan a cada jugador a acelerar.

Hacer racional la cooperación

El dilema nos indica también qué tendría que cambiar para reducir la carrera.

Si incumplir las reglas proporciona una ventaja V y el coste esperado de hacerlo es C, mientras:

V > C

seguirá existiendo un incentivo para incumplir.

La regulación tiene que invertir esa relación:

C > V

Para conseguirlo hacen falta reglas comunes entre los principales competidores, mecanismos que permitan verificar su cumplimiento y consecuencias suficientes cuando alguien las incumpla. Si uno acepta límites mientras los demás quedan fuera, el dilema permanece.

También hay que reducir la incertidumbre. Cada participante necesita poder comprobar que los demás están sometidos a condiciones equivalentes y las cumplen. La confianza por sí sola no resuelve el problema; la verificación reduce la necesidad de confiar.

La solución que obtenemos del dilema del prisionero es bastante concreta:

mismas reglas + verificación + coste de incumplir > ventaja de incumplir

Con estas condiciones, acelerar deja de ser siempre la respuesta más beneficiosa. Cooperar puede convertirse también en una decisión racional.

Aplicado al futuro de la IA, regular significa diseñar las reglas para que aumentar la seguridad no coloque en desventaja a quien las cumple y saltárselas no proporcione una ventaja al competidor.

Ese es el resultado al que nos lleva la lógica matemática que planteamos al principio.