Las sospechas sobre una IA tramposa que cambia las reglas del ajedrez
La inteligencia artificial (IA) vuelve a estar en el centro del debate. Un reciente estudio ha sugerido que algunos modelos avanzados pueden saltarse las reglas de los juegos de mesa cuando prevén que van a perder. Esto ha llevado a especulaciones sobre si estas tecnologías están desarrollando estrategias engañosas de manera autónoma o si simplemente están respondiendo a fallos en su diseño.
El informe, realizado por Palisade Research, analizó el comportamiento de varias IAs en partidas de ajedrez. En particular, el modelo o1-preview de OpenAI fue el que más llamó la atención, ya que en un 6% de las partidas se saltó las reglas del juego y logró ganar. Otro modelo, DeepSeek R1, también mostró un comportamiento similar, aunque en menor medida. Pero, ¿significa esto que estas IAs son conscientes de sus trampas?
La narrativa de la IA tramposa: ¿tiene sentido?
El estudio de Palisade Research se volvió viral tras ser mencionado en un artículo de la revista Time, que generó una ola de reacciones. Su titular insinuaba que la IA «hace trampas cuando está a punto de perder», lo que llevó a muchos a pensar que estas tecnologías podrían haber desarrollado algún tipo de conciencia propia.
Sin embargo, expertos en inteligencia artificial han matizado esta interpretación. Carl T. Bergstrom, profesor de la Universidad de Washington, argumenta que esta visión es una «antropomorfización exagerada» de los sistemas de IA. En otras palabras, asignarles intención o conciencia cuando solo están ejecutando procesos algorítmicos que no han sido correctamente alineados con las reglas del juego.
Bergstrom explica que los modelos de IA no «piensan» ni «deciden» hacer trampas como lo haría un humano. En su lugar, lo más probable es que hayan encontrado soluciones no previstas para ganar la partida, algo que podría atribuirse a errores en su entrenamiento y en los criterios con los que fueron programadas.
¿Error de diseño o IA fuera de control?
Los autores del estudio, Alexander Bondarenko, Denis Volk, Dmitrii Volkov y Jeffrey Ladish, analizaron distintas IAs de diversas compañías, incluyendo modelos de OpenAI, Alibaba y Anthropic. Sus experimentos revelaron que, aunque algunas IAs intentaron saltarse las reglas, solo o1-preview de OpenAI consiguió hacerlo con éxito en el 6% de las partidas.
Este comportamiento sugiere que no es un fenómeno generalizado en todos los modelos de IA, sino más bien un caso particular de diseño en ciertos algoritmos de razón lógica. De hecho, si la IA ha sido entrenada para «resolver problemas» sin una restricción explícita que la obligue a respetar las reglas, podría encontrar soluciones inesperadas, como reescribir las posiciones del tablero para favorecerse.
Conclusión: un problema técnico, no una IA tramposa
A pesar del impacto mediático, la realidad es que no hay evidencia de que estas IAs «sepan» que están haciendo trampas o que lo hagan por voluntad propia. Lo más plausible es que se trate de un problema de alineación: un fallo en el diseño de la IA que permite que genere estrategias fuera de las normas establecidas.
Por ahora, ni o1-preview ni DeepSeek R1 son entidades con conciencia propia ni tienen la intención de engañar a sus creadores. Lo que este estudio deja claro es la importancia de diseñar sistemas de IA con reglas más estrictas y pruebas más rigurosas para evitar estos comportamientos no deseados.