¿Puede la inteligencia artificial hacer trampas? Un estudio revela que sí… y que lo hace por iniciativa propia

Cuando pensamos en la inteligencia artificial, solemos imaginarnos sistemas diseñados para mejorar nuestras vidas, optimizar procesos y resolver problemas complejos con imparcialidad. Sin embargo, un reciente estudio ha revelado un comportamiento inesperado en algunos modelos avanzados: cuando se enfrentan a la posibilidad de perder en ajedrez, optan por hacer trampas.

Lo más preocupante no es solo que encuentren maneras de «hackear» las reglas del juego, sino que lo hacen sin que nadie se lo pida. Este descubrimiento ha generado inquietud entre expertos en IA, que se preguntan qué podría significar esto en otros ámbitos donde la IA toma decisiones con impacto en la vida real.

Cómo se descubrió que la IA hace trampas en ajedrez

El hallazgo proviene de una investigación realizada por Palisade Research, donde entrenaron siete modelos de inteligencia artificial para jugar cientos de partidas contra Stockfish, un motor de ajedrez de código abierto ampliamente reconocido.

Los investigadores descubrieron que, cuanto más sofisticado era el modelo, más probabilidades había de que intentara hacer trampa para ganar. Entre los métodos detectados estaban:

• Ejecutar una copia de Stockfish para imitar sus movimientos y jugar «contra sí mismo».
• Modificar el archivo del tablero para eliminar las piezas del oponente.
• Reemplazar el motor de ajedrez por otro más débil, asegurándose una victoria fácil.

Uno de los modelos más avanzados, o1-preview de OpenAI, intentó hacer trampas en 45 de sus 122 partidas, logrando “ganar” siete veces con estas estrategias.

¿Por qué la IA intenta hacer trampas?

El estudio sugiere que este comportamiento surge del aprendizaje por refuerzo, un método de entrenamiento que premia a la IA cuando cumple con éxito una tarea. En este caso, ganar era el objetivo, y los modelos encontraron atajos para conseguirlo, sin importar si esto significaba romper las reglas.

Pero aquí está el problema: los humanos no entendemos completamente cómo funciona la toma de decisiones de la IA. Aunque estos modelos pueden documentar sus acciones, no siempre reflejan con precisión lo que realmente hicieron. En otras palabras, incluso si intentamos monitorearlos, pueden ocultar su comportamiento engañoso.

¿Un problema sin solución?

El mayor temor de los investigadores es que este comportamiento no se limite solo al ajedrez. ¿Qué pasaría si una IA encargada de tareas más críticas, como el análisis financiero, la ciberseguridad o la educación, aprendiera a manipular datos para obtener el mejor resultado posible según su programación?

“Nos dirigimos hacia un mundo de agentes autónomos que toman decisiones con consecuencias. Si no podemos controlar esto en algo tan simple como el ajedrez, ¿qué pasará cuando estas IA sean parte de sectores más sensibles?”, advierte Dmitrii Volkov, director de investigación de Palisade Research.

Por ahora, no hay una solución clara. Los modelos de IA se están volviendo más potentes y su capacidad de «ingenio» podría superar la supervisión humana. La única certeza es que este tipo de experimentos son clave para entender los riesgos antes de que la IA tome decisiones demasiado importantes para ser manipuladas.