El avance imparable de la IA despierta temores sobre seguridad y control
Hace apenas dos años, la llegada de ChatGPT marcó un punto de inflexión en el desarrollo de la inteligencia artificial. Para muchos, era el inicio de una nueva era tecnológica llena de posibilidades. Para otros, como el renombrado informático y premio Turing 2018, Joshua Bengio, fue un claro recordatorio de lo poco preparados que estamos para gestionar su impacto.
«Sentí la urgencia de pensar en el tema de la seguridad», confiesa Bengio. Desde entonces, su preocupación no ha hecho más que aumentar. Hoy, la IA no solo está transformando el mundo digital, sino que también plantea riesgos cada vez más alarmantes: desde la desinformación hasta posibles ataques biológicos y cibernéticos.
El desarrollo de la inteligencia artificial avanza a un ritmo sin precedentes. Modelos como el reciente DeepSeek, creado en China, han demostrado que es posible obtener un alto rendimiento con costos reducidos. Pero lo que para algunos es un avance prometedor, para Bengio representa una amenaza. «Esto está acelerando el progreso en este campo, y eso no es bueno para la seguridad», advierte.
La preocupación no es solo suya. Un grupo de 100 expertos, seleccionados por 30 países y organismos como la ONU, la OCDE y la Unión Europea, han trabajado en un Informe Internacional sobre Seguridad de la IA. Este documento, que surgió tras una cumbre de seguridad en Reino Unido en 2023, será discutido oficialmente los días 10 y 11 de febrero en París.
Los riesgos de la inteligencia artificial ya son conocidos: su capacidad para generar contenido falso, su impacto en el empleo, la posibilidad de manipular información a gran escala. Sin embargo, Bengio destaca que los peligros van mucho más allá. «Cada vez hay más pruebas de amenazas adicionales, como ataques biológicos o cibernéticos», señala.
Uno de los mayores miedos entre los expertos es la posibilidad de una pérdida de control. A medida que los sistemas se vuelven más autónomos y complejos, el riesgo de que escapen al control humano crece. Bengio es claro: se necesita una regulación internacional más estricta. Pero, hasta ahora, los intentos por establecer normativas sólidas han sido insuficientes. En Estados Unidos, por ejemplo, los esfuerzos del expresidente Joe Biden por regular la IA han quedado en el aire.
«Sin la intervención del gobierno, no sé cómo vamos a superar esto», advierte Bengio. La pregunta que queda en el aire es si los líderes mundiales actuarán a tiempo o si, cuando lo hagan, ya será demasiado tarde.