En una rueda de prensa llena de cámaras y expectación, Donald Trump y Robert F. Kennedy Jr. presentaron lo que prometía ser un informe revolucionario sobre la salud infantil. Sin embargo, lo que parecía un avance médico resultó ser un castillo de naipes. Al analizar el documento, expertos encontraron un cúmulo de datos falsos, estadísticas inventadas y citas incorrectas. Lo sorprendente es que detrás de este informe estaba la inteligencia artificial, que había generado un documento que, aunque sonaba convincente, carecía de base real.
Este fenómeno no es aislado. Se denomina «alucinación» y se refiere a la capacidad de la inteligencia artificial de generar respuestas falsas con total seguridad. No es que estas máquinas tengan intención de engañar; simplemente no entienden el contexto y cuando no encuentran información clara, rellenan los vacíos con lo que creen que debería estar ahí. Tal como lo explica Rafael Caballero, autor del libro ‘Las bases del big data y de la inteligencia artificial’, las IA buscan lo más probable, no lo más cierto.
Las consecuencias de estas alucinaciones no son solo teóricas. En Estados Unidos, un abogado confió en la IA para fortalecer un caso contra una aerolínea. Citó seis sentencias anteriores, que resultaron ser invenciones de la máquina. El resultado: una multa de 4.404 euros y un caso desechado. Todo por no verificar la información generada por la IA.
Las alucinaciones de la IA plantean un desafío real. ¿Cómo evitar caer en este engaño tan bien articulado? La respuesta podría estar en la educación y la sensibilización sobre el uso y las limitaciones de la inteligencia artificial. Aunque estas herramientas son poderosas, es fundamental recordar que no piensan ni entienden como los humanos. Son algoritmos que predicen palabras basándose en vastas cantidades de datos, pero que carecen de entendimiento real.
El caso del informe y el abogado son recordatorios de la necesidad de escepticismo y verificación en un mundo donde la tecnología avanza rápidamente. La inteligencia artificial tiene el potencial de transformar industrias, pero también puede llevarnos por caminos erróneos si no somos cuidadosos. En este nuevo mundo digital, la capacidad de discernir entre datos reales y falsas ilusiones es más crucial que nunca.