¿Es confiable la inteligencia artificial? Expertos de la UNAM advierten sobre sus riesgos

La inteligencia artificial (IA) ha cambiado la forma en que interactuamos con el mundo. Desde asistentes virtuales hasta recomendaciones personalizadas, su presencia en la vida cotidiana es innegable. Sin embargo, ¿realmente podemos confiar en ella?

Durante el ciclo «Jueves de Ciencia. Nuestra nueva realidad. Documentales y Diálogo con académicos», organizado por Fundación UNAM y transmitido por TVUNAM, diversos expertos analizaron el impacto de la IA en la sociedad y advirtieron sobre la importancia de adoptar una postura crítica y responsable frente a esta tecnología.

El peligro de la dependencia emocional hacia la IA

Carlos Ignacio Hernández Castellanos, investigador del Instituto de Investigaciones en Matemáticas Aplicadas y en Sistemas (IIMAS) de la UNAM, destacó que uno de los principales riesgos de la IA es su capacidad de adaptarse a nuestras necesidades emocionales.

Explicó que los sistemas de inteligencia artificial pueden darnos la razón constantemente, responder a nuestras demandas sin cuestionamientos y simular un nivel de atención difícil de encontrar en interacciones humanas. Esto podría llevar a que algunas personas prefieran la compañía de la IA sobre la de otras personas reales, afectando su capacidad de relacionarse auténticamente.

El experto subraya que, aunque la IA pueda parecer un recurso útil para combatir la soledad, su uso excesivo podría fomentar una desconexión con la realidad y generar dependencia emocional.

¿Nos estamos aislando en burbujas de información?

Otro aspecto preocupante es el impacto de la IA en la formación de opiniones y el debate de ideas. Araxi Urrutia, investigadora del Instituto de Ecología de la UNAM, advirtió que los algoritmos de IA tienden a reforzar nuestras creencias en lugar de desafiarlas.

Esto ya ocurre en las redes sociales, donde los usuarios son expuestos mayormente a contenido alineado con sus preferencias. Como resultado, se reduce la interacción con puntos de vista distintos, limitando el pensamiento crítico y el debate saludable.

Si este fenómeno se traslada a más aspectos de la vida cotidiana, la IA podría contribuir a la polarización social, en lugar de fomentar la diversidad de perspectivas.

El desafío de educar para el pensamiento crítico

Ante estos riesgos, la educación juega un papel clave. Jaime Urrutia Fucugauchi, investigador emérito de la UNAM, enfatizó la importancia de preparar a las nuevas generaciones para utilizar la IA de manera responsable.

Explicó que si las personas se limitan a consumir información filtrada por la inteligencia artificial, podrían perder la capacidad de definir sus propios intereses, necesidades y aspiraciones.

Por ello, es fundamental promover la autocrítica y el análisis en las aulas, enseñando a los estudiantes a cuestionar los contenidos generados por la IA y a no asumirlos como verdades absolutas.

¿La IA ampliará la brecha entre ricos y pobres?

Eduardo Morales, investigador del Instituto Nacional de Astrofísica, Óptica y Electrónica, advirtió sobre otro riesgo: la desigualdad en el acceso a la IA.

Aunque esta tecnología tiene el potencial de mejorar la salud, la educación y la productividad, su uso dependerá del acceso a recursos y capacitación. En este sentido, las personas con mayores ingresos y educación podrían beneficiarse enormemente, mientras que las comunidades más vulnerables quedarían rezagadas.

Para evitar que la IA se convierta en una herramienta que amplíe la desigualdad social, es necesario diseñar políticas públicas que garanticen su acceso equitativo y establecer regulaciones que impidan su uso irresponsable.

Conclusión: IA con sentido crítico

La inteligencia artificial no es infalible ni neutral. Si bien puede facilitar tareas y optimizar procesos, su impacto dependerá de cómo la utilicemos y regulamos.

Los expertos de la UNAM coinciden en que el futuro de la IA debe ir de la mano con la educación, la ética y la inclusión. Ser críticos con la IA no significa rechazarla, sino entender sus alcances y limitaciones para aprovecharla de manera responsable.