Carlos despertó aquella mañana con una notificación en su teléfono. Un amigo le preguntaba si de verdad había dicho esas cosas en un video que circulaba en redes. Confundido, lo abrió: ahí estaba él, con su rostro y su voz, pero pronunciando palabras que nunca había dicho. No tardó en entenderlo: era víctima de un deepfake.

Lo que le sucedió a Carlos es solo un reflejo de una realidad más grande y preocupante. La inteligencia artificial generativa ha avanzado tanto que hoy cualquiera puede ser el protagonista de un video sin haber estado frente a una cámara. Con apenas una foto y un poco de texto, es posible fabricar imágenes, audios y videos increíblemente realistas. Y lo más inquietante: la mayoría de las personas no logra distinguir lo falso de lo real.

Un estudio de iProov reveló que apenas el 0.1% de los encuestados identificó correctamente todos los deepfakes en un experimento controlado. Y en situaciones reales, donde no hay alertas previas, la vulnerabilidad es aún mayor.

Para Daniel Molina, vicepresidente para Latinoamérica de iProov, el problema no radica en la tecnología en sí, sino en el uso que se le da. “La gente cree que puede detectar un deepfake cuando lo ve, y eso la hace aún más propensa a caer en el engaño”, advierte.

Fraudes, desinformación y el riesgo de creer en lo que vemos

Las consecuencias del auge de los deepfakes van mucho más allá de la sorpresa o la diversión de ver videos manipulados. Los fraudes por suplantación de identidad han aumentado drásticamente, con pérdidas millonarias en sectores como las finanzas y las telecomunicaciones. En México, por ejemplo, la Comisión Nacional para la Protección y Defensa de los Usuarios de Servicios Financieros (Condusef) reportó que los fraudes financieros relacionados con robo de identidad superaron los 14,500 millones de pesos en pérdidas.

Pero el impacto también llega a la confianza en la información. Las redes sociales, como Facebook o TikTok, se han convertido en los principales espacios donde se propagan estos engaños. De acuerdo con el estudio de iProov, el 49% de los usuarios ha disminuido su confianza en estas plataformas tras conocer la existencia de deepfakes.

Molina destaca un problema adicional: la facilidad con la que los usuarios comparten información personal sin medir los riesgos. Desde fotos de sus hijos en el primer día de clases, hasta respuestas a preguntas de seguridad como el nombre de su primera mascota, muchos dejan expuestos datos clave que podrían ser utilizados en su contra.

El peligro de una tecnología al alcance de todos

Hace apenas una década, la creación de un video hiperrealista requería costosos equipos y software avanzado. Un ejemplo claro fue la película Rápidos y Furiosos 7, donde el rostro de Paul Walker fue recreado con CGI tras su fallecimiento en 2013. En ese momento, cada minuto de animación costaba cerca de 250,000 dólares. Hoy, con menos de lo que cuesta un café, cualquier persona puede generar un deepfake con calidad profesional.

Y el avance es imparable. En los últimos 13 meses, los deepfakes han evolucionado a un ritmo alarmante. Según el informe de inteligencia sobre amenazas de iProov, los intercambios de rostros aumentaron un 704%. Esto supone un reto enorme en la lucha contra la desinformación y el fraude digital.

Un llamado urgente a la educación digital

La batalla contra los deepfakes no se ganará con prohibiciones ni con censura, sino con educación y conciencia digital. Sin embargo, la mayoría de las personas sigue sin prepararse para este escenario: un 22% de los encuestados ni siquiera conocía la existencia de esta tecnología antes del estudio y, peor aún, más del 60% cree que puede detectar un deepfake con facilidad, cuando los datos demuestran lo contrario.

Para Molina, esto solo refuerza la necesidad de crear estrategias de verificación de contenido y de enseñar a la ciudadanía a dudar antes de creer lo que ve en internet. En un mundo donde cualquier imagen o video puede ser manipulado, la frase «hasta no ver, no creer» ha dejado de tener sentido. Ahora, más que nunca, la clave está en cuestionar, verificar y aprender a distinguir la realidad del engaño.