Para continuar, hacete socio de Caras y Caretas. Si ya formas parte de la comunidad, inicia sesión.
ASOCIARMELa realidad es un nuevo campo de batalla. No vivimos solamente en una era de desinformación; vivimos en una era de simulación donde la mentira no oculta la verdad: la reemplaza.
Caras y Caretas Diario
En tu email todos los días
El hombre dudó unos segundos. Del otro lado de la pantalla estaba su jefe. Lo veía. Lo escuchaba. Le habló con la autoridad de siempre y le ordenó una transferencia urgente de… ¡25 millones de dólares! No dudó más. Ejecutó la orden.
Horas después supo que nunca había hablado con él. Había hablado con una máquina.
Ese episodio no pertenece a una película futurista, sino al presente: un empleado de la firma Arup fue engañado por una videollamada completamente generada por inteligencia artificial, en la que todos los participantes eran falsos.
Ese empleado no tiene nombre… porque podría ser cualquiera. No es un personaje.
Sí es una persona real; pero pasó a ser un simple engranaje en una función dentro del sistema. Un hombre frente a una pantalla, creyendo que ve la realidad. Y no la ve.
En todos los reportes sobre el caso de la firma Arup (incluyendo investigaciones policiales y cobertura internacional) la persona aparece simplemente como “un empleado”, “un trabajador del área financiera” o “un empleado en la oficina de Hong Kong”. Las autoridades y la propia empresa mantuvieron su identidad en reserva, probablemente por razones legales y de protección personal.
Se nos vino encima un tsunami tecnológico y las máquinas amenazan con avasallar a sus inventores. “Avasallar”: convertir en vasallo. La realidad ya no se ve: se interpreta. Aquello de “ver para creer” ha quedado obsoleto.
Cada mes que pasa, verificar la realidad es más difícil. Cada semana, más caro. Cada día, más inútil.
Vivimos en un mundo donde lo visible dejó de ser prueba. Las imágenes (ese viejo refugio de la verdad) se han convertido en su contrario y hoy son el vehículo más eficaz de la mentira.
Los deepfakes (videos generados por inteligencia artificial) ya no son una rareza tecnológica, sino una herramienta política, económica y cultural. En 2024, al menos 38 países registraron incidentes de desinformación mediante videos falsos dirigidos a figuras públicas.
La verdad, en consecuencia, ya no se impone por evidencia. Compite. Escándalos que nunca ocurrieron (pero todos vieron). Un presidente anunciando la paz que jamás firmó. Un líder promoviendo inversiones fraudulentas. Una actriz declarando lo que nunca dijo. Todo tan falso como viral.
Circuló, por ejemplo, un video del presidente ucraniano invitando a invertir en criptomonedas; pero era completamente artificial; muy diferente al caso de Javier Milei, que cobró (y esto sí está comprado) muy buen dinero por promocionar a Libra, tema que está en manos de la justicia argentina.
Otro video mostraba a un dirigente político cambiando de partido en plena crisis; pero también era falso.
Una pieza audiovisual atribuida a una actriz hiperfamosa generó polémica mundial… hasta que se comprobó que Scarlett Johansson nunca la había grabado.
Las guerras modernas no solo se combaten con misiles. Como decía en mi nota anterior, “Palabras que matan, silencios que duelen”, también se combate con narrativas.
Videos manipulados de líderes anunciando rendiciones inexistentes, discursos alterados o declaraciones inventadas forman parte del arsenal. Durante los conflictos recientes, deepfakes mostraron a mandatarios declarando decisiones que jamás tomaron, alterando percepciones y generando confusión estratégica. ¿Cuántos “ataques exitosos” realmente lo fueron?
El objetivo no es convencer a todos; el objetivo es sembrar duda en todos; porque cuando nadie sabe qué es real, cualquier versión puede imponerse. Al final, cada cual terminará creyendo lo que desee creer.
La falsificación ya no es solo propaganda; es industria. Estafas millonarias mediante voces clonadas, videos de “médicos” falsos recomendando tratamientos, contenido sexual fabricado con rostros reales e influencers inexistentes monetizando audiencias… Incluso aplicaciones de generación de video, como Sora, debieron restringirse ante el uso masivo para crear deepfakes de figuras públicas.
La mentira dejó de ser artesanal y ahora es escalable.
Hay una falsificación más sutil: la palabra escrita.
Los textos generados por inteligencia artificial no engañan por lo que dicen, sino por cómo lo dicen: son correctos, pero vacíos; precisos, pero impersonales; coherentes, pero sin alma.
Se multiplican notas, informes y artículos que parecen periodismo… pero no lo son. En campañas políticas, en contenidos digitales e incluso en medios menores, ya circulan textos producidos por IA que simulan análisis, citan “expertos” inexistentes y construyen argumentos sin autor.
No mienten de forma evidente. Mienten por acumulación de verosimilitud.
El problema no es solo que existan falsificaciones. El problema es que, aun cuando se demuestran, muchos ya no retroceden. “Quizá el video era falso, pero lo que dice es verdad”, comentaban usuarios frente a un deepfake desmentido. Esto sucedió en varios países; pero en Uruguay, un hecho tan patético fue protagonizado por la senadora Graciela Bianchi.
Ese es el punto de quiebre. Cuando la mentira confirma lo que queremos creer, deja de importar si es mentira.
La evidencia está en el CTI. Durante siglos, la verdad se sostuvo en pruebas: documentos, imágenes, testimonios. Hoy, cada una de esas pruebas puede ser fabricada y la consecuencia es brutal: ya no alcanza con demostrar; hay que convencer. Y convencer, en un mundo saturado de ficciones creíbles, es cada vez más difícil.
La realidad es un nuevo campo de batalla. No vivimos solamente en una era de desinformación; vivimos en una era de simulación donde la mentira no oculta la verdad: la reemplaza.
Verdades mentirosas. Mentiras verdaderas.
Y en el medio, una sociedad que ya no distingue entre ambas; porque el problema ya no es detectar lo falso. El problema es que lo real ha dejado de ser evidente.
Una influencer patriótica de los Estados Unidos (con miles de seguidores) resultó no existir: era un personaje construido con IA para captar audiencia y dinero. Jessica Foster fue presentada como una joven influencer “patriótica”, con estética cuidada, mensajes políticos alineados y una narrativa diseñada para generar identificación emocional. Acumuló seguidores, interacción y credibilidad… hasta que se reveló que no era una persona real, sino un personaje generado con inteligencia artificial.
El caso generó polémica justamente por eso: no se trataba solo de una imagen falsa, sino de una identidad completa fabricada para influir.
Así que ya no se falsifica sólo lo que alguien dice, sino quién es ese alguien. Y la cereza sobre la torta, también pueden ser falsos las primeras decenas de miles de seguidores para realzar al personaje.
“Paren el mundo; me quiero bajar” decía Mafalda.
La pregunta ya no es si el video es falso. La pregunta es cuántos lo creen verdadero antes de que alguien lo desmienta.
En la película Simone, estrenada en 2002, Al Pacino interpreta a un director en decadencia que decide crear a la actriz perfecta. No de carne y hueso, sino de código. Simone no envejece, no discute, no falla. Es talento puro… porque es una ilusión controlada.
El experimento, por supuesto, se le va de las manos.
El público la idolatra, la crítica la consagra y la industria la convierte en mito. Y nadie (absolutamente nadie) sospecha que no existe.
La ficción, una vez más, no anticipó el futuro: lo describió. Hoy, la lógica de Simone se ha vuelto sistema.
La pregunta que planteaba aquella película ya no es filosófica. Es política, económica y cultural:
¿Importa que algo no sea real, si todos creen que lo es?
