Cuando la verdad también parece falsa: el nuevo peligro de la inteligencia artificial
La inteligencia artificial no solo permite fabricar imágenes, voces y videos falsos. También ofrece una nueva coartada para negar pruebas auténticas y puede convertir la verdad en un privilegio difícil de demostrar.
Durante años hemos escuchado advertencias sobre la posibilidad de crear videos falsos extremadamente convincentes. Imágenes de personas diciendo palabras que nunca pronunciaron, voces clonadas para cometer fraudes y escenas completamente inventadas que parecen haber sido captadas por una cámara real. Sin embargo, existe una consecuencia todavía más inquietante: la inteligencia artificial también puede utilizarse para desacreditar videos, fotografías y audios verdaderos.
Imaginemos que aparece una grabación en la que se observa a una persona poderosa aceptando dinero, amenazando a alguien o confesando un acto ilegal. La imagen es auténtica, la voz coincide y el acontecimiento realmente sucedió, pero la respuesta del acusado es inmediata: “Ese video fue creado con inteligencia artificial”. No presenta un análisis técnico ni ofrece pruebas que respalden su afirmación; solamente necesita sembrar dudas.
Si una parte del público quiere creerle, la estrategia puede funcionar. La conversación se divide, los especialistas necesitan tiempo para examinar el archivo y la autenticidad de la grabación queda atrapada en una discusión interminable. En este caso, la inteligencia artificial no habría modificado el video, sino nuestra capacidad para confiar en lo que estamos viendo.
El dividendo del mentiroso
Este fenómeno es conocido como el “dividendo del mentiroso”. El concepto fue desarrollado por los juristas Robert Chesney y Danielle Citron para explicar cómo la existencia de falsificaciones digitales convincentes puede beneficiar a quienes desean negar hechos auténticos.
Cuantos más videos falsos circulan, más fácil resulta afirmar que cualquier grabación incómoda también fue manipulada. El mentiroso recibe así una nueva ventaja: ya no necesita destruir la evidencia ni fabricar una versión alternativa de los acontecimientos. Le basta con señalar la tecnología y sugerir que nada puede comprobarse.
Chesney y Citron advirtieron que los deepfakes podrían deteriorar la confianza pública y permitir que figuras influyentes rechazaran pruebas auténticas de su comportamiento. Su investigación puede consultarse en la California Law Review.
Esta estrategia no necesita convencer a todo el mundo. Solo debe confundir a suficientes personas, dividir la conversación y retrasar cualquier conclusión. Una grabación puede difundirse en minutos, mientras que un análisis forense responsable puede requerir días o semanas. Cuando llega la explicación técnica, buena parte de la audiencia ya ha decidido qué versión quiere creer.
Cuando demostrar la verdad se convierte en un privilegio
El problema no afectará únicamente a políticos, celebridades o grandes empresarios. Una trabajadora podría grabar una situación de acoso, una familia podría conservar el audio de una amenaza, un empleado podría documentar condiciones peligrosas dentro de una fábrica y un ciudadano podría registrar un abuso de autoridad.
Frente a cualquiera de esas pruebas, el responsable podría decir que la voz fue clonada, que el rostro fue sustituido o que todo el video fue generado artificialmente. Ya no sería necesario eliminar la evidencia: bastaría con contaminar su credibilidad.
Esta situación tampoco afectaría a todas las personas por igual. Una empresa, un gobierno o una figura pública pueden contratar especialistas, conservar registros técnicos y pagar análisis forenses. Una persona común quizá solo tenga una copia comprimida que pasó por distintas aplicaciones y perdió parte de su información original.
Una víctima no piensa en metadatos, firmas digitales o cadenas de custodia mientras intenta documentar una agresión. Su prioridad es protegerse y conservar alguna prueba de lo sucedido. Si después se le exige demostrar técnicamente cada etapa de la grabación, la verdad podría transformarse en un privilegio reservado para quienes tengan dinero, conocimientos y acceso a determinadas instituciones.
Europol ya ha identificado la manipulación de evidencias, el fraude y la pérdida de confianza como algunos de los desafíos asociados con los deepfakes. La organización también destaca la necesidad de adaptar las capacidades de investigación y prevención a esta nueva realidad tecnológica. El informe puede consultarse en el sitio oficial de Europol.
La inteligencia artificial también puede proteger y mejorar vidas
Sería injusto presentar a la inteligencia artificial como la villana absoluta de esta historia. La misma tecnología que permite clonar una voz puede ayudar a una persona que perdió la capacidad de hablar a recuperar una forma de expresión parecida a su voz original. Los sistemas de reconocimiento y generación pueden facilitar subtítulos, traducciones y descripciones de imágenes, reduciendo barreras para personas con diferentes discapacidades.
La inteligencia artificial también puede apoyar el análisis de imágenes médicas, acelerar investigaciones científicas, detectar patrones dentro de grandes cantidades de información y crear herramientas educativas adaptadas a distintas necesidades. Puede ayudar a preservar idiomas, mejorar la comunicación entre personas que hablan lenguas diferentes y permitir que artistas, docentes y pequeños emprendedores desarrollen proyectos que antes exigían grandes equipos y presupuestos.
Incluso las imágenes sintéticas pueden tener usos positivos. Pueden proteger la identidad de testigos, representar situaciones delicadas sin exponer a las víctimas, explicar conceptos complejos o crear simulaciones educativas sin poner en riesgo a personas reales.
Por eso la discusión no debería reducirse a determinar si la inteligencia artificial es buena o mala. El verdadero problema reside en quién controla estas herramientas, con qué intención se utilizan, qué medidas de seguridad existen y quién responde cuando provocan daños. La capacidad de imitar la realidad puede utilizarse para engañar, pero también para educar, proteger, incluir y devolver autonomía.
¿Puede un detector decidir qué es verdadero?
Una posible solución sería crear detectores capaces de examinar un archivo y determinar si fue generado mediante inteligencia artificial. En teoría, cualquier persona podría subir una imagen, pulsar un botón y recibir una respuesta definitiva: “auténtica” o “falsa”.
En la práctica, el problema es más complicado. Los modelos generativos evolucionan constantemente, los detectores intentan alcanzarlos y los archivos pierden información cuando son recortados, comprimidos o publicados en diferentes plataformas. Un detector también puede equivocarse, marcando una falsificación como auténtica o rechazando una prueba verdadera.
El Instituto Nacional de Estándares y Tecnología de Estados Unidos, NIST, desarrolla evaluaciones y herramientas relacionadas con la detección y el análisis forense de contenido generado mediante IA. El hecho de que estos sistemas necesiten pruebas continuas demuestra que no existe un detector universal e infalible. Puede consultarse información sobre este trabajo en el programa forense de NIST.
La solución probablemente tendrá que combinar diferentes elementos: conservación de los archivos originales, registros sobre su procedencia, firmas digitales, testimonios, documentos relacionados y análisis forenses. La inteligencia artificial también podrá colaborar en este proceso, ayudando a detectar manipulaciones y a identificar inconsistencias que una persona podría pasar por alto.
¿Quién tendrá autoridad para certificar la realidad?
Ya existen iniciativas como C2PA, un estándar diseñado para registrar información verificable sobre el origen y el historial de una imagen o un video. Estos mecanismos pueden ayudar a conocer cuándo fue creado un archivo, qué herramientas intervinieron y qué modificaciones experimentó. La documentación del estándar está disponible en el sitio oficial de C2PA.
Sin embargo, la procedencia no debe confundirse con la verdad absoluta. Un archivo puede tener información técnica verificable y aun así mostrar un acontecimiento fuera de contexto. Del mismo modo, la ausencia de una certificación no significa necesariamente que una imagen sea falsa. Millones de personas utilizan dispositivos, cámaras y aplicaciones que podrían no incorporar esos sistemas.
También debemos preguntarnos quién controlará la futura infraestructura de autenticidad. ¿Los fabricantes de teléfonos, las plataformas digitales, las empresas privadas o los gobiernos? Si unas pocas organizaciones adquieren la autoridad para determinar qué contenido merece confianza, podríamos terminar privatizando la credibilidad.
En ese escenario, una imagen certificada por una gran institución sería aceptada rápidamente, mientras que la grabación realizada por una persona desconocida comenzaría siendo sospechosa. La batalla dejaría de enfrentar solamente a la verdad contra la mentira y empezaría a enfrentar la realidad documentada por el poder contra la realidad vivida por quienes permanecen fuera de sus sistemas.
Una cultura de verificación, no de incredulidad
Protegernos no significa desconfiar automáticamente de todo lo que vemos. Una sociedad que considera falso cualquier contenido incómodo sería tan vulnerable como una sociedad que cree cada imagen que
