Un artículo advierte sobre los riesgos de la IA para la credibilidad de la información y la libertad de expresión, y plantea la necesidad de un debate social y político.
La serie británica The Capture, emitida en 2019, narra las acciones de agencias de seguridad para detener ataques terroristas. Las agencias han identificado a los atacantes, pero carecen de pruebas judiciales suficientes para detenerlos antes de que cometan los atentados. Ante ese riesgo, utilizan un programa capaz de manipular cámaras de seguridad para crear imágenes falsas que incriminen a los sospechosos. El artículo plantea si el fin justifica los medios.
Según el texto, aunque en ese año no se hablaba de inteligencia artificial (IA), la serie anticipó un escenario que hoy es real: la posibilidad de manipular imágenes, videos, voces y textos con IA. Esto plantea riesgos de vigilancia masiva y difusión de información falsa por parte del Estado o de terceros con acceso a estas herramientas. En un plano conceptual, la verdad queda bajo amenaza.
El artículo enumera cinco problemas derivados del auge de contenidos falsos generados por IA:
- Se quiebra la noción de verdad que, pese a los cuestionamientos filosóficos, seguía dando certeza en la vida diaria.
- Desaparece la idea de “ver para creer”, ya que los registros audiovisuales dejan de ser prueba directa de un hecho.
- Se generaliza un escepticismo destructivo: no solo se creen falsedades, sino que hechos reales son sospechados o descartados como montajes.
- Colapsa el sistema judicial y probatorio, con riesgo de impunidad por demoras en peritajes técnicos.
- Se impone el relato tribal sobre la verdad y se erosiona el espíritu crítico, ya que las personas aceptan o rechazan contenidos según su posición previa.
El texto sostiene que estos problemas convergen en la pérdida de valor de las redes sociales como canales de expresión libres. Antes de internet, en las democracias, pocos medios o la propaganda oficial podían imponer temas, pero la libertad de expresión garantizaba voces independientes. Las dictaduras, en cambio, eliminaban por completo la libertad de expresión. Con internet y las redes sociales, los gobiernos perdieron el dominio de la conversación social, lo que representó un logro democratizador.
Sin embargo, el surgimiento disruptivo de la IA amenaza con desprestigiar ese mundo democratizado al quebrantar la credibilidad de los mensajes. A diferencia de internet y las redes, la IA puede esterilizar la confianza en los mensajes y reducir su poder frente a intentos autoritarios o inducir duda metódica sobre cualquier aspecto de la vida cotidiana procesado en los medios.
Una sociedad instalada en el escepticismo permanente, donde se presume que todo estímulo audiovisual puede ser manipulado, genera ciudadanos menos críticos, parálisis social, fragmentación institucional y apatía. La verdad deja de ser una experiencia intuitiva y se convierte en una disciplina activa de verificación de contenidos.
El artículo concluye que el desafío de la IA a la verdad es gigantesco y que la batalla tecnológica no puede dejarse solo en manos de los desarrolladores de IA o de sistemas autónomos. Sostiene que no se trata solo de un desafío tecnológico, sino social y político: aprovechar las capacidades de la IA para impedir que la ruptura de la confianza en la verdad altere la esencia de la democracia.