El “monstruo” (falso) que representa uno de los peligros más importantes de la IA

A primera vista, nos encontramos con lo que parece ser una fotografía, tomada en la década de 1930, que muestra la captura del célebre monstruo del lago Hogganfield, en Escocia. Una especie de gran serpiente y cabeza de tiburón con unas medidas que asombrarían a cualquiera. Los pescadores y algunos curiosos se arremolinan alrededor del gigante caído. La imagen es espectacular, no se puede negar… pero es falsa, por supuesto. Ha sido creada por una Inteligencia Artificial generativa en un par de minutos.

Este año 2023 ha supuesto un verdadero empujón para todas las tecnologías de Inteligencia Artificial generativa capaces de producir contenido, ya sea en imágenes, sonido, texto e incluso video, a una velocidad impresionante y con una calidad que, hoy por hoy, se acerca a un realismo inaudito. En general todas las tecnologías nacen como tecnologías neutras, es su uso concreto el que determina su beneficio o su perjuicio… y el caso del monstruo de Hogganfield representa un claro ejemplo de una tendencia preocupante y, a la larga, intrínsecamente peligrosa: La IA puede crear falsos históricos, en apenas unos segundos y con un realismo desconcertante.

También te interesará: Nueva York no está preparada para lo que viene (nadie lo está)

Imágenes, fotografías y vídeos como el falso histórico del monstruo de Hogganfield circulan a la velocidad de la luz por redes sociales, webs y, en demasiados casos, llegan a medios de comunicación que los muestran como ciertos, sin filtro ni comprobación. “Estas imágenes están difundiendo información falsa e inundando los motores de búsqueda”, afirmaba The Row House, hace unos días.

No es un problema menor. La IA generativa carece de una regulación adecuada que está generando problemas de derechos (estas redes neuronales se entrenan con material creado por otros autores), pérdida de empleos (ya hay medios que han despedido a su “plantilla humana” para sustituirla por Inteligencias Artificiales) y sobre todo genera una confusión que, en determinadas situaciones y conflictos, puede llegar a ser muy peligrosa.

Las “fake news” han invadido la actualidad y son capaces de cambiar el rumbo de los acontecimientos en elecciones políticas, conflictos armados, negociaciones socioeconómicas… y aún así, el peligro más serio y fundamental sigue siendo la quiebra de nuestra confianza en lo que vemos. “Lo he visto con mis propios ojos” ha dejado de tener validez y eso tendrá importantes consecuencias.

Daniel Denett, uno de los filósofos más destacados de nuestro tiempo, lo explica claramente en una sola frase: “A través de la IA estamos creando virus mentales, memes a gran escala que socaban la civilización destruyendo la confianza, destruyendo el testimonio y la evidencia. No sabremos en qué confiar”. Estamos asistiendo a un nuevo escalón, inquietante y acelerado, en el futuro de la desinformación.

El panorama en el que vivimos es muy delicado. El mundo cambia a diario y un leve empujón en un sentido u otro puede desencadenar un problema con el que ayer no contábamos. Una noticia impactante, un video de un bombardeo, una imagen de unas víctimas masacradas en un pequeño poblado pueden afectar, influir o incluso determinar decisiones sociales, políticas y económicas.

Te puede interesar: "Somos unos malditos idiotas, lo que viene es mucho peor"

En apenas unos minutos, una persona cualquiera desde el sillón de su casa puede generar uno de esos videos, una de esas fotografías indistinguibles de la realidad y su creación correrá como la pólvora por la red, llegará a algún político, se mostrará en televisión, ocupará portadas… Días más tarde, con suerte, llegará la rectificación, llegará la no-noticia y dirán que el detonante de todo era mentira, un gatillo creado por Inteligencia Artificial que falseó la realidad. Pero la rectificación nunca llega a todos y no vuela tan rápido como la noticia falsa. Esa imagen inventada por una red neuronal seguirá circulando, creando en la mente de buena parte de la sociedad una idea desdibujada de la verdad.

El monstruo de Hogganfield solo es un gran tiburón con pescadores en los años treinta, pero pronto podríamos encontrarnos con vídeos generados por IA de presidentes de gobiernos amenazando con lanzar misiles, declaraciones falsas de ministros anunciando medidas económicas que cambian el voto días antes de las elecciones, fotografías que sirven como evidencia para desencadenar un ataque. La solución terminará siendo no creer nada ni a nadie y es una solución tan mala como la de creerse todo…

TAMBIÉN TE PUEDE INTERESAR | EN VIDEO

México tendrá el primer laboratorio de IA generativa en América Latina

Referencias y más información:

Taylor McNeil “Daniel Dennett’s Been Thinking About Thinking—and AI” Tuffs Now