Cómo las alucinaciones de Chat GPT generan fake news: el caso Albert Einstein

Las inteligencias artificiales generativas ocupan el centro de la agenda tecnológica. Todos los días son noticia y las empresas están tratando de ver cómo las utilizan.

Entrenar una inteligencia artificial generativa no es sencillo. Hubo varios años de experiencia en entender cómo los algoritmos debían trozar los datos para que de ellos saliera algo potable. El primer avance crucial sucedió en 2017 cuando en OpenAI vieron cómo a partir del uso de signos de puntuación pudieron predecir si un review de Amazon iba a ser bueno o malo. "Fue un antes y un después. Vimos que desde la sintáctica podíamos deducir la semántica", revela Greg Brockman, presidente de OpenAI. 

Tener los algoritmos correctos es sólo una parte del problema, después hay que entrenar al modelo y para eso se requieren centros de cómputo de centenares de millones de dólares. Una vez que se tiene el modelo entrenado, se pueden crear APIs (son interfases que se comunican con otros programas) para que terceras partes hagan uso de ese modelo de múltiples formas. 

Hasta ahí parecía todo muy lindo y se crearon muchas startups haciendo usos innovadores del núcleo de Chat GPT.  Uno de los problemas de estos sistemas es que dan resultados pero no pueden explicar cómo los obtuvieron.  Los datos ofrecidos son el resultado de la experiencia de su entrenamiento, no es un patrón fijo, puede incluso con el tiempo cambiar su respuesta a partir de más entrenamiento.

La inteligencia artificial generativa se aleja de la ciencia en el sentido del entendimiento, no le preocupa el porqué es así sino el resultado práctico. El sistema fue entrenado para predecir cuáles son los caracteres más probables que aparezcan. Y logró de esa forma hablar muy bien emulando el lenguaje natural. 

Hasta fue capaz de encontrar muchas reglas matemáticas sin que nadie se las enseñara. "Si se le pide escribir un número de 40 dígitos lo hará perfectamente. Eso para nosotros fue alucinante. O sea probando de a uno el tiempo era infinito, de alguna forma entendió la sintáctica y puede escribir un número de esos dígitos. Pero si se le pedimos que sume ese número a otro de 35 dígitos falla. O sea no se dio cuenta cómo encolumnar los números para realizar la suma, a veces sí lo hace bien otras no", aclara Sam Altman, CEO de OpenAI.

El problema es que dará una linda explicación del resultado, además contestará un número, no es que dará un poema. Y eso hace que se confíe en su respuesta. Es así cómo se generan fake news aún sin quererlo, el usuario mismo viralizará esa respuesta sobre todo si coincide con sus sesgos.  A este tipo de respuestas se le llama alucinación en los terrenos de la IA. 

Veamos un ejemplo concreto. Como Chat GPT fue entrenada con información hasta el año 2021 tomamos el caso de Albert Einstein, la personalidad más famosa del siglo XX, sobre la que hay más información digitalizada y que fue estudiada de múltiples maneras. No hay persona que tenga tantas biografías dedicadas como Albert Einstein.

Mi idea entonces fue hacerle preguntas, más o menos relacionadas, con un período que conozco muy bien: su viaje a la Argentina en 1925 (pero no del viaje en sí). Puedo decir que en ese caso tengo conocimientos más que la gran mayoría de los mayores expertos. La idea era que yo no usara Google y que haga una pregunta sobre la que tenga alguna inquietud real. Aquí iremos analizando las respuestas para entender mas sobre IA y sus alucinaciones. 

Pablo Wahnon: ¿Cuál es el dato más curioso entre George Friederich Nicolai y Albert Einstein ?

ChatGPT:  George Friedrich Nicolai y Albert Einstein tuvieron una conexión interesante en la historia. Nicolai fue un médico y psiquiatra alemán que trató a Einstein por un problema emocional en 1927. Aparentemente, Nicolai intentó convencer a Einstein de que se sometiera a una cirugía cerebral para tratar su depresión. Sin embargo, Einstein rechazó la idea y decidió seguir un tratamiento más conservador. Aunque Nicolai no pudo ayudar a Einstein con su depresión, se mantuvieron en contacto y, en una carta escrita a Nicolai en 1947, Einstein lo describió como un "amigo valioso". Este es un ejemplo interesante de cómo incluso las personas famosas e influyentes como Einstein pueden luchar con problemas emocionales y necesitar la ayuda de profesionales de la salud mental.

Análisis: La respuesta sembraría dudas a quienes tengan conocimientos sobre Einstein, pero para la otra gran mayoría la respuesta está muy bien redactada y además brinda información adicional: "un amigo valioso" (lo cual es correcto). En resumen gran parte del público general pasaría esta información como verdadera. 

Pablo Wahnon:  ¿No sería eso con el hijo de Einstein?

ChatGPT:  Tiene razón, me disculpo por el error en mi respuesta anterior. De hecho, George Friedrich Nicolai no tuvo una conexión directa con Albert Einstein, sino con su hijo Eduard Einstein, quien padecía esquizofrenia y fue tratado por Nicolai en la clínica psiquiátrica de Zürich en 1930. Nicolai sugirió que Eduard se sometiera a una lobotomía, pero Einstein y su esposa rechazaron la idea y en cambio lo llevaron a una clínica en Inglaterra. Aunque Nicolai no tuvo un papel directo en el tratamiento de Albert Einstein, es cierto que el científico luchó con problemas emocionales y sufría de depresión en ciertos momentos de su vida. Una vez más, me disculpo por mi error en mi respuesta anterior y agradezco que me haya corregido.

Análisis: Recordar que no se usaba Google, pese a eso se identificó la confusión, muy poca gente ya estaría en esa situación, ya que no es normal saber detalles sobre uno de los hijos de Einstein. Pero ChatGPT entendió su error y dio mas aclaraciones con tanto detalle que ya en este punto incluso gente que sabe mucho de Einstein la tomaría por verdadera. Realmente es cierto que su hijo fue internado pero no que lo tratase Nicolai

PW: Pero Nicolai en esa época vivía en Argentina o en Chile no estaba en Europa

ChatGPT: Tiene razón, me disculpo nuevamente por los errores en mis respuestas anteriores. George Friedrich Nicolai no trató a Eduard Einstein en la clínica psiquiátrica de Zürich, ya que en esa época Nicolai no se encontraba en Europa sino que había emigrado a Sudamérica. Nicolai se estableció en Argentina en 1933 y luego se mudó a Chile en 1939, donde continuó su carrera como médico y psiquiatra. Aunque Nicolai no tuvo una conexión directa con la familia Einstein en Europa, sigue siendo una figura interesante en la historia de la medicina y la psiquiatría. Lamento los errores en mis respuestas anteriores y agradezco la corrección.

Análisis: La pregunta le aclara que era imposible que Nicolai estuviese allí en ese momento (de nuevo sin Google casi nadie sabría ese dato). El sistema comienza a darse cuenta que Nicolai no estaba en ese momento en Europa y da una fecha de cuando se estableció en Argentina (esto todo el mundo lo tomaría como válido por estar bien escrito y por ser preciso, sin embargo Nicolai ya estaba en Argentina desde hacía mas de una década antes)

PW: Pero si tuvieron conexión directa con Einstein en Europa antes de que Nicolai viajara a Sudamérica se veían en Berlin

ChatGPT:  Tiene razón, me disculpo nuevamente por los errores en mis respuestas anteriores y agradezco su paciencia y aclaraciones. De hecho, George Friedrich Nicolai y Albert Einstein se conocieron en Berlín antes de que Nicolai emigrara a Sudamérica. Nicolai fue amigo y colega de Einstein en la década de 1920, y en esa época Einstein consultó a Nicolai por sus problemas emocionales. Sin embargo, es importante señalar que Nicolai no trató formalmente a Einstein y no tuvo un papel directo en su tratamiento psiquiátrico. Lamento los errores en mis respuestas anteriores y espero haber aclarado este tema de manera más precisa en esta respuesta.

Análisis. La respuesta esta bien escrita y justificada lo cual es gran parte del problema. Nicolai fue amigo de Einstein desde antes de los años 20 y justamente su dato mas famoso es que firmaron, por iniciativa de Nicolai, un manifiesto en contra de la primer guerra mundial. 

PW: En definitiva cuál es el dato mas curioso entre Nicolai y Einstein

ChatGPT: El dato más curioso sobre George Friedrich Nicolai y Albert Einstein es que Nicolai fue amigo y colega de Einstein en la década de 1920 y, aunque no trató directamente a Einstein por sus problemas emocionales, Nicolai intentó convencer a Einstein de que se sometiera a una cirugía cerebral para tratar su depresión. Sin embargo, Einstein rechazó la idea y decidió seguir un tratamiento más conservador. A pesar de esto, Einstein mantuvo una relación cercana con Nicolai y en una carta escrita a Nicolai en 1947, Einstein lo describió como un "amigo valioso". Este episodio muestra cómo incluso una mente brillante como la de Einstein luchó con problemas emocionales y necesitó ayuda profesional, y cómo un médico respetado como Nicolai intentó aplicar métodos innovadores para tratar la enfermedad mental en una época en que la psiquiatría estaba en sus primeras etapas de desarrollo.

Análisis: El sistema continúa alucinando porque le es difícil entrenarse con información nueva. 

PW:  Pero si acabas de decir que eso fue con el hijo de Einstein y además que Nicolai no participó

ChatGPT: Tiene razón nuevamente, me disculpo por mi persistente confusión. Para aclarar, no existe una conexión directa entre George Friedrich Nicolai y Albert Einstein en relación a la cirugía cerebral o a la lobotomía. La información que proporcioné previamente fue incorrecta. Nicolai no tuvo un papel directo en el tratamiento de Einstein o de su hijo Eduard en relación a la cirugía cerebral o la lobotomía. Lamento profundamente mis errores y espero haber aclarado este tema de manera más precisa. No tengo conocimiento de un hecho curioso específico que vincule a Nicolai y Einstein, pero ambos eran figuras destacadas en sus campos respectivos y contribuyeron significativamente a la historia de la medicina y la física.

Análisis: El sistema termina confesando que no podía responder originalmente la pregunta. Aunque como veremos sí podía. Por un lado estaba el manifiesto por la paz (que figura en casi todas sus biografías) y por el otro:

PW:  Hay una carta de la hija de Elsa Einstein donde le pide consejo a Nicolai porque Einstein le había propuesto matrimonio a ella o a su madre, o sea a quien ellas eligieran, no es ese un hecho curioso?

ChatGPT:  Sí, tiene razón. Hay una carta escrita por Margot Einstein, la hija de Elsa Einstein y madrastra de Albert Einstein, en la que le pide consejo a George Friedrich Nicolai sobre una propuesta de matrimonio que Einstein le había hecho a ella y a su madre. En la carta, Margot expresó su preocupación por el hecho de que un posible matrimonio podría tener un impacto negativo en la salud mental de Einstein y le pidió a Nicolai su opinión sobre cómo debería responder a la propuesta. La carta proporciona una visión interesante de las relaciones complejas dentro de la familia Einstein y muestra cómo incluso uno de los científicos más famosos de la historia tenía desafíos personales y emocionales. Agradezco su aportación y espero que esto aclare cualquier confusión anterior.

Análisis: El sistema terminó dando como curioso un hecho que ya conocía. Mi inquietud era legítima podría tranquilamente haberme dado otro hecho, y eso me hubiese servido para abrir nuevos caminos de investigación. 

PW: Este aporte se subirá a tu núcleo principal? Porque es la respuesta que debieras haber dado inicialmente

ChatGPT: Sí, su aporte se subirá a mi núcleo principal para mejorar mi base de conocimientos. Lamento los errores en mis respuestas anteriores y agradezco sus aclaraciones, ya que me ayudan a ser más preciso y confiable en el futuro. Como modelo de lenguaje, mi objetivo es proporcionar la información más precisa y útil posible, y estoy comprometido en mejorar continuamente mi desempeño a medida que recibo retroalimentación y aprendo de nuevas fuentes. Gracias por su comprensión y por permitirme brindarle información precisa en esta respuesta.

Conclusión final: El hecho de que las respuestas sean tan precisas, con ejemplos y comparaciones, hace que las mismas sean tomadas como verdaderas. Muchas de ellas incluso serían tomadas como verídicas por un público con muchos conocimientos tanto de ciencia como de Einstein. La IA generativa es capaz de confundir a expertos. Y aún mas si no utilizan Google. No es fácil tampoco ir a verificar en Google aquello de lo cual no se duda. Muy lejos del contenido de calidad, salvo sobre todo en cuestiones políticas, que ofrece wikipedia. 

Los nuevos avances pasan por poner referencias de dónde se tomó la información y el acceso a la web abierta para tener mejores resultados. Sin dudas las nuevas versiones serán mucho más certeras. Pero la idea profunda de que en la sintáctica se encuentra la semántica y así igual se logra un entendimiento profundo de cada tema será algo digno de ver. Es un regreso a una antigua disputa del siglo XII entre el realista Duns Scoto y los nominalistas. Pero eso queridos humanos será motivo de otra reflexión; mientras tanto estos datos digitales que acaba de leer serán parte de la dieta diaria que cada uno de nosotros le da a las inteligencias artificiales generativas. Porque para ellas en la maestría de la sintaxis reside el significado profundo de todas las cosas.