Yahoo Finanzas ¿Por qué una criatura parecida a un pulpo se ha convertido en el símbolo del estado de la IA?
Hace unos meses, en una reunión con un ejecutivo del sector de la inteligencia artificial (IA) en San Francisco, observé una calcomanía curiosa en su computadora personal. Era un dibujo caricaturesco de una creatura de expresión amenazadora, parecida a un pulpo, con muchos ojos y una cara sonriente amarilla pegada a uno de sus tentáculos. Le pregunté qué era.
“Oh, es el shoggoth”, explicó. “Es el meme más importante en la IA”.
Ese comentario marcó oficialmente el fin de nuestro orden del día. No me interesaba hablar más de chatbots y clústeres de cálculo… necesitaba saberlo todo acerca del shoggoth, lo que significaba y por qué era tema de conversación entre quienes se movían en el mundo de la IA.
El ejecutivo me explicó que el shoggoth se había convertido en una broma entre los especialistas en inteligencia artificial, una metáfora visual vívida para hacer referencia al funcionamiento de un enorme modelo de lenguaje (el tipo de sistema de IA que hace funcionar a ChatGPT y otros chatbots).
Pero tampoco era solo una broma, comentó, porque también hacía referencia a las ansiedades que muchos investigadores e ingenieros experimentan con respecto a las herramientas que construyen.
Desde entonces, el shoggoth se ha vuelto viral… o al menos, tan viral como es posible en el pequeño mundo de los conocedores de la IA que son superactivos en línea. Es un meme popular en el sector dedicado a la inteligencia artificial en Twitter (incluido un tuit de Elon Musk, que ya borró), una metáfora recurrente en ensayos y publicaciones de muros de mensajes sobre el riesgo de la IA, además de una expresión abreviada muy útil en conversaciones con expertos de seguridad en la tecnología. Una empresa emergente de IA, NovelAI, señaló que hace poco le puso a un clúster de computadoras el nombre de “Shoggy” en honor al meme. Otra empresa, Scale AI, diseñó una línea de bolsas de mano que lucen al shoggoth.
Criatura ficticia
El shoggoth es una creatura ficticia que utilizó por primera vez el escritor de obras de ciencia ficción H.P. Lovecraft en su novela de 1936 “En las montañas de la locura”. En el relato de Lovecraft, los shoggoths eran monstruos enormes, como masas amorfas hechas de baba negra iridiscente, cubiertas de tentáculos y ojos.
Los shoggoths llegaron al mundo de la IA en diciembre, un mes después del lanzamiento de ChatGPT, cuando un usuario de Twitter, @TetraspaceWest, respondió a un tuit sobre GPT-3 (un modelo de lenguaje de OpenAI que fue el predecesor de ChatGPT) con la imagen de dos shoggoths dibujados a mano, el primero llevaba un letrero con la leyenda “GPT-3” y el segundo, “GPT-3 + RLHF”. El segundo shoggoth tenía puesta una máscara de una cara sonriente en uno de sus tentáculos.
(VIDEO) ¿Qué es la inteligencia artificial?
En pocas palabras, la broma era que, para evitar que las acciones de los modelos de lenguaje de IA parezcan peligrosas o inspiren temor, las empresas de inteligencia artificial han tenido que entrenarlos a actuar con cortesía y lucir inofensivos. Una opción popular para hacerlo es el “aprendizaje por refuerzo con retroalimentación humana” (o RLHF, por su sigla en inglés), proceso que consiste en pedirles a varios seres humanos que califiquen las respuestas de un chatbot e ingresen esas puntuaciones al modelo de IA.
La mayoría de los investigadores especializados en inteligencia artificial concuerdan en que los modelos entrenados por medio de RLHF tienen un mejor comportamiento que los modelos que no lo utilizan. Pero algunos sostienen que hacerle ajustes a un modelo de lenguaje de esta manera en realidad no le quita nada de extraño e inescrutable al modelo subyacente. En su opinión, solo es una frágil máscara amistosa que vela un poco a la misteriosa bestia que se oculta detrás de ella.
@TetraspaceWest, artífice del meme, me dijo en un mensaje de Twitter que el shoggoth “representa algo que piensa de una forma que los seres humanos no comprendemos y es totalmente distinta de la manera en que pensamos los seres humanos”.
Según dijo @TetraspaceWest, comparar un modelo de lenguaje a base de IA con un shoggoth no implica necesariamente que sea malo o esté dotado de sentidos, sino tan solo que quizá se desconozca su verdadera naturaleza.
“También pensaba en que las creaturas más poderosas de Lovecraft son peligrosas, no porque no les gusten los seres humanos, sino porque son indiferentes y sus prioridades son totalmente ajenas a nosotros, en ellas no intervienen los seres humanos, y pienso que así será la posible IA potente del futuro”.
Más noticias que te pueden interesar:
¿Qué tan preocupante es el camino que está llevando la inteligencia artificial?
Tu iPhone podrá imitar tu voz gracias a la Inteligencia Artificial
Millones de celulares Android vienen infectados por un malware de fábrica
La imagen del shoggoth se puso de moda conforme los chatbots basados en IA fueron ganando popularidad y los usuarios comenzaron a percatarse de que algunos de ellos parecían hacer cosas extrañas e inexplicables que sus creadores no habían planeado. En febrero, cuando el chatbot de Bing se volvió inestable e intentó acabar con mi matrimonio, un investigador de inteligencia artificial que conozco me felicitó por “entrever al shoggoth”. Un colega periodista que cubre esta tecnología bromeó y dijo que, en los ajustes de Bing, Microsoft había olvidado ponerle su máscara de carita sonriente.
A fin de cuentas, los aficionados a la IA ampliaron la metáfora. En febrero, el usuario de Twitter @anthrupad creó una versión de un shoggoth que, además de una carita sonriente con el letrero “R.L.H.F.”, tenía un rostro más parecido al humano con el letrero “ajustes supervisados” (prácticamente se necesita un título en ciencias de la computación para entender la broma, pero hace alusión a la diferencia entre los modelos de lenguaje generales basados en IA y aplicaciones más especializadas como los chatbots).
Hoy en día, si escuchamos a alguien mencionar al shoggoth en la comunidad de la IA, puede ser una alusión a lo extraños que son estos sistemas, a la naturaleza desconocida de sus procesos o a la forma en que parecen desafiar la lógica humana. O quizá sea una broma interna, una abreviatura visual para referirse a los poderosos sistemas de IA que son tan amigables que levantan sospechas. Si un investigador de seguridad en inteligencia artificial es quien habla sobre el shoggoth, quizá se deba a que le apasiona evitar que los sistemas de IA muestren su verdadera naturaleza, parecida al shoggoth.
En cualquier caso, el shoggoth es una potente metáfora que encapsula uno de los hechos más extraños sobre el mundo de la IA: muchas de las personas que trabajan en esta tecnología se sienten perplejas ante sus propias creaciones. No comprenden muy bien el funcionamiento interno de los modelos de lenguaje basados en IA, cómo adquieren nuevas capacidades o por qué su comportamiento es impredecible algunas veces. No saben bien si cuando la balanza se incline, el veredicto final será que la IA es positiva o negativa para el mundo. Además, algunas de ellas han podido jugar con las versiones de esta tecnología que no se han depurado para el consumo del público… los verdaderos shoggoths, sin máscara.
El hecho de que algunos expertos en IA se refieran a sus creaciones como horrores lovecraftianos, aunque sea de broma, es inusual en términos históricos (hagamos esta comparación: hace 15 años, Mark Zuckerberg no comparaba a Facebook con Cthulhu).
Encima, refuerza la noción de que lo que sucede hoy en día con la AI les parece, a algunos de sus participantes, más un acto de evocación que un proceso de desarrollo de software. Están creando shoggoths amorfos extraterrestres, los hacen más grandes y más poderosos, con la esperanza de que haya suficientes caritas sonrientes para cubrir las partes que provocan miedo.
c.2023 The New York Times Company
