Así ha alterado al sector de la IA el colapso del criptoimperio de Sam Bankman-Fried

SAN FRANCISCO — En abril, un laboratorio de inteligencia artificial ubicado en San Francisco llamado Anthropic recaudó 580 millones de dólares para investigación en el tema de “seguridad de la IA”.

Pocas personas en Silicon Valley habían oído hablar del laboratorio de un año de antigüedad, que por ahora construye sistemas de IA capaces de generar lenguaje. Pero la cantidad de dinero que le prometieron a esta minúscula compañía no era nada en comparación con lo que los inversionistas destinaban a otras empresas emergentes del sector de la IA, incluso aquellas con algunos de los investigadores más experimentados del campo.

Quien encabezó la ronda de financiación fue Sam Bankman-Fried, fundador y director ejecutivo de FTX, la casa de cambio de criptomonedas que se declaró en quiebra en noviembre. Tras el repentino derrumbe de FTX, un balance general filtrado mostró que Bankman-Fried y sus colegas habían canalizado por lo menos 500 millones de dólares a Anthropic.

Su inversión formaba parte de una acción discreta y quijotesca con la intención de explorar y mitigar los peligros de la inteligencia artificial, que muchos en el círculo cercano de Bankman-Fried creían podría llegar a destruir el mundo y dañar a la humanidad. En los últimos dos años, el empresario de 30 años y sus colegas de FTX destinaron más de 530 millones de dólares (mediante subvenciones e inversiones) a más de 70 empresas, laboratorios académicos, centros de investigación, proyectos independientes e investigadores individuales relacionados con la IA para resolver sus inquietudes en torno a la tecnología, según un recuento de The New York Times.

Ahora, algunas de estas organizaciones e individuos no están seguros de poder seguir gastando ese dinero, según comentaron cuatro personas cercanas a los proyectos de IA que no contaban con autorización para hacer declaraciones públicas. Indicaron que les preocupaba que la quiebra de Bankman-Fried generara dudas sobre su investigación y socavara su reputación. Además, algunas de las empresas emergentes y organizaciones de IA quizá lleguen a verse involucradas en los procedimientos de quiebra de FTX y corren el riesgo de que el tribunal les quite sus subvenciones, señalaron.

Bankman-Fried, que está sujeto a investigaciones sobre el colapso de FTX y fue uno de los oradores en la conferencia DealBook del Times el 30 de noviembre, se negó a hacer comentarios. Anthropic no quiso hacer comentarios acerca de su inversión en la empresa.

El interés de Bankman-Fried por influir en la IA surgen de su participación en el “altruismo eficaz”, un movimiento filantrópico cuyos donadores buscan maximizar el impacto de sus donativos en el largo plazo. A los seguidores del altruismo eficaz en general les preocupan situaciones que designan como riesgos catastróficos, como las pandemias, las armas biológicas y la guerra nuclear.

Su interés en la inteligencia artificial es particularmente marcado. Muchos partidarios del altruismo eficaz creen que, gracias a su creciente poder, la IA puede traerle mucho bien al mundo, pero les preocupa que llegue a causar daños graves si no se construye de manera segura. Si bien los expertos en IA concuerdan con que las probabilidades de que se concreten las situaciones hipotéticas del fin del mundo son ínfimas, si acaso ocurren, los partidarios del altruismo eficaz desde hace mucho han sostenido que ese futuro no es imposible y que los investigadores, las empresas y los gobiernos deberían prepararse para tal situación.

En la última década, muchos practicantes del altruismo eficaz han trabajado en laboratorios de investigación de IA importantes, como DeepMind, que es propiedad de la controladora de Google, y OpenAI, fundada por Elon Musk, entre otros. Ayudaron a crear un campo de investigación llamado seguridad de la IA, cuyo fin es explorar cómo podrían utilizarse sistemas de IA para causar daño o cómo podrían sufrir descomposturas repentinas.

Los seguidores del altruismo eficaz han ayudado a promover un tipo similar de investigación entre grupos de expertos de Washington que determinan la política pública. Gran parte del financiamiento del Centro de Seguridad y Tecnologías Emergentes de la Universidad de Georgetown, que estudia el impacto de la IA y otras tecnologías emergentes en la seguridad nacional, provino de Open Philanthropy, una organización donadora que pertenece al altruismo efectivo y recibe respaldo de uno de los fundadores de Facebook, Dustin Moskovitz. Algunos otros convencidos del altruismo eficaz también trabajan como investigadores en estos grupos de expertos.

Bankman-Fried ha formado parte del movimiento de altruismo eficaz desde 2014. Puesto que adoptó una postura denominada “ganar para dar”, le explicó al Times en abril que había elegido con toda deliberación una carrera lucrativa para poder regalar mayores cantidades de dinero.

En febrero, junto con varios de sus colegas de FTX, anunció el Future Fund, creado para respaldar “proyectos ambiciosos con el propósito de mejorar las perspectivas a largo plazo de la humanidad”. Uno de los dirigentes del fondo era Will MacAskill, fundador del Centro de Altruismo Eficaz, además de otras figuras clave en el movimiento.

Para principios de septiembre, el Future Fund les había prometido subvenciones por 160 millones de dólares a un amplio rango de proyectos, por ejemplo, investigaciones sobre la preparación para una pandemia y el crecimiento económico. Alrededor de 30 millones de dólares se asignaron para hacer donaciones a varias organizaciones e individuos interesados en explorar ideas relacionadas con la IA.

Una de las subvenciones del Future Fund relacionadas con la IA fue un donativo de 2 millones de dólares a una empresa poco conocida, Lightcone Infrastructure. Lightcone opera el sitio de debate en línea LessWrong, que a mediados de los años 2000 comenzó a explorar la posibilidad de que la IA llegara a destruir en algún momento a la humanidad.

Bankman-Fried y sus colegas también financiaron muchos otros proyectos que trabajaban para mitigar los riesgos a largo plazo de la IA, incluidos 1,25 millones de dólares a la organización Alignment Research Center, cuyo objetivo es alinear los sistemas de IA del futuro con intereses humanos para que la tecnología no se rebele. También canalizaron 1,5 millones de dólares para una investigación similar en la Universidad de Cornell.

El Future Fund también donó cerca de 6 millones de dólares a tres proyectos sobre “grandes modelos de lenguaje”, un tipo de IA cada vez más poderosa capaz de escribir tuits, correos electrónicos y blogs, e incluso generar programas informáticos. El objetivo de las subvenciones era ayudar a mitigar el posible uso de la tecnología para diseminar desinformación y para reducir comportamientos inesperados y no deseados de parte de estos sistemas.

Después de que FTX se declaró en quiebra, MacAskill y otras personas que operaban el Future Fund se retiraron del proyecto y dieron como explicación “cuestionamientos fundamentales sobre la legitimidad e integridad de las operaciones comerciales” detrás del fondo. MacAskill no respondió a nuestra solicitud de comentarios.

Además de las subvenciones del Future Fund, Bankman-Fried y sus colegas hicieron inversiones directas en empresas emergentes con el financiamiento de 500 millones de dólares de Anthropic. Fundó la empresa en 2021 un grupo integrado por un contingente de partidarios del altruismo eficaz que había abandonado OpenAI. Su objetivo es desarrollar sus propios modelos de lenguaje, cuya construcción puede costar decenas de millones de dólares, para así hacer más segura a la IA.

Algunas organizaciones e individuos ya recibieron los fondos de Bankman-Fried y sus colegas. Otras solo recibieron una parte de la cantidad que les prometieron. Algunas no saben si tendrán que devolver esas subvenciones para pagarles a los acreedores de FTX, según explicaron las cuatro personas enteradas de la situación de las organizaciones.

Las instituciones de beneficencia están expuestas a medidas de recuperación cuando los donadores se van a quiebra, comentó Jason Lilien, abogado del despacho Loeb & Loeb que se especializa en organizaciones de beneficencia. Las empresas que reciben inversiones de compañías en quiebra quizá estén en mejores circunstancias que las instituciones de beneficencia, pero también son vulnerables a demandas para recuperar los fondos, indicó.

© 2022 The New York Times Company