Yahoo Finanzas Amazon, Meta y otras firmas presentan medidas seguridad para la IA
(Bloomberg) -- Siete firmas líderes en inteligencia artificial presentarán el viernes en un evento en la Casa Blanca nuevas salvaguardias voluntarias diseñadas para minimizar el abuso y el sesgo dentro de la tecnología emergente.
Lo más leído de Bloomberg
América Móvil de Slim aumenta participación en Telekom Austria
“Barbenheimer” genera mayor ingreso de taquilla en cuatro años
El presidente Joe Biden estará acompañado por ejecutivos de Amazon.com Inc., Alphabet Inc., Meta Platforms Inc., Microsoft Corp., y OpenAI, que se encuentran entre las firmas comprometidas con la transparencia y la seguridad.
Según el acuerdo, las empresas someterán los nuevos sistemas de inteligencia artificial a pruebas internas y externas antes de su lanzamiento, y pedirán a equipos externos que investiguen sus sistemas en busca de fallas de seguridad, tendencias discriminatorias o riesgos para los derechos, la información de salud o la seguridad de los estadounidenses.
Las empresas, entre ellas Anthropic e Inflection AI, también están asumiendo nuevos compromisos para compartir información para mejorar la mitigación de riesgos con los Gobiernos, la sociedad civil y los académicos, e informar sobre las vulnerabilidades a medida que surgen. Y las principales empresas de inteligencia artificial incorporarán marcas de agua virtuales en el material que generan, ofreciendo una forma de ayudar a distinguir las imágenes y videos reales de los creados por computadoras.
El paquete formaliza y amplía algunos de los pasos que ya están en marcha en las principales empresas de inteligencia artificial, las que han recibido un inmenso interés público en su tecnología emergente, solo igualado por la preocupación por los riesgos sociales correspondientes.
Nick Clegg, presidente de asuntos globales de Meta, dijo que los compromisos voluntarios eran un “primer paso importante para garantizar que se establezcan salvaguardias responsables para la IA y se cree un modelo a seguir para otros Gobiernos”.
“La IA debería beneficiar a toda la sociedad. Para que eso suceda, estas nuevas y poderosas tecnologías deben construirse e implementarse de manera responsable”, dijo en un comunicado publicado el viernes temprano.
Los asesores de la Casa Blanca dicen que el compromiso ayuda a equilibrar la promesa de la tecnología artificial con los riesgos, y es el resultado de meses de intenso cabildeo tras bambalinas. Muchos de los ejecutivos que participan en la actividad del viernes en la Casa Blanca asistieron en mayo a una reunión con Biden y la vicepresidenta, Kamala Harris, donde el Gobierno advirtió a la industria que era responsable de garantizar la seguridad de su tecnología.
“Tenemos que asegurarnos de que las empresas hagan pruebas de presión de sus productos a medida que los desarrollan y, ciertamente, antes de lanzarlos al mercado, para asegurarnos de que no tengan consecuencias no deseadas, como ser vulnerables a ciberataques o ser utilizados para discriminar a ciertas personas”, dijo el jefe de Gabinete de la Casa Blanca, Jeff Zients, en una entrevista. “Y algo relevante, que veremos a lo largo de todo el trabajo, es que no pueden calificar su propia tarea”.
Salvaguardias voluntarias
Aun así, el hecho de que los compromisos sean voluntarios ilustra los límites de lo que el Gobierno de Biden puede hacer para alejar los modelos de IA más avanzados de posibles usos indebidos.
Las pautas no exigen la aprobación de expertos externos específicos para lanzar tecnologías, y las empresas solo están obligadas a informar, en lugar de eliminar, riesgos como un posible uso inapropiado o sesgo. El sistema de marcas de agua aún debe desarrollarse y puede resultar difícil sellar el contenido de una manera que las personas o entidades maliciosas que buscan sembrar desinformación en internet no puedan eliminar fácilmente.
Y hay pocos mecanismos más allá de la presión de la opinión pública para hacer que se comprometan a utilizar las tecnologías para prioridades sociales como la medicina y el cambio climático.
Zients y otros miembros del Gobierno también dicen que será difícil seguir el ritmo de las tecnologías emergentes sin una legislación del Congreso que ayude al Gobierno a imponer reglas más estrictas y a dedicar fondos que les permitan contratar expertos y reguladores.
Los asesores describen la preocupación por la inteligencia artificial como una de las principales prioridades del presidente en los últimos meses. Biden menciona con frecuencia el tema en reuniones con asesores económicos, de seguridad nacional y de salud, y ha tenido conversaciones con secretarios del gabinete donde les ha pedido que prioricen la investigación respecto de cómo la tecnología podría interactuar con sus agencias.
Traducido por Paulina Steffens.
Nota Original:Amazon, Meta, Others to Unveil AI Safeguards Amid Biden Push (1)
--Con la colaboración de Jennifer Jacobs.
©2023 Bloomberg L.P.
