¿Inteligencia artificial para monitorear llamadas? Expertos advierten contra la nueva función de Google

Una nueva función de Google destinada a alertar sobre estafas suscitó el temor de los defensores de la privacidad.

La herramienta utiliza inteligencia artificial para escuchar las llamadas telefónicas de los usuarios e intentar detectar si suenan a estafa. Si hay posibilidad de estafa, aparecerá una ventana emergente que alertará una “posible estafa”.

La función se anunció en el evento I/O de Google de esta semana, durante el cual se anunció una serie de nuevas herramientas de inteligencia artificial (IA). Al igual que muchas de esas funciones, Google no reveló cuándo se lanzaría de manera oficial.

Tampoco dio mucha información sobre cómo funcionaría la herramienta, como qué tipo de conversaciones llevarían a la IA a sugerir que la llamada podría ser una estafa. Sin embargo, afirmó que se basaba en Gemini Nano, una versión mucho más pequeña de su IA, lanzada recientemente y diseñada para funcionar en teléfonos.

Google recalcó que todo el proceso de escuchar y analizar las llamadas telefónicas se realizaría en el propio teléfono, por lo que no se enviarían las conversaciones privadas a sus servidores. “Esta protección se lleva a cabo en el propio dispositivo, por lo que tus conversaciones seguirán siendo privadas”, afirma la empresa en su anuncio.

No obstante, los expertos en seguridad sugirieron que escuchar las llamadas telefónicas de esa forma era “increíblemente peligroso” y “aterrador”. Advirtieron que incluso si las llamadas permanecen en el dispositivo, permitir que la IA escuche las llamadas podría acarrear otros problemas.

“Las llamadas telefónicas que realizamos desde nuestros dispositivos pueden ser una de las cosas más privadas que hacemos”, declaró a NBC News Albert Fox Cahn, director ejecutivo del Proyecto de Supervisión de la Tecnología de Vigilancia. “Es muy fácil para los anunciantes rastrear cada búsqueda que hacemos, cada URL en la que hacemos clic, pero lo que decimos en nuestros dispositivos, en el micrófono, nunca se ha monitoreado”.

“Es increíblemente peligroso”, afirma Meredith Whittaker, presidenta de la aplicación de mensajería Signal. “Sienta las bases para un escaneado del cliente centralizado y a nivel de dispositivo”.

Whittaker, que trabajó en Google durante 13 años y ayudó a organizar protestas internas contra sus políticas, afirmó que el uso de la tecnología podría extenderse rápido.

“De detectar ‘estafas’ hay una corta brecha para ‘detectar patrones comúnmente asociados con la búsqueda de atención reproductiva’ o ‘comúnmente asociados con la provisión de recursos LGBTQ’ o ‘comúnmente asociados con denuncias de trabajadores tecnológicos’”, insinuó.