Un padre tomó fotos de su hijo desnudo para el médico y Google lo marcó como delincuente

Mark notó que algo no estaba bien con su bebé de brazos, el pene lucía inflamado y parecía que le producía dolor. Mark, un papá que se queda en casa en San Francisco, tomó fotografías con su teléfono inteligente Android para documentar el problema a fin de seguir su evolución.

Era un viernes por la noche de febrero de 2021. Su esposa llamó a su médico de cabecera para programar una consulta de urgencia para la mañana siguiente, a través del video porque era sábado y había una pandemia. Una enfermera le dijo que enviara fotos para que el médico pudiera revisarlas antes de la consulta.

La esposa de Mark tomó su teléfono y envió por mensaje de texto algunos acercamientos de la entrepierna de su hijo a su iPhone para poder subirlos al sistema de mensajería del médico.

Este incidente le costó a Mark más de una década de contactos, correos electrónicos y fotos e hizo que la policía iniciara una investigación en su contra. Mark, quien pidió que se le identificara solo por su nombre de pila por temor a posibles daños a su reputación, quedó inmerso en una red algorítmica diseñada para atrapar a las personas que intercambian material de abuso sexual de menores.

Dado que las compañías tecnológicas capturan tantos datos, se les ha presionado para analizar lo que pasa por sus servidores a fin de detectar y prevenir conductas delictivas. Los defensores de los menores dicen que la cooperación de las empresas es fundamental para combatir la propagación en línea de imágenes de abuso sexual. Pero esto puede suponer el acceso a archivos privados, lo que ha dado lugar a que actos inocentes adquieran un tono siniestro en al menos dos casos descubiertos por The New York Times.

Jon Callas, tecnólogo de la Electronic Frontier Foundation, una organización de libertades civiles digitales, calificó los casos como canarios “en esta mina de carbón en particular”.

Mark, de cuarenta y tantos, llegó a depender en gran medida de Google. Su teléfono inteligente Android hacía una copia de seguridad de sus fotos y videos en la nube de Google. Tenía un plan de telefonía con Google Fi.

Dos días después de tomar las fotografías de su hijo, sonó una notificación en su teléfono: Google había inhabilitado su cuenta debido a “contenido nocivo”, lo cual constituye “una grave violación de las políticas de Google y podría ser ilegal”. Un vínculo para “conocer más” lo dirigió a una lista de posibles motivos, entre los que figuraba “el abuso y la explotación sexual de menores”.

Al principio, Mark se sintió confundido, pero luego se acordó de la infección de su hijo. “Dios mío, tal vez Google piensa que se trataba de pornografía infantil”, pensó.

Llenó un formulario para solicitar que Google revisara la decisión y explicó que su hijo había tenido una infección. Al mismo tiempo, descubrió el efecto dominó del rechazo de Google. No solo perdió los correos electrónicos, la información de contacto de amigos y antiguos colegas y la documentación de los primeros años de vida de su hijo, sino que su cuenta de Google Fi se cerró, lo que significó que tuvo que conseguir un nuevo número de teléfono con otro operador. Sin acceso a su antiguo número de teléfono ni a su dirección de correo electrónico, no pudo obtener los códigos de seguridad que necesitaba para iniciar sesión en otras cuentas de internet, lo que lo dejó fuera de gran parte de su vida digital.

En una declaración, Google mencionó que: “El material de abuso sexual infantil es aborrecible y estamos comprometidos a prevenir su difusión en nuestras plataformas”.

Pocos días después de que Mark presentó su apelación, Google respondió que no rehabilitaría la cuenta, sin dar mayores explicaciones.

Al día siguiente de que comenzaran los problemas de Mark, el mismo escenario se repetía en Texas. Un niño de Houston tenía una infección en sus “partes íntimas”, según escribió su padre en una publicación en línea con la que me topé mientras informaba sobre la historia de Mark. A petición del pediatra, Cassio, quien también pidió que se le identificara solo por su nombre de pila, utilizó un Android para tomar fotos, de las que se hizo una copia de seguridad automática en Google Photos. Luego se las envió a su mujer a través del servicio de chat de Google.

Cassio estaba en medio de la compra de una casa cuando su cuenta de Gmail fue inhabilitada. Pidió a su agente hipotecario que cambiara su dirección de correo electrónico, lo que despertó las sospechas del agente de los futuros compradores hasta que el agente inmobiliario de Cassio lo avaló.

“Fue un dolor de cabeza”, comentó Cassio.

La primera herramienta de la industria tecnológica que en verdad irrumpió en el vasto intercambio cibernético de lo que se denomina pornografía infantil fue PhotoDNA, una base de datos de imágenes de abuso conocidas, convertidas en códigos digitales únicos, la cual podía utilizarse para rastrear con rapidez un gran número de imágenes con la finalidad de detectar una coincidencia, incluso si una foto había sido manipulada de forma mínima. Después de que Microsoft lanzó PhotoDNA en 2009, Facebook y otras empresas tecnológicas lo utilizaron para erradicar a los usuarios que circulaban imágenes ilegales y nocivas.

Un avance más significativo se logró en 2018, cuando Google desarrolló una herramienta de inteligencia artificial que podía reconocer imágenes de explotación infantil nunca antes vistas. Eso significó encontrar no solo imágenes conocidas de niños abusados, sino imágenes de víctimas desconocidas que las autoridades tal vez podían rescatar. Google puso su tecnología a disposición de otras empresas, como Facebook.

Cuando las fotos de Mark y las de Cassio se cargaron de manera automática desde sus teléfonos a los servidores de Google, esta tecnología los etiquetó. Un vocero de Google dijo que la empresa solo analiza esas imágenes cuando un usuario realiza una “acción afirmativa”; por ejemplo, cuando el teléfono del usuario respalda fotos en la nube de la empresa.

Es probable que una persona encargada de moderar contenido haya revisado las fotos después de que una inteligencia artificial las marcó para confirmar que cumplen con la definición federal de material de abuso sexual infantil. Cuando Google encuentra este tipo de material, bloquea la cuenta del usuario, busca más material de explotación y, conforme a la ley federal, lo reporta ante la CyberTipline del Centro Nacional para Niños Desaparecidos y Explotados.

En 2021, CyberTipline informó que había alertado a las autoridades sobre “más de 4260 nuevas posibles víctimas infantiles”. Los hijos de Mark y Cassio figuraban en esa cifra.

En diciembre, a Mark le llegó un sobre por correo del Departamento de Policía de San Francisco. Se trataba de una carta donde se le informaba que se había iniciado una investigación en su contra; también incluía copias de las órdenes de búsqueda que se le habían entregado a Google y a su proveedor de servicios de internet. Un investigador había solicitado todo lo relacionado con la cuenta de Google de Mark: sus búsquedas de internet, su historial de ubicaciones, sus mensajes y cualquier documento, fotografía y video que hubiera almacenado en la cuenta que tenía con la empresa.

La búsqueda, relacionada con “videos de explotación infantil”, había tenido lugar en febrero, una semana después de que tomó las fotografías de su hijo.

Mark llamó al investigador, Nicholas Hillard, quien le informó que el caso estaba cerrado. Hillard había tratado de comunicarse con Mark, pero ni su teléfono ni su cuenta de correo electrónico habían funcionado.

“Determiné que el incidente no cumplía con los elementos de un delito y que no se había cometido ninguno”, escribió Hillard en su informe.

Mark presentó otra apelación ante Google, a la cual adjuntó el informe de la policía, pero no sirvió de nada.

A Cassio también lo investigó la policía. Un detective del Departamento de Policía de Houston lo llamó el otoño pasado, para pedirle que fuera a la estación.

Después de que Cassio le mostró al detective los mensajes que había intercambiado con el pediatra, lo absolvieron de inmediato. Pero tampoco pudo recuperar la cuenta de Google que tenía desde hace años, a pesar de ser un usuario que pagaba los servicios de dicha compañía.

No todas las fotos de niños desnudos son pornografía, explotación o abuso. Carissa Byrne Hessick, profesora de Derecho de la Universidad de Carolina del Norte que escribe sobre delitos de pornografía infantil, dijo que puede ser complicado definir en términos jurídicos lo que en realidad constituye imágenes de abuso sexual.

Pero Hessick dijo que estaba de acuerdo con la policía en que las imágenes médicas no cumplían los requisitos. “El menor no sufre abuso”, dijo. “La fotografía se toma por razones que no son sexuales”, agregó.

“Vi las fotos que le tomó Mark a su hijo. Es comprensible por qué sus fotos activaron la señal de alarma: son fotografías explícitas de los genitales de un menor. Pero el contexto importa: las tomó un padre preocupado por su hijo enfermo”, comentó.

“Reconocemos que en esta era de telemedicina y, en especial, de COVID-19, los padres han tenido que tomar fotografías de sus hijos a fin de obtener un diagnóstico”, comentó Claire Lilley, directora de operaciones de seguridad infantil de Google. Agregó que la empresa ha consultado a pediatras para que sus revisores humanos entiendan las posibles afecciones que pueden aparecer en las fotografías tomadas por motivos médicos.

A principios de este año, un representante del servicio de atención al cliente le dijo a Cassio que enviar las fotos a su mujer a través de Google Hangouts infringía las condiciones del servicio de chat.

En cuanto a Mark, Lilley, de Google, dijo que los revisores no habían detectado ningún salpullido ni enrojecimiento en las fotografías que tomó y en la revisión posterior de su cuenta encontraron un video de hacía seis meses que Google también consideró problemático, donde se veía a un menor acostado en la cama con una mujer desnuda.

Mark no recordó ese video y ya no tenía acceso a él, pero comentó que parecía ser un momento privado que había sentido la necesidad de conservar, sin darse cuenta de que alguien más podría verlo o juzgarlo.

“Me lo puedo imaginar. Me levanté una mañana. Era un día hermoso con mi esposa e hijo y quise registrar el momento”, comentó Mark. “Si tan solo durmiéramos con pijama, podríamos haber evitado esto”.

Un vocero de Google dijo que la empresa mantiene sus decisiones, aunque las fuerzas del orden hayan exculpado a los dos hombres.

© 2022 The New York Times Company