Acusado erróneamente por un algoritmo

Nota: En respuesta a este artículo, la oficina de la fiscal del condado de Wayne declaró que el caso de Robert Julian-Borchak Williams, así como sus huellas dactilares, serían eliminados de la base de datos de antecedentes penales. “Una disculpa”, dijo la fiscal, Kym Worthy, en una declaración y agregó: “Esto no compensa de ninguna manera las horas que el señor Williams pasó en la cárcel”.

Un jueves de enero por la tarde, Robert Julian-Borchak Williams estaba en su oficina en una empresa de suministros para automóviles cuando recibió una llamada del Departamento de Policía de Detroit en la que le dijeron que fuera a la estación para ser arrestado. Al principio pensó que era una broma.

Una hora más tarde, cuando se estacionó en la entrada de su casa en una tranquila subdivisión de Farmington Hills, Míchigan, una patrulla se detuvo detrás, bloqueándole el paso. Dos oficiales salieron y esposaron a Williams en su jardín delantero frente a su esposa y sus dos hijas pequeñas, que estaban angustiadas. La policía no mencionó el motivo del arresto, solo le mostraron un papel con su foto y las palabras “orden de aprehensión por delito mayor” y “robo”.

Su esposa, Melissa Williams, preguntó a dónde lo llevaban. “Búscalo en Google”, recuerda que un oficial le respondió.

La policía llevó a Robert Williams a un centro de detención. Le tomaron la fotografía de la ficha policial, sus huellas dactilares y muestras de ADN y lo retuvieron toda la noche. Alrededor del mediodía del viernes, dos detectives lo llevaron a una sala de interrogatorios y colocaron tres papeles sobre la mesa, boca abajo.

“¿Cuándo fue la última vez que fue a una tienda Shinola?”, preguntó uno de los detectives, según recuerda Williams. Shinola es una boutique de lujo que vende relojes, bicicletas y artículos de piel en el moderno barrio del centro de Detroit. Williams dijo que él y su esposa habían ido a ver la tienda cuando abrió en 2014.

El detective volteó el primer papel. Era una imagen fija de un video de una cámara de vigilancia que mostraba a un hombre corpulento, vestido de negro y con una gorra roja de los Cardenales de San Luis, parado frente a un mostrador de relojes. Cinco relojes, con un valor de 3800 dólares, fueron robados.

“¿Eres tú?”, preguntó el detective.

El segundo papel era un primer plano. La fotografía estaba borrosa, pero era evidente que no era Williams. Tomó la imagen y la sostuvo junto a su rostro.

“No, este no soy yo”, dijo Williams. “¿Crees que todos los hombres negros se parecen?”, preguntó.

Williams sabía que no había cometido el crimen en cuestión. Lo que no podía saber, mientras estaba sentado en la sala de interrogatorios, es que su caso es tal vez el primer relato conocido de un estadounidense arrestado injustamente con base en la coincidencia errónea de un algoritmo de reconocimiento facial, según los expertos en tecnología y derecho.

Un sistema defectuoso

En estos momentos se está produciendo un debate nacional sobre el racismo en la aplicación de la ley. En todo el país, millones de personas protestan no solo por las acciones de ciertos oficiales de policía, sino también por el sesgo en los sistemas utilizados para vigilar comunidades e identificar personas para llevarlas ante la justicia.

Las fuerzas policiales han utilizado sistemas de reconocimiento facial desde hace más de veinte años. En estudios recientes del Instituto Tecnológico de Massachusetts y el Instituto Nacional de Normas y Tecnología (NIST, por su sigla en inglés), se ha comprobado que, si bien la tecnología funciona relativamente bien en los hombres blancos, los resultados son menos precisos en el caso de otros grupos demográficos, en parte debido a la falta de diversidad de las imágenes utilizadas para elaborar las bases de datos subyacentes.

El año pasado, durante una audiencia pública sobre el uso del reconocimiento facial en Detroit, un subjefe de policía fue uno de los que expresó inquietudes. “Sobre la cuestión de los falsos positivos, eso es absolutamente real, y está bien documentado”, manifestó James White. “Así que eso me preocupa como hombre afroestadounidense”, agregó.

Este mes, Amazon, Microsoft e IBM anunciaron que detendrían o pausarían sus ofertas de reconocimiento facial en la procuración de justicia. Estos gestos fueron en gran medida simbólicos, dado que las empresas no son grandes actores en la industria. La tecnología que usan los departamentos de policía es suministrada por compañías que no son muy conocidas, como Vigilant Solutions, Cognitec, NEC, Rank One Computing y Clearview AI.

Clare Garvie, abogada del Centro de Privacidad y Tecnología de la Universidad de Georgetown, ha escrito sobre los problemas con el uso del reconocimiento facial por parte del gobierno. La abogada argumenta que deberían prohibirse las imágenes de baja calidad (como una imagen fija de un video de vigilancia borroso) y que los sistemas actualmente en uso deberían someterse a rigurosas pruebas de precisión y sesgo.

En una alineación perpetua

El caso de Williams es el resultado de una tecnología defectuosa y una labor policial deficiente e ilustra cómo el reconocimiento facial puede fallar.

El robo en la tienda Shinola ocurrió en octubre de 2018. Katherine Johnston, investigadora de Mackinac Partners, una empresa de prevención de pérdidas, revisó el video de la cámara de vigilancia de la tienda y envió una copia a la policía de Detroit, según su informe.

Cinco meses después, en marzo de 2019, Jennifer Coulson, una examinadora de imágenes digitales de la Policía Estatal de Míchigan, subió una “imagen de sondeo” (una imagen fija del video, que muestra al hombre de la gorra de los Cardenales) a la base de datos de reconocimiento facial del estado. El sistema hizo un mapeo del rostro del hombre y buscó rostros similares en una colección de 49 millones de fotografías.

Una compañía llamada DataWorks Plus suministra la tecnología del estado por 5,5 millones de dólares. Dicha empresa se estableció en Carolina del Sur en el año 2000 y fue la primera en ofrecer software de gestión de fichas policiales, dijo Todd Pastorini, un director general. En 2005, la empresa comenzó a ampliar su producto, con la incorporación de herramientas de reconocimiento facial desarrolladas por proveedores externos.

Cuando uno de estos subcontratistas desarrolla un algoritmo para reconocer rostros, DataWorks intenta determinar su eficacia realizando búsquedas con imágenes de baja calidad de personas que sabe que están presentes en un sistema. “Hemos puesto a prueba mucha basura ahí“, dijo Pastorini. Estas comprobaciones, añadió, no son “científicas”; DataWorks no mide formalmente la precisión ni el sesgo de los sistemas.

“Nos hemos convertido en pseudoexpertos en esta tecnología”, afirmó Pastorini.

En Míchigan, el software de DataWorks que usa la policía estatal incorpora componentes desarrollados por el gigante tecnológico japonés NEC y Rank One Computing, con sede en Colorado, según Pastorini y una vocera de la policía estatal. En 2019, los algoritmos de ambas compañías se incluyeron en un estudio federal de más de cien sistemas de reconocimiento facial que reveló que estaban sesgados, ya que identificaron falsamente los rostros afroestadounidenses y asiáticos entre diez y cien veces más que los rostros caucásicos.

El director ejecutivo de Rank One, Brendan Klare, dijo que la compañía había desarrollado un nuevo algoritmo que sometió a revisión del NIST y que “ajusta las diferencias de precisión entre las diferentes cohortes demográficas”.

Después de que Coulson, del departamento de policía estatal, ejecutara su búsqueda de la imagen de sondeo, el sistema le proporcionó una fila de resultados generados por NEC y una fila de Rank One, junto con puntuaciones de confianza. La foto del permiso para conducir de Williams estaba entre las coincidencias. Coulson la envió a la policía de Detroit como parte de un “Informe de pistas de investigación”.

“Este documento no es una identificación positiva”, dice la parte superior del expediente en letras mayúsculas y negritas. “Es solo una pista de investigación y no es causa probable de arresto”.

Esto es lo que los proveedores de tecnología y las fuerzas del orden siempre enfatizan cuando defienden el reconocimiento facial: se supone que solo es una pista en el caso, no una prueba irrefutable. Antes de arrestar a Williams, los investigadores podrían haber buscado otras pruebas de que él cometió el robo, como el testimonio de un testigo ocular, datos de localización de su teléfono o pruebas de que era dueño de la ropa que el sospechoso llevaba puesta.

Sin embargo, en este caso, según el informe de la policía de Detroit, los investigadores simplemente incluyeron la foto de Williams en un “paquete de 6 fotos para la alineación de sospechosos” que crearon y mostraron a Johnston, la contratista de prevención de pérdidas de Shinola, y ella lo identificó (Johnston se negó a hacer comentarios).

‘Supongo que la computadora se equivocó’

El viernes que Williams estuvo sentado en una sala de interrogatorios de la policía de Detroit fue el día antes de su cumpleaños 42. Esa mañana, su esposa envió un correo electrónico a su jefe para decirle que faltaría al trabajo por una emergencia familiar; eso acabó con su récord de cuatro años de asistencia perfecta.

Según recuerda Williams, después de que sostuvo la imagen fija del video de vigilancia junto a su cara, los dos detectives se reclinaron en sus sillas y se miraron el uno al otro. Uno de los detectives, que parecía disgustado, le dijo a su compañero: “Supongo que la computadora se equivocó”.

Dieron vuelta al tercer papel, que era otra fotografía del hombre de la tienda Shinola, junto a la licencia de conducir de Williams. Williams volvió a señalar que no eran la misma persona.

Williams preguntó si podía irse. “Desgraciadamente, no”, contestó un detective.

Williams permaneció en custodia hasta esa noche, 30 horas después de su arresto y se le liberó con una fianza personal de 1000 dólares. Esperó afuera bajo la lluvia durante 30 minutos hasta que su esposa pudo ir a recogerlo. Cuando llegó a casa a las 10 p. m., su hija de 5 años aún estaba despierta, dijo que lo estaba esperando porque él había dicho, mientras lo arrestaban, que volvería enseguida.

Desde entonces la niña juega a “policías y ladrones” y acusa a su padre de robar cosas, insistiendo en “encarcelarlo” en la sala de estar.

Búsqueda de ayuda

La familia Williams contactó a abogados defensores, la mayoría de los cuales asumieron que Williams era culpable del crimen y estimaron que el costo de representarlo sería de unos 7000 dólares. La esposa de Williams, directora de mercadotecnia de bienes raíces y editora de un blog de alimentos, también envió un tuit a la Unión Americana de Libertades Civiles (ACLU, por su sigla en inglés) de Míchigan, que se interesó en el caso de inmediato.

”Nos hemos movilizado para tratar de llamar la atención en torno al reconocimiento facial, por ser una amenaza a la privacidad cuando funciona, y una amenaza racista para todos cuando no funciona”, comentó Phil Mayor, abogado de la organización. “Sabemos que estas historias suceden todo el tiempo, pero es difícil escucharlas porque la gente no suele darse cuenta de que ha sido víctima de una mala búsqueda de reconocimiento facial”.

Dos semanas después de su arresto, Williams usó uno de sus días de vacaciones para comparecer ante un tribunal del condado de Wayne a fin de que se le dieran a conocer los cargos. Cuando se leyeron los cargos del caso, el fiscal pidió que se desestimara, pero “sin prejuicios”, lo que significa que puede volver a acusarse a Williams más adelante.

El miércoles, la ACLU de Míchigan presentó una queja en contra de la ciudad, pidiendo el sobreseimiento absoluto del caso, una disculpa y la eliminación de la información de Williams de las bases de datos criminales de Detroit.

Desde entonces, Williams ya sabe qué estaba haciendo la noche en que ocurrió el robo. Conducía a casa desde el trabajo y había publicado un video en su Instagram privado porque salió en la radio una canción que le encantaba: “We Are One” de 1983, de Maze y Frankie Beverly. La letra dice:

No puedo entender

Por qué nos tratamos de esta manera

Haciéndonos perder el tiempo

Con esos juegos tan tontos que jugamos

Tenía una coartada, si la policía de Detroit la hubiera buscado.

This article originally appeared in The New York Times.

© 2020 The New York Times Company