El periódico español el País describe el caso de Robert Julian-Borchak Williams quien fue detenido el 9 de enero de 2020 cuando llegó del trabajo a su casa en el barrio residencial a las afueras de Detroit, Estados Unidos.

Una patrulla paró con un frenazo tras su camioneta recién aparcada, bloqueándole la salida. Dos agentes le preguntaron su nombre y, tras mostrarle una orden de arresto, le esposaron y se lo llevaron.

Pasó la noche encerrado en un centro de detención sin saber de qué se le acusaba. Le soltaron 18 horas después: los dos detectives que le interrogaron comprobaron que Williams no se parecía a quien había robado unos relojes de lujo en una tienda del centro.

Cuando le mostraron la foto del sospechoso, se la puso al lado de la cara y le dijo al agente: “Este no soy yo. Espero que no piensen que todos los negros somos iguales”. Los dos policías se miraron y luego uno le replicó: “El sistema dice que es usted”.

Pues resulta que el sistema falló. El sistema de reconocimiento facial empleado por el Departamento de Policía de Detroit cruzó una imagen tomada por la cámara de seguridad del establecimiento con su base de datos.

Williams pidió ayuda para que su caso no quedara impune. Inmediatamente elevaron una queja a la policía. Ante la falta de respuesta, él y la Iniciativa de Litigio de Derechos Civiles de la Universidad de Michigan presentaron una demanda contra el Departamento de Policía de Detroit.

No solo denuncian el arresto injusto que sufrió su cliente: reclaman también que se prohíba el uso de esta tecnología, que cruza de forma automática las imágenes que toma de ciudadanos en lugares públicos con bases de datos de sospechosos. Si los tribunales les dan la razón podría prender la chispa que acabe dinamitando los sistemas de reconocimiento facial en el resto del país.

El de Williams, que hizo público The New York Times el pasado verano, es el primer caso conocido en Estados Unidos de detención irregular por el uso defectuoso de un algoritmo de reconocimiento facial. Desde entonces ha habido al menos dos más, siempre con personas negras como protagonistas.

Un especialista explica que hay estudios del Gobierno Federal que prueban que esta tecnología es 100 veces más proclive a confundir individuos negros que blancos.

IBM, Amazon o Microsoft han congelado o suspendido definitivamente la venta de estos sistemas a los departamentos de policía. Al no haber una regulación federal que afecte a esta tecnología, son los Estados y las ciudades quienes a la práctica están restringiendo su uso.

“Estas herramientas son demasiado poderosas, y su potencial para provocar defectos graves, como sesgos demográficos o fenotípicos extremos, es claro”, dijo Joy Buolamwini, investigadora del MIT Media Lab, durante una comparecencia ante el Comité de Supervisión y Reforma de la Cámara de Representantes

Amnistía Internacional y la Electronic Frontier Foundation son algunas de las organizaciones más activas en las peticiones para que se prohíba el reconocimiento facial y el uso de identificación biométrica en Estados Unidos.

De hecho, la Suprema Corte de Justicia ya analiza en México una petición del INAI para declarar violatoria de la Constitución una reforma recientemente aprobada por la mayoría de los diputados del partido en el gobierno, que obliga a los usuarios de teléfonos celulares a depositar sus datos biométricos para que puedan ser identificados por las compañías telefónicas.

“Nunca imaginé que tendría que explicarles a mis hijas por qué detuvieron a su papá. ¿Cómo se le explica a dos niñas pequeñas que una computadora se equivocó, pero que la policía le hizo caso igualmente?”, escribió Robert Williams en el Washington Post.

Incluso si el uso del reconocimiento facial por parte de la policía no produjese errores como el de Robert Williams, expertos opinan que otorgar esta tecnología a la policía es otorgarle mucho control a las fuerzas de seguridad.

“Y hay una relación muy fuerte entre las sociedades de control y el autoritarismo”, sentencia.