Investigadores de inteligencia artificial de Google, Facebook, Microsoft y varias universidades importantes han pedido a Amazon que deje de vender su tecnología de reconocimiento facial a las autoridades policiales.

In a open letter published today, researchers say studies have repeatedly shown that Amazon's algorithms are flawed,

con tasas de error más altas para rostros de piel más oscura y rostros femeninos. 

Los investigadores dicen que si la policía adopta dicha tecnología, tiene el potencial de amplificar la discriminación racial, crear casos de identidad errónea y fomentar la vigilancia intrusiva de los grupos marginados.

Estudiante de doctorado en la Universidad de Colorado Boulder y uno de los 26 firmantes de la carta . Scheuerman dice que tales tecnologías "pueden ser apropiadas para propósitos maliciosos ...

De una manera que las compañías que las proveen no tienen conocimiento".

Other signatories include Timnit Gebru, a researcher at Google whose work has highlighted failures in facial recognition algorithms; 

Yoshua Bengio, an IA researcher that recientemente recibió el Premio Turing; y Anima Anandkumar, profesora de Caltech y ex científica principal de la filial de Amazon en AWS.

Anandkumar  dice a por correo electrónico que espera que la carta abra un "diálogo público sobre cómo podemos evaluar el reconocimiento facial", y agrega que se necesitan marcos técnicos para evaluar esta tecnología. 

"La regulación gubernamental solo puede darse una vez que hayamos establecido marcos técnicos para evaluar estos sistemas", dice Anandkumar.

Como uno de los principales proveedores de tecnología de reconocimiento facial, los algoritmos de Amazon se han examinado repetidamente de esta manera. 

Un estudio publicado a principios de este año mostró que el software de la compañía tiene más dificultades para identificar el género de hombres y mujeres de piel más oscura,

mientras que una prueba realizada en 2018 por la ACLU encontró que el software Rekognition de Amazon emparejó incorrectly fotos de 28 miembros del Congreso con la policía mugshots.

Amazon has defended its technology and much of the letter released today offers a point-by-point rebuttal of the company's criticisms. 

Los autores señalan, por ejemplo, que a pesar de que Amazon dice que no ha recibido informes de que la policía haya hecho un mal uso de su reconocimiento facial,

eso no es una afirmación significativa, ya que no existen leyes para auditar sus aplicaciones.

A medida que los estudios encuentran más fallas en esta tecnología, las protestas entre los investigadores, accionistas y empleados de tecnología están ocurriendo con más frecuencia. 

Google is refusing to sell facial recognition software because of its potential for abuse, while Microsoft has called for government regulations. 

Sin embargo, exactamente cómo se debe supervisar esta tecnología es una pregunta difícil .

"Estas tecnologías deben desarrollarse de una manera que no dañe a los seres humanos, o perpetúe el daño a los grupos ya históricamente marginados",

dice Scheuerman. Subraya que, para hacerlo, es necesario que haya más diálogo entre las personas que desarrollan la tecnología de reconocimiento facial y las que la critican. 

"This is an interdisciplinary problem that requires an interdisciplinary approach."