Investigadores de inteligencia artificial de Google, Facebook, Microsoft y varias universidades importantes han pedido a Amazon que deje de vender su tecnología de reconocimiento facial a las autoridades policiales.

Dans un lettre ouverte publiée aujourd'hui, les chercheurs affirment que des études ont montré à plusieurs reprises que les algorithmes d'Amazon sont défectueux,

con tasas de error más altas para rostros de piel más oscura y rostros femeninos. 

Los investigadores dicen que si la policía adopta dicha tecnología, tiene el potencial de amplificar la discriminación racial, crear casos de identidad errónea y fomentar la vigilancia intrusiva de los grupos marginados.

Estudiante de doctorado en la Universidad de Colorado Boulder y uno de los 26 firmantes de la carta . Scheuerman dice que tales tecnologías "pueden ser apropiadas para propósitos maliciosos ...

De una manera que las compañías que las proveen no tienen conocimiento".

Parmi les autres signataires figurent Timnit Gebru, un chercheur de Google dont les travaux ont permis d'améliorer la qualité de la vie. les échecs mis en évidence dans les algorithmes de reconnaissance faciale ; 

Yoshua Bengio, un chercheur de l'IA qui recientemente recibió el Premio Turing; y Anima Anandkumar, profesora de Caltech y ex científica principal de la filial de Amazon en AWS.

Anandkumar  dice a por correo electrónico que espera que la carta abra un "diálogo público sobre cómo podemos evaluar el reconocimiento facial", y agrega que se necesitan marcos técnicos para evaluar esta tecnología. 

"La regulación gubernamental solo puede darse una vez que hayamos establecido marcos técnicos para evaluar estos sistemas", dice Anandkumar.

Como uno de los principales proveedores de tecnología de reconocimiento facial, los algoritmos de Amazon se han examinado repetidamente de esta manera. 

Un estudio publicado a principios de este año mostró que el software de la compañía tiene más dificultades para identificar el género de hombres y mujeres de piel más oscura,

mientras que una prueba realizada en 2018 por la ACLU encontró que el software Rekognition de Amazon emparejó de manière incorrecte fotos de 28 miembros del Congreso con la policía mugshots.

Amazon a défendu sa technologie et une grande partie de la lettre publiée aujourd'hui réfute point par point les critiques de l'entreprise. 

Los autores señalan, por ejemplo, que a pesar de que Amazon dice que no ha recibido informes de que la policía haya hecho un mal uso de su reconocimiento facial,

eso no es una afirmación significativa, ya que no existen leyes para auditar sus aplicaciones.

A medida que los estudios encuentran más fallas en esta tecnología, las protestas entre los investigadores, accionistas y empleados de tecnología están ocurriendo con más frecuencia. 

Google refuse de vendre des logiciels de reconnaissance faciale en raison des risques d'abus qu'ils présentent, tandis que Microsoft a demandé à ce qu'un logiciel de reconnaissance faciale soit mis en place. les réglementations gouvernementales. 

Sin embargo, exactamente cómo se debe supervisar esta tecnología es una pregunta difícil .

"Estas tecnologías deben desarrollarse de una manera que no dañe a los seres humanos, o perpetúe el daño a los grupos ya históricamente marginados",

dice Scheuerman. Subraya que, para hacerlo, es necesario que haya más diálogo entre las personas que desarrollan la tecnología de reconocimiento facial y las que la critican. 

"Il s'agit d'un problème interdisciplinaire qui nécessite une approche interdisciplinaire.