¿La tecnología de reconocimiento facial de Amazon puede ser racista?

En estados unidos, distintos grupos a favor de las libertades civiles realizaron una prueba en la cual utilizaron un software de reconocimiento facial de Amazon  y el resultado arrojó múltiples errores. El ejercicio consistía en contrastar las fotos de todos los legisladores federales con una base de datos de 25 mil fotos policiales disponibles públicamente.

Según la Unión Americana de Libertades Civiles, el sistema tecnológico identificó de forma errónea a 28 miembros del Congreso de Estados Unidos, es decir un  5% de fallas, con personas que habían sido arrestadas en el pasado. El principal problema con las incongruencias, radica en que la herramienta digital fue implementada en algunos departamentos de policía estadounidense.

Jacob Snow, abogado especialista en tecnología y libertades civiles, consideró que la prueba, en la que se relacionó de manera desproporcionada a integrantes afroamericanos y latinos del Congreso con personas de fotos policiales es, “peligrosa, prejuiciosa y presenta considerables fallas”.

Por su parte, Nina Lindsey, representante de Amazon Web Services, informó que los clientes que hasta el momento han utilizado el Amazon Rekognition lo hicieron para fines benéficos y acusó a la Unión Americana de Libertades Civiles de utilizar el software de forma incorrecta, y sin adecuarse a lo recomendado por la empresa diseñadora.

Fuente: NY Times

Imagen: Shutterstock