Parece  que la polémica herramienta de Amazon lanzada en mayo del 2018 que reconoce tu rostro a través de las cámaras y que fue vendida al sistema policial de Estados Unidos, está lejos de ser perfecta.

En una evaluación, con los 535 miembros del congreso de EEUU con 25 mil fotos de delincuentes, el sistema asoció a 28 congresistas como un falso positivo. Lo que más alerta causa es que 11 de ellos fueron congresistas negros. Si tomamos en cuenta que la mayor parte del congreso está constituido por personas de tez blanca, la proporción de falsos positivos en la gente negra, fue mucho más alta.

Un sistema con estos desperfectos e indirectas que podrían considerarse raciales, puede causar enormes problemas en la libertad y, por lo tanto, en la vida de una persona. Sin embargo, Amazon se defiende y dice que la Unión Estadounidense por las Libertades Civiles, ACLU, no ejecutó las pruebas como debían ser, pues lo hicieron con un umbral de confianza del 80% y Amazon recomienda con el 95%.

El extenso debate ha generado la atención de tan solo 3 congresistas que se pronunciaron y emitieron una carta abierta al CEO de Amazon, Jeff Bezos, en el que le piden una lista de las agencias de seguridad que usan está tecnología.

¿Crees que se tomen medidas para dejar de implementarlo o para que Amazon mejore el algoritmo?
Piénsalo

Dato extra: Por el uso del sistema Rekognition cada agencia paga tan solo $12 por mes.