El software de reconocimiento facial conduce al arresto injusto de un hombre

AXCESS · Enero 28, 2024, 05:02:30 PM

No tienes permitido ver enlaces. Registrate o Entra a tu cuenta

Un hombre de Texas está demandando a Macy's y a la empresa matriz de Sunglass Hut después de que las dos empresas supuestamente confiaron en tecnología de reconocimiento facial propensa a errores para acusarlo falsamente de robo a mano armada.

Después de estar encarcelado durante casi dos semanas, Harvey Murphy Jr. fue liberado una vez que los fiscales verificaron que no había estado físicamente presente en el estado cuando ocurrió el robo, dijo el abogado de Murphy a CNN.

Ahora, Murphy quiere 10 millones de dólares de las empresas por lo que, según él, fue un arresto injusto basado en el uso negligente de software de reconocimiento facial, en último caso, potencial de identidad errónea que involucra a esta tecnología.

La demanda destaca cómo la gente corriente corre cada vez más el riesgo de que sus vidas cambien debido a los algoritmos y la inteligencia artificial. El caso fue informado anteriormente por The Washington Post.

Preguntas sobre las imágenes de vigilancia

La demanda presentada la semana pasada en el tribunal de distrito del condado de Harris afirma que el padre de Sunglass Hut, el gigante de las gafas EssilorLuxottica, se basó en las herramientas de reconocimiento facial de Macy's para identificar falsamente a Murphy en imágenes de vigilancia de baja calidad de dicho robo.

El robo tuvo lugar en enero de 2022 cuando dos hombres entraron a un Sunglass Hut de Houston y amenazaron al personal de la tienda con un arma, exigieron dinero en efectivo y tomaron gafas de sol de los estantes antes de huir de la escena, según la denuncia, que citó registros policiales del incidente.

No está claro por qué o si EssilorLuxottica recurrió a Macy's en busca de ayuda. Sunglass Hut objetivo del robo, se encuentra en una pequeña plaza comercial en las afueras del centro de Houston, y el Macy's más cercano está a 10 minutos en auto.

Pero la colaboración llevó a EssilorLuxottica y Macy's a identificar a Murphy no solo como uno de los sospechosos en el incidente de 2022, sino también como sospechoso de robos anteriores que afectaron a ambas empresas, según la denuncia.

Después de que EssilorLuxottica llevó la coincidencia de reconocimiento facial a la policía de Houston, las autoridades le pidieron a un empleado que presenció el robo que eligiera al sospechoso de una serie de fotografías y el empleado identificó a Murphy.

Eso llevó al posterior arresto de Murphy en el Departamento de Vehículos Motorizados mientras intentaba renovar su licencia de conducir.

Sin embargo, en el momento del robo, Murphy estaba en Sacramento, California, no en Houston, según la demanda. La coartada fue posteriormente probada por su abogado designado por el tribunal y por los fiscales, quienes rápidamente retiraron los cargos.

A medida que se desarrolla la demanda contra Sunglass Hut y Macy's, una de las cosas que los abogados de Murphy's esperan descubrir no es qué proveedores de reconocimiento facial usan Macy's y qué pautas tiene, para evaluar la confianza en una coincidencia de reconocimiento facial.

El caso de Murphy se suma a muchos otros casos de presunto error de identidad debido al software de reconocimiento facial. En 2020, la Unión Estadounidense por las Libertades Civiles cuestionó al departamento de policía de Detroit por lo que el grupo describió como el primer arresto injusto conocido que involucra reconocimiento facial. El año pasado, otro residente de Michigan demandó a la ciudad de Detroit por haber sido acusado falsamente de robo de auto.

Preocupaciones sobre el reconocimiento facial

Durante años, los expertos en libertades civiles y privacidad han advertido sobre los riesgos del uso demasiado casual del reconocimiento facial o de una dependencia excesiva de la tecnología, y la posibilidad de que el sesgo algorítmico pueda conducir a una identificación errónea, discriminación racial u otras consecuencias no deseadas.

En septiembre, la Oficina de Responsabilidad Gubernamental advirtió que las agencias federales encargadas de hacer cumplir la ley han realizado miles de búsquedas de reconocimiento facial basadas en inteligencia artificial sin contar con requisitos de capacitación adecuados para los funcionarios que realizan las búsquedas, lo que destaca el potencial de uso indebido.

La Comisión Federal de Comercio ha advertido cada vez más a las empresas que el creciente uso del reconocimiento facial y la inteligencia artificial ha creado "nuevas amenazas a la privacidad y los derechos civiles".

El uso de tecnologías de escaneo facial o de iris para identificar a los consumidores en lugares como tiendas, aeropuertos o estadios deportivos podría provocar un aumento del robo de identidad y la suplantación de identidad, advirtió la FTC en un comunicado de 2023. También podría "revelar información personal confidencial sobre ellos, por ejemplo, que han accedido a tipos particulares de atención médica, asistido a servicios religiosos o a reuniones políticas o sindicales".

En un acuerdo del año pasado, la FTC prohibió a Rite Aid utilizar el reconocimiento facial en sus tiendas durante cinco años después de que los reguladores descubrieran que la compañía había acusado falsamente a algunos clientes de delitos o de que era probable que participaran en robos basados en escaneos de reconocimiento facial.

La FTC también ha tomado medidas para restringir el uso de tecnología de reconocimiento facal por parte de Instagram, lo que Meta, dueño de esta compañía, ha impugnado en los tribunales.

Fuente:
CBS News
No tienes permitido ver enlaces. Registrate o Entra a tu cuenta

El software de reconocimiento facial conduce al arresto injusto de un hombre

AXCESS

Enero 28, 2024, 05:02:30 PM