Algoritmos para engañar a algoritmos

Crean una herramienta para burlar los sistemas de reconocimiento facial

Un grupo de ingenieros de la universidad de Chicago han desarrollado una herramienta que puede ayudar a proteger nuestras fotos en Internet de los algoritmos de reconocimiento facial.

Han bautizado a esta herramienta como 'Fawkes', en honor la famosa máscara de Guy Fawkes (que, tras aparecer inicialmente en distintos foros de Internet, se convirtió en el símbolo que identifica a los hacktivistas de Anonymous).


Cambios prácticamente imperceptibles para nosotros

El software desarrollado por los investigadores, además de permitir a los usuarios rastrear sus propias imágenes, también se encarga de introducir pequeñas modificaciones de píxeles en la fotografía para así "camuflarla".

Lo llamativo es que, a simple vista, seguramente nosotros no notemos que la foto haya cambiado. En cambio, el algoritmo detrás de este método de "camuflaje de imagen" es capaz de engañar a los sistemas de reconocimiento facial simplemente con modificar algunos píxeles.


Los investigadores aseguran que han probado su herramienta contra muchas técnicas de reconocimiento facial muy conocidas (como Face API de Microsoft Azure, Amazon Recognition y Face++) y afirman que ha quedado demostrada su eficacia.

Justo a principios de este año conocíamos un informe publicado por el New York Times, en el que se analizaba el trabajo de Clearview AI: una compañía, hasta el momento, prácticamente desconocida.

Esta compañía ofrece servicios de reconocimiento facial a unas 600 agencias policiales en los Estados Unidos y Canadá. Lo realmente impresionante es que cuenta con una biblioteca de imágenes (se hablaba de más de 3.000 millones de imágenes) que es siete veces mayor que la del FBI.

El desarrollo de herramientas como Fawkes puede hacernos recordar el dicho "quien hizo la ley, hizo la trampa". Tiene su punto de cyberpunk que diferentes inteligencias artificiales luchen entre sí para poder proteger nuestra privacidad. Una batalla que, al menos de momento, parece que será bastante complicado salir airosos de ella.

Vía: You are not allowed to view links. You are not allowed to view links. Register or Login or You are not allowed to view links. Register or Login