Google prohíbe silenciosamente los proyectos de capacitación deepfake en Colab

Google ha prohibido silenciosamente los proyectos deepfake en su servicio Colaboratory (Colab), poniendo fin a la utilización a gran escala de los recursos de la plataforma para este propósito.

Colab es un recurso informático en línea que permite a los investigadores ejecutar código Python directamente a través del navegador mientras utilizan recursos informáticos gratuitos, incluidas las GPU, para potenciar sus proyectos.

Debido a la naturaleza multinúcleo de las GPU, Colab es ideal para entrenar proyectos de aprendizaje automático como  modelos deepfake  o para realizar análisis de datos.

Se puede entrenar a los deepfakes para que intercambien rostros en los videoclips, agregando expresiones faciales realistas para que el resultado parezca genuino, aunque sea falso.

Se han utilizado para difundir noticias falsas, crear porno de venganza o por diversión. Sin embargo, la falta de limitaciones éticas en su uso ha sido motivo de controversia y preocupación.

Prohibición de deepfakes

Según  los datos históricos de No tienes permitido ver los links. Registrarse o Entrar a mi cuenta , la prohibición tuvo lugar a principios de este mes, y Google Research  agregó silenciosamente falsificaciones profundas  a la lista de proyectos no permitidos.

Como señaló  en Discord el  desarrollador de DFL ' chervonij ', aquellos que intentan entrenar deepfakes en la plataforma Colab en este momento reciben el siguiente error:

"Es posible que esté ejecutando un código que no está permitido y esto puede restringir su capacidad para usar Colab en el futuro. Tenga en cuenta las acciones prohibidas especificadas en nuestras preguntas frecuentes".

Se espera que el impacto de esta nueva restricción sea de gran alcance en el mundo de las falsificaciones profundas, ya que muchos usuarios utilizan  modelos previamente entrenados  con Colab para impulsar sus proyectos de alta resolución.

Colab estaba haciendo que este proceso fuera muy fácil incluso para aquellos que no tenían experiencia en codificación, razón por la cual tantos  tutoriales  sugieren la plataforma de "recursos gratuitos" de Google para lanzar proyectos falsos.

Abuso de recursos

No se sabe si Google implementó la política debido a preocupaciones éticas o al abuso desenfrenado de los recursos informáticos gratuitos utilizados por estos proyectos.

Colab está destinado a ser utilizado por investigadores que necesitan energía que cuesta varios miles de dólares para ayudarlos a alcanzar objetivos científicos. Eso es especialmente crítico en tiempos de escasez de GPU.

En cambio, hay informes de que algunos usuarios están explotando el nivel gratuito de la plataforma para crear modelos falsos profundos a escala. Esto capturó una cantidad significativa de los recursos disponibles de Colab durante períodos prolongados.

La lista completa de proyectos no permitidos se enumeran a continuación:

- alojamiento de archivos, servicio de medios u otras ofertas de servicios web no relacionadas con la informática interactiva con Colab
- descargar torrents o participar en el intercambio de archivos entre pares
usando un escritorio remoto o SSH
- conectarse a proxies remotos
- minería de criptomonedas
- ejecutar ataques de denegación de servicio
- descifrado de contraseñas
- usar varias cuentas para sortear las restricciones de acceso o uso de recursos
- creando falsificaciones profundas

Todos los proyectos rechazados están lejos de ser elegibles para la investigación científica regular.

Si bien algunos proyectos podrían encajar en ese contexto, parece que Google ha detectado casos mucho más abusivos que legítimos.

Fuente: No tienes permitido ver los links. Registrarse o Entrar a mi cuenta