La IA de Google fue detectada escaneando archivos en Google Drive sin permiso

AXCESS · Julio 14, 2024, 09:58:21 PM

No tienes permitido ver enlaces. Registrate o Entra a tu cuenta

Como parte del impulso más amplio de la industria tecnológica hacia la IA, lo queramos o no, parece que el servicio Gemini AI de Google ahora está leyendo documentos privados de Drive sin el permiso expreso del usuario, según un informe de Kevin Bankster en Twitter incluido a continuación.

No tienes permitido ver enlaces. Registrate o Entra a tu cuenta

Si bien Bankster continúa analizando las razones por las que esto puede resultar problemático para usuarios como él en particular, la total falta de control que se está otorgando sobre su información sensible y privada es inaceptable para una empresa de la talla de Google y no augura nada bueno para futuras preocupaciones sobre privacidad. entre el despliegue a menudo forzado de la IA.

Entonces, ¿qué está pasando aquí exactamente? Tanto el soporte de Google como la propia Gemini AI no parecen saberlo del todo, pero Kevin Bankston tiene algunas teorías, después de proporcionar muchos más detalles en el hilo completo.

Al contrario de la publicación inicial, esto técnicamente está sucediendo dentro del ámbito más amplio de Google Drive y no específicamente de Google Docs, aunque parece probable que el problema también se aplique a Docs.

¿Pero qué causó este problema?

Según Gemini AI de Google, las configuraciones de privacidad utilizadas para informar a Gemini deberían estar disponibles abiertamente, pero no lo están, lo que significa que la IA está "alucinando (miente)" o algunos sistemas internos de los servidores de Google no funcionan correctamente. De cualquier manera, no tiene una gran apariencia, incluso si estos datos privados supuestamente no se utilizan para entrenar la IA de Gemini.

Es más, Bankston finalmente encontró la opción de configuración en cuestión... solo para descubrir que los resúmenes de Gemini en Gmail, Drive y Docs ya estaban deshabilitados. Además, estaba en un lugar completamente diferente a cualquiera de las páginas web a las que apuntaba inicialmente el robot de Gemini.

Para Bankston, el problema parece localizado en Google Drive y sólo ocurre después de presionar el botón Gemini en al menos un documento. El tipo de documento coincidente (en este caso, PDF) activará automáticamente Google Gemini para todos los archivos futuros del mismo tipo abiertos en Google Drive. También teoriza que esto pudo haber sido causado por haber habilitado Google Workspace Labs en 2023, lo que podría estar anulando la configuración prevista de Gemini AI.

Incluso si este problema se limita a los usuarios de Google Workspace Labs, es una desventaja bastante grave por haber ayudado a Google a probar su última y mejor tecnología.

El consentimiento del usuario sigue siendo importante de forma granular, particularmente con información potencialmente confidencial, y Google le ha fallado por completo al menos a un segmento de su base de usuarios al no mantenerse fiel a ese principio.

Fuente:
Tom's Hardware
No tienes permitido ver enlaces. Registrate o Entra a tu cuenta

La IA de Google fue detectada escaneando archivos en Google Drive sin permiso

AXCESS

Julio 14, 2024, 09:58:21 PM