Vulnerabilidad en Gemini Enterprise permitió la filtración de datos corporativos

AXCESS · Diciembre 13, 2025, 12:24:09 AM

You are not allowed to view links. You are not allowed to view links. Register or Login or You are not allowed to view links. Register or Login

Google solucionó una vulnerabilidad en Gemini Enterprise, denominada GeminiJack, que podía ser explotada mediante ataques de clic cero activados a través de correos electrónicos, invitaciones o documentos manipulados. Según Noma Security, esta vulnerabilidad podría haber expuesto datos corporativos confidenciales.

Gemini Enterprise es la plataforma de productividad con IA de Google para empresas, que integra capacidades de IA generativa en herramientas como Gmail, Calendar, Docs y otras aplicaciones de Workspace. Permite a las organizaciones aprovechar la IA para tareas como redactar correos electrónicos, resumir documentos, generar contenido y automatizar flujos de trabajo, todo dentro de un entorno corporativo y manteniendo la seguridad de los datos.

"Noma Labs descubrió recientemente una vulnerabilidad, ahora conocida como GeminiJack, en Google Gemini Enterprise y anteriormente en Vertex AI Search. Esta vulnerabilidad permitía a los atacantes acceder y extraer datos corporativos mediante un método tan simple como un documento de Google compartido, una invitación de calendario o un correo electrónico", indica el informe publicado por Noma Security. "No se requirió ninguna acción por parte del empleado objetivo. No aparecieron señales de advertencia. Y no se activó ninguna herramienta de seguridad tradicional".

GeminiJack demuestra que las herramientas de IA que acceden a Gmail, Docs y Calendar crean una nueva superficie de ataque, ya que la manipulación de la IA puede comprometer los datos, lo que indica una creciente clase de vulnerabilidades nativas de la IA.

GeminiJack permitía a los atacantes robar datos corporativos incrustando instrucciones ocultas en un documento compartido. Cuando un empleado realizaba una búsqueda en Gemini Enterprise, por ejemplo, "muéstrame nuestros presupuestos", la IA recuperaba automáticamente el archivo infectado, ejecutaba las instrucciones en Gmail, Calendar y Docs, y enviaba los resultados al atacante a través de una solicitud de imagen disfrazada. No se produjo malware ni phishing, y el tráfico parecía legítimo. Una sola inyección podía extraer años de correos electrónicos, el calendario completo y repositorios de documentos enteros, convirtiendo la IA en una herramienta de espionaje corporativo altamente eficiente.

A continuación, se presenta una descripción del ataque proporcionada por Noma Security:

1. Envenenamiento de contenido: El atacante crea un documento de Google Docs, un evento de Google Calendar o un correo electrónico de Gmail con apariencia normal y lo comparte con alguien de su organización. Dentro del contenido hay instrucciones diseñadas para que la IA busque términos confidenciales como "presupuesto", "finanzas" o "adquisición" y luego cargue los resultados en una URL de imagen externa controlada por el atacante.

2. Actividad normal del empleado: Un empleado utiliza Gemini Enterprise para buscar algo rutinario, como "planes de presupuesto del cuarto trimestre". No hay nada inusual en su búsqueda.

3. Ejecución de la IA: Gemini Enterprise utiliza su sistema de recuperación para recopilar contenido relevante. Incorpora el documento del atacante a su contexto. La IA interpreta las instrucciones como consultas legítimas y las ejecuta en todas las fuentes de datos de Workspace a las que tiene permiso de acceso.

4. Exfiltración de datos: Google Gemini incluye la etiqueta de imagen externa del atacante en su resultado. Cuando el navegador intenta cargar esa imagen, envía la información confidencial recopilada directamente al servidor del atacante mediante una solicitud HTTP simple y ordinaria.

El ataque utiliza la inyección indirecta de instrucciones para explotar la brecha entre el contenido controlado por el usuario y la forma en que una IA interpreta las instrucciones. Un atacante inserta comandos ocultos dentro de contenido accesible, como documentos de Google Docs, invitaciones de Calendar o asuntos de correos electrónicos de Gmail. Cuando un empleado realiza una búsqueda normal (por ejemplo, "encontrar todos los documentos de Ventas"), el sistema RAG recupera el contenido manipulado y lo proporciona a Gemini. Gemini interpreta las instrucciones incrustadas como legítimas, realiza búsquedas amplias en todos los datos de Workspace conectados y exfiltra los resultados incrustándolos en una etiqueta de imagen que envía una solicitud HTTP al servidor del atacante. Esto permite el robo de datos silencioso y automático sin necesidad de malware ni interacción del usuario.

A continuación, se muestra el video de la prueba de concepto publicado por los investigadores:

You are not allowed to view links. You are not allowed to view links. Register or Login or You are not allowed to view links. Register or Login

Los investigadores descubrieron la vulnerabilidad durante una evaluación de seguridad el 5 de junio de 2025 e informaron del fallo al equipo de seguridad de Google ese mismo día.

Google abordó rápidamente el problema, colaborando con los investigadores para corregir el fallo en el sistema RAG que permitía que contenido malicioso se interpretara erróneamente como instrucciones.

"GeminiJack demuestra la evolución del panorama de la seguridad a medida que los sistemas de IA se integran profundamente con los datos de las organizaciones. Si bien Google ha solucionado este problema específico, la categoría más amplia de ataques de inyección indirecta de instrucciones contra los sistemas RAG requiere la atención continua de la comunidad de seguridad", concluye el informe. "Esta vulnerabilidad representa un cambio fundamental en la forma en que debemos concebir la seguridad empresarial".

Fuente:
SecurityAffairs
You are not allowed to view links. You are not allowed to view links. Register or Login or You are not allowed to view links. Register or Login

Vulnerabilidad en Gemini Enterprise permitió la filtración de datos corporativos

AXCESS

Diciembre 13, 2025, 12:24:09 AM