Recientemente se ha revelado una vulnerabilidad en Microsoft 365 Copilot que podría haber permitido el robo de información confidencial mediante una técnica conocida como "contrabando ASCII". Esta técnica utiliza caracteres Unicode que parecen ASCII, pero que no son visibles en la interfaz de usuario, lo que permite a los atacantes ocultar datos en hipervínculos.
El investigador de seguridad Johann Rehberger explicó: "El contrabando ASCII permite que el modelo de lenguaje incruste datos invisibles dentro de enlaces clicables, preparando la información para su exfiltración".
El ataque involucra varios pasos encadenados, incluyendo:
- Inyección de avisos a través de contenido malicioso en documentos compartidos.
- Uso de una carga útil para que Copilot busque correos y documentos adicionales.
- Aprovechamiento del contrabando ASCII para exfiltrar datos a un servidor controlado por el atacante.
Esta vulnerabilidad podría haber permitido la transmisión de datos sensibles, como códigos de autenticación multifactor (MFA), a servidores externos. Microsoft solucionó el problema tras su divulgación en enero de 2024.
Este incidente subraya los riesgos asociados con herramientas de inteligencia artificial como Microsoft Copilot. Pruebas de concepto han demostrado cómo actores maliciosos pueden manipular respuestas, exfiltrar datos y evadir protecciones de seguridad, utilizando técnicas como el envenenamiento de generación aumentada de recuperación (RAG) e inyección indirecta de avisos. Estas técnicas podrían permitir la ejecución remota de código y convertir a Copilot en una herramienta de spear-phishing.
Además, Microsoft ha advertido sobre los riesgos de bots de Copilot expuestos públicamente sin protecciones adecuadas, lo que podría facilitar la extracción de información confidencial si los atacantes conocen el nombre o la URL del Copilot.
Las empresas deben evaluar su exposición al riesgo y habilitar la Prevención de Pérdida de Datos (DLP) y otros controles de seguridad para protegerse contra posibles fugas de información a través de Copilot y otros agentes virtuales.
Fuente: No tienes permitido ver enlaces. Registrate o Entra a tu cuenta