El chatbot de IA DeepSeek R1 puede manipularse para crear malware

AXCESS · Marzo 14, 2025, 12:26:14 AM

No tienes permitido ver enlaces. Registrate o Entra a tu cuenta

Un nuevo análisis de la firma de ciberseguridad Tenable Research revela que el chatbot de IA de código abierto DeepSeek R1 puede manipularse para generar software malicioso, incluyendo keyloggers y ransomware.

El equipo de investigación de Tenable se propuso evaluar la capacidad de DeepSeek para crear código dañino. Se centraron en dos tipos comunes de malware: keyloggers, que registran secretamente las pulsaciones de teclas, y ransomware, que cifra archivos y exige un pago por su liberación.

Si bien el chatbot de IA no produce malware completamente funcional de fábrica y requiere una guía adecuada y correcciones manuales de código para producir un keylogger completamente funcional, la investigación sugiere que podría reducir las barreras de entrada para los ciberdelincuentes.

Inicialmente, al igual que otros grandes modelos de lenguaje (LLM), DeepSeek cumplió con sus directrices éticas integradas y rechazó las solicitudes directas para desarrollar malware. Sin embargo, los investigadores de Tenable emplearon una técnica de "jailbreak" que engañó a la IA, presentando la solicitud con "fines educativos" para eludir estas restricciones.

Los investigadores aprovecharon una función clave de DeepSeek: su capacidad de "cadena de pensamiento" (CdP). Esta característica permite a la IA explicar su proceso de razonamiento paso a paso, de forma similar a como alguien piensa en voz alta mientras resuelve un problema. Al observar la CdP de DeepSeek, los investigadores obtuvieron información sobre cómo la IA abordaba el desarrollo de malware e incluso reconocieron la necesidad de técnicas de sigilo para evitar la detección.

DeepSeek: Desarrollo de Keylogger

Cuando se le encargó desarrollar un keylogger, DeepSeek primero delineó un plan y luego generó código C++. Este código inicial presentaba fallas y contenía varios errores que la IA no pudo corregir por sí sola. Sin embargo, con algunos ajustes manuales de código por parte de los investigadores, el keylogger funcionó correctamente, registrando las pulsaciones de teclas en un archivo.

Esta captura de pantalla muestra el keylogger creado por DeepSeek ejecutándose en el Administrador de tareas, junto con el archivo de registro generado. (Crédito: Tenable Research)

Para ir un paso más allá, los investigadores solicitaron a DeepSeek que ayudara a mejorar el malware ocultando el archivo de registro y cifrando su contenido, para lo cual lograron proporcionar código, requiriendo también una pequeña corrección humana.

DeepSeek Desarrolla Ransomware

El experimento con ransomware siguió un patrón similar. DeepSeek definió su estrategia para crear malware de cifrado de archivos. Produjo varias muestras de código diseñadas para realizar esta función, pero ninguna de estas versiones iniciales se compilaba sin edición manual.

Sin embargo, tras algunos ajustes por parte del equipo de Tenable, algunas de las muestras de ransomware se pusieron en funcionamiento. Estas muestras funcionales incluían funciones para encontrar y cifrar archivos, un método para garantizar que el malware se ejecute automáticamente al iniciar el sistema e incluso un mensaje emergente que informaba a la víctima sobre el cifrado.

DeepSeek Tuvo Dificultades con Tareas Maliciosas Complejas

Si bien DeepSeek demostró su capacidad para generar los componentes básicos del malware, los hallazgos de Tenable destacan que está lejos de ser una solución fácil de usar para los ciberdelincuentes. Crear malware efectivo aún requiere conocimientos técnicos para guiar a la IA y depurar el código resultante. Por ejemplo, DeepSeek tuvo dificultades con tareas más complejas, como hacer que el proceso del malware fuera invisible para el administrador de tareas del sistema.

Sin embargo, a pesar de estas limitaciones, los investigadores de Tenable creen que el acceso a herramientas como DeepSeek podría acelerar el desarrollo de malware. La IA puede proporcionar una ventaja significativa, ofreciendo fragmentos de código y describiendo los pasos necesarios, lo que podría ser especialmente útil para personas con poca experiencia en programación que buscan participar en ciberdelitos.

"DeepSeek puede crear la estructura básica del malware", explica el informe técnico de Tenable, compartido antes de su publicación el jueves. "Sin embargo, no es capaz de hacerlo sin ingeniería adicional y rápida, así como la edición manual de código para funciones más avanzadas". La IA tuvo dificultades con tareas más complejas, como ocultar completamente la presencia del malware a las herramientas de monitorización del sistema.

Trey Ford, director de seguridad de la información de Bugcrowd, empresa líder en ciberseguridad colaborativa con sede en San Francisco, California, comentó sobre el último desarrollo, enfatizando que la IA puede ayudar tanto a los actores bienhechores como a los maliciosos, pero que los esfuerzos de seguridad deberían centrarse en encarecer los ciberataques mediante el fortalecimiento de los endpoints, en lugar de esperar que las soluciones EDR prevengan todas las amenazas.

"Los delincuentes serán delincuentes y usarán todas las herramientas y técnicas a su alcance. El desarrollo asistido por GenAI permitirá una nueva generación de desarrolladores, tanto para iniciativas altruistas como maliciosas", afirmó Trey.

"A modo de recordatorio, el mercado de EDR se centra explícitamente en la DETECCIÓN y RESPUESTA de endpoints; no está diseñado para interrumpir todos los ataques. En última instancia, debemos hacer todo lo posible para aumentar el coste de estas campañas dificultando la explotación de los endpoints; es fundamental reforzarlos según los estándares CIS 1 o 2", explicó.

Fuente:
HackRead
No tienes permitido ver enlaces. Registrate o Entra a tu cuenta

El chatbot de IA DeepSeek R1 puede manipularse para crear malware

AXCESS

Marzo 14, 2025, 12:26:14 AM