(https://i.postimg.cc/4NcfJybR/AI.png) (https://postimages.org/)
Los hackers finalmente descubren un uso práctico para los modelos de IA locales
ESET anunció hoy el descubrimiento del primer ransomware conocido impulsado por IA. El ransomware en cuestión se ha denominado PromptLock, probablemente porque aparentemente todo lo relacionado con la IA generativa debe ir precedido de "prompt".
ESET afirmó que este malware utiliza un modelo de lenguaje grande y de peso abierto desarrollado por OpenAI para generar scripts que pueden realizar diversas funciones en sistemas Windows, macOS y Linux, a la vez que confunden a las herramientas de defensa al mostrar un comportamiento ligeramente diferente en cada ocasión.
"PromptLock aprovecha scripts Lua generados a partir de indicaciones predefinidas para enumerar el sistema de archivos local, inspeccionar los archivos de destino, exfiltrar datos seleccionados y realizar el cifrado", declaró ESET en una publicación de Mastodon sobre el malware. "Según los archivos de usuario detectados, el malware puede exfiltrar datos, cifrarlos o potencialmente destruirlos. Aunque la función de destrucción parece no estar implementada todavía".
Lua puede parecer una elección extraña como lenguaje de programación para ransomware; es conocido principalmente por su uso para desarrollar juegos en Roblox o plugins para el editor de texto NeoVim. Pero en realidad es un lenguaje de propósito general que ofrece diversas ventajas a los operadores de ransomware, como un buen rendimiento, compatibilidad multiplataforma y un enfoque en la simplicidad que lo hace ideal para la programación de vibraciones.
Es importante recordar que los LLM no son deterministas; su salida cambiará incluso si se proporciona la misma entrada con el mismo mensaje al mismo modelo en el mismo dispositivo. Resulta desesperante si se espera que muestren exactamente el mismo comportamiento a lo largo del tiempo, pero los operadores de ransomware no necesariamente lo desean, ya que facilita que las herramientas defensivas asocien patrones de comportamiento con malware conocido.
PromptLock "utiliza el modelo gpt-oss:20b de OpenAI localmente a través de la API de Ollama para generar scripts Lua maliciosos sobre la marcha", lo que le ayuda a evadir la detección. El hecho de que el modelo se ejecute localmente también impide que OpenAI delate a los operadores de ransomware. Si tuvieran que llamar a una API en sus servidores cada vez que generan uno de estos scripts, se les acabaría el juego. Las trampas de la codificación de vibración tampoco son aplicables, ya que los scripts se ejecutan en el sistema de otra persona.
Quizás esto sea un buen premio de consolación para las empresas de IA. Sí, se enfrentan a demandas masivas. Claro, prácticamente nadie ha visto beneficios al adoptar sus servicios. De acuerdo, incluso Meta está recortando su gasto excesivo en IA. Pero nadie puede decir que la IA sea inútil: ¡ha convencido al menos a algunos operadores de ransomware de usar modelos locales en su warez! Eso cuenta, ¿verdad?
Fuente:
Tom´s Hardware
https://www.tomshardware.com/tech-industry/cyber-security/the-first-ai-powered-ransomware-has-been-discovered-promptlock-uses-local-ai-to-foil-heuristic-detection-and-evade-api-tracking