FraudGPT y WormGPT las IA de la en la Dark Web

AXCESS · Enero 28, 2024, 05:07:48 PM

No tienes permitido ver enlaces. Registrate o Entra a tu cuenta

A medida que la tecnología continúa evolucionando, existe una creciente preocupación sobre la posibilidad de que los "Grandes Modelos de Lenguaje" (LLM >> del inglés: Large Language Models), como ChatGPT, se utilicen con fines delictivos. Se mencionarán dos motores LLM que están disponibles en foros clandestinos, WormGPT y FraudGPT.

La Comunidad Clandestina (¿"de Gatos"?) tiene un gran interés en los LLM.
Un desarrollador desconocido llamado last/laste ha creado su propio análogo del chatbot ChatGPT LLM que está destinado a ayudar a los ciberdelincuentes:

WormGPT

WormGPT nació en marzo de 2021 y no fue hasta junio que el desarrollador comenzó a vender accesos a la plataforma en un popular Foro de hackers. El chatbot hacker no tiene restricciones que le impidan responder preguntas sobre actividades ilegales, a diferencia de los LLM convencionales como ChatGPT.

Como plataforma para crear el chatbot se utilizó el modelo de lenguaje GPT-J de código abierto, relativamente obsoleto y de 2021. El chatbot recibió capacitación en materiales relacionados con el desarrollo de malware, y así nació WormGPT.

El desarrollador estimó el acceso a WormGPT en 60 euros: 100 euros al mes o 550 euros al año.

El siguiente anuncio se publicó en Hack Forums, dirigido a una audiencia de habla inglesa.

HackForum El anuncio de WormGPT
No tienes permitido ver enlaces. Registrate o Entra a tu cuenta

El autor publicó ilustraciones de las capacidades de Blackhat WormGPT, mostrando cómo podría sugerir escribir malware.

WormGPT escribe malware en Python según requisitos
No tienes permitido ver enlaces. Registrate o Entra a tu cuenta

Otro ejemplo famoso de Slashnext que apareció en muchas publicaciones noticiosas, fue la capacidad de WormGPT de escribir correos electrónicos de phishing muy convincentes, haciéndose pasar por el director ejecutivo de una empresa por ejemplo.

Mientras tanto, en el célebre Foro Exploit se mostró otro anuncio relacionado con WormGPT.

No tienes permitido ver enlaces. Registrate o Entra a tu cuenta

Las publicaciones están en inglés. Es extraño que un Foro de habla rusa se cree la raíz de WormGPT a partir de desarrolladores de habla inglesa.

El vendedor ofrece una versión más nueva de WormGPT, WormGPT v2, por 550 euros al año, y una versión privada por 5000 euros que incluye acceso a WormGPT v2. El autor insiste en que WormGPT v2 es una versión más avanzada, con privacidad mejorada, formato y capacidad de cambiar de modelo, y que solo será accesible para suscriptores anuales.

La publicación también incluye una ilustración para demostrar su punto:

WormGPT responde a la petición de crear malware en Python
No tienes permitido ver enlaces. Registrate o Entra a tu cuenta

Ilustración de respuesta de WormGPT v2
No tienes permitido ver enlaces. Registrate o Entra a tu cuenta

No tienes permitido ver enlaces. Registrate o Entra a tu cuenta

Es importante destacar que las ilustraciones no sirven de ayuda para un mayor análisis ya que no se dispone de ninguna de las plataformas WormGPT para comparar sus operaciones. Por ende, no se tiene pruebas de que no sea falso, aunque hay testimonios varios de que es valedero.

FraudGPT

Otro LLM malicioso apareció más tarde en julio de 2023. El autor anuncia su producto, FraudGPT, en varios Foros de la Dark Web y canales de Telegram.

Lo anuncia al menos a partir del 22 de julio de 2023, como una alternativa sin restricciones a ChatGPT, pretendiendo tener miles de ventas y comentarios comprobados.

El rango de precios comienza entre $90 – $200 USD por una suscripción mensual, 3 meses por $230 – $450 USD, $500 – $1,000 USD por una suscripción de medio año y $800 – $1,700 USD por una suscripción anual.

El precio de FraudGPT varía en los diferentes Foros, a pesar de ser el mismo autor. No está claro si estas diferencias de precios se deben a las políticas de monetización de la Dark Web; a la codicia personal del autor; a alguien que intenta imitar su trabajo en un esfuerzo intencional para capitalizar la gran demanda de productos de LLM tan maliciosos.

FraudGPT se describe como una gran herramienta para crear malware indetectable, escribir código malicioso, encontrar fugas y vulnerabilidades, crear páginas de phishing y aprender a hackear.

El autor ilustró su producto con un vídeo que muestra las capacidades de FraudGPT. La demostración muestra la capacidad de FraudGPT para crear páginas de phishing y SMS de phishing.

Fuente:
Trustwave
No tienes permitido ver enlaces. Registrate o Entra a tu cuenta

FraudGPT y WormGPT las IA de la en la Dark Web

AXCESS

Enero 28, 2024, 05:07:48 PM