(https://i.postimg.cc/ydpScWLr/artificial-intelligence-AI.png) (https://postimg.cc/47tdT4kz)
Un nuevo chatbot de IA llamado Venice.ai ha ganado popularidad en foros clandestinos de hackers gracias a su ausencia de restricciones de contenido.
(https://i.postimg.cc/0NW0sZVc/Venice-ai.png) (https://postimages.org/)
Según una investigación reciente de Certo, la plataforma ofrece a sus suscriptores acceso sin censura a modelos de lenguaje avanzados por tan solo 18 dólares al mes, un precio significativamente inferior al de otras herramientas de IA de la dark web como WormGPT y FraudGPT, que suelen venderse por cientos o incluso miles de dólares.
Lo que distingue a Venice.ai es su mínima supervisión. La plataforma almacena el historial de chat únicamente en los navegadores de los usuarios, no en servidores externos, y se promociona como "privada y sin permisos".
Este diseño centrado en la privacidad, combinado con la posibilidad de desactivar los filtros de seguridad restantes, resulta especialmente atractivo para los ciberdelincuentes.
A diferencia de herramientas convencionales como ChatGPT, Venice.ai puede generar correos electrónicos de phishing, malware y código de spyware bajo demanda.
Durante las pruebas, Certo afirmó que logró que el chatbot creara mensajes fraudulentos realistas y ransomware completamente funcional. Incluso generó una aplicación espía para Android capaz de grabar audio sin el conocimiento del usuario, un comportamiento que la mayoría de las plataformas de IA rechazarían de plano.
Los hallazgos de Certo sugieren que Venice.ai va más allá de simplemente ignorar consultas dañinas. Parece haber sido configurado para anular por completo las restricciones éticas.
En un ejemplo, razonó a través de una solicitud ilegal, reconoció su naturaleza maliciosa y procedió de todos modos. El resultado generado incluyó:
- Keyloggers en C# diseñados para sigilo
- Ransomware basado en Python con cifrado de archivos y notas de rescate
- Spyware para Android con activación al arranque y carga de audio
El informe de Certo destaca un desafío creciente: a medida que las herramientas de IA se vuelven más potentes y fáciles de acceder, también aumenta su potencial de uso indebido.
Venecia.ai es el último recordatorio de que, sin controles rigurosos, la misma tecnología que impulsa la innovación también puede impulsar la ciberdelincuencia.
Fuente:
InfoSecurity
https://www.infosecurity-magazine.com/news/uncensored-ai-tool-cybersecurity/