(https://i.postimg.cc/Hj1Lh2d3/microsoft-logo-dark.png) (https://postimages.org/)
Las personas que intenten desbloquear los servicios de inteligencia artificial de Microsoft se enfrentarán a acciones legales, según ha declarado la Unidad de Delitos Digitales (DCU) del gigante tecnológico, señalando a actores de amenazas extranjeros que abusan de los servicios de la empresa y los utilizan como armas.
La DCU de Microsoft quiere crear un precedente que permita emprender acciones legales contra actores maliciosos que desarrollen jailbreaks de inteligencia artificial que permitan la creación de contenido dañino. Los atacantes de inteligencia artificial han ideado varios métodos para eludir las medidas de seguridad integradas, lo que permite a los actores de amenazas utilizar la herramienta de una forma que sus creadores no pretendían que lo hicieran los usuarios.
La medida de la empresa indica que incluso las empresas tecnológicas más ricas son incapaces de poner un límite a la creatividad humana para convertir la nueva tecnología en un arma. Como dijo la propia Microsoft: "Los ciberdelincuentes siguen siendo persistentes e innovan sin descanso". Especialmente cuando el esfuerzo está coordinado en los niveles más altos.
Por ejemplo, Microsoft señala a un "grupo de actores de amenazas con base en el extranjero" que desarrolló un software "sofisticado" que permitía extraer credenciales de sitios web públicos, lo que conducía al acceso no autorizado a cuentas "con ciertos servicios de inteligencia artificial generativa".
Una vez dentro, los actores maliciosos modificaban las capacidades de la inteligencia artificial y procedían a vender el acceso a dichas cuentas. Con esas herramientas a mano, dijo Microsoft, los cibercriminales podían idear contenido dañino e ilícito. Si bien el fabricante de Windows finalmente revocó el acceso de los piratas informáticos al servicio modificado, la acción legal permitió a la empresa confiscar un sitio web que los delincuentes usaban para discutir y organizar el crimen.
"La orden judicial nos ha permitido confiscar un sitio web fundamental para la operación criminal que nos permitirá reunir evidencia crucial sobre las personas detrás de estas operaciones, descifrar cómo se monetizan estos servicios y desmantelar la infraestructura técnica adicional que encontremos", dijo Microsoft.
Si bien la compañía no identificó qué tipo de acciones maliciosas se iniciaron utilizando sus herramientas, a principios de este año, OpenAI, respaldada por Microsoft, dijo que había desmantelado cinco operaciones de influencia encubiertas que buscaban utilizar sus modelos de IA para "actividades engañosas" en Internet.
Fuente:
CyberNews
https://cybernews.com/ai-news/microsoft-legal-action-artificial-intelligence-jailbreaks/