Chinos reutilizan modelo Llama de Meta para aplicaciones de inteligencia militar

AXCESS · Diciembre 23, 2024, 03:11:08 PM

No tienes permitido ver enlaces. Registrate o Entra a tu cuenta

El modelo de IA Llama de Meta es de código abierto y está disponible de forma gratuita para su uso, pero los términos de licencia de la empresa establecen claramente que el modelo está destinado únicamente a aplicaciones no militares.

Sin embargo, ha habido preocupaciones sobre cómo se puede verificar la tecnología de código abierto para garantizar que no se utilice con fines incorrectos y las últimas especulaciones validan estas preocupaciones, ya que informes recientes afirman que investigadores chinos con vínculos con el Ejército Popular de Liberación (EPL) han creado un modelo de IA centrado en lo militar llamado ChatBIT utilizando Llama.

La aparición de ChatBIT destaca el potencial y los desafíos de la tecnología de código abierto en un mundo donde el acceso a la IA avanzada se considera cada vez más como un problema de seguridad nacional.

Un modelo chino de inteligencia artificial para la inteligencia militar

Un estudio reciente realizado por seis investigadores chinos de tres instituciones, incluidas dos vinculadas a la Academia de Ciencias Militares (AMS) del Ejército Popular de Liberación, describe el desarrollo de ChatBIT, creado utilizando una versión preliminar del modelo Llama de Meta.

Al integrar sus parámetros en el modelo de lenguaje grande Llama 2 13B, los investigadores se propusieron producir una herramienta de IA enfocada en lo militar. Los artículos académicos posteriores describen cómo se ha adaptado ChatBIT para procesar diálogos específicos de lo militar y ayudar en las decisiones operativas, con el objetivo de funcionar a alrededor del 90% de la capacidad de GPT-4. Sin embargo, sigue sin estar claro cómo se calcularon estas métricas de rendimiento, ya que no se han revelado procedimientos de prueba detallados ni aplicaciones de campo.

Según se informa, los analistas familiarizados con la IA china y la investigación militar han revisado estos documentos y respaldado las afirmaciones sobre el desarrollo y la funcionalidad de ChatBIT. Afirman que las métricas de rendimiento informadas de ChatBIT se alinean con las aplicaciones de IA experimentales, pero señalan que la falta de métodos de evaluación comparativa claros o conjuntos de datos accesibles dificulta la confirmación de las afirmaciones.

Además, una investigación de Reuters proporciona otra capa de apoyo, citando fuentes y analistas que han revisado materiales que vinculan a los investigadores afiliados al PLA con el desarrollo de ChatBIT. La investigación afirma que estos documentos y entrevistas revelan intentos del ejército chino de reutilizar el modelo de código abierto de Meta para tareas de inteligencia y estrategia, lo que lo convierte en el primer caso publicitado de un ejército nacional que adapta el modelo de lenguaje de Llama para fines de defensa.

El uso de inteligencia artificial de código abierto para fines militares ha reavivado el debate sobre los posibles riesgos de seguridad asociados a la tecnología disponible públicamente. Meta, al igual que otras empresas tecnológicas, ha autorizado Llama con claras restricciones contra su uso en aplicaciones militares. Sin embargo, como ocurre con muchos proyectos de código abierto, hacer cumplir esas restricciones es prácticamente imposible. Una vez que el código fuente está disponible, se puede modificar y reutilizar, lo que permite a los gobiernos extranjeros adaptar la tecnología a sus necesidades específicas. El caso de ChatBIT es un claro ejemplo de este desafío, ya que las intenciones de Meta están siendo ignoradas por quienes tienen prioridades diferentes.

Esto ha dado lugar a nuevos llamamientos dentro de los EE. UU. para que se impongan controles de exportación más estrictos y más limitaciones al acceso chino a tecnologías de código abierto y estándares abiertos como RISC-V. Estas medidas tienen como objetivo evitar que las tecnologías estadounidenses respalden avances militares potencialmente adversarios. Los legisladores también están explorando formas de limitar las inversiones estadounidenses en los sectores de inteligencia artificial, semiconductores y computación cuántica de China para frenar el flujo de conocimientos y recursos que podrían impulsar el crecimiento de la industria tecnológica de China.

A pesar de las preocupaciones que rodean a ChatBIT, algunos expertos cuestionan su eficacia dada la cantidad relativamente limitada de datos utilizados en su desarrollo. Según se informa, el modelo se entrena con 100.000 registros de diálogo militar, lo que es comparativamente pequeño en comparación con los vastos conjuntos de datos utilizados para entrenar modelos lingüísticos de última generación en Occidente. Los analistas sugieren que esto puede restringir la capacidad de ChatBIT para manejar tareas militares complejas, especialmente cuando otros modelos lingüísticos de gran tamaño se entrenan con billones de puntos de datos.

Meta también respondió a estos informes afirmando que Llama 2 13B LLM utilizado para el desarrollo de ChatBIT es ahora una versión obsoleta, y que Meta ya está trabajando en Llama 4. La empresa también se distanció del PLA diciendo que cualquier uso indebido de Llama no está autorizado. Molly Montgomery, directora de políticas públicas de Meta, dijo: "Cualquier uso de nuestros modelos por parte del Ejército Popular de Liberación no está autorizado y es contrario a nuestra política de uso aceptable".

Fuente:
TechRadar
No tienes permitido ver enlaces. Registrate o Entra a tu cuenta

Chinos reutilizan modelo Llama de Meta para aplicaciones de inteligencia militar

AXCESS

Diciembre 23, 2024, 03:11:08 PM