Investigadores chinos desarrollan modelo IA para uso militar usando Llama de Meta

Altas instituciones de investigación chinas vinculadas al Ejército Popular de Liberación, EPL, han utilizado el modelo Llama de Meta, de acceso público, para desarrollar una herramienta de inteligencia artificial (IA) con posibles aplicaciones militares, según tres artículos académicos y analistas.

ARTÍCULO RELACIONADO

Meta reportó ingresos trimestrales de US$45.590 millones, usuarios activos crecieron 5%

En un artículo publicado en junio y reseñado por Reuters, seis investigadores chinos de tres instituciones, entre ellas dos dependientes del principal organismo de investigación del EPL, la Academia de Ciencias Militares, detallaron cómo usaron una versión temprana de Llama de Meta como base para lo que denominan "ChatBIT".

Los investigadores utilizaron un modelo de lenguaje de gran tamaño (LLM) Llama 13B anterior de Meta, incorporando sus propios parámetros para construir una herramienta de IA centrada en el ámbito militar para recopilar y procesar inteligencia, y ofrecer información precisa y fiable para la toma de decisiones operativas.

Según el artículo, ChatBIT se perfeccionó y "optimizó para tareas de diálogo y respuesta a preguntas en el ámbito militar". Se descubrió que superaba a otros modelos de IA que eran cerca de 90% más capaces que el potente ChatGPT-4 de OpenAI. Los investigadores no detallaron cómo definieron el rendimiento ni especificaron si el modelo de IA se había puesto en servicio.

"Es la primera vez que hay pruebas sustanciales de que expertos militares del Ejército Popular de Liberación de China han estado investigando de forma sistemática y tratando de aprovechar la potencia de los LLM de código abierto, sobre todo los de Meta, con fines militares", dijo Sunny Cheung, investigador asociado de la Jamestown Foundation especializado en tecnologías emergentes y de doble uso en China.

ARTÍCULO RELACIONADO

La inteligencia artificial se abre paso entre la oferta de educación superior

Meta ha adoptado la publicación abierta de muchos de sus modelos de IA, incluido Llama. Impone restricciones a su uso, incluido el requisito de que los servicios con más de 700 millones de usuarios soliciten una licencia a la empresa.

Sus condiciones también prohíben el uso de los modelos para "industrias o aplicaciones militares, bélicas o nucleares, espionaje" y otras actividades sujetas a los controles de exportación de defensa de Estados Unidos, así como para el desarrollo de armas y contenidos destinados a "incitar y promover la violencia".

Sin embargo, dado que los modelos de Meta son públicos, la empresa dispone de medios limitados para hacer cumplir esas disposiciones. En respuesta a las preguntas de Reuters, Meta citó su política de uso aceptable y dijo que adopta medidas para evitar usos indebidos.

"Cualquier uso de nuestros modelos por parte del Ejército Popular de Liberación no está autorizado y es contrario a nuestra política de uso aceptable", declaró a Reuters Molly Montgomery, directora de política pública de Meta, en una entrevista telefónica.

El Ministerio de Defensa chino no respondió a una petición de comentario, ni tampoco ninguna de las instituciones o investigadores. Reuters no pudo confirmar las capacidades y la potencia de cálculo de ChatBIT, aunque los investigadores señalaron que su modelo incorpora sólo 100.000 registros de diálogos militares, un número relativamente pequeño en comparación con otros LLM.

ARTÍCULO RELACIONADO

Google incluye respuestas de inteligencia artificial para las aplicaciones de los mapas

"Es una gota de agua en el océano comparado con la mayoría de estos modelos (que) se entrenan con billones de tokens, así que (...) realmente me hace preguntarme qué es lo que realmente consiguen aquí en términos de capacidades diferentes", dijo Joelle Pineau, vicepresidenta de Investigación de IA en Meta y profesora de informática en la Universidad McGill de Canadá.

La investigación se produce en medio de un acalorado debate en los círculos tecnológicos y de seguridad nacional de Estados Unidos sobre si empresas como Meta deberían hacer públicos sus modelos.

El portavoz del Pentágono, John Supple, declaró que el Departamento de Defensa reconoce que los modelos de código abierto tienen tanto ventajas como inconvenientes, y que "seguiremos vigilando de cerca y evaluando las capacidades de los competidores".