(https://i.imgur.com/woGUx77.jpeg)
La rápida adopción de la inteligencia artificial generativa ha impulsado el desarrollo de miles de aplicaciones móviles capaces de interactuar con modelos de lenguaje avanzados como OpenAI, Google Gemini y otros proveedores de IA. Sin embargo, un reciente estudio académico ha puesto de manifiesto un grave problema de seguridad que afecta a una gran parte de este ecosistema: la exposición de claves API y credenciales sensibles dentro de las aplicaciones para iPhone.
Investigadores de la Universidad de Wake Forest analizaron 444 aplicaciones de chatbots de inteligencia artificial disponibles para iPhone y descubrieron que 282 de ellas, aproximadamente el 63%, filtraban mecanismos de acceso a servicios de IA de pago, permitiendo que terceros pudieran utilizar los recursos contratados por los desarrolladores sin autorización.
El hallazgo no solo representa un importante riesgo económico para los propietarios de estas aplicaciones, sino que también demuestra que muchos desarrolladores continúan implementando prácticas inseguras para integrar modelos de lenguaje (LLM), facilitando una modalidad de abuso conocida como LLMjacking.
Un estudio revela una preocupante falta de protección de las claves APIEl trabajo constituye la primera investigación exhaustiva centrada exclusivamente en aplicaciones de inteligencia artificial para iOS. Los investigadores desarrollaron una herramienta denominada LLMKeyLens, diseñada para inspeccionar el tráfico de red generado por las aplicaciones mientras interactúan con servicios de IA.
Lo más preocupante del estudio es que no fue necesario realizar jailbreak, modificar las aplicaciones ni emplear técnicas avanzadas de ingeniería inversa. Bastó con monitorizar las comunicaciones entre la aplicación y los servidores remotos para identificar las credenciales utilizadas.
En numerosos casos, la información crítica viajaba directamente dentro del tráfico de red en forma de:
- Claves API visibles en texto plano.
- Tokens de autenticación reutilizables.
- Servidores backend que aceptaban solicitudes sin verificar la identidad del usuario.
Cualquiera que lograra interceptar estas comunicaciones podía reutilizar dichas credenciales para enviar consultas a modelos de inteligencia artificial utilizando la cuenta del desarrollador, quien terminaría asumiendo todos los costos generados.
Tres tipos de vulnerabilidades dominaron el análisisLos investigadores clasificaron las aplicaciones vulnerables en tres grandes categorías según el tipo de exposición detectada.
1. Claves API expuestas en texto planoUn total de 54 aplicaciones enviaban directamente la clave API dentro de las solicitudes HTTP.
Esto significa que cualquier persona con acceso al tráfico podía copiar la credencial completa y comenzar a utilizar inmediatamente los servicios contratados por el desarrollador.
La situación resulta especialmente crítica porque estas claves permiten autenticarse directamente frente a plataformas de inteligencia artificial como OpenAI o Google Gemini.
2. Servidores sin autenticaciónEn 92 aplicaciones, los investigadores descubrieron un problema todavía más grave.
Las solicitudes eran enviadas a servidores intermedios que no verificaban ningún mecanismo de autenticación, permitiendo que cualquier usuario pudiera enviar peticiones libremente.
En la práctica, estos servidores funcionaban como una puerta abierta hacia modelos de IA comerciales, facilitando el consumo ilimitado de recursos de pago.
3. Tokens reutilizablesLa categoría más numerosa correspondió a 136 aplicaciones que utilizaban tokens temporales de acceso.
Aunque este enfoque pretende mejorar la seguridad frente al uso de claves API permanentes, los investigadores comprobaron que los tokens podían capturarse fácilmente durante la comunicación y reutilizarse posteriormente.
En numerosos casos, estos tokens permanecían activos mucho más tiempo del previsto.
Uno de los ejemplos más llamativos fue una aplicación con más de 100.000 valoraciones, cuyo token de acceso estaba configurado para expirar en el año 2125, eliminando completamente el concepto de autenticación temporal.
En otro caso, un token con una vigencia teórica de apenas una hora seguía siendo completamente funcional 128 días después de haber caducado.
También quedaron expuestos los prompts internos de los asistentesAdemás de las credenciales de acceso, los investigadores identificaron otra filtración especialmente sensible.
En 28 de las 54 aplicaciones que exponían claves API en texto plano, también fue posible recuperar los prompts del sistema, es decir, las instrucciones internas que determinan el comportamiento del chatbot.
Estos prompts contienen información estratégica sobre el funcionamiento del asistente, reglas internas, restricciones, personalidad del modelo y lógica empresarial implementada por los desarrolladores.
En otras palabras, una única captura de tráfico permitía obtener tanto la credencial de acceso como la configuración completa del sistema de inteligencia artificial.
OpenAI lidera la lista de proveedores afectadosLas filtraciones no se limitaron a un único proveedor.
El estudio identificó credenciales pertenecientes a al menos diez plataformas distintas de inteligencia artificial, siendo OpenAI el proveedor más frecuente.
Las aplicaciones afectadas pertenecían a 13 categorías diferentes, lo que demuestra que el problema se encuentra ampliamente distribuido dentro del ecosistema móvil.
Las aplicaciones de productividad representaron el mayor volumen de casos vulnerables.
Sin embargo, las aplicaciones de salud y fitness registraron el porcentaje más elevado de filtraciones.
En contraste, las aplicaciones financieras y médicas analizadas no mostraron exposiciones de este tipo, lo que sugiere la aplicación de controles de seguridad considerablemente más estrictos.
Aunque muchas aplicaciones afectadas eran proyectos pequeños, los investigadores también encontraron casos con más de dos millones de valoraciones, demostrando que incluso aplicaciones ampliamente utilizadas pueden presentar graves errores de implementación.
LLMjacking: una amenaza con importantes consecuencias económicasEl robo de claves API no constituye únicamente un problema técnico.
Actualmente existe una práctica conocida como LLMjacking, mediante la cual los ciberdelincuentes utilizan credenciales robadas para acceder gratuitamente a modelos comerciales de inteligencia artificial.
Las consecuencias financieras pueden ser extremadamente elevadas.
Investigaciones previas realizadas por la empresa de ciberseguridad Sysdig estiman que una única clave comprometida podría generar más de 46.000 dólares diarios en consumo fraudulento, dependiendo del modelo de IA utilizado y del volumen de consultas realizadas.
Dado que muchos proveedores cobran por número de tokens procesados, el uso no autorizado puede disparar rápidamente la factura del desarrollador afectado.
La mayoría de los desarrolladores aún no corrigen el problemaTras completar el análisis, los investigadores notificaron responsablemente las vulnerabilidades a los 282 desarrolladores afectados y concedieron un plazo de tres meses para implementar soluciones.
Los resultados fueron decepcionantes.
Solo el 28% corrigió claramente la exposición de credenciales.
Otro 23% seguía permitiendo el acceso mediante las claves o tokens filtrados.
El resto de las aplicaciones dejó de responder, fue retirada o devolvía errores que impidieron verificar si el problema había sido solucionado.
Estos resultados reflejan la escasa prioridad que muchos desarrolladores continúan otorgando a la protección de las credenciales de acceso utilizadas por sus aplicaciones.
Cómo evitar la exposición de claves API en aplicaciones de IALos investigadores insisten en que la solución es bien conocida desde hace años.
Las claves API nunca deben almacenarse ni enviarse directamente desde la aplicación cliente.
En su lugar, todas las solicitudes hacia los modelos de inteligencia artificial deben pasar por un servidor backend controlado por el desarrollador.
Este servidor debe:
- Autenticar correctamente a cada usuario.
- Gestionar las claves API de forma segura.
- Revocar inmediatamente cualquier credencial comprometida.
- Aplicar límites de uso y monitorización para detectar comportamientos anómalos.
Asimismo, el estudio propone que los proveedores de servicios de IA mejoren su documentación para advertir explícitamente sobre los riesgos de utilizar claves del lado del cliente.
También recomiendan implementar sistemas capaces de detectar automáticamente cuando una misma clave comienza a utilizarse desde miles de dispositivos distintos, un claro indicador de compromiso.
Por último, solicitan que Apple incorpore este tipo de comprobaciones durante el proceso de revisión de aplicaciones en la App Store para impedir que aplicaciones vulnerables lleguen a los usuarios.
En fin...El estudio de la Universidad de Wake Forest pone de manifiesto un problema de seguridad que afecta a una gran parte de las aplicaciones de inteligencia artificial disponibles para iPhone. La exposición de claves API, tokens reutilizables y servidores sin autenticación facilita el crecimiento del LLMjacking, una amenaza que puede generar pérdidas económicas millonarias y comprometer la infraestructura de servicios de IA.
A medida que la inteligencia artificial continúa integrándose en aplicaciones móviles de todos los sectores, la protección de las credenciales de acceso debe convertirse en una prioridad absoluta. Implementar arquitecturas backend seguras, evitar el almacenamiento de claves en el cliente y aplicar mecanismos adecuados de autenticación serán medidas esenciales para impedir que este tipo de vulnerabilidades siga creciendo en el ecosistema de aplicaciones basadas en modelos de lenguaje.
Fuente: https://thehackernews.com/