El análisis LLM es una función de MetaDefender Aether™ que comprueba si los archivos de modelos de IA preentrenados contienen amenazas ocultas antes de su implementación. Combina el análisis estático de la estructura de un modelo con el análisis dinámico del comportamiento de un modelo en funcionamiento, lo que ofrece a los equipos de seguridad una forma de evaluar los modelos de terceros del mismo modo que evaluarían cualquier otro archivo que entrara en la red. |
|---|
Puntos clave
- MetaDefender Adaptive , de Aether ( ), detecta amenazas de día cero mediante la detonación basada en el comportamiento, en lugar de la comparación de firmas, e integra esa información en el proceso de tratamiento de amenazas de cinco capas.Sandbox
- El 4 de septiembre de 2026, la AMTSO aprobó oficialmente las actualizaciones centradas en la inteligencia artificial de su Marco de Evaluación « Sandbox » y las nuevas Directrices para la realización de pruebas de productos de seguridad «Agentic».
- En la prueba realizada por Venak Security en 2026, conforme a la norma AMTSO, Adaptive Sandbox detectó el 95 % de las muestras de malware generadas por IA, el mejor resultado entre los cuatro entornos de pruebas evaluados.
- El análisis de modelos de IA amplía el flujo de trabajo de Aether, de MetaDefender , a siete formatos de modelos de IA generativa, utilizando más de 30 indicadores de amenazas para el análisis estático y prompts adversarios asignados a la lista «OWASP LLM Top 10» para el análisis dinámico.
- Los resultados se asignan a MITRE ATLAS y se integran en MetaDefender , el proceso de evaluación existente de Aether, junto con las amenazas convencionales relacionadas con archivos.
Detección de comportamientos respaldada por un estándar de pruebas de IA
MetaDefender Aether™ Adaptive Sandbox Aether™ existe para detectar amenazas que nadie ha visto antes. En lugar de comparar los archivos con firmas conocidas, los ejecuta en un entorno emulado y observa lo que realmente hacen; así es como detecta el malware de día cero que, de otro modo, burlaría las defensas basadas en la reputación.
MetaDefender Aether es la capa de coordinación que rodea ese motor. Proporciona a Adaptive Sandbox información sobre amenazas para que los veredictos se emitan con mayor rapidez y precisión, e integra los resultados de todas las capas en un único proceso unificado de cinco capas para el tratamiento de amenazas, que abarca la reputación de las amenazas, el análisis predictivo, la detonación dinámica, la puntuación de amenazas y la búsqueda de amenazas.
El 4 de septiembre de 2026, la Organización de Normas de Pruebas Antimalware (AMTSO) confirmó que había aprobado oficialmente una actualización centrada en la inteligencia artificial de su Sandbox Marco de Evaluación, junto con unas nuevas Directrices para las pruebas de productos de seguridad basados en agentes. Ninguno de los dos documentos es obligatorio. Ambos constituyen actualizaciones de una norma de pruebas voluntaria, pero son la señal más clara hasta la fecha de que las pruebas en entornos aislados (sandbox) se están poniendo al día con lo que los modelos de IA son capaces de hacer en la actualidad.
Por qué la seguridad de los modelos de IA se ha convertido de repente en un problema
Las infraestructuras críticas ocupan un lugar central en un debate político que avanza a gran velocidad en dos frentes: el endurecimiento de los marcos normativos estadounidenses en torno a la IA de vanguardia y el impulso paralelo de China en materia de modelos LLM de código abierto y capacidad de cálculo. Ninguna de estas dos tendencias frena el volumen de modelos LLM preentrenados que se incorporan a los entornos empresariales.
OPSWATEse volumen, y no las nuevas técnicas de ataque, es el problema fundamental. La IA no ha inventado nuevas formas de comprometer un archivo. Lo que ha hecho es que los archivos comprometidos y los modelos LLM comprometidos sean mucho más habituales y se generen con mayor rapidez; esa misma presión por el volumen es la que ha dado forma a la tecnología tecnología Deep CDR™ dexml-ph-0000@deepl.internal de xml-ph-0000@deepl.internal ante las amenazas basadas en archivos durante años.
Hace unas semanas, NVIDIA acordó adquirir Hugging Face, el principal centro de distribución de modelos LLM de peso abierto, por 12 930 millones de dólares. La adquisición reúne bajo un mismo techo el mayor repositorio de modelos LLM del sector y su principal proveedor de recursos informáticos.
Anthropic se ha sumado a más de un centenar de empresas, entre ellas OpenAI, Google y Microsoft, para firmar una carta abierta en la que se pedía una defensa cibernética coordinada ante el aumento de los ataques basados en la inteligencia artificial. El informe de inteligencia sobre amenazas de Anthropic de septiembre de 2026 documentaba que los atacantes trataban la cadena de suministro de la IA tanto como objetivo como recurso, incluyendo operaciones diseñadas específicamente para obtener claves de « API » de la IA y credenciales de producción.
OpenAI: «Path to Astra» , publicado el 1 de septiembre de 2026, elevó aún más el listón. Astra es el primer modelo de OpenAI en superar el umbral «crítico» de ciberseguridad según el Marco de Preparaciónde la empresa, capaz de detectar y explotar vulnerabilidades de día cero prácticamente por sí solo. Esa capacidad es precisamente lo que las nuevas directrices de pruebas agentivas de AMTSO están diseñadas para evaluar. Los estándares de pruebas avanzan a toda velocidad para seguir el ritmo de lo que los modelos LLM de vanguardia son ahora capaces de hacer sin supervisión.
Qué abarca realmente el marco de evaluación actualizado de AMTSO sobre el « Sandbox »
El Grupo de Trabajo « Sandbox » de AMTSO ha añadido un nuevo conjunto de criterios centrados en la IA al Marco de Evaluación de la « Sandbox » ya existente, lo que ofrece a los evaluadores una forma estructurada de valorar cómo los entornos de pruebas (sandboxes) tratan los modelos de IA como objetos de análisis y no solo como herramientas. La actualización se sometió a revisión pública durante el verano antes de obtener la aprobación formal de los miembros a principios de septiembre.
El Grupo de Trabajo « Sandbox » de AMTSO está supervisando actualmente la adopción del marco actualizado y creando una estructura de presentación de informes, de modo que los evaluadores puedan comparar el rendimiento de los entornos de pruebas con los nuevos criterios de IA de forma coherente. Este trabajo preliminar es importante porque proporciona a los proveedores un criterio común, en lugar de basarse en las afirmaciones que estos mismos declaran.
MetaDefender La trayectoria de Aether en el marco de AMTSO
Antes de introducir una nueva funcionalidad, resulta útil conocer el rendimiento de la ya existente sometida a un análisis independiente. En el prueba de sandbox de Venak Security, realizada en 2026 y conforme a la norma AMTSO, el Adaptive Sandbox de OPSWATdetectó 19 de las 20 muestras de malware generadas por IA, lo que supone una tasa de detección del 95 % y el mejor resultado entre los cuatro entornos de pruebas evaluados. Venak creó las muestras de prueba con su simulador de malware basado en IA, mapeadas según las técnicas MITRE ATT&CK específicamente para eludir la detección tradicional.
OPSWAT Adaptive Sandbox obtuvo una puntuación del 95 % (19 de 20) en una prueba reciente en la que se utilizaron veinte muestras de cinco categorías de amenazas, creadas con el simulador de malware basado en IA de Venak y asignadas a las técnicas de MITRE ATT&CK.
Análisis estático y dinámico de modelos LLM preentrenados
El análisis de modelos de IA es la funcionalidad que amplía el proceso de varias capas de Aether, de MetaDefender , a los modelos de IA preentrenados. Existen dos tipos distintos de análisis que reflejan el enfoque estático y de comportamiento que también se aplica al malware convencional.
El análisis estático examina los archivos de modelos LLM en siete formatos —Pickle, PyTorch, TensorFlow, Keras, SafeTensors, GGUF y ONNX— sin necesidad de ejecutarlos. Utiliza más de 30 indicadores de amenazas específicos para detectar cargas útiles incrustadas, importaciones peligrosas y puertas traseras propias del método de serialización de cada formato.
El análisis dinámico adopta el enfoque contrario: examina un punto final de un modelo LLM en funcionamiento con indicaciones adversarias asignadas a la OWASP Top 10 para aplicaciones LLM, evaluando las respuestas reales del modelo LLM en busca de inyección de comandos, divulgación de datos sensibles y riesgos de ejecución relacionados. Los resultados de ambas fases se correlacionan con MITRE ATLAS, la base de conocimientos sobre aprendizaje automático adversario, y se integran en MetaDefender el proceso unificado de veredicto existente de Aether, junto con los hallazgos de amenazas convencionales.
A qué ritmo crecen las amenazas relacionadas con los modelos de IA
En mayo de 2026, apareció un repositorio falso que se hacía pasar por un lanzamiento de OpenAI, Open-OSS/privacy-filter, alcanzó el primer puesto en las tendencias de Hugging Face en tan solo 18 horas y acumuló más de 244 000 descargas antes de ser retirado; contaba con un script de carga que instalaba de forma silenciosa un programa de robo de información en los equipos con Windows en los que se ejecutaba.
En julio de 2026, OpenAI reveló que sus propios modelos LLM habían aprovechado vulnerabilidades en la infraestructura de investigación compartida y habían comprometido partes de la plataforma Hugging Face durante evaluaciones internas de ciberseguridad, lo que pone de relieve que la cadena de suministro de los modelos LLM es ahora un objetivo activo para actores sofisticados, y no solo para los oportunistas.
Qué implica la seguridad de los modelos de IA para cinco sectores
Finanzas
Los modelos de LLM para la detección de fraudes y la evaluación de riesgos acceden cada vez más directamente a los datos de las transacciones, bajo la supervisión de organismos reguladores que exigen controles documentados. Un modelo de LLM manipulado en ese proceso genera, al mismo tiempo, tanto un incidente de seguridad como una irregularidad en la auditoría.
Energía y servicios públicos
La IA se está introduciendo en la elaboración de previsiones y la gestión de la red eléctrica, entornos en los que los sistemas de TI y de OT ya se integran. Un modelo LLM con un comportamiento oculto o activable en este contexto conlleva el riesgo de provocar una interrupción física, no solo una filtración de datos.
Las agencias gubernamentales y de defensa
se enfrentan a los requisitos más exigentes en materia de garantía de la cadena de suministro, a menudo en entornos aislados o clasificados. Un modelo LLM comprometido conlleva consecuencias para la seguridad nacional que van mucho más allá de la típica pérdida de datos.
Fabricación
Los modelos LLM de control de calidad y mantenimiento predictivo suelen obtenerse de repositorios públicos para agilizar el proceso. Si un modelo LLM comprometido llega a la línea de producción, puede afectar directamente al tiempo de actividad y a la calidad del producto.
Los modelos LLM de diagnóstico de «
» (atención sanitaria ) procesan datos sensibles de los pacientes de acuerdo con las obligaciones de privacidad vigentes. Un modelo LLM que filtra información mediante la inyección de prompts supone un riesgo real para la privacidad de los pacientes, no uno hipotético.
El futuro de las normas de pruebas de modelos de IA
El Grupo de Trabajo « Sandbox » de AMTSO está supervisando actualmente la adopción del marco actualizado por parte de los proveedores de entornos de pruebas y desarrollando la estructura de informes que permitirá a las organizaciones comparar el rendimiento de las pruebas de IA del mismo modo que ya comparan las tasas de detección convencionales. En el caso de « MetaDefender » Aether, el análisis de modelos de IA es la primera funcionalidad desarrollada y validada según ese estándar emergente desde el primer día.
Lee el análisis técnico completo del escaneo de modelos de IA en la publicación sobre la versión 3.3.0.
