Los líderes de la industria tecnológica crean la Open Secure AI Alliance para impulsar la ciberdefensa y la seguridad en la IA
NVIDIA y una amplia alianza de empresas e instituciones unen fuerzas para desarrollar herramientas abiertas que fortalezcan la seguridad y la transparencia de los agentes de Inteligencia Artificial.
El software de código abierto es un pilar fundamental de la economía global que sostiene infraestructuras como la computación en la nube, los servicios financieros, las telecomunicaciones o los servicios gubernamentales.
En este contexto, la ciberseguridad se sitúa como una de las áreas más beneficiadas por el modelo abierto. Basándose en iniciativas previas de la Linux Foundation (Akrites) y el trabajo de la comunidad OpenSSF, nace la Open Secure AI Alliance, una iniciativa destinada a identificar, corregir y divulgar vulnerabilidades utilizando tecnologías abiertas.
Frente al reto de proteger infraestructuras críticas, la alianza defiende que la ciberdefensa no debe depender exclusivamente de un reducido número de sistemas opacos.
Aunque los modelos cerrados tienen su espacio, los modelos y arneses (harnesses) de código abierto resultan imprescindibles para democratizar la capacidad defensiva, aportar transparencia a los especialistas, posibilitar la protección de datos e implantar controles locales adaptables sin depender de un único punto de fallo.
Un ejemplo práctico recient de esta necesidad ocurrió durante el incidente de seguridad en Hugging Face: cuando las herramientas cerradas impidieron el análisis forense al no diferenciar entre atacantes y defensores, la organización ejecutó el modelo abierto GLM 5.2 en su propia infraestructura. De este modo, pudieron analizar más de 17 000 acciones y contener la intrusión a tiempo.
Entre las empresas e instituciones promotoras de la alianza se encuentran firmas como NVIDIA, Adobe, Cisco, CrowdStrike, Dell Technologies, GitHub, HPE, Hugging Face, IBM, Microsoft, Nokia, Palantir, Palo Alto Networks, Red Hat, Salesforce, SAP, Siemens o Zscaler, entre muchas otras.
Aportaciones técnicas de los miembros
Para acelerar el desarrollo del conjunto de herramientas de defensa abierta, los integrantes están aportando tecnologías específicas:
NVIDIA: Ha publicado en GitHub el proyecto de código abierto NVIDIA Labs Object-Oriented Agent (NOOA), un marco de trabajo que facilita la integración de capacidades de seguridad en arneses de agentes, haciéndolos más auditables y fáciles de gobernar.
HPE: Contribuye a SPIFFE/SPIRE para establecer estándares de identidad de confianza cero (Zero-Trust) que verifican criptográficamente servicios y agentes de IA.
Hugging Face: Ofrece Safetensors a la Fundación PyTorch, un formato seguro para almacenar pesos de modelos que evita la ejecución remota de código.
IBM y Red Hat: Aportan Lightwell para reforzar la cadena de suministro de código abierto con parches firmados digitalmente.
Microsoft: Ofrece MDASH, un arnés de escaneo multi-modelo que coordina agentes especializados para detectar y probar errores explotables.
SpaceXAI: Ha liberado Grok Build, un agente de programación basado en terminal, y prevé publicar en abierto los pesos de sus modelos Grok.
La alianza concluye con un mensaje dirigido a reguladores y legisladores: las restricciones generalizadas sobre los sistemas avanzados de IA abierta podrían mermar la capacidad defensiva global y concentrar la dependencia en unos pocos proveedores.
Por ello, instan a invertir en infraestructuras abiertas compartidas (conjuntos de datos, simuladores de ataques y marcos de evaluación) para construir un ecosistema resiliente y protegido.1
Contenido e imagen basado en la nota de prensa oficial de NVIDIA con fines informativos.