El software de código abierto es un pilar fundamental de la economía global. Sustenta la computación en la nube, los servicios financieros, la manufactura, las telecomunicaciones, el gobierno y los servicios de internet, al hacer que la tecnología sea accesible y observable para comunidades de expertos.
La ciberseguridad se encuentra entre los tres principales beneficiarios del software de código abierto. La Open Secure AI Alliance, que se basa en el liderazgo de la iniciativa Akrites de la Linux Foundation y el trabajo de la comunidad OpenSSF, trabajará para corregir y divulgar vulnerabilidades utilizando tecnologías abiertas.
Del mismo modo que el código abierto creó una base común para el software, Estados Unidos y sus socios se enfrentan ahora a una disyuntiva en materia de seguridad de la IA, si las defensas que protegen nuestra infraestructura residirán dentro de unos pocos sistemas opacos o se construirán sobre modelos, plataformas y herramientas abiertas que cualquier defensor pueda estudiar, adaptar e implementar.
El mundo necesita modelos tanto cerrados como abiertos. En ciberseguridad, los modelos y las plataformas abiertas son esenciales porque democratizan las capacidades defensivas, aumentan la transparencia para los defensores, permiten la ciberdefensa protegiendo los datos y complementan los modelos cerrados más avanzados con controles personalizables y localizados. El código abierto posibilita una defensa masivamente distribuida, impulsada por la comunidad y autogestionada, sin un único punto de fallo.
Los modelos abiertos, como cualquier tecnología potente, pueden ser mal utilizados, incluso mediante intentos de debilitar las medidas de seguridad o de reutilizar las capacidades para ciberataques, pero esos riesgos no son exclusivos de los sistemas abiertos y deben gestionarse dondequiera que se implemente IA avanzada.
El reciente incidente de seguridad de Hugging Face demuestra que los ciberdefensores necesitan sistemas de agentes abiertos y de vanguardia para su autodefensa. Cuando las herramientas de IA cerradas, incapaces de distinguir entre atacantes y defensores, bloquearon un análisis forense esencial, Hugging Face ejecutó el modelo GLM 5.2 de ponderación abierta en su propia infraestructura para analizar más de 17,000 acciones y contener la intrusión.
Ese incidente puso de manifiesto una realidad práctica, cuando los responsables de la seguridad no pueden inspeccionar, adaptar ni ejecutar IA avanzada en su propia infraestructura, su capacidad de respuesta se ve limitada justo cuando la velocidad es crucial. Las empresas y los países necesitan herramientas y técnicas de defensa de código abierto para que las industrias críticas puedan desarrollar sistemas de seguridad en un ecosistema multivendedor y evitar puntos únicos de fallo.
Esa es la misión de la Open Secure AI Alliance, garantizar que los defensores de todo el mundo dispongan de herramientas abiertas y de vanguardia en las que puedan confiar y que puedan controlar.
“Open Secure AI Alliance refuerza una visión que consideramos esencial para el avance seguro de la inteligencia artificial, la colaboración. Al reunir a empresas, investigadores y a la comunidad de código abierto, esta iniciativa amplía el acceso a herramientas que fortalecen la seguridad, la transparencia y la confianza en la IA. Para las organizaciones de América Latina, esto representa una oportunidad para desarrollar y adoptar soluciones más resilientes, preparadas para responder a los desafíos de seguridad en un entorno cada vez más impulsado por agentes de inteligencia artificial”, afirmó Marcio Aguiar, director de la división Enterprise de NVIDIA para América Latina.
Líderes en computación en la nube, ciberseguridad, software empresarial, fundaciones de código abierto e investigación de IA, incluyendo NVIDIA, Adobe, Cadence, Capital One, Cisco, Cloudera, Cloudflare, Cognition, CrowdStrike, Databricks, Dell Technologies, DoorDash, Elastic, HPE, Hugging Face, IBM, LangChain, la Linux Foundation, Microsoft, NAVER, NetApp, Nous Research, OpenClaw, Palantir, Palo Alto Networks, Red Hat, Reflection AI, Salesforce, SAP, SK Telecom, ServiceNow, Siemens, Snowflake, SpacexAI, Synopsys, Thinking Machines Lab y TrendAI, son socios fundadores de Open Secure AI Alliance, un movimiento para desarrollar y compartir tecnologías, técnicas y herramientas abiertas para salvaguardar el software y los agentes en la era de la IA.
Algunos argumentan que los modelos abiertos son inherentemente menos seguros porque pueden usarse indebidamente para ciberataques o modificarse para eliminar las medidas de seguridad. Estos riesgos son reales, pero no desaparecen en los sistemas cerrados, y el simple hecho de mantener los pesos cerrados no impide que atacantes decididos busquen o exploten una IA.
La respuesta adecuada no consiste en negar a los defensores el acceso a sistemas abiertos y capaces. Consiste en combinar la apertura con sólidas medidas de seguridad, normas claras contra el uso malicioso, una evaluación rigurosa y una rápida corrección. En ciberseguridad, el camino más seguro es aquel que permite a más defensores probar, verificar y fortalecer los sistemas de los que depende la sociedad.
Los responsables de la defensa necesitan tanto modelos de fronteras cerradas como modelos de fronteras abiertas, que funcionen conjuntamente, para poder elegir el sistema adecuado para cada tarea y garantizar que la transparencia, la adaptación y el control soberano estén disponibles allí donde la seguridad lo exija.
La investigación abierta mejora la ciberseguridad y la seguridad de la IA
Un agente de IA no es solo un modelo de lenguaje. Es un sistema complejo construido a partir de modelos, arneses y límites de seguridad.
La seguridad real de la IA depende de todo el conjunto de agentes (identidad, permisos, sistemas de control, medidas de protección, registros y evaluación), y no solo de si los pesos del modelo son abiertos o cerrados. Los sistemas de control y las herramientas abiertas facilitan a muchos responsables de la seguridad la inspección, las pruebas y la mejora de estos controles.
NVIDIA está aportando modelos abiertos, ponderaciones de modelos, datos e investigaciones sobre el aprovechamiento de nuevos agentes a Open Secure AI Alliance para acelerar el desarrollo de nuevas herramientas y técnicas de ciberseguridad.
El nuevo proyecto de código abierto NVIDIA Labs Object-Oriented Agent (NOOA) ya está disponible en GitHubpara facilitar el acceso a capacidades avanzadas de seguridad de IA para plataformas de agentes. El marco de investigación de NOOA permite que estas plataformas se integren mejor con los modelos, simplificando así las pruebas, el seguimiento, la auditoría y la gestión del comportamiento de los agentes.
En toda la Alianza, los colaboradores están creando un conjunto de herramientas de defensa abiertas para agentes, desde la identidad y el aislamiento hasta formatos de modelos seguros, escaneo multimodelos y flujos de trabajo de codificación seguros.
HPE contribuye a SPIFFE/SPIRE, que crea estándares y métodos de marco de identidad de confianza cero que pueden verificar criptográficamente los agentes y servicios de IA para garantizar que solo las cargas de trabajo autorizadas se comuniquen y accedan a los recursos empresariales.
Hugging Face ha ofrecido Safetensors, un formato seguro para almacenar los pesos de los modelos de IA, que proporciona transparencia y garantías de que no se ejecutará código de forma remota a la Fundación PyTorch.
Lightwell, la solución de IBM y Red Hat, extiende la seguridad a lo largo de la cadena de suministro de código abierto mediante parches firmados digitalmente.
El sistema de escaneo multimodal MDASH de Microsoft coordina agentes de IA especializados para descubrir, debatir y demostrar vulnerabilidades explotables.
SpaceXAI ha liberado el código fuente del agente de codificación de IA basado en terminal Grok Build para promover la confianza, la transparencia y nuevas capacidades, y planea liberar el código fuente de los pesos de la línea de modelos Grok para apoyar a las comunidades de desarrolladores e investigadores.
Un llamamiento a los responsables políticos y reguladores
A medida que los responsables políticos y los reguladores abordan la seguridad de la IA, será crucial reconocer los modelos abiertos, las plataformas y las herramientas de seguridad como activos defensivos, no como pasivos, en las políticas de IA y ciberseguridad. Las restricciones generalizadas a los sistemas de IA de frontera abierta debilitarían la capacidad de defensa y conllevarían el riesgo de concentrar el poder, la dependencia y la vulnerabilidad en unos pocos proveedores cerrados.
Las empresas y los gobiernos deberían invertir en infraestructuras abiertas compartidas para la defensa contra la IA (conjuntos de datos, marcos de evaluación, simuladores de ataques y herramientas de pruebas de penetración), del mismo modo que las generaciones anteriores invirtieron en software de código abierto.
El futuro que debemos construir
La era de los agentes de IA puede ser una era de resiliencia y seguridad compartida. Con las decisiones adecuadas, los sistemas de IA abiertos y seguros pueden brindar a los defensores las herramientas que necesitan, fortalecer la competencia, extender el liderazgo tecnológico y garantizar que la seguridad de esta extraordinaria tecnología se construya de forma abierta para todos.
Ese futuro no se garantizará asumiendo que el secreto por sí solo es seguridad. Se garantizará construyendo sistemas lo suficientemente sólidos como para resistir el escrutinio, lo suficientemente flexibles como para mejorarse y lo suficientemente abiertos como para movilizar a toda la comunidad de defensores.
