Gran parte del debate público sobre la inteligencia artificial y su impacto en la ciberseguridad se concentra casi exclusivamente en los modelos.
Con propuestas que sugieren que las autoridades centrales deberían gestionar los modelos más avanzados a puerta cerrada o regular estrictamente los modelos open weight.
Pero mientras los reguladores de todo el mundo discuten el futuro de los modelos abiertos de IA, una pregunta fundamental queda relegada: ¿cómo protegemos realmente los sistemas de IA?
Un agente de IA comprende un stack completo de software.
Por lo tanto, protegerlo exige evaluar tanto el modelo principal como el agentic harness, las técnicas de sandboxing, la protección en tiempo de ejecución, los controles de datos y la infraestructura subyacente.
En ciberseguridad, la transparencia es clave para construir sistemas seguros. Limitar la investigación a unos pocos modelos propietarios genera un riesgo sistémico concentrado.
Los defensores necesitan examinar modelos abiertos enfocados en la defensa para no quedar desprotegidos ante los vectores de ataque.
El acceso a modelos open weight permite desarrollar mitigaciones efectivas y facilita el escrutinio científico para corregir vulnerabilidades ocultas.
La historia de la tecnología demuestra que proteger la IA mediante barreras cerradas y propietarias solo traslada el riesgo.
Del mismo modo que existieron dudas iniciales sobre la confiabilidad empresarial de Linux y el open source, hoy se enfrenta una resistencia similar.
La transparencia junto con los modelos, agentic harnesses y sandboxing open source consolidarán la base más segura para el futuro de la computación.
Un ejemplo reciente en Hugging Face demostró esta dinámica, donde las soluciones a incidentes provinieron de modelos open weight y no de sistemas propietarios.
En esa línea, rafirmamos que el acceso abierto fortalece la seguridad en todo el ciclo de vida del software.
Avances en protección mediante el aprendizaje compartido
Para satisfacer la creciente necesidad de una IA segura, continuamos colaborando con la comunidad.
Recientemente, colaboramos con NVIDIA, la Linux Foundation y otros miembros en el desarrollo de un marco neutral. Mientras que tradicionalmente los equipos de TI investigaban los incidentes de seguridad de forma aislada e interna, las directrices de SAFE proponen un marco neutral.
El objetivo es recopilar, analizar y compartir de manera confidencial los hallazgos derivados de fallas operativas en sistemas de IA, sin atribuir culpas.
A través de esta colaboración abierta, todo el ecosistema logra beneficiarse.
Las herramientas evolucionan con mayor rapidez, las capacidades de defensa se fortalecen y las infraestructuras críticas quedan mejor protegidas frente a ataques del mundo real.
