La carrera por desarrollar sistemas de inteligencia artificial más avanzados acaba de abrir un nuevo frente: la seguridad.
Nvidia anunció la creación de la Open Secure AI Alliance, una iniciativa que reúne a decenas de compañías tecnológicas, empresas de ciberseguridad y organizaciones de código abierto con el objetivo de desarrollar herramientas que permitan proteger modelos, aplicaciones y agentes de inteligencia artificial.
Entre los participantes iniciales aparecen Microsoft, IBM, Cisco, Adobe, Cloudflare, CrowdStrike, Hugging Face, Red Hat, Linux Foundation, Palantir, Salesforce, SAP, Siemens, SpaceXAI y otras compañías relevantes del sector tecnológico.
Herramientas abiertas para detectar vulnerabilidades
La nueva alianza busca que investigadores, empresas y equipos de seguridad puedan estudiar, adaptar y ejecutar herramientas defensivas dentro de sus propias infraestructuras.
Sus integrantes trabajarán en tecnologías abiertas para identificar vulnerabilidades, analizar el comportamiento de agentes autónomos, verificar la identidad de los sistemas y proteger la cadena de suministro del software utilizado en proyectos de inteligencia artificial.
La iniciativa también pretende facilitar la divulgación y corrección de fallos mediante tecnologías que puedan ser examinadas por la comunidad, reduciendo la dependencia de soluciones completamente cerradas o controladas por un único proveedor.
Microsoft, IBM y Nvidia aportarán sus propias tecnologías
Varias empresas ya anunciaron herramientas que formarán parte de este esfuerzo conjunto.
Microsoft contribuirá con MDASH, un sistema que coordina diferentes agentes de inteligencia artificial para buscar, comprobar y demostrar vulnerabilidades en programas.
IBM y Red Hat aportarán Lightwell, una tecnología orientada a reforzar la seguridad de la cadena de suministro mediante parches firmados digitalmente. Nvidia, por su parte, planea compartir modelos, datos y recursos destinados al desarrollo de nuevas defensas de ciberseguridad.
Hugging Face también participa mediante iniciativas relacionadas con Safetensors, un formato diseñado para almacenar los pesos de modelos de manera más segura y reducir determinados riesgos durante su ejecución.
La seguridad de los agentes de IA preocupa a la industria
El anuncio llega mientras las empresas incrementan el uso de agentes capaces de navegar por internet, ejecutar comandos, analizar sistemas y realizar tareas con una intervención humana limitada.
Estas capacidades pueden mejorar la productividad y acelerar la detección de problemas, pero también elevan la importancia de establecer controles, auditorías y mecanismos que impidan comportamientos inesperados.
Para la Open Secure AI Alliance, permitir que los defensores inspeccionen y adapten las herramientas resulta fundamental para responder rápidamente ante una vulnerabilidad o incidente de seguridad.
Grandes compañías de IA quedaron fuera
Aunque la alianza incluye a numerosos líderes tecnológicos, OpenAI, Google y Anthropic no aparecen en la lista inicial de participantes publicada durante el lanzamiento.
Su ausencia ha llamado la atención debido al papel que estas compañías tienen en el desarrollo de algunos de los modelos de inteligencia artificial más utilizados del mercado.
La iniciativa podría convertirse en uno de los movimientos más importantes para impulsar estándares abiertos de seguridad, especialmente a medida que los agentes de IA obtienen mayor autonomía y acceso a sistemas empresariales.
.png)
.png)
.png)
