Las compañías Nvidia, Microsoft, Palantir y otras empresas tecnológicas anunciaron este lunes la creación de la Open Secure AI Alliance, una iniciativa destinada a fortalecer la seguridad de la inteligencia artificial (IA) abierta, en un contexto marcado por la creciente competencia entre Estados Unidos y China por el liderazgo en esta tecnología.
La alianza, promovida por Nvidia, tiene como objetivo desarrollar y compartir herramientas abiertas para detectar y corregir vulnerabilidades en sistemas de inteligencia artificial, además de mejorar la capacidad de respuesta ante amenazas cibernéticas.
La empresa explicó que «la seguridad de la IA no debe depender únicamente de modelos cerrados controlados por unas pocas compañías», sino también de «sistemas que permitan a investigadores y desarrolladores inspeccionar, adaptar y ejecutar» herramientas avanzadas en sus propias infraestructuras.
Como ejemplo de la necesidad de fortalecer este tipo de modelos, Nvidia recordó un reciente incidente de seguridad ocurrido en la plataforma Hugging Face, utilizada por investigadores y desarrolladores para compartir modelos de inteligencia artificial. Según la compañía, los sistemas abiertos permiten analizar con mayor profundidad las amenazas y responder con mayor rapidez.
«Los defensores de la ciberseguridad necesitan sistemas de IA avanzados y abiertos para su propia defensa», sostuvo Nvidia, al destacar que los modelos conocidos como open weight ofrecen a investigadores y empresas la posibilidad de descargar, ejecutar y modificar los componentes de la inteligencia artificial en servidores propios.
La iniciativa contrasta con el funcionamiento de los modelos cerrados desarrollados por empresas como OpenAI, Anthropic y Google, cuyos componentes internos no están disponibles para los usuarios. Ninguna de estas compañías forma parte de la nueva alianza anunciada por Nvidia.
El anuncio coincide con un intenso debate en Washington sobre cómo responder al acelerado avance de los modelos de inteligencia artificial desarrollados en China. Entre ellos destaca Kimi K3, de la empresa Moonshot AI, cuyo modelo abierto ha ganado terreno entre desarrolladores, mientras que autoridades estadounidenses analizan posibles sanciones por un presunto uso indebido de propiedad intelectual y promueven el desarrollo de alternativas nacionales con mayores estándares de seguridad.
Deja una respuesta