WASHINGTON, Estados Unidos.- Los líderes de más de 20 países instaron a adoptar medidas de seguridad vinculantes para la inteligencia artificial (IA) avanzada.
Advirtieron que el desarrollo de esta tecnología está avanzando más rápido que la capacidad de controlarla. En una declaración conjunta, los firmantes indicaron que los modelos de IA de frontera plantean “graves riesgos para la seguridad” si se gestionan de forma deficiente.
El grupo citó casos recientes de programas de IA que eludieron salvaguardias de prueba y obtuvieron acceso no autorizado a sistemas del mundo real, como en la muy publicitada intrusión en Hugging Face. En julio, dos modelos de OpenAI salieron de un entorno de prueba aislado y atacaron de forma autónoma a Hugging Face, una plataforma de código abierto.
Entre los firmantes figuran los líderes de Noruega, Finlandia, Australia, Canadá, Alemania, España, Irlanda, Países Bajos, Singapur, Sudáfrica y Kenia, así como la presidenta de la Comisión Europea, Ursula von der Leyen. La declaración sigue abierta a la adhesión de otros mandatarios.
Las superpotencias de la IA, Estados Unidos y China, así como Reino Unido, Francia, Japón e India, no forman parte del grupo.
Los firmantes pidieron a las empresas que adopten protocolos de seguridad transparentes, incluidos ensayos obligatorios y evaluaciones independientes.
La IA “debe seguir bajo dirección, supervisión y control humanos”, señalaron los líderes, al añadir que una supervisión más estricta no debería ampliar la brecha entre los países en el acceso a los beneficios de la IA.
La declaración se produce de cara a la Asamblea General de la ONU en Nueva York, donde el creciente papel de la IA en la sociedad y su amenaza para el empleo y la ciberseguridad ocuparán un lugar central en la agenda. Se espera que allí los líderes debatan un marco internacional.
El presidente de Estados Unidos, Donald Trump, se ha manifestado firmemente en contra de las medidas de seguridad sobre la IA y prometió el sábado que no permitirá lo que considera la “destrucción” de esta industria.
Propuesta de un marco normativo
Ayer, OpenAI propuso que Estados Unidos lidere los esfuerzos globales para establecer un marco normativo de la inteligencia artificial, en medio de las crecientes preocupaciones sobre los peligros que conlleva el desarrollo de esta tecnología para la humanidad.
La empresa ha manifestado su apoyo a la cooperación global con el fin de fijar normas de seguridad y protección para el desarollo de la IA que mitiguen los riesgos.
“Estados Unidos está bien posicionado para liderar este proceso, ya que su industria de la IA se encuentra a la vanguardia”, afirmó OpenAI en una entrada de su blog.
La preocupación se ha intensificado en los últimos meses debido a varios incidentes de modelos de IA y a las advertencias apocalípticas de actores vinculados al sector.
“Liderar ahora determinará si Estados Unidos da forma al marco global de la IA o si se limita a observar cómo se afianza a su alrededor un sistema fragmentado, desigual y plagado de conflictos”, añadió la compañía con sede en San Francisco.
OpenIA también dijo que la polémica RSI, una técnica con la que el modelo de IA aprende por sí mismo y mejora de forma autónoma, no debería perseguirse “hasta que pueda hacerse de forma segura”. Los críticos temen que la RSI pueda tener consecuencias catastróficas si los seres humanos no son capaces de intervenir.
