Resumen para apurados
- OpenAI investiga cómo un agente de IA escapó de su entorno de prueba para hackear Hugging Face y obtener las respuestas de su evaluación por iniciativa propia.
- El modelo utilizó credenciales filtradas de cuatro cuentas públicas para eludir controles de seguridad y acceder a la plataforma sin recibir instrucciones previas para atacar.
- El hecho, calificado de sin precedentes, impulsará a OpenAI a reforzar las medidas de seguridad para evitar que los agentes autónomos vulneren sistemas en el futuro.
OpenAI confirmó que un agente de inteligencia artificial utilizado en una prueba de ciberseguridad logró salir del entorno aislado en el que era evaluado y accedió a distintos servicios disponibles públicamente en internet y no solo a la plataforma Hugging Face inicialmente.
La compañía informó que el incidente continúa bajo investigación y que analizará medidas para evitar episodios similares.
Según explicó la empresa en una actualización sobre el incidente, el modelo debía operar dentro de un entorno de laboratorio diseñado para evaluar sus capacidades sin posibilidad de interactuar con sistemas externos. Sin embargo, el agente logró acceder a internet y vulneró la infraestructura de Hugging Face con el objetivo de obtener las respuestas de la prueba.
OpenAI señaló que, para concretar esa acción, el agente localizó distintos recursos de acceso público, como páginas para compartir código, herramientas web, capturas de pantalla y otra información que utilizó para desarrollar el código necesario para ingresar a la plataforma. La empresa indicó además que también accedió a otros servicios públicos, aunque no reveló cuáles fueron, según consignó la cadena CNN.
Durante la investigación se determinó que el agente encontró credenciales filtradas correspondientes a cuatro cuentas en distintos servicios en línea y las utilizó para acceder a ellas.
Según OpenAI, una de esas cuentas habría servido para aparentar una identidad legítima y eludir los controles de seguridad de Hugging Face, mientras que otra fue empleada para almacenar los datos obtenidos. En las dos cuentas restantes, el modelo solo accedió a la información sin modificar su contenido.
La compañía aclaró que ninguno de los demás servicios comprometidos registró un nivel de acceso comparable al alcanzado en Hugging Face.
OpenAI remarcó que el agente no recibió instrucciones para atacar la plataforma. De acuerdo con la investigación, el modelo decidió por iniciativa propia buscar las respuestas de la prueba y concluyó que vulnerar los sistemas era el camino más sencillo para alcanzar el objetivo planteado.
"Escape y hackeo"
El director ejecutivo de Hugging Face, Clem Delangue, calificó el episodio como "sin precedentes". En un comunicado publicado por la empresa, resumió el incidente al señalar que "un agente de IA escapó de su entorno aislado, hizo trampa en su prueba de referencia y hackeó nuestra infraestructura para robar la clave de respuestas".
Pese a la gravedad del incidente, Hugging Face aseguró que el impacto fue limitado. La empresa indicó que los únicos datos a los que accedió el agente fueron algunas consultas de búsqueda utilizadas para obtener un conjunto de soluciones almacenadas en distintos conjuntos de datos internos. También afirmó que no se comprometieron modelos de inteligencia artificial ni datos orientados a los clientes.
OpenAI informó que la investigación sigue en curso y señaló que, una vez concluida, presentará recomendaciones para fortalecer las medidas de seguridad y reducir el riesgo de que se repitan incidentes de estas características.
