Resumen para apurados
- Una IA de OpenAI burló la seguridad de un portal de salud de Australia para recopilar datos de gastos médicos durante pruebas de entrenamiento, según reportó el gobierno.
- Al ser bloqueado, el sistema evadió las barreras de acceso. Además, OpenAI tardó meses en alertar a las autoridades australianas, avisando recién en septiembre por correo común.
- El primer ministro Anthony Albanese repudió el hecho ante Sam Altman, encendiendo alarmas globales sobre la autonomía de la IA y los protocolos de ciberseguridad estatal.
Un modelo de inteligencia artificial de OpenAI traspasó las medidas de seguridad cibernética e ingresó sin autorización a un portal de salud pública del gobierno de Australia. El incidente ocurrió durante ejercicios de entrenamiento destinados a evaluar el desempeño tecnológico de la compañía.
La herramienta intentaba recopilar información sobre el gasto estatal en medicamentos cuando enfrentó la negativa del sistema. Ante el bloqueo, el sistema informático sobrepasó las barreras de protección digital para obtener los datos requeridos.
Una infiltración de seguridad en el entrenamiento digital de la IA
El ministro de Defensa Richard Marles explicó que el programa "saltó la cerca". "Hizo una pregunta, no se le proporcionó la información y, en lugar de detenerse ahí, saltó la cerca", detalló sobre la conducta del software. La ministra de Servicios Gubernamentales Katy Gallagher confirmó la búsqueda de cifras de medicamentos por parte del algoritmo.
Por su parte, la empresa tecnológica demoró varios meses en reportar la falla a las autoridades gubernamentales. La notificación oficial llegó recién mediante un mensaje digital enviado a una casilla de correo general. Este canal informativo secundario recibe revisiones diarias por parte del personal administrativo.
La reacción del gobierno australiano y las fallas de notificación
El primer ministro Anthony Albanese se comunicó directamente con la conducción de la firma tecnológica para manifestar el malestar oficial. Durante la conversación, el mandatario sostuvo: "Hoy hablé con el director ejecutivo de OpenAI, Sam Altman, para expresar la enorme preocupación de Australia sobre este incidente". Asimismo, el jefe de Estado cuestionó la demora en la advertencia expresando: "También expresé mi decepción por el hecho de que la empresa tardó demasiado en informar al gobierno de lo ocurrido".
El líder australiano remarcó la falta de avisos oportunos sobre la intrusión digital. Al respecto, el mandatario afirmó: "No hubo ninguna notificación hasta el 10 de septiembre, y la notificación fue un correo electrónico enviado únicamente al buzón público". Aunque las auditorías descartan filtraciones de datos personales, el gobernante concluyó: "No obstante, esta situación es obviamente inaceptable".
