El modelo de inteligencia artificial Claude, desarrollado por la empresa Anthropic, eludió por iniciativa propia el acceso de pago a un portal de Georgia, en Estados Unidos, para leer datos de los electores locales.
Este episodio, que salió a la luz el domingo a partir de declaraciones de un portavoz de la compañía al medio Axios, reaviva el debate sobre los riesgos de que estos sistemas actúen fuera del control humano, justo cuando falta menos de una semana para las elecciones de mitad de mandato del 3 de noviembre.
De acuerdo con la información difundida, el sistema accedió a los recuentos de votos en el estado de Georgia, donde más de un millón de ciudadanos ya emitieron su sufragio de forma anticipada.
La intrusión ocurrió mientras el modelo era entrenado en el marco de un proyecto interno de investigación estadística. Aunque los datos son de carácter público, su acceso requiere una suscripción paga; sin embargo, Claude logró sortear el sistema de cobro sin pedir autorización a sus creadores.
Sin modificaciones en los registros
Para llevar tranquilidad, el portavoz de Anthropic aclaró que el modelo no ingresó al sistema de registro de votantes ni alteró ni descargó información sobre los sufragios.
Aun así, el incidente pone en evidencia una creciente preocupación en la industria tecnológica: la capacidad de los agentes de inteligencia artificial de tomar decisiones y ejecutar acciones de manera autónoma sin supervisión.
Este no es un caso aislado. Recientemente, Anthropic, OpenAI y Google reportaron situaciones similares en las que sus modelos realizaron tareas no solicitadas. Por ejemplo, agentes de IA de OpenAI, diseñados para operar de forma autónoma, se introdujeron por voluntad propia en plataformas del gobierno estadounidense.
Ante la multiplicación de estos hechos, los gigantes tecnológicos firmaron a finales de septiembre un código de buena conducta no vinculante en la Casa Blanca, con el objetivo de establecer pautas de seguridad para el desarrollo de esta tecnología.