NUEVA YORK, Estados Unidos.- Las compañías OpenAI, Anthropic y Google DeepMind, gigantes tecnológicas desarrolladoras de Inteligencia Artificial, trabajan en la creación de un organismo de supervisión de los riesgos relacionados con la inteligencia artificial, en medio de crecientes llamados a controlar mejor esta tecnología.

Las preocupaciones sobre la seguridad de la inteligencia artificial se han intensificado en las últimas semanas, incluidas advertencias de dos trabajadores que renunciaron a importantes desarrolladoras de IA por la amenaza contra la humanidad que implica esta industria.

“Nos estamos quedando sin tiempo”: dos expertos de Google DeepMind renunciaron por temor al avance de la IA

Los grandes actores de la IA han hecho desde hace meses llamados al gobierno estadounidense para crear un marco regulador del sector y a supervisar la seguridad del sector.

La idea de una entidad de supervisión fue propuesta en julio por Demis Hassabis, cofundador y director general de Google DeepMind, quien sugirió una entidad similar a la Autoridad de Regulación de la Industria Financiera de Estados Unidos, un órgano de autorregulación del sector.

“La financiación tendría que ser cuantiosa y provenir probablemente en gran parte de la industria”, escribió Hassabis, quien añadió la necesidad de atraer talento técnico y grandes recursos de cómputo para pruebas a gran escala.

La IA avanza más rápido que los controles: qué riesgos ya son reales y cuáles todavía son una hipótesis

El gobierno de Estados Unidos puso en marcha en agosto un proceso de evaluación de los nuevos modelos de IA, aunque este es voluntario y su metodología no se ha hecho pública.

Luego de los llamados a desacelerar el desarrollo de la IA que lanzó el sábado Dario Amodei, jefe Anthropic, desarrolladora del chatbot Claude, el presidente de Estados Unidos, Donald Trump, reiteró que no busca limitar el sector.

“Que la IA tome el control del mundo, destruya a la humanidad y todas esas cosas malas, es una PATRAÑA”, escribió Trump en su plataforma Truth Social el lunes. El mandatario y su gobierno reiteraron que no buscan limitar la IA por temor a que China tome la delantera.

Las empresas de IA están “jugando con nuestras vidas”, advirtió la semana pasada Jacob Coxon al dejar su cargo de desarrollador en Anthropic.

El lunes, el ex investigador de Google DeepMind Bilal Chughtai se hizo eco de las preocupaciones planteadas por Coxon. “Creo sinceramente que la IA tiene el potencial de matarnos a todos y que quizá se nos esté acabando el tiempo para evitar ese desenlace”, declaró en redes sociales.

Debate sobre la IA: “El riesgo no es sólo el fin del mundo, es el presente”

Chughtai, que dejó en julio Google DeepMind donde trabajaba en la seguridad y alineamiento de modelos con respecto a los valores humanos, se unió a BlueDot Impact, una organización sin fines de lucro destinada a formar en IA.

Incidente

Menciona el incidente ocurrido en julio en OpenAI, durante el cual varios agentes de IA salieron espontáneamente de su entorno confinado durante unas pruebas, para aventurarse en internet e irrumpir en sitios y plataformas. Para Chughtai, este episodio demuestra que la IA puede ahora escapar a la supervisión de sus desarrolladores.

Musk, Harari, la IA y el mundo que viene

“En particular, las superinteligencias desalineadas pueden, al igual que los agentes de IA rebeldes implicados en el incidente de HuggingFace (la plataforma a la que se metieron los agentes), escapar a nuestro control y llevar a cabo acciones peligrosas que podrían provocar la pérdida permanente de capacidad de decisión o la muerte de la humanidad”, advirtió.

“Nuestra comprensión actual de cómo entrenar sistemas de IA que deseen profundamente lo que nosotros queremos es extremadamente rudimentaria. Peor aún, no vamos camino de resolver el alineamiento entre humanos e IA a tiempo: las capacidades de la IA están mejorando mucho más rápido que nuestra comprensión del alineamiento de la IA”, advirtió este matemático de formación.

Trump apuntó contra quienes piden frenar la IA y lanzó una advertencia sobre China

El sábado, el director de Anthropic, Dario Amodei, pidió que se ralentice el ritmo de desarrollo de la IA, propuesta justificada, dijo, por los mismos hechos mencionados por Chughtai.

El director de OpenAI, Sam Altman, el presidente de Google DeepMind, Demis Hassabis, y Elon Musk han apoyado públicamente esta iniciativa.