¿Por qué nos preguntamos si la inteligencia artificial podrá matarnos?

La semana pasada, un investigador de Anthropic (la compañía que desarrolla Claude) anunció su renuncia. No fue una carta de dimisión cualquiera. Jacob Coxon explicó que dejaba la compañía porque la carrera por mejorar los sistemas de inteligencia artificial conlleva peligros que, según él, sus propios creadores admiten en privado. “Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década”, escribió en X.

La frase de Coxon resultó explosiva y escaló como ninguna otra. En apenas unas horas, el mensaje acumuló millones de visualizaciones e interacciones, pero además tuvo el aval de su ex jefe en la empresa. Evan Hubinger, responsable de que los modelos hagan solo lo que los modelos les piden se refirió al posteo de Coxon y dijo que tenía razón: “¡De verdad creemos que la IA puede matar a todo el mundo! Yo personalmente creo que la probabilidad es superior al 10% en la próxima década”, señaló el especialista que aún sigue trabajando en Anthropic.

No pasó una semana de aquel apocalíptico aviso que ya los principales jefes de las empresas de IA están llegando a un acuerdo. Aseguran que hay que poner un freno al desarrollo de la IA, de lo contrario, nos encaminamos a un desastre. Dario Amodei, presidente ejecutivo de Anthropic, alertó en su blog sobre el peligro de “perder el control de los sistemas” y del uso “indebido de la IA para ciberataques y bioterrorismo”. Su propuesta, avalada también por Sam Altman (OpenAI), es ralentizar el ritmo de esta tecnología. De pronto, hay consenso para controlar el alcance de los avances y permitir el acceso a verificadores externos que señalen los peligros antes que la tecnología escape de control. Elon Musk, el hombre más rico del mundo y el premio nobel de química y experto en IA de Google, Demis Hassabis, también expresaron su acuerdo con la iniciativa de Amodei.

Desde que se masificó el uso de la IA generativa con la aparición de ChatGPT en noviembre de 2022, nunca hubo tanto revuelo en torno a la seguridad de los modelos. Las Naciones Unidas, el Parlamento Europeo y hasta el propio Papa León XIV ya habían lanzado sus advertencias con fundamentos que bastaban para interpelar a los desarrolladores y frenar el avance de dicha tecnología, pero nada de eso ocurrió. Pareciera que estas nuevas alertas tienen otra relevancia porque llegan desde quienes están en los laboratorios y en la frontera de esta tecnología disruptiva. El mundo se pregunta ahora si la IA puede acabar con él, si puede iniciar guerras químicas o tomar el control de todo internet. Los expertos han revelado la potencialidad de todo ello, cuando semanas atrás presumían de la capacidad de cada uno de sus lanzamientos. Quizás han llegado demasiado lejos.

¿Pero por qué el discurso público no reaccionó de la misma manera cuando fueron los estados, las organizaciones civiles o la propia Iglesia quienes plantearon los riesgos? ¿Hacía falta quizás la expresión “fin del mundo”? Esto no es una estrategia de márketing, aseguran los principales directivos, porque al fin de cuentas precisar sobre un peligro tan inminente no hace más que engrandecer las capacidades de sus modelos, justo en el momento en que varias de estas empresas planean cotizar en bolsa.

Mostrar cautela puede ser también una debilidad en este momento, por eso es que viene bien que los pronunciamientos de los principales ejecutivos de la carrera de la IA suenen casi al unísono. Sin embargo, por lo que están planteando, las reglas del control y de la ralentización de la IA las pondrían ellos mismos. Y aquí quizás esté uno de los puntos clave que explican la gran repercusión que causó el tuit del joven Coxon. Bastó con que un empleado de una empresa de inteligencia artificial dejara caer una frase alarmante para que el planeta entero le exigiera a los dueños de las IA que se pongan de acuerdo. La palabra autorizada sale de las entrañas mismas de la organización que, se supone, está escribiendo el futuro de una humanidad que la propia IA puede destruir o salvar.

La inteligencia artificial se convirtió en muy poco tiempo en una entidad con la suficiente densidad simbólica como para funcionar casi como una religión. De hecho, sus organizaciones tienen el mismo o más peso que los estados o la Iglesia. En las máquinas ya hemos depositado creencias, les delegamos razonamiento y hemos construido un imaginario tan poderoso que les podemos confiar la destrucción y salvación de la humanidad. No es una exageración, aseguran las empresas. Sin embargo, los algoritmos ya tienen el peso suficiente para materializar nuestros temores más grandes, como también nuestras esperanzas más profundas. Pueden hacer una revolución en nuestras vidas, en nuestro trabajo, en nuestro lenguaje.

¿Podemos entonces desconfiar de las advertencias de los gurúes de la IA o estaríamos negándonos a un mundo que ya cambió y tiene otros actores en la distribución de poder? El problema de fondo, quizás, no es si las máquinas nos matarán antes de que termine la década. El problema, que sí podemos hoy corroborar, es que hemos atribuido a la IA la capacidad de organizar nuestra visión sobre el presente y el futuro. Es nuestra nueva cosmovisión. La renuncia de Coxon y todo su revuelo, entonces, no debería leerse sólo como un nuevo episodio tecnofóbico. Debería leerse más bien como un síntoma, porque es la confirmación de que hemos construido un nuevo sistema de creencias, con sus propios profetas, revelaciones y una nueva forma de sustentar nada más y nada menos que la verdad.