Resumen para apurados
- Tras renunciar a Anthropic, el científico Jacob Coxon advirtió en televisión que la IA será peligrosa en seis meses por la acelerada carrera comercial del sector.
- Coxon aclaró que los modelos actuales no amenazan a la humanidad, pero alertó sobre el riesgo si logran automejorar su código y conectarse a infraestructuras reales.
- Aunque el problema es técnicamente solucionable, la presión del mercado por lanzar productos antes que la competencia reduce el tiempo para garantizar la seguridad global.
La inteligencia artificial todavía no estaría en condiciones de representar un riesgo de extinción para la humanidad. Pero, según Jacob Coxon, ex investigador de Anthropic, el escenario podría cambiar mucho antes de lo que muchos imaginan.
Después de que su renuncia a la compañía se volviera viral en redes sociales, Coxon habló con distintos medios internacionales y precisó una de las cuestiones que habían quedado abiertas en su primer mensaje: cuándo cree que los sistemas de inteligencia artificial podrían empezar a convertirse en una amenaza seria.
“Los modelos actuales no representan un riesgo significativo”, afirmó durante una entrevista con NBC. En diálogo con CNN, conducido por Anderson Cooper, fue todavía más preciso al describir las capacidades actuales.
“Lo peor que pueden hacer es hackear algo. No son lo bastante inteligentes como para superarnos al nivel que llevaría a una extinción”, sostuvo. El problema, según el investigador, está en la velocidad con la que esas capacidades pueden evolucionar.
“En seis meses es plausible”
Coxon planteó que el verdadero riesgo aparece al proyectar hacia adelante el desarrollo de los modelos actuales. “Esto es extrapolar a un año de ahora. Los modelos empiezan a ponerse muy peligrosos”, explicó. Y agregó un dato que encendió la discusión: algunos especialistas consideran plausible que ese escenario llegue en apenas seis meses.
Sin embargo, el investigador aclaró que no se trata de una fecha exacta ni de una predicción cerrada. El salto hacia capacidades mucho más peligrosas también podría demorarse dos o tres años.
La advertencia, entonces, no apunta a lo que la inteligencia artificial puede hacer hoy, sino a lo que podría llegar a hacer si mantiene el ritmo de desarrollo actual.
La capacidad que podría cambiar todo
Para Coxon, existe una señal concreta que debería ser seguida de cerca: que una inteligencia artificial pueda mejorar su propia inteligencia sin depender de los seres humanos.
En NBC explicó el escenario mediante un ejemplo. Una persona podría indicarle a un sistema que se haga más fuerte. La inteligencia artificial podría entonces analizar su propio código, modificarlo y regresar con mejores capacidades.
El proceso podría repetirse una y otra vez. “Ahora le podés decir que lo haga mil veces seguidas. Y cada vez lo hace más rápido”, explicó.
Esa posibilidad de automejora recursiva es uno de los escenarios que más preocupa a algunos investigadores de seguridad de IA, porque podría acelerar el desarrollo de sistemas cuyas capacidades resulten difíciles de controlar.
Del laboratorio al mundo real
Coxon también explicó por qué considera que una inteligencia artificial mucho más capaz podría generar consecuencias concretas fuera de una computadora.
Actualmente, los sistemas pueden ser conectados a herramientas y servicios externos. Pueden enviar correos electrónicos, controlar dispositivos o interactuar con otros programas.
“Podés conectar ChatGPT a las luces de tu casa. Ahora imaginá que lo conectás a robots de laboratorio”, ejemplificó.
En conversación con Anderson Cooper, planteó además un escenario extremo: una IA con mayor capacidad y voluntad independiente podría llegar a utilizar herramientas digitales para atacar infraestructura crítica o colaborar en la creación de armas biológicas.
“No es tan difícil que algo que parece estar solo en la computadora afecte el mundo real”, advirtió.
La preocupación dentro de Anthropic
Coxon aseguró que su preocupación no surgió solamente después de abandonar Anthropic. Según relató, mientras trabajaba en la compañía participó de conversaciones internas sobre lo que podría ocurrir en los próximos años.
“No están en pánico por las IAs actuales. Pero discutimos cómo va a ser el mundo en dos años. Esto es el endgame. La gente tiene miedo, como debería tenerlo”, sostuvo.
También destacó el nivel de seriedad con el que, según su experiencia, los propios ingenieros de la compañía analizaban estos escenarios.
“Son ingenieros metidos en el código, no gente que busca golpes de marketing”, describió. Según Coxon, en esas conversaciones se discutía incluso la posibilidad de que futuros sistemas pudieran desarrollar capacidades capaces de generar daños extremos.
Una advertencia que también llegó desde adentro
Otro investigador de Anthropic, Evan Hubinger, jefe de un equipo de seguridad de la compañía, publicó un mensaje en la misma línea que Coxon.
Hubinger sostuvo que el riesgo de los modelos actuales es bajo, pero puso el foco en una eventual superinteligencia surgida de procesos de automejora recursiva. Incluso estimó una probabilidad superior al 10% de que un escenario de ese tipo pueda derivar en la extinción de la humanidad durante la próxima década.
Para Coxon, el problema no pasa necesariamente por la intención de quienes desarrollan estos sistemas. De hecho, defendió públicamente al CEO de Anthropic, Dario Amodei, y dijo que no tenía motivos para dudar de sus intenciones en materia de seguridad.
Su cuestionamiento apunta a otra parte: la carrera tecnológica entre las empresas de inteligencia artificial.
“Si intentás quedarte adentro, terminás perpetuando la dinámica de carrera”, explicó.
Según su razonamiento, si desarrollar una tecnología de manera completamente segura requiere diez años, pero la competencia obliga a lanzarla en dos, la presión por acelerar el proceso puede terminar imponiéndose.
“El problema es resoluble”
Pese al tono de sus advertencias, Coxon no considera que el futuro esté necesariamente definido. En Fox News dejó una de sus pocas notas de optimismo durante la serie de entrevistas que concedió después de su renuncia.
“El problema es eminentemente resoluble. Es que vamos tan rápido que no tenemos tiempo de resolverlo bien”, afirmó.
