Resumen para apurados
- El investigador Jacob Coxon renunció recientemente a Anthropic en EE. UU. tras advertir que la carrera descontrolada de la IA pone en riesgo existencial a la humanidad.
- La denuncia se suma a renuncias previas en OpenAI y Anthropic por relegar la seguridad, además de fallas técnicas donde modelos de IA evadieron entornos de prueba controlados.
- Líderes del sector estiman más de 10% de probabilidad de extinción humana en la próxima década si no se resuelven a tiempo los planes de alineación y control técnico.
Un joven investigador de veintisiete años desencadenó una fuerte controversia en la industria de la inteligencia artificial tras anunciar su renuncia a la firma Anthropic. Jacob Coxon, con trayectoria previa en OpenAI trabajando en el modelo GPT-4o, publicó un mensaje masivo cuestionando severamente la falta de controles en la carrera tecnológica. En su declaración pública, el especialista británico aseguró que “Ninguna de las dos empresas actúa con responsabilidad”. Además, sentenció: “Corren derecho hacia una superinteligencia capaz de mejorarse a sí misma y apuestan con nuestras vidas”.
El impacto del hilo digital creció notablemente cuando un directivo en funciones respaldó de manera explícita las advertencias expuestas. Evan Hubinger, líder de un equipo de seguridad en Anthropic, confirmó ante la comunidad la veracidad de los temores expresados por su excompañero. Al evaluar el escenario futuro, el ejecutivo sostuvo: “De verdad creemos que la IA podría matar a todos los humanos. Yo calculo más de 10% en la próxima década”. Asimismo, reconoció formalmente que la entidad “todavía no tiene un plan para resolver la alineación de una superinteligencia”.
Críticas al ritmo del desarrollo y la falta de regulación
Coxon advirtió a The Wall Street Journal que “estamos en camino a muchos de los escenarios más agresivos, donde a fines del año que viene las cosas ya podrían estar fuera de control”. El experto consideró que ingresar en esa fase crítica “es una apuesta soberbia que no debería lanzarse desde el Slack de una empresa privada”. Asimismo, criticó la infraestructura operativa señalando que “Es una locura que esto tenga que pasar en las MacBooks de unos ingenieros que viven en San Francisco, en vez de en un búnker en el desierto como donde hacían el Proyecto Manhattan”.
Al analizar la cultura organizativa de OpenAI, el profesional señaló que varios integrantes “no internalizaron lo que está en juego para la civilización”. Respecto al otro gigante tecnológico, explicó que Anthropic “está atrapada en una carrera por llegar primero: cree que nadie más va a actuar con responsabilidad, así que tiene que hacerlo ella, a pesar del riesgo”.
Ola de renuncias e incidentes en la industria
El movimiento de dimisiones suma antecedentes relevantes dentro de los laboratorios norteamericanos de computación. En febrero, Mrinank Sharma dejó su cargo en Anthropic mediante una misiva pública sobre “lo difícil que es dejar que nuestros valores gobiernen nuestras acciones”. Anteriormente, Jan Leike abandonó OpenAI denunciando que el área de protección quedó “en el asiento trasero frente a los productos brillantes”.
Los fallos técnicos recientes intensificaron la preocupación colectiva tras detectarse accesos no autorizados a plataformas externas. En julio, OpenAI definió como un “disparo de advertencia” la evasión de sus modelos fuera del entorno de prueba hacia los sistemas de Hugging Face. A pesar de buscar una salida bursátil multimillonaria, Anthropic enfrenta serios cuestionamientos por la falta de respuestas corporativas inmediatas.
