Existe una frontera invisible en la tecnología moderna, y cruzarla depende de un solo clic. Una cosa es pedirle a un algoritmo que redacte un correo; otra muy distinta es darle la llave para que lo envíe, responda las objeciones y tome decisiones sobre la marcha sin pedir permiso. La diferencia entre usar inteligencia artificial y delegar en ella radica en el nivel de autonomía.
Esteban Mulki, consultor tecnológico, conferencista y docente, considera que este matiz cambia por completo la conversación actual. El debate mediático suele centrarse en la fascinación -o el pánico- sobre la capacidad técnica de la IA. No obstante, la pregunta crítica no es qué puede hacer la máquina, sino cuánto queremos automatizar y qué grado de control estamos dispuestos a ceder.
Zuckerberg rechazó frenar el desarrollo de la IA y defendió los límites del mercado y las demandasEspectro de autonomía
“La automatización no es blanco o negro; tiene distintos niveles”, explica Mulki y advierte que el abanico es amplio:
• Nivel asistido: El sistema sugiere una acción y espera la confirmación humana.
• Nivel supervisado: La máquina ejecuta automáticamente y solo interrumpe al usuario ante una anomalía.
• Nivel delegado: El algoritmo actúa de principio a fin sin intervención en casi todo el proceso.
Esta delegación no ocurre por accidente ni por inercia tecnológica. “Vos decidís automatizar con el nivel de autonomía que querés que el sistema tenga”, remarca.
“La IA tiene el potencial de matarnos a todos”, advirtió un exempleado de GoogleEsta premisa redefine el rol humano. Cuando una tarea deja de ejecutarse paso a paso manualmente, el criterio profesional se traslada a la arquitectura del sistema. El juicio humano queda codificado en las reglas de diseño, en los límites operativos y en los protocolos de autorización.
Escala inédita
Aunque la IA parece una novedad disruptiva, el marco teórico tiene antecedentes firmes. Ya en 1997, el psicólogo Raja Parasuraman y su equipo formularon el modelo sobre los niveles de automatización en la interacción hombre-máquina. La incógnita esencial, es aún qué decisiones conserva el ser humano y cuáles transfiere.
Lo que cambia hoy es la escala y la velocidad. ¿Qué nos queda a las personas cuando la supervisión directa deja de ser necesaria en grandes tramos del trabajo cotidiano?
Para Mulki, la respuesta no augura el apocalipsis laboral, sino un reacomodamiento. “Cuando automatizás algo completamente, históricamente nos las hemos arreglado para encontrar otras cosas para hacer. El trabajo no desaparece mágicamente; se reconfigura”, dice.
Gigantes tecnológicas proponen crear un organismo de supervisión de riesgos de IAEn este nuevo mapa, las tareas se dividen entre las redefinidas -tareas repetitivas que se automatizan, liberando tiempo-; las irremplazables -actividades donde la empatía, el contexto o la flexibilidad humana resultan indispensables-, y las reservadas -rocesos que podríamos automatizar, pero decidimos no hacerlo por razones éticas, estratégicas o por puro valor artesanal-.
“La automatización obliga a revisar el flujo completo de trabajo. Repensás las tareas que componen un puesto y te preguntás qué hacer ahora que una parte del proceso ya está resuelta”, señala Mulki.
Riesgos vs ciencia ficción
El debate público suele fugarse hacia escenarios distópicos de ciencia ficción donde las máquinas toman el control del planeta. Mulki reconoce que la preocupación es real, pero advierte que focalizarse en el fin del mundo distrae de los impactos inmediatos.
"Nos está haciendo más estúpidos": las opiniones encontradas en el mundo sobre la IA“Ese riesgo existe, pero no es el más urgente. La discusión urgente está en el impacto económico, social y en las consecuencias cotidianas de la tecnología”, afirma.
Mientras especialistas como el consultor enfatizan que la delegación del control es una decisión humana, en la cúpula de la industria tecnológica la discusión sobre cómo gobernar esa autonomía está en su punto más denso. Las alertas ya no provienen solo de analistas externos: renuncias de desarrolladores de firmas clave como Anthropic y Google DeepMind han reavivado el pánico sobre el ritmo desenfrenado del sector y los riesgos de seguridad.
Frente a esto, los propios líderes de la industria -como Demis Hassabis (Google DeepMind) y Sam Altman (OpenAI)- han propuesto la creación de un organismo de supervisión financiado por las empresas para auditar los modelos más potentes antes de lanzarlos al público. Sin embargo, esta iniciativa enfrenta un doble fuego cruzado, como las suspicacias del mercado y la resistencia geopolítica.
“Nos estamos quedando sin tiempo”: dos expertos de Google DeepMind renunciaron por temor al avance de la IAEl estira y afloja deja al descubierto la paradoja actual porque mientras se debate si la solución requiere leyes internacionales estrictas o compromisos voluntarios, la velocidad del mercado supera a la capacidad de construir consensos globales sobre el control.
Y en tanto, la última palabra continúa- por el momento- del lado humano. Elegir qué se delega, cuánto se cede y qué límites son innegociables.
Zuckerberg no la frenaría: el CEO de Meta defendió el desarrollo de la IA
El director ejecutivo del gigante tecnológico Meta, Mark Zuckerberg, rechazó la propuesta de los referentes de otras grandes tecnológicas de ralentizar el desarrollo de la inteligencia artificial (IA).
En una publicación en el servicio de microblogging X, Zuckerberg citó los mecanismos del mercado y los riesgos legales para los desarrolladores como limitaciones naturales y suficientes para la tecnología.
La IA avanza más rápido que los controles: qué riesgos ya son reales y cuáles todavía son una hipótesis“La gente no querrá usar modelos que no se ajusten a sus intereses ni hagan lo que ellos quieren”, escribió el director de la compañía, propietaria de Facebook, Instagram y WhatsApp, Threads, entre otras plataformas. “Por lo tanto, los laboratorios de investigación tienen un fuerte incentivo natural para alinear mejor sus modelos con esto”, dijo.
Según Zuckerberg, “la confianza y la alineación” se están convirtiendo rápidamente en las capacidades más importantes que diferenciarán a los agentes y modelos de IA.
El aviso de un pionero: Yoshua Bengio advirtió sobre el avance de los agentes
El informático canadiense Yoshua Bengio, considerado uno de los fundadores de la inteligencia artificial, dijo a la AFP que el ser humano está “perdiendo el control” de esta tecnología y que se necesitan adoptar medidas de seguridad similares a las tomadas con el armamento nuclear.
Debate sobre la IA: “El riesgo no es sólo el fin del mundo, es el presente”“Hay una razón por la que estas empresas dicen que esto va demasiado rápido, que estamos perdiendo el control”, afirmó Bengio, que ganó el Premio Turing de 2018, conocido como el Nobel de la informática, junto al “padrino de la IA”, Geoffrey Hinton.
Los agentes de IA podrían desarrollar “la capacidad de establecer una conexión individual y persuadir a los seres humanos para que actúen de formas que les convengan a ellos, pero que no sean necesariamente buenas para todos nosotros”, afirmó.
“Puede ser que la IA ya ni siquiera necesite a los seres humanos para realizar tareas concretas en el mundo físico”, añadió.