En la edición dominical de LA GACETA, Federico Lix Klett impugnó fundadamente la idea de un “apocalipsis tecnológico” que tanta atención concitó en estos días. Frente a la imagen de una inteligencia artificial consciente que se rebelaría contra sus creadores, recuerda algo elemental: las máquinas actuales no odian, no conspiran ni tienen intenciones. Coincido. Sin embargo, la ocasión es propicia para reflexionar sobre otros problemas.
Se ha difundido masivamente el uso de la inteligencia artificial generativa: formulamos una pregunta y obtenemos una respuesta. La IA agéntica es diferente: establecemos un objetivo y delegamos al sistema la selección, secuenciación y revisión de los medios. Pasamos de automatizar procedimientos a delegar fines y, con ello, medios para lograrlos.
Trump apuntó contra quienes piden frenar la IA y lanzó una advertencia sobre China“Agencia” no significa aquí conciencia ni libre albedrío. Describe una cierta autonomía funcional: el sistema interpreta un entorno, planifica, actúa, evalúa resultados y corrige su estrategia. La IA no necesita rebelarse. No necesita querer nada.
Basta imaginar un sistema al que encomendamos maximizar un resultado. Puede seleccionar medios que no previmos porque resultan instrumentalmente eficaces. No habría maldad ni conspiración: habría divergencia entre el objetivo formulado y las acciones con que la máquina decidió realizarlo. El riesgo deja entonces de ser un problema de intenciones.
Seis preguntas para entender por qué es tan difícil frenar el desarrollo de la IAHay además algo acaso más perturbador: la distancia moral, a la que alude el economista Eduardo Levy Yeyati. Delegar tecnológicamente una acción modifica la relación psicológica y moral entre quien decide y las consecuencias de su decisión. Podemos estar dispuestos a autorizar a distancia aquello que vacilaríamos en hacer personalmente. Y la IA agéntica agiganta esa distancia: entre el resultado perseguido y los actos necesarios para producirlo se interpone ahora un agente capaz de determinar por sí mismo buena parte de los medios.
La cuestión no es qué hace la máquina: es qué ocurre con quien delega en ella.
Levy Yeyati recupera una intuición aristotélica: la phronesis, la sabiduría práctica, que consiste en obtener resultados correctos, pero también en ejercitar el juicio en situaciones concretas. Decidir implica deliberar, vacilar, asumir costos y sentir el peso de las consecuencias. Si tercerizamos ese ejercicio, no sólo transferimos acciones: podemos atrofiar la capacidad moral que necesitamos para ponderarlas.
Paradoja
Allí aparece una paradoja. Construimos agentes cada vez más eficientes para reproducir el proceso que parte de un fin, selecciona medios, actúa y corrige el curso según resultados. Pero aquello que los hace eficientes los vuelve moralmente ajenos.
Los líderes de la IA coinciden en una advertencia: hay que moderar el ritmo de desarrolloPor eso Lix Klett tiene razón al devolver el problema al ser humano, y Levy Yeyati permite proyectar todavía más esa conclusión: el peligro no está en la intención con que se emplea la herramienta, sino en lo que la herramienta hace con quien la emplea. Personas bienintencionadas, seducidas por la eficiencia, pueden consentir a distancia decisiones cuya deliberación, en el fondo, ya no les pertenece.
Quizá preguntarnos si la IA nos va a matar a todos sea formular equívocamente el problema. La IA no necesita odiarnos. Tampoco liberarse de nosotros. Puede bastar con que nosotros, fascinados por ella, nos liberemos progresivamente de la carga moral de decidir.