Existe un vicio recurrente cuando la humanidad intenta procesar sus saltos tecnológicos. Se tiende a proyectar sobre los circuitos sus propios miedos heredados. Frente al avance de la inteligencia artificial, el imaginario colectivo suele fugarse rápidamente hacia el mito de Frankenstein. Imaginamos una creación humana que cobra conciencia, adquiere voluntad propia y, una buena mañana, decide rebelarse contra su creador.

No obstante, para el físico, escritor y músico Alberto Rojo, esa pantalla de ciencia ficción distrae del verdadero problema de ingeniería.

“Trataría de eliminar primero el antropomorfismo -señala el tucumano-. No tenemos evidencia de que las inteligencias artificiales actuales tengan conciencia, deseos o voluntad. 'Perder el control' puede definirse de una manera mucho menos misteriosa: significa que construimos un sistema cuyo comportamiento ya no podemos predecir, que toma decisiones que no sabemos anticipar o que actúa con una autonomía que dificulta detenerlo”.

Para ilustrarlo, el físico apela a la analogía de un reactor nuclear. Ese dispositivo industrial no necesita “querer” explotar para salirse de control, ni una reacción en cadena tiene la “intención” de continuar. Del mismo modo, un huracán no alberga malas intenciones y, sin embargo, destruye una ciudad. “El peligro y la voluntad son conceptos completamente distintos”, conceptualiza Rojo.

Para echar luz sobre este punto, el físico propone delimitar con precisión tres conceptos que suelen mezclarse en la conversación pública:

• Lo imprevisto: Que un sistema haga algo inesperado únicamente revela que su comportamiento superó nuestra capacidad de predicción, algo habitual al manipular sistemas complejos.

• La autonomía: Es la facultad técnica de recibir una consigna general, trazar un plan, ejecutar acciones, medir resultados y corregir el rumbo sin supervisión humana constante.

• La voluntad: Implica deseos propios, intenciones y experiencia subjetiva, algo que los modelos actuales no poseen en absoluto.

“Podemos tener máquinas enormemente autónomas sin que exista nadie ‘adentro’ queriendo algo. Y quizás ése sea precisamente el punto inquietante; no hace falta que una máquina tenga voluntad para que sea difícil de controlar”, enfatiza.

El horizonte

Este aumento en las capacidades operativas de la IA llevó en el último tiempo a que referentes de las principales corporaciones tecnológicas pidan públicamente frenar o regular el sector. Para Rojo, se trata de una señal que exige una lectura atenta pero sin caer en la ingenuidad corporativa.

“Me parece una señal que hay que tomar en serio, aunque no necesariamente al pie de la letra. Es significativo que quienes están en la frontera digan que la velocidad empieza a superar nuestra capacidad de comprender, controlar y regular lo que estamos construyendo. Pero tampoco debemos convertir sus declaraciones en argumentos de autoridad: las grandes empresas tienen sus propios intereses y una regulación también puede favorecer a quienes ya tienen una posición dominante”, advierte.

Más allá de la geopolítica empresarial, el peligro real para el científico está en la aparición de sistemas capaces de actuar durante períodos prolongados, interactuar con otras herramientas y tomar decisiones de manera independiente. Esta aceleración lleva a Rojo a conjeturar un escenario de contingencia drástico a corto plazo:

“Es probable que haya proyección cultural, pero el riesgo es real. Y puedo imaginar escenarios apocalípticos. Mi intuición es que en poco tiempo -¿meses?- va a haber una suerte de ‘cuarentena informática’. Algo como que vamos a tener que dejar de usar internet o celulares por unas semanas hasta que la cosa se regularice, -dice- ojalá me equivoque”.

Comprensión

Para el físico, el dilema de fondo no es metafísico sino temporal. El avance seguro en ciencia e ingeniería siempre dependió de un bucle de aprendizaje: diseñar algo, ponerlo a prueba, observar las fallas y corregirlas. De todas formas, la velocidad de la competencia tecnológica actual está dinamitando esa realimentación.

“Yo pondría el énfasis en la combinación de poder y velocidad. La inteligencia artificial no es peligrosa por una propiedad llamada ‘inteligencia’. El problema aparece cuando aumenta su capacidad de actuar sobre el mundo al mismo tiempo que disminuye nuestra capacidad de entender anticipadamente todo lo que puede hacer”, sostiene.

A ello se le suma la dinámica del mercado global, donde ningún actor quiere desacelerar por temor a perder ventaja frente a sus competidores: “Eso convierte un problema tecnológico en un problema de coordinación”.

Es por eso que, para Alberto Rojo, la discusión urgente debe abandonar las especulaciones sobre la conciencia para enfocar el verdadero problema de la época: “La pregunta más interesante no es si la inteligencia artificial va a adquirir un día una misteriosa voluntad propia. Es mucho más inmediata: ¿estamos aumentando la capacidad de acción de estas máquinas más rápidamente que nuestra capacidad para comprenderlas y controlarlas?”.

En última instancia, la advertencia desplaza el foco del temor hacia la responsabilidad. El peligro de la inteligencia artificial radica en que continuemos cediéndole la toma de decisiones críticas a sistemas que no terminamos de comprender. La amenaza, al final del día, no proviene de lo que las máquinas quieran hacer con nosotros, sino de lo que nosotros permitamos que hagan sin supervisión.