Por Alejandro Urueña
Ética e Inteligencia Artificial (IA) - Founder & CEO Clever Hans Diseño de Arquitectura y Soluciones en Inteligencia Artificial. Magister en Inteligencia Artificial.

Y María S. Taboada
Lingüista y Mg. en Psicología Social. Prof. de Lingüística General I y Política y Planificación Lingüísticas de la Fac. de Filosofía y Letras de la UNT.

La ingeniera periodista Karen Hao, una especialista en IA, acaba de editar en español su texto “El imperio de la IA: Sam Altman y su carrera para dominar al mundo”.

La publicación es producto de años de indagación y de entrevistas a científicos e investigadores, focalizadas en OpenAI, pero con una mirada hacia todas las empresas de IA. Hao, formada en ingeniería mecánica, realizó estudios en el MIT y trabajó en Silicon Valley. Su objetivo era construir tecnologías de interés público pero pronto advirtió que su proyecto chocaba con la tendencia generalizada de producción de tecnologías rentables. Dejó la industria y decidió dedicarse al periodismo a fin de promover a nivel público una mirada que aborde la IA, “las ideologías y culturas de Silicon Valley” desde una perspectiva crítica.

La tesis fundamental de su libro es que las empresas tecnológicas están en búsqueda de nuevas formas de imperialismo que ya están afectando al planeta, remodelando la política y geopolítica y ejerciendo una influencia controladora en cada aspecto de la vida humana.

En una entrevista realizada por Gustavo Entrala analiza cuatro paralelismo entre lo que denomina antiguos imperios y el actual “imperio de la IA” https://www.youtube.com/watch?v=U36BocbXJs8&t=1579s.

Los primeros toman recursos que no les pertenecen pero rediseñan las reglas para hacer creer lo contrario. Las empresas de IA acceden y se apropian de los datos de las personas utilizando el argumento de su dominio público que les otorgaría legalidad para emplearlos gratuitamente.

En segundo lugar, los imperios explotan una cantidad extraordinaria de trabajo y ello está ocurriendo actualmente con los operarios contratados para etiquetar datos de preentrenamiento que trabajan en condiciones de sobrecarga, maltrato y bajísimos salarios. Cita, entre otros, el caso de los trabajadores kenianos que OpenAi contrató para filtrar contenidos perniciosos. Se exponen a todo tipo de contenidos de discriminación, abuso, violencia durante 8 horas a lo largo de toda la semana, tareas que han afectado profundamente su psique. Igualmente, para que el ChatGPT “aprenda” a conversar con humanos, trabajadores en negro con salarios miserables registran miles de diálogos y entrenan al LLM para simular conversaciones humanas. La periodista advierte que estos trabajadores proporcionan un servicio crítico para esta industria y la hacen posible, sin ser reconocidos como tales

La tercera característica es que los imperios monopolizan la producción de conocimiento: la IA es tan rica en recursos que prácticamente ha captado a todos los científicos especializados y a los provenientes de la Academia. Este hecho sesga la posibilidad de reflejar una imagen clara de las potencialidades y verdaderas limitaciones de la IA porque la producción y la ciencia en IA “está siendo distorsionada para inclinarse al interés corporativo de las empresas”.

La cuarta similitud está dada porque las empresas “crean un relato agresivo de competencia moral: se ven como el buen imperio luchando contra el mal”. Redefinen constantemente quién representa el imperio del mal. Por ejemplo, para OpenAI, inicialmente era Google y ahora es china. Muchas empresas instituyen una discursividad en la que aparecen como los adalides de una misión civilizadora de la humanidad. Para ello recurren a formaciones discursivas religiosas; deliberadamente construyen una narrativa religiosa en torno a la IA. Al respecto, rememora que Sam Altman, antes de fundar OpenAi, solía aseverar (parafraseando a otro autor) que las personas exitosas crean empresas; las empresas más exitosas crean países y las de alto rango crean religiones. El tópico central de la narrativa religiosa está en la idea de que la AGI (IA con todas las capacidades humanas) es posible, inminente y va a transformar radicalmente la humanidad. Discurso que carece al presente de evidencia científica. En esta línea, señala que OpenAI y Anthropic son los semilleros de esta forma de pensar.

Riesgos inminentes del imperio de la IA

Las empresas de IA -sostiene Hao- han consolidado a estas alturas más poder que cualquiera de los Estados. Ya están destruyendo el medio ambiente para producir tecnología. Están generado múltiples crisis de salud pública afectando la calidad del aire. Incrementan la crisis de agua dulce porque para enfriar sus centros suelen conectarse a las redes que proveen agua potable a las comunidades. Impactan en el empleo: no solo están desplazando trabajos sino que están perjudicando las posibilidades de negociación, ya que los trabajadores se sienten amenazados por el riesgo de ser sustituidos por la IA. Asimismo, vislumbra una crisis de la educación superior porque los jóvenes se plantean seriamente qué profesiones estudiar e, inclusive, si vale el esfuerzo, el tiempo y el dinero para luego no tener campo de desarrollo profesional.

Imperio e IAcracia

El planteo de Hao se asemeja al concepto que IAcracia que hemos propuesto a lo largo de nuestros artículos. Hemos insistido que el mercado actual está dominado por quién posee los datos, el conocimiento y la experticia para desarrollar modelos que los acaparen y los dominen. Procesos éstos de colonización informativa, cognoscitiva y cognitiva que requieren de discursividades, relatos que generen una confianza absoluta, ingenua y acrítica, en los productos. La fetichización de la IA, esto es, la creencia en sus poderes absolutos, es fundamental para que las empresas aseguren el incremento de usuarios que juegan un doble papel: el de clientes y el de proveedores de datos, cooptados por estrategias destinadas a esos fines. En ese contexto, el imperio planetario de la IA puede estar cada vez más cerca.

Pero, a diferencia de Hao, planteamos que la IAcracia puede derivar en imperialismos, si no se asegura una educación crítica y una regulación adecuada que posibiliten nuevas formas colectivas de producción y desarrollo de IA para la superación de las brechas sociales, económicas, educativas y la afirmación de los derechos para toda la humanidad. Esta segunda alternativa requiere de políticas públicas, con Estados, instituciones y grupos sociales comprometidos en la visibilización de los riesgos y potencialidades de la IA y en una cooperación tecnológica soberana y emancipadora.

Se trata de adoptar un rol protagónico en la edificación de nuestra propia historia, ratificar nuestra capacidades fundamentales: la creatividad, la inventiva, la empatía, la mirada verdaderamente inteligente sobre el mundo, sobre nosotros mismos y nuestros haceres. Y ejecutarlo precisamente en este momento, en un escenario donde sistemas y algoritmos casi omnipresentes regulan progresivamente más dimensiones de lo real, dirigen elecciones y pretenden fabricar la interpretación de nuestra existencia, reduciéndonos al rol de contempladores inertes de mecanismos opacos. Nuestro sitio en el planeta no puede constreñirse a la mera observación, sino que reclama desplegar íntegramente nuestras potencialidades y participar de modo lúcido y responsable en el devenir de los sucesos.