Por Alejandro Urueña
Ética e Inteligencia Artificial (IA) - Founder & CEO Clever Hans Diseño de Arquitectura y Soluciones en Inteligencia Artificial. Magister en Inteligencia Artificial.
Por María S. Taboada
Lingüista y Mg. en Psicología Social. Prof. de Lingüística General I y Política y Planificación Lingüísticas de la Fac. de Filosofía y Letras de la UNT.
(…) allí en el suelo, con las cubiertas desgarradas y esparcidas como plumas de cisnes, yacían los increíbles libros que parecían tan absurdos. Verdaderamente, era indigno preocuparse por ellos, porque no eran más que rayitas negras, papel amarillento y encuadernación semideshecha. Ray Bradbury, “Fahrenheit 451”.
De la quema de libros a la devastación de las bibliotecas de la humanidad.
A mediados de enero del presente año se conocieron documentos internos secretos de Anthropic sobre el proyecto Panamá. Puesto en marcha a principios de 2024, su objetivo ha sido comprar millones de libros, escanearlos y destruirlos para alimentar su chatbot Claude. Desde 2021 (hasta lo que se sabe) ha destinado millones de dólares para adquirir millones de libros, cuyos lomos destroza para poder escanear con mayor facilidad sus páginas.
La destrucción cultural masiva que estaba llevando a cabo la empresa salió a la luz a partir de una demanda colectiva interpuesta por autores de algunos de esos libros. El caso se resolvió mediante un pago de 1.500 millones dólares, que tal vez resuelva los problemas de los demandantes, pero no el culturicidio del que sólo van a quedar los vestigios digitales fragmentados (los patrones estructurales y formales) que fagocite el algoritmo. El problema no es la IA sino sus dueños, las empresas.
Evidencias históricas
La historia de la humanidad cuenta con innumerables ejemplos de eliminación del patrimonio y la memoria culturales (libros, obras de arte, testimonios) por cuestiones ideológicas, políticas, económicas. Los procesos de dominación y colonización están plagados de evidencias. La destrucción de los códices aztecas y la matanza de sus custodios a manos de Cortés es un doloroso ejemplo de devastación de las culturas americanas. Más acá, las dictaduras en nuestro país, particularmente la última, han realizado y se han jactado de este tipo de operaciones. Las bibliotecas de las Universidades Nacionales quedaron diezmadas en cada uno de esos períodos.
Ahora se trata de devorar los discursos culturales al sólo efecto de perfeccionar la emulación de las capacidades y prácticas lingüístico discursivas humanas. Sin dejar rastros de los medios que han justificado el fin. Los algoritmos necesitan millones de datos extraídos de la discursividad de esos libros para analizar estadísticamente los patrones y reproducir lenguaje humano. El saqueo es un recurso para profundizar el fetichismo de que las máquinas saben pensar, hablar, producir y escribir como un humano. Estas supuestas “capacidades” no son ni más ni menos que el resultado de lo que conocemos por plagio: el robo de la creatividad y las palabras de otros. En la medida en que los algoritmos se alimentan con contenidos de libros revisados para su edición, mayor es la calidad de los datos a replicar. Se roban “las joyas” del lenguaje y de este modo se preservan de la producción de discursos y estructuras incoherentes, imprecisas, ambiguas o ilegibles. No importa el contenido, como en las proscripciones o destrucciones ideológicas, sino la forma. Los textos se fragmentan, se manipulan, se destrozan para quedar reducidos a patrones estadísticos estructurales: ruinas y vestigios de los pensamientos, las ideas, la diversidad cognitiva y cognoscitiva, la creatividad infinita de la humanidad. Las páginas, el papel de los libros (sin palabras ya, sin pensamientos, sin emociones, sin humanos), se reciclan: ecología de la destrucción del pensamiento.
Anthropic es en realidad la cima del iceberg. Las decenas de juicios por la propiedad intelectual que enfrentan empresas como Google, Microsoft, Open AI, Meta, entre otras, muestran la sistematicidad planificada de la práctica devastadora, que Anthropic eleva a magnitudes insospechadas.
Saqueo planetario
Anthropic no actuó ni definió sola su culturicidio. Se valió de la experiencia de otros saqueadores. Contrató a un experto en esas lides: Tom Turvey, ejecutivo de Google, que había coordinado el escaneo de libros para la creación del conocido buscador Google Books. La diferencia es que, en este caso, Google patentó su modus operandi, sin afectar los ejemplares. En cambio, Anthropic destruye los libros físicos para potenciar la velocidad de escaneo.
Turvey fue contratado a comienzos de 2024 para obtener “todos los libros del mundo” y escanearlos. En un principio parece que la empresa pensaba comprar los libros a grandes distribuidores, a tiendas de libros usados, a bibliotecas públicas desfinanciadas, pero hasta ahora nadie de los supuestos contactados reconoce estas prácticas.
Anthropic también recurrió al atajo del robo y el uso de librerías digitales que se conocen como “piratas”. Evitaba así procesos de negociación y adecuación legal que insumen mayor esfuerzo y tiempo. Entre 2021 y 2024 se alimentó de la biblioteca digital Books3, que contenía copias no autorizadas de casi 200.000 libros. Hizo también lo propio con la conocida Libgen, de la que descargó 5.000.000 de copias y de PiLiMi, apropiándose de 2.000.000.
Hasta dónde ha llegado el saqueo es un enigma, pero se sabe que Anthropic acopiaba miles de libros impresos en depósitos.
La “justa” destrucción
Los derechos a la identidad y autoría constituyen un obstáculo para la alimentación de datos y el entrenamiento de modelos de IA. La cuestión es qué se privilegia en la balanza. En el caso mencionado precedentemente, el juez decidió que el escaneo destructivo representaba un “uso justo” porque Anthropic había comprado los libros impresos; sin embargo, consideró ilegal el empleo de copias “pirateadas”.
Esta singular postura se ampara, por un lado, en la idea de que una vez adquirido el libro, el comprador puede hacer lo que quiera. ¿En este lábil territorio se incluye “lo que uno quiera con el contenido”, es decir con las ideas y la creatividad de sus autores?
En esta línea, el juez William Alsup determinó que Anthropic no infringía la ley porque usar libros para entrenar modelos involucra una operación “transformadora” que es similar a la que usan los docentes cuando apelan a los textos para “enseñar a los estudiantes a escribir bien”. Los docentes, habría que aclararle al juez, no destruyen libros para copiar estructuras formales. Por el contrario, potencian los sentidos -siempre respetando las autorías- para promover el desarrollo del pensamiento y la creatividad, la diversidad cultural y fortalecer identidades y autorías. Los libros en las aulas son legados culturales para que cada nueva generación acreciente el patrimonio cultural de la humanidad. No es posible “transformar” desde la destrucción – como parece interpretar el citado juez-: se de-forma. Transformar es tender puentes entre el pasado y el presente.
Otro juez, V. Chhabria, planteó en relación a una demanda contra Meta que el uso de libros para la IA no perjudicaba la venta de ejemplares, reduciendo el saqueo a una mera cuestión de marketing.
Hay además otros precedentes que apelan a la doctrina estadounidense del “uso legítimo”, que posibilita utilizar material protegido por derechos de autor. ¿Qué es entonces lo que privilegia la justicia en el uso, abuso y destrucción de libros?
O se trata del “todo vale” para incrementar el poderío tecnológico de Silicon Valley en el planeta.
Derecho al patrimonio
El reconocimiento del derecho de los autores, productores y creadores de patrimonio cultural y científico no puede quedar reducido a una mera cuestión de propiedad, de mercancía o a una erogación económica. Cada creación individual se nutre del conocimiento previo de la humanidad, lo enriquece y lo proyecta al futuro. Es uno de los cimientos de nuestra especie que nos hace sapiens. Hay entonces una permanente dialéctica entre lo individual y lo colectivo: la creación es producto del individuo, pero a la vez es el punto de llegada de un legado colectivo y se constituye en patrimonio por su misma proyección colectiva.
Por eso en los procesos autoritarios, los libros, el patrimonio, se ponen en la mira de prácticas de destrucción, desaparición porque abren, habilitan y potencian otras miradas del mundo, múltiples pensamientos, no el pensamiento único. El libro sin lectores es mera materia muda: es papel. ¿Así lo concibe Anthropic? ¿Es este el destino que proponen las empresas de IA? ¿Que desaparezcan las bibliotecas -impresas y digitales- para instalar un universo de patrones discursivos homogéneos que se repiten y replican circularmente como la verdad absoluta? La IA como palabra-forma divina. Si esta es “la nueva realidad” o la “posverdad”, Fahrenheit 451 y 1984 (entre otros muchos libros) la predijeron hace ya más de medio siglo. Vale la pena releerlos y repensarlos como un legado insoslayable y emplear la IA para recuperar, difundir y poner al alcance de todos la creación y soberanía de una humanidad diversa.
