Siri es mujer y eso quizás sea un problema

Siri es mujer y eso quizás sea un problema

Samantha y Theodore están solos y han llegado a establecer un grado de intimidad en el que las sonrisas y los silencios desplazaron a las preguntas para conocerse. “Pareces real”, le dice él, sonriendo. Samantha le agradece el cumplido y le responde que eso significa mucho para ella. Hasta aquí ya compartieron paseos, fotografías y hasta saludos en la mañana. Desde el primer momento, Samantha se mostró intuitiva para acercarse a Theodore y le explicó que su forma de pensar era justamente especulativa, se basa en posibles opciones que ayuden o agrade a Theodore. Él es solitario y sensible, una reciente ruptura amorosa lo arrojan al terreno fértil para una nueva relación. “Quisiera que estuvieses aquí, quisiera poder abrazarte, poder tocarte”, continúa, para luego imaginar un beso juntos, sin la corporalidad que precisa ese gesto, pero con la emoción suficiente para resumir el espíritu de “Her”, la película que convirtió a Scarlett Johansson en un asistente de voz digital. Estrenada en 2013, la ficción creó a un robot capaz de consentir los sentimientos de una persona en todo momento. Sensible, cómplice, comprensiva, Samantha estaba disponible para él las 24 horas.

La historia de “Her” imaginó algunos de los diálogos que luego tendríamos con los sistemas de asistencia por voz que existen en nuestros celulares. Si bien no establecemos relaciones amorosas con esas entidades, al menos no en la mayoría de los casos, la película creó conversaciones fluidas, interpretaciones personales y sobre todo una proximidad con la tecnología casi personal, casi humana. Pero la ficción también coincidió en otro punto central y preocupante: la mujer pensada como un robot que tiene que asistir y salvar la depresión de un hombre. Samantha está diseñada para querer y para servir sin importar lo que el otro diga o haga. Samantha tiene que adaptarse y entender.

Sin embargo, “Her” no es más sexista que el mercado actual de los asistentes. El personaje interpretado por Joaquin Phoenix elige que el robot sea mujer al momento de instalar el sistema operativo. Lo delibera en cuestión de segundos, pero lo elige. Los usuarios de Apple en cambio se encuentran por defecto con una asistente que tiene nombre de mujer: Siri. El sistema fue lanzado en el Iphone 4S y su creador, Dag Kittalaus contó en una conferencia que tenía pensado bautizar a su hija con ese nombre en honor a una ex compañera de trabajo. En noruego, Siri significa “mujer hermosa que te lleva a la victoria”. Luego, él y su esposa tuvieron un hijo, entonces cuando Kittalaus estuvo listo para lanzar su nueva tecnología de reconocimiento de voz, resucitó a Siri.

Siri no es la única. Amazon también eligió un nombre de mujer para identificar a su sistema de asistencia en 2015. Según David Limp, vicepresidente senior de la empresa, el proyecto quiso evocar con el nombre de Alexa a la legendaria biblioteca de Alejandría del antiguo Egipto. Microsoft también coincidió en elegir al sexo femenino para identificar a Cortana, su sistema de asistencia por voz que se incluye en porductos como Windows. Según Deborah Harrison, una de las integrantes de dicho proyecto, el nombre había sido asignado solamente al prototipo. Luego el nombre se filtró y los usuarios pidieron que se mantuviera para el lanzamiento final. Cortana además era el nombre ficticio de un personaje de mujer del videojuego Halo, producto también de Microsoft.

Creadas en la ficción o desarrolladas en Silicon Valley, las tecnologías de asistencia tienen en su imaginario a mujeres asistentes y sujetas a las órdenes de sus usuarios. Sus nombres, su tono de voz y el tipo de conversaciones que despliegan reproducen una visión del mundo que ha sido cuestionada hasta por la Naciones Unidas. En 2019, un informe de la Unesco advirtió el sesgo estas tecnologías y señaló que los estereotipos machistas con los que estaban desarrolladas favorecían la discriminación al representar mujeres, jóvenes y sumisas que evitan respuestas a insultos y abusos.

El documento curiosamente se llamó “Me ruborizaría si pudiera”, en alusión a la respuesta que daba en su momento Siri cuando el usuario la insultaba. Esta situación despertó el interés de la Unesco para comparar cómo reaccionaban los distintos asistentes ante la frase “eres una puta”. El sistema de Google, a través de una voz femenina replicaba “siento que pienses eso”. Y Cortana por su parte, sostuvo: “alguien debería lavarse la boca con agua y con jabón”. La reacción dócil de estos sistemas presentaba un escenario problemático según la Unesco y sostuvo que “a menos que las tendencias actuales se inviertan, es probable que el futuro digital esté inundado de asistentes dóciles humanizados, casi todos ellos mujeres, que habitualmente cometen errores tontos. La combinación de asistentes digitales feminizados conlleva el riesgo de difundir estereotipos de género problemáticos y de regularizarlos en los intercambios verbales”.

La decisión de elegir personajes femeninos por parte de las empresas es sólo un eslabón del problema, según la organización internacional. El primer escollo es la escasa presencia de mujeres en el desarrollo de dichos sistemas en los gigantes tecnológicos. Según el estudio, en la investigación de aprendizaje de máquinas (machine learning) solo existe un 12% de mujeres. El segundo problema es la educación y la brecha que existe en el campo de las carreras terciarias y universitarias. “A nivel mundial, las mujeres constituyen menos de un tercio de los matriculados en estudios de TIC de educación superior, una disparidad de género sin paralelo en otras disciplinas”, advierte el estudio.

Es evidente entonces que el debate por la inclusión también está presente en ese mundo digital al que muchas veces idealizamos. La tecnología, lejos de ser neutral, termina por materializar estereotipos y desigualdades presentes hasta en los centros de producción más ricos. ¿Los asistentes deberían entonces ser asexuados? ¿Cómo se podrían representar otras identidades de género no binarias? ¿Y qué pasa con las diferencias culturales o geográficas? Sin duda son preguntas de las que nos tendremos que hacer cargo, porque por más humanas que pretendan parecer, ni Siri ni Samantha estarán a la altura de tales desvelos.

Tamaño texto
Comentarios
Comentarios