08 Junio 2025
En la carrera por entender el comportamiento humano, la inteligencia artificial (IA) ha alcanzado un nuevo y polémico hito: la capacidad de identificar emociones en tiempo real a través del análisis de voz, expresiones faciales, ritmo cardíaco o patrones de escritura. Si bien este desarrollo promete avances en salud mental, educación y atención al cliente, también despierta inquietantes preguntas sobre privacidad, manipulación y vigilancia.
Tecnología que “lee” tus emociones
Empresas como Affectiva, Emotion AI, Amazon, Microsoft y Apple ya desarrollan o incorporan tecnologías de reconocimiento emocional en sus productos. Algunos sistemas pueden detectar alegría, miedo, tristeza, frustración o sorpresa con solo analizar una grabación de voz o una imagen facial. Otras, más avanzadas, combinan datos fisiológicos como el ritmo cardíaco o el nivel de sudoración para ajustar la precisión.
En educación, por ejemplo, la IA puede detectar cuándo un estudiante pierde la concentración o se frustra frente a una tarea. En atención al cliente, los algoritmos permiten ajustar las respuestas de un chatbot en función del tono emocional del usuario. En salud, hay aplicaciones experimentales que monitorean el ánimo de pacientes con depresión o ansiedad a lo largo del día.
¿Demasiado cerca?
La pregunta que surge es inmediata: ¿hasta qué punto estamos dispuestos a permitir que una máquina “nos lea”? La ONG Access Now, dedicada a los derechos digitales, advierte que estas tecnologías pueden caer fácilmente en el terreno de la vigilancia emocional, especialmente si se usan sin consentimiento informado o en contextos laborales, educativos o de consumo.
En 2021, la Unesco recomendó una regulación ética del uso de IA que incluya límites específicos al reconocimiento emocional, advirtiendo sobre “la opacidad algorítmica, el sesgo cultural y la erosión de la autonomía humana”.
El dilema ético
“Nos enfrentamos a un momento en el que los dispositivos no solo quieren saber qué decimos o hacemos, sino también cómo nos sentimos. Y eso puede ser útil, pero también peligrosamente invasivo”, afirma la investigadora española Carissa Véliz, autora de Privacidad es poder.
Casos como el del software de vigilancia emocional aplicado en aulas chinas o en oficinas de atención al cliente en EE.UU. han levantado alarmas sobre la posible normalización de una “intimidad supervisada”. Incluso algunos desarrolladores como Microsoft han anunciado la limitación o retiro de sus tecnologías de reconocimiento emocional por sus riesgos éticos.
¿Regulación o pausa?
Mientras tanto, la industria avanza más rápido que la legislación. En Europa, la nueva Ley de Inteligencia Artificial de la Unión Europea incluye restricciones sobre sistemas que afecten los derechos fundamentales, pero su implementación será gradual. En América Latina, el debate apenas comienza.
En ese vacío normativo, el futuro del reconocimiento emocional por IA queda en manos de empresas, gobiernos y consumidores: ¿usar esta herramienta para el bienestar o para el control? ¿Avance o invasión? La respuesta, como las emociones humanas, es compleja y contradictoria.
Temas
Digital
Lo más popular
