Detectar las emociones por ordenador
Hay programas que anuncian el estado afectivo de un cliente, un conductor o un candidato a partir de un vídeo. El reglamento europeo adoptado en 2024 prohíbe parte de esos usos.
Lo que hacen esos sistemas
Un sistema de reconocimiento de emociones extrae de una imagen puntos característicos del rostro, o de una grabación parámetros de la voz, y los compara con un modelo entrenado sobre ejemplos etiquetados. Produce después una etiqueta: alegría, ira, estrés, implicación.
El rendimiento técnico es real sobre los datos de prueba: el modelo reencuentra las etiquetas de los ejemplos que se le han enseñado. La cuestión no está ahí. Está en saber qué valen esas etiquetas sobre una persona real, en situación y sin consigna.
La objeción científica
La síntesis publicada en 2019 por Lisa Feldman Barrett y sus coautores, sobre varios centenares de estudios, concluye que una misma configuración facial acompaña estados distintos y que un mismo estado se expresa de maneras variadas. La correspondencia es demasiado laxa para fundar una inferencia sobre un individuo.
Las mediciones fisiológicas no salen mejor paradas. La conductancia de la piel y el ritmo cardíaco informan bien del nivel de activación y mal de su naturaleza: ningún sensor distingue la ira del entusiasmo.
Los retrocesos del mercado
Varios actores han dado marcha atrás. Un editor estadounidense de entrevistas en vídeo automatizadas, muy utilizado en selección de personal, anunció en 2021 que abandonaba el análisis facial en sus evaluaciones, al juzgar su contribución insuficiente frente a las objeciones planteadas.
Un precedente más antiguo atañe a la seguridad aérea: un informe público estadounidense publicado en 2013 concluía que el programa de observación del comportamiento de los pasajeros no permitía identificar a las personas peligrosas mejor que el azar, y recomendaba limitar su financiación.
La prohibición europea
El reglamento europeo sobre inteligencia artificial, adoptado en 2024, sitúa entre las prácticas prohibidas los sistemas destinados a inferir las emociones de una persona en el lugar de trabajo y en los centros de enseñanza, salvo por motivos médicos o de seguridad. Las prohibiciones de ese texto entraron en aplicación antes que el resto del dispositivo.
La elección del ámbito es reveladora: apunta a los contextos donde la persona observada no puede sustraerse a la observación. Un asalariado no abandona su puesto, un alumno no abandona su aula, y el consentimiento es allí en buena medida formal.
La distinción que falta en el debate
Una señal demasiado ruidosa para decir nada de un individuo puede seguir siendo informativa sobre una población. Una variación media de activación en una sala informa sobre lo que allí se proyecta; la misma medida sobre un espectador no informa de nada.
Es la diferencia entre un uso estadístico y un uso decisorio. Las objeciones más fuertes apuntan al segundo, cuando una inferencia incierta sirve para tomar una decisión que compromete a alguien: una contratación, una nota, un control.
Para recordar
La correspondencia entre configuración facial y estado interior es demasiado laxa para fundar una inferencia individual.
Los sensores fisiológicos miden la activación, no la naturaleza de la emoción.
El reglamento europeo de 2024 prohíbe esos sistemas en el trabajo y en la enseñanza, fuera de motivos médicos o de seguridad.
Este artículo describe mecanismos y desacuerdos documentados. No recomienda ninguna posición, ningún partido y ningún voto, y no compromete otra lectura que la de los trabajos que cita.
Y usted, ¿dónde se sitúa?
El test Civix sitúa sus convicciones en seis dimensiones y lo vincula a uno de los doce perfiles, sin decirle nunca qué pensar.
Empezar mi test