Inteligencia artificial, emociones y poder

En agosto de 2007, Sony lanzó al mercado la cámara Cyber-shot DSC-T200. Este innovador dispositivo digital compacto presentaba una característica llamada “Smile Shutter”, que permitía a la cámara detectar sonrisas en las personas que se estaban fotografiando y, de este modo, tomar la foto automáticamente cuando se infería una sonrisa. Esta tecnología, que empleaba algoritmos de inteligencia artificial (IA) para reconocer las sonrisas, fue sin duda uno de los primeros avances en el campo del reconocimiento de emociones mediante IA disponibles para el consumidor.

Años más tarde, en 2014, el Teatreneu Club en Barcelona implementó esta misma tecnología en el mundo del entretenimiento, llevando a cabo una campaña llamada “Pay Per Laugh”. En esta, los asistentes a obras de teatro abonaban el valor de la entrada en función del número de sonrisas emitidas durante la función. A simple vista, ambas aplicaciones parecen centrarse en el entretenimiento y no presentan riesgos evidentes para el usuario, sin embargo, los sistemas para interpretar o inferir emociones o intenciones de las personas a partir de sus datos biométricos mediante IA han avanzado más allá del entretenimiento. Los usos potenciales de estas tecnologías son objeto de debate y preocupación, especialmente en lo referente a su impacto en la privacidad y en el equilibrio de poder entre individuos y corporaciones o instituciones.

Los usos potenciales del reconocimiento de emociones por IA son variados, incluyendo: (i) Salud mental, donde aplicaciones especializadas utilizan el reconocimiento de emociones para asistir a los usuarios en la identificación y manejo de sus emociones, ofreciendo retroalimentación y soporte en tiempo real o dirigiendo a los usuarios a ayuda profesional cuando se detectan señales de angustia; (ii) Análisis de sentimiento de clientes, tanto en interacciones en persona, como en navegación de sitios web para mejorar la calidad del servicio al cliente y la oferta de productos, identificando insatisfacciones y ajustando respuestas en consecuencia; (iii) Reacciones del público a contenidos, permitiendo ajustes en el contenido con base en las respuestas emocionales de la audiencia; (iv) Monitoreo de conductores de vehículos y operadores de equipos, detectando signos de fatiga, distracción o estrés y generando las alertas correspondientes; y, (v) Seguridad ciudadana, mediante la categorización biométrica de las personas y sus emociones para fines de detección y prevención de delitos.

Más de quince años después del lanzamiento de la Cyber-shot, la regulación de la IA es objeto de intensos debates en la Unión Europea, y es motivo de controversia sobre si, para permitir el uso del reconocimiento de emociones es suficiente con una política de información expresa y previa al usuario, o si, por el contrario se debe evolucionar a regulaciones más restrictivas que incluyan la prohibición del reconocimiento de emociones en algunos ámbitos como los puestos migratorios, y los entornos laboral y educativo.

Definitivamente, nos encontramos frente a una tecnología poderosa con inmensos beneficios potenciales, en mi opinión, el quid del asunto pasa por regular, y quizás prohibir el uso en contextos donde pueda surgir un desequilibrio de poder entre las partes.