.
ESTADOS UNIDOS

Twitter detecta que algoritmo tiende a recortar personas negras y hombres de fotos

miércoles, 19 de mayo de 2021

El estudio de aprendizaje automático se hizo luego de las críticas de usuarios el año pasado sobre vistas previas de imágenes publicadas

Reuters

El algoritmo de recorte de imágenes de Twitter Inc tiene un sesgo problemático que lleva a la exclusión de personas negras y a hombres, dijo la compañía en una nueva investigación el miércoles, y agregó que "cómo recortar una imagen" es una decisión que pueden tomar mejor las personas.

El estudio de tres de sus investigadores de aprendizaje automático se hizo luego de las críticas de usuarios el año pasado sobre vistas previas de imágenes en publicaciones que excluyen los rostros de personas negras.

El informe encontró una diferencia del 8% con respecto a la paridad demográfica a favor de las mujeres y un 4% a favor de las personas blancas.

El documento citó varias razones posibles, incluidos problemas con los fondos de las imágenes y el color de los ojos, pero dijo que ninguna era una excusa.

"El recorte basado en el aprendizaje automático es fundamentalmente defectuoso porque elimina la voluntad del usuario y restringe la expresión del usuario de su propia identidad y valores, y a cambio impone una mirada normativa sobre qué parte de la imagen se considera más interesante", escribieron investigadores.

Para contrarrestar el problema, Twitter comenzó recientemente a mostrar fotos de aspecto estándar en su totalidad, sin ningún recorte, en sus aplicaciones móviles y está tratando de expandir ese esfuerzo.

Los investigadores también evaluaron si los recortes favorecían los cuerpos de las mujeres antes que las cabezas, lo que refleja lo que se conoce como la "mirada masculina", pero encontraron que no parece ser el caso.

Los hallazgos son otro ejemplo del impacto dispar de los sistemas de inteligencia artificial, incluidos los sesgos demográficos identificados en el reconocimiento facial y el análisis de texto, según el documento.

Un trabajo de investigadores de Microsoft Corp y el Instituto de Tecnología de Massachusetts en 2018 y un estudio posterior del gobierno de Estados Unidos encontraron que los sistemas de análisis facial identifican erróneamente a las personas de color con más frecuencia que a las personas blancas.

Amazon Inc descartó en 2018 una herramienta de reclutamiento con inteligencia artificial que mostraba prejuicios hacia las mujeres.

Conozca los beneficios exclusivos para
nuestros suscriptores

ACCEDA YA SUSCRÍBASE YA

MÁS DE GLOBOECONOMÍA

España 20/11/2024 Bbva lanza campaña en la que sus accionistas invitan a Sabadell a dialogar sobre la opa

Bbva señala que la campaña "no cuenta con actores, sino con accionistas reales de Bbva, que invitan a los de Sabadell" a imaginar cómo sería la nueva entidad fusionada

Perú 20/11/2024 Puerto del Callao en Perú ya no tendría las tarifas reguladas si compite con Chancay

Chancay atenderá las 24 horas los 365 días, mientras que Callao no lo puede hacer debido a factores como el personal

Francia 21/11/2024 Legisladores franceses piden en su plan presupuestario que se trabaje un día gratis

La medida fue aprobada en el Senado, pero aún podría ser descartada del proyecto final de presupuestos, supondría un ingreso adicional de US$2.360 millones