Unesco: ética y tecnología

La Unesco ha sido muy insistente en la importancia de la aplicación de los principios éticos al momento de utilizar la Inteligencia Artificial, considerando que ésta puede tener sesgos que contribuyen a la degradación del clima, amenaza a los derechos humanos, entre otros. Por esta razón la Unesco elaboró un documento de recomendaciones en temas de “Ética en Inteligencia Artificial”, que fue adoptado por 193 países miembros en noviembre de 2021.

Dichas recomendaciones cuentan con cuatro valores centrales: 1. Respeto, protección y promoción de los derechos humanos, libertades fundamentales, y dignidad humana. 2. Vivir en paz, justicia y sociedades interconectadas. 3. Garantizar la diversidad e inclusión. y 4. El florecimiento del medio ambiente y los ecosistemas.

Para el tema de los Derechos Humanos y la Inteligencia Artificial, la Unesco ha redactado ya los 10 principios básicos siguientes:

Primero, proporcionalidad y no daño. Se debe realizar un diagnóstico de potenciales riesgos a los derechos humanos y cómo minimizarlos. La inteligencia artificial en ningún caso debe usarse para puntuación social y vigilancia masiva.

Segundo, deben prevenirse los daños y riesgos en la seguridad. Esto incluye a todos los actores que hacen parte del ciclo de vida de la inteligencia artificial, es decir, investigación, diseño, desarrollo, mantenimiento, uso, operación, financiación, monitoreo y evaluación, usuario final, terminación, entre otros.

Tercero, protección de datos y privacidad. Se deben establecer todos los sistemas de protección para que no se vulneren estos derechos durante todo el ciclo de vida de la IA. Atención: los datos que se comparten en línea hacen parte de este principio.

Cuarto, debe darse una colaboración entre los gobiernos y las instancias internacionales, ya sea de entidades o leyes, para lograr una colaboración multi-stakeholders.

Quinto, responsabilidad o accountability. Los sistemas deben ser auditables y rastreables para poder conocer dónde se encuentra el riesgo de vulneración de los derechos humanos.
Sexto, transparencia y explicabilidad. Las decisiones que sean tomadas por IA deben ser conocidas de forma fácil y comprensible para el usuario.

Séptima, supervisión humana y determinación. El estado miembro debe garantizar que los sistemas de IA no desplacen la responsabilidad y la rendición de cuentas.

Octavo, sostenibilidad. Las tecnologías de IA deben abstenerse de vulnerar los derechos que impactan la sostenibilidad y tener en cuenta los Objetivos de Desarrollo Sostenible de las Naciones Unidas.
Noveno, conciencia y alfabetización. Se debe educar a las personas sobre los principios éticos en el uso de la IA y sobre los impactos positivos y negativos que ésta trae en la vida de las personas.

Décimo, la IA debe promover la justicia y la no discriminación.

Teniendo en cuenta que la inteligencia artificial está “literalmente” cambiando la educación, la forma de trabajar, la forma de interactuar, los hábitos y comportamientos, una regulación teniendo como base estos principios podría ser un muy buen primer paso.