UE sugiere a empresas tecnológicas que alerten a los usuarios sobre peligros de la IA

La Unión Europea quiere que las empresas de tecnología adviertan a los usuarios sobre el contenido generado por inteligencia artificial que podría generar desinformación, como parte de un código voluntario que Twitter Inc. dejó el mes pasado.

ARTÍCULO RELACIONADO

Cuatro principios que no se deben perder para un buen uso de la Inteligencia Artificial

Si bien las nuevas tecnologías de inteligencia artificial “pueden ser una fuerza para el bien”, existen “lados oscuros” con “nuevos riesgos y el potencial de consecuencias negativas para la sociedad”, dijo Vera Jourova, vicepresidenta de la Comisión Europea, a los periodistas el lunes. “Las nuevas tecnologías plantean nuevos desafíos para la lucha contra la desinformación”.

Las empresas que se suscribieron al código de prácticas voluntario de la UE para combatir la desinformación, incluidas TikTok Inc., Microsoft Corp. y Meta Platforms Inc., ahora deben "etiquetar claramente" cualquier servicio con potencial para difundir la desinformación generada por IA, dijo Jourova.

La UE se apresura a ponerse al día y establecer reglas para la IA generativa mientras negocia su Ley de IA, que se someterá a una votación clave en el pleno del Parlamento Europeo la próxima semana. Incluso si las instituciones de la UE acuerdan una versión final para fin de año, es probable que las empresas no necesiten cumplir hasta 2026, por lo que, mientras tanto, varios políticos están proponiendo una serie de ideas para cubrir el bloque.

El código voluntario de la UE que establece el cumplimiento de las reglas de moderación de contenido de la UE, la Ley de Servicios Digitales, hasta ahora no incluye los riesgos del contenido generado por IA.

ARTÍCULO RELACIONADO

El CEO de OpenAI pedirá mayor regulación para la inteligencia artificial

Jourova dijo que los signatarios “que integran IA generativa en sus servicios, como Bing chat para Microsoft, Bard para Google”, ahora también deberían “incorporar las garantías necesarias para que estos servicios no puedan ser utilizados por actores malintencionados para generar desinformación”.

Jourova se ha reunido con las más de 40 empresas adheridas al código. El Twitter de Elon Musk se fue el mes pasado.

“Creemos que esto es un error de Twitter. Twitter ha elegido el camino difícil. Eligieron la confrontación”, dijo Jourova. “No se equivoquen, al dejar el código, Twitter ha atraído mucha atención y sus acciones y el cumplimiento de la ley de la UE serán examinados enérgica y urgentemente”.

Más salvaguardas
La vicepresidenta ejecutiva, Margrethe Vestager, está trabajando en un código de conducta con los socios del G7, India e Indonesia, para convencer a las empresas de que agreguen más salvaguardas a medida que implementan esta tecnología.

En conversaciones con el Gobierno de EE. UU. y líderes de la industria como el director ejecutivo de OpenAI, Sam Altman, Vestager dijo que ha habido "consenso" sobre algunas de las barandillas. Por ejemplo, Altman estaba interesado en los requisitos de transparencia, auditorías externas y red teaming.

“Lo importante es, por supuesto, que el proceso entre los países no sea capturado por el mínimo común denominador, para que no funcione”, dijo Vestager. “Debe estar liderado por la democracia y no por la industria, pero debe contar con el aporte de la industria”.

El comisario de Mercado Interior, Thierry Breton, ha anunciado un "Pacto de IA" que salvaría los años entre la aprobación de la Ley de IA y su entrada en vigor.

El pacto, que el CEO de Google, Sundar Pichai, ya dijo que firmaría, ayudará a las empresas a cumplir con las reglas antes de que entre en vigor la Ley de IA, dijo Breton a los periodistas hoy.

La comisión podría ofrecer pruebas de estrés para que las empresas evalúen cómo ya cumplen con las reglas, ya que el comisionado está planeando con Twitter cumplir con la Ley de Servicios Digitales.