La IA, ni inteligente ni artificial

Kate Crawford, investigadora de Microsoft Research y vinculada a la Universidad de Nueva York escribió un libro titulado ‘Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence’ publicado en 2001 por Yale University Press que la llevó a la fama mundial. Tras estudiar el libro con esa visión crítica que buscamos formar en la Universidad Externado de Colombia, quiero compartirle a los lectores de La República los elementos centrales que nos invitan a reflexionar sobre contradicciones y ambigüedades como la siguiente: el gobierno del cambio tiene como bandera luchar contra la huella de carbono y el calentamiento global, mientras que inaugura la Facultad de Inteligencia Artificial e Ingenierías de Colombia en medio de una falta de alineación entre las políticas de IA de MinTIC y MinCiencias como ha expuesto esta columna.

El Atlas de la IA nos propone tener en consideración el mapa constitutivo de abstracción y extracción del capitalismo de la información que inicia con la tierra. La IA es una industria de extracción que se alimenta de una minería extensiva para la producción de los artefactos que componen las tecnologías digitales. A su vez, el procesamiento algorítmico devora ingentes cantidades de energía -producida con agua y petróleo- que están disparando la huella de carbono. Solo el ChatGPT necesita 6,5 millones de litros de agua al año para funcionar. Luego tenemos el trabajo. La IA se alimenta de muchos, muchos trabajadores precarizados que tienen como tarea etiquetar, clasificar y corregir miles de millones de datos. Funcionan como el hombre oculto en el Mechanical Turk que da la ilusión de una tecnología autónoma. El siguiente componente del Atlas son los datos, esa obsesión de recolectarlo todo, sin importar la privacidad, los derechos y la dignidad de las personas. Continua con la clasificación de datos, sumamente sesgado por quienes crean y controlan los algoritmos. Ellos se protegen con la ilusión de la neutralidad científica de los resultados del procesamiento algorítmico que no se pueden explicar. Como refiere la autora citando a la filósofa Babette Babich “el aprendizaje automático explota lo que sabe para predecir lo que no sabe”. El Atlas finaliza primero con las emociones, sobre como la IA termina siendo la herramienta para programarlas impulsándonos a votar, consumir y obedecer; y luego nos presenta el poder estatal para la vigilancia, el control social y la guerra.

La IA, indica Kate, “no es magia; es un análisis estadístico a escala. Y, sin embargo, persisten los cuentos de máquinas inteligentes sobrenaturales”. Técnicamente la IA se constituye de redes neuronales y patrones estadísticos que organizan capas y capas de datos etiquetados para asignarles pesos y clasificarlos “de modos que aún no podemos explicar del todo”. El argumento central de la autora es que la IA no es ni inteligente ni artificial. “Más bien existe de forma corpórea, como algo material, hecho de recursos naturales, combustible, mano de obra, infraestructuras, logística, historias y clasificaciones. Los sistemas IA no son autónomos, racionales ni capaces de discernir algo sin un entrenamiento extenso y computacionalmente intensivo, con enormes conjuntos de datos o reglas y recompensas predefinidas. De hecho, la IA como la conocemos depende por completo de un conjunto mucho más vasto de estructuras políticas y sociales”. Por ello debemos preguntarnos ¿Quiénes construyen los sistemas algorítmicos de la IA? ¿A qué intereses sirven? ¿Cuáles son las implicaciones sociales de la introducción a escala de la IA? ¿Cuáles son los daños ambientales que genera?

Coda sobre el gobierno del cambio. ¿Será la constituyente y la reelección apalancada con la manipulación de información que puede crear la IA desde su nueva Facultad? Pareciera que en medio de su confusión inextricable pergeña políticas de lógicas abyectas pretendiendo que sus acciones sean indemnes para el futuro de Colombia.