Factores limitantes de la IA

Darío Amodei es el CEO de Anthropic, una empresa que, según su propia definición, busca “desarrollar y mantener de manera responsable IA avanzada para el beneficio a largo plazo de la humanidad”. Previamente, Amodei formó parte del equipo de OpenAI durante el desarrollo de las versiones 2.0 y 3.0 de ChatGPT.

El compromiso de Anthropic con una IA segura y responsable se refleja en su constitución como una Corporación de Beneficio Público. Esta estructura “permite a los directores equilibrar explícitamente los intereses financieros de los accionistas con el propósito de beneficio público especificado en su constitución”. Esta definición otorga a Amodei la autoridad para hablar sobre el futuro de la IA sin estar atado a objetivos comerciales o a presiones de los accionistas, lo que le ha permitido convertirse en una voz reflexiva en el debate sobre el futuro de la IA.

Recientemente, Amodei publicó un ensayo titulado “Máquinas de gracia amorosa”, en el que expone su visión sobre los beneficios de la IA, aunque sigue destacando que “tanto los riesgos como los beneficios de la IA están siendo subestimados”. Más allá de los beneficios, hay un aspecto central en el texto que merece destacarse: Amodei enfatiza que la IA, por sí sola, no transformará el mundo de manera automática, ya que existen diversos factores que pueden limitar su impacto. Para afrontar este desafío, plantea una pregunta fundamental al analizar los proyectos de IA: “¿Cuánto ayuda ser más inteligente en esta tarea y en qué escala de tiempo?”. En este contexto, Amodei identifica cinco factores limitantes en la aplicación de la IA, que he adaptado al entorno empresarial:

1. Necesidad de datos: Aunque la IA puede analizar datos complejos, los datos disponibles suelen ser limitados o de baja calidad. Sin datos confiables, la IA no puede generar resultados significativamente mejores, lo que revive el conocido principio de “basura entra, basura sale”.

2. Velocidad del mundo exterior: La IA puede procesar información de manera extremadamente rápida, pero muchos procesos empresariales tienen tiempos irreducibles debido a factores logísticos, regulatorios y operativos que la IA no puede acelerar automáticamente. Esto incluye la implementación de nuevas tecnologías o los ciclos de toma de decisiones.

3. Limitaciones humanas y sociales: Las restricciones legales, culturales y regulatorias, junto con la resistencia al cambio dentro de la empresa, pueden obstaculizar la adopción y el éxito de los proyectos de IA.

4. Complejidad intrínseca: Algunos problemas empresariales son consecuencia de eventos inherentemente impredecibles, como eventos geopolíticos, decisiones gubernamentales, cambios regulatorios o incluso rumores, lo que limita la capacidad de la IA para ofrecer soluciones precisas.

5. Límites físicos: La naturaleza de ciertos procesos impone restricciones insalvables para la IA. Por ejemplo, en la industria farmacéutica, aunque la IA puede acelerar el descubrimiento de medicamentos, está limitada por la velocidad a la que se pueden realizar las pruebas biológicas.

La IA no es una solución mágica; debe ser vista como lo que es: una herramienta que ayuda a las empresas a desarrollar su propósito de manera más eficiente.