¿Qué es GAIA?

GAIA es un benchmark diseñado para evaluar asistentes de IA en tareas del mundo real que requieren una combinación de capacidades centrales, como razonamiento, comprensión multimodal, navegación web y uso competente de herramientas.

Fue introducido en el artículo GAIA: A Benchmark for General AI Assistants (en inglés)”.

El benchmark presenta 466 preguntas cuidadosamente seleccionadas que son conceptualmente simples para los humanos, pero notablemente desafiantes para los sistemas de IA actuales.

Para ilustrar la brecha:

GAIA destaca las limitaciones actuales de los modelos de IA y proporciona un benchmark riguroso para evaluar el progreso hacia asistentes de IA verdaderamente de propósito general.

🌱 Principios Fundamentales de GAIA

GAIA está cuidadosamente diseñado en torno a los siguientes pilares:

Niveles de Dificultad

Las tareas de GAIA se organizan en tres niveles de complejidad creciente, cada uno probando habilidades específicas:

Niveles de GAIA

Ejemplo de una Pregunta Difícil de GAIA

¿Cuáles de las frutas mostradas en la pintura de 2008 “Bordado de Uzbekistán” se sirvieron como parte del menú de desayuno de octubre de 1949 para el transatlántico que luego se usó como utilería flotante para la película “El último viaje”? Enumera los elementos como una lista separada por comas, ordenándolos en el sentido de las agujas del reloj según su disposición en la pintura, comenzando desde la posición de las 12 en punto. Usa la forma plural de cada fruta.

Como puedes ver, esta pregunta desafía a los sistemas de IA de varias maneras:

Este tipo de tarea resalta dónde los LLM independientes a menudo se quedan cortos, lo que convierte a GAIA en un benchmark ideal para sistemas basados en agentes que pueden razonar, recuperar y ejecutar a lo largo de múltiples pasos y modalidades.

Gráfico de capacidades de GAIA

Evaluación en Vivo

Para fomentar el benchmarking continuo, GAIA proporciona una tabla de clasificación pública alojada en Hugging Face, donde puedes probar tus modelos contra 300 preguntas de prueba.

👉 Revisa la tabla de clasificación aquí

¿Quieres profundizar más en GAIA?

< > Update on GitHub