Qu’est-ce que GAIA ?

GAIA est un benchmark conçu pour évaluer les assistants IA sur des tâches du monde réel qui nécessitent une combinaison de capacités fondamentales—comme le raisonnement, la compréhension multimodale, la navigation web, et l’utilisation compétente d’outils.

Il a été présenté dans l’article ”GAIA: A Benchmark for General AI Assistants”.

Le benchmark comprend 466 questions soigneusement sélectionnées qui sont conceptuellement simples pour les humains, mais remarquablement difficiles pour les systèmes IA actuels.

Pour illustrer l’écart :

GAIA souligne les limitations actuelles des modèles IA et fournit un benchmark rigoureux pour évaluer les progrès vers des assistants IA vraiment polyvalents.

🌱 Principes Fondamentaux de GAIA

GAIA est soigneusement conçu autour des piliers suivants :

Niveaux de Difficulté

Les tâches GAIA sont organisées en trois niveaux de complexité croissante, chacun testant des compétences spécifiques :

GAIA levels

Exemple d’une Question GAIA Difficile

Which of the fruits shown in the 2008 painting “Embroidery from Uzbekistan” were served as part of the October 1949 breakfast menu for the ocean liner that was later used as a floating prop for the film “The Last Voyage”? Give the items as a comma-separated list, ordering them in clockwise order based on their arrangement in the painting starting from the 12 o’clock position. Use the plural form of each fruit.

Comme vous pouvez le voir, cette question défie les systèmes IA de plusieurs manières :

Ce type de tâche souligne où les LLM autonomes échouent souvent, faisant de GAIA un benchmark idéal pour les systèmes basés sur des agents qui peuvent raisonner, récupérer et exécuter sur plusieurs étapes et modalités.

GAIA capabilities plot

Évaluation en Direct

Pour encourager l’évaluation comparative continue, GAIA fournit un classement public hébergé sur Hugging Face, où vous pouvez tester vos modèles contre 300 questions de test.

👉 Consultez le classement ici

Vous voulez approfondir GAIA ?

< > Update on GitHub