human
Veuillez expliquer ce qu'est "l'IA explicable"
gpt
L'IA explicable (XAI), ou IA interprétable, ou apprentissage machine explicable (XML), est une intelligence artificielle (IA) dans laquelle les humains peuvent comprendre les décisions ou les prédictions faites par l'IA. Cela contraste avec le concept de "boîte noire" dans l'apprentissage automatique où même ses concepteurs ne peuvent pas expliquer pourquoi une IA est arrivée à une décision spécifique. En affinant les modèles mentaux des utilisateurs de systèmes alimentés par l'IA et en démantelant leurs idées fausses, XAI promet d'aider les utilisateurs à fonctionner plus efficacement. XAI peut être une mise en œuvre du droit social à l'explication. XAI est pertinent même s'il n'y a pas de droit légal ou d'exigence réglementaire. Par exemple, XAI peut améliorer l'expérience utilisateur d'un produit ou d'un service en aidant les utilisateurs finaux à croire que l'IA prend de bonnes décisions. De cette façon, le but de XAI est d'expliquer ce qui a été fait, ce qui est fait maintenant, ce qui sera fait ensuite et de dévoiler les informations sur lesquelles les actions sont basées. Ces caractéristiques permettent (i) de confirmer les connaissances existantes (ii) de remettre en question les connaissances existantes et (iii) de générer de nouvelles hypothèses.
Les algorithmes utilisés dans l'IA peuvent être différenciés en algorithmes d'apprentissage automatique (ML) en boîte blanche et en boîte noire. Les modèles boîte blanche sont des modèles ML qui fournissent des résultats compréhensibles pour les experts du domaine. Les modèles de boîte noire, en revanche, sont extrêmement difficiles à expliquer et peuvent difficilement être compris même par des experts du domaine.[10] Les algorithmes XAI sont considérés comme respectant les trois principes de transparence, d'interprétabilité et d'explicabilité. La transparence est donnée "si les processus qui extraient les paramètres du modèle à partir des données de formation et génèrent des étiquettes à partir des données de test peuvent être décrits et motivés par le concepteur de l'approche".[11] L'interprétabilité décrit la possibilité de comprendre le modèle ML et de présenter la base sous-jacente de la prise de décision d'une manière compréhensible pour les humains.[12][13][14] L'explicabilité est un concept reconnu comme important, mais une définition commune n'est pas encore disponible.[11] Il est suggéré que l'explicabilité en ML peut être considérée comme "l'ensemble des caractéristiques du domaine interprétable, qui ont contribué pour un exemple donné à produire une décision (par exemple, une classification ou une régression)".[15] Si les algorithmes répondent à ces exigences, ils fournissent une base pour justifier les décisions, les suivre et ainsi les vérifier, améliorer les algorithmes et explorer de nouveaux faits.[16]
Parfois, il est également possible d'obtenir un résultat avec une grande précision avec un algorithme ML en boîte blanche qui est interprétable en soi.[17] Ceci est particulièrement important dans des domaines tels que la médecine, la défense, la finance et le droit, où il est crucial de comprendre les décisions et de renforcer la confiance dans les algorithmes. De nombreux chercheurs affirment que, du moins pour l'apprentissage automatique supervisé, la voie à suivre est la régression symbolique, où l'algorithme explore l'espace des expressions mathématiques pour trouver le modèle qui correspond le mieux à un ensemble de données donné.[18][19][20]
Les systèmes d'IA optimisent le comportement pour satisfaire un système d'objectifs spécifié mathématiquement choisi par les concepteurs du système, comme la commande "maximiser la précision de l'évaluation de la qualité des critiques de films dans l'ensemble de données de test". L'IA peut apprendre des règles générales utiles à partir de l'ensemble de tests, telles que "les critiques contenant le mot" horrible "sont susceptibles d'être négatives". Cependant, il peut également apprendre des règles inappropriées, telles que "les critiques contenant 'Daniel Day-Lewis' sont généralement positives" ; de telles règles peuvent être indésirables si elles sont jugées susceptibles de ne pas se généraliser en dehors de la rame, ou si les gens considèrent que la règle est "triche" ou "injuste". Un humain peut auditer les règles d'un XAI pour avoir une idée de la probabilité que le système se généralise aux futures données du monde réel en dehors de l'ensemble de test.[21]