Une approche qui revient à créer une boîte noire , le système causal déterminé par l'algorithme étant trop complexe pour être appréhendé d'un seul tenant par l'esprit humain . Difficile dans ces conditions d'expliquer pourquoi un système de ce type fonctionne , ou de façon plus critique , pourquoi il n'a pas fonctionné . Car les conséquences des décisions prises par un système intelligent peuvent être fatales , comme on l'a vu en mars 2018 avec l'accident mortel d'un véhicule Uber autonome . Cette " explicabilité " des algorithmes d'intelligence artificielle ( IA ) était au cœur de plusieurs interventions données le 12 juin 2018 au salon AI Paris , dédié aux professionnels du secteur . Mais certaines approches moins sophistiquées peuvent permettre de contourner le problème . " Parfois , les attentes des professionnels envers le deep learning sont trop grandes " , relate d'entrée Stephen Brobst , Chief Technolog Officer de Terra Data , société spécialisée dans le big data et l'analyse de données . " Ce n'est pas parce qu'on a un marteau que c'est le meilleur outil pour toutes les tâches ! " " L'intérêt du deep learning est de pouvoir gérer un grand nombre de variables industrielles " , poursuit le dirigeant américain . " Mais un algorithme de ce type ne sera bon que dans la mesure où il a appris sur des données non biaisées , disponibles en quantité suffisante . Ces biais risquent d'ailleurs de provoquer un rejet des consommateurs d'ici 2020 , selon une étude du cabinet de conseil IDC . L'une des approches possibles est de mélanger plusieurs type d'intelligence artificielle : des solutions à large spectre , mais aussi des algorithmes d'aide à la décision , au champ d'action plus restreint . " Pour incarner les limitations du deep learning , le véhicule autonome constitue un exemple idéal . Ses enjeux sont multiples : " La sécurité de fonctionnement , mais aussi la robustesse , qui implique une certaine redondance des circuits de décision . Ce sont des systèmes dont des vies dépendront " , rappelle Vanessa Picron , directrice R&D de la division conduite autonome de Valéo . " S'il se produit un accident , il faut être capable d'expliquer les choix de la machine " .