Lors d'une conférence , Jean-Gabriel Ganascia estimait que si ce mythe de la singularité était aussi répandu , notamment par " les grandes sociétés de l'Internet " , c'était peut-être parce qu'elles cherchent à nous raconter " une histoire qui nous fait peur et obscurcit les vrais dangers " . Des boites noires à décortiquer Ce dont Cédric Villani a voulu parler dans son rapport , justement , ce sont des défis posés par les algorithmes de tous les jours , " qui affectent notre accès à l'information , à la culture , à l'emploi ou encore au crédit " , peut-on y lire . Un point repris par Emmanuel Macron dans son discours . " Une IA n'est rien d'autre que le projet qu'elle sert , dans les conditions définies par ceux qui l'ont programmé , sur la base des données qui lui ont été fournies " , a déclaré le président . Mais alors quels sont les murs bien réels dans lesquels nous risquons de foncer avec l'IA ? Etrangement , ils ont beaucoup à voir avec nous même . La manière dont nous acceptons d'être aveuglés et guidés , ou encore nos propres biais , nos propres dérives . Avant tout , l'un des principaux problèmes de l'IA aujourd'hui , c'est que même ses créateurs ne comprennent pas tout ce qu'il se passe à l'intérieur . A l'inverse d'un logiciel classique , les algorithmes récents sont pensés pour " apprendre " par eux-même . Par exemple , on fournit à une IA spécialisée sur cette question des millions de photos d'animaux , en lui précisant ce qu'elle voit à chaque fois . Elle sera ensuite capable , en voyant une nouvelle image , de savoir qu'il y a un chat dessus . Mais le processus exact est assez flou . C'est ce que l'on appelle la " boite noire " de l'intelligence artificielle . Dans son rapport , Cédric Villani estime qu'il est ainsi nécessaire de comprendre ce qu'il se passe dans ces algorithmes . D'abord en les testant avec des données d'origine dont on connait les problèmes .