Et les chercheurs Yilun Wang et Michal Kosinski de l'Université de Stanford ont mis au point un algorithme capable de prédire à 81 % l'orientation sexuelle d'un homme à partir d'une simple photo On imagine aisément les discriminations qui pourraient en résulter s'il était appliqué à l'analyse de CV . Une des particularités de l'IA est que ce ne sont pas seulement ses usages qui peuvent être préoccupants , mais la façon même dont l'outil est forgé . Ainsi , beaucoup craignent que ses biais ou sa partialité ne soient inscrits dans le code lui-même , lequel ne ferait que refléter les préjugés de son concepteur . Ce n'est pas tout à fait exact . Bien que l'IA puisse désigner diverses notions , elle fait le plus souvent référence au « machine learning » ( ou « apprentissage automatique » ) , soit la capacité d'un système à déceler dans une série d'exemples des points communs qu'il utilise ensuite pour analyser de nouvelles situations . La machine se contente donc de reproduire la logique sous-jacente des données sources , y compris leurs biais . Dit autrement , l'IA d'un logiciel de recrutement ne décide pas s'il est fondé ou non d'embaucher de préférence un homme ; elle se borne à constater que , jusqu'à présent , en être un pouvait manifestement un critère déterminant . > IA : les biais , une arme de discrimination massive > Intelligence artificielle : mais où sont les femmes ? Les données d'entraînement étant à l'origine des biais , on pourrait imaginer qu'il suffirait pour les éliminer de les corriger . Pourtant , d'un point de vue éthique , ce serait encore moins acceptable car cela reviendrait ni plus ni moins à déformer la réalité qu'elles recouvrent pour la conformer d'autorité à une vision idéale et forcément partiale . À l'inverse , un autre point de vue est de considérer que ces biais étant le reflet de la réalité , il n'y a pas lieu de faire quoi que ce soit . Mais peut-on décemment se laver les mains d'injustices flagrantes au prétexte que « c'est comme ça » ?