Le principe est simple : les photos ou vidéos banales d'enfants ou d'adultes sont récupérées et , grâce à la magie de l'IA , se retrouvent en ligne , sur des sites pornographiques ou sur les réseaux sociaux . Ces montages pornos sont diffusés dans le but de harceler et d'extorquer les victimes . Face à l'explosion des arnaques dopées à l'IA , le Sénat a adopté début juillet , dans le cadre du projet de loi pour « sécuriser » Internet , deux amendements qui ciblent spécifiquement les « deepfakes » . Selon l'association Deeptrace , citée par l'AFP , 96 % des deepfakes vidéo sont des vidéos pornographiques où les personnes visées sont dans 99 % des cas des femmes . En 2019 , huit des dix sites pornographiques les plus consultés hébergeaient des deepfakes , et une dizaine de sites pornographiques leur étaient exclusivement dédiés . Mais en réalité , les cybercriminels n'ont pas attendu les IA génératives pour s'en mettre plein les poches . « On n'a pas révolutionné la capacité de mystifier les choses , on a seulement augmenté la capacité de le faire , analyse Véronique Aubergé , chercheuse au CNRS en sciences humaines , spécialiste des questions d'IA et de robotiques . On n'a pas changé de paradigme , on a juste changé de niveau de puissance » . Ces derniers mois , on assiste à une certaine démocratisation de ces méthodes grâce à l'open source ( le code source du logiciel est accessible au public ) . Mais , « fabriquer la voix de quelqu'un et la mettre de manière malveillante à la disposition d'une cause ou d'un profit , c'est très vieux , poursuit la chercheuse . Le jour où on a commencé à travailler sur la synthèse vocale , des usages frauduleux de cette technologie sont nés . Dès les années 1990 , quand il y avait des enlèvements terroristes , on se demandait si c'était bien la voix de la victime » . Selon Véronique Aubergé , il faut plutôt questionner notre rapport à l'immédiateté à l'ère du numérique .