Certains chatbots expliquent facilement comment fabriquer du napalm . ChatGPT a déjà été utilisé pour générer des mails de spams ou créer des virus . Et bien sûr , l'outil de génération de texte a rapidement été utilisé par des élèves pour tricher à des examens , écrire des études scientifiques ensuite publiées dans des journaux , ou de faux avis sur Amazon . Mais s'il y a un type de contenus qui inquiète particulièrement les spécialistes , ce sont les fake news . Fausses images d'explosion au Pentagone ou d'un manifestant blessé , vidéos TikTok utilisant les voix de Joe Biden ou Donald Trump: il est de plus en plus facile de générer des images ou des voix artificielles ultra-réalistes . Et si ces créations ne sont pas encore parfaites , elles s'améliorent à vitesse grand V , au point qu'il pourrait bientôt être impossible de faire la différence entre un média authentique et un autre inventé de toutes pièces . " Lutter contre ces fake news est un enjeu démocratique essentiel " , affirme à Tech&Co Jean-Gabriel Ganascia , chercheur au Laboratoire d'Informatique de Paris VI et spécialiste en intelligence artificielle . De quoi faciliter la désinformation volontaire , mais aussi nuire à la confiance globale: quand il est impossible de savoir si la moindre image ou vidéo est vraie , n'y a-t-il pas un risque de ne plus croire en rien ? Certains internautes ont par exemple affirmé qu'une véritable photo de CRS devant le Conseil constitutionnel avait été générée par IA . Des techniques de détection trop imprécises Est-il possible de lutter contre ce risque de perte de confiance ? De nombreux acteurs , dont Google , misent sur des techniques de " watermark " : intégrer dans le média généré par IA une sorte de signature ( visible ou en filigrane ) , qui prouve sans aucun doute son origine artificielle . Mais les méthodes actuelles sont loin d'être infaillibles: les signatures visibles comme celle du générateur d'images Dall-E peuvent facilement être supprimées ; les motifs intégrés en filigrane dans l'image sont pensés pour n'être détectés qu'avec des logiciels spécifiques , et leur résistance à des retouches est très variable , selon des études .