Paradoxically, AI doesn’t just unintentionally amplify false information. It’s also a key tool that platforms rely on to combat misleading information. For example, they might use AI to detect and label content related to topics like vaccines and link to credible sources where users can fact-check what they’re seeing.<br/><br/><b>But we only know how these techniques work in a broad sense.</b> Platforms don’t share much information about how their algorithms work, when they use these tools, or what results they see from their interventions. <b>So we don’t know how effective they are at combating information that’s intentionally misleading or accidentally deceptive.</b>
Paradoxalement, l’IA ne se contente pas d’amplifier involontairement de fausses informations. C’est également un outil clé sur lequel les plateformes s’appuient pour lutter contre les informations fallacieuses. Par exemple, elles peuvent avoir recours à l’IA pour détecter et catégoriser le contenu lié à des sujets tels que les vaccins et afficher des liens vers des sources crédibles où les utilisateurs peuvent vérifier factuellement ce qu’ils voient.<br/><br/><b>Mais nous ne comprenons que le fonctionnement global de ces techniques.</b> Les plateformes ne partagent pas beaucoup d’informations sur le fonctionnement de leurs algorithmes, quand elles utilisent ces outils ou sur les résultats qu’elles obtiennent grâce à leur utilisation. <b>Nous ne savons donc pas à quel point ils sont efficaces pour lutter contre les informations fallacieuses, qu’elles soient diffusées intentionnellement ou accidentellement.</b>