Users can quickly fall prey to a domino effect, where one conspiracy video leads to another. In fact, in our <a id="a1">YouTube Regrets</a> series we studied exactly this. We asked Mozilla supporters about the times they felt as if the algorithm suggested extreme content and thousands of them responded to tell us all about the weird places they were led to. From searching simple dance videos that led to videos about bodily harm to drag queen self esteem videos that transitioned eventually to anti-LGBTQ content. Users of YouTube were taken to some eerie corners of the site — all thanks to YouTube’s recommendation algorithm. Zoom out and this sequence of events happening repeatedly, while profitable for YouTube, can be dangerous for society.
Les utilisateurs et utilisatrices peuvent rapidement être la proie d’un effet domino, dans lequel une vidéo conspirationniste en entraîne une autre. En fait, dans notre série <a id="a1">Regrets sur YouTube</a>, nous avons étudié exactement cela. Au cours d’une enquête menée auprès de sympathisant·e·s de Mozilla, nous leur avons demandé s’ils ou elles avaient eu l’impression que l’algorithme leur suggérait des contenus extrêmes. Des milliers de personnes nous ont répondu en nous racontant les recoins étranges où ils et elles ont été conduit·e·s. De la recherche de simples vidéos de danse à des vidéos sur les lésions corporelles, en passant par des vidéos sur l’estime de soi des travestis, on en arrive à des contenus anti-LGBTQ. Les utilisateurs et utilisatrices de YouTube ont été emmené·e·s dans certains recoins étranges du site, tout cela via l’algorithme de recommandation de YouTube. Si l’on prend du recul, cette séquence d’évènements reproduite à de multiples reprises, bien que rentable pour YouTube, peut être dangereuse pour la société.