It would be very easy for us to head in the wrong direction. As we have rushed to build data collection and automation into nearly everything, we have already seen the potential of AI to reinforce long-standing biases or to point us toward dangerous content. And there’s little transparency or accountability when an AI system spreads misinformation or misidentifies a face. Also, as people, we rarely have agency over what happens with our data or the automated decisions that it drives. If these trends continue, we’re likely to end up in a dystopian AI-driven world that deepens the gap between those with vast power and those without.
Il nous serait très facile de prendre la mauvaise direction. Suite à l’intégration précipitée de fonctionnalités de collecte des données et d’automatisation dans presque tous les produits, nous avons déjà constaté que l’IA peut contribuer à renforcer des préjugés enracinés ou à nous conseiller des contenus néfastes. De plus, la transparence et la prise de responsabilités manquent cruellement à l’appel quand un système d’IA propage de fausses informations ou n’identifie pas correctement un visage. Et, en tant qu’individus, nous pouvons rarement contrôler ce qui arrive à nos données ou les décisions automatisées prises par l’IA liées à ces dernières. Si ces phénomènes perdurent, notre monde pourrait se transformer en dystopie appuyée sur l’IA, qui creuserait encore davantage le fossé entre ceux qui ont le pouvoir et ceux qui ne l’ont pas.