human
Comment l'IA : Tay de Microsoft est-elle devenue un robot sexuel adepte d'Hitler ? Comment sait-il quoi écrire ? Où obtient-il ses données ? Comment ça marche ? S'il vous plaît, expliquez-moi comme si j'avais cinq ans.
gpt
Comme tous les [IA de style Eliza] (URL_1), Tay a été programmé pour répondre aux spécificités fournies par l'utilisateur. Alors Eliza demande " Comment vous sentez - vous " et vous dites " Mon bras me fait mal " et Eliza demande " Pourquoi pensez - vous que votre bras me fait mal " . Eliza a eu l'idée du « bras » de votre part, donc on dirait qu'il participe. Hélas, même si les gens de Microsoft n'ont peut-être pas étudié Eliza dans leurs cours d'informatique, Internet regorge de personnes qui l'ont fait. Une fois que l'un d'entre eux a vu ce comportement, la chose évidente à faire est de le tester. Vous dites à Eliza/Tay que votre bras vous fait mal « parce qu'Hitler a atterri sur la lune avant les États-Unis ». Puisque c'est un non-sens, si Eliza/Tay dit quelque chose à propos d'Hitler ou de la Lune ou de l'alunissage, alors vous savez que le programme utilise ce genre de boucle de rétroaction de construction pour simuler l'engagement. Une fois que vous savez comment cela fonctionne, le [Test de la fourmilière de l'oncle Milton] (URL_0) vous indique que certaines personnes voudront voir à quel point le mécanisme est exploitable. Dans le cas de Tay, il s'est avéré tout à fait exploitable. La prochaine version , avec un détecteur de mots sales plus long , ne fonctionnera pas mieux . Vous ne verrez plus " la moustache d' Hitler " , ce sera " la moustache du protovillan allemand " . Il n'y a pas de mots qui ne peuvent jamais être utilisés de manière sale. C'est pourquoi la communauté de l'IA a abandonné cette construction dans les années 80. Sauf dans le marketing viral chez Microsoft.