Les protagonistes de ce dialogue : un humain perdu et une machine , entraînée à formuler des réponses identifiées à partir de mots-clés . Pourquoi le CNPEN y voit-il un enjeu éthique ? Parce que le langage « est un élément constitutif de l'identité de l'être humain et le fondement de sa vie en société » , note le Comité d'éthique du numérique . Résultat : les agents conversationnels peuvent naturellement être comparés à un être humain , que leur interlocuteur soit informé ou non de leur caractère artificiel . L'un des premiers chatbots , dans les années 1960 , s'appelait Eliza . Simulant le discours d'un psychothérapeute , l'agent conversationnel avait réussi à berner certains de ces interlocuteurs , persuadés que derrière l'écran se cachait une véritable personne . Lorsque quelqu'un vous répond , quelle que soit sa nature , vous projetez sur lui spontanément des traits humains : pensée , volonté , conscience Une aide aux femmes victimes de violences en quelques clics L'interlocuteur apparaît alors comme un individu autonome doté de pensée propre . Pourtant , dans le cas d'un agent conversationnel , il n'est qu'une machine . Dès lors , la consultation du CNPEN enchaîne les questions : Faut-il attribuer un nom propre ou un nom non humain à un chatbot ? Insulter un chatbot est-il un acte moralement répréhensible ? Ou encore , si un chatbot porteur d'un prénom féminin est malmené par son interlocuteur , faut-il y voir un geste de maltraitance ? Les réponses seront versées à la réflexion du Comité d'éthique du numérique , pour qui associer les citoyens à la réflexion est fondamental afin de « s'assurer que la technique et l'innovation continuent de servir le bien commun » . Les robots doivent rester des outils et ne pas influencer leurs interlocuteurs . Telle est la piqûre de rappel de cette consultation . Qui témoigne , aussi , de la force du langage sur les relations humaines . En ces temps de confinement où la réduction des contacts limite les interactions sociales , échanger avec une personne , « en vrai » , reste malgré tout irremplaçable .