fr en fr fr it fr fr it fr fr en en de fr fr fr fr nl en en fr fr fr en fr fr en fr fr en pt fr de fr ca fr en eo fr fr fr fr fr fr fr fr fr fr fr fr fr fr fr fr fr fr fr fr fr fr fr fr fr fr fr fr fr fr fr fr fr fr fr fr fr fr fr fr en fr fr fr la en fr en en fr fr fr fr fr fr fr en fr fr fr fr en en de fr en fr fr en fr fr fr fr fr fr fr fr fr fr fr fr fr nl fr fr en en
Si nous ne réfléchissons pas dès aujourd’hui à ce que seront nos relations avec de tels robots, nous risquerions bien de basculer demain dans deux attitudes extrêmes et dangereuses : soit refuser ces machines sous prétexte qu’elles sont des ersatz d’humains qui brouillent les repères de la conscience, de la dignité et de la liberté, soit voir en elles une nouvelle catégorie du vivant à laquelle il faudra octroyer des droits.
La question ne date pas d’aujourd’hui. Notre culture s’est largement détournée du problème de la place des technologies dans nos vies, sauf pour s’en inquiéter. Seul Gilbert Simondon construit une théorie de l’homme et de ses objets placée sous le signe de l’humanisation réciproque. Pour lui, l’origine de l’incompréhension de l’homme visà- vis des technologies s’enracine dans la non-connaissance de la nature et de l’essence de la machine.[5] C’est vrai, mais c’est insuffisant.
Un robot du programme Feelix growing, destiné à favoriser la construction de robots émotionnels, est présenté sur Internet avec le commentaire suivant : Emotional robot has empathy. L’être humain a toujours eu tendance à attribuer à son environnement des émotions, voire des pensées, semblables aux siennes. Or les robots émotionnels sont capables d’une performance inédite : nous renvoyer un feed back émotionnel. En pratique, un robot identifie les émotions d’un humain en se basant sur des indices physiques, comme le mouvement du corps et les muscles du visage, la posture, la vites se de déplacement, la position des sourcils, et la distance entre son interlocuteur et lui, celle-ci l’informant sur une attitude familière ou au contraire craintive.
Cette simulation a des conséquences : l’utilisateur peut penser que le robot a des émotions (« il a l’air triste ») ou des émotions pour lui (« il me trouve sympathique »), et il peut, inversement, avoir lui-même des émotions pour le robot (« ça me fait de la peine de penser qu’il souffre »). C’est ce qui justifie le slogan évoqué plus haut : Emotional robot has empathy.
Il ne s’agit là cependant que d’une empathie de base, qui peut tout aussi bien être mise au service de l’emprise que de la réciprocité et de l’altruisme. Pour introduire la composante de l’altruisme, il faut faire intervenir un nouvel étage à l’édifice, relevant non pas du développement biologique de l’humain cette fois, mais de l’éducation, puis des choix personnels de chacun. Cet étage correspond à la décision de nous orienter vers une utilisation de notre empathie émotionnelle et cognitive dans le sens d’un bien vivre ensemble plutôt que dans celui d’une manipulation permanente de notre entourage. Cette « empathie réciproque » suppose non seulement la capacité de se mettre à la place de l’autre, mais aussi celle d’accepter que l’autre se mette à la nôtre.
Suit l’empathie intersubjective, qui consiste à reconnaître à l’autre non seulement la possibilité de se mettre à notre place, mais aussi celle de nous éclairer sur ce que nous sommes, de nous faire découvrir des aspects de nous-mêmes que nous ignorons. Que l’homme puisse un jour développer son empathie pour le robot jusqu’à lui demander de l’informer sur lui-même, nous en sommes loin. Il faudrait déjà pour commencer qu’une forme d’empathie de base ait été établie.
Mais pour quels avantages et dans quelles limites ? Les propriétés et les comportements d’un robot capable de susciter l’empathie d’un interlocuteur humain sont nombreux. L’anthropomorphisme (autrement dit l’apparence humaine) n’est pas un élément essentiel, l’appréciation du robot paraissant plutôt multidimensionnelle, c’est-à-dire relevant à la fois de l’apparence, de la gestuelle et des relations qu’il est possible d’établir avec lui. L’aspect enfantin rassure, comme avec les robots Nao et Pepper, ainsi que la richesse des interactions sensorielles, la prosodie, le ton de la voix du robot et le contact physique, comme avec le robot Paro destiné aux personnes âgées.
Il faut prendre en compte aussi les services qu’il rend, comme de rappeler l’horaire d’une prise de médicaments ou de proposer des jeux vidéo, ce que fait le robot Kompai lorsqu’il s’aperçoit que son partenaire s’ennuie.
Plusieurs études montrent qu’un robot qui donne un feed back émotionnel est perçu comme supérieur et plus fiable qu’un robot qui répond de manière neutre. Cette capacité est essentielle dans les situations où l’homme doit accepter d’être aidé par un robot comme il pourrait l’être par un être humain, notamment dans les procédures d’apprentissage. Elle joue également un rôle important quand une personne est invitée à accepter l’aide d’un robot là où elle ne l’accepterait pas d’un humain. Des enfants autistes, par exemple, qui ont de la difficulté à identifier la signification des mimiques, acceptent plus facilement de les apprendre avec un robot aux mimiques simples et schématiques, qu’avec un hu main chez qui elles sont d’une grande complexité et d’une infinité de nuances.[7]
Hélas ! il y a aussi des dangers à développer l’empathie (et l’attachement qui peut en résulter) entre un homme et un robot. Tout d’abord, la souffrance imaginée à un robot malmené ou endommagé est mal vécue par beaucoup d’observateurs et peut même devenir in supportable à certains.
Sur un champ de bataille, l’attachement à un robot peut nuire à l’efficacité d’une mission en incitant des combattants à risquer leur vie pour éviter la destruction d’un objet fabriqué en série et facilement remplaçable.[8] Connaître le fonctionnement de la machine réduit ce risque, mais ne le couvre pas. Pour éviter un trop fort attachement, il est envisagé de donner aux robots une apparence un peu aversive, comme celle d’un insecte, c’est-à-dire d’un animal qui ne suscite aucune empathie dans nos cultures.[9] Mais cet insecte ne doit pas être non plus menaçant...
Si l’empathie risque bien d’être un piège pour l’utilisateur d’un robot militaire, elle peut aussi s’avérer problématique dans le cas d’un robot de compagnie. Les personnes bénéficiant d’un assistant robotisé à domicile - notamment les personnes âgées - risquent d’oublier que leur machine est reliée à des hommes. Aussi vrai que « personne n’a de secret pour son valet de chambre », personne n’aura de secret pour les équipes qui accèderont en temps réel à l’ensemble des données visuelles, auditives et olfactives recueillies par les assistants robotisés. Quel contrôle faudra-t-il prévoir pour les équipes chargées de veiller au fonctionnement des robots et à la santé de leurs utilisateurs, et quelle déontologie ?
Quant aux robots de compagnie, ils risquent de devenir rapidement les dépositaires d’un grand nombre d’informations personnelles sur leurs propriétaires, informations qui risquent à tout moment de basculer dans le domaine public, que ce soit du fait de précautions insuffisantes, d’une faille de sécurité du Cloud ou de piratage.
Nous allons donc être confrontés à des pouvoirs de manipulation décuplés de la part de ceux qui fabriquent les robots. Il ne sera pas très difficile, en effet, de programmer un robot pour qu’il se synchronise sur son interlocuteur, à la fois sur le plan verbal, par le choix de ses mots, paraverbal, par ses mimiques et ses intonations, et comportemental, par ses attitudes.[10] Une telle synchronisation établit une symbiose en miroir, qui permet d’entrer dans le monde des représentations de l’interlocuteur (le Mirroring) et, si elle est gardée suffisamment longtemps pour établir la confiance (le Pacing), d’amener l’interlocuteur à changer (le Leading).
Des études récentes confirment ces risques. L’une d’entre elles montre qu’un robot interactif peut obtenir un nombre important d’informations sur son interlocuteur à travers une conversation habilement menée.[11] Une autre indique que les conseils et les instructions donnés par un robot sont beaucoup plus efficaces si on a pris soin d’attribuer à celui-ci certaines caractéristiques, comme une voix masculine ou un menton court.[12]
Nous devons reconnaître que l’extériorisation des capacités humaines, qui culmine dans le désir de fabriquer des robots autonomes, est la manifestation la plus récente de deux désirs aussi anciens que l’homme lui-même : le désir d’emprise et le désir de réciprocité. [13] Le désir d’emprise ne nous menace par seulement par la tentation de quelques-uns de mettre au point des machines qui leur permettent de contrôler toujours mieux leurs semblables. La menace viendra de notre propre désir d’ignorer que d’autres hommes, dont les intentions et l’éthique peuvent être bien différentes des nôtres, les programment.
Qui est l’autre ?
Un autre danger sera la tentation de remplacer, dans les relations affectives et sexuelles, l’être humain, toujours imprévisible, par des robots conçus pour nous étonner dans les limites de nos attentes. De tels robots seront programmés pour nous aimer et être aimés, sur le modèle de ceux qui sont mis en scène dans la série télévisée Real Humans ou dans le film Her, de Spike Jonze.
Ils nous proposeront un partenaire idéal, possédant une mémoire parfaite de nos échanges passés, capable d’une attention toujours égale à nos manifestations émotionnelles parce que jamais perturbé par les siennes, dénué de tout narcissisme et de tout souci de préséance, et d’autant plus réceptif à nos attentes qu’il n’aura aucune exigence propre. Peut-être même viendra-t-il un temps où, raffinement suprême, ces machines seront capables de répondre à nos attentes sans même que nous ayons besoin de les formuler parce qu’elles seront directement branchées sur nos commandes mentales.
Comment ces ersatz d’êtres humains modifieront-ils l’idée que nous nous faisons de la conscience, de l’homme et de la rencontre ? Et l’autre, avec ses différences et sa part d’imprévisible, sera-t-il toujours désirable ?
[1] • Serge Tisseron est l’auteur de nombreux ouvrages de psychanalyse et s’intéresse spécialement au monde de la télévision, des bandes dessinées et des univers virtuels. (n.d.l.r.)
[2] • Une version plus étoffée de cet article est parue dans Etudes, Paris, novembre 2014, pp. 33-44.
[3] • Agnès Guillot et Jean-Arcady Meyer, Poulpe fiction. Quand l’animal inspire l’innovation, Paris, Dunod 2014, p. 149.
[4] • Thèse de Julie Carpenter, The Quiet Professional. An investigation of US military Explosive Ordnance Disposal personnel interactions with everyday field robots, Washington University 2013.
[5] • Gilbert Simondon, Du mode d’existence des objets techniques, Paris, Aubier 2012, 368 p.
[6] • Capacité de percevoir les émotions et les états mentaux d’un autre être humain.
[7] • Jaqueline Nadel, Imiter pour grandir. Développement du bébé et de l’enfant avec autisme, Paris, Dunod 2011, 213 p.
[8] • Julie Carpenter, op. cit.
[10] • Olivier Lockert, Hypnose, évolution hu - mai ne, qualité de vie, santé, Paris, IFHE éditions 2013 (4e éd. revue et augmentée), 720 p.
[11] • Aaron Powers et al, « Eliciting information from people with a gendered humanoid robot », in Proceedings of the IEEE Int. Workshop Robot and Human Interactive Communication 2005, pp. 158-163.
[12] • Aaron Powers, Sara Kiesler, « The advisor robot. Tracing people’s mental model from a robot’s physical attributes », in Proceedings Conf. Human-Robot Interaction 2006, pp. 218-225.
[13] • Serge Tisseron, L’empathie au coeur du jeu social, Paris, Albin Michel 2010, 240 p.
Ce qu’on appelle « robots »
Un robot est défini par quatre critères : il est une machine construite par l’homme ; il possède des senseurs pour appréhender son environnement ; il contient des programmes qui lui permettent de définir une réponse ; et il a les moyens de mettre celle-ci en œuvre.
Plus dans cette catégorie : « Vierge au masculin Le difficile métier de « femme » au Kazakhstan »
Coédité par choisir et les éditions Slatkine, ce recueil regroupe douze nouvelles retenues par le jury du concours pour écrivain(e)s lancé par notre revue lors de son 60e anniversaire.
Trans et aumônière de l’armée
Informaticienne, la trentaine, Erin Lederrey préside l’Antenne LGBTI de Genève. Avant cela, elle étudiait la théologie à l’Université de Genève. Son souhait? Travailler, un jour, au sein de l'Église.
Ces sons qui nous affectent
Comment notre cerveau dépouille-t-il les ondes sonores et quels impacts ont-elles sur nous? D’où viennent les hallucinations auditives? Des réponses avec la neuroscientifique Valentina Mancini.
Etre un Tsigane en temps de covid
Rencontre en musique et autour d’un feu avec le pasteur évangélique manouche May Bittel. En attendant de repartir sur la route, il évoque ses voyages en Terre sainte, où il emmène «ses gens».
À lire et à écouter!
Choisir est une revue culturelle d’information et de réflexion, éditée par les jésuites de Suisse romande depuis 1959 - www.jesuites.ch