Ils lui ont posé différentes questions portant sur le traitement du cancer et il s'est avéré que 34 , 3 % des réponses fournies par le modèle de langage ne correspondaient pas aux recommandations des principaux centres de cancérologie du pays . Pire encore , 13 des 104 réponses étaient totalement inventées . Et c'est particulièrement dangereux sur un tel sujet Danielle Bitterman , coauteure de l'étude , explique que " les réponses de ChatGPT peuvent ressembler beaucoup à celles d'un être humain et être assez convaincantes . Mais lorsqu'il s'agit de prendre des décisions cliniques , il y a tellement de subtilités à prendre en compte dans la situation unique de chaque patient . Une bonne réponse peut être très nuancée , et ce n'est pas nécessairement quelque chose que ChatGPT ou un autre modèle de langage peut fournir " . n nCe n'est pas la seule étude à mettre en exergue ce problème . Un peu plus tôt , des chercheurs du CHU Sainte-Justine et de l'Hôpital de Montréal pour enfants ont interrogé , dans le cadre d'une étude , ChatGPT afin de lui poser vingt questions médicales portant sur vingt articles scientifiques récemment publiés . Ils lui ont ensuite demandé d'y répondre , en fournissant des références . Résultat : le chatbot a fait cinq erreurs factuelles majeures dans ses réponses et a inventé 70 % des références fournies . Après , tout n'est pas catastrophique pour autant , et il a été démontré que ChatGPT pouvait être une excellente aide dans le domaine médical . Par exemple , sous GPT-3 - le précédent modèle de langage sur lequel repose le chatbot - , il a été capable d'identifier dans les écrits d'une personne les premiers stades de la maladie d'Alzheimer , avec une efficacité de 80 % . Aussi , l'IA peut être efficace pour les professionnels , pour les aider à réfléchir , à envisager des pistes , mais il ne faut certainement pas prendre sa parole pour du pain béni . Rien ne remplace la parole d'un professionnel de santé !