n n n nBing subreddit has quite a few examples of new Bing chat going out of control . n nOpen ended chat in search might prove to be a bad idea at this time ! n nCaptured here as a reminder that there was a time when a major search engine showed this in its results . pic . twitter . com / LiE2HJCV2z n- Vlad ( @vladquant ) February 13 , 2023 n n nMicrosoft Prometheus : pourquoi l'IA délire n nCes exemples ne sont pas sans rappeler le cas de l'IA de Google LaMDA - le modèle de langage sur lequel se base Board - , un chercheur étant même persuadé qu'elle était douée de conscience et de sensibilité , comme un enfant - elle prétendant notamment avoir peur d'être débranchée et de mourir ( voir notre article ) . Ce n'est guère surprenant car ce type d'IA sont des systèmes complexes dont les résultats sont difficiles à prévoir . Les systèmes sont entraînés sur d'énormes corpus de textes en tout genre trouvés sur Internet , y compris des documents de science-fiction avec des descriptions d'IA malveillantes , des déclarations d'amour passionnées et autres échanges agressifs entre internautes . Pour éviter toute dérive , Microsoft a tenté de mettre en place une série de règles - règles qui étaient censées rester secrètes et ont déjà été découvertes par certains des premiers utilisateurs - , dont l'obligation de fournir des réponses informatives , visuelles , logiques , exploitables , positives , intéressantes , divertissantes et engageantes , en évitant des réponses vagues , hors-sujet ou problématique . Des garde-fous qui n'ont visiblement pas suffi . n nComme le rapporte Endgadget , Microsoft a fourni quelques éléments de réponse quant au comportement de son IA . Apparemment , cette intelligente artificielle n'a pas été conçue pour de longues conversations ou du divertissement , mais plutôt pour chercher des informations précises , comme une sorte de moteur de recherche amélioré .