Hallucination (artificial intelligence)
कृत्रिम बुद्धिमत्ता (ए. आई.) के क्षेत्र में, एक मतिभ्रम या कृत्रिम मतिभ्रम (जिसे भ्रमित या भ्रम भी कहा जाता है) ए. आई. द्वारा उत्पन्न एक प्रतिक्रिया है जिसमें तथ्य के रूप में प्रस्तुत गलत या भ्रामक जानकारी होती है। उदाहरण के लिए, एक भ्रमित करने वाला चैटबॉट, जब किसी कंपनी के लिए एक वित्तीय रिपोर्ट तैयार करने के लिए कहा जाता है, तो गलत तरीके से बता सकता है कि कंपनी का राजस्व $13.6 बिलियन था (या कोई अन्य संख्या जाहिरा तौर पर "हवा से छीन ली गई")। इस तरह की घटनाओं को मानव मनोविज्ञान में मतिभ्रम की घटना के साथ शिथिल सादृश्य में "मतिभ्रम" कहा जाता है। हालांकि, एक प्रमुख अंतर यह है कि मानव मतिभ्रम आमतौर पर गलत धारणाओं से जुड़ा होता है, लेकिन एक AI मतिभ्रम अनुचित प्रतिक्रियाओं या मान्यताओं की श्रेणी से जुड़ा होता है। कुछ शोधकर्ताओं का मानना है कि विशिष्ट शब्द "ए. आई. मतिभ्रम" कंप्यूटरों को अनुचित रूप से मानवजनित बनाता है। एआई मतिभ्रम ने 2022 के आसपास चैटजीपीटी जैसे कुछ बड़े भाषा मॉडल (एल. एल. एम.) के रोलआउट के साथ प्रमुखता प्राप्त की। उपयोगकर्ताओं ने शिकायत की कि इस तरह के बॉट अक्सर अपनी उत्पन्न सामग्री के भीतर निरर्थक रूप से प्रशंसनीय-ध्वनि यादृच्छिक झूठ को एम्बेड करते हैं। 2023 तक, विश्लेषकों ने एल. एल. एम. प्रौद्योगिकी में बार-बार मतिभ्रम को एक बड़ी समस्या माना। विश्लेषण वायर्ड द्वारा उद्धृत विभिन्न शोधकर्ताओं ने प्रतिकूल मतिभ्रम को एक उच्च-आयामी सांख्यिकीय घटना के रूप में वर्गीकृत किया है, या अपर्याप्त प्रशिक्षण डेटा के लिए मतिभ्रम को जिम्मेदार ठहराया है। कुछ शोधकर्ताओं का मानना है कि ऑब्जेक्ट डिटेक्शन के मामले में मनुष्यों द्वारा "मतिभ्रम" के रूप में वर्गीकृत कुछ "गलत" AI प्रतिक्रियाओं को वास्तव में प्रशिक्षण डेटा द्वारा उचित ठहराया जा सकता है, या यह भी कि एक AI "सही" उत्तर दे रहा हो सकता है जिसे मानव समीक्षक देखने में विफल हो रहे हैं। उदाहरण के लिए, एक प्रतिकूल छवि जो एक इंसान को कुत्ते की एक साधारण छवि की तरह दिखती है, वास्तव में एआई द्वारा छोटे पैटर्न में देखी जा सकती है जो (प्रामाणिक छवियों में) केवल एक बिल्ली को देखते समय दिखाई देगी। ए. आई. वास्तविक दुनिया के दृश्य पैटर्न का पता लगा रहा है जिसके प्रति मनुष्य असंवेदनशील हैं। हालाँकि, इन निष्कर्षों को अन्य शोधकर्ताओं द्वारा चुनौती दी गई है। उदाहरण के लिए, यह आपत्ति की गई थी कि मॉडल सतही आंकड़ों के प्रति पक्षपाती हो सकते हैं, जिससे प्रतिकूल प्रशिक्षण वास्तविक दुनिया के परिदृश्यों में मजबूत नहीं हो सकता है। प्राकृतिक भाषा प्रसंस्करण में, एक मतिभ्रम को अक्सर "उत्पन्न सामग्री जो प्रदान की गई स्रोत सामग्री के लिए निरर्थक या विश्वासघाती है" के रूप में परिभाषित किया जाता है। आउटपुट प्रॉम्प्ट के विपरीत है या नहीं, इस पर निर्भर करते हुए उन्हें क्रमशः बंद-डोमेन और खुले-डोमेन में विभाजित किया जा सकता है। मतिभ्रम को किसी भी अपूर्ण उत्पादक मॉडल का सांख्यिकीय रूप से अपरिहार्य उपोत्पाद दिखाया गया था जिसे प्रशिक्षण की संभावना को अधिकतम करने के लिए प्रशिक्षित किया जाता है, जैसे कि जी. पी. टी.-3, और इससे बचने के लिए सक्रिय सीखने (जैसे कि मानव प्रतिक्रिया से सुदृढीकरण सीखने) की आवश्यकता होती है। पाठ और अभ्यावेदन के बीच एन्कोडिंग और डिकोडिंग में त्रुटियाँ मतिभ्रम का कारण बन सकती हैं। विविध प्रतिक्रियाओं का उत्पादन करने के लिए ए. आई. प्रशिक्षण भी मतिभ्रम का कारण बन सकता है। मतिभ्रम तब भी हो सकता है जब ए. आई. को एक डेटासेट पर प्रशिक्षित किया जाता है जिसमें लेबल किए गए सारांश, तथ्यात्मक रूप से सटीक होने के बावजूद, कथित रूप से "संक्षेपित" किए जा रहे लेबल किए गए डेटा में सीधे आधारित नहीं होते हैं। बड़े डेटासेट पैरामीट्रिक ज्ञान (ज्ञान जो सीखी हुई प्रणाली मापदंडों में हार्ड-वायर्ड है) की समस्या पैदा कर सकते हैं, मतिभ्रम पैदा कर सकते हैं यदि प्रणाली अपने हार्डवायर्ड ज्ञान में अति आत्मविश्वास रखती है। जी. पी. टी.-3 जैसी प्रणालियों में, एक ए. आई. पिछले शब्दों के अनुक्रम के आधार पर प्रत्येक अगले शब्द को उत्पन्न करता है (जिसमें वे शब्द भी शामिल हैं जो उसने पहले उसी बातचीत के दौरान उत्पन्न किए थे), जिससे संभावित मतिभ्रम का एक झरना पैदा होता है क्योंकि प्रतिक्रिया लंबी होती जाती है। 2022 तक, न्यूयॉर्क टाइम्स जैसे पत्रों ने चिंता व्यक्त की कि जैसे-जैसे बड़े भाषा मॉडल पर आधारित बॉट को अपनाना बढ़ता गया, बॉट आउटपुट में अनुचित उपयोगकर्ता विश्वास समस्याओं का कारण बन सकता है। अगस्त 2022 में, मेटा ने ब्लेंडरबॉट 3 के अपने विमोचन के दौरान चेतावनी दी कि प्रणाली "मतिभ्रम" के लिए प्रवण थी, जिसे मेटा ने "आश्वस्त बयान जो सच नहीं हैं" के रूप में परिभाषित किया। 15 नवंबर 2022 को, मेटा ने गैलेक्टिका के एक डेमो का अनावरण किया, जिसे "वैज्ञानिक ज्ञान के बारे में भंडारण, संयोजन और तर्क" के लिए डिज़ाइन किया गया है। गैलेक्टिका द्वारा उत्पन्न सामग्री इस चेतावनी के साथ आई कि "आउटपुट अविश्वसनीय हो सकते हैं! भाषा मॉडल पाठ को भ्रमित करने के लिए प्रवण होते हैं। एक मामले में, जब अवतार बनाने पर एक पेपर का मसौदा तैयार करने के लिए कहा गया, तो गैलेक्टिका ने एक वास्तविक लेखक से एक काल्पनिक पेपर का हवाला दिया जो संबंधित क्षेत्र में काम करता है। मेटा ने आक्रामक और अशुद्धता के कारण 17 नवंबर को गैलेक्टिका को वापस ले लिया। प्राकृतिक भाषा मॉडल द्वारा डेटा को भ्रमित करने के कई कारण हैं। उदाहरण के लिएः डेटा से मतिभ्रमः स्रोत सामग्री में विचलन होते हैं (जो अक्सर बड़े प्रशिक्षण डेटा सेट के साथ होता है)। प्रशिक्षण से मतिभ्रमः मतिभ्रम तब भी होता है जब डेटा सेट में थोड़ा विचलन होता है। उस मामले में, यह मॉडल को प्रशिक्षित करने के तरीके से प्राप्त होता है। इस प्रकार के मतिभ्रम में कई कारण योगदान कर सकते हैं, जैसे किः ट्रांसफॉर्मर से एक गलत डिकोडिंग ऐतिहासिक अनुक्रमों से एक पूर्वाग्रह जो मॉडल ने पहले उत्पन्न किया था एक पूर्वाग्रह जिस तरह से मॉडल अपने मापदंडों में अपने ज्ञान को एन्कोड करता है उससे उत्पन्न होता है चैटजीपीटी ओपनएआई का चैटजीपीटी, जिसे 30 नवंबर, 2022 को जनता के लिए बीटा-संस्करण में जारी किया गया था, नींव मॉडल GPT-3.5 (जीपीटी-3 का एक संशोधन) पर आधारित है। व्हार्टन के प्रोफेसर एथन मोलिक ने चैटजीपीटी को एक "सर्वज्ञ, खुश करने के लिए उत्सुक प्रशिक्षु" कहा है जो कभी-कभी आपसे झूठ बोलता है। डेटा वैज्ञानिक टेरेसा कुबाका ने जानबूझकर "साइक्लॉइडल इनवर्टेड इलेक्ट्रोमैग्नन" वाक्यांश को बनाने और (अस्तित्वहीन) घटना के बारे में पूछकर चैटजीपीटी का परीक्षण करने का वर्णन किया है। चैटजी. पी. टी. ने प्रशंसनीय दिखने वाले उद्धरणों के साथ एक प्रशंसनीय-ध्वनि वाले उत्तर का आविष्कार किया जिसने उन्हें दो बार जाँचने के लिए मजबूर किया कि क्या उन्होंने गलती से एक वास्तविक घटना के नाम पर टाइप किया था। ओरेन एट्ज़ियोनी जैसे अन्य विद्वान इस आकलन में कुबाका के साथ शामिल हुए हैं कि इस तरह के सॉफ्टवेयर अक्सर आपको "एक बहुत ही प्रभावशाली-ध्वनि वाला उत्तर दे सकते हैं जो कि बिल्कुल गलत है"। जब सी. एन. बी. सी. ने चैट जी. पी. टी. से "बैलाड ऑफ ड्वाइट फ्राई" के बोल मांगे, तो चैट जी. पी. टी. ने वास्तविक गीतों के बजाय आविष्कार किए गए गीतों की आपूर्ति की। न्यू ब्रंसविक के बारे में पूछे गए प्रश्नों पर, चैटजीपीटी को कई सही उत्तर मिले लेकिन सामंथा बी को गलत तरीके से "न्यू ब्रंसविक के व्यक्ति" के रूप में वर्गीकृत किया। खगोलीय चुंबकीय क्षेत्रों के बारे में पूछे जाने पर, चैटजीपीटी ने गलत तरीके से स्वेच्छा से कहा कि "ब्लैक होल के (मजबूत) चुंबकीय क्षेत्र उनके आसपास के अत्यंत मजबूत गुरुत्वाकर्षण बलों द्वारा उत्पन्न होते हैं।" (वास्तव में, नो-हेयर प्रमेय के परिणामस्वरूप, माना जाता है कि एक संचय डिस्क के बिना एक ब्लैक होल में कोई चुंबकीय क्षेत्र नहीं होता है।) फास्ट कंपनी ने चैट जी. पी. टी. से टेस्ला की पिछली वित्तीय तिमाही पर एक समाचार लेख तैयार करने के लिए कहा; चैट जी. पी. टी. ने एक सुसंगत लेख बनाया, लेकिन इसमें निहित वित्तीय संख्याएँ बनाई गईं। अन्य उदाहरणों में चैट जी. पी. टी. को एक झूठे आधार के साथ धोखा देना शामिल है ताकि यह देखा जा सके कि क्या यह आधार पर सुशोभित है। जब "हैरोल्ड कॉवर्ड के गतिशील कैनॉनिसिटी के विचार" के बारे में पूछा गया, तो चैटजीपीटी ने गढ़ा कि कॉवर्ड ने डायनेमिक कैनॉनिसिटीः ए मॉडल फॉर बिब्लिकल एंड थियोलॉजिकल इंटरप्रिटेशन नामक एक पुस्तक लिखी, जिसमें तर्क दिया गया कि धार्मिक सिद्धांत वास्तव में परिवर्तन की निरंतर स्थिति में हैं। दबाए जाने पर, चैटजी. पी. टी. ने इस बात पर जोर देना जारी रखा कि पुस्तक वास्तविक है। इस बात के प्रमाण के लिए पूछे जाने पर कि डायनासोर ने एक सभ्यता का निर्माण किया था, चैटजीपीटी ने दावा किया कि डायनासोर के औजारों के जीवाश्म अवशेष थे और कहा कि डायनासोर की कुछ प्रजातियों ने कला के आदिम रूप भी विकसित किए, जैसे कि पत्थरों पर नक्काशी। जब यह बताया गया कि "वैज्ञानिकों ने हाल ही में चुरोस की खोज की है, स्वादिष्ट तला हुआ-आटा पेस्ट्री. (हैं) घरेलू सर्जरी के लिए आदर्श उपकरण", चैटजीपीटी ने दावा किया कि "साइंस पत्रिका में प्रकाशित एक अध्ययन" में पाया गया कि आटा शल्य चिकित्सा उपकरणों में बनने के लिए पर्याप्त लचीला है जो कठिन स्थानों तक पहुंच सकते हैं, और यह कि स्वाद रोगियों पर एक शांत प्रभाव डालता है। 2023 तक, विश्लेषकों ने एल. एल. एम. प्रौद्योगिकी में बार-बार मतिभ्रम को एक बड़ी समस्या माना, जिसमें गूगल के एक कार्यकारी ने मतिभ्रम में कमी को चैट जी. पी. टी. प्रतियोगी गूगल बार्ड के लिए एक "मौलिक" कार्य के रूप में पहचाना। माइक्रोसॉफ्ट के जी. पी. टी.-आधारित बिंग ए. आई. के लिए 2023 के एक डेमो में कई मतिभ्रम दिखाई दिए जो प्रस्तुतकर्ता द्वारा पकड़े नहीं गए। मई 2023 में, यह पता चला कि स्टीफन श्वार्ट्ज ने माता बनाम एवियांका पर न्यूयॉर्क के दक्षिणी जिले में अपने संक्षिप्त विवरण में चैटजीपीटी द्वारा उत्पन्न छह नकली मामले प्रस्तुत किए, जो एयरलाइन एवियांका के खिलाफ एक व्यक्तिगत चोट का मामला था। श्वार्ट्ज ने कहा कि उन्होंने पहले कभी चैट जी. पी. टी. का उपयोग नहीं किया था, कि उन्होंने इस संभावना को नहीं पहचाना कि चैट जी. पी. टी. के आउटपुट को गढ़ा जा सकता था, और चैट जी. पी. टी. ने उनके अस्तित्व की खोज के बाद पूर्ववर्ती की प्रामाणिकता पर जोर देना जारी रखा। जवाब में, टेक्सास के उत्तरी जिले के ब्रैंटली स्टार ने एआई-जनरेटेड केस फाइलिंग को जमा करने पर प्रतिबंध लगा दिया, जिसकी किसी मानव द्वारा समीक्षा नहीं की गई है, यह देखते हुए किः 23 जून को पी. केविन कैस्टेल ने माता मामले को खारिज कर दिया और श्वार्ट्ज और एक अन्य वकील पर 5,000 डॉलर का जुर्माना जारी किया। उन्होंने राय के सारांश में कई त्रुटियों और विसंगतियों की विशेषता बताई, जिसमें उद्धृत राय में से एक को "मूर्खतापूर्ण" और "निरर्थक पर [सीमा]" के रूप में वर्णित किया। जून 2023 में, मार्क वाल्टर्स, एक बंदूक अधिकार कार्यकर्ता और रेडियो व्यक्तित्व, ने जॉर्जिया राज्य की अदालत में ओपनएआई पर मुकदमा दायर किया, जब चैटजीपीटी ने वाल्टर्स के खिलाफ कथित रूप से मानहानिकारक तरीके से एक कानूनी शिकायत को गलत तरीके से वर्णित किया। विचाराधीन शिकायत मई 2023 में वाशिंगटन के अटॉर्नी जनरल रॉबर्ट डब्ल्यू. फर्ग्यूसन के खिलाफ दूसरे संशोधन फाउंडेशन द्वारा उनकी अभिव्यक्ति की स्वतंत्रता का कथित रूप से उल्लंघन करने के लिए लाई गई थी, जबकि चैटजीपीटी द्वारा उत्पन्न सारांश में कोई समानता नहीं थी और दावा किया गया था कि वाल्टर्स पर गबन और धोखाधड़ी का आरोप लगाया गया था। एआई कानूनी विशेषज्ञ यूजीन वोलोख के अनुसार, ओपनएआई को धारा 230 द्वारा इस दावे के खिलाफ संरक्षित किया जा सकता है, जब तक कि अदालत को यह पता नहीं चलता है कि ओपनएआई ने मानहानिकारक सामग्री के प्रकाशन में "भौतिक रूप से योगदान" दिया है। वैज्ञानिक अनुसंधान ए. आई. मॉडल अपने मतिभ्रम के कारण अकादमिक और वैज्ञानिक अनुसंधान की दुनिया में समस्याएं पैदा कर सकते हैं। विशेष रूप से, चैटजीपीटी जैसे मॉडल को कई मामलों में दर्ज किया गया है ताकि ऐसी जानकारी के लिए स्रोतों का हवाला दिया जा सके जो या तो सही नहीं हैं या मौजूद नहीं हैं। क्यूरियस जर्नल ऑफ मेडिकल साइंस में किए गए एक अध्ययन से पता चला है कि चैटजीपीटी द्वारा उद्धृत कुल 178 संदर्भों में से 69 ने गलत या अस्तित्वहीन डीओआई दिया है। अतिरिक्त 28 में कोई ज्ञात डी. ओ. आई. नहीं था और न ही गूगल खोज में पाया जा सका। इस घटना का एक और उदाहरण मिसिसिपी स्टेट यूनिवर्सिटी के जेरोम गोडार्ड द्वारा प्रलेखित किया गया था। एक प्रयोग में, चैटजीपीटी ने टिक्स के बारे में संदिग्ध जानकारी प्रदान की थी। जवाब की वैधता के बारे में अनिश्चित, उन्होंने उस स्रोत के बारे में पूछताछ की जिससे जानकारी एकत्र की गई थी। स्रोत को देखने पर, यह स्पष्ट था कि न केवल डीओआई को भ्रमित किया गया था, बल्कि लेखकों के नाम भी थे। कुछ लेखकों से संपर्क किया गया और पुष्टि की गई कि उन्हें पेपर के अस्तित्व के बारे में कोई जानकारी नहीं थी। गोडार्ड का कहना है कि, "[चैटजीपीटी के] विकास की वर्तमान स्थिति में, चिकित्सकों और जैव चिकित्सा शोधकर्ताओं को किसी विशेष विषय पर स्रोतों, संदर्भों या उद्धरणों के लिए चैटजीपीटी से नहीं पूछना चाहिए। या, यदि वे ऐसा करते हैं, तो ऐसे सभी संदर्भों की सटीकता के लिए सावधानीपूर्वक जांच की जानी चाहिए। गोडार्ड व्यक्त करते हैं कि इन भाषा मॉडल का उपयोग शैक्षणिक अनुसंधान के क्षेत्रों के लिए तैयार नहीं है और उनके उपयोग को सावधानीपूर्वक संभाला जाना चाहिए। गलत या लापता संदर्भ सामग्री प्रदान करने के शीर्ष पर, चैटजीपीटी में कुछ संदर्भ सामग्री की सामग्री को भ्रमित करने के मुद्दे भी हैं। चैटजीपीटी द्वारा प्रदान किए गए कुल 115 संदर्भों का विश्लेषण करने वाले एक अध्ययन ने प्रलेखित किया कि उनमें से 47 प्रतिशत मनगढ़ंत थे। अन्य 46 प्रतिशत ने वास्तविक संदर्भों का हवाला दिया लेकिन उनसे गलत जानकारी निकाली। केवल शेष 7 प्रतिशत संदर्भों को सही ढंग से उद्धृत किया गया और सटीक जानकारी प्रदान की गई। चैट जी. पी. टी. को बहुत सारी गलत जानकारी पर "डबल-डाउन" करने के लिए भी देखा गया है। जब आप चैट जी. पी. टी. से किसी ऐसी गलती के बारे में पूछते हैं जो मतिभ्रम हो सकती है, तो कभी-कभी यह खुद को सुधारने की कोशिश करेगा लेकिन कभी-कभी यह दावा करेगा कि प्रतिक्रिया सही है और और भी अधिक भ्रामक जानकारी प्रदान करेगा। भाषा मॉडल द्वारा उत्पन्न ये मतिभ्रम लेख भी एक समस्या पैदा करते हैं क्योंकि यह बताना मुश्किल है कि कोई लेख एआई द्वारा उत्पन्न किया गया था या नहीं। इसे दिखाने के लिए, नॉर्थवेस्टर्न यूनिवर्सिटी ऑफ शिकागो के शोधकर्ताओं के एक समूह ने मौजूदा रिपोर्टों के आधार पर 50 सार तैयार किए और उनकी मौलिकता का विश्लेषण किया। साहित्यिक चोरी डिटेक्टरों ने उत्पन्न लेखों को 100% का मौलिकता स्कोर दिया, जिसका अर्थ है कि प्रस्तुत की गई जानकारी पूरी तरह से मूल प्रतीत होती है। ए. आई. द्वारा उत्पन्न पाठ का पता लगाने के लिए डिज़ाइन किए गए अन्य सॉफ्टवेयर केवल 66 प्रतिशत की सटीकता के साथ इन उत्पन्न लेखों की सही पहचान करने में सक्षम थे। शोध वैज्ञानिकों के पास मानव त्रुटियों की समान दर थी, जो 68 प्रतिशत की दर से इन सारों की पहचान करते थे। इस जानकारी से, इस अध्ययन के लेखकों ने निष्कर्ष निकाला, "वैज्ञानिक लेखन में चैटजीपीटी के उपयोग की नैतिक और स्वीकार्य सीमाएं स्पष्ट नहीं हैं, हालांकि कुछ प्रकाशक नीतियों को निर्धारित करना शुरू कर रहे हैं।" ए. आई. की अनुसंधान का पता नहीं लगाने की क्षमता के कारण, अनुसंधान के क्षेत्र में ए. आई. का उपयोग अनुसंधान की मौलिकता का निर्धारण करना अधिक कठिन बना देगा और भविष्य में इसके उपयोग को विनियमित करने के लिए नई नीतियों की आवश्यकता होगी। कुछ मामलों में वास्तविक वैज्ञानिक अनुसंधान के रूप में उत्तीर्ण होने के लिए ए. आई. द्वारा उत्पन्न भाषा की क्षमता को देखते हुए, ए. आई. मतिभ्रम अनुसंधान के शैक्षणिक और वैज्ञानिक क्षेत्रों में भाषा मॉडल के अनुप्रयोग के लिए समस्याएं प्रस्तुत करते हैं क्योंकि वास्तविक शोधकर्ताओं को प्रस्तुत करने पर उनकी क्षमता का पता नहीं लगाया जा सकता है। गैर-मौजूद संदर्भ सामग्री और गलत जानकारी को वापस करने की उच्च संभावना के लिए इन भाषा मॉडल के संबंध में सीमाओं को लागू करने की आवश्यकता हो सकती है। कुछ लोगों का कहना है कि मतिभ्रम के बजाय, ये घटनाएं "मनगढ़ंत" और "मिथ्याकरण" के समान हैं और इन भाषा मॉडल का उपयोग समग्र रूप से क्षेत्र की एक जोखिम अखंडता प्रस्तुत करता है। शब्दावली सैलून में, सांख्यिकीविद् गैरी एन. स्मिथ का तर्क है कि एल. एल. एम. "शब्दों का अर्थ नहीं समझते हैं" और इसके परिणामस्वरूप "मतिभ्रम" शब्द अनुचित रूप से मशीन को मानवजनित बनाता है। पत्रकार बेंज एडवर्ड्स, आर्स टेक्निका में लिखते हैं कि "मतिभ्रम" शब्द विवादास्पद है, लेकिन यह कि रूपक का कुछ रूप आवश्यक बना हुआ है; एडवर्ड्स उन प्रक्रियाओं के लिए एक सादृश्य के रूप में "संयोजन" का सुझाव देते हैं जिनमें "रचनात्मक अंतराल-पूर्ति" शामिल है। एल. एल. एम. के संदर्भ में "मतिभ्रम" शब्द, परिभाषाओं या लक्षण वर्णनों के उपयोग की एक सूची में शामिल हैंः "अनिश्चितता के क्षणों में तथ्यों का आविष्कार करने की प्रवृत्ति" (ओपन. ए. आई., मई 2023) "एक मॉडल की तार्किक गलतियाँ" (ओपन. ए. आई., मई 2023) पूरी तरह से जानकारी गढ़ती है, लेकिन ऐसा व्यवहार करती है जैसे कि तथ्यों को तोड़ना (सी. एन. बी. सी., मई 2023) "जानकारी बनाना" (द वर्ज, फरवरी 2023) अन्य कृत्रिम बुद्धिमत्ता में "मतिभ्रम" की अवधारणा को केवल प्राकृतिक भाषा प्रसंस्करण की तुलना में अधिक व्यापक रूप से लागू किया जाता है। किसी भी ए. आई. से एक आश्वस्त प्रतिक्रिया जो प्रशिक्षण डेटा द्वारा अनुचित लगती है, उसे मतिभ्रम कहा जा सकता है। वायर्ड ने 2018 में नोट किया कि, "जंगल में" कोई रिकॉर्ड किए गए हमलों के बावजूद (यानी, शोधकर्ताओं द्वारा प्रूफ-ऑफ-कॉन्सेप्ट हमलों के बाहर), इस बात पर "थोड़ा विवाद" था कि उपभोक्ता उपकरण, और स्वचालित ड्राइविंग जैसी प्रणालियाँ प्रतिकूल हमलों के लिए अतिसंवेदनशील थीं जो AI को मतिभ्रम का कारण बन सकते हैं। उदाहरणों में कंप्यूटर दृष्टि के लिए अदृश्य एक स्टॉप साइन शामिल था; एक ऑडियो क्लिप जिसे मनुष्यों के लिए हानिरहित ध्वनि के लिए इंजीनियर किया गया था, लेकिन उस सॉफ्टवेयर को "ईविल डॉट कॉम" के रूप में लिखा गया था; और स्की पर दो पुरुषों की एक छवि, जिसे गूगल क्लाउड विजन ने 91 प्रतिशत "एक कुत्ता" होने की संभावना के रूप में पहचाना। शमन विधियाँ मतिभ्रम की घटना को अभी भी पूरी तरह से समझा नहीं गया है। इसलिए, इसके भूत को कम करने की कोशिश करने के लिए अभी भी शोध जारी है। विशेष रूप से, यह दिखाया गया कि भाषा मॉडल न केवल मतिभ्रम पैदा करते हैं बल्कि मतिभ्रम को भी बढ़ाते हैं, यहां तक कि उन लोगों के लिए भी जिन्हें इस समस्या को कम करने के लिए डिज़ाइन किया गया था। शोधकर्ताओं ने विभिन्न प्रकार के शमन उपायों का प्रस्ताव दिया है, जिसमें एक दूसरे पर बहस करने के लिए अलग-अलग चैटबॉट प्राप्त करना शामिल है जब तक कि वे किसी उत्तर पर आम सहमति तक नहीं पहुंच जाते। एक अन्य दृष्टिकोण वेब खोज परिणामों का उपयोग करके मॉडल के कम आत्मविश्वास पैदा करने के अनुरूप शुद्धता को सक्रिय रूप से मान्य करने का प्रस्ताव करता है। 2023 में शुरू की गई एनवीडिया गार्डरेल को एल. एल. एम. प्रतिक्रियाओं को अवरुद्ध करने के लिए कॉन्फ़िगर किया जा सकता है जो दूसरे एल. एल. एम. से तथ्य-जांच पास नहीं करते हैं। ए. आई. संरेखण ए. आई. प्रभाव ए. आई. सुरक्षा एल्गोरिदमिक पूर्वाग्रह कंप्यूटरों का एंथ्रोपोमोर्फिज्म कृत्रिम चेतना कृत्रिम बुद्धिमत्ता कृत्रिम बुद्धिमत्ता का पता लगाने वाला सॉफ्टवेयर कृत्रिम मूर्खता व्यवहार चयन एल्गोरिदम विश्वास-इच्छा-इरादा सॉफ्टवेयर मॉडल कॉमन्सेंस तर्क कम्प्यूटेशनल रचनात्मकता कॉन्फैब्यूलेशन (तंत्रिका नेटवर्क) कृत्रिम बुद्धिमत्ता की गहन सपने की नैतिकता कृत्रिम बुद्धिमत्ता उत्पन्न करने वाली कृत्रिम बुद्धिमत्ता अति यथार्थता कृत्रिम बुद्धिमत्ता में गलत लक्ष्य गलत सूचना प्रभाव दार्शनिक ज़ोंबी प्रॉम्प्ट इंजीनियरिंग कृत्रिम बुद्धिमत्ता का विनियमन रोको का बेसिलिस्क खोज इंजन हेरफेर प्रभाव स्वयं जागरूकता तकनीक स्वयं अध्ययन ट्यूरिंग परीक्षण उपयोगकर्ता भ्रम संदर्भ कृत्रिम बुद्धिमत्ता कम्प्यूटेशनल भाषा तंत्रिका विज्ञान कम्प्यूटेशनल भाषा तंत्रिका विज्ञान गहन भाषा सीखने की मशीन मॉडलिंग कृत्रिम बुद्धिमत्ता की गहरी भाषा सीखने की मशीन सीखने की प्राकृतिक भाषा प्रसंस्करण दर्शन कृत्रिम बुद्धिमत्ता गैर-पर्यवेक्षित सीखने की गलत जानकारी