Hallucination (artificial intelligence)
செயற்கை நுண்ணறிவு (AI) துறையில், ஒரு மாயத்தோற்றம் அல்லது செயற்கை மாயத்தோற்றம் (கான்ஃபபுலேஷன் அல்லது மாயை என்றும் அழைக்கப்படுகிறது) என்பது ஒரு AI ஆல் உருவாக்கப்படும் ஒரு பிரதிபலிப்பாகும், இது உண்மையாக வழங்கப்பட்ட தவறான அல்லது தவறாக வழிநடத்தும் தகவல்களைக் கொண்டுள்ளது. எடுத்துக்காட்டாக, ஒரு மாயத்தோற்ற அரட்டைப் பெட்டி, ஒரு நிறுவனத்திற்கான நிதி அறிக்கையை உருவாக்கக் கேட்கப்படும்போது, நிறுவனத்தின் வருவாய் 13.6 பில்லியன் டாலர் (அல்லது வேறு ஏதேனும் எண்ணிக்கை வெளிப்படையாக "மெல்லிய காற்றில் இருந்து பறிக்கப்பட்டது") என்று பொய்யாகக் கூறலாம். இத்தகைய நிகழ்வுகள் "மாயத்தோற்றங்கள்" என்று அழைக்கப்படுகின்றன, மனித உளவியலில் மாயத்தோற்றத்தின் நிகழ்வுடன் தளர்வான ஒப்புமையில். இருப்பினும், ஒரு முக்கிய வேறுபாடு என்னவென்றால், மனித மாயத்தோற்றம் பொதுவாக தவறான உணர்வுகளுடன் தொடர்புடையது, ஆனால் ஒரு AI மாயத்தோற்றம் நியாயமற்ற பதில்கள் அல்லது நம்பிக்கைகளின் வகையுடன் தொடர்புடையது. சில ஆராய்ச்சியாளர்கள் "AI மாயத்தோற்றம்" என்ற குறிப்பிட்ட சொல் நியாயமற்ற முறையில் கணினிகளை மானுடவியல் செய்கிறது என்று நம்புகிறார்கள். AI மாயத்தோற்றம் 2022 ஆம் ஆண்டில் சாட்ஜிபிடி போன்ற சில பெரிய மொழி மாதிரிகளின் (எல்எல்எம்) வெளியீட்டுடன் முக்கியத்துவம் பெற்றது. இத்தகைய போட்கள் பெரும்பாலும் தங்கள் உருவாக்கப்பட்ட உள்ளடக்கத்திற்குள் நம்பத்தகுந்த-ஒலி சீரற்ற பொய்களை அர்த்தமற்ற முறையில் உட்பொதிப்பதாகத் தோன்றுவதாக பயனர்கள் புகார் கூறினர். 2023 வாக்கில், எல். எல். எம் தொழில்நுட்பத்தில் அடிக்கடி மாயத்தோற்றம் ஒரு பெரிய பிரச்சினையாக இருப்பதாக ஆய்வாளர்கள் கருதினர். பகுப்பாய்வு வயர்டால் மேற்கோள் காட்டப்பட்ட பல்வேறு ஆராய்ச்சியாளர்கள் எதிர்மறையான மாயத்தோற்றங்களை ஒரு உயர் பரிமாண புள்ளிவிவர நிகழ்வு என்று வகைப்படுத்தியுள்ளனர், அல்லது போதுமான பயிற்சி தரவு இல்லாததால் மாயத்தோற்றங்களுக்கு காரணம் என்று கூறியுள்ளனர். பொருள் கண்டறிதல் விஷயத்தில் மனிதர்களால் "மாயத்தோற்றங்கள்" என்று வகைப்படுத்தப்பட்ட சில "தவறான" AI பதில்கள் உண்மையில் பயிற்சி தரவுகளால் நியாயப்படுத்தப்படலாம் அல்லது ஒரு AI கூட மனித விமர்சகர்கள் பார்க்கத் தவறிய "சரியான" பதிலைக் கொடுக்கலாம் என்று சில ஆராய்ச்சியாளர்கள் நம்புகிறார்கள். எடுத்துக்காட்டாக, ஒரு மனிதனுக்கு, ஒரு நாயின் சாதாரண உருவத்தைப் போல தோற்றமளிக்கும் ஒரு எதிர்மறையான படம், உண்மையில் AI ஆல் ஒரு பூனையைப் பார்க்கும்போது மட்டுமே (உண்மையான படங்களில்) தோன்றும் சிறிய வடிவங்களைக் கொண்டிருப்பதைக் காணலாம். மனிதர்கள் உணர்ச்சியற்ற நிஜ உலக காட்சி வடிவங்களை செயற்கை நுண்ணறிவு கண்டறிந்து வருகிறது. இருப்பினும், இந்த கண்டுபிடிப்புகள் மற்ற ஆராய்ச்சியாளர்களால் சவால் செய்யப்பட்டுள்ளன. எடுத்துக்காட்டாக, மாதிரிகள் மேலோட்டமான புள்ளிவிவரங்களுக்கு பக்கச்சார்பானவை என்று ஆட்சேபிக்கப்பட்டது, இது நிஜ உலக சூழ்நிலைகளில் வலுவானதாக இருக்கக்கூடாது என்று எதிர்மறையான பயிற்சியை வழிநடத்துகிறது. இயற்கையான மொழி செயலாக்கத்தில், ஒரு மாயத்தோற்றம் பெரும்பாலும் "வழங்கப்பட்ட மூல உள்ளடக்கத்திற்கு முட்டாள்தனமான அல்லது விசுவாசமற்றதாக இருக்கும் உருவாக்கப்பட்ட உள்ளடக்கம்" என்று வரையறுக்கப்படுகிறது. வெளியீடு தூண்டுதலுக்கு முரணானதா இல்லையா என்பதைப் பொறுத்து அவற்றை முறையே மூடிய-களம் மற்றும் திறந்த-களமாக பிரிக்கலாம். ஜிபிடி-3 போன்ற பயிற்சி வாய்ப்புகளை அதிகரிக்க பயிற்சி பெற்ற எந்தவொரு அபூரணமான உற்பத்தி மாதிரியின் புள்ளிவிவர ரீதியாக தவிர்க்க முடியாத துணை விளைபொருளாக மாயத்தோற்றம் காட்டப்பட்டது, மேலும் செயலில் கற்றல் (மனித பின்னூட்டத்திலிருந்து வலுவூட்டல் கற்றல் போன்றவை) தவிர்க்கப்பட வேண்டும். உரைக்கும் பிரதிநிதித்துவங்களுக்கும் இடையில் குறியாக்கம் மற்றும் டிகோடிங்கில் உள்ள பிழைகள் மாயத்தோற்றங்களை ஏற்படுத்தும். பல்வேறு பதில்களை உருவாக்குவதற்கான செயற்கை நுண்ணறிவு பயிற்சியும் மாயத்தோற்றத்திற்கு வழிவகுக்கும். செயற்கை நுண்ணறிவு ஒரு தரவுத்தொகுப்பில் பயிற்றுவிக்கப்படும்போது மாயத்தோற்றங்கள் ஏற்படலாம், இதில் பெயரிடப்பட்ட சுருக்கங்கள், உண்மையில் துல்லியமாக இருந்தபோதிலும், பெயரிடப்பட்ட தரவுகளில் நேரடியாக "சுருக்கமாக" இல்லை. பெரிய தரவுத்தொகுப்புகள் அளவுரு அறிவின் சிக்கலை உருவாக்கலாம் (கற்ற கணினி அளவுருக்களில் கடின கம்பி கொண்ட அறிவு), அமைப்பு அதன் கடின கம்பி அறிவில் அதிக நம்பிக்கையுடன் இருந்தால் மாயத்தோற்றங்களை உருவாக்குகிறது. ஜிபிடி-3 போன்ற அமைப்புகளில், ஒரு செயற்கை நுண்ணறிவு முந்தைய சொற்களின் வரிசையின் அடிப்படையில் ஒவ்வொரு அடுத்த வார்த்தையையும் உருவாக்குகிறது (அதே உரையாடலின் போது அது முன்பு உருவாக்கிய சொற்கள் உட்பட), இது பதில் நீண்டதாக வளரும்போது சாத்தியமான மாயத்தோற்றத்தின் அடுக்கை ஏற்படுத்துகிறது. 2022 வாக்கில், நியூயார்க் டைம்ஸ் போன்ற ஆவணங்கள், பெரிய மொழி மாதிரிகளை அடிப்படையாகக் கொண்ட போட்களை ஏற்றுக்கொள்வது தொடர்ந்து வளர்ந்து வருவதால், போட் வெளியீட்டில் தேவையற்ற பயனர் நம்பிக்கை சிக்கல்களுக்கு வழிவகுக்கும் என்று கவலை தெரிவித்தன. ஆகஸ்ட் 2022 இல், பிளெண்டர்போட் 3 இன் வெளியீட்டின் போது மெட்டா இந்த அமைப்பு "மாயத்தோற்றங்களுக்கு" ஆளாகக்கூடும் என்று எச்சரித்தது, இது மெட்டா "உண்மை இல்லாத நம்பிக்கையான அறிக்கைகள்" என்று வரையறுத்தது. 15 நவம்பர் 2022 அன்று, மெட்டா கேலக்டிகாவின் டெமோவை வெளியிட்டது, இது "அறிவியல் அறிவைப் பற்றி சேமித்து, இணைத்து, நியாயப்படுத்த வடிவமைக்கப்பட்டுள்ளது". கேலக்டிகாவால் உருவாக்கப்பட்ட உள்ளடக்கம் "வெளியீடுகள் நம்பமுடியாததாக இருக்கலாம்!" என்ற எச்சரிக்கையுடன் வந்தது. மொழி மாதிரிகள் மாயத்தோற்றத்திற்கு ஆளாகின்றன ". ஒரு வழக்கில், அவதாரங்களை உருவாக்குவது குறித்து ஒரு காகிதத்தை வரைவு செய்யுமாறு கேட்டபோது, கேலக்டிகா தொடர்புடைய பகுதியில் பணிபுரியும் ஒரு உண்மையான எழுத்தாளரிடமிருந்து ஒரு கற்பனையான காகிதத்தை மேற்கோள் காட்டினார். தாக்குதல் மற்றும் துல்லியமற்ற தன்மை காரணமாக மெட்டா நவம்பர் 17 அன்று கேலக்டிகாவை திரும்பப் பெற்றது. இயற்கையான மொழி மாதிரிகள் தரவை மாயத்தோற்றம் செய்ய பல காரணங்கள் உள்ளன. எடுத்துக்காட்டாகஃ தரவுகளிலிருந்து மாயத்தோற்றம்-மூல உள்ளடக்கத்தில் வேறுபாடுகள் உள்ளன (இது பெரும்பாலும் பெரிய பயிற்சி தரவுத் தொகுப்புகளுடன் நடக்கும்). பயிற்சியிலிருந்து மாயத்தோற்றம்-தரவுத் தொகுப்பில் சிறிய வேறுபாடு இருக்கும்போது மாயத்தோற்றம் இன்னும் நிகழ்கிறது. அவ்வாறான நிலையில், இது மாடல் பயிற்சி பெற்ற விதத்திலிருந்து பெறப்படுகிறது. இந்த வகை மாயத்தோற்றத்திற்கு நிறைய காரணங்கள் பங்களிக்கக்கூடும், அதாவதுஃ மின்மாற்றியில் இருந்து ஒரு தவறான டிகோடிங் மாதிரி முன்பு உருவாக்கிய வரலாற்று வரிசைகளிலிருந்து ஒரு சார்பு மாதிரி அதன் அளவுருக்களில் அதன் அறிவை குறியாக்கம் செய்யும் முறையிலிருந்து உருவாக்கப்பட்ட ஒரு சார்பு சாட்ஜிபிடி ஓபன்ஏஐயின் சாட்ஜிபிடி, நவம்பர் 30,2022 அன்று பீட்டா பதிப்பில் பொதுமக்களுக்கு வெளியிடப்பட்டது, இது அடித்தள மாதிரியை GPT-3.5 (ஜிபிடி-3 இன் திருத்தம்) அடிப்படையாகக் கொண்டது. வார்டனின் பேராசிரியர் ஈதன் மோலிக் சாட்ஜிபிடியை "சில நேரங்களில் உங்களிடம் பொய் சொல்லும் எல்லாம் அறிந்த, மகிழ்ச்சியடைய ஆர்வமுள்ள பயிற்சியாளர்" என்று அழைத்துள்ளார். தரவு விஞ்ஞானி தெரசா குபாக்கா வேண்டுமென்றே "சைக்ளாய்டல் இன்வெர்ட்டட் எலக்ட்ரோமக்னான்" என்ற சொற்றொடரை உருவாக்கி, (இல்லாத) நிகழ்வைப் பற்றி கேட்டதன் மூலம் சாட்ஜிபிடி-யைச் சோதிப்பதாக விவரித்துள்ளார். சாட்ஜிபிடி நம்பத்தகுந்த தோற்றமுடைய மேற்கோள்களுடன் ஆதரிக்கப்படும் ஒரு நம்பத்தகுந்த-ஒலி பதிலைக் கண்டுபிடித்தது, இது ஒரு உண்மையான நிகழ்வின் பெயரில் தற்செயலாக தட்டச்சு செய்ததா என்பதை இருமுறை சரிபார்க்க கட்டாயப்படுத்தியது. அத்தகைய மென்பொருள் பெரும்பாலும் "மிகவும் ஈர்க்கக்கூடிய-ஒலிக்கும் பதிலை உங்களுக்கு வழங்க முடியும், அது மிகவும் தவறானது" என்று மதிப்பிடுவதில் ஓரென் எட்ஸியோனி போன்ற பிற அறிஞர்கள் குபக்காவுடன் இணைந்துள்ளனர். சிஎன்பிசி சாட்ஜிபிடி-யிடம் "பாலாட் ஆஃப் டுவைட் ஃப்ரை" பாடல் வரிகளை கேட்டபோது, சாட்ஜிபிடி உண்மையான பாடல் வரிகளை விட கண்டுபிடிக்கப்பட்ட பாடல் வரிகளை வழங்கியது. நியூ பிரன்சுவிக் பற்றி கேள்விகள் கேட்கப்பட்டபோது, சாட்ஜிபிடி பல பதில்களை சரியாகப் பெற்றது, ஆனால் சமந்தா பீயை "நியூ பிரன்சுவிக் நாட்டைச் சேர்ந்த நபர்" என்று தவறாக வகைப்படுத்தியது. வானியற்பியல் காந்தப்புலங்களைப் பற்றி கேட்டபோது, சாட்ஜிபிடி தவறாக முன்வந்து "கருந்துளைகளின் (வலுவான) காந்தப்புலங்கள் அவற்றின் அருகிலுள்ள மிகவும் வலுவான ஈர்ப்பு விசைகளால் உருவாக்கப்படுகின்றன" என்று கூறியது. (உண்மையில், முடி இல்லாத தேற்றத்தின் விளைவாக, திரட்டல் வட்டு இல்லாத கருந்துளையில் காந்தப்புலம் இல்லை என்று நம்பப்படுகிறது.) ஃபாஸ்ட் கம்பெனி சாட்ஜிபிடி-யிடம் டெஸ்லாவின் கடைசி நிதியாண்டில் ஒரு செய்திக் கட்டுரையை உருவாக்குமாறு கேட்டது; சாட்ஜிபிடி ஒரு ஒத்திசைவான கட்டுரையை உருவாக்கியது, ஆனால் அதில் உள்ள நிதி எண்களை உருவாக்கியது. மற்ற எடுத்துக்காட்டுகளில் சாட்ஜிபிடி ஒரு தவறான முன்மாதிரியுடன் அது வளாகத்தின் மீது அலங்கரிக்கப்படுகிறதா என்று பார்ப்பது அடங்கும். "ஹாரோல்ட் கோவர்டின் டைனமிக் கேனோனிசிட்டி பற்றிய யோசனை" பற்றி கேட்டபோது, சாட்ஜிபிடி கோவர்ட் டைனமிக் கேனோனிசிட்டிஃ பைபிள் மற்றும் இறையியல் விளக்கத்திற்கான ஒரு மாதிரி என்ற தலைப்பில் ஒரு புத்தகத்தை எழுதியதாக புனையப்பட்டது, மதக் கொள்கைகள் உண்மையில் ஒரு நிலையான மாற்ற நிலையில் உள்ளன என்று வாதிட்டது. அழுத்தப்பட்டபோது, சாட்ஜிபிடி அந்த புத்தகம் உண்மையானது என்று தொடர்ந்து வலியுறுத்தியது. டைனோசர்கள் ஒரு நாகரிகத்தை உருவாக்கின என்பதற்கான ஆதாரம் கேட்டபோது, சாட்ஜிபிடி டைனோசர் கருவிகளின் புதைபடிவ எச்சங்கள் இருப்பதாகக் கூறி, "சில டைனோசர்களின் இனங்கள் கற்களில் செதுக்குதல் போன்ற பழங்கால கலை வடிவங்களை கூட உருவாக்கியுள்ளன" என்று கூறியது. "சுவையான வறுத்த-மாவு பேஸ்ட்ரிகளான சுர்ரோக்களை விஞ்ஞானிகள் சமீபத்தில் கண்டுபிடித்துள்ளனர். (அவை) வீட்டு அறுவை சிகிச்சைக்கு சிறந்த கருவிகள்" என்று கேட்டபோது, "சயின்ஸ் இதழில் வெளியிடப்பட்ட ஒரு ஆய்வில்" மாவை அறுவை சிகிச்சை கருவிகளாக உருவாக்க போதுமான நெகிழ்ச்சி இருப்பதைக் கண்டறிந்துள்ளது, இது அடைய கடினமான இடங்களுக்குள் செல்ல முடியும், மேலும் சுவை நோயாளிகளுக்கு ஒரு அமைதியான விளைவைக் கொண்டுள்ளது. 2023 வாக்கில், எல்எல்எம் தொழில்நுட்பத்தில் அடிக்கடி மாயத்தோற்றம் ஒரு பெரிய பிரச்சினையாக ஆய்வாளர்கள் கருதினர், கூகிள் நிர்வாகி மாயத்தோற்றம் குறைப்பை சாட்ஜிபிடி போட்டியாளரான கூகிள் பார்ட்டுக்கு ஒரு "அடிப்படை" பணியாக அடையாளம் கண்டார். மைக்ரோசாப்டின் ஜிபிடி அடிப்படையிலான பிங் ஏஐக்கான 2023 டெமோ, தொகுப்பாளரால் பிடிக்கப்படாத பல மாயத்தோற்றங்களைக் கொண்டிருப்பதாகத் தோன்றியது. மே 2023 இல், ஸ்டீபன் ஸ்வார்ட்ஸ் சாட்ஜிபிடி உருவாக்கிய ஆறு போலி வழக்கு முன்னுதாரணங்களை நியூயார்க்கின் தெற்கு மாவட்டத்திற்கு மாதா வி. ஏவியான்கா என்ற விமான நிறுவனத்திற்கு எதிரான தனிப்பட்ட காயம் வழக்கில் சமர்ப்பித்தார். ஷ்வார்ட்ஸ் இதற்கு முன்பு சாட்ஜிபிடி-யை ஒருபோதும் பயன்படுத்தவில்லை என்றும், சாட்ஜிபிடி-யின் வெளியீடு புனையப்பட்டிருக்கலாம் என்ற சாத்தியத்தை அவர் அங்கீகரிக்கவில்லை என்றும், அவை இல்லாதது கண்டுபிடிக்கப்பட்ட பிறகும் சாட்ஜிபிடி முன்னுதாரணங்களின் நம்பகத்தன்மையை தொடர்ந்து வலியுறுத்துவதாகவும் கூறினார். இதற்கு பதிலளிக்கும் விதமாக, டெக்சாஸின் வடக்கு மாவட்டத்தின் பிராண்ட்லி ஸ்டார் ஒரு மனிதனால் மதிப்பாய்வு செய்யப்படாத AI-உருவாக்கப்பட்ட வழக்குத் தாக்கல் சமர்ப்பிப்பைத் தடைசெய்தார், பின்வருமாறு குறிப்பிட்டார்ஃ ஜூன் 23 அன்று பி. கெவின் காஸ்டெல் மாதா வழக்கைத் தூக்கி எறிந்தார் மற்றும் ஷ்வார்ட்ஸ் மற்றும் மற்றொரு வழக்கறிஞருக்கு 5,000 டாலர் அபராதம் விதித்தார். கருத்துச் சுருக்கங்களில் ஏராளமான பிழைகள் மற்றும் முரண்பாடுகளை அவர் வகைப்படுத்தினார், மேற்கோள் காட்டப்பட்ட கருத்துக்களில் ஒன்றை "கிப்பரிஷ்" மற்றும் "[எல்லையில்] முட்டாள்தனமாக" விவரித்தார். ஜூன் 2023 இல், துப்பாக்கி உரிமை ஆர்வலரும் வானொலி ஆளுமையுமான மார்க் வால்டர்ஸ், ஜார்ஜியா மாநில நீதிமன்றத்தில் ஓபன்ஏஐ மீது வழக்கு தொடர்ந்தார், சாட்ஜிபிடி வால்டர்ஸுக்கு எதிரான அவதூறு என்று கூறப்படும் வகையில் ஒரு சட்ட புகாரை தவறாக வகைப்படுத்திய பின்னர். கேள்விக்குரிய புகார் மே 2023 இல் வாஷிங்டன் அட்டர்னி ஜெனரல் ராபர்ட் டபிள்யூ. பெர்குசனுக்கு எதிராக இரண்டாவது திருத்த அறக்கட்டளையால் அவர்களின் பேச்சு சுதந்திரத்தை மீறியதாகக் குற்றம் சாட்டப்பட்டது, அதே நேரத்தில் சாட்ஜிபிடி உருவாக்கிய சுருக்கம் எந்த ஒற்றுமையையும் கொண்டிருக்கவில்லை மற்றும் வால்டர்ஸ் மீது மோசடி மற்றும் மோசடி குற்றம் சாட்டப்பட்டதாகக் கூறியது இரண்டாவது திருத்த அறக்கட்டளை அலுவலக பதவியை அவர் நிஜ வாழ்க்கையில் ஒருபோதும் வகிக்கவில்லை. AI சட்ட நிபுணர் யூஜின் வோலோக்கின் கூற்றுப்படி, அவதூறான உள்ளடக்கத்தை வெளியிடுவதற்கு ஓபன்ஏஐ "பொருள் ரீதியாக பங்களித்தது" என்று நீதிமன்றம் கண்டறியாவிட்டால், பிரிவு 230 ஆல் இந்த கூற்றுக்கு எதிராக ஓபன்ஏஐ பாதுகாக்கப்படலாம். அறிவியல் ஆராய்ச்சி செயற்கை நுண்ணறிவு மாதிரிகள் அவற்றின் மாயத்தோற்றங்கள் காரணமாக கல்வி மற்றும் அறிவியல் ஆராய்ச்சி உலகில் சிக்கல்களை ஏற்படுத்தும். குறிப்பாக, சாட்ஜிபிடி போன்ற மாதிரிகள் பல சந்தர்ப்பங்களில் பதிவு செய்யப்பட்டுள்ளன, அவை சரியானவை அல்ல அல்லது இல்லாத தகவல்களுக்கான ஆதாரங்களை மேற்கோள் காட்டுகின்றன. கியூரியஸ் ஜர்னல் ஆஃப் மெடிக்கல் சயின்ஸில் நடத்தப்பட்ட ஒரு ஆய்வில், சாட்ஜிபிடி மேற்கோள் காட்டிய 178 மொத்த குறிப்புகளில், 69 தவறான அல்லது இல்லாத டிஓஐ ஐ வழங்கியது. மேலும் 28 பேருக்கு அறியப்பட்ட டிஓஐ இல்லை அல்லது கூகிள் தேடலில் கண்டுபிடிக்க முடியவில்லை. இந்த நிகழ்வின் மற்றொரு உதாரணம் மிசிசிப்பி மாநில பல்கலைக்கழகத்தைச் சேர்ந்த ஜெரோம் கோடார்ட் என்பவரால் ஆவணப்படுத்தப்பட்டது. ஒரு பரிசோதனையில், சாட்ஜிபிடி உண்ணி பற்றிய கேள்விக்குரிய தகவல்களை வழங்கியது. பதிலின் செல்லுபடியாகும் தன்மை குறித்து நிச்சயமற்ற அவர்கள், தகவல் சேகரிக்கப்பட்ட ஆதாரம் குறித்து விசாரித்தனர். ஆதாரத்தைப் பார்த்தபோது, டிஓஐ மாயத்தோற்றம் அடைந்தது மட்டுமல்லாமல், ஆசிரியர்களின் பெயர்களும் மாயத்தோற்றம் அடைந்தன என்பது தெளிவாகத் தெரிந்தது. சில எழுத்தாளர்கள் தொடர்பு கொள்ளப்பட்டு, காகிதம் இருப்பதைப் பற்றி தங்களுக்கு எதுவும் தெரியாது என்பதை உறுதிப்படுத்தினர். கோடார்ட் கூறுகிறார், "[சாட்ஜிபிடி] யின் தற்போதைய வளர்ச்சியின் நிலையில், மருத்துவர்கள் மற்றும் பயோமெடிக்கல் ஆராய்ச்சியாளர்கள் ஒரு குறிப்பிட்ட தலைப்பில் ஆதாரங்கள், குறிப்புகள் அல்லது மேற்கோள்களுக்கு சாட்ஜிபிடி கேட்கக்கூடாது. அல்லது, அவர்கள் அவ்வாறு செய்தால், அத்தகைய குறிப்புகள் அனைத்தும் துல்லியத்திற்காக கவனமாக பரிசோதிக்கப்பட வேண்டும் ". இந்த மொழி மாதிரிகளின் பயன்பாடு கல்வி ஆராய்ச்சித் துறைகளுக்குத் தயாராக இல்லை என்றும் அவற்றின் பயன்பாடு கவனமாக கையாளப்பட வேண்டும் என்றும் கோடார்ட் வெளிப்படுத்துகிறார். தவறான அல்லது காணாமல் போன குறிப்பு பொருளை வழங்குவதற்கு மேல், சாட்ஜிபிடி சில குறிப்பு பொருளின் உள்ளடக்கங்களை மாயத்தோற்றம் செய்வதிலும் சிக்கல்களைக் கொண்டுள்ளது. சாட்ஜிபிடி வழங்கிய மொத்தம் 115 குறிப்புகளை பகுப்பாய்வு செய்த ஒரு ஆய்வில், அவற்றில் 47 சதவீதம் இட்டுக்கட்டப்பட்டவை என்று ஆவணப்படுத்தப்பட்டுள்ளது. மேலும் 46 சதவீதம் பேர் உண்மையான குறிப்புகளை மேற்கோள் காட்டினர், ஆனால் அவர்களிடமிருந்து தவறான தகவல்களைப் பெற்றனர். மீதமுள்ள 7 சதவீதம் குறிப்புகள் மட்டுமே சரியாக மேற்கோள் காட்டப்பட்டு துல்லியமான தகவல்களை வழங்கின. நிறைய தவறான தகவல்களில் சாட்ஜிபிடி "டபுள்-டவுன்" செய்வதும் கண்டறியப்பட்டுள்ளது. மாயத்தோற்றம் செய்யப்பட்ட ஒரு தவறைப் பற்றி நீங்கள் சாட்ஜிபிடியிடம் கேட்கும்போது, சில நேரங்களில் அது தன்னைத் தானே சரிசெய்ய முயற்சிக்கும், ஆனால் மற்ற நேரங்களில் அது பதில் சரியானது என்று கூறி, இன்னும் தவறான தகவல்களை வழங்கும். மொழி மாதிரிகளால் உருவாக்கப்பட்ட இந்த மாயத்தோற்றக் கட்டுரைகளும் ஒரு சிக்கலை ஏற்படுத்துகின்றன, ஏனெனில் ஒரு கட்டுரை செயற்கை நுண்ணறிவால் உருவாக்கப்பட்டதா என்பதைக் கூறுவது கடினம். இதைக் காட்ட, சிகாகோவின் வடமேற்கு பல்கலைக்கழக ஆராய்ச்சியாளர்கள் குழு தற்போதுள்ள அறிக்கைகளின் அடிப்படையில் 50 சுருக்கங்களை உருவாக்கி அவற்றின் அசல் தன்மையை பகுப்பாய்வு செய்தது. ப்ளாஜியாரிசம் டிடெக்டர்கள் உருவாக்கப்பட்ட கட்டுரைகளுக்கு 100% என்ற அசல் மதிப்பெண்ணைக் கொடுத்தன, அதாவது வழங்கப்பட்ட தகவல்கள் முற்றிலும் அசல் என்று தோன்றுகிறது. செயற்கை நுண்ணறிவு மூலம் உருவாக்கப்பட்ட உரையைக் கண்டறிய வடிவமைக்கப்பட்ட பிற மென்பொருள்களால் இந்த உருவாக்கப்பட்ட கட்டுரைகளை 66 சதவீதம் துல்லியத்துடன் மட்டுமே சரியாக அடையாளம் காண முடிந்தது. ஆராய்ச்சி விஞ்ஞானிகள் இதேபோன்ற மனித பிழைகளின் விகிதத்தைக் கொண்டிருந்தனர், இந்த சுருக்கங்களை 68 சதவீதம் என்ற விகிதத்தில் அடையாளம் கண்டனர். இந்தத் தகவல்களிலிருந்து, இந்த ஆய்வின் ஆசிரியர்கள், "சில வெளியீட்டாளர்கள் கொள்கைகளை வகுக்கத் தொடங்கியிருந்தாலும், அறிவியல் எழுத்துக்களில் சாட்ஜிபிடி பயன்பாட்டின் நெறிமுறை மற்றும் ஏற்றுக்கொள்ளக்கூடிய எல்லைகள் தெளிவாக இல்லை" என்று முடிவு செய்தனர். கண்டறியப்படாத ஆராய்ச்சியை உருவாக்கும் AI இன் திறன் காரணமாக, ஆராய்ச்சித் துறையில் AI இன் பயன்பாடு ஆராய்ச்சியின் அசல் தன்மையை தீர்மானிப்பதை மிகவும் கடினமாக்கும் மற்றும் எதிர்காலத்தில் அதன் பயன்பாட்டை ஒழுங்குபடுத்தும் புதிய கொள்கைகள் தேவைப்படும். சில சந்தர்ப்பங்களில் செயற்கை நுண்ணறிவு உருவாக்கிய மொழியின் உண்மையான அறிவியல் ஆராய்ச்சியாக தேர்ச்சி பெறும் திறனைக் கருத்தில் கொண்டு, செயற்கை நுண்ணறிவு மாயத்தோற்றங்கள் உண்மையான ஆராய்ச்சியாளர்களுக்கு வழங்கும்போது கண்டறிய முடியாத திறன் காரணமாக ஆராய்ச்சியின் கல்வி மற்றும் அறிவியல் துறைகளில் மொழி மாதிரிகளைப் பயன்படுத்துவதில் சிக்கல்களை முன்வைக்கின்றன. இல்லாத குறிப்பு பொருள் மற்றும் தவறான தகவல்களைத் திருப்பித் தருவதற்கான அதிக வாய்ப்பு இருப்பதால், இந்த மொழி மாதிரிகள் தொடர்பாக வரம்புகள் விதிக்கப்பட வேண்டும். மாயத்தோற்றங்களை விட, இந்த நிகழ்வுகள் "புனையல்கள்" மற்றும் "பொய்மைப்படுத்தல்களுக்கு" ஒத்தவை என்றும், இந்த மொழி மாதிரிகளின் பயன்பாடு ஒட்டுமொத்த களத்தின் ஆபத்து ஒருமைப்பாட்டை முன்வைக்கிறது என்றும் சிலர் கூறுகிறார்கள். சலோனில், புள்ளியியல் நிபுணர் கேரி என். ஸ்மித், எல்எல்எம்கள் "சொற்களின் அர்த்தத்தை புரிந்து கொள்ளவில்லை" என்றும் இதன் விளைவாக "மாயத்தோற்றம்" என்ற சொல் நியாயமற்ற முறையில் இயந்திரத்தை மானுடவியல் செய்கிறது என்றும் வாதிடுகிறார். பத்திரிகையாளர் பெஞ்ச் எட்வர்ட்ஸ், ஆர்ஸ் டெக்னிகாவில், "மாயத்தோற்றம்" என்ற சொல் சர்ச்சைக்குரியது, ஆனால் சில வகையான உருவகம் அவசியம் என்று எழுதுகிறார்; எட்வர்ட்ஸ் "படைப்பு இடைவெளி நிரப்புதல்" உள்ளடக்கிய செயல்முறைகளுக்கு ஒரு ஒப்பீடாக "கான்ஃபபுலேஷன்" பரிந்துரைக்கிறார். "மாயத்தோற்றம்" என்ற வார்த்தையின் பயன்பாட்டின் பட்டியல், எல். எல். எம். களின் சூழலில் வரையறைகள் அல்லது குணாதிசயங்கள் பின்வருமாறுஃ "நிச்சயமற்ற தருணங்களில் உண்மைகளைக் கண்டுபிடிக்கும் போக்கு" (ஓபன்ஏஐ, மே 2023) "ஒரு மாதிரியின் தர்க்கரீதியான தவறுகள்" (ஓபன்ஏஐ, மே 2023) தகவல்களை முற்றிலும் புனையுகிறது, ஆனால் உண்மைகளைத் துப்புவது போல் செயல்படுகிறது (சிஎன்பிசி, மே 2023) "தகவல்களை உருவாக்குவது" (தி வெர்ஜ், பிப்ரவரி 2023) பிற செயற்கை நுண்ணறிவுகளில் "மாயத்தோற்றம்" என்ற கருத்து இயற்கையான மொழி செயலாக்கத்தை விட மிகவும் பரவலாகப் பயன்படுத்தப்படுகிறது. பயிற்சித் தரவுகளால் நியாயமற்றதாகத் தோன்றும் எந்தவொரு செயற்கை நுண்ணறிவிலிருந்தும் ஒரு நம்பிக்கையான பதிலை ஒரு மாயத்தோற்றம் என்று பெயரிடலாம். 2018 ஆம் ஆண்டில் வயர்டு குறிப்பிட்டது, "காட்டில்" பதிவு செய்யப்பட்ட தாக்குதல்கள் எதுவும் இல்லை என்றாலும் (அதாவது, ஆராய்ச்சியாளர்களின் கருத்தாக்கத்தின் தாக்குதல்களுக்கு வெளியே), நுகர்வோர் கேஜெட்டுகள் மற்றும் தானியங்கி ஓட்டுநர் போன்ற அமைப்புகள் செயற்கை நுண்ணறிவை ஏற்படுத்தக்கூடிய விரோத தாக்குதல்களுக்கு ஆளாகின்றன என்பதில் "சிறிய சர்ச்சை" இருந்தது. எடுத்துக்காட்டுகளில் கணினி பார்வைக்கு கண்ணுக்குத் தெரியாத ஒரு நிறுத்த அடையாளம் அடங்கும்; மனிதர்களுக்கு தீங்கற்றதாக ஒலிக்கும் வகையில் வடிவமைக்கப்பட்ட ஒரு ஆடியோ கிளிப், ஆனால் அந்த மென்பொருள் "தீய புள்ளி காம்" என்று படியெடுத்தது; மற்றும் ஸ்கீஸில் இரண்டு ஆண்களின் படம், கூகிள் கிளவுட் விஷன் 91 சதவீதம் "ஒரு நாய்" என்று அடையாளம் கண்டது. குறைப்பு முறைகள் மாயத்தோற்றம் நிகழ்வு இன்னும் முழுமையாக புரிந்து கொள்ளப்படவில்லை. எனவே, அதன் தோற்றத்தைத் தணிக்க முயற்சிக்க இன்னும் ஆராய்ச்சி நடந்து வருகிறது. குறிப்பாக, மொழி மாதிரிகள் மாயத்தோற்றத்தை மட்டுமல்லாமல், இந்த சிக்கலைத் தணிக்க வடிவமைக்கப்பட்டவற்றிற்கும் கூட மாயத்தோற்றங்களை பெருக்குகின்றன என்று காட்டப்பட்டது. ஒரு பதிலில் ஒருமித்த கருத்தை அடையும் வரை வெவ்வேறு சாட்போட்களை ஒருவருக்கொருவர் விவாதிக்க வைப்பது உட்பட பல்வேறு தணிப்பு நடவடிக்கைகளை ஆராய்ச்சியாளர்கள் முன்மொழிந்துள்ளனர். மற்றொரு அணுகுமுறை வலை தேடல் முடிவுகளைப் பயன்படுத்தி மாதிரியின் குறைந்த நம்பிக்கையை உருவாக்குவதற்கு ஒத்த சரியான தன்மையை தீவிரமாக சரிபார்க்க முன்மொழிகிறது. 2023 ஆம் ஆண்டில் தொடங்கப்பட்ட என்விடியா கார்ட்ரைல்ஸ், இரண்டாவது எல்எல்எம்மில் இருந்து உண்மைச் சரிபார்ப்பில் தேர்ச்சி பெறாத எல்எல்எம் பதில்களைத் தடுக்க கட்டமைக்கப்படலாம். செயற்கை நுண்ணறிவு சீரமைப்பு செயற்கை நுண்ணறிவு விளைவு செயற்கை நுண்ணறிவு பாதுகாப்பு வழிமுறை சார்பு கணினிகளின் மானுடவியல் செயற்கை உணர்வு செயற்கை நுண்ணறிவு கண்டறிதல் மென்பொருள் செயற்கை முட்டாள்தனம் நடத்தை தேர்வு வழிமுறை நம்பிக்கை-ஆசை-நோக்கம் மென்பொருள் மாதிரி காமன்சென்ஸ் பகுத்தறிவு கம்ப்யூடேஷனல் படைப்பாற்றல் கான்பபுலேஷன் (நரம்பியல் நெட்வொர்க்குகள்) செயற்கை நுண்ணறிவு உருவாக்கம் செயற்கை நுண்ணறிவு ஹைபர்ரியாலிட்டி செயற்கை நுண்ணறிவில் தவறாக வடிவமைக்கப்பட்ட குறிக்கோள்கள் தவறான தகவல் விளைவு தத்துவ ஜோம்பி ப்ராம்ப்ட் பொறியியல் செயற்கை நுண்ணறிவுக்கான ஒழுங்குமுறை ரோக்கோவின் பேசிலிஸ்க் தேடுபொறி கையாளுதல் விளைவு சுய விழிப்புணர்வு தொழில்நுட்பம் சுய ஆய்வு டூரிங் சோதனை பயனர் மாயை குறிப்புகள் செயற்கை நுண்ணறிவு கம்ப்யூடேஷனல் மொழியியல் கம்ப்யூடேஷனல் நியூரோசைன்ஸ் ஆழமான கற்றல் இயந்திர மாதிரிகள் கணிப்பு மொழி கற்றல் இயற்கையான