Hallucination (artificial intelligence)
આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) ના ક્ષેત્રમાં, આભાસ અથવા કૃત્રિમ આભાસ (જેને કોન્ફેબ્યુલેશન અથવા ભ્રમ પણ કહેવાય છે) એ AI દ્વારા પેદા થતી પ્રતિક્રિયા છે જેમાં હકીકત તરીકે રજૂ કરવામાં આવેલી ખોટી અથવા ભ્રામક માહિતી હોય છે. ઉદાહરણ તરીકે, ભ્રામક ચેટબોટ, જ્યારે કોઈ કંપની માટે નાણાકીય અહેવાલ તૈયાર કરવા માટે કહેવામાં આવે છે, ત્યારે ખોટી રીતે કહી શકે છે કે કંપનીની આવક 13.6 અબજ ડોલર હતી (અથવા કોઈ અન્ય સંખ્યા દેખીતી રીતે "પાતળી હવામાંથી ખેંચાયેલી"). આવી ઘટનાઓને માનવ મનોવિજ્ઞાનમાં ભ્રાંતિની ઘટના સાથે છૂટક સામ્યતામાં "આભાસ" કહેવામાં આવે છે. જો કે, એક મુખ્ય તફાવત એ છે કે માનવ આભાસ સામાન્ય રીતે ખોટી ધારણાઓ સાથે સંકળાયેલો હોય છે, પરંતુ AI ભ્રમણા અન્યાયી પ્રતિક્રિયાઓ અથવા માન્યતાઓની શ્રેણી સાથે સંકળાયેલ છે. કેટલાક સંશોધકો માને છે કે ચોક્કસ શબ્દ "AI આભાસ" ગેરવાજબી રીતે કમ્પ્યુટર્સને એન્થ્રોપોમોર્ફાઇઝ કરે છે. 2022ની આસપાસ ચેટજીપીટી જેવા કેટલાક મોટા ભાષાના નમૂનાઓ (એલ. એલ. એમ.) ની રજૂઆત સાથે એ. આઈ. ભ્રમણાએ પ્રાધાન્ય મેળવ્યું હતું. વપરાશકર્તાઓએ ફરિયાદ કરી હતી કે આવા બૉટો ઘણીવાર તેમની પેદા કરેલી સામગ્રીમાં બુદ્ધિગમ્ય-અવાજવાળા અવ્યવસ્થિત જૂઠાણાને અર્થહીન રીતે એમ્બેડ કરે છે. 2023 સુધીમાં, વિશ્લેષકોએ એલ. એલ. એમ. ટેકનોલોજીમાં વારંવાર થતા ભ્રાંતિને એક મોટી સમસ્યા ગણાવી હતી. વિશ્લેષણ વાયર્ડ દ્વારા ટાંકવામાં આવેલા વિવિધ સંશોધકોએ પ્રતિકૂળ આભાસને ઉચ્ચ-પરિમાણીય આંકડાકીય ઘટના તરીકે વર્ગીકૃત કર્યા છે, અથવા પ્રશિક્ષણની અપૂરતી માહિતીને આભાસને આભારી ગણાવ્યા છે. કેટલાક સંશોધકો માને છે કે ઑબ્જેક્ટ ડિટેક્શનના કિસ્સામાં મનુષ્યો દ્વારા "આભાસ" તરીકે વર્ગીકૃત કરવામાં આવેલા કેટલાક "ખોટા" AI પ્રતિસાદો હકીકતમાં તાલીમ ડેટા દ્વારા ન્યાયી ઠેરવી શકાય છે, અથવા તો AI એ "સાચો" જવાબ આપી શકે છે જે માનવ સમીક્ષકો જોવામાં નિષ્ફળ રહ્યા છે. ઉદાહરણ તરીકે, કૂતરાની સામાન્ય છબી જેવી દેખાતી પ્રતિકૂળ છબી હકીકતમાં AI દ્વારા નાની પેટર્ન ધરાવતી જોઈ શકાય છે જે (અધિકૃત છબીઓમાં) બિલાડીને જોતી વખતે જ દેખાશે. એ. આઈ. વાસ્તવિક દુનિયાની દ્રશ્ય પેટર્નને શોધી રહી છે જેના પ્રત્યે મનુષ્ય અસંવેદનશીલ છે. જો કે, આ તારણોને અન્ય સંશોધકો દ્વારા પડકારવામાં આવ્યા છે. ઉદાહરણ તરીકે, એવો વાંધો ઉઠાવવામાં આવ્યો હતો કે મોડેલો સુપરફિસિયલ સ્ટેટિસ્ટિક્સ તરફ પક્ષપાતી હોઈ શકે છે, જેનાથી પ્રતિકૂળ તાલીમ વાસ્તવિક દુનિયાના દૃશ્યોમાં મજબૂત ન હોઈ શકે. કુદરતી ભાષા પ્રક્રિયામાં, કુદરતી ભાષા પ્રક્રિયામાં, ભ્રાંતિને ઘણીવાર "પેદા કરેલી સામગ્રી કે જે પ્રદાન કરેલી સ્રોત સામગ્રી માટે નિરર્થક અથવા વિશ્વાસઘાતી છે" તરીકે વ્યાખ્યાયિત કરવામાં આવે છે. આઉટપુટ પ્રોમ્પ્ટથી વિરોધાભાસી છે કે નહીં તેના આધારે તેમને અનુક્રમે ક્લોઝ-ડોમેન અને ઓપન-ડોમેનમાં વિભાજિત કરી શકાય છે. જી. પી. ટી.-3 જેવા તાલીમની શક્યતાને વધારવા માટે પ્રશિક્ષિત કોઈપણ અપૂર્ણ ઉત્પાદક મોડેલની આંકડાકીય રીતે અનિવાર્ય આડપેદાશ ભ્રાંતિ હોવાનું દર્શાવવામાં આવ્યું હતું અને તેને ટાળવા માટે સક્રિય શિક્ષણ (જેમ કે માનવ પ્રતિસાદમાંથી મજબૂતીકરણ શીખવું) જરૂરી છે. લખાણ અને રજૂઆતો વચ્ચે એન્કોડિંગ અને ડીકોડિંગમાં ભૂલો ભ્રમણાઓનું કારણ બની શકે છે. વિવિધ પ્રતિક્રિયાઓ ઉત્પન્ન કરવા માટે AI તાલીમ પણ આભાસ તરફ દોરી શકે છે. આભાસ ત્યારે પણ થઈ શકે છે જ્યારે AI ને ડેટાસેટ પર તાલીમ આપવામાં આવે છે જેમાં લેબલ કરેલ સારાંશો, તથ્યાત્મક રીતે સચોટ હોવા છતાં, કથિત રીતે "સારાંશિત" લેબલ કરેલ ડેટામાં સીધા આધારિત નથી. મોટા ડેટાસેટ્સ પેરામેટ્રિક જ્ઞાન (જ્ઞાન કે જે લર્નડ સિસ્ટમ પરિમાણોમાં હાર્ડ-વાયર્ડ છે) ની સમસ્યા ઊભી કરી શકે છે, જો સિસ્ટમ તેના હાર્ડવાયર્ડ જ્ઞાનમાં વધુ પડતો આત્મવિશ્વાસ ધરાવે છે તો આભાસ પેદા કરે છે. જી. પી. ટી.-3 જેવી પ્રણાલીઓમાં, એ. આઈ. અગાઉના શબ્દોના ક્રમના આધારે દરેક આગામી શબ્દ ઉત્પન્ન કરે છે (તે જ વાતચીત દરમિયાન તેણે પોતે ઉત્પન્ન કરેલા શબ્દો સહિત), જે સંભવિત ભ્રાંતિનું કારણ બને છે કારણ કે પ્રતિક્રિયા લાંબા સમય સુધી વધે છે. 2022 સુધીમાં, ન્યૂ યોર્ક ટાઇમ્સ જેવા કાગળોએ ચિંતા વ્યક્ત કરી હતી કે, મોટા ભાષાના નમૂનાઓ પર આધારિત બૉટોને અપનાવવાનું સતત વધતું રહ્યું હોવાથી, બૉટ આઉટપુટમાં બિનજરૂરી વપરાશકર્તા વિશ્વાસ સમસ્યાઓ તરફ દોરી શકે છે. ઓગસ્ટ 2022 માં, મેટાએ બ્લેન્ડરબોટ 3 ના પ્રકાશન દરમિયાન ચેતવણી આપી હતી કે સિસ્ટમ "આભાસ" માટે સંવેદનશીલ છે, જેને મેટાએ "વિશ્વાસપૂર્ણ નિવેદનો જે સાચા નથી" તરીકે વ્યાખ્યાયિત કર્યા છે. 15 નવેમ્બર 2022ના રોજ, મેટાએ ગેલેક્ટિકાના પ્રદર્શનનું અનાવરણ કર્યું, જે "વૈજ્ઞાનિક જ્ઞાનનો સંગ્રહ, સંયોજન અને તર્ક" કરવા માટે રચાયેલ છે. ગેલેક્ટિકા દ્વારા પેદા થયેલ સામગ્રી ચેતવણી સાથે આવી હતી કે "આઉટપુટ અવિશ્વસનીય હોઈ શકે છે! ભાષાના નમૂનાઓ લખાણને ભ્રમિત કરવા માટે સંવેદનશીલ હોય છે ". એક કિસ્સામાં, જ્યારે અવતાર બનાવવા પર પેપરનો મુસદ્દો તૈયાર કરવાનું કહેવામાં આવ્યું ત્યારે ગેલેક્ટિકાએ સંબંધિત ક્ષેત્રમાં કામ કરતા એક વાસ્તવિક લેખકના કાલ્પનિક પેપરનો ઉલ્લેખ કર્યો હતો. મેટાએ આક્રમક અને અચોક્કસતાને કારણે 17 નવેમ્બરના રોજ ગેલેક્ટિકાને પાછી ખેંચી લીધી. માહિતીને ભ્રમિત કરવા માટે કુદરતી ભાષા નમૂનાઓ માટે ઘણા કારણો છે. ઉદાહરણ તરીકેઃ માહિતીમાંથી ભ્રમઃ સ્રોત સામગ્રીમાં ભિન્નતા છે (જે ઘણીવાર મોટા તાલીમ માહિતી સમૂહો સાથે થાય છે). તાલીમમાંથી આભાસઃ જ્યારે માહિતી સમૂહમાં થોડું વિચલન હોય ત્યારે પણ આભાસ થાય છે. તે કિસ્સામાં, તે મોડેલને જે રીતે તાલીમ આપવામાં આવે છે તેમાંથી ઉદ્ભવે છે. આ પ્રકારના ભ્રાંતિમાં ઘણાં કારણો ફાળો આપી શકે છે, જેમ કેઃ ટ્રાન્સફોર્મરમાંથી એક ભૂલભરેલું ડીકોડિંગ એ ઐતિહાસિક ક્રમમાંથી પૂર્વગ્રહ કે જે મોડેલ અગાઉ પેદા કરે છે એ પૂર્વગ્રહ જે રીતે મોડેલ તેના પરિમાણોમાં તેના જ્ઞાનને એન્કોડ કરે છે તેનાથી પેદા થાય છે ચેટજીપીટી ઓપનએઆઈની ચેટજીપીટી, જે 30 નવેમ્બર, 2022 ના રોજ બીટા-સંસ્કરણમાં જાહેર કરવામાં આવી હતી, તે ફાઉન્ડેશન મોડેલ GPT-3.5 (જીપીટી-3 નું પુનરાવર્તન) પર આધારિત છે. વ્હાર્ટનના પ્રોફેસર એથન મોલિકે ચેટજી. પી. ટી. ને "સર્વજ્ઞ, ખુશ થવા માટે ઉત્સુક ઇન્ટર્ન જે ક્યારેક તમારી સાથે જૂઠું બોલે છે". ડેટા સાયન્ટિસ્ટ ટેરેસા કુબાકાએ ઇરાદાપૂર્વક "સાયક્લોઈડલ ઇન્વર્ટેડ ઇલેક્ટ્રોમેગ્નન" શબ્દસમૂહ બનાવ્યું છે અને (અસ્તિત્વમાં નથી) ઘટના વિશે પૂછીને ચેટજીપીટીનું પરીક્ષણ કર્યું છે. ચેટજીપીટીએ બુદ્ધિગમ્ય દેખાતા સંદર્ભો સાથે સમર્થિત બુદ્ધિગમ્ય અવાજવાળા જવાબની શોધ કરી હતી જેણે તેણીને બે વાર તપાસવાની ફરજ પાડી હતી કે શું તેણીએ આકસ્મિક રીતે વાસ્તવિક ઘટનાના નામે ટાઇપ કર્યું છે કે કેમ. ઓરેન એટ્ઝિઓની જેવા અન્ય વિદ્વાનો કુબાકાની સાથે મૂલ્યાંકનમાં જોડાયા છે કે આવા સોફ્ટવેર ઘણીવાર તમને "ખૂબ જ પ્રભાવશાળી-અવાજ આપતો જવાબ આપી શકે છે જે એકદમ ખોટો છે". જ્યારે સી. એન. બી. સી. એ ચેટ જી. પી. ટી. ને "બલ્લાડ ઓફ ડ્વાઇટ ફ્રાય" ના ગીતો માટે પૂછ્યું, ત્યારે ચેટ જી. પી. ટી. એ વાસ્તવિક ગીતોને બદલે શોધાયેલા ગીતો પૂરા પાડ્યા. ન્યૂ બ્રુન્સવિક વિશે પ્રશ્નો પૂછવામાં આવતા, ચેટજીપીટીને ઘણા જવાબો સાચા મળ્યા પરંતુ સામંથા બીને ખોટી રીતે "ન્યૂ બ્રુન્સવિકની વ્યક્તિ" તરીકે વર્ગીકૃત કરી. એસ્ટ્રોફિઝિકલ ચુંબકીય ક્ષેત્રો વિશે પૂછવામાં આવતા, ચેટજીપીટીએ ખોટી રીતે સ્વૈચ્છિક રીતે કહ્યું કે "કાળા છિદ્રોના (મજબૂત) ચુંબકીય ક્ષેત્રો તેમની આસપાસના અત્યંત મજબૂત ગુરુત્વાકર્ષણીય દળો દ્વારા ઉત્પન્ન થાય છે". (વાસ્તવમાં, નો-હેર થીયરમના પરિણામે, એક્રીશન ડિસ્ક વિનાના બ્લેક હોલમાં કોઈ ચુંબકીય ક્ષેત્ર ન હોવાનું માનવામાં આવે છે.) ફાસ્ટ કંપનીએ ચેટજી. પી. ટી. ને ટેસ્લાના છેલ્લા નાણાકીય ત્રિમાસિક ગાળા પર એક સમાચાર લેખ તૈયાર કરવા કહ્યું; ચેટજી. પી. ટી. એ એક સુસંગત લેખ બનાવ્યો, પરંતુ તેમાં સમાવિષ્ટ નાણાકીય આંકડાઓ તૈયાર કર્યા. અન્ય ઉદાહરણોમાં ચેટજીપીટીને ખોટા આધાર સાથે લલચાવવાનો સમાવેશ થાય છે કે કેમ તે જોવા માટે કે તે આધાર પર સુશોભિત છે કે કેમ. જ્યારે "હેરોલ્ડ કોવર્ડના ડાયનેમિક કેનોનીસિટીના વિચાર" વિશે પૂછવામાં આવ્યું ત્યારે ચેટજીપીટીએ બનાવટી રજૂઆત કરી હતી કે કોવર્ડે ડાયનેમિક કેનોનીસિટીઃ એ મોડલ ફોર બિબ્લિકલ એન્ડ થિયોલોજિકલ ઇન્ટરપ્રિટેશન શીર્ષક ધરાવતું પુસ્તક લખ્યું હતું, જેમાં એવી દલીલ કરવામાં આવી હતી કે ધાર્મિક સિદ્ધાંતો વાસ્તવમાં સતત પરિવર્તનની સ્થિતિમાં છે. જ્યારે દબાવવામાં આવ્યું ત્યારે ચેટજીપીટીએ આગ્રહ રાખવાનું ચાલુ રાખ્યું કે પુસ્તક વાસ્તવિક છે. ડાયનાસોર્સે સંસ્કૃતિનું નિર્માણ કર્યું હોવાના પુરાવા માટે પૂછવામાં આવતા, ચેટજીપીટીએ દાવો કર્યો હતો કે ડાયનાસોરના સાધનોના અશ્મિભૂત અવશેષો છે અને જણાવ્યું હતું કે "ડાયનાસોરની કેટલીક પ્રજાતિઓએ કલાના આદિમ સ્વરૂપો પણ વિકસાવ્યા હતા, જેમ કે પથ્થરો પર કોતરણી". જ્યારે પૂછવામાં આવ્યું કે "વૈજ્ઞાનિકોએ તાજેતરમાં ચુરોઝ, સ્વાદિષ્ટ તળેલી-લોટની પેસ્ટ્રીઓ શોધી કાઢી છે. (તે) ઘરની શસ્ત્રક્રિયા માટે આદર્શ સાધનો છે", ત્યારે ચેટજીપીટીએ દાવો કર્યો હતો કે "સાયન્સ જર્નલમાં પ્રકાશિત થયેલા એક અભ્યાસમાં" જાણવા મળ્યું છે કે કણક શસ્ત્રક્રિયાના સાધનોમાં રચવા માટે પૂરતું નરમ છે જે મુશ્કેલ સ્થળોએ પહોંચી શકે છે, અને તેનો સ્વાદ દર્દીઓ પર શાંત અસર કરે છે. 2023 સુધીમાં, વિશ્લેષકોએ એલ. એલ. એમ. તકનીકમાં વારંવારના ભ્રાંતિને એક મોટી સમસ્યા ગણાવી હતી, જેમાં ગૂગલ એક્ઝિક્યુટિવે ચેટજીપીટી હરીફ ગૂગલ બાર્ડ માટે ભ્રાંતિમાં ઘટાડાને "મૂળભૂત" કાર્ય તરીકે ઓળખી કાઢ્યું હતું. માઇક્રોસોફ્ટના જી. પી. ટી.-આધારિત બિંગ એ. આઈ. માટે 2023 ના ડેમોમાં ઘણા ભ્રમણાઓ હોવાનું જણાયું હતું જે પ્રસ્તુતકર્તા દ્વારા પકડાયા નહોતા. મે 2023 માં, એવું જાણવા મળ્યું હતું કે સ્ટીફન શ્વાર્ટઝે ચેટજીપીટી દ્વારા પેદા કરાયેલા છ નકલી કેસના ઉદાહરણો માતા વિ. એવિયાંકા પર ન્યૂયોર્કના સધર્ન ડિસ્ટ્રિક્ટમાં તેમના સંક્ષિપ્તમાં રજૂ કર્યા હતા, જે એરલાઇન એવિયાંકા સામેનો વ્યક્તિગત ઈજાનો કેસ હતો. શ્વાર્ટઝે જણાવ્યું હતું કે તેમણે અગાઉ ક્યારેય ચેટજી. પી. ટી. નો ઉપયોગ કર્યો ન હતો, તેમણે ચેટજી. પી. ટી. ના આઉટપુટને બનાવટી હોવાની શક્યતાને માન્યતા આપી ન હતી, અને ચેટજી. પી. ટી. એ તેમના અસ્તિત્વની શોધ થયા પછી પૂર્વવર્તીઓની અધિકૃતતા પર ભાર મૂકવાનું ચાલુ રાખ્યું હતું. તેના જવાબમાં, ટેક્સાસના ઉત્તરીય જિલ્લાના બ્રેન્ટલી સ્ટારે AI-જનરેટેડ કેસ ફાઇલિંગની રજૂઆત પર પ્રતિબંધ મૂક્યો, જેની માનવ દ્વારા સમીક્ષા કરવામાં આવી નથી, અને નોંધ્યું કેઃ 23 જૂનના રોજ પી. કેવિન કેસ્ટેલે માતા કેસને ઉછાળ્યો અને શ્વાર્ટઝ અને અન્ય વકીલને ખરાબ વિશ્વાસના વર્તન માટે 5,000 ડોલરનો દંડ ફટકાર્યો, જેમણે તેના અગાઉના દાવાઓ છતાં કાલ્પનિક ઉદાહરણો સાથે ઊભા રહેવાનું ચાલુ રાખ્યું. તેમણે અભિપ્રાયના સારાંશમાં અસંખ્ય ભૂલો અને અસાતત્યતાઓને દર્શાવી હતી, જેમાં ટાંકવામાં આવેલા મંતવ્યોમાંથી એકને "અસ્પષ્ટ" અને "[સરહદી] અર્થહીન" તરીકે વર્ણવ્યો હતો. જૂન 2023 માં, બંદૂક અધિકાર કાર્યકર્તા અને રેડિયો વ્યક્તિત્વ માર્ક વોલ્ટર્સે જ્યોર્જિયા રાજ્યની અદાલતમાં ઓપનએઆઈ સામે દાવો માંડ્યો હતો, કારણ કે ચેટજીપીટીએ વોલ્ટર્સ સામે બદનક્ષીકારક હોવાનો આરોપ લગાવતી કાનૂની ફરિયાદને ખોટી રીતે વર્ણવી હતી. વોશિંગ્ટનના એટર્ની જનરલ રોબર્ટ ડબ્લ્યુ. ફર્ગ્યુસન સામે તેમની વાણી સ્વાતંત્ર્યના કથિત ઉલ્લંઘન બદલ મે 2023માં સેકન્ડ એમેન્ડમેન્ટ ફાઉન્ડેશન દ્વારા આ ફરિયાદ દાખલ કરવામાં આવી હતી, જ્યારે ચેટજીપીટી દ્વારા તૈયાર કરવામાં આવેલા સારાંશમાં કોઈ સામ્યતા નહોતી અને દાવો કરવામાં આવ્યો હતો કે વોલ્ટર્સ પર ઉચાપત અને છેતરપિંડીનો આરોપ મૂકવામાં આવ્યો હતો જ્યારે તેમણે સેકન્ડ એમેન્ડમેન્ટ ફાઉન્ડેશન ઓફિસનું પદ સંભાળ્યું હતું જે તેમણે વાસ્તવિક જીવનમાં ક્યારેય રાખ્યું ન હતું. AI કાનૂની નિષ્ણાત યુજીન વોલોખના જણાવ્યા અનુસાર, ઓપનએઆઈને કલમ 230 દ્વારા આ દાવા સામે રક્ષણ આપવામાં આવી શકે છે, સિવાય કે કોર્ટને લાગે કે ઓપનએઆઈએ બદનક્ષીકારક સામગ્રીના પ્રકાશનમાં "ભૌતિક રીતે યોગદાન આપ્યું છે". વૈજ્ઞાનિક સંશોધન AI મોડેલો તેમના ભ્રાંતિને કારણે શૈક્ષણિક અને વૈજ્ઞાનિક સંશોધનની દુનિયામાં સમસ્યાઓનું કારણ બની શકે છે. ખાસ કરીને, ચેટજીપીટી જેવા નમૂનાઓ એવા માહિતીના સ્રોતોનો ઉલ્લેખ કરવા માટે બહુવિધ કિસ્સાઓમાં નોંધવામાં આવ્યા છે જે કાં તો સાચા નથી અથવા અસ્તિત્વમાં નથી. ક્યુરિયસ જર્નલ ઓફ મેડિકલ સાયન્સમાં હાથ ધરાયેલા એક અભ્યાસમાં દર્શાવવામાં આવ્યું છે કે ચેટજીપીટી દ્વારા ટાંકવામાં આવેલા કુલ 178 સંદર્ભોમાંથી 69માં ખોટો અથવા અસ્તિત્વમાં ન હોય તેવો ડીઓઆઈ દર્શાવવામાં આવ્યો છે. વધારાના 28 લોકો પાસે કોઈ જાણીતું ડી. ઓ. આઈ. ન હતું કે ગૂગલ સર્ચમાં શોધી શકાયા ન હતા. આ ઘટનાનું બીજું ઉદાહરણ મિસિસિપી સ્ટેટ યુનિવર્સિટીના જેરોમ ગોડાર્ડ દ્વારા દસ્તાવેજીકરણ કરવામાં આવ્યું હતું. એક પ્રયોગમાં, ચેટજીપીટીએ બગાઇ વિશે શંકાસ્પદ માહિતી પૂરી પાડી હતી. જવાબની માન્યતા વિશે અચોક્કસ, તેઓએ તે સ્રોત વિશે પૂછપરછ કરી કે જેમાંથી માહિતી એકત્રિત કરવામાં આવી હતી. સ્રોતને જોયા પછી, તે સ્પષ્ટ હતું કે માત્ર ડી. ઓ. આઈ. ને જ ભ્રમિત કરવામાં આવ્યું ન હતું, પરંતુ લેખકોના નામ પણ હતા. કેટલાક લેખકોનો સંપર્ક કરવામાં આવ્યો હતો અને પુષ્ટિ કરવામાં આવી હતી કે તેમને કાગળના અસ્તિત્વ વિશે કોઈ જાણકારી નથી. ગોડાર્ડ કહે છે કે, "[ચેટજીપીટીના] વિકાસની હાલની સ્થિતિમાં, ચિકિત્સકો અને બાયોમેડિકલ સંશોધકોએ ચેટજીપીટીને કોઈ ચોક્કસ વિષય પરના સ્રોતો, સંદર્ભો અથવા ટાંકણો માટે પૂછવું જોઈએ નહીં. અથવા, જો તેઓ કરે, તો આવા તમામ સંદર્ભોની ચોકસાઈ માટે કાળજીપૂર્વક તપાસ થવી જોઈએ. ગોડાર્ડ વ્યક્ત કરે છે કે આ ભાષાના નમૂનાઓનો ઉપયોગ શૈક્ષણિક સંશોધનના ક્ષેત્રો માટે તૈયાર નથી અને તેનો ઉપયોગ કાળજીપૂર્વક થવો જોઈએ. ખોટી અથવા ગુમ થયેલ સંદર્ભ સામગ્રી પ્રદાન કરવાની ટોચ પર, ચેટજીપીટીમાં કેટલીક સંદર્ભ સામગ્રીની સામગ્રીને ભ્રમિત કરવામાં પણ સમસ્યાઓ છે. ચેટજીપીટી દ્વારા પૂરા પાડવામાં આવેલા કુલ 115 સંદર્ભોનું વિશ્લેષણ કરનારા એક અભ્યાસમાં દસ્તાવેજીકરણ કરવામાં આવ્યું છે કે તેમાંથી 47 ટકા બનાવટી હતા. અન્ય 46 ટકા લોકોએ વાસ્તવિક સંદર્ભો ટાંક્યા પરંતુ તેમની પાસેથી ખોટી માહિતી મેળવી. માત્ર બાકીના 7 ટકા સંદર્ભો યોગ્ય રીતે ટાંકવામાં આવ્યા હતા અને સચોટ માહિતી પૂરી પાડવામાં આવી હતી. ચેટજીપીટીને ઘણી ખોટી માહિતી પર "ડબલ-ડાઉન" કરવા માટે પણ જોવામાં આવ્યું છે. જ્યારે તમે ચેટજી. પી. ટી. ને કોઈ ભૂલ વિશે પૂછો છો જે કદાચ ભ્રામક હોઈ શકે છે, ત્યારે કેટલીકવાર તે પોતાને સુધારવાનો પ્રયાસ કરશે પરંતુ અન્ય સમયે તે દાવો કરશે કે જવાબ સાચો છે અને તેનાથી પણ વધુ ભ્રામક માહિતી પ્રદાન કરશે. ભાષાના નમૂનાઓ દ્વારા પેદા થયેલા આ ભ્રમિત લેખો પણ એક મુદ્દો ઊભો કરે છે કારણ કે તે કહેવું મુશ્કેલ છે કે કોઈ લેખ AI દ્વારા બનાવવામાં આવ્યો હતો કે નહીં. આ બતાવવા માટે, નોર્થવેસ્ટર્ન યુનિવર્સિટી ઓફ શિકાગોના સંશોધકોના જૂથે પ્રવર્તમાન અહેવાલોના આધારે 50 સારાંશો તૈયાર કર્યા અને તેમની મૌલિકતાનું વિશ્લેષણ કર્યું. સાહિત્યચોરી ડિટેક્ટર્સે પેદા કરેલા લેખોને 100% નો મૌલિકતા સ્કોર આપ્યો, જેનો અર્થ છે કે પ્રસ્તુત માહિતી સંપૂર્ણપણે મૂળ હોવાનું જણાય છે. AI જનરેટેડ ટેક્સ્ટને શોધવા માટે રચાયેલ અન્ય સોફ્ટવેર માત્ર 66 ટકાની ચોકસાઈ સાથે આ જનરેટેડ લેખોને યોગ્ય રીતે ઓળખવામાં સક્ષમ હતા. સંશોધન વૈજ્ઞાનિકો પાસે માનવ ભૂલનો સમાન દર હતો, જે 68 ટકાના દરે આ અમૂર્તને ઓળખે છે. આ માહિતી પરથી, આ અભ્યાસના લેખકોએ તારણ કાઢ્યું હતું કે, "વૈજ્ઞાનિક લેખનમાં ચેટજીપીટીના ઉપયોગની નૈતિક અને સ્વીકાર્ય સીમાઓ અસ્પષ્ટ છે, જો કે કેટલાક પ્રકાશકોએ નીતિઓ મૂકવાનું શરૂ કર્યું છે". શોધાયા વગરના સંશોધનને બનાવવાની AIની ક્ષમતાને કારણે, સંશોધનના ક્ષેત્રમાં AIનો ઉપયોગ સંશોધનની મૌલિકતા નક્કી કરવાનું વધુ મુશ્કેલ બનાવશે અને ભવિષ્યમાં તેના ઉપયોગને નિયંત્રિત કરવા માટે નવી નીતિઓની જરૂર પડશે. કેટલાક કિસ્સાઓમાં વાસ્તવિક વૈજ્ઞાનિક સંશોધન તરીકે પસાર થવા માટે એ. આઈ. દ્વારા ઉત્પન્ન ભાષાની ક્ષમતાને જોતાં, એ. આઈ. ભ્રમણાઓ સંશોધનના શૈક્ષણિક અને વૈજ્ઞાનિક ક્ષેત્રોમાં ભાષા નમૂનાઓના ઉપયોગ માટે સમસ્યાઓ રજૂ કરે છે કારણ કે જ્યારે વાસ્તવિક સંશોધકો સમક્ષ રજૂ કરવામાં આવે ત્યારે તે શોધી ન શકાય તેવી ક્ષમતા ધરાવે છે. અસ્તિત્વમાં ન હોય તેવી સંદર્ભ સામગ્રી પરત કરવાની ઉચ્ચ સંભાવના અને ખોટી માહિતી માટે આ ભાષાના નમૂનાઓ અંગે મર્યાદાઓ મૂકવાની જરૂર પડી શકે છે. કેટલાક લોકો કહે છે કે ભ્રમણાઓને બદલે, આ ઘટનાઓ "બનાવટી" અને "બનાવટી" જેવી જ છે અને આ ભાષાના નમૂનાઓનો ઉપયોગ સમગ્ર ક્ષેત્રની જોખમી અખંડિતતા રજૂ કરે છે. સેલોનમાં, આંકડાશાસ્ત્રી ગેરી એન. સ્મિથ દલીલ કરે છે કે એલ. એલ. એમ. "શબ્દોનો અર્થ શું છે તે સમજી શકતા નથી" અને પરિણામે "આભાસ" શબ્દ ગેરવાજબી રીતે મશીનને માનવશાસ્ત્રમાં પરિવર્તિત કરે છે. પત્રકાર બેન્જ એડવર્ડ્સ, આર્સ ટેક્નિકામાં લખે છે કે "આભાસ" શબ્દ વિવાદાસ્પદ છે, પરંતુ રૂપકનું અમુક સ્વરૂપ જરૂરી રહે છે; એડવર્ડ્સ સૂચવે છે કે "રચનાત્મક અંતર-ભરવા" નો સમાવેશ કરતી પ્રક્રિયાઓ માટે સામ્યતા તરીકે "કોન્ફેબ્યુલેશન". એલ. એલ. એમ. ના સંદર્ભમાં "આભાસ" શબ્દના ઉપયોગની સૂચિ, વ્યાખ્યાઓ અથવા લાક્ષણિકતાઓમાં નીચેનાનો સમાવેશ થાય છેઃ "અનિશ્ચિતતાની ક્ષણોમાં તથ્યોની શોધ કરવાની વૃત્તિ" (ઓપનએઆઈ, મે 2023) "એક મોડેલની તાર્કિક ભૂલો" (ઓપનએઆઈ, મે 2023) માહિતીને સંપૂર્ણપણે બનાવટી બનાવે છે, પરંતુ હકીકતો (સીએનબીસી, મે 2023) "માહિતી બનાવવી" (ધ વર્જ, ફેબ્રુઆરી 2023) જેવી વર્તણૂક કરે છે. કોઈપણ AI તરફથી આત્મવિશ્વાસપૂર્ણ પ્રતિસાદ કે જે તાલીમ ડેટા દ્વારા અન્યાયી લાગે છે તેને ભ્રાંતિ તરીકે લેબલ કરી શકાય છે. વાયર્ડે 2018માં નોંધ્યું હતું કે, "જંગલમાં" (એટલે કે, સંશોધકો દ્વારા પ્રૂફ-ઓફ-કન્સેપ્ટ હુમલાઓની બહાર) કોઈ નોંધાયેલા હુમલાઓ ન હોવા છતાં, ત્યાં "થોડો વિવાદ" હતો કે ગ્રાહક ગેજેટ્સ અને ઓટોમેટેડ ડ્રાઇવિંગ જેવી સિસ્ટમો પ્રતિકૂળ હુમલાઓ માટે સંવેદનશીલ હતી જે AIને ભ્રમિત કરી શકે છે. ઉદાહરણોમાં કમ્પ્યુટર દ્રષ્ટિ માટે અદ્રશ્ય પ્રસ્તુત સ્ટોપ સાઇનનો સમાવેશ થાય છે; મનુષ્યો માટે નિરુપદ્રવી અવાજ કરવા માટે એન્જિનિયર્ડ ઓડિયો ક્લિપ, પરંતુ તે સોફ્ટવેરને "એવિલ ડોટ કોમ" તરીકે લખવામાં આવ્યું હતું; અને સ્કિઝ પર બે માણસોની છબી, જેને ગૂગલ ક્લાઉડ વિઝન 91 ટકા સંભવિત "કૂતરો" તરીકે ઓળખાવે છે. શમન પદ્ધતિઓ આભાસની ઘટના હજુ પણ સંપૂર્ણપણે સમજી શકાઇ નથી. તેથી, તેના દેખાવને ઘટાડવાનો પ્રયાસ કરવા માટે હજુ પણ સંશોધન ચાલી રહ્યું છે. ખાસ કરીને, એવું દર્શાવવામાં આવ્યું હતું કે ભાષાના નમૂનાઓ માત્ર મતિભ્રમને જ નહીં પરંતુ મતિભ્રમને પણ વધારે છે, જેઓ આ સમસ્યાને દૂર કરવા માટે રચવામાં આવ્યા હતા. સંશોધકોએ શમનના વિવિધ પગલાંની દરખાસ્ત કરી છે, જેમાં જ્યાં સુધી તેઓ કોઈ જવાબ પર સર્વસંમતિ સુધી ન પહોંચે ત્યાં સુધી એકબીજા સાથે ચર્ચા કરવા માટે વિવિધ ચેટબોટ્સ મેળવવાનો સમાવેશ થાય છે. અન્ય અભિગમ વેબ શોધ પરિણામોનો ઉપયોગ કરીને મોડેલની ઓછી આત્મવિશ્વાસ પેઢીને અનુરૂપ ચોકસાઈને સક્રિય રીતે માન્ય કરવાની દરખાસ્ત કરે છે. 2023 માં શરૂ કરાયેલ એનવીડિયા ગાર્ડરેલ્સ, એલ. એલ. એમ. પ્રતિસાદોને અવરોધિત કરવા માટે ગોઠવી શકાય છે જે બીજા એલ. એલ. એમ. થી તથ્ય-તપાસ પાસ કરતા નથી. AI સંરેખણ AI અસર AI સલામતી અલ્ગોરિધમિક પૂર્વગ્રહ કમ્પ્યુટર્સનું માનવશાસ્ત્ર આર્ટિફિશિયલ ચેતના આર્ટિફિશિયલ ઇન્ટેલિજન્સ ડિટેક્શન સોફ્ટવેર આર્ટિફિશિયલ સ્ટુપિડિટી બિહેવિયર સિલેક્શન અલ્ગોરિધમ બિલીફ-ડિઝાયર-ઇન્ટેન્શન સોફ્ટવેર મોડેલ કોમન્સન્સ રિઝનિંગ કોમ્પ્યુટેશનલ ક્રિએટીવીટી કોન્ફેબ્યુલેશન (ન્યુરલ નેટવર્ક્સ) ડીપડ્રિમ એથિક્સ ઓફ આર્ટિફિશિયલ ઇન્ટેલિજન્સ જનરેટિવ આર્ટિફિશિયલ ઇન્ટેલિજન્સ હાયપરરિયલિટી આર્ટિફિશિયલ ઇન્ટેલિજન્સની ખોટી માહિતીની અસર ફિલોસોફિકલ ઝોમ્બી પ્રોમ્પ્ટ એન્જિનિયરિંગ રેગ્યુલેશન ઓફ આર્ટિફિશિયલ ઇન્ટેલિજન્સ રોકોની બેસિલિસ્ક સર્ચ એન્જિન મેનિપ્યુલેશન ઇફેક્ટ સેલ્ફ-અવેરનેસ ટેકનોસેલ્ફ સ્ટડીઝ ટ્યુરિંગ ટેસ્ટ યુઝર ઇલ્યૂઝન સંદર્ભો આર્ટિફિશિયલ ઇન્ટેલિજન્સ કોમ્પ્યુટેશનલ લિંગ્વેશનલ ન્યુરોસાયન્સ ડીપ લેંગ્વેજ લર્નિંગ મશીન મોડેલિંગ આર્ટિફિશિયલ ઇન્ટેલિજન્સની નેચરલ લેંગ્વેજ પ્રોસેસિંગ ફિલોસોફી અનસુપરવાઇઝ્ડ લર્નિંગ ખોટી માહિતી