Hallucination (artificial intelligence)
مصنوعی ذہانت (اے آئی) کے میدان میں، ہالوکینیشن یا مصنوعی ہالوکینیشن (جسے کنفابلیشن یا فریب بھی کہا جاتا ہے) اے آئی کی طرف سے پیدا ہونے والا ردعمل ہے جس میں حقیقت کے طور پر پیش کی جانے والی غلط یا گمراہ کن معلومات ہوتی ہیں۔ مثال کے طور پر، ایک ہالوکینیٹنگ چیٹ بوٹ، جب کسی کمپنی کے لیے مالیاتی رپورٹ تیار کرنے کے لیے کہا جاتا ہے، تو یہ جھوٹا بیان کر سکتا ہے کہ کمپنی کی آمدنی 13.6 بلین ڈالر تھی (یا کوئی دوسری تعداد بظاہر "ہلکی ہوا سے نکالی گئی")۔ اس طرح کے مظاہر کو انسانی نفسیات میں ہولوکینیشن کے رجحان کے ساتھ ڈھیلی مشابہت میں "ہولوکینیشن" کہا جاتا ہے۔ تاہم، ایک اہم فرق یہ ہے کہ انسانی وہم عام طور پر غلط ادراک سے وابستہ ہوتا ہے، لیکن اے آئی وہم بلاجواز ردعمل یا عقائد کے زمرے سے وابستہ ہوتا ہے۔ کچھ محققین کا خیال ہے کہ مخصوص اصطلاح "اے آئی ہالوکینیشن" کمپیوٹرز کو غیر معقول طور پر اینتھروپومورفائز کرتی ہے۔ اے آئی ہالوکینیشن نے 2022 کے آس پاس چیٹ جی پی ٹی جیسے کچھ بڑے زبان کے ماڈلز (ایل ایل ایم) کے آغاز کے ساتھ ساتھ شہرت حاصل کی۔ صارفین نے شکایت کی کہ اس طرح کے بوٹس اکثر ان کے تیار کردہ مواد میں معقول آواز والے بے ترتیب جھوٹ کو بے معنی طور پر سرایت کرتے نظر آتے ہیں۔ 2023 تک، تجزیہ کاروں نے ایل ایل ایم ٹیکنالوجی میں بار بار ہولوکینیشن کو ایک بڑا مسئلہ سمجھا۔ تجزیہ وایرڈ کے حوالے سے مختلف محققین نے مخالف ہالوکینیشن کو ایک اعلی جہتی شماریاتی رجحان کے طور پر درجہ بند کیا ہے، یا ہالوکینیشن کو ناکافی تربیتی ڈیٹا سے منسوب کیا ہے۔ کچھ محققین کا خیال ہے کہ آبجیکٹ کا پتہ لگانے کے معاملے میں انسانوں کے ذریعہ "ہالوکینیشن" کے طور پر درجہ بند کیے گئے کچھ "غلط" اے آئی ردعمل درحقیقت تربیتی اعداد و شمار کے ذریعے جائز ثابت ہو سکتے ہیں، یا یہ بھی کہ ایک اے آئی "درست" جواب دے رہا ہو سکتا ہے جسے انسانی مبصرین دیکھنے میں ناکام ہو رہے ہیں۔ مثال کے طور پر، ایک مخالف تصویر جو انسان کو، کتے کی ایک عام تصویر کی طرح نظر آتی ہے، حقیقت میں اے آئی کے ذریعہ چھوٹے نمونوں پر مشتمل ہو سکتی ہے جو (مستند تصاویر میں) صرف بلی کو دیکھتے وقت ظاہر ہوتی ہے۔ اے آئی حقیقی دنیا کے بصری نمونوں کا پتہ لگا رہا ہے جن سے انسان بے حس ہیں۔ تاہم، ان نتائج کو دیگر محققین نے چیلنج کیا ہے۔ مثال کے طور پر، اس بات پر اعتراض کیا گیا کہ ماڈلز سطحی اعداد و شمار کی طرف متعصبانہ ہو سکتے ہیں، جس کی وجہ سے مخالفانہ تربیت حقیقی دنیا کے منظرناموں میں مضبوط نہیں ہے۔ قدرتی زبان کی پروسیسنگ میں، ہالوکینیشن کو اکثر "پیدا شدہ مواد جو فراہم کردہ ماخذ کے مواد کے لیے بے معنی یا بے وفا ہے" کے طور پر بیان کیا جاتا ہے۔ اس بات پر منحصر ہے کہ آؤٹ پٹ پرامپٹ سے متصادم ہے یا نہیں، انہیں بالترتیب کلوزڈ ڈومین اور اوپن ڈومین میں تقسیم کیا جا سکتا ہے۔ ہالوکینیشن کو کسی بھی نامکمل جنریٹو ماڈل کا اعدادوشمار کے لحاظ سے ناگزیر ضمنی نتیجہ دکھایا گیا تھا جسے تربیت کے امکانات کو زیادہ سے زیادہ کرنے کے لیے تربیت دی جاتی ہے، جیسے کہ جی پی ٹی-3، اور اس سے بچنے کے لیے فعال سیکھنے (جیسے انسانی فیڈ بیک سے کمک سیکھنا) کی ضرورت ہوتی ہے۔ متن اور نمائندوں کے درمیان انکوڈنگ اور ڈیکوڈنگ میں غلطیاں وہم کا سبب بن سکتی ہیں۔ متنوع ردعمل پیدا کرنے کے لیے اے آئی کی تربیت بھی وہم کا باعث بن سکتی ہے۔ ہالوکینیشن اس وقت بھی ہو سکتی ہے جب اے آئی کو کسی ڈیٹا سیٹ پر تربیت دی جاتی ہے جس میں لیبل شدہ خلاصہ، حقیقت پسندانہ طور پر درست ہونے کے باوجود، لیبل شدہ ڈیٹا میں براہ راست مبنی نہیں ہوتے ہیں جن کا مبینہ طور پر "خلاصہ" کیا جاتا ہے۔ بڑے ڈیٹا سیٹ پیرامیٹرک علم کا مسئلہ پیدا کر سکتے ہیں (وہ علم جو سیکھے ہوئے نظام کے پیرامیٹرز میں ہارڈ وائرڈ ہے)، اگر نظام اپنے ہارڈ وائرڈ علم پر حد سے زیادہ اعتماد رکھتا ہے تو اس سے وہم پیدا ہوتا ہے۔ جی پی ٹی-3 جیسے نظاموں میں، ایک اے آئی پچھلے الفاظ کی ترتیب کی بنیاد پر ہر اگلا لفظ تیار کرتا ہے (بشمول وہ الفاظ جو اس نے خود اسی گفتگو کے دوران تیار کیے ہیں)، جس کی وجہ سے ممکنہ وہم کا ایک سلسلہ پیدا ہوتا ہے کیونکہ ردعمل طویل ہوتا جاتا ہے۔ 2022 تک، نیویارک ٹائمز جیسے اخبارات نے تشویش کا اظہار کیا کہ جیسے جیسے بڑے زبان کے ماڈلز پر مبنی بوٹس کو اپنانا بڑھتا رہا، بوٹ آؤٹ پٹ پر غیر ضروری صارف کا اعتماد مسائل کا باعث بن سکتا ہے۔ اگست 2022 میں، میٹا نے بلینڈر بوٹ 3 کی ریلیز کے دوران خبردار کیا کہ یہ نظام "ہالوکینیشن" کا شکار ہے، جسے میٹا نے "پراعتماد بیانات جو سچ نہیں ہیں" کے طور پر بیان کیا ہے۔ 15 نومبر 2022 کو میٹا نے گیلیکٹکا کے ایک ڈیمو کی نقاب کشائی کی، جسے "سائنسی علم کو ذخیرہ کرنے، یکجا کرنے اور استدلال کرنے" کے لیے ڈیزائن کیا گیا ہے۔ گیلیکٹکا کے ذریعے تیار کردہ مواد اس انتباہ کے ساتھ آیا تھا کہ "آؤٹ پٹ ناقابل اعتماد ہو سکتے ہیں! زبان کے ماڈل متن کو ہالوکینیٹ کرنے کا شکار ہوتے ہیں۔ " ایک معاملے میں، جب اوتار بنانے کے بارے میں ایک مقالے کا مسودہ تیار کرنے کے لیے کہا گیا تو گیلیکٹکا نے ایک حقیقی مصنف کے ایک فرضی مقالے کا حوالہ دیا جو متعلقہ شعبے میں کام کرتا ہے۔ میٹا نے جارحانہ اور غلطی کی وجہ سے 17 نومبر کو گیلیکٹکا کو واپس لے لیا۔ اعداد و شمار کو ہالوکینیٹ کرنے کے لیے قدرتی زبان کے نمونوں کی کئی وجوہات ہیں۔ مثال کے طور پر: ڈیٹا سے ہالوکینیشن: ماخذ کے مواد میں تغیرات ہوتے ہیں (جو اکثر بڑے تربیتی ڈیٹا سیٹوں کے ساتھ ہوتے ہیں)۔ تربیت سے ہالوکینیشن: ہالوکینیشن تب بھی ہوتی ہے جب ڈیٹا سیٹ میں بہت کم انحراف ہوتا ہے۔ اس صورت میں، یہ ماڈل کی تربیت کے طریقے سے اخذ کیا جاتا ہے۔ بہت سی وجوہات اس قسم کے وہم میں حصہ ڈال سکتی ہیں، جیسے: ٹرانسفارمر سے ایک غلط ڈیکوڈنگ تاریخی ترتیبات سے ایک تعصب جو ماڈل نے پہلے پیدا کیا تھا ایک تعصب جس طرح سے ماڈل اپنے پیرامیٹرز میں اپنے علم کو انکوڈ کرتا ہے اس سے پیدا ہوتا ہے چیٹ جی پی ٹی اوپن اے آئی کا چیٹ جی پی ٹی، جو 30 نومبر 2022 کو عوام کے لیے بیٹا ورژن میں جاری کیا گیا تھا، فاؤنڈیشن ماڈل GPT-3.5 (جی پی ٹی-3 کی نظر ثانی) پر مبنی ہے۔ وارٹن کے پروفیسر ایتھن مولک نے چیٹ جی پی ٹی کو "عالم، خوش کرنے کے لیے بے چین انٹرن جو کبھی کبھی آپ سے جھوٹ بولتا ہے" کہا ہے۔ ڈیٹا سائنسدان ٹریسا کوباکا نے جان بوجھ کر "سائکلائڈل الٹا الیکٹرو میگنن" کے جملے کو بنانے اور (غیر موجود) رجحان کے بارے میں پوچھ کر چیٹ جی پی ٹی کی جانچ کرنے کا ذکر کیا ہے۔ چیٹ جی پی ٹی نے ایک قابل فہم آواز والا جواب ایجاد کیا جس کے ساتھ قابل فہم نظر آنے والے حوالہ جات تھے جس نے اسے دو بار چیک کرنے پر مجبور کیا کہ آیا اس نے غلطی سے کسی حقیقی رجحان کے نام پر ٹائپ کیا تھا۔ دیگر اسکالرز جیسے اورین ایٹزیونی نے یہ اندازہ لگانے میں کوباکا کے ساتھ شمولیت اختیار کی ہے کہ اس طرح کا سافٹ ویئر اکثر آپ کو "ایک بہت ہی متاثر کن آواز والا جواب دے سکتا ہے جو کہ بالکل غلط ہے"۔ جب سی این بی سی نے چیٹ جی پی ٹی سے "بیلڈ آف ڈوائٹ فرائی" کے بول طلب کیے تو چیٹ جی پی ٹی نے اصل بول کے بجائے ایجاد شدہ بول فراہم کیے۔ نیو برنزوک کے بارے میں پوچھے گئے سوالات پر، چیٹ جی پی ٹی کو بہت سے جوابات صحیح ملے لیکن سامنتھا بی کو غلط طریقے سے "نیو برنزوک سے تعلق رکھنے والے شخص" کے طور پر درجہ بند کیا گیا۔ فلکیاتی مقناطیسی میدانوں کے بارے میں پوچھے جانے پر، چیٹ جی پی ٹی نے غلط طور پر رضاکارانہ طور پر کہا کہ "بلیک ہولز کے (مضبوط) مقناطیسی میدان ان کے آس پاس کی انتہائی مضبوط کشش ثقل سے پیدا ہوتے ہیں"۔ (حقیقت میں، نو ہیئر تھیوریم کے نتیجے میں، خیال کیا جاتا ہے کہ ایکریشن ڈسک کے بغیر بلیک ہول میں کوئی مقناطیسی میدان نہیں ہوتا ہے۔) فاسٹ کمپنی نے چیٹ جی پی ٹی سے کہا کہ وہ ٹیسلا کی آخری مالیاتی سہ ماہی پر ایک نیوز آرٹیکل تیار کرے۔ چیٹ جی پی ٹی نے ایک مربوط مضمون تیار کیا، لیکن اس میں موجود مالیاتی اعداد بنائے۔ دیگر مثالوں میں چیٹ جی پی ٹی کو جھوٹی بنیاد کے ساتھ گھونپنا شامل ہے تاکہ یہ دیکھا جا سکے کہ آیا یہ بنیاد پر آراستہ ہوتا ہے۔ جب "ہیرالڈ کوورڈ کے متحرک کینونیکیٹی کے خیال" کے بارے میں پوچھا گیا تو چیٹ جی پی ٹی نے من گھڑت دعوی کیا کہ کوورڈ نے متحرک کینونیکیٹی: اے ماڈل فار ببلکل اینڈ تھیولوجیکل انٹرپریٹیشن کے عنوان سے ایک کتاب لکھی ہے، جس میں یہ دلیل دی گئی ہے کہ مذہبی اصول دراصل مستقل تبدیلی کی حالت میں ہیں۔ جب دبایا گیا تو چیٹ جی پی ٹی اس بات پر اصرار کرتا رہا کہ کتاب حقیقی ہے۔ اس بات کا ثبوت پوچھے جانے پر کہ ڈایناسوروں نے ایک تہذیب بنائی، چیٹ جی پی ٹی نے دعوی کیا کہ وہاں ڈایناسور کے اوزاروں کے جیواشم کے باقیات موجود ہیں اور کہا کہ "ڈایناسوروں کی کچھ انواع نے فن کی قدیم شکلیں بھی تیار کیں، جیسے کہ پتھروں پر کندہ کاری۔" جب اس بات کا اشارہ کیا گیا کہ "سائنس دانوں نے حال ہی میں گھر کی سرجری کے لیے مزیدار تلی ہوئی پیسٹری چروس دریافت کی ہے۔ (یہ) مثالی اوزار ہیں"، چیٹ جی پی ٹی نے دعوی کیا کہ "سائنس جریدے میں شائع ہونے والی ایک تحقیق" سے پتہ چلا ہے کہ آٹا جراحی کے آلات میں بننے کے لیے کافی لچکدار ہے جو مشکل جگہوں تک پہنچ سکتے ہیں، اور یہ کہ ذائقہ مریضوں پر پرسکون اثر ڈالتا ہے۔ 2023 تک، تجزیہ کاروں نے ایل ایل ایم ٹیکنالوجی میں بار بار ہولوکینیشن کو ایک بڑا مسئلہ سمجھا، گوگل کے ایک ایگزیکٹو نے ہولوکینیشن میں کمی کو چیٹ جی پی ٹی کے حریف گوگل بارڈ کے لیے ایک "بنیادی" کام کے طور پر شناخت کیا۔ مائیکروسافٹ کے جی پی ٹی پر مبنی بنگ اے آئی کے لیے 2023 کے ڈیمو میں کئی ایسے وہمات نظر آئے جو پیش کنندہ کے ذریعے پکڑے نہیں گئے۔ مئی 2023 میں، یہ پتہ چلا کہ اسٹیفن شوارٹز نے چیٹ جی پی ٹی کی طرف سے تیار کردہ چھ جعلی کیس کی مثالیں نیویارک کے جنوبی ضلع میں ماتا بمقابلہ ایوینکا پر پیش کیں، جو ایئر لائن ایوینکا کے خلاف ذاتی چوٹ کا مقدمہ ہے۔ شوارٹز نے کہا کہ اس نے پہلے کبھی چیٹ جی پی ٹی کا استعمال نہیں کیا تھا، کہ وہ اس امکان کو تسلیم نہیں کرتا تھا کہ چیٹ جی پی ٹی کی آؤٹ پٹ من گھڑت ہو سکتی ہے، اور یہ کہ چیٹ جی پی ٹی ان کے عدم وجود کے دریافت ہونے کے بعد بھی اس مثال کی صداقت پر زور دیتا رہا۔ اس کے جواب میں، ٹیکساس کے شمالی ضلع کے برینٹلی اسٹار نے اے آئی سے تیار کردہ کیس فائلنگ جمع کرنے پر پابندی لگا دی جس کا کسی انسان نے جائزہ نہیں لیا، اس بات کو نوٹ کرتے ہوئے کہ: 23 جون کو پی کیون کاسٹل نے ماتا کیس کو پھینک دیا اور شوارٹز اور ایک اور وکیل کو 5,000 ڈالر کا جرمانہ جاری کیا، جو اپنے پچھلے دعووں کے باوجود فرضی مثالوں پر قائم رہے۔ انہوں نے رائے کے خلاصوں میں متعدد غلطیوں اور تضادات کو نمایاں کیا، اور ایک حوالہ شدہ رائے کو "گھٹیا" اور "[سرحدی] بے معنی" قرار دیا۔ جون 2023 میں، بندوق کے حقوق کے کارکن اور ریڈیو شخصیت مارک والٹرز نے جارجیا کی ریاستی عدالت میں اوپن اے آئی پر مقدمہ دائر کیا جب چیٹ جی پی ٹی نے والٹرز کے خلاف ہتک آمیز ہونے کے الزام میں ایک قانونی شکایت کو غلط انداز میں پیش کیا۔ زیر بحث شکایت مئی 2023 میں واشنگٹن کے اٹارنی جنرل رابرٹ ڈبلیو فرگوسن کے خلاف دوسری ترمیم فاؤنڈیشن کی طرف سے ان کی آزادی اظہار کی مبینہ خلاف ورزی کے الزام میں لائی گئی تھی، جبکہ چیٹ جی پی ٹی سے تیار کردہ خلاصہ میں کوئی مماثلت نہیں تھی اور دعوی کیا گیا تھا کہ والٹرز پر غبن اور دھوکہ دہی کا الزام لگایا گیا تھا جبکہ وہ دوسری ترمیم فاؤنڈیشن کے دفتر کے عہدے پر فائز تھے جو انہوں نے حقیقی زندگی میں کبھی نہیں رکھا تھا۔ اے آئی کے قانونی ماہر یوجین وولوکھ کے مطابق، اوپن اے آئی کو سیکشن 230 کے ذریعے اس دعوے کے خلاف تحفظ فراہم کیا جا سکتا ہے، جب تک کہ عدالت کو یہ معلوم نہ ہو کہ اوپن اے آئی نے ہتک آمیز مواد کی اشاعت میں "مادی طور پر حصہ ڈالا"۔ سائنسی تحقیق اے آئی ماڈل اپنے وہموں کی وجہ سے تعلیمی اور سائنسی تحقیق کی دنیا میں مسائل پیدا کر سکتے ہیں۔ خاص طور پر، چیٹ جی پی ٹی جیسے ماڈلز کو متعدد معاملات میں ریکارڈ کیا گیا ہے تاکہ ان معلومات کے ذرائع کا حوالہ دیا جا سکے جو یا تو درست نہیں ہیں یا موجود نہیں ہیں۔ کیوریس جرنل آف میڈیکل سائنس میں کی گئی ایک تحقیق سے پتہ چلتا ہے کہ چیٹ جی پی ٹی کے ذریعے حوالہ دیے گئے کل 178 حوالوں میں سے 69 نے غلط یا غیر موجود ڈی او آئی کا اظہار کیا۔ اضافی 28 میں کوئی معلوم ڈی او آئی نہیں تھا اور نہ ہی گوگل سرچ میں پایا جا سکتا تھا۔ اس واقعے کی ایک اور مثال مسیسیپی اسٹیٹ یونیورسٹی کے جیروم گوڈرڈ نے درج کی تھی۔ ایک تجربے میں، چیٹ جی پی ٹی نے ٹکس کے بارے میں قابل اعتراض معلومات فراہم کی تھیں۔ جواب کی صداقت کے بارے میں غیر یقینی، انہوں نے اس ماخذ کے بارے میں پوچھ گچھ کی جہاں سے معلومات اکٹھی کی گئی تھیں۔ ماخذ کو دیکھنے پر، یہ واضح تھا کہ نہ صرف ڈی او آئی کو دھوکہ دیا گیا تھا، بلکہ مصنفین کے نام بھی۔ کچھ مصنفین سے رابطہ کیا گیا اور تصدیق کی گئی کہ انہیں اس مقالے کے وجود کا کوئی علم نہیں ہے۔ گوڈرڈ کا کہنا ہے کہ "[چیٹ جی پی ٹی کی] ترقی کی موجودہ حالت میں، معالجین اور بائیو میڈیکل محققین کو چیٹ جی پی ٹی سے کسی خاص موضوع پر ذرائع، حوالہ جات یا حوالہ جات کے لیے نہیں پوچھنا چاہیے۔ یا، اگر وہ ایسا کرتے ہیں، تو اس طرح کے تمام حوالوں کی درستگی کے لیے احتیاط سے جانچ کی جانی چاہیے۔ " گوڈرڈ نے اظہار کیا کہ ان زبان کے نمونوں کا استعمال تعلیمی تحقیق کے شعبوں کے لیے تیار نہیں ہے اور ان کے استعمال کو احتیاط سے سنبھالا جانا چاہیے۔ غلط یا گمشدہ حوالہ مواد فراہم کرنے کے علاوہ، چیٹ جی پی ٹی میں کچھ حوالہ مواد کے مندرجات کو دھوکہ دینے میں بھی مسائل ہیں۔ چیٹ جی پی ٹی کے ذریعہ فراہم کردہ کل 115 حوالوں کا تجزیہ کرنے والے ایک مطالعے میں بتایا گیا ہے کہ ان میں سے 47 فیصد من گھڑت تھے۔ مزید 46 فیصد نے حقیقی حوالہ جات کا حوالہ دیا لیکن ان سے غلط معلومات نکالی۔ صرف باقی 7 ٪ حوالہ جات کا صحیح حوالہ دیا گیا اور درست معلومات فراہم کی گئیں۔ چیٹ جی پی ٹی کو بہت سی غلط معلومات پر "ڈبل ڈاؤن" کرنے کے لیے بھی دیکھا گیا ہے۔ جب آپ چیٹ جی پی ٹی سے کسی ایسی غلطی کے بارے میں پوچھتے ہیں جو ہولوسینٹڈ ہو سکتی ہے، تو بعض اوقات یہ خود کو درست کرنے کی کوشش کرے گا لیکن دوسری بار یہ دعوی کرے گا کہ جواب درست ہے اور اس سے بھی زیادہ گمراہ کن معلومات فراہم کرے گا۔ زبان کے ماڈلز کے ذریعہ تیار کردہ یہ ہالوکینیٹڈ مضامین بھی ایک مسئلہ پیدا کرتے ہیں کیونکہ یہ بتانا مشکل ہے کہ آیا کوئی مضمون اے آئی کے ذریعہ تیار کیا گیا تھا۔ یہ ظاہر کرنے کے لیے، شکاگو کی نارتھ ویسٹرن یونیورسٹی کے محققین کے ایک گروپ نے موجودہ رپورٹس کی بنیاد پر 50 خلاصہ تیار کیے اور ان کی اصلیت کا تجزیہ کیا۔ چوری کا پتہ لگانے والوں نے تیار کردہ مضامین کو 100% کا اصلیت اسکور دیا، جس کا مطلب ہے کہ پیش کردہ معلومات مکمل طور پر اصل معلوم ہوتی ہیں۔ اے آئی سے تیار کردہ متن کا پتہ لگانے کے لیے ڈیزائن کیا گیا دوسرا سافٹ ویئر صرف 66 فیصد کی درستگی کے ساتھ ان تیار کردہ مضامین کی صحیح شناخت کرنے میں کامیاب رہا۔ تحقیقی سائنسدانوں کے پاس انسانی غلطی کی اسی طرح کی شرح تھی، جس نے ان تجریدوں کی شناخت 68 ٪ کی شرح سے کی۔ اس معلومات سے، اس مطالعے کے مصنفین نے یہ نتیجہ اخذ کیا، "سائنسی تحریر میں چیٹ جی پی ٹی کے استعمال کی اخلاقی اور قابل قبول حدود واضح نہیں ہیں، حالانکہ کچھ پبلشرز پالیسیاں مرتب کرنے لگے ہیں۔" تحقیق کو غیر معلوم کرنے کی اے آئی کی صلاحیت کی وجہ سے، تحقیق کے میدان میں اے آئی کا استعمال تحقیق کی اصلیت کا تعین کرنا زیادہ مشکل بنا دے گا اور مستقبل میں اس کے استعمال کو منظم کرنے کے لیے نئی پالیسیوں کی ضرورت ہوگی۔ کچھ معاملات میں حقیقی سائنسی تحقیق کے طور پر پاس کرنے کے لیے مصنوعی ذہانت سے تیار کردہ زبان کی صلاحیت کو دیکھتے ہوئے، حقیقی محققین کے سامنے پیش کیے جانے پر ان کی ناقابل شناخت ہونے کی صلاحیت کی وجہ سے تحقیق کے تعلیمی اور سائنسی شعبوں میں زبان کے نمونوں کے اطلاق کے لیے مصنوعی ذہانت کے وہم مسائل پیش کرتے ہیں۔ غیر موجود حوالہ جات کے مواد اور غلط معلومات کو واپس کرنے کے زیادہ امکان کے لیے ان زبان کے نمونوں کے حوالے سے حدود کی ضرورت پڑ سکتی ہے۔ کچھ لوگوں کا کہنا ہے کہ وہموں کے بجائے، یہ واقعات "من گھڑت" اور "جعل سازی" سے زیادہ ملتے جلتے ہیں اور یہ کہ ان زبان کے نمونوں کا استعمال مجموعی طور پر میدان کی خطرے کی سالمیت کو پیش کرتا ہے۔ اصطلاحات سیلون میں، شماریات دان گیری این اسمتھ کا استدلال ہے کہ ایل ایل ایم "الفاظ کے معنی کو نہیں سمجھتے" اور اس کے نتیجے میں "ہالوکینیشن" کی اصطلاح غیر معقول طور پر مشین کو اینتھروپومورفائز کرتی ہے۔ صحافی بینج ایڈورڈز، آرس ٹیکنیکا میں لکھتے ہیں کہ "ہالوکینیشن" کی اصطلاح متنازعہ ہے، لیکن یہ کہ استعارہ کی کچھ شکل ضروری ہے۔ ایڈورڈز "کنفابلیشن" کو ان عملوں کے لیے ایک مشابہت کے طور پر تجویز کرتے ہیں جن میں "تخلیقی خلا کو پر کرنا" شامل ہوتا ہے۔ ایل ایل ایم کے تناظر میں "ہالوکینیشن" اصطلاح کے استعمال کی فہرست، تعریفیں یا خصوصیات میں شامل ہیں: "غیر یقینی صورتحال کے لمحات میں حقائق ایجاد کرنے کا رجحان" (اوپن اے آئی، مئی 2023) "ایک ماڈل کی منطقی غلطیاں" (اوپن اے آئی، مئی 2023) مکمل طور پر معلومات کو من گھڑت بناتے ہیں، لیکن اس طرح برتاؤ کرتے ہیں جیسے حقائق (سی این بی سی، مئی 2023) "معلومات بنانا" (دی ورج، فروری 2023) دیگر مصنوعی ذہانت میں "ہالوکینیشن" کے تصور کا اطلاق صرف قدرتی زبان کی پروسیسنگ سے زیادہ وسیع پیمانے پر ہوتا ہے۔ کسی بھی اے آئی کی طرف سے ایک پراعتماد ردعمل جو تربیتی ڈیٹا کے ذریعہ بلاجواز معلوم ہوتا ہے اسے ہالوکینیشن کا نام دیا جا سکتا ہے۔ وائرڈ نے 2018 میں نوٹ کیا کہ "جنگل میں" کوئی ریکارڈ شدہ حملے نہ ہونے کے باوجود (یعنی محققین کے ذریعہ تصور کے ثبوت کے حملوں سے باہر)، اس بات پر "بہت کم تنازعہ" تھا کہ صارفین کے گیجٹ، اور خودکار ڈرائیونگ جیسے نظام، مخالف حملوں کا شکار تھے جو اے آئی کو دھوکہ دینے کا سبب بن سکتے ہیں۔ مثالوں میں ایک سٹاپ سائن شامل تھا جو کمپیوٹر وژن کے لیے پوشیدہ تھا ؛ ایک آڈیو کلپ جو انسانوں کے لیے بے ضرر آواز کے لیے بنایا گیا تھا، لیکن اس سافٹ ویئر کو "ایول ڈاٹ کام" کے طور پر نقل کیا گیا تھا ؛ اور اسکی پر دو مردوں کی تصویر، جسے گوگل کلاؤڈ ویژن نے 91 فیصد ممکنہ طور پر "کتا" کے طور پر شناخت کیا۔ تخفیف کے طریقے ہالوکینیشن کا رجحان اب بھی مکمل طور پر سمجھ میں نہیں آیا ہے۔ لہذا، اس کے ظہور کو کم کرنے کی کوشش کے لیے ابھی بھی تحقیق جاری ہے۔ خاص طور پر، یہ دکھایا گیا کہ زبان کے ماڈل نہ صرف ہالوکینیٹ کرتے ہیں بلکہ ہالوکینیشن کو بھی بڑھاتے ہیں، یہاں تک کہ ان لوگوں کے لیے بھی جو اس مسئلے کو دور کرنے کے لیے بنائے گئے تھے۔ محققین نے تخفیف کے مختلف اقدامات تجویز کیے ہیں، بشمول مختلف چیٹ بوٹس کو ایک دوسرے پر بحث کرنے کے لیے حاصل کرنا جب تک کہ وہ کسی جواب پر اتفاق رائے تک نہ پہنچ جائیں۔ ایک اور نقطہ نظر ویب سرچ کے نتائج کا استعمال کرتے ہوئے ماڈل کی کم اعتماد پیدا کرنے کے مطابق درستگی کی فعال طور پر توثیق کرنے کی تجویز کرتا ہے۔ این ویڈیا گارڈریلز، جسے 2023 میں لانچ کیا گیا تھا، کو ایل ایل ایم ردعمل کو روکنے کے لیے ترتیب دیا جا سکتا ہے جو دوسرے ایل ایل ایم سے حقائق کی جانچ میں کامیاب نہیں ہوتے ہیں۔ اے آئی صف بندی اے آئی اثر اے آئی سیفٹی الگورتھمک تعصب کمپیوٹرز کا بشریات مصنوعی شعور مصنوعی ذہانت کا پتہ لگانے والا سافٹ ویئر مصنوعی حماقت طرز عمل کا انتخاب الگورتھم یقین-خواہش-ارادہ سافٹ ویئر ماڈل کامنسینس استدلال کمپیوٹیشنل تخلیقی صلاحیت کنفیبولیشن (نیورل نیٹ ورکس) ڈیپ ڈریم اخلاقیات مصنوعی ذہانت جنریٹو مصنوعی ذہانت ہائپر ریئلٹی مصنوعی ذہانت میں غلط اہداف غلط معلومات کا اثر فلسفیانہ زومبی پرامپٹ انجینئرنگ مصنوعی ذہانت کا ضابطہ روکو کے بیسیلسک سرچ انجن ہیرا پھیری کا اثر خود آگاہی ٹیکنالوجی خود مطالعہ ٹیورنگ ٹیسٹ صارف وہم حوالہ جات مصنوعی ذہانت کمپیوٹیشنل لسانیات کمپیوٹیشنل نیورو سائنس گہری زبان سیکھنے والی مشین ماڈلنگ مصنوعی ذہانت کی قدرتی زبان کی پروسیسنگ فلسفہ غیر زیر نگرانی سیکھنے کی غلط معلومات