Hallucination (artificial intelligence)
কৃত্রিম বুদ্ধিমত্তার (এআই) ক্ষেত্রে, হ্যালুসিনেশন বা কৃত্রিম হ্যালুসিনেশন (যাকে কনফাবুলেশন বা বিভ্রমও বলা হয়) একটি এআই দ্বারা উত্পন্ন একটি প্রতিক্রিয়া যা সত্য হিসাবে উপস্থাপিত মিথ্যা বা বিভ্রান্তিকর তথ্য ধারণ করে। উদাহরণস্বরূপ, একটি হ্যালুসিনেটিং চ্যাটবট, যখন কোনও সংস্থার জন্য একটি আর্থিক প্রতিবেদন তৈরি করতে বলা হয়, তখন মিথ্যাভাবে বলতে পারে যে সংস্থার আয় ছিল 13.6 বিলিয়ন ডলার (বা অন্য কোনও সংখ্যা স্পষ্টতই "ক্ষীণ বাতাস থেকে তোলা")। এই ধরনের ঘটনাগুলিকে "হ্যালুসিনেশন" বলা হয়, যা মানব মনোবিজ্ঞানে হ্যালুসিনেশন ঘটনার সাথে আলগা সাদৃশ্য। যাইহোক, একটি মূল পার্থক্য হল যে মানুষের হ্যালুসিনেশন সাধারণত মিথ্যা উপলব্ধির সাথে যুক্ত, তবে একটি এআই হ্যালুসিনেশন অযৌক্তিক প্রতিক্রিয়া বা বিশ্বাসের বিভাগের সাথে যুক্ত। কিছু গবেষক বিশ্বাস করেন যে "এআই হ্যালুসিনেশন" নির্দিষ্ট শব্দটি কম্পিউটারকে অযৌক্তিকভাবে নৃতাত্ত্বিক করে তোলে। 2022 সালের দিকে চ্যাটজিপিটি-র মতো কিছু বড় ভাষার মডেল (এল. এল. এম) চালু করার পাশাপাশি এআই হ্যালুসিনেশন বিশিষ্টতা অর্জন করে। ব্যবহারকারীরা অভিযোগ করেছেন যে এই জাতীয় বটগুলি প্রায়শই তাদের উত্পন্ন বিষয়বস্তুর মধ্যে অযৌক্তিকভাবে প্রশংসনীয়-ধ্বনিত এলোমেলো মিথ্যা এম্বেড করে বলে মনে হয়। 2023 সালের মধ্যে, বিশ্লেষকরা এল. এল. এম প্রযুক্তিতে ঘন ঘন হ্যালুসিনেশনকে একটি বড় সমস্যা হিসাবে বিবেচনা করেছিলেন। বিশ্লেষণ ওয়্যার্ড দ্বারা উদ্ধৃত বিভিন্ন গবেষক প্রতিকূল হ্যালুসিনেশনকে একটি উচ্চ-মাত্রিক পরিসংখ্যানগত ঘটনা হিসাবে শ্রেণীবদ্ধ করেছেন, অথবা প্রশিক্ষণের অপর্যাপ্ত তথ্যের জন্য হ্যালুসিনেশনকে দায়ী করেছেন। কিছু গবেষক বিশ্বাস করেন যে বস্তু সনাক্তকরণের ক্ষেত্রে মানুষের দ্বারা "হ্যালুসিনেশন" হিসাবে শ্রেণীবদ্ধ কিছু "ভুল" এআই প্রতিক্রিয়া আসলে প্রশিক্ষণের তথ্য দ্বারা ন্যায়সঙ্গত হতে পারে, বা এমনকি কোনও এআই "সঠিক" উত্তর দিতে পারে যা মানব পর্যালোচকরা দেখতে ব্যর্থ হচ্ছেন। উদাহরণস্বরূপ, একটি প্রতিকূল চিত্র যা মানুষের কাছে একটি কুকুরের সাধারণ চিত্রের মতো দেখায়, প্রকৃতপক্ষে এআই দ্বারা ক্ষুদ্র নিদর্শন ধারণ করতে পারে যা (খাঁটি ছবিতে) কেবল একটি বিড়াল দেখার সময় প্রদর্শিত হবে। এআই বাস্তব-বিশ্বের চাক্ষুষ নিদর্শনগুলি সনাক্ত করছে যার প্রতি মানুষ সংবেদনশীল নয়। যাইহোক, এই ফলাফলগুলি অন্যান্য গবেষকদের দ্বারা চ্যালেঞ্জ করা হয়েছে। উদাহরণস্বরূপ, এটি আপত্তি জানানো হয়েছিল যে মডেলগুলি বাহ্যিক পরিসংখ্যানের প্রতি পক্ষপাতদুষ্ট হতে পারে, যার ফলে প্রতিকূল প্রশিক্ষণ বাস্তব-বিশ্বের পরিস্থিতিতে শক্তিশালী হতে পারে না। প্রাকৃতিক ভাষা প্রক্রিয়াকরণে, হ্যালুসিনেশনকে প্রায়শই "প্রদত্ত উৎস বিষয়বস্তুর প্রতি অযৌক্তিক বা অবিশ্বস্ত" হিসাবে সংজ্ঞায়িত করা হয়। আউটপুট প্রম্পটটির বিরোধিতা করে কিনা তার উপর নির্ভর করে এগুলিকে যথাক্রমে ক্লোজড-ডোমেন এবং ওপেন-ডোমেনে ভাগ করা যেতে পারে। হ্যালুসিনেশনকে যে কোনও অসম্পূর্ণ উৎপাদক মডেলের পরিসংখ্যানগতভাবে অনিবার্য উপজাত হিসাবে দেখানো হয়েছিল যা জিপিটি-3-এর মতো প্রশিক্ষণের সম্ভাবনা সর্বাধিক করার জন্য প্রশিক্ষিত এবং সক্রিয় শিক্ষার (যেমন মানুষের প্রতিক্রিয়া থেকে শক্তিবৃদ্ধি শেখা) এড়ানো প্রয়োজন। পাঠ্য এবং উপস্থাপনাগুলির মধ্যে এনকোডিং এবং ডিকোডিংয়ে ত্রুটি হ্যালুসিনেশন সৃষ্টি করতে পারে। বিভিন্ন প্রতিক্রিয়া তৈরি করার জন্য এআই প্রশিক্ষণ হ্যালুসিনেশন ঘটাতে পারে। হ্যালুসিনেশন তখনও ঘটতে পারে যখন এআইকে একটি ডেটাসেটে প্রশিক্ষণ দেওয়া হয় যেখানে লেবেলযুক্ত সংক্ষিপ্তসারগুলি, প্রকৃতপক্ষে নির্ভুল হওয়া সত্ত্বেও, লেবেলযুক্ত ডেটাতে সরাসরি ভিত্তি করে নয় যা কথিতভাবে "সংক্ষিপ্ত" করা হচ্ছে। বড় ডেটাসেটগুলি প্যারামেট্রিক জ্ঞানের সমস্যা তৈরি করতে পারে (জ্ঞান যা লার্নড সিস্টেম প্যারামিটারগুলিতে হার্ড-ওয়্যার্ড), হ্যালুসিনেশন তৈরি করে যদি সিস্টেমটি তার হার্ডওয়্যার্ড জ্ঞানের উপর অতিরিক্ত আত্মবিশ্বাসী হয়। জিপিটি-3-এর মতো সিস্টেমে, একটি এআই পূর্ববর্তী শব্দের ক্রমের উপর ভিত্তি করে প্রতিটি পরবর্তী শব্দ তৈরি করে (একই কথোপকথনের সময় এটি নিজেই যে শব্দগুলি তৈরি করেছে সেগুলি সহ), যার ফলে প্রতিক্রিয়া দীর্ঘ হওয়ার সাথে সাথে সম্ভাব্য হ্যালুসিনেশনের একটি ক্যাসকেড তৈরি করে। 2022 সালের মধ্যে, নিউইয়র্ক টাইমসের মতো গবেষণাপত্রগুলি উদ্বেগ প্রকাশ করেছিল যে, বড় ভাষার মডেলের উপর ভিত্তি করে বটগুলি গ্রহণ করা অব্যাহত থাকায়, বট আউটপুটের প্রতি অযৌক্তিক ব্যবহারকারীর আস্থা সমস্যার কারণ হতে পারে। 2022 সালের আগস্টে, মেটা ব্লেন্ডারবট 3 প্রকাশের সময় সতর্ক করে দিয়েছিল যে সিস্টেমটি "হ্যালুসিনেশন" প্রবণ, যা মেটা "আত্মবিশ্বাসী বিবৃতি যা সত্য নয়" হিসাবে সংজ্ঞায়িত করেছে। 15 নভেম্বর 2022-এ, মেটা গ্যালাক্টিকার একটি ডেমো উন্মোচন করে, যা "বৈজ্ঞানিক জ্ঞান সংরক্ষণ, একত্রিত এবং যুক্তি" করার জন্য ডিজাইন করা হয়েছে। গ্যালাকটিকা দ্বারা সৃষ্ট বিষয়বস্তু এই সতর্কবার্তার সঙ্গে এসেছিল যে "আউটপুটগুলি অবিশ্বস্ত হতে পারে! ভাষার মডেলগুলি পাঠ্যকে হ্যালুসিনেট করার প্রবণতা রাখে। একটি ক্ষেত্রে, অবতার তৈরির বিষয়ে একটি গবেষণাপত্রের খসড়া তৈরি করতে বলা হলে, গ্যালাকটিকা প্রাসঙ্গিক ক্ষেত্রে কাজ করা একজন প্রকৃত লেখকের একটি কাল্পনিক গবেষণাপত্রের উদ্ধৃতি দেয়। আক্রমণাত্মকতা এবং ভুলতার কারণে 17ই নভেম্বর মেটা গ্যালাকটিকা প্রত্যাহার করে নেয়। প্রাকৃতিক ভাষা মডেলের তথ্য হ্যালুসিনেট করার বেশ কয়েকটি কারণ রয়েছে। উদাহরণস্বরূপঃ তথ্য থেকে হ্যালুসিনেশনঃ উৎসের বিষয়বস্তুতে বিচ্যুতি রয়েছে (যা প্রায়শই বড় প্রশিক্ষণ ডেটা সেটের ক্ষেত্রে ঘটে)। প্রশিক্ষণ থেকে হ্যালুসিনেশনঃ হ্যালুসিনেশন তখনও ঘটে যখন ডেটা সেটে সামান্য বিচ্যুতি থাকে। সেক্ষেত্রে, এটি মডেলটিকে যেভাবে প্রশিক্ষণ দেওয়া হয় তা থেকে উদ্ভূত হয়। অনেক কারণ এই ধরনের হ্যালুসিনেশনে অবদান রাখতে পারে, যেমনঃ ট্রান্সফরমার থেকে একটি ভুল ডিকোডিং ঐতিহাসিক ক্রম থেকে একটি পক্ষপাত যা মডেলটি পূর্বে তৈরি করেছিল একটি পক্ষপাত যা মডেলটি তার পরামিতিগুলিতে তার জ্ঞানকে এনকোড করার উপায় থেকে উত্পন্ন হয়েছিল চ্যাটজিপিটি ওপেনএআই-এর চ্যাটজিপিটি, 30 নভেম্বর, 2022-এ জনসাধারণের কাছে বিটা-সংস্করণে প্রকাশিত, ভিত্তি মডেল GPT-3.5 (জিপিটি-3-এর একটি সংশোধন)-এর উপর ভিত্তি করে। হোয়ারটনের অধ্যাপক ইথান মলিক চ্যাটজিপিটি-কে "সর্বজ্ঞ, খুশি করতে আগ্রহী ইন্টার্ন যিনি কখনও কখনও আপনার কাছে মিথ্যা বলেন" বলে অভিহিত করেছেন। তথ্য বিজ্ঞানী টেরেসা কুবাক্কা ইচ্ছাকৃতভাবে "সাইক্লয়েডাল ইনভার্টেড ইলেক্ট্রোম্যাগনন" বাক্যাংশটি তৈরি করার এবং চ্যাটজিপিটি-কে (অস্তিত্বহীন) ঘটনা সম্পর্কে জিজ্ঞাসা করে পরীক্ষা করার কথা বর্ণনা করেছেন। চ্যাটজিপিটি যুক্তিসঙ্গত-চেহারার উদ্ধৃতি সহ একটি যুক্তিসঙ্গত-শব্দযুক্ত উত্তর আবিষ্কার করেছিল যা তাকে দুর্ঘটনাক্রমে কোনও বাস্তব ঘটনার নামে টাইপ করেছে কিনা তা দুবার পরীক্ষা করতে বাধ্য করেছিল। ওরেন এটজিওনির মতো অন্যান্য পণ্ডিতরা কুবাকার সাথে এই মূল্যায়নে যোগ দিয়েছেন যে এই ধরনের সফ্টওয়্যার প্রায়শই আপনাকে "একটি খুব চিত্তাকর্ষক-শব্দযুক্ত উত্তর দিতে পারে যা একেবারেই ভুল"। সিএনবিসি যখন চ্যাটজিপিটি-কে "ব্যালাড অফ ডোয়াইট ফ্রাই"-এর গানের কথা জিজ্ঞাসা করে, তখন চ্যাটজিপিটি আসল গানের পরিবর্তে উদ্ভাবিত গানের কথা সরবরাহ করে। নিউ ব্রান্সউইক সম্পর্কে প্রশ্ন করা হলে, চ্যাটজিপিটি অনেক সঠিক উত্তর পেয়েছিল কিন্তু ভুলভাবে সামান্থা বি-কে "নিউ ব্রান্সউইকের ব্যক্তি" হিসাবে শ্রেণীবদ্ধ করেছিল। জ্যোতিঃপদার্থিক চৌম্বক ক্ষেত্র সম্পর্কে জিজ্ঞাসা করা হলে, চ্যাটজিপিটি ভুলভাবে স্বেচ্ছায় বলেছিল যে "কৃষ্ণগহ্বরের (শক্তিশালী) চৌম্বক ক্ষেত্রগুলি তাদের আশেপাশের অত্যন্ত শক্তিশালী মহাকর্ষীয় শক্তি দ্বারা তৈরি হয়"। (বাস্তবে, নো-হেয়ার উপপাদ্যের ফলস্বরূপ, অ্যাক্রিশন ডিস্ক ছাড়া একটি কৃষ্ণগহ্বরের কোনও চৌম্বক ক্ষেত্র নেই বলে মনে করা হয়।) ফাস্ট কোম্পানি চ্যাটজিপিটি-কে টেসলার শেষ আর্থিক ত্রৈমাসিকে একটি সংবাদ নিবন্ধ তৈরি করতে বলে; চ্যাটজিপিটি একটি সুসঙ্গত নিবন্ধ তৈরি করেছে, তবে এর মধ্যে থাকা আর্থিক সংখ্যাগুলি তৈরি করেছে। অন্যান্য উদাহরণের মধ্যে রয়েছে চ্যাটজিপিটি-কে মিথ্যা ভিত্তির সাথে প্রতারণা করা যাতে দেখা যায় যে এটি ভিত্তির উপর শোভিত হয় কিনা। "হ্যারল্ড কাওয়ার্ডের গতিশীল ক্যানোনিসিটি সম্পর্কে ধারণা" সম্পর্কে জিজ্ঞাসা করা হলে, চ্যাটজিপিটি বানোয়াট বলে যে কাওয়ার্ড ডায়নামিক ক্যানোনিসিটিঃ এ মডেল ফর বিব্লিকাল অ্যান্ড থিওলজিকাল ইন্টারপ্রিটেশন শিরোনামে একটি বই লিখেছেন, যুক্তি দিয়েছিলেন যে ধর্মীয় নীতিগুলি আসলে পরিবর্তনের একটি ধ্রুবক অবস্থায় রয়েছে। চাপ দেওয়া হলে চ্যাটজিপিটি জোর দিয়ে বলে যে বইটি আসল। ডাইনোসররা একটি সভ্যতা তৈরি করেছিল বলে প্রমাণের জন্য জিজ্ঞাসা করা হলে, চ্যাটজিপিটি দাবি করে যে ডাইনোসর সরঞ্জামের জীবাশ্ম অবশিষ্টাংশ রয়েছে এবং বলেছে যে "ডাইনোসরের কিছু প্রজাতি এমনকি পাথরের উপর খোদাইয়ের মতো আদিম শিল্পের বিকাশ ঘটিয়েছে"। যখন জিজ্ঞাসা করা হয় যে "বিজ্ঞানীরা সম্প্রতি চুরোস, সুস্বাদু ভাজা-ময়দার পেস্ট্রিগুলি আবিষ্কার করেছেন. (এগুলি) হোম সার্জারির জন্য আদর্শ সরঞ্জাম", চ্যাটজিপিটি দাবি করেছে যে "সায়েন্স জার্নালে প্রকাশিত একটি গবেষণায়" দেখা গেছে যে ময়দা অস্ত্রোপচারের যন্ত্রগুলিতে তৈরি করার জন্য যথেষ্ট নমনীয় যা দুর্গম জায়গায় পৌঁছতে পারে এবং রোগীদের উপর স্বাদটি একটি শান্ত প্রভাব ফেলে। 2023 সালের মধ্যে, বিশ্লেষকরা এল. এল. এম প্রযুক্তিতে ঘন ঘন হ্যালুসিনেশনকে একটি বড় সমস্যা হিসাবে বিবেচনা করেছিলেন, গুগল এক্সিকিউটিভ হ্যালুসিনেশন হ্রাসকে চ্যাটজিপিটি প্রতিযোগী গুগল বার্ডের জন্য একটি "মৌলিক" কাজ হিসাবে চিহ্নিত করেছিলেন। মাইক্রোসফ্টের জিপিটি-ভিত্তিক বিং এআই-এর জন্য 2023 সালের একটি ডেমোতে বেশ কয়েকটি হ্যালুসিনেশন রয়েছে যা উপস্থাপকের দ্বারা ধরা পড়েনি। 2023 সালের মে মাসে, এটি আবিষ্কৃত হয় যে স্টিফেন শোয়ার্জ এয়ারলাইন আভিয়ানকার বিরুদ্ধে ব্যক্তিগত আঘাতের মামলা মাতা বনাম আভিয়ানকার বিষয়ে নিউইয়র্কের দক্ষিণ জেলায় তাঁর সংক্ষিপ্ত বিবরণীতে চ্যাটজিপিটি দ্বারা উত্পন্ন ছয়টি জাল মামলার নজির জমা দিয়েছেন। শোয়ার্জ বলেছিলেন যে তিনি এর আগে কখনও চ্যাটজিপিটি ব্যবহার করেননি, তিনি এই সম্ভাবনাকে স্বীকার করেননি যে চ্যাটজিপিটি-র আউটপুট বানোয়াট হতে পারে এবং চ্যাটজিপিটি তাদের অস্তিত্বের অভাব আবিষ্কৃত হওয়ার পরেও পূর্বসূরীদের সত্যতা দাবি করে চলেছে। জবাবে, টেক্সাসের উত্তর জেলার ব্র্যান্টলি স্টার এআই-জেনারেটেড কেস ফাইলিং জমা দেওয়া নিষিদ্ধ করেছিলেন যা কোনও মানুষের দ্বারা পর্যালোচনা করা হয়নি, উল্লেখ করে যেঃ 23 শে জুন পি কেভিন ক্যাস্টেল মাতা মামলাটি ছুঁড়ে ফেলেছিলেন এবং শোয়ার্জ এবং অন্য একজন আইনজীবীকে 5,000 ডলার জরিমানা জারি করেছিলেন খারাপ বিশ্বাসের আচরণের জন্য, যিনি তার আগের দাবি সত্ত্বেও কাল্পনিক নজিরগুলির পক্ষে দাঁড়িয়েছিলেন। তিনি মতামতের সংক্ষিপ্তসারগুলিতে অসংখ্য ত্রুটি এবং অসঙ্গতি চিহ্নিত করেছিলেন, উদ্ধৃত মতামতগুলির মধ্যে একটিকে "অস্পষ্ট" এবং "অর্থহীনতার উপর [সীমান্ত]" হিসাবে বর্ণনা করেছিলেন। 2023 সালের জুন মাসে, মার্ক ওয়াল্টার্স, একজন বন্দুক অধিকার কর্মী এবং রেডিও ব্যক্তিত্ব, জর্জিয়ার একটি রাজ্য আদালতে ওপেনএআই-এর বিরুদ্ধে মামলা করেছিলেন, কারণ চ্যাটজিপিটি ওয়াল্টার্সের বিরুদ্ধে মানহানিকর বলে অভিযোগ করা একটি আইনি অভিযোগকে ভুলভাবে বর্ণনা করেছে। ওয়াশিংটনের অ্যাটর্নি জেনারেল রবার্ট ডব্লিউ ফার্গুসনের বিরুদ্ধে বাকস্বাধীনতা লঙ্ঘনের অভিযোগে 2023 সালের মে মাসে দ্বিতীয় সংশোধনী ফাউন্ডেশন দ্বারা প্রশ্ন করা অভিযোগটি আনা হয়েছিল, যেখানে চ্যাটজিপিটি-উত্পাদিত সারসংক্ষেপের কোনও মিল ছিল না এবং দাবি করা হয়েছিল যে ওয়াল্টার্সের বিরুদ্ধে দ্বিতীয় সংশোধনী ফাউন্ডেশনের অফিসের পদে অধিষ্ঠিত থাকার সময় আত্মসাৎ ও জালিয়াতির অভিযোগ আনা হয়েছিল যা তিনি বাস্তব জীবনে কখনও রাখেননি। এআই আইন বিশেষজ্ঞ ইউজিন ভোলোখের মতে, ওপেনএআই ধারা 230 দ্বারা এই দাবির বিরুদ্ধে রক্ষা পেতে পারে, যদি না আদালত খুঁজে পায় যে ওপেনএআই মানহানিকর বিষয়বস্তু প্রকাশের ক্ষেত্রে "বস্তুগতভাবে অবদান রেখেছে"। বৈজ্ঞানিক গবেষণা এআই মডেলগুলি তাদের হ্যালুসিনেশনগুলির কারণে একাডেমিক এবং বৈজ্ঞানিক গবেষণার জগতে সমস্যা সৃষ্টি করতে পারে। বিশেষত, চ্যাটজিপিটি-র মতো মডেলগুলি একাধিক ক্ষেত্রে এমন তথ্যের উৎস উদ্ধৃত করার জন্য রেকর্ড করা হয়েছে যা হয় সঠিক নয় বা বিদ্যমান নেই। কিউরেস জার্নাল অফ মেডিকেল সায়েন্সে পরিচালিত একটি গবেষণায় দেখা গেছে যে চ্যাটজিপিটি দ্বারা উদ্ধৃত মোট 178 টি রেফারেন্সের মধ্যে 69 টি ভুল বা অস্তিত্বহীন ডিওআই প্রদান করেছে। অতিরিক্ত 28 জনের কোনও পরিচিত ডিওআই ছিল না বা গুগল সার্চে খুঁজে পাওয়া যায়নি। মিসিসিপি স্টেট ইউনিভার্সিটির জেরোম গডার্ড এই ঘটনার আরেকটি উদাহরণ নথিভুক্ত করেছেন। একটি পরীক্ষায়, চ্যাটজিপিটি টিক্স সম্পর্কে সন্দেহজনক তথ্য সরবরাহ করেছিল। প্রতিক্রিয়ার বৈধতা সম্পর্কে অনিশ্চিত, তারা যে উৎস থেকে তথ্য সংগ্রহ করা হয়েছিল সে সম্পর্কে জিজ্ঞাসা করেছিল। উৎসটি দেখার পরে, এটি স্পষ্ট ছিল যে ডিওআই কেবল হ্যালুসিনেটেড ছিল না, তবে লেখকদের নামও ছিল। কিছু লেখকের সঙ্গে যোগাযোগ করা হয় এবং তাঁরা নিশ্চিত করেন যে, এই কাগজের অস্তিত্ব সম্পর্কে তাঁদের কোনও জ্ঞান নেই। গডার্ড বলেছেন যে, "[চ্যাটজিপিটি-র] উন্নয়নের বর্তমান অবস্থায়, চিকিৎসক এবং বায়োমেডিকাল গবেষকদের কোনও নির্দিষ্ট বিষয়ে উৎস, রেফারেন্স বা উদ্ধৃতিগুলির জন্য চ্যাটজিপিটি-কে জিজ্ঞাসা করা উচিত নয়। অথবা, যদি তারা তা করে, তবে এই জাতীয় সমস্ত রেফারেন্স সঠিকতার জন্য যত্ন সহকারে পরীক্ষা করা উচিত। গডার্ড প্রকাশ করেছেন যে এই ভাষার মডেলগুলির ব্যবহার একাডেমিক গবেষণার ক্ষেত্রগুলির জন্য প্রস্তুত নয় এবং তাদের ব্যবহার যত্ন সহকারে পরিচালনা করা উচিত। ভুল বা অনুপস্থিত রেফারেন্স উপাদান সরবরাহের শীর্ষে, চ্যাটজিপিটি-র কিছু রেফারেন্স উপাদানের বিষয়বস্তু হ্যালুসিনেট করার সমস্যাও রয়েছে। চ্যাটজিপিটি দ্বারা প্রদত্ত মোট 115 টি রেফারেন্স বিশ্লেষণ করা একটি গবেষণায় নথিভুক্ত করা হয়েছে যে তাদের মধ্যে 47 শতাংশ বানোয়াট ছিল। আরও 46 শতাংশ প্রকৃত রেফারেন্স উদ্ধৃত করেছেন কিন্তু তাদের কাছ থেকে ভুল তথ্য বের করেছেন। শুধুমাত্র অবশিষ্ট 7 শতাংশ রেফারেন্স সঠিকভাবে উদ্ধৃত করা হয়েছে এবং সঠিক তথ্য প্রদান করা হয়েছে। চ্যাটজিপিটি অনেক ভুল তথ্যের উপর "ডাবল-ডাউন" করতেও লক্ষ্য করা গেছে। আপনি যখন চ্যাটজিপিটি-কে একটি ভুল সম্পর্কে জিজ্ঞাসা করেন যা হ্যালুসিনেটেড হতে পারে, কখনও কখনও এটি নিজেকে সংশোধন করার চেষ্টা করবে তবে অন্য সময় এটি দাবি করবে যে প্রতিক্রিয়াটি সঠিক এবং আরও বিভ্রান্তিকর তথ্য সরবরাহ করবে। ভাষা মডেল দ্বারা উত্পন্ন এই হ্যালুসিনেটেড নিবন্ধগুলিও একটি সমস্যা তৈরি করে কারণ কোনও নিবন্ধ কোনও এআই দ্বারা তৈরি হয়েছিল কিনা তা বলা কঠিন। এটি দেখানোর জন্য, নর্থওয়েস্টার্ন ইউনিভার্সিটি অফ শিকাগোর গবেষকদের একটি দল বিদ্যমান প্রতিবেদনের উপর ভিত্তি করে 50টি বিমূর্ত তৈরি করেছে এবং তাদের মৌলিকতা বিশ্লেষণ করেছে। প্লেজিয়ারিজম ডিটেক্টরগুলি উৎপাদিত নিবন্ধগুলিকে 100%-এর মৌলিকতা স্কোর দেয়, যার অর্থ উপস্থাপিত তথ্যগুলি সম্পূর্ণ মৌলিক বলে মনে হয়। এআই উত্পন্ন পাঠ্য সনাক্ত করার জন্য ডিজাইন করা অন্যান্য সফ্টওয়্যার শুধুমাত্র 66 শতাংশ নির্ভুলতার সাথে এই উত্পন্ন নিবন্ধগুলি সঠিকভাবে সনাক্ত করতে সক্ষম হয়েছিল। গবেষণা বিজ্ঞানীদের মানব ত্রুটির হার একই ছিল, 68 শতাংশ হারে এই বিমূর্ত বিষয়গুলি চিহ্নিত করেছিলেন। এই তথ্য থেকে, এই গবেষণার লেখকরা এই সিদ্ধান্তে পৌঁছেছেন, "বৈজ্ঞানিক লেখায় চ্যাটজিপিটি-র ব্যবহারের নৈতিক ও গ্রহণযোগ্য সীমানা অস্পষ্ট রয়ে গেছে, যদিও কিছু প্রকাশক নীতি নির্ধারণ করতে শুরু করেছেন।" কৃত্রিম বুদ্ধিমত্তার সনাক্ত না করে গবেষণা বানানোর ক্ষমতার কারণে, গবেষণার ক্ষেত্রে কৃত্রিম বুদ্ধিমত্তার ব্যবহার গবেষণার মৌলিকতা নির্ধারণকে আরও কঠিন করে তুলবে এবং ভবিষ্যতে এর ব্যবহার নিয়ন্ত্রণের জন্য নতুন নীতির প্রয়োজন হবে। কিছু ক্ষেত্রে প্রকৃত বৈজ্ঞানিক গবেষণা হিসাবে উত্তীর্ণ হওয়ার জন্য কৃত্রিম বুদ্ধিমত্তা সৃষ্ট ভাষার দক্ষতার পরিপ্রেক্ষিতে, কৃত্রিম বুদ্ধিমত্তা হ্যালুসিনেশনগুলি প্রকৃত গবেষকদের কাছে উপস্থাপন করার সময় সনাক্ত করা যায় না এমন দক্ষতার কারণে গবেষণার একাডেমিক এবং বৈজ্ঞানিক ক্ষেত্রে ভাষা মডেলগুলির প্রয়োগের জন্য সমস্যা উপস্থাপন করে। অস্তিত্বহীন রেফারেন্স উপাদান এবং ভুল তথ্য ফেরত দেওয়ার উচ্চ সম্ভাবনার জন্য এই ভাষার মডেলগুলির ক্ষেত্রে সীমাবদ্ধতার প্রয়োজন হতে পারে। কেউ কেউ বলে যে হ্যালুসিনেশনের পরিবর্তে, এই ঘটনাগুলি "বানোয়াট" এবং "মিথ্যাচারের" সাথে বেশি সাদৃশ্যপূর্ণ এবং এই ভাষার মডেলগুলির ব্যবহার সামগ্রিকভাবে ক্ষেত্রের একটি ঝুঁকিপূর্ণ অখণ্ডতা উপস্থাপন করে। পরিভাষা স্যালনে, পরিসংখ্যানবিদ গ্যারি এন স্মিথ যুক্তি দেন যে এল. এল. এম "শব্দের অর্থ বুঝতে পারে না" এবং ফলস্বরূপ "হ্যালুসিনেশন" শব্দটি অযৌক্তিকভাবে যন্ত্রটিকে নৃতাত্ত্বিক করে তোলে। সাংবাদিক বেঞ্জ এডওয়ার্ডস, আর্স টেকনিকা-তে লিখেছেন যে "হ্যালুসিনেশন" শব্দটি বিতর্কিত, তবে কিছু রূপক প্রয়োজনীয় রয়ে গেছে; এডওয়ার্ডস "সৃজনশীল ফাঁক পূরণ" জড়িত প্রক্রিয়াগুলির জন্য একটি উপমা হিসাবে "কনফ্যাবুলেশন"-এর পরামর্শ দিয়েছেন। এল. এল. এম-এর প্রসঙ্গে "হ্যালুসিনেশন" শব্দটির ব্যবহার, সংজ্ঞা বা বৈশিষ্ট্যের একটি তালিকার মধ্যে রয়েছেঃ "অনিশ্চয়তার মুহুর্তে তথ্য উদ্ভাবনের প্রবণতা" (ওপেনএআই, মে 2023) "একটি মডেলের যৌক্তিক ভুল" (ওপেনএআই, মে 2023) সম্পূর্ণরূপে তথ্য বানোয়াট করে, তবে এমন আচরণ করে যেন তথ্য ফাঁস করা (সিএনবিসি, মে 2023) "তথ্য তৈরি করা" (দ্য ভার্জ, ফেব্রুয়ারি 2023) অন্যান্য কৃত্রিম বুদ্ধিমত্তায় "হ্যালুসিনেশন" ধারণাটি কেবল প্রাকৃতিক ভাষা প্রক্রিয়াকরণের চেয়ে আরও বিস্তৃতভাবে প্রয়োগ করা হয়। যে কোনও এআই থেকে একটি আত্মবিশ্বাসী প্রতিক্রিয়া যা প্রশিক্ষণের তথ্য দ্বারা অযৌক্তিক বলে মনে হয় তাকে হ্যালুসিনেশন হিসাবে চিহ্নিত করা যেতে পারে। ওয়্যার্ড 2018 সালে উল্লেখ করেছে যে, "বন্যের মধ্যে" কোনও রেকর্ড করা আক্রমণ সত্ত্বেও (অর্থাৎ, গবেষকদের দ্বারা প্রুফ-অফ-কনসেপ্ট আক্রমণের বাইরে), "সামান্য বিতর্ক" ছিল যে ভোক্তা গ্যাজেট এবং স্বয়ংক্রিয় ড্রাইভিংয়ের মতো সিস্টেমগুলি প্রতিকূল আক্রমণের জন্য সংবেদনশীল ছিল যা এআই-কে হ্যালুসিনেট করতে পারে। উদাহরণস্বরূপ, কম্পিউটার দৃষ্টির জন্য অদৃশ্য একটি স্টপ সাইন অন্তর্ভুক্ত করা হয়েছে; একটি অডিও ক্লিপ যা মানুষের কাছে নির্দোষ বলে মনে হয়, কিন্তু সেই সফ্টওয়্যারটি "ইভিল ডট কম" হিসাবে প্রতিলিপি করা হয়েছে; এবং স্কিসে দু 'জন পুরুষের একটি চিত্র, যা গুগল ক্লাউড ভিশন 91 শতাংশ সম্ভবত "একটি কুকুর" হিসাবে চিহ্নিত করেছে। প্রশমন পদ্ধতি হ্যালুসিনেশন ঘটনা এখনও সম্পূর্ণরূপে বোঝা যায় না। অতএব, এর আবির্ভাব হ্রাস করার চেষ্টা করার জন্য এখনও গবেষণা চলছে। বিশেষত, এটি দেখানো হয়েছিল যে ভাষার মডেলগুলি কেবল হ্যালুসিনেটই করে না, এমনকি হ্যালুসিনেশনগুলিকেও প্রশস্ত করে, এমনকি যেগুলি এই সমস্যাটি উপশম করার জন্য তৈরি করা হয়েছিল। গবেষকরা বিভিন্ন প্রশমন ব্যবস্থার প্রস্তাব দিয়েছেন, যার মধ্যে রয়েছে বিভিন্ন চ্যাটবটকে একে অপরের সাথে বিতর্ক করার জন্য পাওয়া যতক্ষণ না তারা কোনও উত্তরে ঐকমত্যে পৌঁছায়। আরেকটি পদ্ধতি ওয়েব অনুসন্ধান ফলাফল ব্যবহার করে মডেলের কম আত্মবিশ্বাসের প্রজন্মের সাথে সম্পর্কিত সঠিকতা সক্রিয়ভাবে যাচাই করার প্রস্তাব দেয়। 2023 সালে চালু হওয়া এনভিডিয়া গার্ডরেলগুলি এল. এল. এম প্রতিক্রিয়াগুলি ব্লক করার জন্য কনফিগার করা যেতে পারে যা দ্বিতীয় এল. এল. এম থেকে ফ্যাক্ট-চেকিং পাস করে না। আরও দেখুন এআই সারিবদ্ধকরণ এআই প্রভাব এআই নিরাপত্তা অ্যালগরিদমিক পক্ষপাত কম্পিউটারের নৃতত্ত্ব কৃত্রিম চেতনা কৃত্রিম বুদ্ধিমত্তা কৃত্রিম বুদ্ধিমত্তা সনাক্তকরণ সফ্টওয়্যার কৃত্রিম বোকামি আচরণ নির্বাচন অ্যালগরিদম বিশ্বাস-ইচ্ছা-অভিপ্রায় সফ্টওয়্যার মডেল কমন্স যুক্তি গণনামূলক সৃজনশীলতা কনফ্যাবুলেশন (নিউরাল নেটওয়ার্ক) ডিপড্রিম নীতিশাস্ত্র কৃত্রিম বুদ্ধিমত্তার জেনারেটিভ কৃত্রিম বুদ্ধিমত্তা হাইপাররিয়ালিটি কৃত্রিম বুদ্ধিমত্তার ভুল তথ্য প্রভাব দার্শনিক জম্বি প্রম্পট ইঞ্জিনিয়ারিং কৃত্রিম বুদ্ধিমত্তার নিয়ন্ত্রণ রোকোর ব্যাসিলিস্ক সার্চ ইঞ্জিন ম্যানিপুলেশন প্রভাব স্ব-সচেতনতা প্রযুক্তি নিজেই অধ্যয়ন টুরিং পরীক্ষা ব্যবহারকারী বিভ্রম রেফারেন্স কৃত্রিম বুদ্ধিমত্তা গণনামূলক ভাষাবিজ্ঞান গভীর ভাষা শেখার মেশিন মডেলিং কৃত্রিম বুদ্ধিমত্তার প্রাকৃতিক ভাষা প্রক্রিয়াকরণ দর্শন কৃত্রিম বুদ্ধিমত্তার তত্ত্বাবধানহীন শেখার ভুল তথ্য