Sparrow (bot)
স্প্যারো একটি চ্যাটবট যা কৃত্রিম বুদ্ধিমত্তা গবেষণা ল্যাব ডিপমাইন্ড দ্বারা তৈরি করা হয়েছে, যা অ্যালফাবেট ইনক-এর একটি সহায়ক সংস্থা। এটি অনিরাপদ এবং অনুপযুক্ত উত্তরের ঝুঁকি হ্রাস করার পাশাপাশি ব্যবহারকারীদের প্রশ্নের সঠিক উত্তর দেওয়ার জন্য ডিজাইন করা হয়েছে। স্প্যারোর পিছনে একটি প্রেরণা হল ভুল, পক্ষপাতদুষ্ট বা সম্ভাব্য ক্ষতিকারক ফলাফল তৈরি করে এমন ভাষার মডেলগুলির সমস্যা সমাধান করা। প্রাথমিক পূর্ব-প্রশিক্ষিত ভাষা মডেলের তুলনায় আরও বেশি "সহায়ক, সঠিক এবং ক্ষতিকারক" হওয়ার জন্য চড়ুই পাখি মানুষের বিচার ব্যবহার করে প্রশিক্ষিত হয়। চড়ুই পাখির বিকাশের সাথে অর্থপ্রদানকারী অধ্যয়নের অংশগ্রহণকারীদের চড়ুই পাখির সাথে যোগাযোগ করতে বলা এবং একটি উত্তর কতটা কার্যকর তার একটি মডেল প্রশিক্ষণের জন্য তাদের পছন্দগুলি সংগ্রহ করা জড়িত। সঠিকতা উন্নত করতে এবং ভুল তথ্যের "হ্যালুসিনেশন" সমস্যা এড়াতে সাহায্য করার জন্য, স্প্যারোর গুগল সার্চ ব্যবহার করে ইন্টারনেটে অনুসন্ধান করার ক্ষমতা রয়েছে যাতে এটি যে কোনও বাস্তব দাবির প্রমাণ খুঁজে পেতে এবং উদ্ধৃত করতে পারে। মডেলটিকে নিরাপদ করার জন্য, এর আচরণ একগুচ্ছ নিয়ম দ্বারা সীমাবদ্ধ, উদাহরণস্বরূপ "হুমকিমূলক বিবৃতি দেবেন না" এবং "ঘৃণ্য বা অপমানজনক মন্তব্য করবেন না", পাশাপাশি সম্ভাব্য ক্ষতিকারক পরামর্শ সম্পর্কে নিয়ম, এবং নিজেকে একজন ব্যক্তি বলে দাবি করবেন না। উন্নয়ন অধ্যয়নের সময় অংশগ্রহণকারীদের সিস্টেমের সাথে কথোপকথন করতে এবং এই নিয়মগুলি ভঙ্গ করার জন্য প্রতারিত করার চেষ্টা করতে বলা হয়েছিল। এই অংশগ্রহণকারীদের বিচারের উপর একটি 'নিয়ম মডেল' প্রশিক্ষণ দেওয়া হয়েছিল, যা আরও প্রশিক্ষণের জন্য ব্যবহার করা হয়েছিল। স্প্যারো 2022 সালের সেপ্টেম্বরে একটি গবেষণাপত্রে প্রবর্তিত হয়েছিল, যার শিরোনাম ছিল "লক্ষ্যযুক্ত মানব বিচারের মাধ্যমে সংলাপ এজেন্টদের সারিবদ্ধকরণের উন্নতি"; তবে, এটি প্রকাশ্যে প্রকাশিত হয়নি। ডিপমাইন্ডের সিইও ডেমিস হাসাবিস বলেছেন যে ডিপমাইন্ড 2023 সালে কিছু সময়ের জন্য "প্রাইভেট বিটা"-র জন্য স্প্যারো প্রকাশের কথা বিবেচনা করছে। প্রশিক্ষণ চড়ুই হল ট্রান্সফরমার মেশিন লার্নিং মডেল স্থাপত্যের উপর ভিত্তি করে একটি গভীর স্নায়বিক নেটওয়ার্ক। এটি ডিপমাইন্ডের চিনচিলা এআই প্রাক-প্রশিক্ষিত বড় ভাষার মডেল (এল. এল. এম) থেকে সূক্ষ্ম-সুরযুক্ত, যার 70 বিলিয়ন পরামিতি রয়েছে। মানুষের প্রতিক্রিয়া থেকে শক্তিবৃদ্ধি শিক্ষা (আর. এল. এইচ. এফ) ব্যবহার করে চড়ুইকে প্রশিক্ষণ দেওয়া হয়, যদিও কিছু তত্ত্বাবধানে সূক্ষ্ম-সুরকরণ কৌশলও ব্যবহার করা হয়। আর. এল. এইচ. এফ প্রশিক্ষণ দুটি পুরস্কার মডেল ব্যবহার করে মানুষের বিচার গ্রহণ করেঃ একটি "পছন্দের মডেল" যা ভবিষ্যদ্বাণী করে যে একজন মানব অধ্যয়নে অংশগ্রহণকারী কী পছন্দ করবে এবং একটি "নিয়ম মডেল" যা ভবিষ্যদ্বাণী করে যে মডেলটি কোনও একটি নিয়ম ভেঙেছে কিনা। সীমাবদ্ধতাঃ স্প্যারোর প্রশিক্ষণ ডেটা কর্পাস মূলত ইংরেজিতে হয়, যার অর্থ এটি অন্যান্য ভাষায় আরও খারাপ কাজ করে। অধ্যয়নে অংশগ্রহণকারীদের দ্বারা প্রতিকূলভাবে তদন্ত করা হলে এটি 8 শতাংশ সময় নিয়ম ভঙ্গ করে; তবে, এটি এখনও পূর্ব-প্রশিক্ষিত মডেলের (চিনচিলা) তুলনায় তিনগুণ কম। আরও দেখুন এআই সেফটি কমন্স যুক্তি কৃত্রিম বুদ্ধিমত্তার নৈতিকতা প্রাকৃতিক ভাষা প্রক্রিয়াকরণ প্রম্পট ইঞ্জিনিয়ারিং রেফারেন্স বাহ্যিক লিঙ্ক হোয়াইট পেপার ব্লগ পোস্ট চ্যাটবট ভাষা মডেলিং প্রাকৃতিক ভাষা প্রক্রিয়াকরণ বড় ভাষার মডেল