Sparrow (bot)
چڑیا ایک چیٹ بوٹ ہے جسے مصنوعی ذہانت کی تحقیقی لیب ڈیپ مائنڈ نے تیار کیا ہے، جو کہ الفابیٹ انکارپوریٹڈ کی ذیلی کمپنی ہے۔ یہ غیر محفوظ اور نامناسب جوابات کے خطرے کو کم کرتے ہوئے صارفین کے سوالات کا صحیح جواب دینے کے لیے ڈیزائن کیا گیا ہے۔ چڑیا کے پیچھے ایک محرک زبان کے نمونوں کے غلط، متعصبانہ یا ممکنہ طور پر نقصان دہ نتائج پیدا کرنے کے مسئلے کو حل کرنا ہے۔ چڑیا کو انسانی فیصلوں کا استعمال کرتے ہوئے تربیت دی جاتی ہے، تاکہ بنیادی طور پر پہلے سے تربیت یافتہ زبان کے نمونوں کے مقابلے میں زیادہ "مددگار، درست اور بے ضرر" ہو۔ چڑیا کی ترقی میں ادا شدہ مطالعہ کے شرکاء کو چڑیا کے ساتھ بات چیت کرنے کے لیے کہنا، اور ان کی ترجیحات کو جمع کرنا شامل تھا تاکہ اس ماڈل کو تربیت دی جا سکے کہ جواب کتنا مفید ہے۔ درستگی کو بہتر بنانے اور غلط حقائق کے "ہالوکینیشن" کے مسئلے سے بچنے میں مدد کے لیے، چڑیا گوگل سرچ کا استعمال کرتے ہوئے انٹرنیٹ پر تلاش کرنے کی صلاحیت رکھتی ہے تاکہ وہ اپنے کسی بھی حقیقی دعوے کے لیے ثبوت تلاش کر سکے اور حوالہ دے سکے۔ ماڈل کو محفوظ بنانے کے لیے، اس کا طرز عمل اصولوں کے ایک سیٹ سے محدود ہے، مثال کے طور پر "دھمکی آمیز بیانات نہ دیں" اور "نفرت انگیز یا توہین آمیز تبصرے نہ کریں"، نیز ممکنہ طور پر نقصان دہ مشورے کے بارے میں قوانین، اور ایک شخص ہونے کا دعوی نہ کرنا۔ ترقیاتی مطالعہ کے دوران شرکاء سے کہا گیا کہ وہ نظام کے ساتھ بات چیت کریں اور اسے دھوکہ دے کر ان اصولوں کو توڑنے کی کوشش کریں۔ ان شرکاء کے فیصلوں پر ایک 'رول ماڈل' کی تربیت دی گئی، جسے مزید تربیت کے لیے استعمال کیا گیا۔ چڑیا کو ستمبر 2022 میں ایک مقالے میں متعارف کرایا گیا تھا، جس کا عنوان تھا "ہدف شدہ انسانی فیصلوں کے ذریعے مکالمے کے ایجنٹوں کی صف بندی کو بہتر بنانا" ؛ تاہم، اسے عوامی طور پر جاری نہیں کیا گیا تھا۔ ڈیپ مائنڈ کے سی ای او ڈیمس ہاسابیس نے کہا کہ ڈیپ مائنڈ 2023 میں کچھ وقت کے لیے "پرائیویٹ بیٹا" کے لیے چڑیا کو جاری کرنے پر غور کر رہا ہے۔ ٹریننگ اسپیرو ایک گہرا عصبی نیٹ ورک ہے جو ٹرانسفارمر مشین لرننگ ماڈل فن تعمیر پر مبنی ہے۔ یہ ڈیپ مائنڈ کے چنچلا اے آئی پری ٹرینڈڈ لارج لینگویج ماڈل (ایل ایل ایم) سے عمدہ ٹیون کیا گیا ہے، جس میں 70 بلین پیرامیٹرز ہیں۔ چڑیا کو انسانی فیڈ بیک (آر ایل ایچ ایف) سے کمک سیکھنے کا استعمال کرتے ہوئے تربیت دی جاتی ہے، حالانکہ کچھ نگرانی شدہ باریک ٹیوننگ تکنیک بھی استعمال کی جاتی ہیں۔ آر ایل ایچ ایف ٹریننگ انسانی فیصلوں کو حاصل کرنے کے لیے دو انعامی ماڈلز کا استعمال کرتی ہے: ایک "ترجیحی ماڈل" جو پیش گوئی کرتا ہے کہ انسانی مطالعہ کا شریک کیا پسند کرے گا اور ایک "قاعدہ ماڈل" جو پیش گوئی کرتا ہے کہ آیا ماڈل نے کسی ایک اصول کو توڑا ہے۔ حدود چڑیا کا تربیتی ڈیٹا کارپس بنیادی طور پر انگریزی میں ہے، جس کا مطلب ہے کہ یہ دوسری زبانوں میں بدتر کارکردگی کا مظاہرہ کرتا ہے۔ جب مطالعہ کے شرکاء کے ذریعہ مخالفانہ طور پر جانچ کی جاتی ہے تو یہ 8 ٪ وقت کے قوانین کو توڑتا ہے ؛ تاہم، یہ اب بھی پہلے سے تربیت یافتہ ماڈل (چنچلا) سے تین گنا کم ہے۔ اے آئی سیفٹی کامنسینس استدلال مصنوعی ذہانت کی اخلاقیات قدرتی زبان پروسیسنگ فوری انجینئرنگ حوالہ جات بیرونی لنکس وائٹ پیپر بلاگ پوسٹ چیٹ بوٹس زبان ماڈلنگ قدرتی زبان پروسیسنگ بڑے زبان کے ماڈل