Perceiver
پرسیور ایک ٹرانسفارمر ہے جو غیر متن کے ڈیٹا، جیسے تصاویر، آوازیں اور ویڈیو، اور مقامی ڈیٹا پر کارروائی کرنے کے قابل ہو۔ ٹرانسفارمرز دیگر قابل ذکر نظاموں جیسے بی ای آر ٹی اور جی پی ٹی-3 کی بنیاد رکھتے ہیں، جو پرسیور سے پہلے تھے۔ یہ پوشیدہ رکاوٹ میں ان پٹ کو نکالنے کے لیے ایک غیر متناسب توجہ کا طریقہ کار اپناتا ہے، جس سے اسے بڑی مقدار میں متنوع اعداد و شمار سے سیکھنے کی اجازت ملتی ہے۔ پرسیور درجہ بندی کے کاموں پر خصوصی ماڈلز سے میل کھاتا ہے یا ان سے بہتر کارکردگی کا مظاہرہ کرتا ہے۔ پرسیور کو جون 2021 میں ڈیپ مائنڈ نے متعارف کرایا تھا۔ اس کے بعد اگست 2021 میں پرسیور آئی او آیا۔ ڈیزائن پرسیور کو موڈلٹی مخصوص عناصر کے بغیر ڈیزائن کیا گیا ہے۔ مثال کے طور پر، اس میں تصاویر، یا متن، یا آڈیو کو سنبھالنے کے لیے مخصوص عناصر نہیں ہیں۔ مزید یہ متنوع اقسام کے متعدد مربوط ان پٹ اسٹریمز کو سنبھال سکتا ہے۔ یہ پوشیدہ اکائیوں کا ایک چھوٹا سا مجموعہ استعمال کرتا ہے جو توجہ کی رکاوٹ بناتا ہے جس کے ذریعے ان پٹ کو گزرنا پڑتا ہے۔ ایک فائدہ ابتدائی ٹرانسفارمرز میں پائے جانے والے کواڈریٹک اسکیلنگ کے مسئلے کو ختم کرنا ہے۔ اس سے پہلے کے کام میں ہر طریقہ کے لیے کسٹم فیچر ایکسٹریکٹر استعمال کیے جاتے تھے۔ یہ ہر ان پٹ عنصر کے ساتھ پوزیشن اور موڈلٹی مخصوص خصوصیات کو جوڑتا ہے (مثال کے طور پر۔ ہر پکسل، یا آڈیو نمونہ)۔ ان خصوصیات کو اعلی وفاداری والی فورئیر خصوصیات کا استعمال کرتے ہوئے سیکھا یا بنایا جا سکتا ہے۔ پرسیور لکیری پیچیدگی کی تہوں کو تیار کرنے اور نیٹ ورک کی گہرائی کو ان پٹ سائز سے الگ کرنے کے لیے کراس توجہ کا استعمال کرتا ہے۔ یہ ڈیکپلنگ گہرے آرکیٹیکچرز کی اجازت دیتا ہے۔ اجزاء ایک کراس توجہ ماڈیول ایک (بڑے) بائٹ صف (مثال کے طور پر، ایک پکسل صف) اور ایک پوشیدہ صف (چھوٹے) کو دوسرے پوشیدہ صف میں نقشہ بناتا ہے، جس سے جہت کم ہوتی ہے۔ ایک ٹرانسفارمر ٹاور ایک پوشیدہ صف کو دوسری پوشیدہ صف میں نقشہ بناتا ہے، جو ان پٹ کو دوبارہ استفسار کرنے کے لیے استعمال ہوتا ہے۔ دونوں اجزاء متبادلات ہوتے ہیں۔ دونوں اجزاء استفسار کلیدی قدر (کیو کے وی) توجہ کا استعمال کرتے ہیں۔ کیو کے وی توجہ استفسار، کلیدی اور ویلیو نیٹ ورکس کا اطلاق کرتی ہے، جو عام طور پر ملٹی لیئر پرسیپٹرون ہوتے ہیں-ایک ان پٹ صف کے ہر عنصر پر، تین صفوں کو تیار کرتے ہیں جو ان کے ان پٹ کی انڈیکس طول و عرض (یا ترتیب کی لمبائی) کو محفوظ رکھتے ہیں۔ پرسیور آئی او پرسیور آئی او صوابدیدی سائز اور سیمنٹکس کے آؤٹ پٹ تیار کرنے کے لیے ماڈل کی پوشیدہ جگہ سے لچکدار طریقے سے استفسار کر سکتا ہے۔ یہ منظم آؤٹ پٹ خالی جگہوں والے کاموں پر نتائج حاصل کرتا ہے، جیسے قدرتی زبان اور بصری تفہیم، اسٹار کرافٹ II، اور ملٹی ٹاسکنگ۔ پرسیور آئی او ان پٹ ٹوکنائزیشن کی ضرورت کے بغیر جی ایل یو ای زبان کے معیار پر ٹرانسفارمر پر مبنی بی ای آر ٹی بیس لائن سے میل کھاتا ہے اور سنٹل آپٹیکل فلو تخمینے پر جدید ترین کارکردگی حاصل کرتا ہے۔ آؤٹ پٹ اس مخصوص آؤٹ پٹ سے وابستہ ایک مخصوص آؤٹ پٹ استفسار کا استعمال کرتے ہوئے پوشیدہ صف میں شرکت کرکے تیار کیے جاتے ہیں۔ مثال کے طور پر ایک پکسل پر نظری بہاؤ کی پیش گوئی کرنے کے لیے ایک استفسار پکسل کے xy کوآرڈینیٹس کے ساتھ ساتھ ایک واحد بہاؤ ویکٹر تیار کرنے کے لیے ایک نظری بہاؤ ٹاسک ایمبیڈنگ کا استعمال کرتے ہوئے شرکت کرے گا۔ یہ دوسرے ڈیزائنوں میں استعمال ہونے والے انکوڈر/ڈیکوڈر فن تعمیر پر ایک تغیر ہے۔ پرفارمنس پرسیور کی کارکردگی کا موازنہ 2 ڈی کنولیوشن کے بغیر امیج نیٹ پر ریس نیٹ-50 اور وی آئی ٹی سے کیا جا سکتا ہے۔ یہ 50,000 پکسلز تک پہنچتا ہے۔ یہ آڈیو سیٹ میں تمام طریقوں میں مسابقتی ہے۔ کنوولوشنل نیورل نیٹ ورک ٹرانسفارمر (مشین لرننگ ماڈل) حوالہ جات بیرونی لنکس بھی دیکھیں، جس میں فورئیر کی خصوصیات کو مزید تفصیل سے بیان کیا گیا ہے۔