Perceiver
பெர்சிவர் என்பது படங்கள், ஒலிகள் மற்றும் வீடியோ மற்றும் இடஞ்சார்ந்த தரவு போன்ற உரை அல்லாத தரவை செயலாக்கக்கூடிய ஒரு மின்மாற்றி ஆகும். பெர்சிவருக்கு முந்தைய பி. இ. ஆர். டி மற்றும் ஜி. பி. டி-3 போன்ற பிற குறிப்பிடத்தக்க அமைப்புகளுக்கு மின்மாற்றிகள் அடித்தளமாக உள்ளன. இது ஒரு மறைமுகமான தடையாக உள்ளீடுகளை வடிகட்ட ஒரு சமச்சீரற்ற கவனம் பொறிமுறையை ஏற்றுக்கொள்கிறது, இது பெரிய அளவிலான பன்முகத் தரவுகளிலிருந்து கற்றுக்கொள்ள அனுமதிக்கிறது. பெர்சிவர் வகைப்பாட்டு பணிகளில் சிறப்பு மாதிரிகளுடன் பொருந்துகிறது அல்லது சிறப்பாக செயல்படுகிறது. பெர்சிவர் ஜூன் 2021 இல் டீப் மைண்ட் மூலம் அறிமுகப்படுத்தப்பட்டது. இதைத் தொடர்ந்து ஆகஸ்ட் 2021 இல் பெர்சிவர் ஐஓ. வடிவமைப்பு பெர்சிவர் முறை-குறிப்பிட்ட கூறுகள் இல்லாமல் வடிவமைக்கப்பட்டுள்ளது. எடுத்துக்காட்டாக, படங்கள் அல்லது உரை அல்லது ஆடியோவைக் கையாள சிறப்பு கூறுகள் இதில் இல்லை. மேலும் இது பன்முக வகைகளின் பல தொடர்புடைய உள்ளீட்டு நீரோடைகளை கையாள முடியும். இது மறைந்திருக்கும் அலகுகளின் ஒரு சிறிய தொகுப்பைப் பயன்படுத்துகிறது, இது ஒரு கவனத் தடையை உருவாக்குகிறது, இதன் மூலம் உள்ளீடுகள் கடந்து செல்ல வேண்டும். ஆரம்பகால மின்மாற்றிகளில் காணப்படும் இருபடி அளவீட்டு சிக்கலை அகற்றுவது ஒரு நன்மை. முந்தைய வேலை ஒவ்வொரு முறைக்கும் தனிப்பயன் அம்சம் பிரித்தெடுக்கும் கருவிகளைப் பயன்படுத்தியது. இது ஒவ்வொரு உள்ளீட்டு உறுப்புடன் நிலை மற்றும் முறை-குறிப்பிட்ட அம்சங்களை தொடர்புபடுத்துகிறது (எ. கா. ஒவ்வொரு பிக்சல், அல்லது ஆடியோ மாதிரி). இந்த அம்சங்களை உயர் நம்பகத்தன்மை ஃபோரியர் அம்சங்களைப் பயன்படுத்தி கற்றுக்கொள்ளலாம் அல்லது கட்டமைக்கலாம். பெர்சிவர் நேரியல் சிக்கலான அடுக்குகளை உருவாக்கவும், உள்ளீட்டு அளவிலிருந்து நெட்வொர்க் ஆழத்தைப் பிரிக்கவும் குறுக்கு-கவனத்தைப் பயன்படுத்துகிறது. இந்த துண்டித்தல் ஆழமான கட்டமைப்புகளை அனுமதிக்கிறது. கூறுகள் ஒரு குறுக்கு-கவனம் தொகுதி ஒரு (பெரிய) பைட் வரிசை (எ. கா., ஒரு பிக்சல் வரிசை) மற்றும் ஒரு மறைந்த வரிசை (சிறிய) மற்றொரு மறைந்த வரிசைக்கு வரைபடமாக்குகிறது, இது பரிமாணத்தை குறைக்கிறது. ஒரு மின்மாற்றி கோபுரம் ஒரு மறைந்த வரிசையை மற்றொரு மறைந்த வரிசைக்கு வரைபடமாக்குகிறது, இது உள்ளீட்டை மீண்டும் விசாரிக்கப் பயன்படுகிறது. இரண்டு கூறுகளும் மாறி மாறி வருகின்றன. இரண்டு கூறுகளும் வினவல்-விசை-மதிப்பு (கியூ. கே. வி) கவனத்தைப் பயன்படுத்துகின்றன. கியூகேவி கவனம் வினவல், விசை மற்றும் மதிப்பு நெட்வொர்க்குகளைப் பயன்படுத்துகிறது, அவை பொதுவாக பல அடுக்கு பெர்செப்ட்ரான்கள்-ஒரு உள்ளீட்டு வரிசையின் ஒவ்வொரு உறுப்புக்கும், அவற்றின் உள்ளீடுகளின் குறியீட்டு பரிமாணத்தை (அல்லது வரிசை நீளம்) பாதுகாக்கும் மூன்று வரிசைகளை உருவாக்குகின்றன. பெர்சிவர் ஐஓ பெர்சிவர் ஐஓ தன்னிச்சையான அளவு மற்றும் சொற்பொருள் வெளியீடுகளை உருவாக்க மாதிரியின் மறைந்த இடத்தை நெகிழ்வாக விசாரிக்க முடியும். இயற்கையான மொழி மற்றும் காட்சி புரிதல், ஸ்டார்கிராஃப்ட் II மற்றும் மல்டி டாஸ்கிங் போன்ற கட்டமைக்கப்பட்ட வெளியீட்டு இடங்களைக் கொண்ட பணிகளில் இது முடிவுகளை அடைகிறது. பெர்சிவர் ஐஓ உள்ளீட்டு டோக்கனைசேஷன் தேவையில்லாமல் GLUE மொழி அளவுகோலில் மின்மாற்றி அடிப்படையிலான BERT அடிப்படையுடன் பொருந்துகிறது மற்றும் சின்டெல் ஆப்டிகல் ஃப்லோ மதிப்பீட்டில் அதிநவீன செயல்திறனை அடைகிறது. அந்த குறிப்பிட்ட வெளியீட்டுடன் தொடர்புடைய ஒரு குறிப்பிட்ட வெளியீட்டு வினவலைப் பயன்படுத்தி மறைந்திருக்கும் வரிசையில் கலந்துகொள்வதன் மூலம் வெளியீடுகள் தயாரிக்கப்படுகின்றன. எடுத்துக்காட்டாக, ஒரு பிக்சலில் ஒளியியல் ஓட்டத்தை கணிக்க ஒரு வினவல் பிக்சலின் xy ஆயத்தொகுப்புகள் மற்றும் ஒற்றை ஓட்ட திசையனை உருவாக்க ஒரு ஒளியியல் ஓட்ட பணி உட்பொதிப்பைப் பயன்படுத்தி கலந்து கொள்ளும். இது மற்ற வடிவமைப்புகளில் பயன்படுத்தப்படும் குறியீட்டாளர்/டிகோடர் கட்டமைப்பின் மாறுபாடு ஆகும். பெர்சிவரின் செயல்திறன் ரெஸ்நெட்-50 மற்றும் இமேஜ்நெட்டில் உள்ள விஐடி உடன் 2டி சுழற்சிகள் இல்லாமல் ஒப்பிடத்தக்கது. இது 50,000 பிக்சல்கள் வரை செல்கிறது. ஆடியோ செட்டில் உள்ள அனைத்து முறைகளிலும் இது போட்டியிடுகிறது. மேலும் காண்கஃ கன்வொல்யூஷனல் நியூரல் நெட்வொர்க் டிரான்ஸ்ஃபார்மர் (இயந்திர கற்றல் மாதிரி) குறிப்புகள் வெளிப்புற இணைப்புகள், ஃபோரியர் அம்சங்களுடன் இயந்திர கற்றல் மேலும் விரிவாக விளக்கப்பட்டுள்ளது