Foundation models
அடித்தள மாதிரி (அடிப்படை மாதிரி என்றும் அழைக்கப்படுகிறது) என்பது ஒரு பெரிய இயந்திர கற்றல் (எம். எல்) மாதிரியாகும், இது பரந்த அளவிலான கீழ்நிலைப் பணிகளுக்கு ஏற்றவாறு பரந்த அளவிலான தரவுகளில் (பெரும்பாலும் சுய மேற்பார்வை கற்றல் அல்லது அரை மேற்பார்வை கற்றல் மூலம்) பயிற்சி அளிக்கப்படுகிறது. முக்கிய சாட்போட்கள் மற்றும் பிற பயனர் எதிர்கொள்ளும் AI ஐ இயக்குவது போன்ற செயற்கை நுண்ணறிவு (AI) அமைப்புகள் எவ்வாறு உருவாக்கப்படுகின்றன என்பதில் ஒரு பெரிய மாற்றத்தைக் கொண்டுவர அறக்கட்டளை மாதிரிகள் உதவியுள்ளன. ஸ்டான்போர்ட் இன்ஸ்டிடியூட் ஃபார் ஹ்யூமன்-சென்டர்டு ஆர்டிஃபிஷியல் இன்டெலிஜென்ஸ் (எச்ஏஐ) சென்டர் ஃபார் ரிசர்ச் ஆன் ஃபவுண்டேஷன் மாடல்கள் (சிஆர்எஃப்எம்) இந்த வார்த்தையை பிரபலப்படுத்தியது. அடித்தள மாதிரிகளின் ஆரம்பகால எடுத்துக்காட்டுகள் கூகிளின் BERT மற்றும் பல்வேறு ஆரம்பகால ஜிபிடி அடித்தள மாதிரிகள் உட்பட முன் பயிற்சி பெற்ற மொழி மாதிரிகள் (எல்எம்) ஆகும், இதில் ஓபன்ஏஐயின் "ஜிபிடி-என்" தொடர் குறிப்பிடத்தக்க வகையில் அடங்கும். இத்தகைய பரந்த மாதிரிகள் மருத்துவ குறியீடுகள் போன்ற பல்வேறு வகையான இலக்கு தரவுத்தொகுப்புகளைப் பயன்படுத்தி பணி மற்றும்/அல்லது கள குறிப்பிட்ட மாதிரிகளுக்கு பயன்படுத்தப்படலாம். உரைக்கு அப்பால், DALL-E, ஃபிளமிங்கோ, புளோரன்ஸ் மற்றும் NOOR உள்ளிட்ட பல காட்சி மற்றும் பன்முக அடித்தள மாதிரிகள் தயாரிக்கப்பட்டுள்ளன. காட்சி அடித்தள மாதிரிகள் (வி. எஃப். எம்) உரை அடிப்படையிலான எல். எல். எம்-களுடன் இணைக்கப்பட்டு அதிநவீன பணி-குறிப்பிட்ட மாதிரிகளை உருவாக்குகின்றன. பொதுவான படப் பிரிவினைக்கு மெட்டா AI இன் பிரிவு எதுவுமே உள்ளது. வலுவூட்டல் கற்றல் முகவர்களுக்கு, கூகிள் டீப் மைண்ட் மூலம் கேட்டோ உள்ளது. வரையறைகள் ஸ்டான்போர்ட் இன்ஸ்டிடியூட் ஃபார் ஹ்யூமன்-சென்டர்டு ஆர்டிஃபிஷியல் இன்டெலிஜென்ஸ் (எச். ஏ. ஐ) சென்டர் ஃபார் ரிசர்ச் ஆன் ஃபவுண்டேஷன் மாடல்கள் (சி. ஆர். எஃப். எம்) ஆகஸ்ட் 2021 இல் "அடித்தள மாதிரி" என்ற வார்த்தையை உருவாக்கியது, இது "பரந்த தரவுகளில் பயிற்சி பெற்ற எந்தவொரு மாதிரியையும் (பொதுவாக அளவில் சுய மேற்பார்வையைப் பயன்படுத்துகிறது) குறிக்கிறது, இது பரந்த அளவிலான கீழ்நிலை பணிகளுக்கு மாற்றியமைக்கப்படலாம் (எ. கா., நன்றாக சரிசெய்யப்பட்டது)". இது தற்போதுள்ள ஒன்றுடன் ஒன்று சொற்கள் போதுமானதாக இல்லை என்ற அவர்களின் அவதானிப்பை அடிப்படையாகக் கொண்டது, "(பெரிய) மொழி மாதிரி" மிகவும் குறுகியது என்று சமர்ப்பித்தது, [மொழி] கவனம் மொழி மட்டுமல்ல; 'சுய மேற்பார்வையிடப்பட்ட மாதிரி' பயிற்சி நோக்கத்திற்கு மிகவும் குறிப்பிட்டது; மற்றும் 'முன் பயிற்சி பெற்ற மாதிரி' குறிப்பிடத்தக்க நடவடிக்கை அனைத்தும் 'முன் பயிற்சி' க்குப் பிறகு நடந்தது என்று பரிந்துரைத்தது. பல சொற்களைக் கருத்தில் கொண்ட பிறகு, அவர்கள் முறை, கட்டமைப்பு அல்லது செயல்படுத்தலை விட நோக்கம் கொண்ட செயல்பாட்டை (அதாவது, அடுத்தடுத்த வளர்ச்சிக்கு ஏற்றது) வலியுறுத்துவதற்காக "அடித்தள மாதிரியை" முடிவு செய்தனர். ஆழமான நரம்பியல் நெட்வொர்க்குகள் மற்றும் சுய மேற்பார்வை கற்றல் ஆகியவற்றை அடிப்படையாகக் கொண்டிருப்பதால், இந்த கருத்து உண்மையில் புதியது அல்ல என்பதையும் அவர்கள் குறிப்பிடுகிறார்கள், ஆனால் சமீபத்திய ஆண்டுகளில் இப்பகுதி வளர்ந்துள்ள அளவையும், எந்தவொரு மாதிரியையும் பயன்படுத்துவதற்கான அதிகரித்துவரும் திறனையும் வலியுறுத்தினர் வெவ்வேறு நோக்கங்களுக்காக, ஒரு புதிய சொல் உத்தரவாதம் அளிக்கிறது. ஒரு அடித்தள மாதிரி என்பது "செயற்கை நுண்ணறிவு அமைப்புகளை உருவாக்குவதற்கான முன்னுதாரணம்" ஆகும், இதில் ஒரு பெரிய அளவிலான பெயரிடப்படாத தரவுகளில் பயிற்சி பெற்ற ஒரு மாதிரியை பல பயன்பாடுகளுக்கு மாற்றியமைக்க முடியும். அடித்தள மாதிரிகள் "அளவில் பரந்த தரவுகளில் முன் பயிற்சி அளிப்பதன் மூலம் பல்வேறு கீழ்நிலை அறிவாற்றல் பணிகளுக்கு மாற்றியமைக்க வடிவமைக்கப்பட்டுள்ளன (எ. கா., ஃபைன்டியூன் செய்யப்பட்டுள்ளன)". அடித்தள மாதிரிகளின் முக்கிய பண்புகள் தோற்றம் மற்றும் ஒரே மாதிரியானவை. பயிற்சித் தரவு மனிதர்களால் பெயரிடப்படாததால், மாதிரி வெளிப்படையாக குறியிடப்படுவதை விட வெளிப்படுகிறது. எதிர்பார்க்கப்படாத பண்புகள் தோன்றலாம். எடுத்துக்காட்டாக, ஒரு பெரிய மொழி தரவுத்தொகுப்பில் பயிற்சி பெற்ற ஒரு மாதிரி, அவ்வாறு செய்ய வெளிப்படையாக திட்டமிடப்படாமல், அதன் சொந்த கதைகளை உருவாக்கவோ அல்லது எண்கணிதத்தைச் செய்யவோ கற்றுக்கொள்ளலாம். மேலும், கீழ்நிலை அளவீட்டு சட்டங்களில் உள்ள இடைவெளிகள் காரணமாக இந்த பண்புகளை முன்கூட்டியே கணிப்பது சில நேரங்களில் கடினமாக இருக்கலாம். ஒரே மாதிரியான முறை என்பது பல களங்களில் பயன்படுத்தப்படுகிறது, இது சக்திவாய்ந்த முன்னேற்றங்களை அனுமதிக்கிறது, ஆனால் "தோல்வியின் ஒற்றை புள்ளிகள்" சாத்தியம். அடித்தள மாதிரிகளைத் தனிப்பயனாக்குவது அடித்தள மாதிரிகள் ஒரு பெரிய தரவுத்தொகுப்பில் முன்கூட்டியே பயிற்சி பெற்றிருப்பதால், அவை ஒரு பயனர் ஆர்வமாக இருக்கும் குறிப்பிட்ட "தனிப்பட்ட" கருத்துக்களைக் கையாளும் திறன் கொண்டவை அல்ல. முழு மாதிரியையும் மீண்டும் பயிற்றுவிக்காமல் தனிப்பட்ட, குறிப்பிட்ட பொருட்களுடன் அடித்தள மாதிரியை மேம்படுத்த தொடர்ச்சியான முறைகள் வடிவமைக்கப்பட்டன. எடுத்துக்காட்டாக, சில-ஷாட் பட மீட்டெடுப்புக்கு, அதன் சொற்களஞ்சியத்தில் புதிய கருத்தை சேர்ப்பதன் மூலம் ஒரு பார்வை-மொழி அடித்தள மாதிரியை (சி. எல். ஐ. பி) எவ்வாறு மாற்றியமைப்பது என்பது காட்டப்பட்டது. உரை-க்கு-படம் தலைமுறைக்கு, உரை தலைகீழ் என்று அழைக்கப்படும் ஒரு அணுகுமுறை இதேபோல் கணினி புதிய கருத்தை கற்பிக்க பயன்படுத்தப்படலாம், இது அடித்தள மாதிரி ஏற்கனவே நன்கு அறிந்த கருத்துகளுடன் இணைந்து பின்னர் உருவாக்கப்படலாம். வாய்ப்புகள் மற்றும் அபாயங்கள் A 2021 arXiv அறிக்கை "மொழி, பார்வை, ரோபாட்டிக்ஸ், பகுத்தறிவு மற்றும் மனித தொடர்பு", தொழில்நுட்பக் கொள்கைகளான "மாதிரி கட்டமைப்புகள், பயிற்சி நடைமுறைகள், தரவு, அமைப்புகள், பாதுகாப்பு, மதிப்பீடு மற்றும் கோட்பாடு", அவற்றின் பயன்பாடுகள், எடுத்துக்காட்டாக சட்டம், சுகாதாரம் மற்றும் கல்வி மற்றும் சமூகத்தில் அவற்றின் சாத்தியமான தாக்கம், இதில் "சமத்துவமின்மை, தவறான பயன்பாடு, பொருளாதார மற்றும் சுற்றுச்சூழல் தாக்கம், சட்ட மற்றும் நெறிமுறைக் கருத்தாய்வுகள்" ஆகியவை குறித்து அடித்தள மாதிரிகளின் திறன்களை பட்டியலிட்டது. தி எகனாமிஸ்ட்டில் அடித்தள மாதிரிகள் பற்றிய ஒரு கட்டுரை குறிப்பிடுகிறது, "தொழில்நுட்பத்தின் கவனக்குறைவான பரவல் பொருளாதார மற்றும் அரசியல் சக்தியை மேலும் குவிக்கும் என்று சிலர் கவலைப்படுகிறார்கள்". குறிப்புகள் இயற்கை மொழி செயலாக்கம் கணக்கீட்டு மொழியியல் ஆய்வின் கணக்கீட்டு துறைகள் மொழி மாதிரியாக்கம் மேற்பார்வையிடப்படாத கற்றல் ஆழமான கற்றல்