Diffusion model
இயந்திர கற்றலில், பரவல் நிகழ்தகவு மாதிரிகள் அல்லது மதிப்பெண் அடிப்படையிலான உற்பத்தி மாதிரிகள் என்றும் அழைக்கப்படும் பரவல் மாதிரிகள், உற்பத்தி மாதிரிகளின் ஒரு வகுப்பாகும். பரவல் மாதிரிகளின் குறிக்கோள் கொடுக்கப்பட்ட தரவுத்தொகுப்பின் நிகழ்தகவு விநியோகத்தை உருவாக்கும் ஒரு பரவல் செயல்முறையைக் கற்றுக்கொள்வதாகும். இது முக்கியமாக மூன்று முக்கிய கூறுகளைக் கொண்டுள்ளதுஃ முன்னோக்கி செயல்முறை, தலைகீழ் செயல்முறை மற்றும் மாதிரி செயல்முறை. கணினி பார்வையில் பயன்படுத்தப்படும் பொதுவான பரவல் மாடலிங் கட்டமைப்புகளின் மூன்று எடுத்துக்காட்டுகள் பரவல் நிகழ்தகவு மாதிரிகள், சத்தம் நிபந்தனை மதிப்பெண் நெட்வொர்க்குகள் மற்றும் சீரற்ற வேறுபாடு சமன்பாடுகள். பரவலான மாதிரிகள் பட டினோயிசிங், இன் பெயிண்டிங், சூப்பர்-ரெசல்யூஷன் மற்றும் பட உருவாக்கம் உள்ளிட்ட பல்வேறு பணிகளுக்கு பயன்படுத்தப்படலாம். எடுத்துக்காட்டாக, பட உருவாக்கத்தில், ஒரு நரம்பியல் வலையமைப்பு சத்தத்தை அகற்ற கற்றுக்கொள்வதன் மூலம் கூடுதல் காஸியன் சத்தத்துடன் படங்களை குறிக்க பயிற்சி அளிக்கப்படுகிறது. பயிற்சி முடிந்த பிறகு, நெட்வொர்க்கை மறைக்க சீரற்ற சத்தத்தால் ஆன ஒரு படத்தை வழங்குவதன் மூலம் பட உருவாக்கத்திற்கு இதைப் பயன்படுத்தலாம். பல வகையான நிஜ உலக தரவுகளை உருவாக்க பரவல் மாதிரிகள் பயன்படுத்தப்பட்டுள்ளன, அவற்றில் மிகவும் பிரபலமானவை DALL-E மற்றும் நிலையான பரவல் போன்ற உரை-நிபந்தனை பட ஜெனரேட்டர்கள் ஆகும். மேலும் உதாரணங்கள் கட்டுரையின் பிற்காலப் பகுதியில் உள்ளன. மிகவும் சிக்கலான நிகழ்தகவு விநியோகத்திலிருந்து மாதிரி எடுக்கக்கூடிய ஒரு மாதிரியைக் கற்றுக்கொள்வதற்கான ஒரு முறையாக சமநிலையற்ற வெப்ப இயக்கவியல் பரவல் மாதிரிகள் 2015 இல் அறிமுகப்படுத்தப்பட்டன. அவர்கள் சமநிலையற்ற வெப்ப இயக்கவியலில் இருந்து நுட்பங்களைப் பயன்படுத்தினர், குறிப்பாக பரவல். உதாரணமாக, இயற்கையாக நிகழும் அனைத்து புகைப்படங்களின் விநியோகத்தையும் ஒருவர் எவ்வாறு மாதிரியாக்கலாம் என்பதைக் கவனியுங்கள். ஒவ்வொரு படமும் அனைத்து படங்களின் இடத்திலும் ஒரு புள்ளியாகும், மேலும் இயற்கையாக நிகழும் புகைப்படங்களின் விநியோகம் விண்வெளியில் ஒரு "மேகம்" ஆகும், இது படங்களுக்கு மீண்டும் மீண்டும் சத்தத்தைச் சேர்ப்பதன் மூலம், மீதமுள்ள பட இடத்திற்கு பரவுகிறது, மேகம் மாறும் வரை ஆனால் ஒரு காஸியன் விநியோகத்திலிருந்து பிரித்தறிய முடியாதது. பரவலை தோராயமாக செயல்தவிர்க்கக்கூடிய ஒரு மாதிரியை அசல் விநியோகத்திலிருந்து மாதிரியாகப் பயன்படுத்தலாம். இது "சமநிலையற்ற" வெப்ப இயக்கவியலில் ஆய்வு செய்யப்படுகிறது, ஏனெனில் தொடக்க விநியோகம் சமநிலையில் இல்லை, இறுதி விநியோகத்தைப் போலல்லாமல். சமநிலைப் பரவல் என்பது pdf உடன் காஸியன் விநியோகம் ஆகும். இது வெப்பநிலை 1 இல் ஒரு சாத்தியமான கிணற்றில் உள்ள துகள்களின் போல்ட்ஸ்மேன் விநியோகம் மட்டுமே. ஆரம்ப விநியோகம், சமநிலைக்கு வெளியே இருப்பதால், சமநிலை விநியோகத்தை நோக்கி பரவுகிறது, இது பக்கச்சார்பான சீரற்ற படிகளை உருவாக்குகிறது, இது தூய சீரற்ற தன்மை (பிரவுனியன் வாக்கர் போன்றது) மற்றும் சாய்வு இறங்கு ஆகியவற்றின் கூட்டுத்தொகையாகும். சீரற்ற தன்மை அவசியம்ஃ துகள்கள் சாய்வு வம்சாவளிக்கு மட்டுமே உட்பட்டால், அவை அனைத்தும் தோற்றத்திற்கு விழுந்து, விநியோகத்தை உடைக்கும். டினோயிசிங் டிஃப்யூஷன் ப்ராபபிலிஸ்டிக் மாடல் (டிடிபிஎம்) 2020 ஆய்வறிக்கை டினோயிசிங் டிஃப்யூஷன் ப்ராபபிலிஸ்டிக் மாடலை (டிடிபிஎம்) முன்மொழிந்தது, இது மாறுபட்ட அனுமானத்தின் மூலம் முந்தைய முறையை மேம்படுத்துகிறது. முன்னோக்கி பரவல் மாதிரியை முன்வைக்க, நமக்கு சில குறியீடு தேவை. அவை நிலையான மாறிலிகள். சராசரி மற்றும் மாறுபாட்டுடன் இயல்பான விநியோகம், மற்றும் நிகழ்தகவு அடர்த்தி ஆகும். ஒரு செங்குத்து பட்டை கண்டிஷனிங் குறிக்கிறது. ஒரு முன்னோக்கி பரவல் செயல்முறை சில தொடக்க புள்ளியில் தொடங்குகிறது, கற்றுக்கொள்ள வேண்டிய நிகழ்தகவு விநியோகம் எங்கே, பின்னர் ஐ. ஐ. டி மாதிரிகள் எங்கிருந்து வருகின்றன என்பதன் மூலம் மீண்டும் மீண்டும் சத்தத்தைச் சேர்க்கவும். முழு பரவல் செயல்முறையும் திருப்தியளிக்கிறது அல்லது ஒரு இயல்பாக்குதல் மாறிலி மற்றும் பெரும்பாலும் தவிர்க்கப்படுகிறது. குறிப்பாக, இது ஒரு காஸியன் செயல்முறையாகும், இது மறுசீரமைப்பில் கணிசமான சுதந்திரத்தை நமக்கு வழங்குகிறது. எடுத்துக்காட்டாக, காஸியன் செயல்முறையுடன் நிலையான கையாளுதல் மூலம், குறிப்பாக, பெரிய அளவில், மாறி ஒன்றிணைகிறது என்பதைக் கவனியுங்கள். அதாவது, ஒரு நீண்ட போதுமான பரவல் செயல்முறைக்குப் பிறகு, அசலின் அனைத்து தடயங்களும் போய்விட்டன, மிகவும் நெருக்கமான சிலவற்றுடன் நாம் முடிவடைகிறோம். எடுத்துக்காட்டாக, அனைத்து இடைநிலை படிகளையும் கடந்து செல்வதற்குப் பதிலாக, நாம் நேரடியாக "ஒரு படியில்" மாதிரி எடுக்க முடியும். பின்தங்கிய பரவல் டி. டி. பி. எம் இன் முக்கிய யோசனை ஒரு நரம்பியல் வலையமைப்பைப் பயன்படுத்துவதாகும். நெட்வொர்க் இரண்டு வாதங்களை எடுத்துக்கொள்கிறது, மேலும் ஒரு திசையன் மற்றும் ஒரு மேட்ரிக்ஸை வெளியிடுகிறது, அதாவது முன்னோக்கி பரவல் செயல்முறையின் ஒவ்வொரு அடியையும் தோராயமாக செயல்தவிர்க்க முடியும். இது பின்னர் வரையறுக்கப்பட்ட ஒரு பின்தங்கிய பரவல் செயல்முறையை நமக்கு வழங்குகிறது இப்போது முடிந்தவரை நெருக்கமாக இருக்கும் அளவுருக்களைக் கற்றுக்கொள்வதே குறிக்கோள். அதைச் செய்ய, மாறுபட்ட அனுமானத்துடன் அதிகபட்ச சாத்தியக்கூறு மதிப்பீட்டைப் பயன்படுத்துகிறோம். மாறுபாடு அனுமானம் ELBO சமத்துவமின்மை கூறுகிறது, மேலும் ஒரு எதிர்பார்ப்பை எடுத்துக்கொள்வதன் மூலம், நாம் பெறுகிறோம். வலதுபுறத்தில் உள்ள அளவை அதிகரிப்பது கவனிக்கப்பட்ட தரவுகளின் சாத்தியக்கூறுகளில் குறைந்த வரம்பைக் கொடுக்கும் என்பதை நாம் காண்கிறோம். இது மாறுபட்ட அனுமானத்தைச் செய்ய அனுமதிக்கிறது. இழப்பு செயல்பாட்டை வரையறுக்கவும், இப்போது சீரற்ற சாய்வு இறங்கு மூலம் இழப்பைக் குறைப்பதே குறிக்கோள். வெளிப்பாட்டை எளிமைப்படுத்தலாம், அங்கு அளவுருவைப் பொறுத்தது அல்ல, எனவே புறக்கணிக்கப்படலாம். இது அளவுருவைச் சார்ந்தது அல்ல என்பதால், இந்த வார்த்தையையும் புறக்கணிக்கலாம். இது குறைக்கப்படுவதை மட்டுமே விட்டுச்செல்கிறது. சத்தம் முன்கணிப்பு நெட்வொர்க் என்பதால், இது நாம் பயன்படுத்த வேண்டும் என்று பரிந்துரைக்கிறது; இருப்பினும், நெட்வொர்க்கிற்கு அணுகல் இல்லை, எனவே அதற்கு பதிலாக அதை மதிப்பிட வேண்டும். இப்போது, நாம் எழுதலாம், சில அறியப்படாத காஸியன் சத்தம் எங்கே. மதிப்பீடு செய்வது மதிப்பீட்டிற்கு சமம் என்பதை இப்போது நாம் காண்கிறோம். எனவே, நெட்வொர்க் ஒரு சத்தம் திசையனை வெளியிடட்டும், மேலும் அதை கணிக்கட்டும் இது வடிவமைப்பில் உள்ளது. டிடிபிஎம் ஆய்வறிக்கை அதைக் கற்றுக்கொள்ள வேண்டாம் என்று பரிந்துரைத்தது (ஏனெனில் இது "நிலையற்ற பயிற்சி மற்றும் மோசமான மாதிரி தரத்தை" விளைவித்தது), ஆனால் சில மதிப்புகளில் அதை சரிசெய்தது, அங்கு ஒன்று ஒத்த செயல்திறனை அளித்தது. இதன் மூலம், இழப்பு எளிதாக்கப்படுகிறது, இது சீரற்ற சாய்வு இறங்கு மூலம் குறைக்கப்படலாம். இன்னும் எளிமையான இழப்பு செயல்பாடு சிறந்த மாதிரிகளில் விளைந்தது என்று ஆய்வறிக்கை அனுபவபூர்வமாக குறிப்பிட்டது. ஸ்கோர் அடிப்படையிலான ஜெனரேட்டிவ் மாடல் என்பது டிஃப்யூஷன் மாடலிங்கின் மற்றொரு சூத்திரமாகும். அவை சத்தம் நிபந்தனை மதிப்பெண் நெட்வொர்க் (என். சி. எஸ். என்) அல்லது லாங்கேவின் இயக்கவியலுடன் (எஸ். எம். எல். டி) மதிப்பெண் பொருத்தம் என்றும் அழைக்கப்படுகின்றன. மதிப்பெண் பொருத்தம் மதிப்பெண் செயல்பாடுகளின் யோசனை பட உருவாக்கத்தின் சிக்கலைக் கவனியுங்கள். ஒரு படத்தைக் குறிக்கலாம், மேலும் சாத்தியமான அனைத்து படங்களுக்கும் நிகழ்தகவு விநியோகமாக இருக்கட்டும். நம்மிடம் இருந்தால், ஒரு குறிப்பிட்ட படம் எவ்வளவு சாத்தியம் என்பதை நாம் உறுதியாகக் கூறலாம். இருப்பினும், இது பொதுவாக கடினமானது. பெரும்பாலும், ஒரு குறிப்பிட்ட படத்தின் முழுமையான நிகழ்தகவை அறிந்து கொள்வதில் நாம் ஆர்வம் காட்டுவதில்லை. அதற்கு பதிலாக, ஒரு குறிப்பிட்ட படம் அதன் உடனடி அண்டை நாடுகளுடன் ஒப்பிடுவது எவ்வளவு சாத்தியம் என்பதை அறிய மட்டுமே நாங்கள் பொதுவாக ஆர்வமாக உள்ளோம்-எ. கா. பூனையின் சில சிறிய வகைகளுடன் ஒப்பிடும்போது பூனையின் உருவம் எவ்வளவு அதிகமாக உள்ளது? படத்தில் இரண்டு மீசை அல்லது மூன்று மீசை இருந்தால், அல்லது சில காஸியன் சத்தம் சேர்க்கப்பட்டால் அது அதிக வாய்ப்புள்ளதா? இதன் விளைவாக, நாம் உண்மையில் தன்னைப் பற்றி மிகவும் ஆர்வமாக இல்லை, மாறாக,. இது இரண்டு முக்கிய விளைவுகளைக் கொண்டுள்ளதுஃ ஒன்று, நாம் இனி இயல்பாக்க வேண்டிய அவசியமில்லை, ஆனால் எங்களுக்கு எந்த கவலையும் இல்லாத எந்த அறியப்படாத மாறிலியையும் பயன்படுத்தலாம். இரண்டு, நாம் அண்டை நாடுகளை ஒப்பிடுகிறோம், ஸ்கோர் செயல்பாடு இருக்கட்டும்; பின்னர் நாம் என்ன செய்ய முடியும் என்பதைக் கவனியுங்கள். இது மாறிவிடும் போது, வெப்ப இயக்கவியலைப் பயன்படுத்துவதன் மூலம் மாதிரி எடுக்க அனுமதிக்கிறது. குறிப்பாக, நம்மிடம் ஒரு சாத்தியமான ஆற்றல் செயல்பாடு மற்றும் சாத்தியமான கிணற்றில் நிறைய துகள்கள் இருந்தால், வெப்ப இயக்கவியல் சமநிலையில் உள்ள விநியோகம் போல்ட்ஸ்மேன் விநியோகம் ஆகும். வெப்பநிலையில், போல்ட்ஸ்மேன் விநியோகம் சரியாக உள்ளது. எனவே, மாதிரியாக, எந்தவொரு வசதியான விநியோகத்திலும் (நிலையான காஸியன் விநியோகம் போன்றவை) மாதிரி செய்யப்பட்ட ஒரு துகள் மூலம் நாம் தொடங்கலாம், பின்னர் லாங்கேவின் சமன்பாட்டின் படி துகள் முன்னோக்கி நகர்வதை உருவகப்படுத்தலாம் மற்றும் போல்ட்ஸ்மேன் விநியோகம், ஃபோக்கர்-பிளாங்க் சமன்பாட்டின் மூலம், தனித்துவமான வெப்ப இயக்கவியல் சமநிலை. எனவே என்ன விநியோகம் இருந்தாலும், விநியோகத்தில் ஒருங்கிணைப்புகளின் விநியோகம். மதிப்பெண் செயல்பாட்டைக் கற்றுக்கொள்வது ஒரு அடர்த்தியைக் கருத்தில் கொண்டு, ஒரு மதிப்பெண் செயல்பாட்டு தோராயத்தைக் கற்றுக்கொள்ள விரும்புகிறோம். இது ஸ்கோர் பொருத்தம். பொதுவாக, ஃபிஷர் வேறுபாடு செயல்பாட்டைக் குறைப்பதாக மதிப்பெண் பொருத்தம் முறைப்படுத்தப்படுகிறது. ஒருங்கிணைப்பை விரிவுபடுத்துவதன் மூலமும், பகுதிகளால் ஒருங்கிணைப்பைச் செய்வதன் மூலமும், சீரற்ற சாய்வு இறங்கு மூலம் குறைக்கக்கூடிய இழப்பு செயல்பாட்டை நமக்கு வழங்குகிறது. மதிப்பெண் செயல்பாட்டை இணைத்தல் படங்களின் விநியோகத்தை நாம் மாதிரியாக்க வேண்டும் என்று வைத்துக்கொள்வோம், மேலும் ஒரு வெள்ளை-சத்தம் படம் வேண்டும். இப்போது, பெரும்பாலான வெள்ளை-சத்தம் படங்கள் உண்மையான படங்களைப் போல தோற்றமளிக்கவில்லை. இது ஸ்கோர் செயல்பாட்டைக் கற்றுக்கொள்வதில் ஒரு சிக்கலை முன்வைக்கிறது, ஏனென்றால் ஒரு குறிப்பிட்ட புள்ளியைச் சுற்றி மாதிரிகள் இல்லையென்றால், அந்த நேரத்தில் ஸ்கோர் செயல்பாட்டை நாம் கற்றுக்கொள்ள முடியாது. அந்த கட்டத்தில் மதிப்பெண் செயல்பாடு நமக்குத் தெரியாவிட்டால், ஒரு துகள் மீது நேர-பரிணாம சமன்பாட்டை நாம் திணிக்க முடியாதுஃ இந்த சிக்கலைச் சமாளிக்க, நாம் அனீலிங் செய்கிறோம். வெள்ளை-சத்தம் விநியோகத்திலிருந்து மிகவும் வித்தியாசமாக இருந்தால், அது ஒன்றிலிருந்து பிரித்தறிய முடியாத வரை படிப்படியாக சத்தத்தைச் சேர்க்கவும். அதாவது, நாம் ஒரு முன்னோக்கி பரவலைச் செய்கிறோம், பின்னர் ஸ்கோர் செயல்பாட்டைக் கற்றுக்கொள்கிறோம், பின்னர் ஸ்கோர் செயல்பாட்டைப் பயன்படுத்தி பின்தங்கிய பரவலைச் செய்கிறோம். தொடர்ச்சியான பரவல் செயல்முறைகள் முன்னோக்கி பரவல் செயல்முறை முன்னோக்கி பரவல் செயல்முறையை மீண்டும் கருத்தில் கொள்ளுங்கள், ஆனால் இந்த முறை தொடர்ச்சியான நேரத்தில்ஃ வரம்பை எடுத்துக்கொள்வதன் மூலம், ஒரு தொடர்ச்சியான பரவல் செயல்முறையைப் பெறுகிறோம், இது ஒரு சீரற்ற வேறுபாடு சமன்பாட்டின் வடிவத்தில் உள்ளதுஃ அங்கு ஒரு வீனர் செயல்முறை (பன்முக பிரவுனியன் இயக்கம்). இப்போது, சமன்பாடு சரியாக மிகைப்படுத்தப்பட்ட லாங்கேவின் சமன்பாட்டின் ஒரு சிறப்பு வழக்கு, அங்கு பரவல் டென்சர், வெப்பநிலை மற்றும் சாத்தியமான ஆற்றல் புலம். நாம் மாற்றீடு செய்தால், மேலே உள்ள சமன்பாட்டை மீட்டெடுக்கிறோம். "லாங்கேவின் இயக்கவியல்" என்ற சொற்றொடர் சில நேரங்களில் பரவல் மாதிரிகளில் ஏன் பயன்படுத்தப்படுகிறது என்பதை இது விளக்குகிறது. இப்போது மேலே உள்ள சமன்பாடு ஒரு ஒற்றைத் துகள் சீரற்ற இயக்கத்திற்கானது. நேரத்திற்கு ஏற்ப விநியோகிக்கப்பட்ட துகள்களின் மேகம் நம்மிடம் உள்ளது என்று வைத்துக்கொள்வோம், பின்னர் நீண்ட காலத்திற்குப் பிறகு, துகள்களின் மேகம் நிலையான விநியோகத்தில் குடியேறும். நேரத்தில் துகள்களின் மேகத்தின் அடர்த்தியாக இருக்கட்டும், பின்னர் எங்களிடம் உள்ளது மற்றும் குறிக்கோள் எப்படியாவது செயல்முறையை மாற்றியமைப்பதாகும், இதனால் நாம் முடிவில் தொடங்கி மீண்டும் தொடக்கத்தில் பரவ முடியும். ஃபோக்கர்-பிளாங்க் சமன்பாட்டின் படி, மேகத்தின் அடர்த்தி இடத்தின் பரிமாணத்திற்கு ஏற்ப உருவாகிறது, மேலும் இது லாப்லேஸ் ஆபரேட்டர் ஆகும். பின்தங்கிய பரவல் செயல்முறை நாம் நேரத்திற்குத் தீர்த்திருந்தால், மேகத்தின் பரிணாமத்தை நாம் சரியாக மாற்றியமைக்க முடியும். அடர்த்தியுடன் கூடிய மற்றொரு துகள்களின் மேகத்துடன் தொடங்கி, மேகத்தில் உள்ள துகள்கள் ஃபோக்கர்-பிளாங்க் சமன்பாட்டிற்குள் செருகுவதன் மூலம் அதற்கேற்ப உருவாகட்டும் என்று வைத்துக்கொள்வோம். எனவே இந்த புள்ளிகளின் மேகம் அசல் மேகமாகும், இது பின்னோக்கி உருவாகிறது. சத்தம் நிபந்தனை மதிப்பெண் நெட்வொர்க் (என். சி. எஸ். என்) தொடர்ச்சியான வரம்பில், குறிப்பாக, இடைப்பட்ட படிகள் வழியாக செல்லாமல் தொடர்ச்சியான பரவல் செயல்முறையின் எந்த புள்ளியிலிருந்தும் நேரடியாக மாதிரி எடுக்க முடியும் என்பதை நாம் காண்கிறோம், முதலில் மாதிரி எடுப்பதன் மூலம், பின்னர் பெறலாம். அதாவது, எதற்கும் நாம் விரைவாக மாதிரி எடுக்க முடியும். இப்போது, ஒரு குறிப்பிட்ட நிகழ்தகவு விநியோகத்தை வரையறுக்கவும், பின்னர் மதிப்பெண்-பொருந்தும் இழப்பு செயல்பாடு எதிர்பார்க்கப்படும் ஃபிஷர் வேறுபாடு என வரையறுக்கப்படுகிறதுஃ பயிற்சிக்குப் பிறகு, எனவே முதல் மாதிரியின் மூலம் பின்னோக்கிய பரவல் செயல்முறையைச் செய்யலாம், பின்னர் எஸ். டி. இ. ஐ ஒருங்கிணைத்தல்ஃ இது யூலர்-மருயாமா முறை போன்ற எந்த எஸ். டி. இ ஒருங்கிணைப்பு முறையாலும் செய்யப்படலாம். "சத்தம் நிபந்தனை மதிப்பெண் நெட்வொர்க்" என்ற பெயர் இவ்வாறு விளக்கப்பட்டுள்ளதுஃ "நெட்வொர்க்", ஏனெனில் இது ஒரு நரம்பியல் வலையமைப்பாக செயல்படுத்தப்படுகிறது. "ஸ்கோர்", ஏனென்றால் நெட்வொர்க்கின் வெளியீடு ஸ்கோர் செயல்பாட்டை தோராயமாக மதிப்பிடுவதாக விளக்கப்படுகிறது. "சத்தம் நிபந்தனைக்குட்பட்டது", ஏனெனில் இது காலப்போக்கில் அதிகரிக்கும் கூடுதல் காஸியன் சத்தத்தால் மங்குவதற்கு சமம், எனவே மதிப்பெண் செயல்பாடு சேர்க்கப்பட்ட சத்தத்தின் அளவைப் பொறுத்தது. அவற்றின் சமநிலை டிடிபிஎம் மற்றும் மதிப்பெண் அடிப்படையிலான உற்பத்தி மாதிரி ஆகியவை சமமானவை. இதன் பொருள் என்னவென்றால், டி. டி. பி. எம்-ஐப் பயன்படுத்தி பயிற்சி பெற்ற நெட்வொர்க்கை என். சி. எஸ். என்-ஆகவும், நேர்மாறாகவும் பயன்படுத்தலாம். முன்பு விவரிக்கப்பட்டபடி, டி. டி. பி. எம் இழப்பு செயல்பாடு எங்கிருந்தாலும் உள்ளது, எனவே ட்வீடி சூத்திரத்தின் மூலம் நமக்குத் தெரியும். மாறிகளின் மாற்றத்தால், உள்ளே உள்ள சொல் குறைந்தபட்ச சதுர பின்னடைவாக மாறுகிறது, எனவே நெட்வொர்க் உண்மையில் உலகளாவிய குறைந்தபட்ச இழப்பை அடைந்தால், நம்மிடம் உள்ளது. இப்போது, பின்தங்கிய சமன்பாட்டின் தொடர்ச்சியான வரம்பு மதிப்பெண் அடிப்படையிலான பரவலின் அதே சமன்பாட்டை நமக்குத் தருகிறதுஃ முக்கிய மாறுபாடுகள் டினோயிசிங் டிஃப்யூஷன் இம்ப்லிஸிட் மாடல் (டி. டி. ஐ. எம்) படங்களை உருவாக்குவதற்கான அசல் டி. டி. பி. எம் முறை மெதுவாக உள்ளது, ஏனெனில் முன்னோக்கி பரவல் செயல்முறை பொதுவாக காஸியனுக்கு நெருக்கமாகத் தோன்றும் வகையில் விநியோகிக்க எடுக்கும். இருப்பினும் இதன் பொருள் பின்தங்கிய பரவல் செயல்முறையும் 1000 படிகளை எடுக்கும். முன்னோக்கி பரவல் செயல்முறையைப் போலல்லாமல், இது அனைவருக்கும் காஸியன் போலவே படிகளைத் தவிர்க்கலாம், பின்தங்கிய பரவல் செயல்முறை படிகளைத் தவிர்க்க அனுமதிக்காது. எடுத்துக்காட்டாக, மாதிரி எடுக்க முதலில் மாதிரி தேவைப்படுகிறது. நேரடியாக மாதிரி எடுக்க முயற்சிப்பது ஓரங்கட்டப்பட வேண்டும், இது பொதுவாக கடினமானது. டிடிஐஎம் என்பது டிடிபிஎம் இழப்பில் பயிற்சி பெற்ற எந்தவொரு மாதிரியையும் எடுக்க ஒரு முறையாகும், மேலும் சில படிகளைத் தவிர்த்துவிட்டு, சரிசெய்யக்கூடிய தரத்தை தியாகம் செய்து மாதிரியைப் பயன்படுத்துகிறது. அசல் டிடிபிஎம் என்பது டிடிஐஎம்-இன் ஒரு சிறப்பு வழக்கு. மறைந்த பரவல் மாதிரி (எல். டி. எம்) பரவல் மாதிரி என்பது நிகழ்தகவு விநியோகங்களை மாதிரியாக்குவதற்கான ஒரு பொதுவான முறையாக இருப்பதால், ஒருவர் படங்களின் மீது ஒரு விநியோகத்தை மாதிரியாக்க விரும்பினால், ஒருவர் முதலில் ஒரு குறியாக்கியின் மூலம் குறைந்த பரிமாண இடைவெளியில் படங்களை குறியாக்கம் செய்யலாம், பின்னர் ஒரு பரவல் மாதிரியைப் பயன்படுத்தி குறியிடப்பட்ட படங்களின் மீது விநியோகத்தை மாதிரியாக்கலாம். பின்னர் ஒரு படத்தை உருவாக்க, ஒருவர் பரவல் மாதிரியிலிருந்து மாதிரி எடுக்கலாம், பின்னர் அதை ஒரு படமாக டிகோட் செய்ய ஒரு டிகோடரைப் பயன்படுத்தலாம். குறியீட்டாளர்-டிகோடர் ஜோடி பெரும்பாலும் ஒரு மாறுபட்ட தன்னியக்க குறியீட்டாளர் (VAE) ஆகும். வகைப்படுத்தல் வழிகாட்டுதல் நாம் படங்களின் முழு விநியோகத்திலிருந்தும் மாதிரி எடுக்க விரும்பவில்லை என்று வைத்துக்கொள்வோம், ஆனால் பட விளக்கத்தில் நிபந்தனைக்குட்பட்டது. நாங்கள் ஒரு பொதுவான படத்தை மாதிரி செய்ய விரும்பவில்லை, ஆனால் "சிவப்பு கண்கள் கொண்ட கருப்பு பூனை" என்ற விளக்கத்திற்கு பொருந்தக்கூடிய ஒரு படம். பொதுவாக, நாம் விநியோகத்திலிருந்து மாதிரியை எடுக்க விரும்புகிறோம், அங்கு படங்களின் வரம்புகள் மற்றும் படங்களின் வகைகளின் வரம்புகள் (ஒரு விளக்கம் "சிவப்பு கண்கள் கொண்ட கருப்பு பூனை" என்பது மிகவும் விரிவான வகுப்பாகும், மேலும் ஒரு வகுப்பு "பூனை" என்பது மிகவும் தெளிவற்ற விளக்கமாகும்). சத்தமான சேனல் மாதிரியின் கண்ணோட்டத்தை எடுத்துக் கொண்டால், செயல்முறையை பின்வருமாறு நாம் புரிந்து கொள்ள முடியும்ஃ விளக்கத்தின் மீது நிபந்தனைக்குட்பட்ட ஒரு படத்தை உருவாக்க, கோரிக்கையாளர் உண்மையில் ஒரு படத்தை மனதில் வைத்திருந்தார் என்று நாங்கள் கற்பனை செய்கிறோம், ஆனால் படம் ஒரு சத்தமான சேனல் வழியாக அனுப்பப்பட்டு குழப்பமாக வெளியே வந்தது. பட உருவாக்கம் என்பது கோரிக்கையாளர் மனதில் வைத்திருந்த அனுமானத்தைத் தவிர வேறில்லை. வேறு வார்த்தைகளில் கூறுவதானால், நிபந்தனைக்குட்பட்ட பட உருவாக்கம் என்பது வெறுமனே "ஒரு உரை மொழியிலிருந்து ஒரு சித்திர மொழிக்கு மொழிபெயர்ப்பது" ஆகும். பின்னர், சத்தம்-சேனல் மாதிரியைப் போலவே, பேயஸ் தேற்றத்தைப் பயன்படுத்துகிறோம், வேறு வார்த்தைகளில் கூறுவதானால், அனைத்து படங்களின் இடத்தைப் பற்றிய ஒரு நல்ல மாதிரியும், ஒரு நல்ல படத்திலிருந்து வகுப்பிற்கு மொழிபெயர்ப்பாளரும் இருந்தால், ஒரு வகுப்பு முதல் படத்திற்கு மொழிபெயர்ப்பாளரை "இலவசமாக" பெறுகிறோம். பின்தங்கிய பரவலுக்கான சமன்பாட்டில், ஸ்கோர் செயல்பாட்டை எங்கே மாற்றலாம், முன்பு விவரிக்கப்பட்டபடி பயிற்சி அளிக்கப்படுகிறது, மேலும் வேறுபடுத்தக்கூடிய பட வகைப்பாட்டைப் பயன்படுத்துவதன் மூலம் கண்டறியப்படுகிறது. வெப்பநிலையுடன் வகைப்படுத்துபவர்-வழிகாட்டப்பட்ட பரவல் மாதிரி மாதிரிகள், இது அதிகபட்சமாக ஒரு பிந்தைய மதிப்பீட்டைச் சுற்றி குவிந்துள்ளது. மாதிரியை அதிகபட்ச சாத்தியக்கூறு மதிப்பீட்டை நோக்கி நகர்த்த நாம் கட்டாயப்படுத்த விரும்பினால், தலைகீழ் வெப்பநிலையாக விளக்கமுடியும் இடத்தைப் பயன்படுத்தலாம். பரவல் மாதிரிகளின் சூழலில், இது பொதுவாக வழிகாட்டுதல் அளவுகோல் என்று அழைக்கப்படுகிறது. ஒரு உயர் மாதிரியை மையமாகக் கொண்ட விநியோகத்திலிருந்து மாதிரியை எடுக்க கட்டாயப்படுத்தும். இது பெரும்பாலும் உருவாக்கப்பட்ட படங்களின் தரத்தை மேம்படுத்துகிறது. இது வெறுமனே வகைப்படுத்தல் இல்லாத வழிகாட்டுதலுடன் (சி. எஃப். ஜி) எஸ்ஜிஎல்டி மூலம் செய்யப்படலாம், நம்மிடம் ஒரு வகைப்படுத்தல் இல்லையென்றால், பட மாதிரியிலிருந்து ஒன்றை நாம் இன்னும் பிரித்தெடுக்க முடியும்ஃ அத்தகைய மாதிரி பொதுவாக இரண்டையும் வழங்குவதன் மூலம் பயிற்சி அளிக்கப்படுகிறது மற்றும், அதை அனுமதிக்கிறது மற்றும் இரண்டையும் மாதிரியாக்குங்கள். மாதிரிகள் ஒரு பரவல் மாதிரியைப் பொறுத்தவரை, ஒருவர் அதை ஒரு தொடர்ச்சியான செயல்முறையாகக் கருதலாம், மேலும் ஒரு எஸ். டி. இ. யை ஒருங்கிணைப்பதன் மூலம் அதிலிருந்து மாதிரி எடுக்கலாம், அல்லது ஒருவர் அதை ஒரு தனித்துவமான செயல்முறையாகக் கருதலாம், மேலும் தனித்துவமான படிகளை மீண்டும் செய்வதன் மூலம் அதிலிருந்து மாதிரி எடுக்கலாம். "சத்தம் அட்டவணை" தேர்வு மாதிரிகளின் தரத்தையும் பாதிக்கலாம். டிடிபிஎம் கண்ணோட்டத்தில், ஒருவர் டிடிபிஎம் (சத்தத்துடன்) அல்லது டிடிஐஎம் (சரிசெய்யக்கூடிய அளவு சத்தத்துடன்) பயன்படுத்தலாம். ஒருவர் சத்தம் சேர்க்கும் வழக்கு சில நேரங்களில் மூதாதையர் மாதிரி என்று அழைக்கப்படுகிறது. சத்தம் மற்றும் சத்தம் இல்லாததற்கு இடையில் ஒருவர் இடைக்கணிப்பு செய்யலாம். சத்தத்தின் அளவு டிடிஐஎம் காகிதத்தில் குறிக்கப்படுகிறது ("ஈட்டா மதிப்பு"), எந்த சத்தத்தையும் குறிக்கவில்லை (டிடிஐஎம் இல் உள்ளதைப் போல), மற்றும் முழு சத்தத்தையும் குறிக்கிறது (டிடிபிஎம் இல் உள்ளதைப் போல). எஸ். டி. இ. யின் கண்ணோட்டத்தில், யூலர்-மருயாமா முறை, ஹியூனின் முறை, நேரியல் பல படி முறைகள் போன்ற எந்தவொரு எண் ஒருங்கிணைப்பு முறைகளையும் ஒருவர் பயன்படுத்தலாம். தனித்துவமான வழக்கைப் போலவே, ஒருங்கிணைப்பின் போது ஒருவர் சரிசெய்யக்கூடிய அளவு சத்தத்தைச் சேர்க்கலாம். பட உருவாக்கத்தின் பின்னணியில் மாதிரிகளின் கணக்கெடுப்பு மற்றும் ஒப்பீடு உள்ளது. டிடிபிஎம் மூலம் படங்களை உருவாக்க, நமக்கு ஒரு நரம்பியல் நெட்வொர்க் தேவை, இது ஒரு நேரத்தையும் சத்தம் படத்தையும் எடுக்கும், மேலும் அதிலிருந்து ஒரு சத்தத்தை கணிக்கிறது. சத்தத்தை கணிப்பது என்பது டினோயிச்டு படத்தைக் கணிப்பது போன்றது என்பதால், அதிலிருந்து கழித்தால், டினோயிச்டு கட்டமைப்புகள் நன்றாக வேலை செய்யும். எடுத்துக்காட்டாக, மிகவும் பொதுவான கட்டமைப்பு யு-நெட் ஆகும், இது படங்களைக் குறைப்பதிலும் சிறந்தது. படம் அல்லாத தரவுகளுக்கு, நாம் மற்ற கட்டமைப்புகளைப் பயன்படுத்தலாம். எடுத்துக்காட்டாக, டி. டி. பி. எம் மூலம் மனித இயக்கப் பாதையை மாதிரியாக்குகிறது. ஒவ்வொரு மனித இயக்கப் பாதையும் மூட்டு சுழற்சிகள் அல்லது நிலைகளால் குறிக்கப்படும் போஸ்களின் வரிசையாகும். இது ஒரு மின்மாற்றி நெட்வொர்க்கைப் பயன்படுத்தி சத்தம் குறைவான பாதையை உருவாக்குகிறது. கண்டிஷனிங் அடிப்படை பரவல் மாதிரி முழு விநியோகத்திலிருந்தும் நிபந்தனையின்றி மட்டுமே உருவாக்க முடியும். எடுத்துக்காட்டாக, இமேஜ்நெட்டில் கற்றுக்கொண்ட ஒரு பரவல் மாதிரி இமேஜ்நெட்டில் இருந்து சீரற்ற படத்தைப் போல தோற்றமளிக்கும் படங்களை உருவாக்கும். ஒரே ஒரு வகையிலிருந்து படங்களை உருவாக்க, ஒருவர் நிபந்தனையை விதிக்க வேண்டும். ஒருவர் எந்த நிபந்தனையை விதிக்க விரும்பினாலும், ஒருவர் முதலில் கண்டிஷனிங்கை மிதக்கும் புள்ளி எண்களின் திசையனாக மாற்ற வேண்டும், பின்னர் அதை அடிப்படை பரவல் மாதிரி நரம்பியல் வலையமைப்பில் செலுத்த வேண்டும். இருப்பினும், கண்டிஷனிங்கை ஒரு திசையனாக எவ்வாறு மாற்றுவது என்பதைத் தேர்ந்தெடுப்பதில் ஒருவருக்கு சுதந்திரம் உள்ளது. எடுத்துக்காட்டாக, நிலையான பரவல், குறுக்கு-கவனம் பொறிமுறையின் வடிவத்தில் நிபந்தனையை விதிக்கிறது, அங்கு வினவல் யு-நெட்வொர்க்கில் உள்ள படத்தின் இடைநிலை பிரதிநிதித்துவமாகும், மேலும் முக்கிய மற்றும் மதிப்பு இரண்டும் கண்டிஷனிங் திசையன்களாகும். கண்டிஷனிங் ஒரு படத்தின் சில பகுதிகளுக்கு மட்டுமே தேர்ந்தெடுக்கப்பட்ட முறையில் பயன்படுத்தப்படலாம், மேலும் கண்ட்ரோல்நெட்டில் பயன்படுத்தப்படுவதைப் போல அடிப்படை மாதிரியின் மீது புதிய வகையான நிபந்தனைகளை ஃபைனிடியூன் செய்யலாம். குறிப்பாக ஒரு எளிய எடுத்துக்காட்டாக, படம் வரைவதைக் கவனியுங்கள். நிபந்தனைகள், குறிப்பு படம், மற்றும், ஓவிய முகமூடி. பின்தங்கிய பரவல் செயல்முறையின் ஒவ்வொரு கட்டத்திலும் நிபந்தனை விதிக்கப்படுகிறது, முதல் மாதிரி, ஒரு சத்தமான பதிப்பு, பின்னர் மாற்றப்படுகிறது, அங்கு உறுப்பு வாரியாக பெருக்கம் என்று பொருள். கண்டிஷனிங் என்பது ஒரு குறிப்பிட்ட வகையிலிருந்து படங்களை உருவாக்குவது அல்லது ஒரு குறிப்பிட்ட தலைப்பின் படி (உரை-க்கு-படத்தைப் போல) மட்டுமல்ல. எடுத்துக்காட்டாக, மனித இயக்கத்தை உருவாக்குவதை நிரூபித்தது, மனித நடைபயணத்தின் ஆடியோ கிளிப் (ஒலிப்பதிவுடன் இயக்கத்தை ஒத்திசைக்க அனுமதிக்கிறது) அல்லது மனித ஓட்டத்தின் வீடியோ அல்லது மனித இயக்கத்தின் உரை விளக்கம் போன்றவற்றில் நிபந்தனை செய்யப்படுகிறது. ஒரு படத்தை உருவாக்க நீண்ட நேரம் எடுக்கும் என்பதால், ஒருவர் ஒரு அடிப்படை பரவல் மாதிரியால் ஒரு சிறிய படத்தை உருவாக்க முயற்சி செய்யலாம், பின்னர் அதை மற்ற மாதிரிகளால் உயர்த்தலாம். GAN, மின்மாற்றி அல்லது லான்சோஸ் மறுசீரமைப்பு போன்ற சமிக்ஞை செயலாக்க முறைகள் மூலம் மேம்பாடு செய்யப்படலாம். பரவல் மாதிரிகள் தங்களைத் தாங்களே மேல்நோக்கிச் செல்ல பயன்படுத்தப்படலாம். அடுக்கு பரவல் மாதிரி முற்போக்கான GAN பாணியில் ஒன்றன் பின் ஒன்றாக பல பரவல் மாதிரிகளை அடுக்கி வைக்கிறது. மிகக் குறைந்த நிலை ஒரு நிலையான பரவல் மாதிரியாகும், இது 32x32 படத்தை உருவாக்குகிறது, பின்னர் படம் மேல்நோக்கிச் செல்வதற்கு குறிப்பாக பயிற்சி பெற்ற ஒரு பரவல் மாதிரியால் உயர்த்தப்படும், மேலும் செயல்முறை மீண்டும் நிகழ்கிறது. எடுத்துக்காட்டுகள் இந்த பிரிவு சில குறிப்பிடத்தக்க பரவல் மாதிரிகளை சேகரித்து, அவற்றின் கட்டிடக்கலையை சுருக்கமாக விவரிக்கிறது. ஓபன்ஏஐயின் DALL-E தொடர்கள் படங்களின் உரை-நிபந்தனை பரவல் மாதிரிகள் ஆகும். DALL-E (2021) இன் முதல் பதிப்பு உண்மையில் ஒரு பரவல் மாதிரி அல்ல. அதற்கு பதிலாக, இது ஒரு மின்மாற்றி கட்டமைப்பைப் பயன்படுத்துகிறது, இது டோக்கன்களின் வரிசையை உருவாக்குகிறது, பின்னர் இது ஒரு தனித்துவமான VAE இன் டிகோடர் மூலம் ஒரு படமாக மாற்றப்படுகிறது. DALL-E உடன் வெளியிடப்பட்டது CLIP வகைப்படுத்தியாகும், இது DALL-E ஆல் பயன்படுத்தப்பட்டது, இது உருவாக்கப்பட்ட படங்களை உரைக்கு எவ்வளவு நெருக்கமாக பொருந்துகிறது என்பதைப் பொறுத்து தரவரிசைப்படுத்த பயன்படுத்தப்பட்டது. GLIDE (2022-03) என்பது ஒரு 3.5-billion பரவல் மாதிரியாகும், மேலும் ஒரு சிறிய பதிப்பு பொதுவில் வெளியிடப்பட்டது. விரைவில், DALL-E 2 வெளியிடப்பட்டது (2022-04). DALL-E2 என்பது ஒரு 3.5-billion அடுக்கு பரவல் மாதிரியாகும், இது "CLIP படக் குறியீட்டை தலைகீழாக மாற்றுவதன்" மூலம் உரையிலிருந்து படங்களை உருவாக்குகிறது, இந்த நுட்பத்தை அவர்கள் "unCLIP" என்று அழைத்தனர். நிலைத்தன்மை AI ஆல் வெளியிடப்பட்ட நிலைத்தன்மை AI நிலையான பரவல் (2022-08), ஒரு மறைந்த பரவல் மாதிரி (860 மில்லியன் அளவுருக்கள்), ஒரு VAE மற்றும் ஒரு உரை குறியாக்கியைக் கொண்டுள்ளது. பரவல் மாதிரி ஒரு யு-நெட் ஆகும், இது நிபந்தனைக்குட்பட்ட பட உருவாக்கத்தை அனுமதிக்க குறுக்கு-கவனம் தொகுதிகளைக் கொண்டுள்ளது. மற்றவை கூகிள் இமேஜென் மற்றும் இமேஜென் வீடியோ ஆகியவை படங்கள் மற்றும் வீடியோக்களை உருவாக்குவதற்கான இரண்டு அடுக்கு பரவல் மாதிரிகள் ஆகும். உரை-நிபந்தனை தலைமுறைக்கான உரையை குறியாக்கம் செய்ய அவர்கள் மின்மாற்றி அடிப்படையிலான மொழி மாதிரியான T5-XXL ஐப் பயன்படுத்துகின்றனர். மெட்டா AI இன் மேக்-அ-வீடியோ உரையிலிருந்து வீடியோக்களை உருவாக்குகிறது. டிரீம்ஃப்யூஷன் உரையிலிருந்து 3டி மாதிரிகளை உருவாக்குகிறது. மேலும் காண்கஃ பரவல் செயல்முறை மார்கோவ் சங்கிலி மாறுபாடு அனுமானம் மாறுபாடு தன்னியக்க குறியீட்டாளர் மேலும் வாசிப்பு வழிகாட்டுதல்ஃ பரவல் மாதிரிகளுக்கான ஒரு ஏமாற்று குறியீடு. வகைப்படுத்தல் வழிகாட்டுதல் மற்றும் வகைப்படுத்தல் இல்லாத வழிகாட்டுதலின் கண்ணோட்டம், கணித விவரங்களில் ஒளி. கணித விவரங்கள் கட்டுரையில் தவிர்க்கப்பட்டன. குறிப்புகள் மார்கோவ் மாதிரிகள் இயந்திர கற்றல் வழிமுறைகள்