Diffusion model
मशीन लर्निंग में, प्रसार मॉडल, जिन्हें प्रसार संभावित मॉडल या स्कोर-आधारित उत्पादक मॉडल के रूप में भी जाना जाता है, उत्पादक मॉडल का एक वर्ग है। प्रसार मॉडल का लक्ष्य एक प्रसार प्रक्रिया सीखना है जो किसी दिए गए डेटासेट के प्रायिकता वितरण को उत्पन्न करता है। इसमें मुख्य रूप से तीन प्रमुख घटक होते हैंः आगे की प्रक्रिया, विपरीत प्रक्रिया और नमूना लेने की प्रक्रिया। कंप्यूटर दृष्टि में उपयोग किए जाने वाले सामान्य प्रसार मॉडलिंग ढांचे के तीन उदाहरण प्रसार संभावित मॉडल, शोर वातानुकूलित स्कोर नेटवर्क और यादृच्छिक विभेदक समीकरण हैं। विसरण मॉडल को विभिन्न प्रकार के कार्यों के लिए लागू किया जा सकता है, जिसमें छवि डीनोइज़िंग, इनपेन्टिंग, सुपर-रिज़ॉल्यूशन और छवि निर्माण शामिल हैं। उदाहरण के लिए, छवि निर्माण में, एक तंत्रिका नेटवर्क को शोर को दूर करना सीखकर अतिरिक्त गौसी शोर के साथ छवियों को विकृत करने के लिए प्रशिक्षित किया जाता है। प्रशिक्षण पूरा होने के बाद, इसका उपयोग यादृच्छिक शोर से बनी छवि की आपूर्ति करके छवि निर्माण के लिए किया जा सकता है ताकि नेटवर्क को अस्वीकार किया जा सके। कई प्रकार के वास्तविक-विश्व डेटा उत्पन्न करने के लिए प्रसार मॉडल लागू किए गए हैं, जिनमें से सबसे प्रसिद्ध डी. ए. एल. एल.-ई और स्थिर प्रसार जैसे पाठ-सशर्त छवि जनरेटर हैं। अधिक उदाहरण लेख के बाद के खंड में हैं। गैर-संतुलन ऊष्मागतिकी प्रसार मॉडल को 2015 में एक ऐसे मॉडल को सीखने के लिए एक विधि के रूप में पेश किया गया था जो एक अत्यधिक जटिल संभावना वितरण से नमूना ले सकता है। उन्होंने गैर-संतुलन ऊष्मागतिकी, विशेष रूप से प्रसार से तकनीकों का उपयोग किया। उदाहरण के लिए, विचार करें कि प्राकृतिक रूप से होने वाली सभी तस्वीरों के वितरण का मॉडल कैसे बनाया जा सकता है। प्रत्येक छवि सभी छवियों के स्थान में एक बिंदु है, और प्राकृतिक रूप से होने वाली तस्वीरों का वितरण अंतरिक्ष में एक "बादल" है, जो बार-बार छवियों में शोर जोड़कर, बाकी छवि स्थान तक फैल जाता है, जब तक कि बादल गासियन वितरण से अप्रभेद्य हो जाता है। एक मॉडल जो प्रसार को लगभग पूर्ववत कर सकता है, उसका उपयोग मूल वितरण से नमूना लेने के लिए किया जा सकता है। इसका अध्ययन "गैर-संतुलन" ऊष्मागतिकी में किया जाता है, क्योंकि अंतिम वितरण के विपरीत प्रारंभिक वितरण संतुलन में नहीं होता है। पी. डी. एफ. के साथ संतुलन वितरण गौसी वितरण है। यह केवल तापमान 1 पर एक संभावित कुएँ में कणों का बोल्ट्जमैन वितरण है। प्रारंभिक वितरण, संतुलन से बहुत बाहर होने के कारण, संतुलन वितरण की ओर फैल जाएगा, जिससे पक्षपाती यादृच्छिक कदम होंगे जो शुद्ध यादृच्छिकता (जैसे ब्राउनियन वॉकर) का योग हैं और संभावित कुएं के नीचे ढाल उतरता है। यादृच्छिकता आवश्यक हैः यदि कणों को केवल ढाल अवरोहण से गुजरना था, तो वे सभी वितरण को ध्वस्त करते हुए मूल में गिर जाएंगे। डीनोइज़िंग डिफ्यूज़न प्रोबेबिलिस्टिक मॉडल (डी. डी. पी. एम.) 2020 के पेपर में डीनोइज़िंग डिफ्यूज़न प्रोबेबिलिस्टिक मॉडल (डी. डी. पी. एम.) का प्रस्ताव रखा गया, जो परिवर्तनकारी अनुमान द्वारा पिछली विधि में सुधार करता है। मॉडल को प्रस्तुत करने के लिए, हमें कुछ संकेतन की आवश्यकता है। स्थिरांक होते हैं। माध्य और विचरण के साथ सामान्य वितरण है, और पर प्रायिकता घनत्व है। एक ऊर्ध्वाधर पट्टी अनुकूलन को दर्शाती है। एक आगे प्रसार प्रक्रिया कुछ प्रारंभिक बिंदु पर शुरू होती है, जहाँ संभावना वितरण सीखा जाना है, फिर बार-बार इसमें शोर जोड़ें जहाँ से आई. आई. डी. के नमूने आते हैं। संपूर्ण प्रसार प्रक्रिया तब संतुष्ट होती है-जहाँ एक सामान्यीकरण स्थिरांक होता है और अक्सर छोड़ दिया जाता है। विशेष रूप से, हम ध्यान देते हैं कि यह एक गौसी प्रक्रिया है, जो हमें पुनर्परिमाण में काफी स्वतंत्रता प्रदान करती है। उदाहरण के लिए, गौसी प्रक्रिया के साथ मानक हेरफेर द्वारा, विशेष रूप से, ध्यान दें कि बड़े के लिए, चर में परिवर्तित हो जाता है। अर्थात्, एक लंबी पर्याप्त प्रसार प्रक्रिया के बाद, हम कुछ के साथ समाप्त होते हैं जो मूल के सभी निशान चले जाने के साथ बहुत करीब है। उदाहरण के लिए, हम सभी मध्यवर्ती चरणों से गुजरने के बजाय सीधे "एक चरण में" नमूना ले सकते हैं। बैकवर्ड डिफ्यूजन डी. डी. पी. एम. का मुख्य विचार एक तंत्रिका नेटवर्क का उपयोग करना है। नेटवर्क दो तर्कों को लेता है, और एक वेक्टर और एक मैट्रिक्स का उत्पादन करता है, जैसे कि आगे प्रसार प्रक्रिया में प्रत्येक चरण को लगभग पूर्ववत किया जा सकता है। यह तब हमें द्वारा परिभाषित एक पिछड़े प्रसार प्रक्रिया देता है लक्ष्य अब ऐसे मापदंडों को सीखना है जो यथासंभव करीब हों। ऐसा करने के लिए, हम परिवर्तनशील अनुमान के साथ अधिकतम संभावना अनुमान का उपयोग करते हैं। परिवर्तनशील अनुमान ईएलबीओ असमानता बताती है कि, और एक और अपेक्षा लेते हुए, हम पाते हैं हम देखते हैं कि दाईं ओर मात्रा को अधिकतम करने से हमें देखे गए डेटा की संभावना पर कम सीमा मिलेगी। यह हमें परिवर्तनशील अनुमान लगाने की अनुमति देता है। लॉस फंक्शन को परिभाषित करें और अब लक्ष्य स्टोकेस्टिक ग्रेडिएंट डिसेंट द्वारा नुकसान को कम करना है। अभिव्यक्ति को सरल बनाया जा सकता है जहाँ तक पैरामीटर पर निर्भर नहीं है, और इस प्रकार इसे नजरअंदाज किया जा सकता है। चूँकि यह भी पैरामीटर पर निर्भर नहीं करता है, इसलिए इस शब्द को भी नजरअंदाज किया जा सकता है। यह केवल कम करने के लिए छोड़ देता है। चूंकि, यह सुझाव देता है कि हमें उपयोग करना चाहिए; हालाँकि, नेटवर्क की पहुंच नहीं है, और इसलिए इसे इसके बजाय इसका अनुमान लगाना पड़ता है। अब, चूंकि, हम लिख सकते हैं, कुछ अज्ञात गौसी शोर कहाँ है। अब हम देखते हैं कि अनुमान लगाना अनुमान लगाने के बराबर है। इसलिए, नेटवर्क को एक शोर वेक्टर आउटपुट करने दें, और इसे भविष्यवाणी करने दें कि यह डिजाइन करना बाकी है। डी. डी. पी. एम. पेपर ने इसे न सीखने का सुझाव दिया (क्योंकि इसके परिणामस्वरूप यह "अस्थिर प्रशिक्षण और खराब नमूना गुणवत्ता" था), लेकिन इसे कुछ मूल्य पर ठीक किया, जहां दोनों में से किसी ने समान प्रदर्शन किया। इसके साथ, नुकसान सरल हो जाता है जिसे यादृच्छिक प्रवणता अवरोहण द्वारा कम किया जा सकता है। शोधपत्र ने अनुभवजन्य रूप से उल्लेख किया कि एक और भी सरल हानि कार्य के परिणामस्वरूप बेहतर मॉडल बने। स्कोर-आधारित उत्पादक मॉडल, स्कोर-आधारित उत्पादक मॉडल प्रसार मॉडलिंग का एक और सूत्रीकरण है। इन्हें शोर सशर्त स्कोर नेटवर्क (एन. सी. एस. एन.) या लैंगविन डायनामिक्स (एस. एम. एल. डी.) के साथ स्कोर-मिलान भी कहा जाता है। स्कोर मिलान स्कोर कार्यों का विचार छवि निर्माण की समस्या पर विचार करें। आइए एक छवि का प्रतिनिधित्व करें, और सभी संभावित छवियों पर प्रायिकता वितरण होने दें। यदि हमारे पास स्वयं है, तो हम निश्चित रूप से कह सकते हैं कि एक निश्चित छवि कितनी संभावित है। हालाँकि, यह सामान्य रूप से कठिन है। अक्सर, हम एक निश्चित छवि की पूर्ण संभावना को जानने में रुचि नहीं रखते हैं। इसके बजाय, हम आमतौर पर केवल यह जानने में रुचि रखते हैं कि एक निश्चित छवि की तुलना उसके निकटतम पड़ोसियों से कितनी संभव है-जैसे। बिल्ली की छवि के कुछ छोटे रूपों की तुलना में इसकी कितनी अधिक संभावना है? क्या इसकी अधिक संभावना है यदि छवि में दो मूंछें हैं, या तीन, या कुछ गौसी शोर जोड़ा गया है? नतीजतन, हम वास्तव में अपने आप में काफी रुचि नहीं रखते हैं, बल्कि। इसके दो प्रमुख प्रभाव हैंः एक, हमें अब सामान्य करने की आवश्यकता नहीं है, लेकिन किसी का भी उपयोग कर सकते हैं, जहां कोई अज्ञात स्थिरांक है जो हमारे लिए कोई चिंता का विषय नहीं है। दो, हम पड़ोसियों की तुलना कर रहे हैं, मान लीजिए कि स्कोर कार्य क्या है; फिर विचार करें कि हम क्या कर सकते हैं। जैसा कि यह पता चला है, हमें ऊष्मागतिकी का उपयोग करके नमूना लेने की अनुमति देता है। विशेष रूप से, यदि हमारे पास एक स्थितिज ऊर्जा फलन है, और स्थितिज कुएँ में बहुत सारे कण हैं, तो ऊष्मागतिकीय संतुलन में वितरण बोल्ट्ज़मैन वितरण है। तापमान पर, बोल्ट्जमैन वितरण बिल्कुल है। इसलिए, मॉडल के लिए, हम किसी भी सुविधाजनक वितरण (जैसे मानक गौसियन वितरण) पर नमूने के कण के साथ शुरू कर सकते हैं, फिर लैंगविन समीकरण के अनुसार आगे की ओर कण की गति का अनुकरण करें और बोल्ट्जमैन वितरण, फोकर-प्लैंक समीकरण द्वारा, अद्वितीय ऊष्मागतिकीय संतुलन है। तो कोई फर्क नहीं पड़ता कि वितरण क्या है, वितरण में अभिसरण का वितरण के रूप में। एक घनत्व को देखते हुए, हम एक स्कोर फ़ंक्शन सन्निकटन सीखना चाहते हैं। यह अंक मिलान है। आमतौर पर, स्कोर मिलान को फिशर विचलन कार्य को न्यूनतम करने के रूप में औपचारिक रूप दिया जाता है। समाकलन का विस्तार करके, और भागों द्वारा एक समाकलन करके, हमें एक हानि कार्य देता है जिसे यादृच्छिक प्रवणता अवरोहण द्वारा कम किया जा सकता है। मान लीजिए कि हमें छवियों के वितरण को मॉडल करने की आवश्यकता है, और हम एक सफेद-शोर छवि चाहते हैं। अब, अधिकांश सफेद-शोर वाली छवियाँ वास्तविक छवियों की तरह नहीं दिखती हैं, इसलिए बड़े आकार के चित्रों के लिए। यह स्कोर फ़ंक्शन को सीखने के लिए एक समस्या प्रस्तुत करता है, क्योंकि यदि एक निश्चित बिंदु के आसपास कोई नमूने नहीं हैं, तो हम उस बिंदु पर स्कोर फ़ंक्शन को नहीं सीख सकते हैं। यदि हम उस बिंदु पर अंक फलन को नहीं जानते हैं, तो हम एक कण पर समय-विकास समीकरण लागू नहीं कर सकते हैंः इस समस्या से निपटने के लिए, हम एनीलिंग करते हैं। यदि सफेद-शोर वितरण से बहुत अलग है, तो धीरे-धीरे शोर जोड़ें जब तक कि यह एक से अप्रभेद्य न हो जाए। अर्थात्, हम एक फॉरवर्ड डिफ्यूजन करते हैं, फिर स्कोर फंक्शन सीखते हैं, फिर बैकवर्ड डिफ्यूजन करने के लिए स्कोर फंक्शन का उपयोग करते हैं। निरंतर प्रसार प्रक्रियाएँ आगे प्रसार प्रक्रिया फिर से आगे प्रसार प्रक्रिया पर विचार करें, लेकिन इस बार निरंतर समय मेंः सीमा लेने से, हम एक यादृच्छिक अंतर समीकरण के रूप में एक निरंतर प्रसार प्रक्रिया प्राप्त करते हैंः जहाँ एक वीनर प्रक्रिया (बहुआयामी ब्राउनियन गति) है। अब, समीकरण ठीक ओवरडैम्प्ड लैंगविन समीकरण का एक विशेष मामला है जहाँ प्रसार टेंसर है, तापमान है, और संभावित ऊर्जा क्षेत्र है। यदि हम प्रतिस्थापित करते हैं, तो हम उपरोक्त समीकरण को पुनर्प्राप्त करते हैं। यह बताता है कि "लैंगविन डायनामिक्स" वाक्यांश का उपयोग कभी-कभी प्रसार मॉडल में क्यों किया जाता है। अब उपरोक्त समीकरण एकल कण की यादृच्छिक गति के लिए है। मान लीजिए कि हमारे पास समय के अनुसार वितरित कणों का एक बादल है, तो लंबे समय के बाद, कणों का बादल स्थिर वितरण में बस जाएगा। समय पर कणों के बादल का घनत्व होने दें, फिर हमारे पास है और लक्ष्य किसी तरह प्रक्रिया को उलटना है, ताकि हम अंत से शुरू कर सकें और शुरुआत में वापस फैल सकें। फोकर-प्लैंक समीकरण के अनुसार, बादल का घनत्व अंतरिक्ष के आयाम के अनुसार विकसित होता है, और यह लाप्लास प्रचालक है। पश्च प्रसार प्रक्रिया यदि हमने समय के लिए हल किया है, तो हम बादल के विकास को बिल्कुल उलट सकते हैं। मान लीजिए कि हम घनत्व वाले कणों के एक और बादल से शुरू करते हैं, और बादल में कणों को फोकर-प्लैंक समीकरण में जोड़कर उसके अनुसार विकसित होने देते हैं, हम पाते हैं। इस प्रकार बिंदुओं का यह बादल मूल बादल है, जो पीछे की ओर विकसित हो रहा है। शोर सशर्त स्कोर नेटवर्क (एन. सी. एस. एन.) निरंतर सीमा पर, और इसलिए विशेष रूप से, हम देखते हैं कि हम मध्यवर्ती चरणों से गुजरे बिना निरंतर प्रसार प्रक्रिया में किसी भी बिंदु से सीधे नमूना ले सकते हैं, पहले नमूना लेकर, फिर प्राप्त करें। अर्थात्, हम जल्दी से किसी के लिए भी नमूना ले सकते हैं। अब, एक निश्चित संभाव्यता वितरण को परिभाषित करें, फिर स्कोर-मिलान हानि कार्य को अपेक्षित फिशर विचलन के रूप में परिभाषित किया जाता हैः प्रशिक्षण के बाद, इसलिए हम पहले नमूने द्वारा पीछे की ओर प्रसार प्रक्रिया कर सकते हैं, फिर एस. डी. ई. को एकीकृत कर सकते हैंः यह किसी भी एस. डी. ई. एकीकरण विधि द्वारा किया जा सकता है, जैसे कि यूलर-मरूयामा विधि। "शोर सशर्त स्कोर नेटवर्क" नाम को इस प्रकार समझाया गया हैः "नेटवर्क", क्योंकि इसे एक तंत्रिका नेटवर्क के रूप में लागू किया जाता है। "स्कोर", क्योंकि नेटवर्क के आउटपुट की व्याख्या स्कोर फ़ंक्शन को अनुमानित करने के रूप में की जाती है। "शोर सशर्त", क्योंकि एक अतिरिक्त गौसी शोर द्वारा धुंधला होने के बराबर है जो समय के साथ बढ़ता है, और इसलिए स्कोर फ़ंक्शन जोड़े गए शोर की मात्रा पर निर्भर करता है। उनकी समतुल्यता डी. डी. पी. एम. और अंक-आधारित उत्पादक मॉडल समतुल्य हैं। इसका मतलब है कि डी. डी. पी. एम. का उपयोग करके प्रशिक्षित नेटवर्क का उपयोग एन. सी. एस. एन. के रूप में किया जा सकता है, और इसके विपरीत। हम जानते हैं कि, इसलिए ट्वीडी के सूत्र के अनुसार, हमारे पास है जैसा कि पहले वर्णित किया गया है, डी. डी. पी. एम. हानि फलन कहीं भी है। चर के परिवर्तन से, और अंदर का शब्द कम से कम वर्ग प्रतिगमन बन जाता है, इसलिए यदि नेटवर्क वास्तव में वैश्विक न्यूनतम नुकसान तक पहुंच जाता है, तो हमारे पास है। अब, पिछड़े समीकरण की निरंतर सीमा हमें सटीक रूप से अंक-आधारित प्रसार के समान समीकरण देती हैः मुख्य रूप डीनोइज़िंग डिफ्यूज़न इम्प्लिसिट मॉडल (डी. डी. आई. एम.) छवियों को उत्पन्न करने के लिए मूल डी. डी. पी. एम. विधि धीमी है, क्योंकि फॉरवर्ड डिफ्यूज़न प्रक्रिया आमतौर पर वितरण को गौसियन के करीब दिखाने के लिए लेती है। हालाँकि इसका मतलब है कि पश्च प्रसार प्रक्रिया भी 1000 कदम उठाती है। फॉरवर्ड डिफ्यूजन प्रक्रिया के विपरीत, जो सभी के लिए गॉसियन के रूप में चरणों को छोड़ सकती है, बैकवर्ड डिफ्यूजन प्रक्रिया चरणों को छोड़ने की अनुमति नहीं देती है। उदाहरण के लिए, नमूने के लिए मॉडल को पहले नमूने की आवश्यकता होती है। सीधे नमूना लेने का प्रयास करने के लिए हमें हाशिए पर रखने की आवश्यकता होगी, जो आम तौर पर दुर्गम है। डी. डी. आई. एम. डी. डी. पी. एम. हानि पर प्रशिक्षित किसी भी मॉडल को लेने की एक विधि है, और इसका उपयोग कुछ चरणों के साथ नमूना लेने के लिए किया जाता है, जिसमें गुणवत्ता की एक समायोज्य मात्रा का त्याग किया जाता है। मूल डी. डी. पी. एम. डी. डी. आई. एम. का एक विशेष मामला है। अव्यक्त प्रसार मॉडल (एल. डी. एम.) चूंकि प्रसार मॉडल संभाव्यता वितरण मॉडलिंग के लिए एक सामान्य विधि है, यदि कोई छवियों पर एक वितरण मॉडल करना चाहता है, तो कोई पहले एक एन्कोडर द्वारा छवियों को निम्न-आयामी स्थान में एन्कोड कर सकता है, फिर एन्कोडेड छवियों पर वितरण मॉडल करने के लिए एक प्रसार मॉडल का उपयोग कर सकता है। फिर एक छवि उत्पन्न करने के लिए, कोई भी प्रसार मॉडल से नमूना ले सकता है, फिर इसे एक छवि में डिकोड करने के लिए एक डिकोडर का उपयोग कर सकता है। एन्कोडर-डिकोडर जोड़ी अक्सर एक वैरिएशनल ऑटोएन्कोडर (वी. ए. ई.) होती है। वर्गीकरण मार्गदर्शन मान लीजिए कि हम छवियों के पूरे वितरण से नमूना नहीं लेना चाहते हैं, बल्कि छवि विवरण पर सशर्त हैं। हम एक सामान्य छवि का नमूना नहीं लेना चाहते हैं, लेकिन एक ऐसी छवि जो "लाल आंखों वाली काली बिल्ली" के विवरण से मेल खाती है। आम तौर पर, हम वितरण से नमूना लेना चाहते हैं, जहां छवियों पर सीमाएं हैं, और छवियों के वर्गों पर सीमाएं हैं (एक विवरण "लाल आंखों वाली काली बिल्ली" सिर्फ एक बहुत ही विस्तृत वर्ग है, और एक वर्ग "बिल्ली" सिर्फ एक बहुत ही अस्पष्ट विवरण है)। शोर चैनल मॉडल के परिप्रेक्ष्य को लेते हुए, हम इस प्रक्रिया को निम्नानुसार समझ सकते हैंः विवरण पर सशर्त एक छवि उत्पन्न करने के लिए, हम कल्पना करते हैं कि अनुरोधकर्ता के दिमाग में वास्तव में एक छवि थी, लेकिन छवि को एक शोर चैनल के माध्यम से पारित किया जाता है और विकृत रूप से बाहर आ जाता है। छवि निर्माण तब और कुछ नहीं बल्कि अनुमान लगाना है जो अनुरोधकर्ता के दिमाग में था। दूसरे शब्दों में, सशर्त छवि निर्माण केवल "एक पाठ्य भाषा से एक सचित्र भाषा में अनुवाद" है। फिर, शोर-चैनल मॉडल की तरह, हम बेयस प्रमेय का उपयोग दूसरे शब्दों में करने के लिए करते हैं, अगर हमारे पास सभी छवियों के स्थान का एक अच्छा मॉडल है, और एक अच्छा छवि-से-श्रेणी अनुवादक है, तो हमें एक वर्ग-से-छवि अनुवादक "मुफ्त में" मिलता है। बैकवर्ड डिफ्यूजन के समीकरण में, स्कोर को पहले वर्णित के रूप में प्रशिक्षित किया जा सकता है, और एक अवकल छवि वर्गीकरण का उपयोग करके पाया जा सकता है। तापमान के साथ से वर्गीकरणकर्ता-निर्देशित प्रसार मॉडल के नमूने, जो अधिकतम एक पश्च अनुमान के आसपास केंद्रित है। यदि हम मॉडल को अधिकतम संभावना अनुमान की ओर बढ़ने के लिए मजबूर करना चाहते हैं, तो हम इसका उपयोग कर सकते हैं जहां व्युत्क्रम तापमान के रूप में व्याख्या की जा सकती है। प्रसार मॉडल के संदर्भ में, इसे आमतौर पर मार्गदर्शन पैमाना कहा जाता है। एक उच्च मॉडल को चारों ओर केंद्रित वितरण से नमूना लेने के लिए मजबूर करेगा। यह अक्सर उत्पन्न छवियों की गुणवत्ता में सुधार करता है। यह केवल वर्गीकरण-मुक्त मार्गदर्शन (सी. एफ. जी.) के साथ एस. जी. एल. डी. द्वारा किया जा सकता है यदि हमारे पास कोई वर्गीकरणकर्ता नहीं है, तो हम अभी भी छवि मॉडल से ही एक को निकाल सकते हैंः इस तरह के मॉडल को आमतौर पर दोनों के साथ प्रस्तुत करके प्रशिक्षित किया जाता है और इसे और दोनों मॉडल बनाने की अनुमति दी जाती है। एक प्रसार मॉडल को देखते हुए, कोई भी इसे या तो एक निरंतर प्रक्रिया के रूप में मान सकता है, और एक एस. डी. ई. को एकीकृत करके इसका नमूना ले सकता है, या कोई इसे एक असतत प्रक्रिया के रूप में मान सकता है, और असतत चरणों को दोहराकर इसका नमूना ले सकता है। "शोर अनुसूची" का चुनाव भी नमूनों की गुणवत्ता को प्रभावित कर सकता है। डी. डी. पी. एम. के परिप्रेक्ष्य में, कोई भी डी. डी. पी. एम. (शोर के साथ), या डी. डी. आई. एम. (समायोजन योग्य मात्रा में शोर के साथ) का उपयोग कर सकता है। जिस मामले में कोई शोर करता है उसे कभी-कभी पैतृक नमूनाकरण कहा जाता है। शोर और बिना शोर के बीच अंतरित किया जा सकता है। डी. डी. आई. एम. कागज में शोर की मात्रा ("एटा मान") को दर्शाया जाता है, जिसमें कोई शोर नहीं होता है (जैसा कि निर्धारक डी. डी. आई. एम. में होता है), और पूर्ण शोर (जैसा कि डी. डी. पी. एम. में होता है) को दर्शाया जाता है। एस. डी. ई. के परिप्रेक्ष्य में, कोई भी संख्यात्मक एकीकरण विधियों का उपयोग कर सकता है, जैसे कि यूलर-मरयामा विधि, ह्यून की विधि, रैखिक बहु-चरण विधियाँ, आदि। जैसे असतत मामले में, कोई भी एकीकरण के दौरान एक समायोज्य मात्रा में शोर जोड़ सकता है। छवि निर्माण के संदर्भ में नमूनों का एक सर्वेक्षण और तुलना है। वास्तुकला प्रसार मॉडल का विकल्प डी. डी. पी. एम. द्वारा छवियां उत्पन्न करने के लिए, हमें एक तंत्रिका नेटवर्क की आवश्यकता होती है जो एक समय और एक शोर छवि लेता है, और इससे एक शोर की भविष्यवाणी करता है। चूँकि शोर की भविष्यवाणी करना डीनोइज़्ड छवि की भविष्यवाणी करने के समान है, फिर इसे घटाना, डीनोइज़िंग आर्किटेक्चर अच्छी तरह से काम करते हैं। उदाहरण के लिए, सबसे आम वास्तुकला यू-नेट है, जो छवियों को डीनोइज़ करने में भी अच्छा है। गैर-छवि डेटा के लिए, हम अन्य संरचनाओं का उपयोग कर सकते हैं। उदाहरण के लिए, डी. डी. पी. एम. द्वारा मानव गति प्रक्षेपवक्र का मॉडल। प्रत्येक मानव गति प्रक्षेपवक्र मुद्राओं का एक क्रम है, जिसे या तो संयुक्त घूर्णन या स्थितियों द्वारा दर्शाया जाता है। यह एक शोर से कम शोर प्रक्षेपवक्र उत्पन्न करने के लिए एक ट्रांसफॉर्मर नेटवर्क का उपयोग करता है। कंडीशनिंग आधार प्रसार मॉडल केवल पूरे वितरण से बिना शर्त उत्पन्न कर सकता है। उदाहरण के लिए, इमेजनेट पर सीखा गया एक प्रसार मॉडल ऐसी छवियां उत्पन्न करेगा जो इमेजनेट से यादृच्छिक छवि की तरह दिखती हैं। केवल एक श्रेणी से चित्र बनाने के लिए, किसी को शर्त लागू करने की आवश्यकता होगी। कोई भी जो भी शर्त लागू करना चाहता है, उसे पहले कंडीशनिंग को फ्लोटिंग पॉइंट नंबरों के वेक्टर में बदलने की आवश्यकता होती है, फिर इसे अंतर्निहित प्रसार मॉडल तंत्रिका नेटवर्क में फीड करने की आवश्यकता होती है। हालाँकि, किसी को यह चुनने की स्वतंत्रता है कि कंडीशनिंग को वेक्टर में कैसे परिवर्तित किया जाए। उदाहरण के लिए, स्थिर प्रसार, क्रॉस-अटेंशन तंत्र के रूप में अनुकूलन लागू करता है, जहां प्रश्न यू-नेट में छवि का एक मध्यवर्ती प्रतिनिधित्व है, और कुंजी और मूल्य दोनों अनुकूलन वैक्टर हैं। अनुकूलन को चुनिंदा रूप से केवल एक छवि के कुछ हिस्सों पर लागू किया जा सकता है, और नए प्रकार की स्थितियों को आधार मॉडल पर ठीक किया जा सकता है, जैसा कि कंट्रोलनेट में उपयोग किया जाता है। एक विशेष रूप से सरल उदाहरण के रूप में, चित्रकारी पर विचार करें। शर्तें हैं, संदर्भ छवि, और, चित्रकारी मुखौटा। अनुकूलन को पश्च प्रसार प्रक्रिया के प्रत्येक चरण में लगाया जाता है, पहले नमूने द्वारा, एक शोर संस्करण, फिर के साथ प्रतिस्थापित किया जाता है, जहाँ का अर्थ है तत्ववार गुणन। कंडीशनिंग केवल एक विशिष्ट श्रेणी से चित्र बनाने तक सीमित नहीं है, या एक विशिष्ट शीर्षक के अनुसार (जैसा कि टेक्स्ट-टू-इमेज में है)। उदाहरण के लिए, मानव गति उत्पन्न करने का प्रदर्शन, मानव चलने की एक ऑडियो क्लिप पर वातानुकूलित (एक साउंडट्रैक के लिए गति समन्वय की अनुमति देता है), या मानव दौड़ने का वीडियो, या मानव गति का एक पाठ विवरण, आदि। जैसे-जैसे छवि बनाने में लंबा समय लगता है, कोई भी एक आधार प्रसार मॉडल द्वारा एक छोटी छवि उत्पन्न करने का प्रयास कर सकता है, फिर इसे अन्य मॉडल द्वारा उन्नत किया जा सकता है। अपस्केलिंग जी. ए. एन., ट्रांसफॉर्मर, या सिग्नल प्रोसेसिंग विधियों जैसे लैंकोस रीसैम्पलिंग द्वारा किया जा सकता है। प्रसार मॉडल का उपयोग स्वयं अपस्केलिंग करने के लिए किया जा सकता है। कैस्केडिंग डिफ्यूजन मॉडल प्रगतिशील जी. ए. एन. की शैली में एक के बाद एक कई डिफ्यूजन मॉडल ढेर करता है। सबसे निचला स्तर एक मानक प्रसार मॉडल है जो 32x32 छवि उत्पन्न करता है, फिर छवि को विशेष रूप से उन्नयन के लिए प्रशिक्षित प्रसार मॉडल द्वारा उन्नत किया जाएगा, और प्रक्रिया दोहराई जाएगी। उदाहरण यह खंड कुछ उल्लेखनीय प्रसार मॉडल एकत्र करता है, और संक्षेप में उनकी वास्तुकला का वर्णन करता है। ओपनएआई द्वारा डी. ए. एल. एल.-ई. श्रृंखला छवियों के पाठ-सशर्त प्रसार मॉडल हैं। DALL-E (2021) का पहला संस्करण वास्तव में एक प्रसार मॉडल नहीं है। इसके बजाय, यह एक ट्रांसफॉर्मर वास्तुकला का उपयोग करता है जो टोकन का एक क्रम उत्पन्न करता है, जिसे फिर एक असतत वी. ए. ई. के डिकोडर द्वारा एक छवि में परिवर्तित किया जाता है। डी. ए. एल. एल.-ई. के साथ जारी किया गया सी. एल. आई. पी. वर्गीकरण था, जिसका उपयोग डी. ए. एल. एल.-ई. द्वारा उत्पन्न छवियों को इस आधार पर श्रेणीबद्ध करने के लिए किया गया था कि छवि पाठ के कितने करीब फिट बैठती है। ग्लाइड (2022-03) एक 3.5-billion प्रसार मॉडल है, और एक छोटा संस्करण सार्वजनिक रूप से जारी किया गया था। इसके तुरंत बाद, DALL-E 2 जारी किया गया (2022-04)। डी. ए. एल. एल.-ई. 2 एक 3.5-billion कैस्केड प्रसार मॉडल है जो "सी. एल. आई. पी. छवि एनकोडर को उलटकर" पाठ से छवियां उत्पन्न करता है, जिस तकनीक को उन्होंने "अन. सी. एल. आई. पी". कहा। स्टेबिलिटी AI द्वारा जारी स्टेबिलिटी AI स्टेबल डिफ्यूजन (2022-08) में एक अव्यक्त प्रसार मॉडल (860 मिलियन पैरामीटर), एक VAE और एक टेक्स्ट एनकोडर शामिल हैं। प्रसार मॉडल एक यू-नेट है, जिसमें सशर्त छवि निर्माण की अनुमति देने के लिए क्रॉस-अटेंशन ब्लॉक हैं। अन्य गूगल इमेजन और इमेजन वीडियो छवियों और वीडियो बनाने के लिए दो कैस्केड प्रसार मॉडल हैं। वे पाठ-शर्त पीढ़ी के लिए पाठ को कूटबद्ध करने के लिए एक T5-XXL, एक ट्रांसफॉर्मर-आधारित भाषा मॉडल का उपयोग करते हैं। मेटा ए. आई. द्वारा बनाया गया एक वीडियो पाठ से वीडियो उत्पन्न करता है। ड्रीमफ्यूजन पाठ से 3डी मॉडल उत्पन्न करता है। प्रसार प्रक्रिया मार्कोव श्रृंखला वैरिएशनल इन्फरेंस वैरिएशनल ऑटोएन्कोडर आगे पढ़ने के लिए मार्गदर्शनः प्रसार मॉडल के लिए एक धोखा कोड भी देखें। वर्गीकरण मार्गदर्शन और वर्गीकरण-मुक्त मार्गदर्शन का अवलोकन, गणितीय विवरणों पर प्रकाश। लेख में गणितीय विवरणों को हटा दिया गया है। मार्कोव मॉडल मशीन लर्निंग एल्गोरिदम