Coordinate descent
कोऑर्डिनेट डिसेंट एक अनुकूलन एल्गोरिथ्म है जो एक फ़ंक्शन के न्यूनतम को खोजने के लिए समन्वय दिशाओं के साथ क्रमिक रूप से न्यूनतम करता है। प्रत्येक पुनरावृत्ति पर, एल्गोरिथ्म एक समन्वय चयन नियम के माध्यम से एक समन्वय या समन्वय खंड निर्धारित करता है, फिर अन्य सभी निर्देशांक या समन्वय खंडों को ठीक करते हुए संबंधित समन्वय हाइपरप्लेन पर ठीक या सटीक रूप से कम करता है। उपयुक्त चरण आकार निर्धारित करने के लिए वर्तमान पुनरावृत्ति पर समन्वय दिशा के साथ एक रेखा खोज की जा सकती है। समन्वित अवरोहण अवकलनीय और व्युत्पन्न-मुक्त दोनों संदर्भों में लागू होता है। वर्णन समन्वित अवरोहण इस विचार पर आधारित है कि एक बहुभिन्नरूपी फलन का न्यूनतमकरण इसे एक समय में एक दिशा में न्यूनतम करके प्राप्त किया जा सकता है, अर्थात, एक लूप में अविभाज्य (या कम से कम बहुत सरल) अनुकूलन समस्याओं को हल करना। चक्रीय निर्देशांक अवरोहण के सबसे सरल मामले में, एक समय में प्रत्येक निर्देशांक दिशा के संबंध में वस्तुनिष्ठ कार्य को न्यूनतम करते हुए, एक बार में एक, दिशाओं के माध्यम से एक चक्रीय रूप से पुनरावृत्ति करता है। अर्थात्, प्रारंभिक चर मूल्यों से शुरू करते हुए, 1 से 1 तक के प्रत्येक चर के लिए एकल चर अनुकूलन समस्याओं को पुनरावृत्त रूप से हल करके राउंड को परिभाषित किया जाता है। इस प्रकार, एक स्थानीय न्यूनतम के लिए प्रारंभिक अनुमान के साथ शुरू होता है, और बार-बार एक अनुक्रम प्राप्त करता है। प्रत्येक पुनरावृत्ति में रेखा खोज करने से, एक स्वचालित रूप से होता है यह दिखाया जा सकता है कि इस अनुक्रम में सबसे तीव्र अवरोहण के समान अभिसरण गुण हैं। समन्वय दिशाओं के साथ लाइन खोज के एक चक्र के बाद कोई सुधार नहीं होने का मतलब है कि एक स्थिर बिंदु तक पहुँच गया है। इस प्रक्रिया को नीचे दर्शाया गया है। अवकलनीय मामला एक निरंतर अवकलनीय फलन के मामले में, एक निर्देशांक अवरोहण एल्गोरिथ्म को इस प्रकार स्केच किया जा सकता हैः एक प्रारंभिक पैरामीटर वेक्टर चुनें। जब तक अभिसरण नहीं हो जाता, या कुछ निश्चित संख्या में पुनरावृत्तियों के लिएः से एक सूचकांक चुनें। एक चरण आकार चुनें। अपडेट करें। चरण आकार को विभिन्न तरीकों से चुना जा सकता है, उदाहरण के लिए, सटीक न्यूनतम के लिए हल करके (यानी, सभी चर के साथ लेकिन निश्चित), या पारंपरिक रेखा खोज मानदंड द्वारा। सीमा समन्वय अवरोहण में दो समस्याएं हैं। उनमें से एक गैर-चिकनी बहु-परिवर्तनीय कार्य है। निम्नलिखित चित्र से पता चलता है कि समन्वय अवरोहण पुनरावृत्ति एक गैर-स्थिर बिंदु पर अटक सकती है यदि किसी फलन के स्तर वक्र चिकने नहीं हैं। मान लीजिए कि एल्गोरिथ्म बिंदु पर है; फिर दो अक्ष-संरेखित दिशाएँ हैं जो एक कदम उठाने के लिए विचार कर सकती हैं, जो लाल तीरों द्वारा इंगित की जाती हैं। हालाँकि, इन दोनों दिशाओं के साथ प्रत्येक कदम उद्देश्य फ़ंक्शन के मूल्य को बढ़ाएगा (एक न्यूनतम समस्या मानते हुए), इसलिए एल्गोरिथ्म कोई कदम नहीं उठाएगा, भले ही दोनों कदम एक साथ एल्गोरिथ्म को इष्टतम के करीब लाएँ। जबकि इस उदाहरण से पता चलता है कि निर्देशांक अवरोहण आवश्यक रूप से इष्टतम के लिए अभिसारी नहीं है, उचित परिस्थितियों में औपचारिक अभिसरण दिखाना संभव है। दूसरी समस्या समान्तरता में कठिनाई है। चूंकि समन्वय अवरोहण की प्रकृति दिशाओं के माध्यम से चक्र करना और प्रत्येक समन्वय दिशा के संबंध में वस्तुनिष्ठ कार्य को कम करना है, इसलिए समन्वय अवरोहण बड़े पैमाने पर समानांतरता के लिए एक स्पष्ट उम्मीदवार नहीं है। हाल के शोध कार्यों से पता चला है कि प्रत्येक समन्वय दिशा के संबंध में वस्तुनिष्ठ कार्य के परिवर्तन में ढील देकर समन्वय अवरोहण के लिए बड़े पैमाने पर समानांतरता लागू होती है। एप्लिकेशंस कोऑर्डिनेट डिसेंट एल्गोरिदम अपनी सरलता के कारण चिकित्सकों के बीच लोकप्रिय हैं, लेकिन इसी गुण ने अनुकूलन शोधकर्ताओं को अधिक दिलचस्प (जटिल) तरीकों के पक्ष में उन्हें बड़े पैमाने पर अनदेखा करने के लिए प्रेरित किया है। कोऑर्डिनेट डिसेंट ऑप्टिमाइजेशन का एक प्रारंभिक अनुप्रयोग कंप्यूटेड टोमोग्राफी के क्षेत्र में था जहां इसमें तेजी से अभिसरण पाया गया है और बाद में इसका उपयोग नैदानिक मल्टी-स्लाइस हेलिकल स्कैन सीटी पुनर्निर्माण के लिए किया गया था। प्रोटीन संरचना भविष्यवाणी में एक चक्रीय समन्वय वंश एल्गोरिथ्म (सी. सी. डी.) लागू किया गया है। इसके अलावा, मशीन लर्निंग में बड़े पैमाने पर समस्याओं के आगमन के साथ समन्वय वंश के उपयोग में रुचि बढ़ी है, जहां समन्वय वंश को अन्य तरीकों के लिए प्रतिस्पर्धी दिखाया गया है जब प्रशिक्षण रैखिक समर्थन वेक्टर मशीनों (LIBLINEAR देखें) और गैर-नकारात्मक मैट्रिक्स गुणनखंडन जैसी समस्याओं पर लागू किया जाता है। वे उन समस्याओं के लिए आकर्षक हैं जहां कंप्यूटिंग प्रवणता व्यवहार्य नहीं है, शायद इसलिए कि ऐसा करने के लिए आवश्यक डेटा कंप्यूटर नेटवर्क में वितरित किया जाता है। एडेप्टिव कोऑर्डिनेट डिसेंट कंजुगेट ग्रेडिएंट डिसेंट लाइन सर्च गणितीय अनुकूलन न्यूटन की विधि स्टोकेस्टिक ग्रेडिएंट डिसेंट भी देखें-एक समय में एक उदाहरण का उपयोग करता है, न कि एक समन्वय संदर्भ बर्टसेकास, दिमित्री पी. (1999)। अरैखिक प्रोग्रामिंग, दूसरा संस्करण एथेना साइंटिफिक, बेलमोंट, मैसाचुसेट्स। .. .. .. .. .. क्रमिक विधियाँ