Coordinate descent
કોઓર્ડિનેટ ડિસેન્ટ એ એક ઓપ્ટિમાઇઝેશન અલ્ગોરિધમ છે જે ઓછામાં ઓછા કાર્યને શોધવા માટે સંકલન દિશાઓ સાથે ક્રમિક રીતે ઘટાડે છે. દરેક પુનરાવર્તન પર, અલ્ગોરિધમ સંકલન પસંદગી નિયમ દ્વારા સંકલન અથવા સંકલન બ્લોક નક્કી કરે છે, પછી અન્ય તમામ કોઓર્ડિનેટ્સ અથવા સંકલન બ્લોક્સને ઠીક કરતી વખતે અનુરૂપ સંકલન હાયપરપ્લેન પર બરાબર અથવા અચોક્કસ રીતે ઘટાડે છે. યોગ્ય પગલાનું કદ નક્કી કરવા માટે વર્તમાન પુનરાવર્તન પર સંકલન દિશા સાથે રેખા શોધ કરી શકાય છે. કોઓર્ડિનેટ ડિસેન્ટ તફાવતક્ષમ અને વ્યુત્પન્ન-મુક્ત બંને સંદર્ભોમાં લાગુ પડે છે. વર્ણન કોઓર્ડિનેટ ડિસેન્ટ એ વિચાર પર આધારિત છે કે મલ્ટીવેરિયેબલ ફંક્શનનું લઘુતમકરણ તેને એક સમયે એક દિશામાં લઘુતમ કરીને પ્રાપ્ત કરી શકાય છે, એટલે કે, લૂપમાં અવિભાજ્ય (અથવા ઓછામાં ઓછું વધુ સરળ) ઓપ્ટિમાઇઝેશન સમસ્યાઓ હલ કરવી. ચક્રીય સંકલન અવરોહણના સૌથી સરળ કિસ્સામાં, એક સમયે દરેક સંકલન દિશાના સંદર્ભમાં ઉદ્દેશ્ય કાર્યને ઘટાડીને, એક સમયે એક, દિશાઓ દ્વારા ચક્રીય રીતે પુનરાવર્તન થાય છે. એટલે કે, પ્રારંભિક ચલ મૂલ્યોથી શરૂ કરીને, 1 થી 1 સુધીના દરેક ચલ માટે એક ચલ ઓપ્ટિમાઇઝેશન સમસ્યાઓને પુનરાવર્તિત રીતે હલ કરીને રાઉન્ડ વ્યાખ્યાયિત કરે છે. આમ, એક સ્થાનિક લઘુત્તમ માટે પ્રારંભિક અનુમાન સાથે શરૂ થાય છે, અને પુનરાવર્તિત રીતે ક્રમ મેળવે છે. દરેક પુનરાવર્તનમાં રેખા શોધ કરીને, એક પાસે આપમેળે તે હોય છે તે બતાવી શકાય છે કે આ અનુક્રમમાં સૌથી તીવ્ર અવરોહણ જેવા સમાન કન્વર્જન્સ ગુણધર્મો છે. સંકલન દિશાઓ સાથે રેખા શોધના એક ચક્ર પછી કોઈ સુધારો સૂચવે છે કે સ્થિર બિંદુ સુધી પહોંચી ગયું છે. આ પ્રક્રિયા નીચે દર્શાવવામાં આવી છે. અવકલનીય કેસ સતત અવકલનીય કાર્યના કિસ્સામાં, સંકલન ઉતરતા અલ્ગોરિધમને આ રીતે સ્કેચ કરી શકાય છેઃ પ્રારંભિક પરિમાણ વેક્ટર પસંદ કરો. જ્યાં સુધી અભિસરણ ન થાય ત્યાં સુધી, અથવા અમુક નિશ્ચિત સંખ્યામાં પુનરાવર્તનો માટેઃ માંથી અનુક્રમણિકા પસંદ કરો. પગલાનું કદ પસંદ કરો. તેમાં અપડેટ કરો. પગલાનું કદ વિવિધ રીતે પસંદ કરી શકાય છે, દા. ત., ચોક્કસ લઘુતમ માટે (એટલે કે, તમામ ચલો સાથે પરંતુ નિશ્ચિત), અથવા પરંપરાગત રેખા શોધ માપદંડ દ્વારા. મર્યાદાઓ કોઓર્ડિનેટ ડિસેન્ટમાં બે સમસ્યાઓ છે. તેમાંથી એક બિન-સરળ મલ્ટીવેરિયેબલ કાર્ય છે. નીચેનું ચિત્ર દર્શાવે છે કે જો કાર્યના સ્તરના વળાંક સરળ ન હોય તો કોઓર્ડિનેટ ડિસેન્ટ ઇટરેશન બિન-સ્થિર બિંદુ પર અટવાઇ શકે છે. ધારો કે અલ્ગોરિધમ બિંદુ પર છે; પછી ત્યાં બે અક્ષ-સંરેખિત દિશાઓ છે જે તે પગલું ભરવા માટે વિચારી શકે છે, જે લાલ તીર દ્વારા સૂચવવામાં આવે છે. જો કે, આ બે દિશાઓ સાથેનું દરેક પગલું ઉદ્દેશ્ય કાર્યના મૂલ્યમાં વધારો કરશે (લઘુતમ સમસ્યા ધારીને), તેથી અલ્ગોરિધમ કોઈ પગલું નહીં લે, તેમ છતાં બંને પગલાં એકસાથે અલ્ગોરિધમને મહત્તમની નજીક લાવશે. જ્યારે આ ઉદાહરણ દર્શાવે છે કે કોઓર્ડિનેટ ડિસેન્ટ એ ઓપ્ટિમમ માટે કન્વર્જન્ટ હોવું જરૂરી નથી, વાજબી પરિસ્થિતિઓમાં ઔપચારિક કન્વર્જન્સ બતાવવું શક્ય છે. બીજી સમસ્યા સમાંતરતામાં મુશ્કેલી છે. કોઓર્ડિનેટ ડિસેન્ટનો સ્વભાવ દિશાઓમાંથી પસાર થવાનો અને દરેક કોઓર્ડિનેટ દિશાના સંદર્ભમાં ઉદ્દેશ્ય કાર્યને ઘટાડવાનો હોવાથી, કોઓર્ડિનેટ ડિસેન્ટ એ વિશાળ સમાંતરતા માટે સ્પષ્ટ ઉમેદવાર નથી. તાજેતરના સંશોધન કાર્યોએ દર્શાવ્યું છે કે દરેક સંકલન દિશાના સંદર્ભમાં ઉદ્દેશ્ય કાર્યના પરિવર્તનને હળવા કરીને સમન્વય વંશ માટે વિશાળ સમાંતરતા લાગુ પડે છે. એપ્લિકેશન્સ કોઓર્ડિનેટ ડિસેન્ટ અલ્ગોરિધમ્સ તેમની સરળતાને કારણે પ્રેક્ટિશનર્સમાં લોકપ્રિય છે, પરંતુ તે જ ગુણધર્મને કારણે ઓપ્ટિમાઇઝેશન સંશોધકો વધુ રસપ્રદ (જટિલ) પદ્ધતિઓની તરફેણમાં મોટાભાગે તેમની અવગણના કરે છે. કોઓર્ડિનેટ ડિસેન્ટ ઓપ્ટિમાઇઝેશનનો પ્રારંભિક ઉપયોગ ગણતરી કરેલ ટોમોગ્રાફીના ક્ષેત્રમાં હતો જ્યાં તે ઝડપી કન્વર્જન્સ હોવાનું જાણવા મળ્યું છે અને ત્યારબાદ તેનો ઉપયોગ ક્લિનિકલ મલ્ટી-સ્લાઇસ હેલિકલ સ્કેન સીટી પુનર્નિર્માણ માટે કરવામાં આવ્યો હતો. પ્રોટીન માળખાની આગાહીમાં ચક્રીય સંકલન વંશસૂત્ર (સી. સી. ડી.) લાગુ કરવામાં આવ્યું છે. તદુપરાંત, મશીન લર્નિંગમાં મોટા પાયે સમસ્યાઓના આગમન સાથે કોઓર્ડિનેટ ડિસેન્ટના ઉપયોગમાં રસ વધ્યો છે, જ્યાં તાલીમ રેખીય સપોર્ટ વેક્ટર મશીનો (LIBLINEAR જુઓ) અને બિન-નકારાત્મક મેટ્રિક્સ ફેક્ટરાઇઝેશન જેવી સમસ્યાઓ પર લાગુ કરવામાં આવે ત્યારે કોઓર્ડિનેટ ડિસેન્ટ અન્ય પદ્ધતિઓ માટે સ્પર્ધાત્મક દર્શાવવામાં આવ્યું છે. તેઓ એવી સમસ્યાઓ માટે આકર્ષક છે જ્યાં કમ્પ્યુટિંગ ગ્રેડિયન્ટ અવ્યવહારુ છે, કદાચ કારણ કે આવું કરવા માટે જરૂરી ડેટા કમ્પ્યુટર નેટવર્કમાં વહેંચવામાં આવે છે. એડેપ્ટિવ કોઓર્ડિનેટ ડિસેન્ટ કોન્જુગેટ ગ્રેડિયન્ટ ડિસેન્ટ લાઇન સર્ચ મેથેમેટિકલ ઓપ્ટિમાઇઝેશન ન્યૂટનની પદ્ધતિ સ્ટોકેસ્ટિક ગ્રેડિયન્ટ ડિસેન્ટ-એક સમયે એક ઉદાહરણનો ઉપયોગ કરે છે, તેના બદલે એક સંકલન સંદર્ભો બર્ટસેકાસ, દિમિત્રી પી. (1999). બિનરેખીય પ્રોગ્રામિંગ, બીજી આવૃત્તિ એથેના સાયન્ટિફિક, બેલમોન્ટ, મેસેચ્યુસેટ્સ. . . . . . ઢાળ પદ્ધતિઓ