Elastic net regularization
सांख्यिकी में और, विशेष रूप से, रैखिक या रसद प्रतिगमन मॉडल की फिटिंग में, लोचदार जाल एक नियमित प्रतिगमन विधि है जो रैखिक रूप से लासो और रिज विधियों के एल 1 और एल 2 दंड को जोड़ती है। विनिर्देशन लोचदार नेट विधि एल. ए. एस. एस. ओ. (कम से कम पूर्ण संकुचन और चयन प्रचालक) विधि की सीमाओं को पार करती है जो इस दंड कार्य के उपयोग के आधार पर दंड कार्य का उपयोग करती है, इसकी कई सीमाएँ हैं। उदाहरण के लिए, "बड़े पी, छोटे एन" मामले में (कुछ उदाहरणों के साथ उच्च-आयामी डेटा), एल. ए. एस. एस. ओ. संतृप्त होने से पहले अधिकतम एन चर का चयन करता है। इसके अलावा यदि अत्यधिक सहसंबद्ध चरों का एक समूह है, तो एल. ए. एस. एस. ओ. एक समूह से एक चर का चयन करता है और दूसरों को अनदेखा करता है। इन सीमाओं को दूर करने के लिए, लोचदार जाल दंड में एक द्विघात भाग () जोड़ता है, जिसे जब अकेले उपयोग किया जाता है तो रिज प्रतिगमन (जिसे तिखोनोव नियमितकरण के रूप में भी जाना जाता है) होता है। लोचदार शुद्ध विधि से अनुमानों को द्विघात दंड शब्द द्वारा परिभाषित किया जाता है जो हानि कार्य को दृढ़ता से उत्तल बनाता है, और इसलिए इसका एक अद्वितीय न्यूनतम होता है। लोचदार नेट विधि में एलएएसएसओ और रिज प्रतिगमन शामिल हैंः दूसरे शब्दों में, उनमें से प्रत्येक एक विशेष मामला है जहां या। इस बीच, लोचदार नेट विधि का सरल संस्करण दो-चरणीय प्रक्रिया में एक अनुमानक पाता हैः पहले प्रत्येक निश्चित के लिए यह रिज प्रतिगमन गुणांक पाता है, और फिर एक एल. ए. एस. एस. ओ प्रकार का संकुचन करता है। इस तरह के अनुमान में दोगुनी मात्रा में संकुचन होता है, जिससे पूर्वाग्रह बढ़ता है और खराब भविष्यवाणियां होती हैं। भविष्यवाणी प्रदर्शन में सुधार करने के लिए, कभी-कभी लोचदार जाल के सरल संस्करण के गुणांक को अनुमानित गुणांक से गुणा करके पुनर्निर्धारित किया जाता है। जहां लोचदार जाल विधि लागू की गई है, उसके उदाहरण हैंः वेक्टर मशीन मीट्रिक लर्निंग पोर्टफोलियो अनुकूलन कैंसर पूर्वानुमान में कमी वेक्टर मशीन का समर्थन करने के लिए 2014 के अंत में, यह साबित हुआ कि लोचदार जाल को रैखिक समर्थन वेक्टर मशीन में कम किया जा सकता है। इसी तरह की कमी पहले 2014 में एल. ए. एस. एस. ओ. के लिए साबित हुई थी। लेखकों ने दिखाया कि लोचदार जाल के प्रत्येक उदाहरण के लिए, एक कृत्रिम द्विआधारी वर्गीकरण समस्या का निर्माण इस तरह किया जा सकता है कि एक रैखिक समर्थन वेक्टर मशीन (एसवीएम) का हाइपर-प्लेन समाधान समाधान (पुनः स्केलिंग के बाद) के समान हो। यह कमी तुरंत लोचदार शुद्ध समस्याओं के लिए अत्यधिक अनुकूलित एसवीएम समाधानकों के उपयोग को सक्षम बनाती है। यह जी. पी. यू. त्वरण के उपयोग को भी सक्षम बनाता है, जिसका उपयोग अक्सर पहले से ही बड़े पैमाने पर एस. वी. एम. समाधानकों के लिए किया जाता है। कमी मूल डेटा और नियमितीकरण स्थिरांक का नए कृत्रिम डेटा उदाहरणों में एक सरल परिवर्तन है और एक नियमितीकरण स्थिरांक है जो एक द्विआधारी वर्गीकरण समस्या और एसवीएम नियमितीकरण स्थिरांक को निर्दिष्ट करता है। जब यह आम तौर पर प्राइमल में रैखिक एसवीएम को हल करने के लिए तेज होता है, जबकि अन्यथा दोहरी सूत्रीकरण तेज होता है। कुछ लेखकों ने परिवर्तन को सपोर्ट वेक्टर इलास्टिक नेट (SVEN) के रूप में संदर्भित किया है, और निम्नलिखित MATLAB छद्म-कोड प्रदान किया हैः फलन β = SVEN (X, y, t, λ2); [n, p] = आकार (X); X2 = [bsxfun (@minus, X, y./t); bsxfun (@plus, X, y./t)] '; Y2 = [एक (p, 1);-एक (p, 1)]; यदि 2p> n तो w = SVMPRIMAL (X2, Y2, C = 1/(2 * λ2)) * (X2 * w), 0); अन्यथा α = SVMDual (X2, Y2, C = 1/(2 * λ2)); अंत में यदि β = t * (α (1: p)-α (p + 1:2p))/योग (α); सॉफ्टवेयर "Glmnet: Lasso और लोचदार-नेट नियमित सामान्यीकृत रैखिक मॉडल" एक सॉफ्टवेयर है जिसे R स्रोत पैकेज के रूप में और MATLAB टूलबॉक्स के रूप में लागू किया जाता है। इसमें एल1 (लासो), एल2 (रिज रिग्रेशन) के साथ सामान्यीकृत रैखिक मॉडल के अनुमान के लिए तेज एल्गोरिदम और एक नियमितकरण पथ के साथ गणना किए गए चक्रीय निर्देशांक वंश का उपयोग करके दो दंडों (लोचदार जाल) के मिश्रण शामिल हैं। जेएमपी प्रो 11 में फिट मॉडल के साथ सामान्यीकृत प्रतिगमन व्यक्तित्व का उपयोग करते हुए लोचदार शुद्ध नियमितकरण शामिल है। "पेन्सिमः उच्च-आयामी डेटा का अनुकरण और समानांतर दोहराए गए दंडात्मक प्रतिगमन" एल मापदंडों की एक वैकल्पिक, समानांतर "2डी" ट्यूनिंग विधि को लागू करता है, एक ऐसी विधि जिसके परिणामस्वरूप बेहतर भविष्यवाणी सटीकता का दावा किया जाता है। स्किकिट-लर्न में रैखिक प्रतिगमन, लॉजिस्टिक प्रतिगमन और लोचदार शुद्ध नियमितीकरण के साथ रैखिक समर्थन वेक्टर मशीनें शामिल हैं। एस. वी. ई. एन., सपोर्ट वेक्टर इलास्टिक नेट का एक मैटलैब कार्यान्वयन है। यह समाधानकर्ता लोचदार नेट समस्या को एस. वी. एम. द्विआधारी वर्गीकरण के एक उदाहरण तक कम कर देता है और समाधान खोजने के लिए एक मैटलैब एस. वी. एम. समाधानकर्ता का उपयोग करता है। चूंकि एस. वी. एम. आसानी से समानांतर है, इसलिए कोड आधुनिक हार्डवेयर पर जी. एल. एम. नेट की तुलना में तेज हो सकता है। एस. पी. ए. एस. एम., लोचदार शुद्ध नियमित प्रतिगमन सहित विरल प्रतिगमन, वर्गीकरण और प्रमुख घटक विश्लेषण का एक मैटलैब कार्यान्वयन है। अपाचे स्पार्क अपने एम. एल. एल. बी. मशीन लर्निंग लाइब्रेरी में लोचदार नेट प्रतिगमन के लिए समर्थन प्रदान करता है। विधि अधिक सामान्य लीनियर रिग्रेशन वर्ग के एक पैरामीटर के रूप में उपलब्ध है। एस. ए. एस. (सॉफ्टवेयर) एस. ए. एस. प्रक्रिया जी. एल. एम. सेलेक्ट और एस. ए. एस. विया प्रक्रिया रेगसेलेक्ट मॉडल चयन के लिए लोचदार शुद्ध नियमितीकरण के उपयोग का समर्थन करती है। संदर्भ आगे पढ़ने के लिए बाहरी लिंक लोचदार जाल (प्रस्तुति) रसद प्रतिगमन प्रतिगमन विश्लेषण के माध्यम से नियमितकरण और परिवर्तनीय चयन मशीन लर्निंग एल्गोरिदम