Elastic net regularization
આંકડામાં અને, ખાસ કરીને, રેખીય અથવા લોજિસ્ટિક રીગ્રેસન મોડેલ્સની ફિટિંગમાં, સ્થિતિસ્થાપક જાળી એ નિયમિત રીગ્રેસન પદ્ધતિ છે જે લાસો અને રીજ પદ્ધતિઓના L1 અને L2 દંડને રેખીય રીતે જોડે છે. વિશિષ્ટતા સ્થિતિસ્થાપક ચોખ્ખી પદ્ધતિ એલ. એ. એસ. એસ. ઓ. (લઘુત્તમ નિરપેક્ષ સંકોચન અને પસંદગી સંચાલક) પદ્ધતિની મર્યાદાઓને પાર કરે છે જે આ દંડ કાર્યના ઉપયોગ પર આધારિત દંડ કાર્યનો ઉપયોગ કરે છે તેની ઘણી મર્યાદાઓ છે. ઉદાહરણ તરીકે, "મોટા પી, નાના એન" કિસ્સામાં (થોડા ઉદાહરણો સાથે ઉચ્ચ-પરિમાણીય માહિતી), એલ. એ. એસ. એસ. ઓ. તે સંતૃપ્ત થાય તે પહેલાં મહત્તમ એન ચલ પર પસંદ કરે છે. જો ત્યાં અત્યંત સહસંબંધિત ચલોનું જૂથ હોય, તો એલ. એ. એસ. એસ. ઓ. જૂથમાંથી એક ચલ પસંદ કરે છે અને અન્યને અવગણે છે. આ મર્યાદાઓને દૂર કરવા માટે, સ્થિતિસ્થાપક જાળી દંડમાં એક દ્વિઘાત ભાગ () ઉમેરે છે, જેનો જ્યારે એકલા ઉપયોગ કરવામાં આવે છે ત્યારે તે રીજ રીગ્રેસન (ટિખોનોવ નિયમિતકરણ તરીકે પણ ઓળખાય છે) છે. સ્થિતિસ્થાપક ચોખ્ખી પદ્ધતિના અંદાજોને આ રીતે વ્યાખ્યાયિત કરવામાં આવે છે કે વર્ગાત્મક દંડ શબ્દ લોસ ફંક્શનને મજબૂત રીતે બહિર્મુખ બનાવે છે, અને તેથી તે એક અનન્ય લઘુત્તમ ધરાવે છે. સ્થિતિસ્થાપક ચોખ્ખી પદ્ધતિમાં એલ. એ. એસ. એસ. ઓ. અને રીજ રીગ્રેસનનો સમાવેશ થાય છેઃ બીજા શબ્દોમાં કહીએ તો, તેમાંથી દરેક એક વિશેષ કેસ છે જ્યાં અથવા. દરમિયાન, સ્થિતિસ્થાપક ચોખ્ખી પદ્ધતિનું નિષ્કપટ સંસ્કરણ બે તબક્કાની પ્રક્રિયામાં એક અંદાજકાર શોધે છેઃ પ્રથમ દરેક નિશ્ચિત માટે તે રીજ રીગ્રેસન ગુણાંક શોધે છે, અને પછી એલએએસએસઓ પ્રકારનું સંકોચન કરે છે. આ પ્રકારના અંદાજમાં બમણી માત્રામાં સંકોચન થાય છે, જે વધતા પૂર્વગ્રહ અને નબળી આગાહીઓ તરફ દોરી જાય છે. આગાહીની કામગીરીમાં સુધારો કરવા માટે, કેટલીકવાર સ્થિતિસ્થાપક જાળીના નિષ્કપટ સંસ્કરણના ગુણાંકને અંદાજિત ગુણાંક દ્વારા ગુણાકાર કરીને પુનઃપ્રાપ્ત કરવામાં આવે છે. જ્યાં ઇલાસ્ટિક નેટ પદ્ધતિ લાગુ કરવામાં આવી છે તેના ઉદાહરણો છેઃ સપોર્ટ વેક્ટર મશીન મેટ્રિક લર્નિંગ પોર્ટફોલિયો ઓપ્ટિમાઇઝેશન કેન્સર પ્રોગ્નોસિસ રિડક્શન ટુ સપોર્ટ વેક્ટર મશીન 2014 ના અંતમાં, તે સાબિત થયું હતું કે ઇલાસ્ટિક નેટને રેખીય સપોર્ટ વેક્ટર મશીનમાં ઘટાડી શકાય છે. અગાઉ 2014માં એલ. એ. એસ. એસ. ઓ. માટે સમાન ઘટાડો સાબિત થયો હતો. લેખકોએ દર્શાવ્યું હતું કે સ્થિતિસ્થાપક જાળીના દરેક ઉદાહરણ માટે, એક કૃત્રિમ દ્વિસંગી વર્ગીકરણ સમસ્યાનું નિર્માણ એવી રીતે કરી શકાય છે કે રેખીય આધાર વેક્ટર મશીન (SVM) નું હાયપર-પ્લેન સોલ્યુશન સોલ્યુશન (ફરીથી સ્કેલિંગ પછી) જેવું જ હોય. આ ઘટાડો તરત જ સ્થિતિસ્થાપક ચોખ્ખી સમસ્યાઓ માટે અત્યંત શ્રેષ્ઠ SVM ઉકેલોના ઉપયોગને સક્ષમ બનાવે છે. તે જી. પી. યુ. પ્રવેગના ઉપયોગને પણ સક્ષમ કરે છે, જેનો ઉપયોગ મોટા પાયે એસ. વી. એમ. ઉકેલકો માટે પહેલાથી જ થાય છે. ઘટાડો એ મૂળ ડેટા અને નિયમિતકરણ સ્થિરાંકોનું નવા કૃત્રિમ ડેટા ઉદાહરણોમાં સરળ પરિવર્તન છે અને નિયમિતકરણ અચળાંકો કે જે દ્વિસંગી વર્ગીકરણ સમસ્યા અને SVM નિયમિતકરણ અચળાંકોને સ્પષ્ટ કરે છે. જ્યારે તે સામાન્ય રીતે પ્રાથમિકમાં રેખીય SVM ને ઉકેલવા માટે ઝડપી હોય છે, જ્યારે અન્યથા દ્વિ રચના ઝડપી હોય છે. કેટલાક લેખકોએ પરિવર્તનને સપોર્ટ વેક્ટર ઇલાસ્ટિક નેટ (SVEN) તરીકે ઓળખાવ્યું છે, અને નીચેનો MATLAB સ્યુડો-કોડ પૂરો પાડ્યો છેઃ વિધેય β = SVEN (X, y, t, λ2); [n, p] = કદ (X); X2 = [bsxfun (@minus, X, y./t); bsxfun (@plus, X, y./t)] '; Y2 = [રાશિઓ (p, 1);-રાશિઓ (p, 1); જો 2p> n હોય તો w = SVMPRIMAL (X2, Y2, C = 1/(2 * λ2)) * (X2 * w), 0); અન્યથા α = SVMDual (X2, Y2, C = 1/(2 * λ2)); અંત જો β = t * (α (1: p)-α (p + 1:2p))/સરવાળો (α); સોફ્ટવેર "Glmnet: Lasso અને સ્થિતિસ્થાપક-નેટ નિયમિત સામાન્યીકૃત રેખીય મોડેલ્સ" એ એક સોફ્ટવેર છે જે R સ્રોત પેકેજ તરીકે અને MATLAB ટૂલબોક્સ તરીકે અમલમાં મૂકવામાં આવે છે. આમાં એલ 1 (લાસો), એલ 2 (રીજ રીગ્રેસન) સાથે સામાન્યીકૃત રેખીય મોડેલોના અંદાજ માટે ઝડપી અલ્ગોરિધમ્સ અને ચક્રીય સંકલન વંશનો ઉપયોગ કરીને બે દંડ (સ્થિતિસ્થાપક જાળી) ના મિશ્રણનો સમાવેશ થાય છે, જેની ગણતરી નિયમિતકરણ માર્ગ સાથે કરવામાં આવે છે. જે. એમ. પી. પ્રો 11માં ફિટ મોડલ સાથે સામાન્યીકૃત રીગ્રેસન વ્યક્તિત્વનો ઉપયોગ કરીને સ્થિતિસ્થાપક ચોખ્ખું નિયમિતકરણ સામેલ છે. "પેન્સિમઃ ઉચ્ચ-પરિમાણીય માહિતીનું અનુકરણ અને સમાંતર પુનરાવર્તિત દંડાત્મક રીગ્રેસન" એ એલ પરિમાણોની વૈકલ્પિક, સમાંતર "2 ડી" ટ્યુનિંગ પદ્ધતિનો અમલ કરે છે, જે પદ્ધતિ આગાહીની ચોકસાઈમાં સુધારો કરવા માટે દાવો કરે છે. સ્કિકિટ-લર્નમાં સ્થિતિસ્થાપક ચોખ્ખા નિયમિતકરણ સાથે રેખીય રીગ્રેસન, લોજિસ્ટિક રીગ્રેસન અને રેખીય સહાયક વેક્ટર મશીનોનો સમાવેશ થાય છે. SVEN, સપોર્ટ વેક્ટર ઇલાસ્ટિક નેટનું મેટલેબ અમલીકરણ છે. આ સોલ્વર સ્થિતિસ્થાપક નેટ સમસ્યાને એસવીએમ દ્વિસંગી વર્ગીકરણના ઉદાહરણમાં ઘટાડે છે અને ઉકેલ શોધવા માટે મેટલેબ એસવીએમ સોલ્વરનો ઉપયોગ કરે છે. કારણ કે એસ. વી. એમ. સરળતાથી સમાંતર છે, કોડ આધુનિક હાર્ડવેર પર જી. એલ. એમ. નેટ કરતા ઝડપી હોઈ શકે છે. એસ. પી. એ. એસ. એમ., સ્પાર્સ રીગ્રેસન, વર્ગીકરણ અને મુખ્ય ઘટક વિશ્લેષણનું મેટલેબ અમલીકરણ, જેમાં સ્થિતિસ્થાપક ચોખ્ખું નિયમિત રીગ્રેસન સામેલ છે. અપાચે સ્પાર્ક તેની એમ. એલ. એલ. બી. મશીન લર્નિંગ લાઈબ્રેરીમાં સ્થિતિસ્થાપક નેટ રીગ્રેસન માટે ટેકો પૂરો પાડે છે. આ પદ્ધતિ વધુ સામાન્ય લીનિયર રીગ્રેસન વર્ગના પરિમાણ તરીકે ઉપલબ્ધ છે. એસ. એ. એસ. (સોફ્ટવેર) એસ. એ. એસ. પ્રક્રિયા જી. એલ. એમ. સિલેક્ટ અને એસ. એ. એસ. વિયા પ્રક્રિયા રેગસેલેક્ટ મોડેલની પસંદગી માટે સ્થિતિસ્થાપક ચોખ્ખા નિયમિતકરણના ઉપયોગને ટેકો આપે છે. સંદર્ભો વધુ વાંચન બાહ્ય કડીઓ સ્થિતિસ્થાપક નેટ (પ્રસ્તુતિ) લોજિસ્ટિક રીગ્રેસન રીગ્રેસન વિશ્લેષણ મશીન લર્નિંગ અલ્ગોરિધમ્સ દ્વારા નિયમિતકરણ અને ચલ પસંદગી