Sufficient dimension reduction
આંકડામાં, પર્યાપ્ત પરિમાણ ઘટાડો (એસ. ડી. આર.) એ માહિતીનું વિશ્લેષણ કરવા માટેનો એક દાખલો છે જે પર્યાપ્તતાના ખ્યાલ સાથે પરિમાણ ઘટાડાના વિચારોને જોડે છે. પરિમાણમાં ઘટાડો એ લાંબા સમયથી પ્રતિગમન વિશ્લેષણનું પ્રાથમિક લક્ષ્ય રહ્યું છે. રિસ્પોન્સ વેરિયેબલ y અને p-ડાયમેન્શનલ પ્રિડિક્ટર વેક્ટરને જોતાં, રીગ્રેસન વિશ્લેષણનો ઉદ્દેશ આપેલા વિતરણ, શરતી વિતરણનો અભ્યાસ કરવાનો છે. પરિમાણમાં ઘટાડો એ એક કાર્ય છે જે k <p ના સબસેટમાં મેપ કરે છે, જેનાથી પરિમાણમાં ઘટાડો થાય છે. ઉદાહરણ તરીકે, એક અથવા વધુ રેખીય સંયોજનો હોઈ શકે છે. પરિમાણમાં ઘટાડો પૂરતો હોવાનું કહેવાય છે જો તેનું વિતરણ પરિમાણ જેટલું જ હોય. બીજા શબ્દોમાં કહીએ તો, જો ઘટાડો પૂરતો હોય તો તેના પરિમાણને ઘટાડવામાં રીગ્રેસન વિશેની કોઈ માહિતી ખોવાઈ નથી. ગ્રાફિકલ પ્રેરણા રીગ્રેસન સેટિંગમાં, ગ્રાફિકલી વિતરણનો સારાંશ આપવા માટે ઘણીવાર ઉપયોગી છે. દાખલા તરીકે, કોઈ એક અથવા વધુ આગાહીકારોની વિરુદ્ધ સ્કેટર પ્લોટને ધ્યાનમાં લઈ શકે છે. સ્કેટર પ્લોટ કે જેમાં તમામ ઉપલબ્ધ રીગ્રેસન માહિતી હોય તેને પર્યાપ્ત સારાંશ પ્લોટ કહેવામાં આવે છે. જ્યારે ઉચ્ચ-પરિમાણીય હોય, ખાસ કરીને જ્યારે, માહિતીને ઘટાડ્યા વિના પર્યાપ્તતા સારાંશ પ્લોટનું નિર્માણ અને દૃષ્ટિની રીતે અર્થઘટન કરવું વધુને વધુ પડકારજનક બને છે. ત્રિ-પરિમાણીય સ્કેટર પ્લોટ પણ કમ્પ્યુટર પ્રોગ્રામ દ્વારા જોવા જોઈએ, અને ત્રીજા પરિમાણને માત્ર સંકલન અક્ષોને ફેરવીને જ જોઈ શકાય છે. જો કે, જો ત્યાં નાના પર્યાપ્ત પરિમાણ સાથે પર્યાપ્ત પરિમાણ ઘટાડો અસ્તિત્વમાં હોય, તો વિરુદ્ધના પર્યાપ્ત સારાંશ પ્લોટનું નિર્માણ કરી શકાય છે અને સાપેક્ષ સરળતા સાથે દૃષ્ટિની રીતે અર્થઘટન કરી શકાય છે. તેથી પર્યાપ્ત પરિમાણ ઘટાડો વિતરણ વિશે ગ્રાફિકલ અંતર્જ્ઞાન માટે પરવાનગી આપે છે, જે અન્યથા ઉચ્ચ-પરિમાણીય માહિતી માટે ઉપલબ્ધ ન હોઈ શકે. મોટાભાગની ગ્રાફિકલ પદ્ધતિ મુખ્યત્વે રેખીય સંયોજનોને સમાવતા પરિમાણ ઘટાડા પર ધ્યાન કેન્દ્રિત કરે છે. આ લેખનો બાકીનો ભાગ માત્ર આવા ઘટાડા સાથે સંબંધિત છે. ડાયમેન્શન રિડક્શન સબસ્પેસ ધારો કે પર્યાપ્ત ડાયમેન્શન રિડક્શન છે, જ્યાં રેન્ક સાથે મેટ્રિક્સ છે. પછી માટે રીગ્રેસન માહિતીનું વિતરણનો અભ્યાસ કરીને અનુમાન લગાવી શકાય છે, અને વિરુદ્ધનો પ્લોટ એ પર્યાપ્ત સારાંશ પ્લોટ છે. સામાન્યતાને ગુમાવ્યા વિના, માત્ર જરૂરિયાતના સ્તંભો દ્વારા ફેલાયેલી જગ્યાને ધ્યાનમાં લેવામાં આવે છે. ચાલો સ્તંભની જગ્યા માટે એક આધાર બનીએ, અને તેના દ્વારા વિસ્તૃત જગ્યાને સૂચવવામાં આવે. તે પર્યાપ્ત પરિમાણ ઘટાડાની વ્યાખ્યાને અનુસરે છે જે યોગ્ય વિતરણ કાર્યને સૂચવે છે. આ ગુણધર્મને વ્યક્ત કરવાની બીજી રીત આપવામાં આવેલી છે અથવા શરતી રીતે સ્વતંત્ર છે. પછી સબસ્પેસને ડાયમેન્શન રિડક્શન સબસ્પેસ (ડી. આર. એસ.) તરીકે વ્યાખ્યાયિત કરવામાં આવે છે. માળખાકીય પરિમાણતા રીગ્રેસન માટે, માળખાકીય પરિમાણ, એ શરતી વિતરણ જાળવવા માટે જરૂરી વિશિષ્ટ રેખીય સંયોજનોની સૌથી નાની સંખ્યા છે. બીજા શબ્દોમાં કહીએ તો, સૌથી નાનો પરિમાણ ઘટાડો જે હજુ પણ તેના સબસેટ માટે પૂરતો નકશો છે. અનુરૂપ ડી. આર. એસ. ડી-ડાયમેન્શનલ હશે. લઘુતમ પરિમાણ ઘટાડો સબસ્પેસ એ સબસ્પેસને લઘુતમ ડી. આર. એસ. કહેવામાં આવે છે જો તે ડી. આર. એસ. હોય અને તેનું પરિમાણ અન્ય તમામ ડી. આર. એસ. કરતા ઓછું અથવા બરાબર હોય. લઘુતમ ડી. આર. એસ. આવશ્યકપણે અનન્ય નથી, પરંતુ તેનું પરિમાણ વ્યાખ્યા દ્વારા તેના માળખાકીય પરિમાણની બરાબર છે. જો આધાર હોય અને તે લઘુત્તમ ડી. આર. એસ. હોય, તો પછી વાય વિરુદ્ધ વાય નો પ્લોટ લઘુત્તમ પર્યાપ્ત સારાંશ પ્લોટ છે, અને તે (ડી + 1)-પરિમાણીય છે. જો સબસ્પેસ એ ડી. આર. એસ. માટે હોય, અને જો અન્ય તમામ ડી. આર. એસ. માટે હોય, તો તે કેન્દ્રિય પરિમાણ ઘટાડવાની સબસ્પેસ અથવા ફક્ત કેન્દ્રીય સબસ્પેસ છે, અને તેને આના દ્વારા સૂચવવામાં આવે છે. બીજા શબ્દોમાં કહીએ તો, કેન્દ્રીય સબસ્પેસ અસ્તિત્વમાં છે જો અને માત્ર ત્યારે જ જો તમામ પરિમાણ ઘટાડાની સબસ્પેસનું આંતરછેદ પણ પરિમાણ ઘટાડાની સબસ્પેસ હોય, અને તે આંતરછેદ કેન્દ્રિય સબસ્પેસ હોય. કેન્દ્રીય સબસ્પેસ અસ્તિત્વમાં હોવું જરૂરી નથી કારણ કે આંતરછેદ એ ડી. આર. એસ. હોવું જરૂરી નથી. જો કે, જો અસ્તિત્વમાં હોય, તો તે અનન્ય લઘુતમ પરિમાણ ઘટાડાની પેટા જગ્યા પણ છે. કેન્દ્રીય ઉપસ્થાનનું અસ્તિત્વ જ્યારે દરેક પ્રતિગમન પરિસ્થિતિમાં કેન્દ્રીય ઉપસ્થાનના અસ્તિત્વની બાંયધરી આપવામાં આવતી નથી, ત્યાં કેટલીક વ્યાપક પરિસ્થિતિઓ છે જેના હેઠળ તેનું અસ્તિત્વ સીધું અનુસરે છે. ઉદાહરણ તરીકે, કૂક (1998) ની નીચેની દરખાસ્તને ધ્યાનમાં લોઃ ચાલો અને તેના માટે પરિમાણ ઘટાડાની પેટા જગ્યાઓ બનો. જો બધા માટે અને દરેક જગ્યાએ ઘનતા હોય, જ્યાં બહિર્મુખ હોય, તો આંતરછેદ પણ પરિમાણ ઘટાડવાની પેટા જગ્યા છે. તે આ દરખાસ્ત પરથી અનુસરે છે કે આવા માટે કેન્દ્રિય સબસ્પેસ અસ્તિત્વમાં છે. પરિમાણ ઘટાડવાની પદ્ધતિઓ ગ્રાફિકલ અને આંકડાકીય એમ બંને પરિમાણ ઘટાડવાની ઘણી હાલની પદ્ધતિઓ છે. ઉદાહરણ તરીકે, સ્લાઈસ્ડ ઇન્વર્સ રીગ્રેસન (એસ. આઈ. આર.) અને સ્લાઈસ્ડ એવરેજ વેરિયન્સ એસ્ટિમેશન (એસ. એ. વી. ઈ.) 1990ના દાયકામાં રજૂ કરવામાં આવ્યા હતા અને તેનો વ્યાપક ઉપયોગ ચાલુ છે. જોકે એસ. આઈ. આર. ની રચના મૂળરૂપે સબસ્પેસ ઘટાડતા અસરકારક પરિમાણનો અંદાજ કાઢવા માટે કરવામાં આવી હતી, પરંતુ હવે તે સમજી શકાય છે કે તે માત્ર કેન્દ્રીય સબસ્પેસનો અંદાજ કાઢે છે, જે સામાન્ય રીતે અલગ હોય છે. પરિમાણ ઘટાડવાની વધુ તાજેતરની પદ્ધતિઓમાં સંભાવના-આધારિત પર્યાપ્ત પરિમાણ ઘટાડો, વ્યસ્ત ત્રીજી ક્ષણ (અથવા kth ક્ષણ) ના આધારે કેન્દ્રીય સબસ્પેસનો અંદાજ લગાવવો, કેન્દ્રીય ઉકેલ જગ્યાનો અંદાજ લગાવવો, ગ્રાફિકલ રીગ્રેસન, એન્વેલપ મોડેલ અને મુખ્ય સહાયક વેક્ટર મશીનનો સમાવેશ થાય છે. આ અને અન્ય પદ્ધતિઓ વિશે વધુ વિગતો માટે, આંકડાકીય સાહિત્યનો સંપર્ક કરો. મુખ્ય ઘટકોનું વિશ્લેષણ (પી. સી. એ.) અને પરિમાણ ઘટાડવા માટેની સમાન પદ્ધતિઓ પર્યાપ્તતાના સિદ્ધાંત પર આધારિત નથી. ઉદાહરણોઃ રેખીય રીગ્રેસન રીગ્રેસન મોડેલનો વિચાર કરો નોંધ લો કે તેનું વિતરણ તેના વિતરણ જેવું જ છે. તેથી, નો ગાળો એ પરિમાણ ઘટાડવાની પેટા જગ્યા છે. ઉપરાંત, તે 1-પરિમાણીય (સિવાય કે) છે, તેથી આ રીગ્રેસનનું માળખાકીય પરિમાણ છે. ઓ. એલ. એસ. નો અંદાજ સુસંગત છે, અને તેથી તેનો સમયગાળો સુસંગત અંદાજ છે. વિરુદ્ધનો પ્લોટ આ રીગ્રેસન માટે પૂરતો સારાંશ પ્લોટ છે. ડાયમેન્શન રિડક્શન સ્લાઈસ્ડ ઇન્વર્સ રીગ્રેસન પ્રિન્સિપલ કોમ્પોનન્ટ એનાલિસિસ લીનિયર ડિસ્ક્રિમિનન્ટ એનાલિસિસ કર્સ ઓફ ડાયમેન્શનલ્ટી મલ્ટીલિનીયર સબસ્પેસ લર્નિંગ નોટ્સ રેફરન્સ કૂક, આર. ડી. (1998) રીગ્રેસન ગ્રાફિક્સઃ ગ્રાફિક્સ દ્વારા રીગ્રેસનનો અભ્યાસ કરવા માટેના વિચારો, સંભાવના અને આંકડાશાસ્ત્રમાં વિલી શ્રેણી. રીગ્રેસન ગ્રાફિક્સ. કૂક, આર. ડી. અને અદ્રાગની, કે. પી. (2009) "પર્યાપ્ત પરિમાણ ઘટાડો અને રીગ્રેસનમાં આગાહી", ફિલોસોફિકલ ટ્રાન્ઝેક્શન્સ ઓફ ધ રોયલ સોસાયટી A: મેથેમેટિકલ, ફિઝિકલ એન્ડ એન્જિનિયરિંગ સાયન્સિસ, 367 (1906), 4385-4405. ફુલ-ટેક્સ્ટ કૂક, આર. ડી. અને વેઇસબર્ગ, એસ. (1991) "સ્લાઇસ્ડ ઇન્વર્સ રીગ્રેસન ફોર ડાયમેન્શન રિડક્શનઃ કોમેન્ટ", જર્નલ ઓફ ધ અમેરિકન સ્ટેટિસ્ટિકલ એસોસિએશન, 86 (414), 328-332. જેસ્ટર લી, કે-સી. (1991) "સ્લાઇસ્ડ ઇન્વર્સ રીગ્રેસન ફોર ડાયમેન્શન રિડક્શન", જર્નલ ઓફ ધ અમેરિકન સ્ટેટિસ્ટિકલ એસોસિએશન, 86 (414), 316-327. જેસ્ટર બાહ્ય કડીઓ પર્યાપ્ત પરિમાણ ઘટાડો પરિમાણ ઘટાડો