Sufficient dimension reduction
सांख्यिकी में, पर्याप्त आयाम में कमी (एस. डी. आर.) डेटा के विश्लेषण के लिए एक प्रतिमान है जो पर्याप्तता की अवधारणा के साथ आयाम में कमी के विचारों को जोड़ता है। आयाम में कमी लंबे समय से प्रतिगमन विश्लेषण का एक प्राथमिक लक्ष्य रहा है। एक प्रतिक्रिया चर y और एक पी-आयामी भविष्यवक्ता वेक्टर को देखते हुए, प्रतिगमन विश्लेषण का उद्देश्य दिए गए के सशर्त वितरण का अध्ययन करना है। एक आयाम कमी एक ऐसा कार्य है जो k <p के सबसेट को मैप करता है, जिससे के आयाम को कम किया जाता है। उदाहरण के लिए, एक या अधिक रैखिक संयोजन हो सकते हैं। एक आयाम में कमी को पर्याप्त कहा जाता है यदि का वितरण के समान है। दूसरे शब्दों में, यदि कमी पर्याप्त है तो परिमाण को कम करने में प्रतिगमन के बारे में कोई जानकारी नहीं जाती है। चित्रात्मक अभिप्रेरणा एक प्रतिगमन सेटिंग में, यह अक्सर चित्रात्मक रूप से वितरण को सारांशित करने के लिए उपयोगी होता है। उदाहरण के लिए, एक या एक से अधिक भविष्यवक्ताओं के खिलाफ एक स्कैटर प्लॉट पर विचार किया जा सकता है। एक स्कैटर प्लॉट जिसमें सभी उपलब्ध प्रतिगमन जानकारी होती है, उसे पर्याप्त सारांश प्लॉट कहा जाता है। उच्च-आयामी कब होता है, विशेष रूप से जब, डेटा को कम किए बिना पर्याप्त सारांश भूखंडों का निर्माण और दृष्टिगत व्याख्या करना तेजी से चुनौतीपूर्ण हो जाता है। यहां तक कि त्रि-आयामी स्कैटर प्लॉट को भी एक कंप्यूटर प्रोग्राम के माध्यम से देखा जाना चाहिए, और तीसरे आयाम को केवल समन्वय अक्षों को घुमाकर देखा जा सकता है। हालाँकि, यदि पर्याप्त छोटे आयाम के साथ पर्याप्त आयाम में कमी मौजूद है, तो बनाम के पर्याप्त सारांश प्लॉट का निर्माण किया जा सकता है और सापेक्ष आसानी के साथ दृश्य रूप से व्याख्या की जा सकती है। इसलिए पर्याप्त आयाम में कमी के वितरण के बारे में चित्रमय अंतर्ज्ञान की अनुमति देता है, जो अन्यथा उच्च-आयामी डेटा के लिए उपलब्ध नहीं हो सकता है। अधिकांश ग्राफिकल कार्यप्रणाली मुख्य रूप से आयाम में कमी पर केंद्रित है जिसमें रैखिक संयोजन शामिल हैं। इस लेख का शेष भाग केवल इस तरह की कटौती से संबंधित है। मान लीजिए कि आयाम में कमी एक पर्याप्त मात्रा में कमी है, जहां रैंक के साथ एक मैट्रिक्स है। फिर प्रतिगमन जानकारी के वितरण का अध्ययन करके अनुमान लगाया जा सकता है, और बनाम का प्लॉट एक पर्याप्त सारांश प्लॉट है। व्यापकता के नुकसान के बिना, केवल आवश्यकता के स्तंभों द्वारा फैले स्थान पर विचार किया जाना चाहिए। के स्तंभ स्थान के लिए एक आधार होने दें, और इसके द्वारा फैले स्थान को दर्शाया जाए। यह एक पर्याप्त आयाम कमी की परिभाषा का अनुसरण करता है जो उपयुक्त वितरण कार्य को दर्शाता है। इस गुण को व्यक्त करने का एक और तरीका दिया गया है या सशर्त रूप से स्वतंत्र है। फिर सबस्पेस को डायमेंशन रिडक्शन सबस्पेस (डी. आर. एस.) के रूप में परिभाषित किया जाता है। संरचनात्मक आयाम एक प्रतिगमन के लिए, संरचनात्मक आयाम, के सशर्त वितरण को संरक्षित करने के लिए आवश्यक विशिष्ट रैखिक संयोजनों की सबसे छोटी संख्या है। दूसरे शब्दों में, सबसे छोटी आयाम कमी जो अभी भी एक उपसमुच्चय के लिए पर्याप्त है। संबंधित डी. आर. एस. डी-आयामी होगा। न्यूनतम आयाम कमी उपक्षेत्र एक उपक्षेत्र को न्यूनतम डी. आर. एस. कहा जाता है यदि यह एक डी. आर. एस. है और इसका आयाम अन्य सभी डी. आर. एस. से कम या बराबर है। न्यूनतम डी. आर. एस. आवश्यक रूप से अद्वितीय नहीं है, लेकिन इसका आयाम परिभाषा के अनुसार इसके संरचनात्मक आयाम के बराबर है। यदि आधार है और न्यूनतम डी. आर. एस. है, तो वाई बनाम का एक प्लॉट एक न्यूनतम पर्याप्त सारांश प्लॉट है, और यह (डी + 1)-आयामी है। यदि कोई सबस्पेस डी. आर. एस. के लिए है, और यदि अन्य सभी डी. आर. एस. के लिए है, तो यह एक केंद्रीय आयाम कमी सबस्पेस है, या बस एक केंद्रीय सबस्पेस है, और इसे इसके द्वारा दर्शाया जाता है। दूसरे शब्दों में, के लिए एक केंद्रीय उप-स्थान मौजूद है यदि और केवल तभी जब सभी आयाम कमी उप-स्थानों का प्रतिच्छेदन भी एक आयाम कमी उप-स्थान है, और वह प्रतिच्छेदन केंद्रीय उप-स्थान है। केंद्रीय उपक्षेत्र आवश्यक रूप से मौजूद नहीं है क्योंकि प्रतिच्छेदन आवश्यक रूप से डी. आर. एस. नहीं है। हालाँकि, यदि मौजूद है, तो यह अद्वितीय न्यूनतम आयाम कमी उपक्षेत्र भी है। केंद्रीय उपक्षेत्र का अस्तित्व जबकि हर प्रतिगमन स्थिति में केंद्रीय उपक्षेत्र के अस्तित्व की गारंटी नहीं है, कुछ बल्कि व्यापक स्थितियां हैं जिनके तहत इसका अस्तित्व सीधे अनुसरण करता है। उदाहरण के लिए, कुक (1998) के निम्नलिखित प्रस्ताव पर विचार करेंः मान लीजिए और इसके लिए आयाम में कमी करने वाले उपक्षेत्र बनें। यदि सभी के लिए और हर जगह घनत्व है, जहां उत्तल है, तो प्रतिच्छेदन भी एक आयाम कमी उपक्षेत्र है। यह इस प्रस्ताव से पता चलता है कि इस तरह के लिए केंद्रीय उपक्षेत्र मौजूद है। आयाम में कमी के लिए कई मौजूदा तरीके हैं, जो चित्रात्मक और संख्यात्मक दोनों हैं। उदाहरण के लिए, कटा हुआ व्युत्क्रम प्रतिगमन (एस. आई. आर.) और कटा हुआ औसत विचरण अनुमान (एस. ए. वी. ई.) 1990 के दशक में पेश किया गया था और इसका व्यापक रूप से उपयोग किया जाना जारी है। हालाँकि एस. आई. आर. को मूल रूप से उपक्षेत्र को कम करने वाले एक प्रभावी आयाम का अनुमान लगाने के लिए डिज़ाइन किया गया था, लेकिन अब यह समझा जाता है कि यह केवल केंद्रीय उपक्षेत्र का अनुमान लगाता है, जो आम तौर पर अलग होता है। आयाम में कमी के लिए हाल के तरीकों में संभावना-आधारित पर्याप्त आयाम में कमी, व्युत्क्रम तीसरे क्षण (या kth क्षण) के आधार पर केंद्रीय उपक्षेत्र का अनुमान लगाना, केंद्रीय समाधान स्थान का अनुमान लगाना, चित्रमय प्रतिगमन, लिफाफा मॉडल और प्रमुख समर्थन वेक्टर मशीन शामिल हैं। इन और अन्य विधियों के बारे में अधिक जानकारी के लिए, सांख्यिकीय साहित्य से परामर्श लें। प्रधान घटक विश्लेषण (पी. सी. ए.) और आयाम में कमी के लिए इसी तरह के तरीके पर्याप्तता सिद्धांत पर आधारित नहीं हैं। उदाहरण-रैखिक प्रतिगमन प्रतिगमन मॉडल पर विचार करें ध्यान दें कि का वितरण के वितरण के समान है। इसलिए, की अवधि एक आयाम कमी उपक्षेत्र है। इसके अलावा, 1-आयामी (जब तक कि) है, इसलिए इस प्रतिगमन का संरचनात्मक आयाम है। ओ. एल. एस. का अनुमान सुसंगत है, और इसलिए की अवधि एक सुसंगत अनुमानक है। बनाम का प्लॉट इस प्रतिगमन के लिए एक पर्याप्त सारांश प्लॉट है। डायमेंशन रिडक्शन स्लाइस्ड इनवर्स रिग्रेशन प्रिंसिपल कॉम्पोनेन्ट एनालिसिस लीनियर डिस्क्रिमिनेंट एनालिसिस कर्स ऑफ डायमेंशनलिटी मल्टीलीनियर सबस्पेस लर्निंग नोट्स रेफेरेंस कुक, आर. डी. (1998) प्रतिगमन ग्राफिक्सः ग्राफिक्स के माध्यम से प्रतिगमन का अध्ययन करने के लिए विचार, संभावना और सांख्यिकी में विली श्रृंखला। प्रतिगमन ग्राफिक्स। कुक, आर. डी. और अद्रागनी, के. पी. (2009) "पर्याप्त आयाम में कमी और प्रतिगमन में भविष्यवाणी", रॉयल सोसाइटी ए के दार्शनिक लेनदेनः गणितीय, भौतिक और इंजीनियरिंग विज्ञान, 367 (1906), 4385-4405। पूर्ण-पाठ कुक, आर. डी. और वेइसबर्ग, एस. (1991) "आयाम न्यूनीकरण के लिए कटा हुआ व्युत्क्रम प्रतिगमनः टिप्पणी", जर्नल ऑफ द अमेरिकन स्टैटिस्टिकल एसोसिएशन, 86 (414), 328-332। जेस्टर ली, के-सी. (1991) "स्लाइस्ड इनवर्स रिग्रेशन फॉर डाइमेंशन रिडक्शन", जर्नल ऑफ द अमेरिकन स्टैटिस्टिकल एसोसिएशन, 86 (414), 316-327। जेस्टर एक्सटर्नल लिंक पर्याप्त आयाम न्यूनीकरण आयाम में कमी