Linear predictor function
सांख्यिकी और मशीन लर्निंग में, एक रैखिक भविष्यवक्ता कार्य गुणांक और व्याख्यात्मक चर (स्वतंत्र चर) के एक समूह का एक रैखिक कार्य (रैखिक संयोजन) है, जिसका मूल्य एक आश्रित चर के परिणाम की भविष्यवाणी करने के लिए उपयोग किया जाता है। इस प्रकार का कार्य आमतौर पर रैखिक प्रतिगमन में आता है, जहां गुणांक को प्रतिगमन गुणांक कहा जाता है। हालाँकि, वे विभिन्न प्रकार के रैखिक वर्गीकरणों में भी पाए जाते हैं (जैसे। रसद प्रतिगमन, परसेप्ट्रॉन, समर्थन वेक्टर मशीन, और रैखिक विभेदक विश्लेषण), साथ ही साथ विभिन्न अन्य मॉडलों में, जैसे कि प्रमुख घटक विश्लेषण और कारक विश्लेषण। इनमें से कई मॉडलों में, गुणांक को "भार" के रूप में संदर्भित किया जाता है। परिभाषा डेटा बिंदु i (p व्याख्यात्मक चर से मिलकर) के लिए एक रैखिक भविष्यसूचक फलन का मूल रूप, i = 1,., n के लिए, जहां, k = 1,., p के लिए, डेटा बिंदु i के लिए k-th व्याख्यात्मक चर का मान है, और गुणांक (प्रतिगमन गुणांक, भार, आदि) हैं। परिणाम पर एक विशेष व्याख्यात्मक चर के सापेक्ष प्रभाव का संकेत। संकेतन भविष्यसूचक फलन को अधिक सघन रूप में निम्नानुसार लिखना सामान्य हैः गुणांक β0, β1,., βp को p + 1 आकार के एकल सदिश β में समूहीकृत किया जाता है। प्रत्येक डेटा बिंदु i के लिए, एक अतिरिक्त व्याख्यात्मक छद्म-चर xi0 जोड़ा जाता है, 1 के एक निश्चित मूल्य के साथ, अवरोधन गुणांक β0 के अनुरूप। परिणामी व्याख्यात्मक चर xi0 (= 1), xi1,., xip को फिर p + 1 आकार के एकल सदिश xi में समूहीकृत किया जाता है। वेक्टर संकेतन इससे रैखिक भविष्यसूचक फलन को निम्नानुसार लिखना संभव हो जाता हैः दो वैक्टरों के बीच एक बिंदु उत्पाद के लिए संकेतन का उपयोग करना। मैट्रिक्स संकेतन का उपयोग करते हुए एक समतुल्य रूप इस प्रकार हैः जहां और एक (पी + 1)-बाय-1 कॉलम वैक्टर माना जाता है, (इसलिए एक 1-बाय-(पी + 1) पंक्ति वेक्टर है) का मैट्रिक्स ट्रांसपोज़ है, और 1-बाय-(पी + 1) पंक्ति वेक्टर और (पी + 1)-बाय-1 कॉलम वेक्टर के बीच मैट्रिक्स गुणन को इंगित करता है, जो 1-बाय-1 मैट्रिक्स का उत्पादन करता है जिसे एक स्केलर माना जाता है। रैखिक प्रतिगमन एक रैखिक भविष्यसूचक फलन के उपयोग का एक उदाहरण रैखिक प्रतिगमन में है, जहां प्रत्येक डेटा बिंदु एक निरंतर परिणाम yi से जुड़ा होता है, और संबंध लिखा जाता है जहां एक विक्षोभ शब्द या त्रुटि चर होता है-एक अनिर्धारित यादृच्छिक चर जो आश्रित चर और भविष्यसूचक फलन के बीच रैखिक संबंध में शोर जोड़ता है। कुछ मॉडलों में (विशेष रूप से मानक रैखिक प्रतिगमन), प्रत्येक डेटा बिंदु i = 1,., n के लिए समीकरणों को एक साथ रखा जाता है और वेक्टर रूप में लिखा जाता है जहां मैट्रिक्स X को डिज़ाइन मैट्रिक्स के रूप में जाना जाता है और स्वतंत्र चर के बारे में सभी ज्ञात जानकारी को कूटबद्ध करता है। चर यादृच्छिक चर हैं, जो मानक रैखिक प्रतिगमन में एक मानक सामान्य वितरण के अनुसार वितरित किए जाते हैं; वे परिणाम पर किसी भी अज्ञात कारकों के प्रभाव को व्यक्त करते हैं। इससे सरल मैट्रिक्स संचालन का उपयोग करके न्यूनतम वर्गों की विधि के माध्यम से इष्टतम गुणांक खोजना संभव हो जाता है। विशेष रूप से, न्यूनतम वर्गों द्वारा अनुमानित इष्टतम गुणांक को निम्नानुसार लिखा जा सकता हैः मैट्रिक्स को एक्स के मूर-पेनरोज़ छद्म-व्युत्क्रम के रूप में जाना जाता है। इस सूत्र में मैट्रिक्स व्युत्क्रम के उपयोग के लिए आवश्यक है कि X पूर्ण श्रेणी का हो, अर्थात। विभिन्न व्याख्यात्मक चरों के बीच पूर्ण बहुकोशीयता नहीं है (अर्थात। किसी भी व्याख्यात्मक चर की दूसरों से पूरी तरह से भविष्यवाणी नहीं की जा सकती है)। ऐसे मामलों में, एकल मूल्य अपघटन का उपयोग छद्म व्युत्क्रम की गणना करने के लिए किया जा सकता है। हालांकि अनुमानित किए जाने वाले परिणामों (आश्रित चर) को यादृच्छिक चर माना जाता है, लेकिन व्याख्यात्मक चर को आमतौर पर यादृच्छिक नहीं माना जाता है। इसके बजाय, उन्हें निश्चित मान माना जाता है, और कोई भी यादृच्छिक चर (जैसे। परिणाम) उन पर सशर्त माना जाता है। नतीजतन, डेटा विश्लेषक मनमाने तरीकों से व्याख्यात्मक चर को बदलने के लिए स्वतंत्र है, जिसमें दिए गए व्याख्यात्मक चर की कई प्रतियां बनाना शामिल है, जिनमें से प्रत्येक को एक अलग कार्य का उपयोग करके परिवर्तित किया जाता है। अन्य सामान्य तकनीकें दो (या कभी-कभी अधिक) मौजूदा व्याख्यात्मक चर के उत्पादों को लेकर अंतःक्रिया चर के रूप में नए व्याख्यात्मक चर बनाना है। जब एक डेटा बिंदु के मूल्य (ओं) को बदलने के लिए अरैखिक कार्यों के एक निश्चित समूह का उपयोग किया जाता है, तो इन कार्यों को आधार कार्यों के रूप में जाना जाता है। एक उदाहरण बहुपद प्रतिगमन है, जो डेटा बिंदुओं के दो सेटों (यानी एक दिए गए क्रम तक) के बीच एक मनमाने डिग्री बहुपद संबंध (एक दिए गए क्रम तक) को फिट करने के लिए एक रैखिक भविष्यवक्ता कार्य का उपयोग करता है। एक एकल वास्तविक-मूल्यवान व्याख्यात्मक चर और एक संबंधित वास्तविक-मूल्यवान आश्रित चर), मौजूदा व्याख्यात्मक चर की विभिन्न शक्तियों के अनुरूप कई व्याख्यात्मक चर जोड़कर। गणितीय रूप से, रूप इस तरह दिखता हैः इस मामले में, प्रत्येक डेटा बिंदु i के लिए, व्याख्यात्मक चर का एक समूह निम्नानुसार बनाया जाता हैः और फिर मानक रैखिक प्रतिगमन चलाया जाता है। इस उदाहरण में आधार कार्य होंगे इस उदाहरण से पता चलता है कि एक रैखिक भविष्यवक्ता कार्य वास्तव में पहले दिखाई देने की तुलना में बहुत अधिक शक्तिशाली हो सकता हैः इसे केवल गुणांक में रैखिक होने की आवश्यकता है। व्याख्यात्मक चर के सभी प्रकार के गैर-रैखिक कार्यों को मॉडल द्वारा फिट किया जा सकता है। इनपुट्स टू बेसिस फ़ंक्शंस के लिए अविभाज्य या एकल-आयामी होने की कोई विशेष आवश्यकता नहीं है (या उनके आउटपुट, उस मामले के लिए, हालांकि ऐसे मामले में, एक के-आयामी आउटपुट मूल्य को के अलग स्केलर-आउटपुट बेसिस फ़ंक्शंस के रूप में माने जाने की संभावना है)। इसका एक उदाहरण रेडियल बेसिस फंक्शन (आरबीएफ) है, जो दूरी के कुछ परिवर्तित संस्करण की गणना किसी निश्चित बिंदु पर करता हैः एक उदाहरण गॉसियन आरबीएफ है, जिसका सामान्य वितरण के समान कार्यात्मक रूप हैः जो सी से दूरी बढ़ने पर तेजी से गिरता है। आरबीएफ का एक संभावित उपयोग प्रत्येक देखे गए डेटा बिंदु के लिए एक बनाना है। इसका मतलब है कि एक नए डेटा बिंदु पर लागू आरबीएफ का परिणाम 0 के करीब होगा जब तक कि नया बिंदु उस बिंदु के करीब न हो जिसके आसपास आरबीएफ लागू किया गया था। अर्थात्, रेडियल आधार कार्यों का अनुप्रयोग निकटतम बिंदु को चुनेगा, और इसका प्रतिगमन गुणांक हावी होगा। परिणाम निकटतम पड़ोसी अंतर्वेशन का एक रूप होगा, जहां भविष्यवाणियां केवल निकटतम देखे गए डेटा बिंदु की भविष्यवाणी का उपयोग करके की जाती हैं, संभवतः कई आस-पास के डेटा बिंदुओं के बीच अंतर्वेशन करते हुए जब वे सभी समान दूरी पर होते हैं। भविष्यवाणी के लिए इस प्रकार की निकटतम पड़ोसी विधि को अक्सर मानक रैखिक प्रतिगमन में उपयोग की जाने वाली भविष्यवाणी के प्रकार के विपरीत माना जाता हैः लेकिन वास्तव में, एक रैखिक भविष्यवक्ता कार्य में व्याख्यात्मक चर पर लागू किए जा सकने वाले परिवर्तन इतने शक्तिशाली हैं कि निकटतम पड़ोसी विधि को भी एक प्रकार के रैखिक प्रतिगमन के रूप में लागू किया जा सकता है। गुणांकों में गैर-रैखिक दिखाई देने वाले कुछ कार्यों को नए गुणांकों में बदलकर फिट करना भी संभव है जो रैखिक दिखाई देते हैं। उदाहरण के लिए, गुणांक के लिए रूप के एक फलन को उन प्रतिस्थापनों को लागू करके उपयुक्त रैखिक फलन में परिवर्तित किया जा सकता है जो रैखिक हैं। रैखिक प्रतिगमन और इसी तरह की तकनीकों को लागू किया जा सकता है और अक्सर अभी भी इष्टतम गुणांक पाए जाएंगे, लेकिन उनके त्रुटि अनुमान और इस तरह के गलत होंगे। व्याख्यात्मक चर किसी भी प्रकार के हो सकते हैंः वास्तविक-मूल्य, द्विआधारी, श्रेणीबद्ध, आदि। मुख्य अंतर निरंतर चर के बीच है (जैसे। आय, आयु, रक्तचाप, आदि) और असतत चर (जैसे। लिंग, नस्ल, राजनीतिक दल, आदि)। दो से अधिक संभावित विकल्पों का उल्लेख करने वाले असतत चर को आम तौर पर नकली चर (या सूचक चर) का उपयोग करके कोडित किया जाता है, अर्थात। 0 या 1 मान लेने वाले अलग-अलग व्याख्यात्मक चर असतत चर के प्रत्येक संभावित मूल्य के लिए बनाए जाते हैं, जिसमें 1 का अर्थ है "चर का दिया गया मूल्य होता है" और 0 का अर्थ है "चर का दिया गया मूल्य नहीं होता है"। उदाहरण के लिए, संभावित मानों "ए, बी, एबी, ओ" के साथ रक्त प्रकार के चार-तरफा असतत चर को अलग-अलग दो-तरफा नकली चर में परिवर्तित किया जाएगा, "है-ए, है-बी, है-एबी, है-ओ", जहां उनमें से केवल एक का मान 1 है और बाकी सभी का मान 0 है। यह असतत चर के प्रत्येक संभावित मूल्य के लिए अलग-अलग प्रतिगमन गुणांक का मिलान करने की अनुमति देता है। ध्यान दें कि, के श्रेणियों के लिए, सभी के डमी चर एक दूसरे से स्वतंत्र नहीं हैं। उदाहरण के लिए, उपरोक्त रक्त प्रकार के उदाहरण में, चार नकली चरों में से केवल तीन स्वतंत्र हैं, इस अर्थ में कि एक बार तीन चरों के मान ज्ञात हो जाने के बाद, चौथा स्वचालित रूप से निर्धारित हो जाता है। इस प्रकार, चार संभावनाओं में से केवल तीन को डमी चर के रूप में कूटबद्ध करना वास्तव में आवश्यक है, और वास्तव में यदि सभी चार संभावनाओं को कूटबद्ध किया जाता है, तो समग्र मॉडल गैर-पहचान योग्य हो जाता है। यह कई तरीकों के लिए समस्याओं का कारण बनता है, जैसे कि रैखिक प्रतिगमन में उपयोग किया जाने वाला सरल बंद-रूप समाधान। समाधान या तो नकली चर में से एक को समाप्त करके ऐसे मामलों से बचना है, और/या एक नियमितकरण बाधा पेश करना है (जो इष्टतम गुणांक खोजने के लिए एक अधिक शक्तिशाली, आमतौर पर पुनरावृत्ति, विधि की आवश्यकता है)। रैखिक प्रतिगमन मॉडल संदर्भ प्रतिगमन विश्लेषण मशीन लर्निंग भी देखें।