Higher-order singular value decomposition
बहुरेखीय बीजगणित में, एक टेंसर का उच्च-क्रम एकवचन मूल्य अपघटन (एच. ओ. एस. वी. डी.) एक विशिष्ट ऑर्थोगोनल टकर अपघटन है। इसे मैट्रिक्स एकवचन मूल्य अपघटन के एक प्रकार के सामान्यीकरण के रूप में माना जा सकता है। इसमें कंप्यूटर दृष्टि, कंप्यूटर ग्राफिक्स, मशीन लर्निंग, वैज्ञानिक कंप्यूटिंग और सिग्नल प्रोसेसिंग में अनुप्रयोग हैं। कुछ पहलुओं का पता 1928 में एफ. एल. हिचकॉक तक लगाया जा सकता है, लेकिन यह एल. आर. टकर थे जिन्होंने 1960 के दशक में तीसरे क्रम के टेंसर के लिए सामान्य टकर अपघटन विकसित किया, जिसकी आगे एल. डी. लाथौवर एट अल द्वारा वकालत की गई। उनके बहुरेखीय एस. वी. डी. कार्य में जो शक्ति विधि को नियोजित करता है, या वसीलेस्कु और टेरज़ोपोलोस द्वारा समर्थित है जिसने एम-मोड एस. वी. डी. को एक समानांतर एल्गोरिथ्म विकसित किया जो मैट्रिक्स एस. वी. डी. को नियोजित करता है। उच्च क्रम एकल मूल्य अपघटन (एच. ओ. एस. वी. डी.) शब्द को डेलाथौवर के रूप में गढ़ा गया था, लेकिन एल्गोरिथ्म जिसे आमतौर पर साहित्य में एच. ओ. एस. वी. डी. के रूप में संदर्भित किया जाता है और टकर या डेलाथौवर के लिए जिम्मेदार ठहराया जाता है, वैसिलेस्कु और टेरज़ोपोलोस द्वारा विकसित किया गया था। एच. ओ. एस. वी. डी. के मजबूत और एल1-मानक-आधारित रूप भी प्रस्तावित किए गए हैं। परिभाषा इस लेख के उद्देश्य के लिए, अमूर्त टेंसर को एम-वे सरणी के रूप में कुछ आधार के संबंध में निर्देशांक में दिया गया माना जाता है, जिसे इसके द्वारा भी दर्शाया जाता है, जहां एम मोड की संख्या और टेंसर का क्रम है। यह जटिल संख्याएँ हैं और इसमें वास्तविक संख्याएँ और शुद्ध काल्पनिक संख्याएँ दोनों शामिल हैं। मान लीजिए कि यह एक एकात्मक मैट्रिक्स है जिसमें मानक मोड-m के बाएं एकवचन वैक्टर का आधार इस तरह से चपटा होता है कि का jth कॉलम के jth सबसे बड़े एकवचन मूल्य से मेल खाता है। ध्यान दें कि मोड/कारक मैट्रिक्स मोड एम चपटेपन की विशिष्ट परिभाषा पर विशेष रूप से निर्भर नहीं करता है। बहुरेखीय गुणन के गुणों से, हमारे पास संयुग्म पारगमन को दर्शाता है। दूसरी समानता इसलिए है क्योंकि ये एकात्मक मैट्रिक्स हैं। अब कोर टेंसर को परिभाषित करें फिर, का एच. ओ. एस. वी. डी. अपघटन है उपरोक्त संरचना से पता चलता है कि प्रत्येक टेंसर में एच. ओ. एस. वी. डी. होता है। कॉम्पैक्ट एच. ओ. एस. वी. डी. जैसा कि एक मैट्रिक्स के कॉम्पैक्ट एकवचन मूल्य अपघटन के मामले में, एक कॉम्पैक्ट एच. ओ. एस. वी. डी. पर विचार करना भी संभव है, जो अनुप्रयोगों में बहुत उपयोगी है। मान लीजिए कि यह एकात्मक स्तंभों वाला एक मैट्रिक्स है जिसमें मानक कारक-m के समतल होने के गैर-शून्य एकवचन मूल्यों के अनुरूप बाएं एकवचन वैक्टर का आधार होता है। के स्तंभों को इस तरह से क्रमबद्ध किया जाए कि के वें स्तंभ के सबसे बड़े गैर-शून्य एकवचन मूल्य के अनुरूप हो। चूँकि स्तंभों के रूप की छवि के लिए एक आधार है, हमारे पास है जहाँ पहली समानता ऑर्थोगोनल अनुमानों के गुणों के कारण है (हर्मिशियन आंतरिक उत्पाद में) और अंतिम समानता बहुरेखीय गुणन के गुणों के कारण है। चूँकि चपटा होना बाइजेक्टिव मानचित्र हैं और उपरोक्त सूत्र सभी के लिए मान्य है, हम पहले की तरह पाते हैं जहाँ कोर टेंसर अब आकार का है। बहुरेखीय श्रेणी की बहुरेखीय श्रेणी को श्रेणी-के साथ दर्शाया जाता है। बहुरेखीय श्रेणी कहाँ में एक टुपल है। सभी टुपल्स बहुरेखीय रैंक नहीं होते हैं। बहुरेखीय श्रेणी से बंधी होती है और यह उस बाधा को पूरा करती है जिसे बनाए रखना चाहिए। कॉम्पैक्ट एच. ओ. एस. वी. डी. इस अर्थ में एक श्रेणी-खुलासा अपघटन है कि इसके मूल टेंसर के आयाम टेंसर के बहुरेखीय श्रेणी के घटकों के अनुरूप हैं। निम्नलिखित ज्यामितीय व्याख्या पूर्ण और संक्षिप्त एच. ओ. एस. वी. डी. दोनों के लिए मान्य है। मान लीजिए कि टेंसर की बहुरेखीय श्रेणी है। चूंकि यह एक बहुआयामी सरणी है, इसलिए हम इसे निम्नलिखित रूप में विस्तारित कर सकते हैं जहाँ का th मानक आधार सदिश है। बहुरेखीय गुणन की परिभाषा के अनुसार, यह मानता है कि जहाँ के स्तंभ हैं। यह सत्यापित करना आसान है कि यह टेंसर का एक ऑर्थोनॉर्मल सेट है। इसका मतलब है कि एच. ओ. एस. वी. डी. की व्याख्या बहुआयामी सरणी के रूप में दिए गए गुणांक के साथ विशेष रूप से चुने गए ऑर्थोनॉर्मल आधार के संबंध में टेंसर को व्यक्त करने के तरीके के रूप में की जा सकती है। गणना मान लीजिए कि यह एक श्रेणी-के साथ एक टेंसर है, जिसमें एक उपसमुच्चय के रूप में वास्तविक शामिल हैं। शास्त्रीय गणना बहुरेखीय एस. वी. डी. और एम-मोड एस. वी. डी. की गणना करने की रणनीति 1960 के दशक में एल. आर. टकर द्वारा पेश की गई थी, जिसकी आगे एल. डी. लाथौवर और अन्य लोगों द्वारा वकालत की गई थी, और वैसिलेस्कु और टर्जोपुलस द्वारा। एच. ओ. एस. वी. डी. शब्द लीवेन डी लाथौवर द्वारा गढ़ा गया था, लेकिन आमतौर पर साहित्य में एच. ओ. एस. वी. डी. के रूप में संदर्भित एल्गोरिथ्म को वासिलेस्कु और टेरज़ोपोलोस द्वारा एम-मोड एस. वी. डी. नाम से पेश किया गया था। यह एक समानांतर गणना है जो मैट्रिक्स एस. वी. डी. को ऑर्थोनॉर्मल मोड मैट्रिक्स की गणना करने के लिए नियोजित करती है। एम-मोड एस. वी. डी.: इसके लिए, निम्नलिखित कार्य करेंः मोड-एम चपटा करने का निर्माण करें; (कॉम्पैक्ट) एकल मूल्य अपघटन की गणना करें, और बाएं एकवचन वैक्टर को संग्रहीत करें; बहुरेखीय गुणन इंटरलेसिंग गणना के माध्यम से कोर टेंसर की गणना करें एक ऐसी रणनीति जो काफी तेज होती है जब कुछ या सभी में कोर टेंसर और कारक मैट्रिक्स की गणना को इंटरलेसिंग शामिल होता है, निम्नानुसारः सेट करें; निम्नलिखित प्रदर्शन करने के लिएः मानक मोड-चपटा करने का निर्माण करें; (कॉम्पैक्ट) एकल मूल्य अपघटन की गणना करें, और बाएं एकवचन वैक्टर को संग्रहीत करें; सेट करें, या, समकक्ष रूप से,। इन-प्लेस गणना एच. ओ. एस. वी. डी. की गणना एच. ओ. एस. वी. डी. कोर टेंसर द्वारा मूल टेंसर को अधिलेखित करके फ्यूज्ड इन-प्लेस सीक्वेंशियली ट्रंकेटेड हायर ऑर्डर सिंगुलर वैल्यू डीकंपोजिशन (एफ. आई. एस. टी.-एच. ओ. एस. वी. डी.) एल्गोरिदम के माध्यम से की जा सकती है, जिससे एच. ओ. एस. वी. डी. की गणना की स्मृति खपत में काफी कमी आती है। सन्निकटन अनुप्रयोगों में, जैसे कि नीचे उल्लिखित, एक सामान्य समस्या में एक दिए गए टेंसर को एक कम बहुरेखीय श्रेणी के साथ अनुमानित करना शामिल है। औपचारिक रूप से, यदि की बहुरेखीय श्रेणी को इसके द्वारा दर्शाया जाता है, तो दिए गए कम के लिए अनुमानित इष्टतम की गणना करना एक गैर-रेखीय गैर-उत्तल-अनुकूलन समस्या है, जहां के साथ कम बहुरेखीय श्रेणी है, और मानक फ्रोबेनियस मानक है। इस अनुकूलन समस्या को हल करने का प्रयास करने के लिए एक सरल विचार क्लासिक या इंटरलेस्ड गणना के चरण 2 में (कॉम्पैक्ट) एस. वी. डी. को काटना है। एक शास्त्रीय रूप से कटा हुआ एच. ओ. एस. वी. डी. क्लासिक गणना में चरण 2 को प्रतिस्थापित करके एक श्रेणी-कटा हुआ एस. वी. डी. की गणना करके प्राप्त किया जाता है, और शीर्ष बाएं एकवचन वैक्टर को संग्रहीत किया जाता है; जबकि एक क्रमिक रूप से कटा हुआ एच. ओ. एस. वी. डी. (या क्रमिक रूप से कटा हुआ एच. ओ. एस. वी. डी.) एक श्रेणी-कटा हुआ एस. वी. डी. की गणना करके इंटरलेस्ड गणना में चरण 2 को प्रतिस्थापित करके प्राप्त किया जाता है, और शीर्ष बाएं एकवचन वैक्टर को संग्रहीत किया जाता है। दुर्भाग्य से, छंटाई के परिणामस्वरूप सबसे अच्छी निम्न बहुरेखीय श्रेणी अनुकूलन समस्या के लिए एक इष्टतम समाधान नहीं होता है। हालांकि, शास्त्रीय रूप से और इंटरलीव्ड कटे हुए एच. ओ. एस. वी. डी. दोनों का परिणाम एक अर्ध-इष्टतम समाधान में होता हैः यदि शास्त्रीय रूप से या क्रमिक रूप से कटे हुए एच. ओ. एस. वी. डी. को दर्शाता है और सर्वश्रेष्ठ निम्न बहुरेखीय श्रेणी सन्निकटन समस्या के इष्टतम समाधान को दर्शाता है, तो व्यवहार में इसका मतलब है कि यदि एक छोटी त्रुटि के साथ एक इष्टतम समाधान मौजूद है, तो एक कटा हुआ एच. ओ. एस. वी. डी. कई इच्छित उद्देश्यों के लिए भी पर्याप्त रूप से अच्छा समाधान देगा। अनुप्रयोग एच. ओ. एस. वी. डी. को आमतौर पर बहु-मार्ग सरणियों से प्रासंगिक जानकारी के निष्कर्षण के लिए लागू किया जाता है। 2000 के दशक की शुरुआत में, वासिलेस्कु ने डेटा विश्लेषण, पहचान और संश्लेषण समस्याओं को बहुरेखीय टेंसर समस्याओं के रूप में फिर से तैयार करके कारणात्मक प्रश्नों को संबोधित किया। टेन्सर फ्रेमवर्क की शक्ति को चाल की पहचान, चेहरे की पहचान-टेन्सरफेस और कंप्यूटर ग्राफिक्स-टेन्सरटेक्स्टर्स के लिए मानव गति हस्ताक्षर के संदर्भ में, डेटा निर्माण के कारण कारकों के संदर्भ में एक छवि को विघटित और प्रतिनिधित्व करके प्रदर्शित किया गया था। एच. ओ. एस. वी. डी. को सिग्नल प्रोसेसिंग और बड़े डेटा जैसे जीनोमिक सिग्नल प्रोसेसिंग में सफलतापूर्वक लागू किया गया है। इन अनुप्रयोगों ने एक उच्च क्रम वाले जीएसवीडी (एचओ जीएसवीडी) और एक टेंसर जीएसवीडी को भी प्रेरित किया। एच. ओ. एस. वी. डी. और एस. वी. डी. के संयोजन को रोग निगरानी में जटिल डेटा धाराओं (स्थान और समय आयामों के साथ बहुभिन्नरूपी डेटा) से वास्तविक समय में घटना का पता लगाने के लिए भी लागू किया गया है। इसका उपयोग टेंसर उत्पाद मॉडल परिवर्तन-आधारित नियंत्रक डिजाइन में भी किया जाता है। एच. ओ. एस. वी. डी. की अवधारणा को टी. पी. मॉडल परिवर्तन के माध्यम से बरानी और याम द्वारा कार्यों में ले जाया गया था। इस विस्तार ने एच. ओ. एस. वी. डी.-आधारित टेंसर उत्पाद कार्यों और रैखिक पैरामीटर वैरिंग सिस्टम मॉडल के विहित रूप की परिभाषा और उत्तल पतवार हेरफेर आधारित नियंत्रण अनुकूलन सिद्धांत को जन्म दिया, नियंत्रण सिद्धांतों में टी. पी. मॉडल परिवर्तन देखें। एच. ओ. एस. वी. डी. को बहु-दृश्य डेटा विश्लेषण पर लागू करने का प्रस्ताव किया गया था और जीन अभिव्यक्ति से सिलिको दवा की खोज में सफलतापूर्वक लागू किया गया था। मजबूत एल1-मानक संस्करण एल1-टकर टकर अपघटन का एल1-मानक-आधारित, मजबूत संस्करण है। एल1-एच. ओ. एस. वी. डी. एल1-टकर के समाधान के लिए एच. ओ. एस. वी. डी. के अनुरूप है। संदर्भ बहुरेखीय बीजगणित टेंसर