Structured support vector machine
संरचित समर्थन-वेक्टर मशीन एक मशीन लर्निंग एल्गोरिदम है जो समर्थन-वेक्टर मशीन (एस. वी. एम.) वर्गीकरण को सामान्यीकृत करता है। जबकि एस. वी. एम. वर्गीकरण द्विआधारी वर्गीकरण, बहुस्तरीय वर्गीकरण और प्रतिगमन का समर्थन करता है, संरचित एस. वी. एम. सामान्य संरचित उत्पादन लेबलों के लिए वर्गीकरण के प्रशिक्षण की अनुमति देता है। एक उदाहरण के रूप में, एक नमूना उदाहरण एक प्राकृतिक भाषा वाक्य हो सकता है, और आउटपुट लेबल एक एनोटेटेड पार्स ट्री है। एक वर्गीकरणकर्ता को प्रशिक्षित करने में सही नमूने और आउटपुट लेबल जोड़े के जोड़े दिखाए जाते हैं। प्रशिक्षण के बाद, संरचित एस. वी. एम. मॉडल किसी को नए नमूना उदाहरणों के लिए संबंधित आउटपुट लेबल की भविष्यवाणी करने की अनुमति देता है; यानी, एक प्राकृतिक भाषा वाक्य को देखते हुए, वर्गीकरणकर्ता सबसे अधिक संभावना वाले पार्स ट्री का उत्पादन कर सकता है। प्रशिक्षण प्रशिक्षण उदाहरणों के एक समूह के लिए, एक नमूना स्थान और लेबल स्थान से, संरचित एसवीएम निम्नलिखित नियमित जोखिम कार्य को कम करता है। फलन उत्तल होता है क्योंकि अफाइन फलन समूह का अधिकतम उत्तल होता है। फलन लेबल स्थान में एक दूरी को मापता है और एक मनमाना फलन (आवश्यक रूप से एक मीट्रिक नहीं) संतोषजनक और है। फलन एक विशेषता फलन है, जो दिए गए नमूने और लेबल से कुछ विशेषता सदिश निकालता है। इस कार्य का डिजाइन अनुप्रयोग पर बहुत अधिक निर्भर करता है। क्योंकि ऊपर नियमित जोखिम कार्य गैर-विभेदक है, इसे अक्सर प्रत्येक नमूने के लिए एक सुस्त चर पेश करके एक द्विघात कार्यक्रम के संदर्भ में फिर से तैयार किया जाता है, जिसमें से प्रत्येक अधिकतम के मूल्य का प्रतिनिधित्व करता है। मानक संरचित एस. वी. एम. प्राथमिक सूत्रीकरण निम्नानुसार दिया गया है। अनुमान परीक्षण के समय, केवल एक नमूना ज्ञात होता है, और एक भविष्यवाणी कार्य इसे लेबल स्थान से एक अनुमानित लेबल पर मैप करता है। संरचित एस. वी. एम. के लिए, प्रशिक्षण से प्राप्त वेक्टर को देखते हुए, भविष्यवाणी कार्य निम्नलिखित है। इसलिए, लेबल स्थान पर अधिकतम करने वाला अनुमानित लेबल है। इस अधिकतमकर्ता के लिए हल करना तथाकथित अनुमान समस्या है और संभावित मॉडल में अधिकतम ए-पोस्टेरियोरी (एमएपी) भविष्यवाणी करने के समान है। फ़ंक्शन की संरचना के आधार पर, मैक्सिमाइज़र के लिए हल करना एक कठिन समस्या हो सकती है। पृथक्करण उपरोक्त द्विघात कार्यक्रम में रैखिक असमानता बाधाओं की एक बहुत बड़ी, संभवतः अनंत संख्या शामिल है। सामान्य तौर पर, असमानताओं की संख्या बहुत अधिक है जिसे स्पष्ट रूप से अनुकूलित नहीं किया जा सकता है। इसके बजाय समस्या को विलंबित बाधा उत्पादन का उपयोग करके हल किया जाता है जहां बाधाओं के केवल एक सीमित और छोटे उपसमुच्चय का उपयोग किया जाता है। बाधाओं के एक उपसमुच्चय पर अनुकूलन व्यवहार्य सेट को बढ़ाता है और एक समाधान प्रदान करेगा जो उद्देश्य पर एक निचली सीमा प्रदान करता है। यह जांचने के लिए कि क्या समाधान पूर्ण निर्धारित असमानताओं की बाधाओं का उल्लंघन करता है, एक पृथक्करण समस्या को हल करने की आवश्यकता है। जैसे-जैसे असमानताएं नमूनों पर विघटित होती हैं, प्रत्येक नमूने के लिए निम्नलिखित समस्या को हल करने की आवश्यकता होती है। अधिकतम किए जाने वाले दाहिने हाथ के उद्देश्य में स्थिरांक और एक शब्द होता है जो अनुकूलित चर पर निर्भर करता है, अर्थात्। यदि प्राप्त दाहिने हाथ का उद्देश्य छोटा या शून्य के बराबर है, तो इस नमूने के लिए कोई उल्लंघन की गई बाधाएं मौजूद नहीं हैं। यदि यह सख्ती से शून्य से बड़ा है, तो इस नमूने के संबंध में सबसे अधिक उल्लंघन की गई बाधा की पहचान की गई है। इस बाधा से समस्या बढ़ जाती है और हल हो जाती है। प्रक्रिया तब तक जारी रहती है जब तक कि किसी भी उल्लंघन की असमानता की पहचान नहीं की जा सकती है। यदि उपरोक्त समस्या से स्थिरांक हटा दिए जाते हैं, तो हम निम्नलिखित समस्या को हल करने के लिए प्राप्त करते हैं। यह समस्या अनुमान समस्या के बहुत समान दिखती है। एकमात्र अंतर शब्द का जोड़ है। अक्सर, इसे इस तरह से चुना जाता है कि इसमें लेबल स्थान में एक प्राकृतिक अपघटन हो। उस स्थिति में, के प्रभाव को अनुमान समस्या में कूटबद्ध किया जा सकता है और सबसे अधिक उल्लंघन करने वाली बाधा को हल करना अनुमान समस्या को हल करने के बराबर है। संदर्भ आयोनिस त्सोचैंटारिडिस, थोर्स्टन जोआकिम्स, थॉमस हॉफमैन और यासेमिन अल्टुन (2005), लार्ज मार्जिन मेथड्स फॉर स्ट्रक्चर्ड एंड इंटरडिपेंडेंट आउटपुट वेरिएबल्स, जे. एम. एल. आर., वॉल्यूम। 6, पृष्ठ 1453-1484। थॉमस फिनले और थॉर्स्टन जोआकिम्स (2008), प्रशिक्षण संरचनात्मक एस. वी. एम. जब सटीक अनुमान जटिल है, आई. सी. एम. एल. 2008। सुनीता सरावगी और राहुल गुप्ता (2008), स्ट्रक्चर्ड आउटपुट स्पेस के लिए सटीक अधिकतम-मार्जिन प्रशिक्षण, आई. सी. एम. एल. 2008। गोखान बकीर, बेन टास्कर, थॉमस हॉफमैन, बर्नहार्ड शॉल्कॉफ, एलेक्स स्मोला और एसवीएन विश्वनाथन (2007), प्रेडिक्टिंग स्ट्रक्चर्ड डेटा, एमआईटी प्रेस। वोज्तेच फ्रैंक और बोग्डन सावचिंस्की डिस्क्रिमिनेटिव लर्निंग ऑफ मैक्स-सम क्लासिफायर्स, जर्नल ऑफ मशीन लर्निंग रिसर्च, 9 (जनवरी): 67-104,2008, माइक्रोटॉम पब्लिशिंग केविन मर्फी मशीन लर्निंग, एमआईटी प्रेस स्ट्रक्चर्ड प्रेडिक्शन सपोर्ट वेक्टर मशीन