K q-flats
डेटा माइनिंग और मशीन लर्निंग में,-फ्लैट एल्गोरिदम एक पुनरावृत्ति विधि है जिसका उद्देश्य अवलोकनों को समूहों में विभाजित करना है जहां प्रत्येक समूह एक-फ्लैट के करीब है, जहां एक पूर्णांक दिया गया है। यह-मीन्स एल्गोरिथ्म का एक सामान्यीकरण है। इन-मीन्स एल्गोरिथम में, समूहों का गठन इस तरह से किया जाता है कि प्रत्येक समूह एक बिंदु के करीब हो, जो कि एक-फ्लैट है। - फ्लैट एल्गोरिथ्म कुछ डेटा सेट के लिए-मतलब एल्गोरिथ्म की तुलना में बेहतर क्लस्टरिंग परिणाम देता है। विवरण समस्या सूत्रीकरण टिप्पणियों के एक समूह को देखते हुए जहां प्रत्येक अवलोकन एक एन-आयामी वास्तविक सदिश है,-फ्लैट एल्गोरिथ्म का उद्देश्य-फ्लैट उत्पन्न करके अवलोकन बिंदुओं को विभाजित करना है जो प्रत्येक अवलोकन की दूरी के वर्गों के योग को निकटतम-फ्लैट तक कम करता है। ए-फ्लैट उसका एक उपसमुच्चय है जो इसके लिए सर्वांगसम है। उदाहरण के लिए, एक-फ्लैट एक बिंदु है; एक-फ्लैट एक रेखा है; एक-फ्लैट एक तल है; एक-फ्लैट एक हाइपरप्लेन है। - फ्लैट को समीकरणों की एक रैखिक प्रणाली के समाधान सेट द्वारा चिह्नित किया जा सकता हैः, जहाँ,। के विभाजन को दर्शाएँ। समस्या को इस रूप में तैयार किया जा सकता है कि प्रक्षेपण कहाँ है। ध्यान दें कि यह दूरी से है। एल्गोरिदम एल्गोरिदम के-मीन्स एल्गोरिदम के समान है (अर्थात। लॉयड का एल्गोरिथ्म) जिसमें यह क्लस्टर असाइनमेंट और क्लस्टर अपडेट के बीच बारी-बारी से आता है। विशेष रूप से, एल्गोरिथ्म-फ्लैट के प्रारंभिक सेट के साथ शुरू होता है, और निम्नलिखित दो चरणों के बीच बारी-बारी से आगे बढ़ता हैः क्लस्टर असाइनमेंट (दिए गए-फ्लैट, प्रत्येक बिंदु को निकटतम-फ्लैट को असाइन करें):-th क्लस्टर को क्लस्टर अपडेट के रूप में अपडेट किया जाता है (क्लस्टर असाइनमेंट दिए गए,-फ्लैट को अपडेट करें): के लिए, क्लस्टर को सौंपे गए सभी के अनुरूप पंक्तियों के साथ जाने दें। मैट्रिक्स के रूप में सेट करें जिसके कॉलम और के कम से कम आइगेनवैल्यू के अनुरूप ऑर्थोनॉर्मल आइगेनवेक्टर हैं। जब भी कार्य नहीं बदलते हैं तो रुकें। क्लस्टर असाइनमेंट चरण निम्नलिखित तथ्य का उपयोग करता हैः एक-फ्लैट और एक वेक्टर दिया गया है, जहां,-फ्लैट से दूरी है इस एल्गोरिथ्म का प्रमुख भाग क्लस्टर को अद्यतन करना है, अर्थात। दिए गए अंकों में, एक-फ्लैट कैसे खोजना है जो-फ्लैट के लिए प्रत्येक बिंदु की दूरी के वर्गों के योग को कम करता है। गणितीय रूप से, यह समस्या हैः दिए गए द्विघात अनुकूलन समस्या को हल करें जहां दिया गया है, और। समस्या को लैग्रैन्जियन गुणक विधि का उपयोग करके हल किया जा सकता है और समाधान क्लस्टर अद्यतन चरण में दिया गया है। यह दिखाया जा सकता है कि एल्गोरिथ्म पुनरावृत्तियों की एक सीमित संख्या में समाप्त हो जाएगा (संभावित असाइनमेंट की कुल संख्या से अधिक नहीं, जो इससे घिरा हुआ है)। इसके अलावा, एल्गोरिथ्म एक ऐसे बिंदु पर समाप्त हो जाएगा कि समग्र उद्देश्य को या तो एक अलग असाइनमेंट द्वारा या इन समूहों के लिए नए क्लस्टर प्लेन को परिभाषित करके कम नहीं किया जा सकता है (ऐसे बिंदु को संदर्भों में "स्थानीय रूप से इष्टतम" कहा जाता है)। यह अभिसरण परिणाम इस तथ्य का एक परिणाम है जिसे ठीक से हल किया जा सकता है। समान अभिसरण परिणाम-मतलब एल्गोरिथ्म के लिए है क्योंकि क्लस्टर अद्यतन समस्या को ठीक से हल किया जा सकता है। अन्य मशीन लर्निंग विधियों से संबंध-मतलब एल्गोरिथ्म-फ्लैट एल्गोरिथ्म-मतलब एल्गोरिथ्म का एक सामान्यीकरण है। वास्तव में,-मतलब एल्गोरिथ्म-फ्लैट एल्गोरिथ्म है क्योंकि एक बिंदु 0-फ्लैट है। उनके जुड़ाव के बावजूद, उनका उपयोग विभिन्न परिदृश्यों में किया जाना चाहिए। - फ्लैट एल्गोरिथ्म उस मामले के लिए है कि डेटा कुछ निम्न-आयामी स्थानों में स्थित है। - मतलब एल्गोरिथ्म उस मामले के लिए वांछनीय है जब समूह परिवेशी आयाम के होते हैं। उदाहरण के लिए, यदि सभी अवलोकन दो पंक्तियों में होते हैं, तो-फ्लैट एल्गोरिदम का उपयोग किया जा सकता है; यदि अवलोकन दो गौसी बादल हैं, तो-मतलब एल्गोरिदम का उपयोग किया जा सकता है। विरल शब्दकोश शिक्षण प्राकृतिक संकेत एक उच्च-आयामी स्थान में होते हैं। उदाहरण के लिए, 1024-गुणा-1024 छवि का आयाम लगभग 106 है, जो अधिकांश संकेत प्रसंस्करण एल्गोरिदम के लिए बहुत अधिक है। उच्च आयामीता से छुटकारा पाने का एक तरीका आधार कार्यों का एक समूह खोजना है, जैसे कि उच्च आयामी संकेत को केवल कुछ आधार कार्यों द्वारा दर्शाया जा सकता है। दूसरे शब्दों में, संकेत प्रतिनिधित्व के गुणांक एक निम्न-आयामी स्थान में स्थित हैं, जो संकेत प्रसंस्करण एल्गोरिदम को लागू करने के लिए आसान है। साहित्य में, वेवलेट ट्रांसफॉर्म का उपयोग आमतौर पर छवि प्रसंस्करण में किया जाता है, और फूरियर ट्रांसफॉर्म का उपयोग आमतौर पर ऑडियो प्रसंस्करण में किया जाता है। आधार कार्यों के समूह को आमतौर पर शब्दकोश कहा जाता है। हालांकि, यह स्पष्ट नहीं है कि संकेत डेटा सेट दिए जाने के बाद उपयोग करने के लिए सबसे अच्छा शब्दकोश कौन सा है। एक लोकप्रिय तरीका यह है कि जब विरल शब्दकोश सीखने के विचार का उपयोग करके एक डेटा सेट दिया जाता है तो एक शब्दकोश खोजना होता है। इसका उद्देश्य एक शब्दकोश खोजना है, ताकि संकेत को शब्दकोश द्वारा विरल रूप से दर्शाया जा सके। अनुकूलन समस्या को निम्नानुसार लिखा जा सकता है। a-by-मैट्रिक्स कहाँ है। प्रत्येक स्तंभ एक संकेत का प्रतिनिधित्व करता है, और कुल संकेत होते हैं। एक-दर-मैट्रिक्स है। प्रत्येक कॉलम एक आधार कार्य का प्रतिनिधित्व करता है, और शब्दकोश में कुल आधार कार्य होते हैं। एक-दर-मैट्रिक्स है। (-th कॉलम) गुणांक का प्रतिनिधित्व करते हैं जब हम शब्दकोश का उपयोग-th कॉलम का प्रतिनिधित्व करने के लिए करते हैं। वेक्टर के शून्य-मानक को दर्शाता है। मैट्रिक्स के फ्रोबेनियस मानक को दर्शाता है। - फ्लैट एल्गोरिदम का विचार प्रकृति में विरल शब्दकोश सीखने के समान है। यदि हम-फ्लैट को-आयामी उपक्षेत्र तक सीमित करते हैं, तो-फ्लैट एल्गोरिथ्म केवल दिए गए संकेत के लिए बंद-आयामी उपक्षेत्र का पता लगा रहा है। विरल शब्दकोश सीखना भी यही काम कर रहा है, सिवाय प्रतिनिधित्व की विरलता पर एक अतिरिक्त बाधाओं के। गणितीय रूप से, यह दिखाना संभव है कि-फ्लैट एल्गोरिथ्म एक अतिरिक्त ब्लॉक संरचना के साथ विरल शब्दकोश सीखने के रूप में है। मान लीजिए कि एक मैट्रिक्स है, जहाँ के कॉलम-th फ्लैट के आधार हैं। फिर-th फ्लैट के लिए संकेत का प्रक्षेपण है, जहाँ एक-आयामी गुणांक है। फ्लैटों के आधार के संयोजन को दर्शाते हैं, यह दिखाना आसान है कि-फ्लैट एल्गोरिथ्म निम्नलिखित के समान है। के ब्लॉक संरचना इस तथ्य को संदर्भित करती है कि प्रत्येक संकेत को केवल एक फ्लैट पर लेबल किया जाता है। दो सूत्रीकरणों की तुलना करते हुए,-फ्लैट विरल शब्दकोश मॉडलिंग के समान है जब और आर पर एक अतिरिक्त ब्लॉक संरचना के साथ। उपयोगकर्ता दोनों अवधारणाओं के बीच संबंधों के बारे में अधिक चर्चा के लिए स्ज़लाम के पेपर का उल्लेख कर सकते हैं। अनुप्रयोग और विविधता वर्गीकरण वर्गीकरण एक ऐसी प्रक्रिया है जो एक इनपुट संकेत को विभिन्न वर्गों में वर्गीकृत करती है। एक उदाहरण ईमेल को स्पैम या गैर-स्पैम वर्गों में वर्गीकृत करना है। वर्गीकरण एल्गोरिदम के लिए आमतौर पर एक पर्यवेक्षित सीखने के चरण की आवश्यकता होती है। पर्यवेक्षित शिक्षण चरण में, प्रत्येक वर्ग के लिए प्रशिक्षण डेटा का उपयोग कक्षा की विशेषताओं को सीखने के लिए एल्गोरिदम के लिए किया जाता है। वर्गीकरण चरण में, पहले से प्रशिक्षित विशेषताओं का उपयोग करके एक नए अवलोकन को एक वर्ग में वर्गीकृत किया जाता है। - फ्लैट एल्गोरिदम का उपयोग वर्गीकरण के लिए किया जा सकता है। मान लीजिए कि कुल m वर्ग हैं। प्रत्येक वर्ग के लिए, फ्लैटों को प्रशिक्षण डेटा सेट के माध्यम से प्राथमिकता से प्रशिक्षित किया जाता है। जब कोई नया डेटा आता है, तो उस फ्लैट को ढूंढें जो नए डेटा के सबसे करीब हो। फिर नया डेटा निकटतम फ्लैट के वर्ग से जुड़ा होता है। हालाँकि, वर्गीकरण प्रदर्शन में और सुधार किया जा सकता है यदि हम फ्लैटों पर कुछ संरचना लागू करते हैं। एक संभावित विकल्प यह है कि अलग-अलग वर्ग के अलग-अलग फ्लैटों को पर्याप्त दूरी पर होना चाहिए। कुछ शोधकर्ता इस विचार का उपयोग करते हैं और एक भेदभावपूर्ण के क्यू-फ्लैट एल्गोरिदम विकसित करते हैं। के-मेट्रिक्स इन-फ्लैट एल्गोरिथम का उपयोग प्रतिनिधित्व त्रुटि को मापने के लिए किया जाता है। समतल एफ पर एक्स के प्रक्षेपण को दर्शाता है. यदि डेटा एक-आयाम फ्लैट में स्थित है, तो एक एकल-फ्लैट डेटा को बहुत अच्छी तरह से दर्शा सकता है। इसके विपरीत, यदि डेटा एक बहुत उच्च आयाम स्थान में है लेकिन एक सामान्य केंद्र के पास है, तो के-मतलब एल्गोरिथ्म डेटा का प्रतिनिधित्व करने के लिए-फ्लैट एल्गोरिथ्म की तुलना में एक बेहतर तरीका है। ऐसा इसलिए है क्योंकि-मतलब एल्गोरिथ्म त्रुटि को मापने के लिए उपयोग करता है, जहां केंद्र को दर्शाता है। के-मेट्रिक्स एक सामान्यीकरण है जो समतल और माध्य दोनों के विचार का उपयोग करता है। के-मेट्रिक्स में, त्रुटि को निम्नलिखित महालनोबिस मीट्रिक द्वारा मापा जाता है। जहाँ एक सकारात्मक अर्ध-निश्चित मैट्रिक्स है। यदि पहचान मैट्रिक्स है, तो महालनोबिस मीट्रिक बिल्कुल-मीन्स में उपयोग किए जाने वाले त्रुटि माप के समान है। यदि पहचान मैट्रिक्स नहीं है, तो-फ्लैट त्रुटि माप के रूप में कुछ दिशाओं का पक्ष लेंगे। संदर्भ समूह विश्लेषण एल्गोरिदम