Learning rule
एक कृत्रिम तंत्रिका नेटवर्क का सीखने का नियम या सीखने की प्रक्रिया एक विधि, गणितीय तर्क या एल्गोरिथ्म है जो नेटवर्क के प्रदर्शन और/या प्रशिक्षण समय में सुधार करता है। आमतौर पर, यह नियम नेटवर्क पर बार-बार लागू किया जाता है। यह एक नेटवर्क के भार और पूर्वाग्रह स्तरों को अद्यतन करके किया जाता है जब एक नेटवर्क को एक विशिष्ट डेटा वातावरण में अनुकरण किया जाता है। एक सीखने का नियम नेटवर्क की मौजूदा स्थितियों (भार और पूर्वाग्रह) को स्वीकार कर सकता है और भार और पूर्वाग्रह के लिए नए और बेहतर मूल्य देने के लिए नेटवर्क के अपेक्षित परिणाम और वास्तविक परिणाम की तुलना करेगा। अनुकरण किए जा रहे वास्तविक मॉडल की जटिलता के आधार पर, नेटवर्क का सीखने का नियम एक एक्सओआर गेट या माध्य वर्ग त्रुटि के रूप में सरल हो सकता है, या अंतर समीकरणों की एक प्रणाली के परिणामस्वरूप जटिल हो सकता है। सीखने का नियम उन कारकों में से एक है जो यह तय करता है कि कृत्रिम नेटवर्क को कितनी तेजी से या कितना सटीक रूप से विकसित किया जा सकता है। नेटवर्क विकसित करने की प्रक्रिया के आधार पर मशीन लर्निंग के तीन मुख्य मॉडल हैंः गैर-पर्यवेक्षित शिक्षण पर्यवेक्षित शिक्षण सुदृढीकरण शिक्षण पृष्ठभूमि मशीन लर्निंग में सीखने के बहुत सारे तरीके एक दूसरे के समान काम करते हैं, और एक दूसरे पर आधारित होते हैं, जिससे उन्हें स्पष्ट श्रेणियों में वर्गीकृत करना मुश्किल हो जाता है। लेकिन उन्हें सीखने की विधियों की 4 श्रेणियों में व्यापक रूप से समझा जा सकता है, हालांकि इन श्रेणियों की स्पष्ट सीमाएं नहीं हैं और वे सीखने की विधियों की कई श्रेणियों से संबंधित हैं-हेब्बियन-नियोकॉग्निट्रॉन, ब्रेन-स्टेट-इन-ए-बॉक्स ग्रेडिएंट डिसेंट-एडीएएलआईएनई, हॉपफील्ड नेटवर्क, रिकरेंट न्यूरल नेटवर्क कॉम्पिटिटिव-लर्निंग वेक्टर क्वांटाइजेशन, सेल्फ-ऑर्गनाइजिंग फीचर मैप, एडेप्टिव रेजोनेंस थ्योरी-बोल्ट्जमैन मशीन, कॉची मशीन यह ध्यान दिया जाना चाहिए कि हालांकि ये सीखने के नियम समान विचारों पर आधारित प्रतीत हो सकते हैं, लेकिन उनमें सूक्ष्म अंतर हैं, क्योंकि वे पिछले नियम पर एक सामान्यीकरण या अनुप्रयोग हैं, और इसलिए उनका अलग से अध्ययन करना समझ में आता है। हेब्बियन लर्निंग 1949 में डोनाल्ड हेब्ब द्वारा जैविक न्यूरॉन फायरिंग का वर्णन करने के लिए विकसित किया गया था। 1950 के दशक के मध्य में इसे तंत्रिका नेटवर्क के कंप्यूटर अनुकरण पर भी लागू किया गया था। जहाँ सीखने की दर का प्रतिनिधित्व करता है, न्यूरॉन i के इनपुट का प्रतिनिधित्व करता है, और y न्यूरॉन का आउटपुट है। यह दिखाया गया है कि हेब्ब का शासन अपने मूल रूप में अस्थिर है। ओजा का नियम, बी. सी. एम. सिद्धांत अन्य सीखने के नियम हैं जो जैविक न्यूरॉन्स के अध्ययन में हेब्ब के नियम के ऊपर या उसके साथ बनाए गए हैं। परसेप्ट्रॉन लर्निंग रूल (पी. एल. आर.) परसेप्ट्रॉन लर्निंग रूल हेब्बियन धारणा से उत्पन्न होता है, और इसका उपयोग फ्रैंक रोसेनब्लैट ने 1958 में अपने परसेप्ट्रॉन में किया था। नेट को सक्रियण (स्थानांतरण) फ़ंक्शन में पारित किया जाता है और फ़ंक्शन के आउटपुट का उपयोग भार को समायोजित करने के लिए किया जाता है। सीखने का संकेत वांछित प्रतिक्रिया और एक न्यूरॉन की वास्तविक प्रतिक्रिया के बीच का अंतर है। स्टेप फ़ंक्शन का उपयोग अक्सर एक सक्रियण फ़ंक्शन के रूप में किया जाता है, और आउटपुट आम तौर पर-1,0, या 1 तक सीमित होते हैं। वज़न को अद्यतन किया जाता है जहाँ "टी" लक्ष्य मूल्य है और "ओ" परसेप्ट्रॉन का उत्पादन है, और इसे सीखने की दर कहा जाता है। एल्गोरिथ्म सही वर्गीकरण में परिवर्तित हो जाता है यदिः प्रशिक्षण डेटा रैखिक रूप से अलग करने योग्य है * पर्याप्त रूप से छोटा है (हालांकि छोटे का मतलब आम तौर पर सीखने का लंबा समय और अधिक युग है) * यह भी ध्यान दिया जाना चाहिए कि इस सीखने के नियम के साथ एक एकल परत परसेप्ट्रॉन रैखिक रूप से गैर-अलग करने योग्य निवेशों पर काम करने में असमर्थ है, और इसलिए एक्सओआर समस्या को अकेले इस नियम का उपयोग करके हल नहीं किया जा सकता है 1970 में बैकप्रोपेगेशन सेप्पो लिनैनमा ने बैकप्रोपेगेशन एल्गोरिथम विकसित किया था, लेकिन एल्गोरिथ्म की उत्पत्ति कई योगदानकर्ताओं के साथ 1960 के दशक में वापस जाती है। यह रैखिक परसेप्ट्रॉन और डेल्टा लर्निंग नियम में न्यूनतम माध्य वर्ग एल्गोरिदम का एक सामान्यीकरण है। यह स्थान संभावित नेटवर्क भार के माध्यम से ढाल अवरोहण खोज को लागू करता है, लक्ष्य मूल्यों और नेटवर्क आउटपुट के बीच त्रुटि को बार-बार कम करता है। विड्रो-हॉफ लर्निंग (डेल्टा लर्निंग रूल) परसेप्ट्रॉन लर्निंग रूल के समान है लेकिन अलग मूल के साथ। इसे एडीएएलएआईएनई नेटवर्क में उपयोग के लिए विकसित किया गया था, जो मुख्य रूप से प्रशिक्षण के मामले में पर्सेप्ट्रॉन से अलग है। भार को निवेश (शुद्ध) के भारित योग के अनुसार समायोजित किया जाता है, जबकि परसेप्ट्रॉन में भारित राशि का संकेत उत्पादन निर्धारित करने के लिए उपयोगी था क्योंकि सीमा 0,-1, या + 1 पर निर्धारित की गई थी। यह ए. डी. ए. एल. आई. एन. ई. को सामान्य परसेप्ट्रॉन से अलग बनाता है। डेल्टा नियम (डी. आर.) कुछ अंतरों के साथ पर्सेप्ट्रॉन लर्निंग नियम (पी. एल. आर.) के समान हैः डी. आर. में त्रुटि (δ) 0,1, या-1 (पी. एल. आर. के रूप में) के मानों तक ही सीमित नहीं है, लेकिन इसका कोई भी मूल्य हो सकता है डी. आर. किसी भी अवकलनीय आउटपुट/सक्रियण फ़ंक्शन एफ के लिए प्राप्त किया जा सकता है, जबकि पी. एल. आर. में केवल सीमा आउटपुट फ़ंक्शन के लिए काम करता है कभी-कभी केवल तभी जब विड्रो-हॉफ को विशेष रूप से द्विआधारी लक्ष्यों पर लागू किया जाता है, इसे डेल्टा नियम के रूप में संदर्भित किया जाता है, लेकिन शब्दों का उपयोग अक्सर एक दूसरे के स्थान पर किया जाता है। डेल्टा नियम को बैक-प्रोपेगेशन एल्गोरिदम का एक विशेष मामला माना जाता है। डेल्टा नियम भी रेसकोरला-वागनर मॉडल से मिलता-जुलता है जिसके तहत पावलोवियन कंडीशनिंग होती है। प्रतिस्पर्धात्मक शिक्षा को हेब्बियन शिक्षा का एक रूप माना जाता है, लेकिन यह अलग से चर्चा करने के लिए पर्याप्त विशेष है। प्रतिस्पर्धात्मक शिक्षा नेटवर्क में प्रत्येक नोड की विशेषज्ञता को बढ़ाकर काम करती है। यह डेटा के भीतर समूहों को खोजने के लिए अच्छी तरह से उपयुक्त है। प्रतिस्पर्धी शिक्षा के सिद्धांत पर आधारित मॉडल और एल्गोरिदम में वेक्टर परिमाणीकरण और स्व-व्यवस्थित मानचित्र (कोहोनेन मानचित्र) शामिल हैं। यह भी देखें मशीन लर्निंग डिसीजन ट्री लर्निंग पैटर्न रिकग्निशन बायस-वेरिएंस दुविधा बायस ऑफ एन एस्टीमेटर एक्सपेक्टेशन-मैक्सिमाइजेशन एल्गोरिदम संदर्भ कृत्रिम तंत्रिका नेटवर्क लर्निंग