Adaptive resonance theory
अनुकूली अनुनाद सिद्धांत (ए. आर. टी.) एक सिद्धांत है जिसे स्टीफन ग्रॉसबर्ग और गेल कारपेंटर द्वारा विकसित किया गया है कि मस्तिष्क जानकारी को कैसे संसाधित करता है। यह कई तंत्रिका नेटवर्क मॉडलों का वर्णन करता है जो पर्यवेक्षित और गैर-पर्यवेक्षित शिक्षण विधियों का उपयोग करते हैं, और पैटर्न पहचान और भविष्यवाणी जैसी समस्याओं का समाधान करते हैं। ए. आर. टी. मॉडल के पीछे प्राथमिक अंतर्ज्ञान यह है कि वस्तु की पहचान और पहचान आम तौर पर 'नीचे-ऊपर' संवेदी जानकारी के साथ 'ऊपर-नीचे' पर्यवेक्षक की अपेक्षाओं की बातचीत के परिणामस्वरूप होती है। मॉडल यह मानता है कि 'टॉप-डाउन' अपेक्षाएँ एक स्मृति टेम्पलेट या प्रोटोटाइप का रूप लेती हैं जिसकी तुलना तब इंद्रियों द्वारा खोजी गई वस्तु की वास्तविक विशेषताओं के साथ की जाती है। यह तुलना श्रेणी संबंधितता के एक माप को जन्म देती है। जब तक संवेदना और अपेक्षा के बीच यह अंतर एक निर्धारित सीमा से अधिक नहीं होता है जिसे 'सतर्कता पैरामीटर' कहा जाता है, तब तक संवेदी वस्तु को अपेक्षित वर्ग का सदस्य माना जाएगा। इस प्रकार यह प्रणाली 'प्लास्टिसिटी/स्थिरता' समस्या का समाधान प्रदान करती है, अर्थात। मौजूदा ज्ञान को बाधित किए बिना नया ज्ञान प्राप्त करने की समस्या जिसे वृद्धिशील शिक्षा भी कहा जाता है। लर्निंग मॉडल बुनियादी ए. आर. टी. प्रणाली एक अनसुपरवाइज़्ड लर्निंग मॉडल है। इसमें आम तौर पर एक तुलना क्षेत्र और न्यूरॉन्स से बना एक पहचान क्षेत्र, एक सतर्कता पैरामीटर (पहचान की सीमा) और एक रीसेट मॉड्यूल होता है। तुलना क्षेत्र एक इनपुट वेक्टर (मूल्यों की एक-आयामी सरणी) लेता है और इसे पहचान क्षेत्र में अपने सर्वश्रेष्ठ मिलान में स्थानांतरित करता है। इसका सबसे अच्छा मिलान एकल न्यूरॉन है जिसका वजन (वजन वेक्टर) का सेट इनपुट वेक्टर से सबसे निकटता से मेल खाता है। प्रत्येक पहचान क्षेत्र न्यूरॉन अन्य पहचान क्षेत्र न्यूरॉन्स में से प्रत्येक के लिए एक नकारात्मक संकेत (उस न्यूरॉन की इनपुट वेक्टर से मेल खाने की गुणवत्ता के समानुपाती) उत्पन्न करता है और इस प्रकार उनके उत्पादन को रोकता है। इस तरह पहचान क्षेत्र पार्श्व अवरोध प्रदर्शित करता है, जिससे इसमें प्रत्येक न्यूरॉन एक श्रेणी का प्रतिनिधित्व करने की अनुमति देता है जिसमें इनपुट वैक्टर वर्गीकृत किए जाते हैं। इनपुट वेक्टर के वर्गीकृत होने के बाद, रीसेट मॉड्यूल पहचान मिलान की ताकत की तुलना सतर्कता पैरामीटर से करता है। यदि सतर्कता मापदंड को पार कर लिया जाता है (अर्थात। इनपुट वेक्टर पिछले इनपुट वैक्टर पर देखी गई सामान्य सीमा के भीतर होता है), फिर प्रशिक्षण शुरू होता हैः जीतने वाले पहचान न्यूरॉन के वजन को इनपुट वेक्टर की विशेषताओं के अनुसार समायोजित किया जाता है अन्यथा, यदि मिलान स्तर सतर्कता पैरामीटर से नीचे है (यानी। इनपुट वेक्टर का मिलान उस न्यूरॉन के लिए सामान्य अपेक्षित सीमा से बाहर है) विजेता पहचान न्यूरॉन को बाधित किया जाता है और एक खोज प्रक्रिया की जाती है। इस खोज प्रक्रिया में, रिकग्निशन न्यूरॉन्स को रीसेट फ़ंक्शन द्वारा एक-एक करके अक्षम कर दिया जाता है जब तक कि सतर्कता पैरामीटर एक रिकग्निशन मैच द्वारा दूर नहीं हो जाता है। विशेष रूप से, खोज प्रक्रिया के प्रत्येक चक्र में सबसे सक्रिय पहचान न्यूरॉन का चयन किया जाता है और फिर बंद कर दिया जाता है, यदि इसका सक्रियण सतर्कता पैरामीटर से नीचे है (ध्यान दें कि यह इस प्रकार शेष पहचान न्यूरॉन्स को अपने अवरोध से मुक्त करता है)। यदि कोई प्रतिबद्ध मान्यता न्यूरॉन का मिलान सतर्कता पैरामीटर को पार नहीं करता है, तो एक असंबद्ध न्यूरॉन प्रतिबद्ध होता है और इसके वजन को इनपुट वेक्टर से मिलान करने के लिए समायोजित किया जाता है। सतर्कता मापदंड का प्रणाली पर काफी प्रभाव पड़ता हैः उच्च सतर्कता अत्यधिक विस्तृत स्मृतियाँ (कई, बारीक-दाने वाली श्रेणियाँ) पैदा करती है, जबकि कम सतर्कता के परिणामस्वरूप अधिक सामान्य स्मृतियाँ (कम, अधिक सामान्य श्रेणियाँ) होती हैं। ए. आर. टी. आधारित तंत्रिका नेटवर्क के प्रशिक्षण के दो बुनियादी तरीके हैंः धीमा और तेज़। धीमी लर्निंग विधि में, इनपुट वेक्टर की ओर पहचान न्यूरॉन के भार के प्रशिक्षण की डिग्री की गणना अंतर समीकरणों के साथ निरंतर मूल्यों के लिए की जाती है और इस प्रकार यह इनपुट वेक्टर को प्रस्तुत किए जाने के समय की लंबाई पर निर्भर करता है। तेजी से सीखने के साथ, बीजगणितीय समीकरणों का उपयोग किए जाने वाले वजन समायोजन की डिग्री की गणना करने के लिए किया जाता है, और द्विआधारी मूल्यों का उपयोग किया जाता है। जबकि तेजी से सीखना विभिन्न प्रकार के कार्यों के लिए प्रभावी और कुशल है, धीमी गति से सीखने की विधि जैविक रूप से अधिक प्रशंसनीय है और इसका उपयोग निरंतर-समय नेटवर्क के साथ किया जा सकता है। जब इनपुट वेक्टर लगातार बदल सकता है)। ए. आर. टी. 1 ए. आर. टी. नेटवर्क का सबसे सरल प्रकार है, जो केवल द्विआधारी निवेश स्वीकार करता है। ए. आर. टी. 2 निरंतर निवेश का समर्थन करने के लिए नेटवर्क क्षमताओं का विस्तार करता है। ए. आर. टी. 2-ए. ए. आर. टी.-2 का एक सुव्यवस्थित रूप है जिसमें अत्यधिक त्वरित रनटाइम होता है, और गुणात्मक परिणाम शायद ही कभी पूर्ण ए. आर. टी.-2 कार्यान्वयन से कम होते हैं। ए. आर. टी. 3 प्रणाली के समीकरणों में सिम्युलेटेड सोडियम (एन. ए. +) और कैल्शियम (सी. ए. 2 +) आयन सांद्रता को शामिल करके सिनैप्टिक गतिविधि के प्राथमिक न्यूरोट्रांसमीटर विनियमन का अनुकरण करके ए. आर. टी.-2 पर निर्माण करता है, जिसके परिणामस्वरूप आंशिक रूप से अवरोधक श्रेणियों के अधिक शारीरिक रूप से यथार्थवादी साधन होते हैं जो बेमेल रीसेट को ट्रिगर करते हैं। ए. आर. टी. एम. ए. पी. जिसे प्रेडिक्टिव ए. आर. टी. के रूप में भी जाना जाता है, दो थोड़ी संशोधित ए. आर. टी.-1 या ए. आर. टी.-2 इकाइयों को एक पर्यवेक्षित शिक्षण संरचना में जोड़ता है जहां पहली इकाई इनपुट डेटा लेती है और दूसरी इकाई सही आउटपुट डेटा लेती है, फिर सही वर्गीकरण करने के लिए पहली इकाई में सतर्कता पैरामीटर का न्यूनतम संभव समायोजन करने के लिए उपयोग किया जाता है। अस्पष्ट ए. आर. टी. ए. आर. टी. के पैटर्न की पहचान में अस्पष्ट तर्क को लागू करता है, इस प्रकार सामान्यीकरण को बढ़ाता है। अस्पष्ट ए. आर. टी. की एक वैकल्पिक (और बहुत उपयोगी) विशेषता पूरक कोडिंग है, जो पैटर्न वर्गीकरण में सुविधाओं की अनुपस्थिति को शामिल करने का एक साधन है, जो अक्षम और अनावश्यक श्रेणी प्रसार को रोकने की दिशा में एक लंबा रास्ता तय करता है। लागू समानता उपाय एल1 मानक पर आधारित हैं। फजी ए. आर. टी. को शोर के प्रति बहुत संवेदनशील माना जाता है। फजी ए. आर. टी. एम. ए. पी. केवल फजी ए. आर. टी. इकाइयों का उपयोग करके ए. आर. टी. एम. ए. पी. है, जिसके परिणामस्वरूप प्रभावकारिता में वृद्धि होती है। सरलीकृत फजी ए. आर. टी. एम. ए. पी. (एस. एफ. ए. एम.) वर्गीकरण कार्यों के लिए समर्पित फजी ए. आर. टी. एम. ए. पी. का एक प्रबल रूप से सरलीकृत संस्करण है। गॉसियन ए. आर. टी. और गॉसियन ए. आर. टी. एम. ए. पी. संभाव्यता सिद्धांत के आधार पर गॉसियन सक्रियण कार्यों और गणनाओं का उपयोग करते हैं। इसलिए, वे गौसी मिश्रण मॉडल के साथ कुछ समानता रखते हैं। फजी ए. आर. टी. और फजी ए. आर. टी. एम. ए. पी. की तुलना में, वे शोर के प्रति कम संवेदनशील हैं। लेकिन सीखे गए अभ्यावेदन की स्थिरता कम हो जाती है जिससे मुक्त शिक्षण कार्यों में श्रेणी का प्रसार हो सकता है। फ्यूजन ए. आर. टी. और संबंधित नेटवर्क ए. आर. टी. और ए. आर. टी. एम. ए. पी. को कई पैटर्न चैनलों तक विस्तारित करते हैं। वे कई सीखने के प्रतिमानों का समर्थन करते हैं, जिनमें गैर-पर्यवेक्षित शिक्षा, पर्यवेक्षित शिक्षा और सुदृढीकरण शिक्षा शामिल हैं। टोपोआर्ट फजी ए. आर. टी. को बढ़ते तंत्रिका गैस जैसे टोपोलॉजी लर्निंग नेटवर्क के साथ जोड़ता है। इसके अलावा, यह एक शोर कम करने वाला तंत्र जोड़ता है। कई व्युत्पन्न तंत्रिका नेटवर्क हैं जो आगे सीखने के प्रतिमानों के लिए टोपोआर्ट का विस्तार करते हैं। हाइपरस्फेयर ए. आर. टी. और हाइपरस्फेयर ए. आर. टी. एम. ए. पी. क्रमशः अस्पष्ट ए. आर. टी. और अस्पष्ट ए. आर. टी. एम. ए. पी. से निकटता से संबंधित हैं। लेकिन चूंकि वे एक अलग प्रकार के श्रेणी प्रतिनिधित्व (अर्थात् हाइपरस्फेयर) का उपयोग करते हैं, इसलिए उन्हें अंतराल [0,1] के लिए अपने इनपुट को सामान्य करने की आवश्यकता नहीं होती है। वे एल2 मानक के आधार पर समानता उपायों को लागू करते हैं। लैटरली प्राइम्ड एडेप्टिव रेज़ोनेन्स थ्योरी (एल. ए. पी. ए. आर. टी.) तंत्रिका नेटवर्क दो फ़ज़ी ए. आर. टी. एल्गोरिदम जोड़ते हैं ताकि विद्वान संघों के आधार पर भविष्यवाणियाँ करने के लिए एक तंत्र बनाया जा सके। दो अस्पष्ट ए. आर. टी. के युग्मन में एक अनूठी स्थिरता है जो प्रणाली को एक स्पष्ट समाधान की ओर तेजी से अभिसरण करने की अनुमति देती है। इसके अतिरिक्त, यह अस्पष्ट ए. आर. टी. एम. ए. पी. के समान तार्किक अनुमान और पर्यवेक्षित शिक्षा का प्रदर्शन कर सकता है। आलोचना यह ध्यान दिया गया है कि फजी ए. आर. टी. और ए. आर. टी. 1 (यानी, सीखी गई श्रेणियां) के परिणाम उस क्रम पर निर्भर करते हैं जिसमें प्रशिक्षण डेटा को संसाधित किया जाता है। धीमी सीखने की दर का उपयोग करके प्रभाव को कुछ हद तक कम किया जा सकता है, लेकिन इनपुट डेटा सेट के आकार की परवाह किए बिना मौजूद है। इसलिए अस्पष्ट ए. आर. टी. और ए. आर. टी. 1 अनुमानों में स्थिरता की सांख्यिकीय संपत्ति नहीं है। इस समस्या को दोनों नेटवर्कों में स्थिर शिक्षा सुनिश्चित करने वाले संबंधित तंत्र के दुष्प्रभाव के रूप में माना जा सकता है। अधिक उन्नत ए. आर. टी. नेटवर्क जैसे कि टोपोआर्ट और हाइपरस्फेयर टोपोआर्ट जो समूहों को समूहों में सारांशित करते हैं, इस समस्या को हल कर सकते हैं क्योंकि समूहों के आकार संबंधित श्रेणियों के निर्माण के क्रम पर निर्भर नहीं करते हैं। (सी. एफ. चित्र. 3 (जी, एच) और चित्र। 4 के) संदर्भ वासरमैन, फिलिप डी. (1989), न्यूरल कंप्यूटिंगः सिद्धांत और अभ्यास, न्यूयॉर्कः वैन नोस्ट्रैंड रीनहोल्ड, बाहरी लिंक स्टीफन ग्रॉसबर्ग की वेबसाइट ए. आर. टी. का गैर-पर्यवेक्षित सीखने के लिए कार्यान्वयन (ए. आर. टी. 1, ए. आर. टी. 2ए, ए. आर. टी. 2ए-सी और ए. आर. टी. दूरी) ए. आर. टी. एल्गोरिदम का सारांश लिबटोपार्ट-पर्यवेक्षित और गैर-पर्यवेक्षित सीखने के लिए टोपोआर्ट कार्यान्वयन (टोपोआर्ट, टोपोआर्ट-ए. एम., टोपोआर्ट-सी, टोपोआर्ट-आर, एपिसोडिक टोपोआर्ट, हाइपरस्फेयर टोपोआर्ट, और हाइपरस्फेयर टोपोआर्ट-सी)