Blahut–Arimoto algorithm
ब्लाहुट-एरिमोटो एल्गोरिथ्म शब्द का उपयोग अक्सर संख्यात्मक रूप से गणना करने के लिए एल्गोरिदम के एक वर्ग को संदर्भित करने के लिए किया जाता है या तो एक चैनल की सूचना सैद्धांतिक क्षमता, एक स्रोत का दर-विरूपण कार्य या एक स्रोत एन्कोडिंग (यानी। अतिरेक को हटाने के लिए संपीड़न)। वे पुनरावृत्ति एल्गोरिदम हैं जो अंततः अनुकूलन समस्या के अधिकतम में से एक में परिवर्तित हो जाते हैं जो इन सूचना सैद्धांतिक अवधारणाओं से जुड़ा होता है। इतिहास और अनुप्रयोग चैनल क्षमता के मामले में, एल्गोरिथ्म का आविष्कार स्वतंत्र रूप से सुगुरु अरिमोटो और रिचर्ड ब्लाहुट द्वारा किया गया था। इसके अलावा, ब्लाहुट का उपचार गणना दर विरूपण और इनपुट बाधाओं के साथ सामान्यीकृत क्षमता के लिए एल्गोरिदम देता है (यानी। क्षमता-लागत कार्य, दर-विरूपण के अनुरूप)। ये एल्गोरिदम मनमाने ढंग से सीमित वर्णमाला स्रोतों के मामले में सबसे अधिक लागू होते हैं। इसे अधिक सामान्य समस्या उदाहरणों तक विस्तारित करने के लिए बहुत काम किया गया है। हाल ही में, सेलुलर सिग्नलिंग में अनुप्रयोगों के साथ एल्गोरिथ्म का एक संस्करण प्रस्तावित किया गया था जो निरंतर और बहुभिन्न प्रकार के आउटपुट के लिए जिम्मेदार था। निर्देशित जानकारी के लिए ब्लाहुट-एरिमोटो एल्गोरिदम का एक संस्करण भी मौजूद है। चैनल क्षमता के लिए एल्गोरिदम एक असतत स्मृतिहीन चैनल (डी. एम. सी.) को वर्णमाला के साथ दो यादृच्छिक चर और एक सशर्त संभावना वितरण के रूप में एक चैनल कानून का उपयोग करके निर्दिष्ट किया जा सकता है। चैनल क्षमता, के रूप में परिभाषित, अधिकतम दक्षता को इंगित करती है जो एक चैनल प्रति उपयोग बिट की इकाई में संवाद कर सकता है। अब अगर हम कार्डिनलिटी को दर्शाते हैं, तो एक मैट्रिक्स है, जिसे हम पंक्ति, कॉलम प्रविष्टि द्वारा दर्शाते हैं। चैनल क्षमता के मामले में, एल्गोरिथ्म का आविष्कार स्वतंत्र रूप से सुगुरु अरिमोटो और रिचर्ड ब्लाहुट द्वारा किया गया था। चैनल कानून के साथ एक डी. एम. सी. की क्षमता के लिए स्वतंत्र रूप से निम्नलिखित अभिव्यक्ति पाई गईः जहां और निम्नलिखित आवश्यकताओं पर अधिकतम किए जाते हैंः एक प्रायिकता वितरण है, यानी, यदि हम एक मैट्रिक्स के रूप में लिखते हैं जो चैनल कानून के संबंध में एक संक्रमण मैट्रिक्स की तरह व्यवहार करता है। अर्थात्, सभी के लिएः प्रत्येक पंक्ति का योग 1 होता है, अर्थात। .. फिर एक यादृच्छिक संभाव्यता वितरण को चुनने पर, हम निम्नानुसार एक अनुक्रम उत्पन्न कर सकते हैंः फिर, अनुकूलन के सिद्धांत का उपयोग करते हुए, विशेष रूप से अवरोहण का समन्वय करते हुए, येउंग ने दिखाया कि अनुक्रम वास्तव में आवश्यक अधिकतम में परिवर्तित हो जाता है। वह है,। इसलिए एक चैनल कानून को देखते हुए, क्षमता को मनमाने ढंग से सटीक होने तक संख्यात्मक रूप से अनुमानित किया जा सकता है। मान लीजिए कि हमारे पास किसी भी दिए गए प्रतीक की संभावना के साथ एक स्रोत है। हम एक एन्कोडिंग खोजना चाहते हैं जो अपेक्षित विरूपण को कम करते हुए मूल संकेत से एक संपीड़ित संकेत उत्पन्न करता है, जहां अपेक्षा को और की संयुक्त संभावना पर लिया जाता है। हम एक एन्कोडिंग पा सकते हैं जो अभिसरण तक निम्नलिखित पुनरावृत्ति को दोहराकर स्थानीय रूप से दर-विरूपण कार्यात्मकता को कम करता हैः जहां दर-विरूपण वक्र में ढलान से संबंधित एक पैरामीटर है जिसे हम लक्षित कर रहे हैं और इस प्रकार यह इस बात से संबंधित है कि हम संपीड़न बनाम विरूपण का कितना समर्थन करते हैं (उच्च का अर्थ है कम संपीड़न)। संदर्भ कोडिंग सिद्धांत