Pinsker's inequality
सूचना सिद्धांत में, पिंस्कर की असमानता, जिसका नाम इसके आविष्कारक मार्क सेमेनोविच पिंस्कर के नाम पर रखा गया है, एक ऐसी असमानता है जो कुलबैक-लीबलर विचलन के संदर्भ में कुल भिन्नता दूरी (या सांख्यिकीय दूरी) को सीमित करती है। असमानता निरंतर कारकों तक सीमित है। औपचारिक कथन पिंस्कर की असमानता बताती है कि, यदि और एक मापने योग्य स्थान पर दो संभाव्यता वितरण हैं, तो और और के बीच कुल भिन्नता दूरी (या सांख्यिकीय दूरी) कहाँ है और नैट्स में कुलबैक-लीबलर विचलन है। जब नमूना स्थान एक सीमित समुच्चय होता है, तो कुलबैक-लीबलर विचलन नोट द्वारा दिया जाता है कि हस्ताक्षरित माप के कुल भिन्नता मानक के संदर्भ में, पिंस्कर की असमानता दो के कारक द्वारा ऊपर दी गई असमानता से भिन्न होती हैः पिंस्कर की असमानता का प्रमाण एफ-विचलन के लिए विभाजन असमानता का उपयोग करता है। वैकल्पिक संस्करण ध्यान दें कि पिंस्कर असमानता की अभिव्यक्ति इस बात पर निर्भर करती है कि के. एल.-विचलन की परिभाषा में लघुगणक का उपयोग किस आधार पर किया जाता है। (आधार में लघुगणक) का उपयोग करके परिभाषित किया जाता है, जबकि आमतौर पर (आधार 2 में लघुगणक) के साथ परिभाषित किया जाता है। फिर, उपरोक्त टिप्पणियों को देखते हुए, कुछ साहित्यों में पिंस्कर की असमानता का एक वैकल्पिक कथन है जो सूचना विचलन को भिन्नता दूरी से संबंधित करता हैः अर्थात, जिसमें दो संभाव्यता घनत्व कार्यों और एक ही वर्णमाला के बीच (गैर-सामान्यीकृत) भिन्नता दूरी है। पिंस्कर की असमानता के इस रूप से पता चलता है कि "विचलन में अभिसरण" "भिन्नता दूरी में अभिसरण" की तुलना में अधिक मजबूत धारणा है। जॉन पोलार्ड द्वारा एक सरल प्रमाण देते हुए दिखाया गया हैः यहाँ टीटू के लेम्मा को सेड्राकियन की असमानता के रूप में भी जाना जाता है। ध्यान दें कि पिंस्कर की असमानता से निचली सीमा किसी भी वितरण के लिए शून्य है, क्योंकि कुल भिन्नता की दूरी अधिक से अधिक है। इस तरह के वितरण के लिए, ब्रेटैग्नोल और ह्यूबर के कारण एक वैकल्पिक सीमा का उपयोग किया जा सकता है (देखें, त्सिबकोव भी): इतिहास पिंस्कर ने पहली बार असमानता को अधिक स्थिरांक के साथ साबित किया। उपरोक्त रूप में असमानता को कुलबैक, सिस्जर और केम्परमैन द्वारा स्वतंत्र रूप से साबित किया गया था। व्युत्क्रम समस्या असमानता का एक सटीक व्युत्क्रम नहीं हो सकता हैः प्रत्येक के लिए, लेकिन के साथ वितरण हैं। और के साथ दो-बिंदु स्थान द्वारा एक आसान उदाहरण दिया गया है। हालांकि, एक व्युत्क्रम असमानता पर निर्भर एक स्थिरांक के साथ सीमित रिक्त स्थान पर होती है। अधिक विशेष रूप से, यह दिखाया जा सकता है कि परिभाषा के साथ हमारे पास किसी भी उपाय के लिए है जो पूरी तरह से निरंतर है एक परिणाम के रूप में, यदि पूर्ण समर्थन है (यानी। सभी के लिए), फिर संदर्भ आगे पढ़ने के लिए थॉमस एम. कवर और जॉय ए. थॉमसः एलिमेंट्स ऑफ इन्फॉर्मेशन थ्योरी, दूसरा संस्करण, विली-इंटरसाइंस, 2006 निकोलो सेसा-बियांची और गैबर लुगोसीः प्रेडिक्शन, लर्निंग, एंड गेम्स, कैम्ब्रिज यूनिवर्सिटी प्रेस, 2006 इंफॉर्मेशन थ्योरी प्रोबेबिलिस्टिक असमानताएँ