Hierarchical Dirichlet process
اعداد و شمار اور مشین لرننگ میں، درجہ بندی ڈیرچلیٹ عمل (ایچ ڈی پی) گروپ شدہ ڈیٹا کو کلسٹرنگ کرنے کے لیے ایک غیر پیرامیٹرک بیسیائی نقطہ نظر ہے۔ یہ ڈیٹا کے ہر گروپ کے لیے ایک ڈیرچلیٹ عمل کا استعمال کرتا ہے، جس میں تمام گروپوں کے لیے ڈیرچلیٹ عمل ایک بنیادی تقسیم کا اشتراک کرتے ہیں جو خود ڈیرچلیٹ عمل سے تیار کیا جاتا ہے۔ یہ طریقہ گروپوں کو گروپوں میں کلسٹرز کے اشتراک کے ذریعے شماریاتی طاقت کا اشتراک کرنے کی اجازت دیتا ہے۔ ڈیرچلیٹ کے عمل سے نکالی جانے والی بنیادی تقسیم اہم ہے، کیونکہ ڈیرچلیٹ کے عمل سے نکالی جانے والی چیزیں جوہری امکانات کے اقدامات ہیں، اور ایٹم گروپ کی سطح کے تمام ڈیرچلیٹ کے عمل میں ظاہر ہوں گے۔ چونکہ ہر ایٹم ایک جھنڈ سے مطابقت رکھتا ہے، اس لیے جھنڈ تمام گروہوں میں مشترک ہوتے ہیں۔ اسے یی وائی ٹیہ، مائیکل آئی جارڈن، میتھیو جے بیل اور ڈیوڈ بلی نے تیار کیا تھا اور اسے 2002 میں شائع ہونے والے لامحدود پوشیدہ مارکوف ماڈل کی رسمی شکل اور عمومی شکل کے طور پر 2006 میں جرنل آف دی امریکن شماریاتی ایسوسی ایشن میں شائع کیا گیا تھا۔ ماڈل اس ماڈل کی تفصیل سے حاصل کی گئی ہے۔ ایچ ڈی پی گروپ شدہ ڈیٹا کے لیے ایک ماڈل ہے۔ اس کا مطلب یہ ہے کہ ڈیٹا آئٹمز متعدد الگ الگ گروپوں میں آتے ہیں۔ مثال کے طور پر، ایک موضوع کے ماڈل میں الفاظ کو دستاویزات میں منظم کیا جاتا ہے، جس میں ہر دستاویز الفاظ (ڈیٹا آئٹمز) کے ایک بیگ (گروپ) کے ذریعے تشکیل دی جاتی ہے۔ گروپوں کو انڈیکس کرنا، فرض کریں کہ ہر گروپ ڈیٹا آئٹمز پر مشتمل ہے۔ ایچ ڈی پی کو بیس ڈسٹری بیوشن کے ذریعے پیرامیٹرائز کیا جاتا ہے جو ڈیٹا آئٹمز پر ترجیحی تقسیم کو کنٹرول کرتا ہے، اور متعدد ارتکاز پیرامیٹرز جو کلسٹرز کی ترجیحی تعداد اور گروپوں میں اشتراک کی مقدار کو کنٹرول کرتے ہیں۔ تیسرا گروپ بے ترتیب امکانات کی پیمائش سے وابستہ ہے جس کی تقسیم ڈیرچلیٹ عمل کے ذریعہ دی گئی ہے: گروپ سے وابستہ ارتکاز پیرامیٹر کہاں ہے، اور یہ تمام گروپوں میں مشترکہ بنیادی تقسیم ہے۔ بدلے میں، عام بنیادی تقسیم ڈیرچلیٹ عمل تقسیم ہے: ارتکاز پیرامیٹر اور بیس تقسیم کے ساتھ۔ آخر میں، ڈیرچلیٹ کے عمل کو مشاہدہ شدہ ڈیٹا کے ساتھ جوڑنے کے لیے، ہر ڈیٹا آئٹم ایک پوشیدہ پیرامیٹر کے ساتھ منسلک ہوتا ہے: پہلی لائن میں کہا گیا ہے کہ ہر پیرامیٹر کی ایک پیشگی تقسیم ہوتی ہے، جبکہ دوسری لائن میں کہا گیا ہے کہ ہر ڈیٹا آئٹم میں اس کے متعلقہ پیرامیٹر کے ذریعہ تقسیم کردہ پیرامیٹر ہوتا ہے۔ مندرجہ بالا نتیجے والے ماڈل کو ایچ ڈی پی مرکب ماڈل کہا جاتا ہے، جس میں ایچ ڈی پی ڈیرچلیٹ کے عمل کے درجہ بندی سے منسلک سیٹ کا حوالہ دیتا ہے، اور مرکب ماڈل جس طرح سے ڈیرچلیٹ کے عمل ڈیٹا آئٹمز سے متعلق ہیں اس کا حوالہ دیتا ہے۔ یہ سمجھنے کے لیے کہ ایچ ڈی پی کس طرح کلسٹرنگ ماڈل کو لاگو کرتا ہے، اور کس طرح کلسٹرز گروپوں میں مشترک ہو جاتے ہیں، یاد رکھیں کہ ڈیرچلیٹ کے عمل سے حاصل ہونے والے امکانات جوہری امکانات کے اقدامات ہیں جن میں امکان ایک ہوتا ہے۔ اس کا مطلب یہ ہے کہ مشترکہ بنیاد کی تقسیم کی ایک شکل ہوتی ہے جسے اس طرح لکھا جا سکتا ہے: جہاں ایٹموں کی لامحدود تعداد ہوتی ہے، یہ فرض کرتے ہوئے کہ مجموعی بنیاد کی تقسیم کو لامحدود حمایت حاصل ہے۔ ہر ایٹم ایک کمیت سے وابستہ ہوتا ہے۔ کمیتوں کا مجموعہ ایک ہونا چاہیے کیونکہ یہ امکان کی پیمائش ہے۔ چونکہ خود ہی گروپ کے مخصوص ڈیرچلیٹ عمل کے لیے بنیادی تقسیم ہے، اس لیے ہر ایک کے ایٹموں کے ذریعہ دیئے گئے ایٹم ہوں گے، اور خود اس شکل میں لکھے جا سکتے ہیں: اس طرح ایٹموں کا مجموعہ تمام گروپوں میں مشترک ہوتا ہے، جس میں ہر گروپ کا اپنا گروپ ہوتا ہے۔ مخصوص ایٹم ماس۔ اس نمائندگی کو مشاہدہ شدہ ڈیٹا سے متعلق کرتے ہوئے، ہم دیکھتے ہیں کہ ہر ڈیٹا آئٹم کو مرکب ماڈل کے ذریعے بیان کیا گیا ہے: جہاں ایٹم مرکب جزو کے پیرامیٹرز کا کردار ادا کرتے ہیں، جبکہ ماس اختلاط کے تناسب کا کردار ادا کرتے ہیں۔ آخر میں، اعداد و شمار کے ہر گروپ کو مرکب ماڈل کا استعمال کرتے ہوئے ماڈل کیا جاتا ہے، جس میں مرکب کے اجزاء تمام گروپوں میں مشترک ہوتے ہیں لیکن اختلاط کا تناسب گروپ کے لیے مخصوص ہوتا ہے۔ کلسٹرنگ کے لحاظ سے، ہم ہر مرکب جزو کی تشریح ڈیٹا آئٹمز کے ایک کلسٹر کی ماڈلنگ کے طور پر کر سکتے ہیں، جس میں کلسٹرز تمام گروپوں میں مشترکہ ہوتے ہیں، اور ہر گروپ کا اپنا اختلاط تناسب ہوتا ہے، جو کلسٹرز کے مختلف امتزاج پر مشتمل ہوتا ہے۔ ایپلی کیشنز ایچ ڈی پی مکسچر ماڈل لیٹنٹ ڈیرچلیٹ الاٹمنٹ کی ایک قدرتی غیر پیرامیٹرک عام کاری ہے، جہاں موضوعات کی تعداد کو لامحدود کیا جا سکتا ہے اور اعداد و شمار سے سیکھا جا سکتا ہے۔ یہاں ہر گروپ الفاظ کے ایک تھیلے پر مشتمل ایک دستاویز ہے، ہر کلسٹر ایک موضوع ہے، اور ہر دستاویز موضوعات کا مرکب ہے۔ ایچ ڈی پی لامحدود پوشیدہ مارکوف ماڈل کا ایک بنیادی جزو بھی ہے، جو پوشیدہ مارکوف ماڈل کی ایک غیر پیرامیٹرک عمومی شکل ہے جو ریاستوں کی تعداد کو غیر محدود کرنے اور اعداد و شمار سے سیکھنے کی اجازت دیتی ہے۔ عامیاں ایچ ڈی پی کو کئی سمتوں میں عام کیا جا سکتا ہے۔ ڈیرچلیٹ کے عمل کو پٹ مین-یور کے عمل اور گاما کے عمل سے تبدیل کیا جا سکتا ہے، جس کے نتیجے میں ہائیرارکیکل پٹ مین-یور عمل اور ہائیرارکیکل گاما عمل ہوتا ہے۔ درجہ بندی گہری ہو سکتی ہے، جس میں گروپوں کی متعدد سطحیں درجہ بندی میں ترتیب دی گئی ہیں۔ اس طرح کے انتظام کو ترتیب میموائزر میں استعمال کیا گیا ہے، جو کہ ترتیبات کے لیے ایک بایسیئن غیر پیرامیٹرک ماڈل ہے جس میں پٹ مین-یور کے عمل کی کثیر سطحی درجہ بندی ہے۔ اس کے علاوہ، بایسیئن ملٹی ڈومین لرننگ (بی ایم ڈی ایل) ماڈل درست کینسر ذیلی ٹائپنگ کے لیے درجہ بندی منفی بائنومیل فیکٹرائزیشن کی بنیاد پر حد سے زیادہ پھیلے ہوئے گنتی کے ڈیٹا کی ڈومین پر منحصر پوشیدہ نمائندگی حاصل کرتا ہے چاہے کینسر کی مخصوص قسم کے نمونوں کی تعداد کم ہی کیوں نہ ہو۔ چینی ریستوراں کے عمل کے حوالہ جات بھی دیکھیں۔ غیر پیرامیٹرک بایسیائی اعداد و شمار