Linear discriminant analysis
لکیری ڈسکریمیننٹ تجزیہ (ایل ڈی اے)، نارمل ڈسکریمیننٹ تجزیہ (این ڈی اے)، یا ڈسکریمیننٹ فنکشن تجزیہ فشر کے لکیری ڈسکریمیننٹ کی عمومی شکل ہے، جو اعداد و شمار اور دیگر شعبوں میں استعمال ہونے والا ایک طریقہ ہے، تاکہ ایسی خصوصیات کا لکیری مجموعہ تلاش کیا جا سکے جو اشیاء یا واقعات کی دو یا زیادہ کلاسوں کی خصوصیت یا علیحدگی کرتی ہے۔ نتیجے کے امتزاج کو لکیری درجہ بندی کے طور پر استعمال کیا جا سکتا ہے، یا، زیادہ عام طور پر، بعد کی درجہ بندی سے پہلے جہت میں کمی کے لیے۔ ایل ڈی اے کا متغیرات کے تجزیے (اے این او وی اے) اور رجعت تجزیہ سے گہرا تعلق ہے، جو ایک منحصر متغیر کو دیگر خصوصیات یا پیمائش کے لکیری امتزاج کے طور پر ظاہر کرنے کی بھی کوشش کرتا ہے۔ تاہم، اے این او وی اے درجہ بند آزاد متغیرات اور ایک مسلسل منحصر متغیر کا استعمال کرتا ہے، جبکہ امتیازی تجزیہ میں مسلسل آزاد متغیرات اور ایک درجہ بند منحصر متغیر (یعنی۔ کلاس کا لیبل)۔ لاجسٹک ریگریشن اور پروبیٹ ریگریشن این او وی اے کے مقابلے میں ایل ڈی اے سے زیادہ ملتے جلتے ہیں، کیونکہ وہ مسلسل آزاد متغیرات کی اقدار کے ذریعہ ایک درجہ بندی متغیر کی بھی وضاحت کرتے ہیں۔ یہ دوسرے طریقے ان ایپلی کیشنز میں بہتر ہیں جہاں یہ فرض کرنا مناسب نہیں ہے کہ آزاد متغیرات عام طور پر تقسیم کیے جاتے ہیں، جو کہ ایل ڈی اے طریقہ کار کا ایک بنیادی مفروضہ ہے۔ ایل ڈی اے کا پرنسپل جزو تجزیہ (پی سی اے) اور عنصر تجزیہ سے بھی گہرا تعلق ہے جس میں وہ دونوں متغیرات کے لکیری امتزاج کی تلاش کرتے ہیں جو اعداد و شمار کی بہترین وضاحت کرتے ہیں۔ ایل ڈی اے واضح طور پر ڈیٹا کی کلاسوں کے درمیان فرق کو ماڈل کرنے کی کوشش کرتا ہے۔ پی سی اے، اس کے برعکس، کلاس میں کسی بھی فرق کو مدنظر نہیں رکھتا ہے، اور فیکٹر تجزیہ مماثلتوں کے بجائے اختلافات کی بنیاد پر فیچر کے امتزاج بناتا ہے۔ امتیازی تجزیہ عنصر تجزیہ سے بھی مختلف ہے کیونکہ یہ ایک دوسرے پر انحصار کرنے کی تکنیک نہیں ہے: آزاد متغیرات اور منحصر متغیرات (جسے معیار متغیر بھی کہا جاتا ہے) کے درمیان فرق کرنا ضروری ہے۔ ایل ڈی اے اس وقت کام کرتا ہے جب ہر مشاہدے کے لیے آزاد متغیرات پر کی گئی پیمائش مسلسل مقدار میں ہوتی ہے۔ درجہ بندی کے آزاد متغیرات سے نمٹنے کے دوران، مساوی تکنیک امتیازی خط و کتابت کا تجزیہ ہے۔ تب امتیازی تجزیہ کا استعمال کیا جاتا ہے جب گروپوں کو ترجیحی طور پر جانا جاتا ہے (کلسٹر تجزیہ کے برعکس)۔ ہر معاملے میں ایک یا زیادہ مقداری پیشن گوئی کرنے والے اقدامات پر اسکور ہونا چاہیے، اور گروپ پیمائش پر اسکور ہونا چاہیے۔ سادہ الفاظ میں، امتیازی فعل کا تجزیہ درجہ بندی ہے-چیزوں کو ایک ہی قسم کے گروپوں، کلاسوں یا زمروں میں تقسیم کرنے کا عمل۔ اصل ڈائکوٹومس ڈسکریمیننٹ تجزیہ سر رونالڈ فشر نے 1936 میں تیار کیا تھا۔ یہ ایک این او وی اے یا مانووا سے مختلف ہے، جو ایک یا زیادہ آزاد درجہ بندی متغیرات کے ذریعہ ایک (این او وی اے) یا متعدد (مانووا) مسلسل منحصر متغیرات کی پیش گوئی کرنے کے لیے استعمال ہوتا ہے۔ امتیازی فعل کا تجزیہ اس بات کا تعین کرنے میں مفید ہے کہ آیا متغیرات کا ایک مجموعہ زمرہ کی رکنیت کی پیش گوئی میں موثر ہے یا نہیں۔ دو کلاسوں کے لیے ایل ڈی اے معلوم کلاس کے ساتھ کسی شے یا واقعہ کے ہر نمونے کے لیے مشاہدات کے ایک سیٹ (جسے خصوصیات، صفات، متغیرات یا پیمائش بھی کہا جاتا ہے) پر غور کریں۔ نمونوں کے اس سیٹ کو ٹریننگ سیٹ کہا جاتا ہے۔ اس کے بعد درجہ بندی کا مسئلہ یہ ہے کہ صرف ایک مشاہدہ کے پیش نظر اسی تقسیم کے کسی بھی نمونے (ضروری نہیں کہ تربیتی سیٹ سے) کی کلاس کے لیے ایک اچھا پیشن گوئی کرنے والا تلاش کیا جائے۔ ایل ڈی اے یہ فرض کرتے ہوئے مسئلے سے رجوع کرتا ہے کہ مشروط امکان کثافت افعال اور بالترتیب اوسط اور کوویرینس پیرامیٹرز کے ساتھ عام تقسیم دونوں ہیں۔ اس مفروضے کے تحت، بائز کا بہترین حل پوائنٹس کے دوسرے درجے سے ہونے کی پیش گوئی کرنا ہے اگر امکانات کے تناسب کا لاگ کچھ حد T سے بڑا ہے، تاکہ: مزید مفروضوں کے بغیر، نتیجے میں درجہ بندی کو کواڈریٹک ڈسکریمیننٹ تجزیہ (کیو ڈی اے) کہا جاتا ہے۔ اس کے بجائے ایل ڈی اے اضافی آسان بنانے والی ہم جنس پرستی کا مفروضہ بناتا ہے (یعنی۔ کہ کلاس کوویرینسیس ایک جیسے ہیں، لہذا) اور یہ کہ کوویرینسیس کا پورا درجہ ہے۔ اس صورت میں، کئی اصطلاحات منسوخ ہو جاتی ہیں: کیونکہ ہرمیٹین ہے اور مذکورہ بالا فیصلہ کا معیار کچھ حد مستقل c کے لیے ڈاٹ پروڈکٹ پر ایک حد بن جاتا ہے، جہاں اس کا مطلب یہ ہے کہ کسی کلاس میں ان پٹ کا معیار خالصتا معروف مشاہدات کے اس لکیری امتزاج کا ایک فعل ہے۔ اس نتیجے کو ہندسی لحاظ سے دیکھنا اکثر مفید ہوتا ہے: کسی کلاس میں کسی ان پٹ کے ہونے کا معیار خالصتا ویکٹر پر کثیر جہتی-خلائی نقطہ کے پروجیکشن کا ایک فعل ہے (اس طرح، ہم صرف اس کی سمت پر غور کرتے ہیں)۔ دوسرے لفظوں میں، مشاہدہ کا تعلق اس بات سے ہے کہ اگر متعلقہ ہائپرپلین کے کسی خاص جانب پرپینڈکولر پر واقع ہے۔ ہوائی جہاز کے مقام کی وضاحت دہلیز سے کی جاتی ہے۔ مفروضے امتیازی تجزیہ کے مفروضے وہی ہیں جو مانووا کے لیے ہیں۔ تجزیہ آؤٹ لیئرز کے لیے کافی حساس ہے اور سب سے چھوٹے گروپ کا سائز پیشن گوئی کرنے والے متغیرات کی تعداد سے بڑا ہونا چاہیے۔ ملٹی ویریٹ نارملٹی: گروپنگ متغیر کی ہر سطح کے لیے آزاد متغیرات نارمل ہوتے ہیں۔ تغیرات/ہم آہنگی کی یکسانیت (ہم جنس پرستی): گروپ متغیرات کے درمیان تغیرات پیشن گوئی کرنے والوں کی سطحوں میں یکساں ہوتے ہیں۔ باکس کے ایم اعدادوشمار کے ساتھ جانچ کی جا سکتی ہے۔ تاہم، یہ تجویز کیا گیا ہے کہ لکیری ڈسکریمیننٹ تجزیہ کا استعمال اس وقت کیا جائے جب کوویرینسیس برابر ہوں، اور یہ کہ کوواڈریٹک ڈسکریمیننٹ تجزیہ اس وقت استعمال کیا جا سکتا ہے جب کوویرینسیس برابر نہ ہوں۔ ملٹی کالینیریٹی: پیشن گوئی کرنے والے متغیرات کے درمیان بڑھتے ہوئے ارتباط کے ساتھ پیشن گوئی کی طاقت کم ہو سکتی ہے۔ آزادی: شرکاء کو تصادفی طور پر نمونے لیا جاتا ہے، اور ایک متغیر پر شریک کا اسکور دوسرے تمام شرکاء کے لیے اس متغیر پر اسکور سے آزاد سمجھا جاتا ہے۔ یہ تجویز کیا گیا ہے کہ امتیازی تجزیہ ان مفروضوں کی معمولی خلاف ورزیوں کے لیے نسبتا مضبوط ہے، اور یہ بھی دکھایا گیا ہے کہ امتیازی تجزیہ اب بھی قابل اعتماد ہو سکتا ہے جب ڈائکوٹومس متغیرات کا استعمال کرتے ہوئے (جہاں ملٹی ویریٹ نارملٹی کی اکثر خلاف ورزی کی جاتی ہے)۔ امتیازی افعال امتیازی تجزیہ پیشن گوئی کرنے والوں کے ایک یا زیادہ لکیری امتزاج بنا کر کام کرتا ہے، جس سے ہر فنکشن کے لیے ایک نیا پوشیدہ متغیر پیدا ہوتا ہے۔ ان افعال کو امتیازی افعال کہا جاتا ہے۔ ممکنہ افعال کی تعداد یا تو ہے جہاں = گروہوں کی تعداد، یا (پیشن گوئی کرنے والوں کی تعداد)، جو بھی چھوٹا ہو۔ تخلیق کردہ پہلا فنکشن اس فنکشن پر گروپوں کے درمیان فرق کو زیادہ سے زیادہ کرتا ہے۔ دوسرا فنکشن اس فنکشن پر فرق کو زیادہ سے زیادہ کرتا ہے، لیکن اسے پچھلے فنکشن کے ساتھ بھی مربوط نہیں ہونا چاہیے۔ یہ اس ضرورت کے ساتھ بعد کے افعال کے ساتھ جاری رہتا ہے کہ نئے فنکشن کو پچھلے افعال میں سے کسی کے ساتھ مربوط نہ کیا جائے۔ گروپ کو دیکھتے ہوئے، نمونے کی جگہ کے سیٹوں کے ساتھ، ایک امتیازی قاعدہ ہے جیسے کہ اگر، تو۔ تب امتیازی تجزیہ، درجہ بندی کی غلطی کو کم کرنے کے لیے "اچھے" علاقوں کا پتہ لگاتا ہے، جس کی وجہ سے درجہ بندی کی میز میں اعلی فیصد درست درجہ بندی ہوتی ہے۔ ہر فنکشن کو ایک امتیازی اسکور دیا جاتا ہے تاکہ اس بات کا تعین کیا جا سکے کہ یہ گروپ پلیسمنٹ کی کتنی اچھی پیش گوئی کرتا ہے۔ ساخت ارتباط گتانک: ہر پیشن گوئی کرنے والے اور ہر فنکشن کے امتیازی اسکور کے درمیان ارتباط۔ یہ ایک صفر ترتیب کا ارتباط ہے (یعنی، دوسرے پیشن گوئی کرنے والوں کے لیے درست نہیں کیا گیا)۔ معیاری کوفیشنٹس: لکیری امتزاج میں ہر پیشن گوئی کرنے والے کا وزن جو کہ امتیازی فعل ہے۔ رجعت مساوات کی طرح، یہ گتانک جزوی ہوتے ہیں (یعنی دوسرے پیشن گوئی کرنے والوں کے لیے درست کیے جاتے ہیں)۔ گروپ اسائنمنٹ کی پیش گوئی میں ہر پیشن گوئی کرنے والے کی منفرد شراکت کی نشاندہی کرتا ہے۔ گروپ سینٹروئڈز میں افعال: ہر گروپنگ متغیر کے لیے اوسط امتیازی اسکور ہر فنکشن کے لیے دیے جاتے ہیں۔ ذرائع جتنے دور ہوں گے، درجہ بندی میں اتنی ہی کم غلطی ہوگی۔ امتیازی سلوک کے اصول زیادہ سے زیادہ امکان: اس گروپ کو تفویض کرتا ہے جو آبادی (گروپ) کی کثافت کو زیادہ سے زیادہ کرتا ہے۔ بےز امتیازی قاعدہ: اس گروپ کو تفویض کرتا ہے جو زیادہ سے زیادہ ہوتا ہے، جہاں πi اس درجہ بندی کے پہلے امکان کی نمائندگی کرتا ہے، اور آبادی کی کثافت کی نمائندگی کرتا ہے۔ فشر کا لکیری ڈسکریمیننٹ قاعدہ: ایس ایس بیٹن اور ایس ایس ویتن کے درمیان تناسب کو زیادہ سے زیادہ کرتا ہے، اور گروپ کی پیش گوئی کرنے کے لیے پیشن گوئی کرنے والوں کا لکیری مجموعہ تلاش کرتا ہے۔ آئجین ویلیوز امتیازی تجزیہ میں ایک آئجین ویلیو ہر فنکشن کی خصوصیت کی جڑ ہے۔ یہ اس بات کا اشارہ ہے کہ یہ فنکشن گروپوں کو کتنی اچھی طرح سے الگ کرتا ہے، جہاں آئجن ویلیو جتنی بڑی ہوگی، فنکشن اتنا ہی بہتر ہوگا۔ تاہم، اس کی تشریح احتیاط کے ساتھ کی جانی چاہیے، کیونکہ آئجین ویلیوز کی کوئی اوپری حد نہیں ہے۔ آئجین ویلیو کو این او وی اے کی طرح ایس ایس بیٹن اور ایس ایس ود ان کے تناسب کے طور پر دیکھا جا سکتا ہے جب منحصر متغیر امتیازی فعل ہوتا ہے، اور گروپس IV کی سطح ہوتے ہیں۔ اس کا مطلب یہ ہے کہ سب سے بڑا آئجن ویلیو پہلے فنکشن سے وابستہ ہے، دوسرا سب سے بڑا دوسرے کے ساتھ، وغیرہ۔ اثر کا سائز کچھ تجویز کرتے ہیں کہ آئجن ویلیوز کو اثر کے سائز کے اقدامات کے طور پر استعمال کیا جائے، تاہم، عام طور پر اس کی تائید نہیں کی جاتی ہے۔ اس کے بجائے، کینونکل ارتباط اثر کے سائز کی ترجیحی پیمائش ہے۔ یہ آئجین ویلیو سے ملتا جلتا ہے، لیکن ایس ایس بیٹن اور ایس ایس ٹوٹل کے تناسب کا مربع جڑ ہے۔ یہ گروپوں اور فنکشن کے درمیان ارتباط ہے۔ اثر کے سائز کی ایک اور مقبول پیمائش ہر فنکشن کے لیے تغیر کا فیصد ہے۔ اس کا حساب اس طرح لگایا جاتا ہے: (λx/σλi) X 100 جہاں λx فنکشن کے لیے آئجن ویلیو ہے اور σλi تمام آئجن ویلیوز کا مجموعہ ہے۔ یہ ہمیں بتاتا ہے کہ دوسروں کے مقابلے میں اس مخصوص فنکشن کے لیے پیشن گوئی کتنی مضبوط ہے۔ صحیح طریقے سے درجہ بندی کیے گئے فیصد کا تجزیہ اثر کے سائز کے طور پر بھی کیا جا سکتا ہے۔ کاپا ویلیو موقع کے معاہدے کو درست کرتے ہوئے اس کی وضاحت کر سکتی ہے۔ K کلاسوں کے لیے کینونکل ڈسکریمیننٹ تجزیہ (CDA) محوروں (k−1 کینونکل کوآرڈینیٹس، k کلاسوں کی تعداد ہونے کی وجہ سے) کو تلاش کرتا ہے جو زمروں کو بہترین طور پر الگ کرتے ہیں۔ یہ لکیری افعال غیر مربوط ہیں اور درحقیقت اعداد و شمار کے n-جہتی بادل کے ذریعے ایک زیادہ سے زیادہ k−1 جگہ کی وضاحت کرتے ہیں جو k گروپوں کو (اس جگہ کے تخمینوں کو) سب سے بہتر طریقے سے الگ کرتا ہے۔ ذیل میں تفصیلات کے لیے "ملٹی کلاس ایل ڈی اے" دیکھیں۔ فشر کا لکیری ڈسکریمیننٹ اصطلاحات فشر کا لکیری ڈسکریمیننٹ اور ایل ڈی اے اکثر ایک دوسرے کے متبادل کے طور پر استعمال ہوتے ہیں، حالانکہ فشر کا اصل مضمون دراصل قدرے مختلف ڈسکریمیننٹ کی وضاحت کرتا ہے، جو ایل ڈی اے کے کچھ مفروضوں جیسے عام طور پر تقسیم شدہ کلاسز یا مساوی کلاس کوویرینسز کو نہیں بناتا ہے۔ فرض کریں کہ مشاہدات کی دو کلاسوں کے ذرائع اور ہم آہنگی ہیں۔ پھر خصوصیات کے لکیری امتزاج کے لیے ذرائع اور تغیرات ہوں گے۔ فشر نے ان دونوں تقسیموں کے درمیان علیحدگی کو کلاسوں کے درمیان تغیر اور کلاسوں کے اندر تغیر کا تناسب قرار دیا: یہ پیمائش، کسی لحاظ سے، کلاس لیبلنگ کے لیے سگنل سے شور کے تناسب کی پیمائش ہے۔ یہ دکھایا جا سکتا ہے کہ زیادہ سے زیادہ علیحدگی اس وقت ہوتی ہے جب ایل ڈی اے کے مفروضوں کو پورا کیا جاتا ہے، تو مندرجہ بالا مساوات ایل ڈی اے کے برابر ہوتی ہے۔ اس بات کو یقینی بنائیں کہ ویکٹر ڈسکریمیننٹ ہائپرپلین کے لیے نارمل ہے۔ مثال کے طور پر، دو جہتی مسئلے میں، وہ لکیر جو دونوں گروپوں کو بہترین طور پر تقسیم کرتی ہے، اس کے لیے عمودی ہوتی ہے۔ عام طور پر، امتیازی سلوک کیے جانے والے ڈیٹا پوائنٹس کو پیش کیا جاتا ہے ؛ پھر وہ حد جو ڈیٹا کو بہترین طور پر الگ کرتی ہے، یک جہتی تقسیم کے تجزیے سے منتخب کی جاتی ہے۔ حد کے لیے کوئی عمومی اصول نہیں ہے۔ تاہم، اگر دونوں کلاسوں سے پوائنٹس کے تخمینے تقریبا ایک جیسی تقسیم کا مظاہرہ کرتے ہیں، تو ایک اچھا انتخاب دونوں ذرائع کے تخمینوں کے درمیان ہائپرپلین ہوگا، اور۔ اس صورت میں حد کی حالت میں پیرامیٹر سی واضح طور پر پایا جا سکتا ہے: اوٹسو کا طریقہ فشر کے لکیری ڈسکریمیننٹ سے متعلق ہے، اور اسے سیاہ/سفید حد کو بہتر طریقے سے چن کر گرے اسکیل امیج میں پکسلز کے ہسٹوگرام کو بائناریز کرنے کے لیے بنایا گیا تھا جو انٹرا کلاس تغیر کو کم کرتا ہے اور سیاہ اور سفید پکسل کلاسوں کو تفویض کردہ گرے اسکیلز کے درمیان/کے درمیان انٹر کلاس تغیر کو زیادہ سے زیادہ کرتا ہے۔ ملٹی کلاس ایل ڈی اے اس صورت میں جہاں دو سے زیادہ کلاسیں ہیں، فشر ڈسکریمیننٹ کے مشتق میں استعمال ہونے والے تجزیے کو ایک ایسی ذیلی جگہ تلاش کرنے کے لیے بڑھایا جا سکتا ہے جس میں کلاس کی تمام تغیرات موجود ہوں۔ یہ عام سی آر راؤ کی وجہ سے ہے۔ فرض کریں کہ سی کلاسوں میں سے ہر ایک کا اوسط اور ایک ہی ہم آہنگی ہے۔ پھر کلاس کی تغیر پذیری کے درمیان بکھرے ہوئے کی تعریف کلاس کے نمونے کوویرینس سے کی جا سکتی ہے جس کا مطلب ہے کہ کلاس کا مطلب کہاں ہے۔ اس معاملے میں کسی سمت میں کلاس کی علیحدگی اس کے ذریعہ دی جائے گی اس کا مطلب یہ ہے کہ علیحدگی کا آئجین ویکٹر کب ہوگا متعلقہ آئجین ویلیو کے برابر ہوگا۔ اگر اخترن قابل ہے، تو خصوصیات کے درمیان تغیر C−1 سب سے بڑے آئجن ویلیوز (چونکہ زیادہ سے زیادہ درجہ C−1 کا ہے) کے مطابق آئجن ویکٹروں کے ذریعے پھیلی ہوئی ذیلی جگہ میں موجود ہوگا۔ یہ آئجین ویکٹر بنیادی طور پر خصوصیت میں کمی کے لیے استعمال ہوتے ہیں، جیسا کہ پی سی اے میں ہوتا ہے۔ چھوٹے آئجین ویلیوز سے مطابقت رکھنے والے آئجین ویکٹر ٹریننگ ڈیٹا کے صحیح انتخاب کے لیے بہت حساس ہوتے ہیں، اور اکثر یہ ضروری ہوتا ہے کہ اگلے حصے میں بیان کردہ باقاعدگی کا استعمال کیا جائے۔ اگر درجہ بندی کی ضرورت ہو تو طول و عرض میں کمی کے بجائے متعدد متبادل تکنیک دستیاب ہیں۔ مثال کے طور پر، کلاسوں کو تقسیم کیا جا سکتا ہے، اور ہر پارٹیشن کی درجہ بندی کے لیے ایک معیاری فشر ڈسکریمیننٹ یا ایل ڈی اے استعمال کیا جاتا ہے۔ اس کی ایک عام مثال "ایک بمقابلہ باقی" ہے جہاں ایک کلاس کے پوائنٹس کو ایک گروپ میں رکھا جاتا ہے، اور باقی سب کچھ دوسرے میں رکھا جاتا ہے، اور پھر ایل ڈی اے کا اطلاق ہوتا ہے۔ اس کے نتیجے میں سی کلاسیفائرز ہوں گے، جن کے نتائج مشترکہ ہیں۔ ایک اور عام طریقہ جوڑی کے لحاظ سے درجہ بندی ہے، جہاں کلاسوں کے ہر جوڑے کے لیے ایک نیا درجہ بندی تیار کیا جاتا ہے (مجموعی طور پر C (C−1)/2 درجہ بندی کرنے والے)، انفرادی درجہ بندی کرنے والوں کے ساتھ مل کر حتمی درجہ بندی تیار کی جاتی ہے۔ اضافی ایل ڈی اے ایل ڈی اے تکنیک کے عام نفاذ کے لیے ضروری ہے کہ تمام نمونے پہلے سے دستیاب ہوں۔ تاہم، ایسے حالات ہوتے ہیں جہاں پورا ڈیٹا سیٹ دستیاب نہیں ہوتا ہے اور ان پٹ ڈیٹا کو اسٹریم کے طور پر دیکھا جاتا ہے۔ اس صورت میں، ایل ڈی اے فیچر ایکسٹرکشن کے لیے یہ مطلوب ہے کہ وہ پورے ڈیٹا سیٹ پر الگورتھم کو چلائے بغیر نئے نمونوں کا مشاہدہ کرکے کمپیوٹڈ ایل ڈی اے فیچرز کو اپ ڈیٹ کرنے کی صلاحیت رکھتا ہو۔ مثال کے طور پر، بہت سی ریئل ٹائم ایپلی کیشنز جیسے موبائل روبوٹکس یا آن لائن چہرے کی شناخت میں، نئے مشاہدات دستیاب ہوتے ہی نکالے گئے ایل ڈی اے کی خصوصیات کو اپ ڈیٹ کرنا ضروری ہے۔ ایک ایل ڈی اے خصوصیت نکالنے کی تکنیک جو صرف نئے نمونوں کا مشاہدہ کرکے ایل ڈی اے کی خصوصیات کو اپ ڈیٹ کر سکتی ہے، ایک اضافی ایل ڈی اے الگورتھم ہے، اور اس خیال کا گزشتہ دو دہائیوں میں بڑے پیمانے پر مطالعہ کیا گیا ہے۔ چٹرجی اور رائے چودھری نے ایل ڈی اے کی خصوصیات کو اپ ڈیٹ کرنے کے لیے ایک اضافی خود منظم ایل ڈی اے الگورتھم کی تجویز پیش کی۔ دوسرے کام میں، ڈیمر اور اوزمہمیٹ نے غلطی کو درست کرنے اور ہیبیائی سیکھنے کے قوانین کا استعمال کرتے ہوئے ایل ڈی اے کی خصوصیات کو اضافی طور پر اپ ڈیٹ کرنے کے لیے آن لائن مقامی سیکھنے کے الگورتھم کی تجویز پیش کی۔ بعد میں، علییاری اور دیگر۔ نئے نمونوں کا مشاہدہ کرکے ایل ڈی اے کی خصوصیات کو اپ ڈیٹ کرنے کے لیے تیز رفتار اضافی الگورتھم اخذ کیے گئے۔ عملی استعمال عملی طور پر، کلاس کے ذرائع اور کوویرینسیس معلوم نہیں ہیں۔ تاہم، ان کا اندازہ ٹریننگ سیٹ سے لگایا جا سکتا ہے۔ یا تو زیادہ سے زیادہ امکان کا تخمینہ یا زیادہ سے زیادہ پوسٹرری تخمینہ مندرجہ بالا مساوات میں عین قیمت کی جگہ استعمال کیا جا سکتا ہے۔ اگرچہ کوویرینس کے تخمینوں کو کسی لحاظ سے بہترین سمجھا جا سکتا ہے، لیکن اس کا مطلب یہ نہیں ہے کہ ان اقدار کو تبدیل کرکے حاصل کیا گیا نتیجہ کسی بھی لحاظ سے بہتر ہے، چاہے عام طور پر تقسیم شدہ کلاسوں کا مفروضہ درست ہی کیوں نہ ہو۔ حقیقی ڈیٹا پر ایل ڈی اے اور فشر کے امتیازی سلوک کو لاگو کرنے میں ایک اور پیچیدگی اس وقت پیدا ہوتی ہے جب ہر نمونے کی پیمائش کی تعداد (یعنی ہر ڈیٹا ویکٹر کی جہت) ہر کلاس میں نمونوں کی تعداد سے تجاوز کر جاتی ہے۔ اس صورت میں، کوویرینس کے تخمینوں میں مکمل درجہ نہیں ہوتا ہے، اور اس لیے اسے الٹا نہیں کیا جا سکتا۔ اس سے نمٹنے کے کئی طریقے ہیں۔ ایک یہ ہے کہ مندرجہ بالا فارمولوں میں معمول کے میٹرکس الٹا کے بجائے فرضی الٹا استعمال کرنا ہے۔ تاہم، پہلے مسئلے کو ذیلی جگہ پر پیش کرکے بہتر عددی استحکام حاصل کیا جا سکتا ہے۔ چھوٹے نمونے کے سائز سے نمٹنے کے لیے ایک اور حکمت عملی کوویرینس میٹرکس کے سکڑنے کے تخمینے کا استعمال کرنا ہے، جس کا اظہار ریاضیاتی طور پر کیا جا سکتا ہے کہ شناخت میٹرکس کہاں ہے، اور یہ سکڑنے کی شدت یا باقاعدگی کا پیمانہ ہے۔ یہ باقاعدگی سے امتیازی تجزیہ یا سکڑنے والے امتیازی تجزیہ کے فریم ورک کی طرف جاتا ہے۔ نیز، بہت سے عملی معاملات میں لکیری ڈسکریمیننٹ مناسب نہیں ہیں۔ ایل ڈی اے اور فشر کے ڈسکریمیننٹ کو دانا چال کے ذریعے غیر لکیری درجہ بندی میں استعمال کے لیے بڑھایا جا سکتا ہے۔ یہاں، اصل مشاہدات کو مؤثر طریقے سے ایک اعلی جہتی غیر لکیری جگہ میں نقشہ بنایا جاتا ہے۔ اس غیر لکیری جگہ میں لکیری درجہ بندی پھر اصل جگہ میں غیر لکیری درجہ بندی کے مساوی ہے۔ اس کی سب سے زیادہ استعمال ہونے والی مثال دانا فشر ڈسکریمیننٹ ہے۔ ایل ڈی اے کو ایک سے زیادہ امتیازی تجزیے کے لیے عام کیا جا سکتا ہے، جہاں سی صرف دو کے بجائے این ممکنہ حالتوں کے ساتھ ایک درجہ بندی متغیر بن جاتا ہے۔ اسی طرح، اگر کلاس کی مشروط کثافت مشترکہ کوویرینسز کے ساتھ نارمل ہے، تو کافی اعدادوشمار N پروجیکشنز کی اقدار ہیں، جو N ذرائع کے ذریعہ پھیلی ہوئی ذیلی جگہ ہیں، جو الٹا کوویرینس میٹرکس کے ذریعہ پیش کی جاتی ہیں۔ ان تخمینوں کو ایک عمومی آئجن ویلیو کے مسئلے کو حل کرکے پایا جا سکتا ہے، جہاں عدد کوویرینس میٹرکس ہے جو ذرائع کو نمونوں کے طور پر استعمال کرکے تشکیل دیا جاتا ہے، اور ڈینومینیٹر مشترکہ کوویرینس میٹرکس ہے۔ تفصیلات کے لیے اوپر "ملٹی کلاس ایل ڈی اے" دیکھیں۔ درخواستیں ذیل میں دی گئی مثالوں کے علاوہ، ایل ڈی اے کا اطلاق پوزیشننگ اور پروڈکٹ مینجمنٹ میں کیا جاتا ہے۔ دیوالیہ پن کی پیش گوئی اکاؤنٹنگ تناسب اور دیگر مالیاتی متغیرات کی بنیاد پر دیوالیہ پن کی پیش گوئی میں، لکیری امتیازی تجزیہ پہلا شماریاتی طریقہ تھا جس کا اطلاق منظم طریقے سے اس بات کی وضاحت کے لیے کیا گیا کہ کون سی کمپنیاں دیوالیہ پن میں داخل ہوئیں بمقابلہ بچ گئیں۔ ایل ڈی اے کے عام تقسیم کے مفروضوں کے حساب کتاب کے تناسب کی معروف عدم مطابقت سمیت حدود کے باوجود، ایڈورڈ آلٹمین کا 1968 کا ماڈل اب بھی عملی ایپلی کیشنز میں ایک سرکردہ ماڈل ہے۔ چہرے کی شناخت کمپیوٹرائزڈ چہرے کی شناخت میں، ہر چہرے کی نمائندگی بڑی تعداد میں پکسل اقدار کے ذریعے کی جاتی ہے۔ لکیری امتیازی تجزیہ بنیادی طور پر یہاں درجہ بندی سے پہلے خصوصیات کی تعداد کو زیادہ قابل انتظام نمبر تک کم کرنے کے لیے استعمال کیا جاتا ہے۔ ہر نیا طول و عرض پکسل اقدار کا ایک لکیری مجموعہ ہے، جو ایک ٹیمپلیٹ بناتا ہے۔ فشر کے لکیری ڈسکریمیننٹ کا استعمال کرتے ہوئے حاصل ہونے والے لکیری امتزاج کو فشر فیسز کہا جاتا ہے، جبکہ متعلقہ پرنسپل جزو تجزیہ کا استعمال کرتے ہوئے حاصل ہونے والے کو آئجن فیسز کہا جاتا ہے۔ مارکیٹنگ میں، امتیازی تجزیہ اکثر ان عوامل کا تعین کرنے کے لیے استعمال کیا جاتا تھا جو سروے یا جمع کردہ ڈیٹا کی دیگر شکلوں کی بنیاد پر مختلف قسم کے صارفین اور/یا مصنوعات میں فرق کرتے ہیں۔ لاجسٹک ریگریشن یا دیگر طریقے اب زیادہ عام طور پر استعمال ہوتے ہیں۔ مارکیٹنگ میں امتیازی تجزیہ کے استعمال کو درج ذیل مراحل سے بیان کیا جا سکتا ہے: مسئلہ مرتب کریں اور ڈیٹا اکٹھا کریں-اس زمرے میں مصنوعات کا اندازہ کرنے کے لیے صارفین جو نمایاں صفات استعمال کرتے ہیں ان کی شناخت کریں-ممکنہ صارفین کے نمونے سے ڈیٹا اکٹھا کرنے کے لیے مقداری مارکیٹنگ ریسرچ تکنیک (جیسے سروے) کا استعمال کریں جو ان کی تمام مصنوعات کی صفات کی درجہ بندی سے متعلق ہے۔ ڈیٹا اکٹھا کرنے کا مرحلہ عام طور پر مارکیٹنگ ریسرچ پروفیشنلز کے ذریعے کیا جاتا ہے۔ سروے کے سوالات جواب دہندہ سے کہتے ہیں کہ وہ محقق کی طرف سے منتخب کردہ صفات کی حد پر کسی پروڈکٹ کی درجہ بندی ایک سے پانچ (یا 1 سے 7، یا 1 سے 10) تک کرے۔ کہیں بھی پانچ سے بیس صفات کا انتخاب کیا جاتا ہے۔ ان میں استعمال میں آسانی، وزن، درستگی، استحکام، رنگت، قیمت یا سائز جیسی چیزیں شامل ہو سکتی ہیں۔ منتخب کردہ صفات مطالعہ کی جانے والی مصنوعات کے لحاظ سے مختلف ہوں گی۔ مطالعہ میں تمام مصنوعات کے بارے میں ایک ہی سوال پوچھا جاتا ہے۔ متعدد مصنوعات کے لیے ڈیٹا کو کوڈفائی کیا جاتا ہے اور شماریاتی پروگرام جیسے آر، ایس پی ایس ایس یا ایس اے ایس میں داخل کیا جاتا ہے۔ (یہ مرحلہ وہی ہے جو فیکٹر تجزیہ میں ہے)۔ ڈسکریمیننٹ فنکشن کوفیشنٹس کا اندازہ لگائیں اور شماریاتی اہمیت اور جواز کا تعین کریں-مناسب ڈسکریمیننٹ تجزیہ کا طریقہ منتخب کریں۔ براہ راست طریقہ کار میں امتیازی فعل کا اندازہ لگانا شامل ہے تاکہ تمام پیشن گوئی کرنے والوں کا بیک وقت جائزہ لیا جائے۔ مرحلہ وار طریقہ پیشن گوئی کرنے والوں میں ترتیب سے داخل ہوتا ہے۔ دو گروپ کا طریقہ اس وقت استعمال کیا جانا چاہیے جب منحصر متغیر کے دو زمرے یا ریاستیں ہوں۔ ایک سے زیادہ امتیازی طریقہ اس وقت استعمال ہوتا ہے جب منحصر متغیر کی تین یا زیادہ درجہ بند حالتیں ہوں۔ ایس پی ایس ایس میں اہمیت کی جانچ کرنے کے لیے ولکس لیمبڈا یا ایس اے ایس میں ایف اسٹیٹ کا استعمال کریں۔ توثیق کی جانچ کے لیے استعمال ہونے والا سب سے عام طریقہ نمونے کو تخمینہ یا تجزیہ کے نمونے، اور توثیق یا ہولڈ آؤٹ نمونے میں تقسیم کرنا ہے۔ تخمینہ کا نمونہ ڈسکریمیننٹ فنکشن کی تعمیر میں استعمال ہوتا ہے۔ توثیق کا نمونہ درجہ بندی میٹرکس کی تعمیر کے لیے استعمال ہوتا ہے جس میں صحیح درجہ بندی اور غلط درجہ بندی والے معاملات کی تعداد ہوتی ہے۔ صحیح طریقے سے درجہ بند کیسوں کے فیصد کو ہٹ تناسب کہا جاتا ہے۔ نتائج کو دو جہتی نقشے پر مرتب کریں، طول و عرض کی وضاحت کریں، اور نتائج کی تشریح کریں۔ شماریاتی پروگرام (یا متعلقہ ماڈیول) نتائج کا نقشہ بنائے گا۔ نقشہ ہر پروڈکٹ (عام طور پر دو جہتی جگہ میں) کو پلاٹ کرے گا۔ ایک دوسرے سے مصنوعات کا فاصلہ یا تو اس بات کی نشاندہی کرتا ہے کہ وہ کتنے مختلف ہیں۔ طول و عرض کو محقق کے ذریعے لیبل کیا جانا چاہیے۔ اس کے لیے ساپیکش فیصلے کی ضرورت ہوتی ہے اور اکثر یہ بہت مشکل ہوتا ہے۔ ادراکی نقشہ سازی دیکھیں۔ بائیو میڈیکل اسٹڈیز طب میں امتیازی تجزیہ کا بنیادی اطلاق مریض کی شدت کی حالت اور بیماری کے نتائج کی تشخیص کا اندازہ ہے۔ مثال کے طور پر، ماضی سے متعلق تجزیے کے دوران، مریضوں کو بیماری کی شدت کے مطابق گروپوں میں تقسیم کیا جاتا ہے-ہلکی، معتدل اور شدید شکل۔ پھر طبی اور لیبارٹری کے تجزیے کے نتائج کا مطالعہ کیا جاتا ہے تاکہ ان متغیرات کو ظاہر کیا جا سکے جو مطالعہ شدہ گروپوں میں شماریاتی طور پر مختلف ہیں۔ ان متغیرات کا استعمال کرتے ہوئے، امتیازی افعال بنائے جاتے ہیں جو مستقبل کے مریض میں بیماری کو ہلکی، معتدل یا شدید شکل میں معروضی طور پر درجہ بندی کرنے میں مدد کرتے ہیں۔ حیاتیات میں، مختلف حیاتیاتی اشیاء کے گروپوں کی درجہ بندی اور وضاحت کے لیے اسی طرح کے اصولوں کا استعمال کیا جاتا ہے، مثال کے طور پر، فورئیر ٹرانسفارم انفراریڈ سپیکٹر پر مبنی سالمونیلا اینٹرائٹیڈس کی فیج اقسام کی وضاحت کرنے کے لیے، ایسچریچیا کولی کے جانوروں کے ماخذ کا پتہ لگانے کے لیے اس کے وائرل عوامل وغیرہ کا مطالعہ کرنے کے لیے۔ ارتھ سائنس اس طریقہ کو استعمال کیا جا سکتا ہے۔ مثال کے طور پر، جب مختلف زونوں سے مختلف ڈیٹا دستیاب ہوتے ہیں، تب امتیازی تجزیہ ڈیٹا کے اندر پیٹرن تلاش کر سکتا ہے اور اسے مؤثر طریقے سے درجہ بندی کر سکتا ہے۔ لاجسٹک رجعت سے موازنہ امتیازی فعل کا تجزیہ لاجسٹک رجعت سے بہت ملتا جلتا ہے، اور دونوں کو ایک ہی تحقیقی سوالات کے جوابات کے لیے استعمال کیا جا سکتا ہے۔ لاجسٹک ریگریشن میں اتنے مفروضے اور پابندیاں نہیں ہوتیں جتنی امتیازی تجزیہ میں ہوتی ہیں۔ تاہم، جب امتیازی تجزیہ کے مفروضوں کو پورا کیا جاتا ہے، تو یہ لاجسٹک ریگریشن سے زیادہ طاقتور ہوتا ہے۔ لاجسٹک ریگریشن کے برعکس، امتیازی تجزیہ چھوٹے نمونے کے سائز کے ساتھ استعمال کیا جا سکتا ہے۔ یہ دکھایا گیا ہے کہ جب نمونے کے سائز برابر ہوتے ہیں، اور تغیر/ہم آہنگی کی یکسانیت برقرار رہتی ہے، تو امتیازی تجزیہ زیادہ درست ہوتا ہے۔ ان تمام فوائد کے باوجود، لاجسٹک ریگریشن عام انتخاب بن گیا ہے، کیونکہ امتیازی تجزیہ کے مفروضے شاذ و نادر ہی پورے ہوتے ہیں۔ اعلی طول و عرض میں لکیری امتیاز اعلی طول و عرض میں ہندسی بے ضابطگیاں طول و عرض کی معروف لعنت کا باعث بنتی ہیں۔ اس کے باوجود، پیمائش کے مظاہر کے ارتکاز کا مناسب استعمال حساب کو آسان بنا سکتا ہے۔ جہتی مظاہر کی ان نعمتوں کے ایک اہم معاملے کو ڈونوہو اور ٹینر نے اجاگر کیا: اگر کوئی نمونہ بنیادی طور پر اعلی جہتی ہے تو ہر نقطہ کو لکیری عدم مساوات کے ذریعے باقی نمونے سے الگ کیا جا سکتا ہے، اعلی امکان کے ساتھ، یہاں تک کہ تیزی سے بڑے نمونوں کے لیے بھی۔ ان لکیری عدم مساوات کو امکان کی تقسیم کے ایک امیر خاندان کے لیے لکیری امتیازی کی معیاری (فشر) شکل میں منتخب کیا جا سکتا ہے۔ خاص طور پر، اس طرح کے نظریات لاگ-کنکیو کی تقسیم کے لیے ثابت ہوتے ہیں جن میں کثیر جہتی عام تقسیم (ثبوت لاگ-کنکیو اقدامات کے لیے ارتکاز کی عدم مساوات پر مبنی ہے) اور کثیر جہتی مکعب پر مصنوعات کے اقدامات کے لیے (یہ مصنوعات کے امکانات کے مقامات کے لیے ٹالاگرانڈ کی ارتکاز کی عدم مساوات کا استعمال کرتے ہوئے ثابت ہوتا ہے)۔ کلاسیکی لکیری ڈسکریمینٹس کے ذریعہ ڈیٹا کی علیحدگی اعلی جہت میں مصنوعی ذہانت کے نظام کے لیے غلطی کی اصلاح کے مسئلے کو آسان بناتی ہے۔ ڈیٹا مائننگ فیصلہ ٹری لرننگ فیکٹر تجزیہ کرنل فشر امتیازی تجزیہ لاجٹ (لاجسٹک رجعت کے لیے) لکیری رجعت متعدد امتیازی تجزیہ کثیر جہتی اسکیلنگ پیٹرن شناخت ترجیح کواڈریٹک درجہ بندی شماریاتی درجہ بندی حوالہ جات مزید پڑھنا ہگھی گھاٹ مضمون کے بیرونی روابط امتیازی ارتباط تجزیہ (ڈی سی اے) (اوپر دیکھیں) اے ایل جی ایل آئی بی میں سی #/سی + +/پاسکل/وی بی اے میں اوپن سورس ایل ڈی اے کا نفاذ شامل ہے۔ ایم ایس ایکسل بائیو میڈیکل شماریات کا استعمال کرتے ہوئے ازگر میں ایل ڈی اے-ازگر میں ایل ڈی اے نفاذ۔ تبعیض تجزیہ کورس نوٹ، جی ڈیوڈ گارسن کا تبعیض فنکشن تجزیہ، کارڈی ٹیکنومو کورس نوٹ کے ذریعہ مائیکروسافٹ ایکسل میں این سی اسٹیٹ یونیورسٹی تبعیض تجزیہ سبق، ڈیوڈ ڈبلیو اسٹاک برگر کا تبعیض فنکشن تجزیہ، جان پولسن اور ایرون فرانسیسی کا میسوری اسٹیٹ یونیورسٹی تبعیض فنکشن تجزیہ (ڈی اے)، سان فرانسسکو اسٹیٹ یونیورسٹی درجہ بندی الگورتھم مارکیٹ کی تحقیق مارکیٹ کی تقسیم شماریاتی درجہ بندی