Kernel principal component analysis
کثیر متغیر اعداد و شمار کے میدان میں، دانا پرنسپل جزو تجزیہ (دانا پی سی اے) دانا کے طریقوں کی تکنیکوں کا استعمال کرتے ہوئے پرنسپل جزو تجزیہ (پی سی اے) کی توسیع ہے۔ دانا کا استعمال کرتے ہوئے، پی سی اے کی اصل لکیری کارروائیاں دوبارہ پیدا ہونے والی دانا ہلبرٹ جگہ میں انجام دی جاتی ہیں۔ پس منظر: لکیری پی سی اے یاد رکھیں کہ روایتی پی سی اے صفر مرکوز ڈیٹا پر کام کرتا ہے ؛ یعنی، جہاں کثیر متغیر مشاہدات میں سے ایک ہے۔ یہ کوویرینس میٹرکس کو ڈائیگنلائز کرکے کام کرتا ہے، دوسرے لفظوں میں، یہ کوویرینس میٹرکس کی ایک آئجینڈ کمپوزیشن دیتا ہے: جسے اس طرح دوبارہ لکھا جا سکتا ہے۔ (یہ بھی دیکھیں: لکیری آپریٹر کے طور پر کوویرینس میٹرکس) کرنل سے پی سی اے کا تعارف کرنل پی سی اے کی افادیت کو سمجھنے کے لیے، خاص طور پر کلسٹرنگ کے لیے، مشاہدہ کریں کہ اگرچہ عام طور پر این پوائنٹس کو جہتوں میں لکیری طور پر الگ نہیں کیا جا سکتا، لیکن انہیں تقریبا ہمیشہ جہتوں میں لکیری طور پر الگ کیا جا سکتا ہے۔ یعنی، این پوائنٹس کو دیکھتے ہوئے، اگر ہم ان کا نقشہ این جہتی جگہ پر بناتے ہیں جہاں، ایک ہائپرپلین بنانا آسان ہے جو پوائنٹس کو صوابدیدی کلسٹرز میں تقسیم کرتا ہے۔ یقینا، یہ لکیری طور پر آزاد ویکٹر بناتا ہے، لہذا کوئی کوویرینس نہیں ہے جس پر واضح طور پر ایجینڈ کمپوزیشن انجام دی جائے جیسا کہ ہم لکیری پی سی اے میں کریں گے۔ اس کے بجائے، دانا پی سی اے میں، ایک غیر معمولی، صوابدیدی فنکشن کو 'منتخب' کیا جاتا ہے جس کا کبھی واضح طور پر حساب نہیں لگایا جاتا ہے، جس سے بہت زیادہ جہتی استعمال کرنے کا امکان ہوتا ہے اگر ہمیں اس جگہ میں ڈیٹا کا اصل میں اندازہ نہیں کرنا پڑتا ہے۔ چونکہ ہم عام طور پر-اسپیس میں کام کرنے سے بچنے کی کوشش کرتے ہیں، جسے ہم 'فیچر اسپیس' کہیں گے، اس لیے ہم N-by-N دانا بنا سکتے ہیں جو بصورت دیگر ناقابل تلافی فیچر اسپیس کے اندرونی پروڈکٹ اسپیس (گرامین میٹرکس دیکھیں) کی نمائندگی کرتا ہے۔ دانا کی تخلیق میں پیدا ہونے والی دوہری شکل ہمیں ریاضیاتی طور پر پی سی اے کا ایک ورژن تیار کرنے کی اجازت دیتی ہے جس میں ہم اصل میں کبھی بھی-اسپیس میں کوویرینس میٹرکس کے آئجین ویکٹرز اور آئجین ویلیوز کو حل نہیں کرتے ہیں (دیکھیں کرنل ٹرک)۔ K کے ہر کالم میں N-عناصر تمام تبدیل شدہ پوائنٹس (N پوائنٹس) کے حوالے سے تبدیل شدہ ڈیٹا کے ایک پوائنٹ کے ڈاٹ پروڈکٹ کی نمائندگی کرتے ہیں۔ کچھ معروف دانے نیچے دی گئی مثال میں دکھائے گئے ہیں۔ کیونکہ ہم کبھی بھی فیچر اسپیس میں براہ راست کام نہیں کر رہے ہیں، پی سی اے کی دانا تشکیل اس لحاظ سے محدود ہے کہ یہ خود بنیادی اجزاء کا نہیں، بلکہ ان اجزاء پر ہمارے ڈیٹا کے تخمینوں کا حساب لگاتا ہے۔ خصوصیت کی جگہ میں ایک نقطہ سے kth پرنسپل جزو پر پروجیکشن کا اندازہ کرنے کے لیے (جہاں سپر اسکرپٹ k کا مطلب جزو k ہے، k کی طاقتیں نہیں) ہم نوٹ کرتے ہیں کہ ڈاٹ پروڈکٹ کی نشاندہی کرتا ہے، جو کہ صرف دانا کے عناصر ہیں۔ ایسا لگتا ہے کہ جو کچھ بچا ہے وہ حساب لگانا اور معمول بنانا ہے، جو آئجین ویکٹر مساوات کو حل کرکے کیا جا سکتا ہے جہاں سیٹ میں ڈیٹا پوائنٹس کی تعداد ہے، اور اس کے آئجین ویلیوز اور آئجین ویکٹر ہیں۔ پھر آئجین ویکٹروں کو معمول پر لانے کے لیے، ہمیں اس حقیقت کے حوالے سے خیال رکھنا چاہیے کہ، چاہے اس کی اصل جگہ میں صفر کا مطلب ہو یا نہ ہو، اس کی خصوصیت کی جگہ میں مرکوز ہونے کی ضمانت نہیں ہے (جس کا ہم کبھی واضح طور پر حساب نہیں لگاتے)۔ چونکہ ایک موثر بنیادی جزو تجزیہ انجام دینے کے لیے مرکوز ڈیٹا کی ضرورت ہوتی ہے، اس لیے ہم 'مرکزی' بن جاتے ہیں جہاں N-by-N میٹرکس کی نشاندہی ہوتی ہے جس کے لیے ہر عنصر قدر لیتا ہے۔ ہم اوپر بیان کردہ دانا پی سی اے الگورتھم انجام دینے کے لیے استعمال کرتے ہیں۔ دانا پی سی اے کا ایک انتباہ یہاں واضح کیا جانا چاہیے۔ لکیری پی سی اے میں، ہم آئجین ویلیوز کو آئجین ویکٹرز کی درجہ بندی کرنے کے لیے استعمال کر سکتے ہیں اس بنیاد پر کہ ہر پرنسپل جزو کے ذریعے ڈیٹا کی کتنی تغیرات حاصل کی جاتی ہیں۔ یہ ڈیٹا طول و عرض میں کمی کے لیے مفید ہے اور اس کا اطلاق کے پی سی اے پر بھی کیا جا سکتا ہے۔ تاہم، عملی طور پر ایسے معاملات ہیں کہ اعداد و شمار کے تمام تغیرات ایک جیسے ہیں۔ یہ عام طور پر دانا پیمانے کے غلط انتخاب کی وجہ سے ہوتا ہے۔ بڑے ڈیٹا سیٹ عملی طور پر، ایک بڑا ڈیٹا سیٹ ایک بڑے K کی طرف جاتا ہے، اور K کو ذخیرہ کرنا ایک مسئلہ بن سکتا ہے۔ اس سے نمٹنے کا ایک طریقہ یہ ہے کہ ڈیٹا سیٹ پر کلسٹرنگ انجام دی جائے، اور ان کلسٹروں کے ذرائع سے دانا کو آباد کیا جائے۔ چونکہ یہ طریقہ بھی نسبتا بڑا K حاصل کر سکتا ہے، اس لیے صرف ٹاپ P آئجن ویلیوز کا حساب لگانا عام ہے اور آئجن ویلیوز کے آئجن ویکٹرز کا حساب اس طرح کیا جاتا ہے۔ مثال پوائنٹس کے تین متمرکز بادلوں پر غور کریں (دکھایا گیا ہے) ؛ ہم ان گروپوں کی شناخت کے لیے دانا پی سی اے استعمال کرنا چاہتے ہیں۔ پوائنٹس کا رنگ الگورتھم میں شامل معلومات کی نمائندگی نہیں کرتا ہے، لیکن صرف یہ ظاہر کرتا ہے کہ تبدیلی ڈیٹا پوائنٹس کو کس طرح منتقل کرتی ہے۔ سب سے پہلے، کرنل پر غور کریں کہ اسے کرنل پی سی اے پر لاگو کرنے سے اگلی تصویر حاصل ہوتی ہے۔ اب ایک گوسیائی دانا پر غور کریں: یعنی، یہ دانا قربت کی پیمائش ہے، جو پوائنٹس کے موافق ہونے پر 1 کے برابر ہے اور انفینیٹی پر 0 کے برابر ہے۔ خاص طور پر نوٹ کریں کہ پہلا بنیادی جزو تین مختلف گروہوں میں فرق کرنے کے لیے کافی ہے، جو کہ صرف لکیری پی سی اے کا استعمال کرتے ہوئے ناممکن ہے، کیونکہ لکیری پی سی اے صرف دی گئی (اس معاملے میں دو جہتی) جگہ میں کام کرتا ہے، جس میں یہ متمرکز نقطہ بادل لکیری طور پر الگ نہیں ہوتے ہیں۔ ایپلی کیشنز کرنل پی سی اے کو نیاپن کا پتہ لگانے اور امیج ڈی شور کے لیے مفید ثابت کیا گیا ہے۔ کلسٹر تجزیہ غیر لکیری جہت میں کمی سپیکٹرم کلسٹرنگ حوالہ جات طول و عرض میں کمی سگنل پروسیسنگ الگورتھم مشین لرننگ ایس وی کے لیے دانا کے طریقے بھی دیکھیں: Principalkomponentanalys#Olinjär PCA