Linear predictor function
اعداد و شمار اور مشین لرننگ میں، لکیری پریڈیکٹر فنکشن کوفیشنٹس اور وضاحتی متغیرات (آزاد متغیرات) کے ایک سیٹ کا لکیری فنکشن (لکیری مجموعہ) ہے، جس کی قیمت ایک منحصر متغیر کے نتائج کی پیش گوئی کے لیے استعمال ہوتی ہے۔ اس قسم کی فنکشن عام طور پر لکیری ریگریشن میں آتی ہے، جہاں کوفشنٹس کو ریگریشن کوفشنٹس کہا جاتا ہے۔ تاہم، وہ مختلف قسم کے لکیری درجہ بندی میں بھی پائے جاتے ہیں (مثال کے طور پر۔ لاجسٹک ریگریشن، پرسیپٹرون، سپورٹ ویکٹر مشینیں، اور لکیری ڈسکریمیننٹ تجزیہ) کے ساتھ ساتھ مختلف دیگر ماڈلز میں، جیسے پرنسپل جزو تجزیہ اور عنصر تجزیہ۔ ان میں سے بہت سے ماڈلز میں، کوفیشنٹس کو "وزن" کہا جاتا ہے۔ تعریف ڈیٹا پوائنٹ i (p وضاحتی متغیرات پر مشتمل) کے لیے لکیری پیشن گوئی فنکشن کی بنیادی شکل، i = 1،.، n کے لیے، جہاں، k = 1،.، p کے لیے، ڈیٹا پوائنٹ i کے لیے k-th وضاحتی متغیر کی قیمت ہے، اور کوفیشنٹس (رجعت کے کوفیشنٹس، وزن وغیرہ) ہیں۔ نتیجہ پر کسی خاص وضاحتی متغیر کے متعلقہ اثر کی نشاندہی کرنا۔ پیشن گوئی کرنے والے فنکشن کو مزید کمپیکٹ شکل میں لکھنا عام ہے: کوفیشنٹس β0، β1،.، βp کو p + 1 سائز کے واحد ویکٹر β میں گروپ کیا جاتا ہے۔ ہر ڈیٹا پوائنٹ i کے لیے، ایک اضافی وضاحتی چھدم-متغیر xi0 شامل کیا جاتا ہے، جس کی مقررہ قیمت 1 ہوتی ہے، جو انٹرسیپٹ گتانک β0 سے مطابقت رکھتی ہے۔ نتیجے میں آنے والے وضاحتی متغیرات xi0 (= 1)، xi1،.، xip کو پھر p + 1 سائز کے واحد ویکٹر xi میں گروپ کیا جاتا ہے۔ ویکٹر نوٹیشن اس سے لکیری پریڈیکٹر فنکشن کو درج ذیل طور پر لکھنا ممکن ہو جاتا ہے: دو ویکٹروں کے درمیان ڈاٹ پروڈکٹ کے لیے نوٹیشن کا استعمال کرتے ہوئے۔ میٹرکس نوٹیشن میٹرکس نوٹیشن کا استعمال کرتے ہوئے ایک مساوی شکل مندرجہ ذیل ہے: جہاں اور a (p + 1)-by-1 کالم ویکٹر سمجھا جاتا ہے، (اسی طرح 1-by-(p + 1) قطار ویکٹر ہے) کا میٹرکس ٹرانسپوز ہے، اور 1-by-(p + 1) قطار ویکٹر اور (p + 1)-by-1 کالم ویکٹر کے درمیان میٹرکس ضرب کی نشاندہی کرتا ہے، جس سے 1-by-1 میٹرکس تیار ہوتا ہے جسے اسکیلر سمجھا جاتا ہے۔ لکیری ریگریشن لکیری پیشن گوئی فنکشن کے استعمال کی ایک مثال لکیری ریگریشن میں ہے، جہاں ہر ڈیٹا پوائنٹ ایک مسلسل نتیجہ yi سے وابستہ ہے، اور لکھا ہوا رشتہ جہاں ایک خلل کی اصطلاح یا غلطی متغیر ہے-ایک غیر مشاہدہ شدہ بے ترتیب متغیر جو شور میں اضافہ کرتا ہے منحصر متغیر اور پیش گوئی کرنے والے فنکشن کے درمیان لکیری تعلق۔ اسٹیکنگ کچھ ماڈلز میں (معیاری لکیری رجعت، خاص طور پر)، ڈیٹا پوائنٹس میں سے ہر ایک کے لیے مساوات i = 1,., n کو ایک ساتھ اسٹیک کیا جاتا ہے اور ویکٹر کی شکل میں لکھا جاتا ہے جہاں میٹرکس X کو ڈیزائن میٹرکس کے نام سے جانا جاتا ہے اور آزاد متغیرات کے بارے میں تمام معلوم معلومات کو انکوڈ کرتا ہے۔ متغیرات بے ترتیب متغیرات ہیں، جو معیاری لکیری رجعت میں معیاری معمول کی تقسیم کے مطابق تقسیم کیے جاتے ہیں۔ وہ نتائج پر کسی بھی نامعلوم عوامل کے اثر کا اظہار کرتے ہیں۔ اس سے سادہ میٹرکس آپریشنز کا استعمال کرتے ہوئے کم سے کم مربعوں کے طریقہ کار کے ذریعے زیادہ سے زیادہ گتانک تلاش کرنا ممکن ہو جاتا ہے۔ خاص طور پر، کم سے کم مربعوں کے تخمینے کے مطابق زیادہ سے زیادہ گتانک کو اس طرح لکھا جا سکتا ہے: میٹرکس کو X کے مور-پینروز سڈو انوورس کے نام سے جانا جاتا ہے۔ اس فارمولے میں میٹرکس الٹا کے استعمال کے لیے ضروری ہے کہ X مکمل درجہ کا ہو، یعنی۔ مختلف وضاحتی متغیرات میں کامل ملٹی کالینیریٹی نہیں ہے (یعنی۔ کسی بھی وضاحتی متغیر کی دوسروں سے مکمل پیش گوئی نہیں کی جا سکتی)۔ ایسی صورتوں میں، سنگل ویلیو ڈکمپزیشن کو سڈو انوورس کا حساب لگانے کے لیے استعمال کیا جا سکتا ہے۔ وضاحتی متغیرات اگرچہ پیش گوئی کیے جانے والے نتائج (منحصر متغیرات) کو بے ترتیب متغیر سمجھا جاتا ہے، لیکن وضاحتی متغیرات کو خود عام طور پر بے ترتیب نہیں سمجھا جاتا ہے۔ اس کے بجائے، یہ فرض کیا جاتا ہے کہ وہ مقررہ اقدار ہیں، اور کوئی بھی بے ترتیب متغیر (جیسے۔ نتائج) کو ان پر مشروط سمجھا جاتا ہے۔ نتیجے کے طور پر، ڈیٹا تجزیہ کار وضاحتی متغیرات کو من مانی طریقوں سے تبدیل کرنے کے لیے آزاد ہے، بشمول دیے گئے وضاحتی متغیر کی متعدد کاپیاں بنانا، جن میں سے ہر ایک کو مختلف فنکشن کا استعمال کرتے ہوئے تبدیل کیا گیا ہے۔ دیگر عام تکنیکیں دو (یا بعض اوقات زیادہ) موجودہ وضاحتی متغیرات کی مصنوعات کو لے کر تعامل متغیرات کی شکل میں نئے وضاحتی متغیرات پیدا کرنا ہیں۔ جب غیر لکیری افعال کا ایک فکسڈ سیٹ ڈیٹا پوائنٹ کی قدر کو تبدیل کرنے کے لیے استعمال کیا جاتا ہے، تو ان افعال کو بیس افعال کے نام سے جانا جاتا ہے۔ ایک مثال کثیر الجہتی رجعت ہے، جو اعداد و شمار کے دو سیٹوں (یعنی کسی دی گئی ترتیب تک) کے درمیان صوابدیدی ڈگری کثیر الجہتی تعلق کو فٹ کرنے کے لیے لکیری پیشن گوئی کرنے والے فنکشن کا استعمال کرتی ہے۔ ایک واحد حقیقی قدر والا وضاحتی متغیر اور ایک متعلقہ حقیقی قدر والا منحصر متغیر)، موجودہ وضاحتی متغیر کی مختلف طاقتوں کے مطابق متعدد وضاحتی متغیرات کو شامل کرکے۔ ریاضیاتی طور پر، شکل اس طرح نظر آتی ہے: اس صورت میں، ہر ڈیٹا پوائنٹ i کے لیے، وضاحتی متغیرات کا ایک مجموعہ اس طرح بنایا جاتا ہے: اور پھر معیاری لکیری رجعت کو چلایا جاتا ہے۔ اس مثال میں بنیادی افعال یہ ہوں گے۔ اس مثال سے پتہ چلتا ہے کہ ایک لکیری پیشن گوئی کرنے والا فنکشن اصل میں اس سے کہیں زیادہ طاقتور ہو سکتا ہے جو پہلے ظاہر ہوتا ہے: اسے صرف کوفیشنٹس میں لکیری ہونے کی ضرورت ہے۔ وضاحتی متغیرات کے تمام قسم کے غیر لکیری افعال ماڈل کے ذریعہ فٹ ہوسکتے ہیں۔ بنیادی افعال کے لیے ان پٹ کو غیر متغیر یا واحد جہتی ہونے کی کوئی خاص ضرورت نہیں ہے (یا اس معاملے کے لیے ان کے آؤٹ پٹ، حالانکہ ایسی صورت میں، K-جہتی آؤٹ پٹ ویلیو کو K علیحدہ اسکیلر آؤٹ پٹ بیس افعال کے طور پر مانا جا سکتا ہے)۔ اس کی ایک مثال ریڈیل بیس افعال (آر بی ایف) ہیں، جو فاصلے کے کچھ تبدیل شدہ ورژن کو کسی مقررہ نقطہ پر شمار کرتے ہیں: ایک مثال گوسیئن آر بی ایف ہے، جس کی فعال شکل نارمل ڈسٹری بیوشن جیسی ہے: جو سی سے فاصلہ بڑھنے کے ساتھ تیزی سے کم ہوتی جاتی ہے۔ آر بی ایف کا ممکنہ استعمال ہر مشاہدہ شدہ ڈیٹا پوائنٹ کے لیے ایک بنانا ہے۔ اس کا مطلب یہ ہے کہ نئے ڈیٹا پوائنٹ پر لاگو ہونے والے آر بی ایف کا نتیجہ 0 کے قریب ہوگا جب تک کہ نیا پوائنٹ اس پوائنٹ کے قریب نہ ہو جس کے ارد گرد آر بی ایف کا اطلاق کیا گیا تھا۔ یعنی، ریڈیل بیس افعال کا اطلاق قریب ترین نقطہ کا انتخاب کرے گا، اور اس کا رجعت گتانک غالب ہوگا۔ نتیجہ قریب ترین پڑوسی انٹرپولیشن کی ایک شکل ہوگی، جہاں پیش گوئیاں صرف قریب ترین مشاہدہ شدہ ڈیٹا پوائنٹ کی پیش گوئی کا استعمال کرتے ہوئے کی جاتی ہیں، ممکنہ طور پر متعدد قریبی ڈیٹا پوائنٹس کے درمیان انٹرپولیٹ کرتے ہوئے جب وہ سب ایک جیسے فاصلے پر ہوں۔ پیشن گوئی کے لیے اس قسم کے قریب ترین پڑوسی طریقہ کو اکثر معیاری لکیری رجعت میں استعمال ہونے والی پیشن گوئی کی قسم کے بالکل مخالف سمجھا جاتا ہے: لیکن حقیقت میں، وہ تبدیلیاں جو لکیری پیشن گوئی فنکشن میں وضاحتی متغیرات پر لاگو کی جا سکتی ہیں اتنی طاقتور ہیں کہ قریب ترین پڑوسی طریقہ بھی لکیری رجعت کی ایک قسم کے طور پر لاگو کیا جا سکتا ہے۔ یہاں تک کہ کچھ افعال کو فٹ کرنا بھی ممکن ہے جو کوفشنٹس میں غیر لکیری نظر آتے ہیں، کوفشنٹس کو نئے کوفشنٹس میں تبدیل کرکے جو لکیری نظر آتے ہیں۔ مثال کے طور پر، کوفشنٹس کے لیے فارم کے فنکشن کو متبادل کا اطلاق کرکے مناسب لکیری فنکشن میں تبدیل کیا جا سکتا ہے جس کی طرف لکیری ہے۔ لکیری رجعت اور اسی طرح کی تکنیکوں کا اطلاق کیا جا سکتا ہے اور اکثر پھر بھی زیادہ سے زیادہ گتانک تلاش کریں گے، لیکن ان کے غلطی کے تخمینے اور اس طرح کے غلط ہوں گے۔ وضاحتی متغیرات کسی بھی قسم کے ہو سکتے ہیں: حقیقی قدر، بائنری، زمرہ بندی وغیرہ۔ اہم فرق مسلسل متغیرات کے درمیان ہے (مثال کے طور پر۔ آمدنی، عمر، بلڈ پریشر وغیرہ) اور مجرد متغیرات (مثال کے طور پر۔ جنس، نسل، سیاسی جماعت وغیرہ)۔ دو سے زیادہ ممکنہ انتخاب کا حوالہ دینے والے مجرد متغیرات کو عام طور پر ڈمی متغیرات (یا اشارے متغیرات) کا استعمال کرتے ہوئے کوڈ کیا جاتا ہے، یعنی۔ 0 یا 1 کی قدر لینے والے علیحدہ وضاحتی متغیرات مجرد متغیر کی ہر ممکنہ قدر کے لیے بنائے جاتے ہیں، جس میں 1 کا مطلب ہے "متغیر کی دی گئی قدر ہوتی ہے" اور 0 کا مطلب ہے "متغیر کی دی گئی قدر نہیں ہوتی ہے"۔ مثال کے طور پر، ممکنہ اقدار "اے، بی، اے بی، او" کے ساتھ خون کی قسم کے چار طرفہ مجرد متغیر کو الگ الگ دو طرفہ ڈمی متغیرات میں تبدیل کیا جائے گا، "is-A, is-B, is-AB, is-O"، جہاں ان میں سے صرف ایک کی قدر 1 ہے اور باقی سب کی قدر 0 ہے۔ یہ مجرد متغیر کی ہر ممکنہ قیمت کے لیے علیحدہ رجعت گتانک کو ملنے کی اجازت دیتا ہے۔ نوٹ کریں کہ، K زمروں کے لیے، تمام K ڈمی متغیرات ایک دوسرے سے آزاد نہیں ہیں۔ مثال کے طور پر، مندرجہ بالا خون کی قسم کی مثال میں، چار ڈمی متغیرات میں سے صرف تین آزاد ہیں، اس معنی میں کہ ایک بار جب تین متغیرات کی اقدار معلوم ہو جاتی ہیں، تو چوتھا خود بخود طے ہو جاتا ہے۔ اس طرح، یہ واقعی ضروری ہے کہ چار میں سے تین امکانات کو ڈمی متغیر کے طور پر انکوڈ کیا جائے، اور درحقیقت اگر چاروں امکانات کو انکوڈ کیا جائے تو مجموعی طور پر ماڈل غیر قابل شناخت ہو جاتا ہے۔ یہ متعدد طریقوں کے لیے مسائل کا باعث بنتا ہے، جیسے کہ لکیری رجعت میں استعمال ہونے والا سادہ بند شکل کا حل۔ حل یہ ہے کہ یا تو ڈمی متغیرات میں سے کسی ایک کو ختم کرکے اس طرح کے معاملات سے گریز کیا جائے، اور/یا باقاعدگی کی رکاوٹ متعارف کرائی جائے (جس کے لیے زیادہ طاقتور، عام طور پر تکراری، زیادہ سے زیادہ گتانک تلاش کرنے کے طریقہ کار کی ضرورت ہوتی ہے)۔ لکیری ماڈل لکیری رجعت حوالہ جات رجعت تجزیہ مشین لرننگ بھی دیکھیں۔