کیا کریڈٹ اسکورنگ الگورتھم سے دو نسلی/جنسی گروپوں کے درمیان پیشین گوئی کے نتائج میں فرق ڈیٹا اکٹھا کرنے کے عمل یا خود الگورتھم میں تعصب کا سبب بنتا ہے؟
-
میں بحث کرتا ہوں کہ کریڈٹ اسکورنگ کے نتائج میں فرق ڈیٹا کا مسئلہ اور الگورتھمک تعصب دونوں کو تشکیل دیتا ہے۔ آئیے پہلے ڈیٹاسیٹ میں تعصب کا جائزہ لیتے ہیں۔ میں خود ماڈل کو ایک بلیک باکس کے طور پر سوچتا ہوں جو کچھ مقاصد کو پورا کرنے کے لیے آؤٹ پٹ پیدا کرتا ہے – کریڈٹ اسکورنگ کے معاملے میں، مقصد پہلے سے طے شدہ خطرے کی پیشین گوئیوں کی درستگی، یاد کرنا اور درستگی ہے۔ اس کے غیر تربیت یافتہ ورژن کا ماڈل غیر ملکی کارکنوں، خواتین یا نوجوانوں کے ساتھ امتیازی سلوک نہیں کرتا: درحقیقت، یہ ان (معاشرتی طور پر تعمیر شدہ) لیبلز کا تصور نہیں کرتا جس طرح انسان کرتے ہیں۔ اس کے باوجود، ماڈل کو جس ڈیٹاسیٹ پر تربیت دی جاتی ہے وہ سماجی طور پر بنائے گئے تعصبات سے بھری ہوتی ہے۔ مثال کے طور پر، سماجی اصول خواتین کو نااہل، غیر ملکی کارکنوں کو ناقابل اعتماد، اور نوجوانوں کو ناتجربہ کار قرار دیتے ہیں، جس کی وجہ سے ان گروہوں کے لیے بیروزگاری کی شرح زیادہ ہوتی ہے اور حالات زندگی بدتر ہوتے ہیں۔ ان کے نتیجے میں اعلیٰ تاریخی ڈیفالٹ امکان سماجی دقیانوسی تصورات کے ذریعے پیدا ہونے والے شیطانی چکروں کے مقابلے میں قابلیت میں آبادی سے متعلقہ فرق سے کم ہوتا ہے۔ دقیانوسی تصورات ڈیٹاسیٹ کو متعصبانہ طور پر پیش کرتے ہیں، جس سے الگورتھم کا تعصب ہوتا ہے: پیشین گوئی کی درستگی کو زیادہ سے زیادہ کرنے کے مقصد کو دیکھتے ہوئے، ماڈل ڈیٹاسیٹ میں موجود "پیٹرنز" کو سیکھتا ہے اور اپنی پیشین گوئی الگورتھم کے حصے کے طور پر سماجی طور پر بنائے گئے اختلافات کو جذب کرتا ہے۔ کیا ہم الگورتھم کو مورد الزام ٹھہرا سکتے ہیں؟ - بہر حال، ماڈل "تاریخ" تک محدود ہے اور تاریخی طور پر امتیازی گروہوں کی صلاحیت کے لیے اس میں کوئی تخیلاتی صلاحیت نہیں ہے۔ بنیادی طور پر ہمارے پاس ڈیٹا ان پٹس میں تاریخی اور نمائندگی کے تعصبات کی وجہ سے "کچرا اندر، کچرا باہر" کا منظرنامہ ہے۔   دوسری طرف، میں بحث کرتا ہوں کہ نتائج کے فرق اب بھی الگورتھمک تعصب کی تشکیل کرتے ہیں۔ مجھے یقین ہے کہ ہم اب بھی ماڈل کو ان مقاصد اور رکاوٹوں کے لیے "الزام" لگا سکتے ہیں جنہیں اسے پورا کرنا ہے (حالانکہ ہم انسان انہیں پہلی جگہ پر رکھتے ہیں)۔ جیسا کہ اوپر بیان کیا گیا ہے، تشخیصی میٹرک کے طور پر درستگی کے ساتھ، تاریخی ڈیٹاسیٹس پر بنائے گئے پورے پیشین گوئی/پیش گوئی الگورتھم کا مقصد ممکنہ یا سمجھدار سماجی اصولوں کو تلاش کیے بغیر تاریخ کو دہرانا ہے۔ کیا درستگی کو زیادہ سے زیادہ کرنے کا مقصد خود ایک تعصب ہے؟ - اگر ہم اس شیطانی چکر کو پہچان سکتے ہیں جو سماجی طور پر تیار کی گئی خرافات (کمزور خواتین، لاپرواہ نوجوان، اور زینو فوبیا) کے ذریعے تخلیق کیا گیا ہے اور اس کی تجدید کرتا ہے، ایک ایسا ماڈل جو فعال طور پر کچھ خاص قسم کے سماجی دقیانوسی تصورات کو سیکھتا ہے اور اس کا پرچار کرتا ہے، اس کے تعصب کو یقینی طور پر پکارا جانا چاہیے۔ ! تاہم، ہم ان اہداف کو بہتر بنانے کے لیے ماڈلز کو سخت تار لگاتے ہیں، اور میٹرکس میں موروثی تعصب کو دور کرنے کے لیے، ہم انسان مقاصد میں ترمیم کرنے اور مناسب رکاوٹیں شامل کرنے کے ذمہ دار ہیں۔ مثال کے طور پر، پروگرامنگ اسائنمنٹ میں ہمیں تخفیف کی تکنیک کا سامنا کرنا پڑتا ہے جو ایک مخصوص فیصلہ کی حد کے اندر پیشین گوئیوں کو مسترد کرتی ہے۔ فعال رد کرنے جیسی تکنیکوں کے علاوہ، کیا ہم ایک مقصد کے طور پر پسماندہ گروہوں کی ترقی کو فروغ دینے جیسی رکاوٹیں شامل کر سکتے ہیں؟ ان رکاوٹوں کے بغیر، میں یہ کہوں گا کہ نتائج کے فرق بھی مقصدی تفصیلات کے حصے میں الگورتھمک تعصب کو تشکیل دیتے ہیں۔