Toronto Declaration
ٹورنٹو اعلامیہ: مشین لرننگ سسٹم میں مساوات اور غیر امتیازی سلوک کے حقوق کا تحفظ ایک اعلامیہ ہے جو مشین لرننگ پریکٹیشنرز اور گورننگ باڈیز کے ذمہ دارانہ طریقوں کی وکالت کرتا ہے۔ یہ ایک مشترکہ بیان ہے جسے ایمنسٹی انٹرنیشنل اور ایکسیس ناؤ سمیت گروپوں نے ہیومن رائٹس واچ اور دی ویکیمیڈیا فاؤنڈیشن سمیت دیگر قابل ذکر دستخط کنندگان کے ساتھ جاری کیا ہے۔ یہ رائٹسکون میں 16 مئی 2018 کو شائع ہوا تھا۔ اعلامیے میں الگورتھمک تعصب کے خدشات اور امتیازی سلوک کے امکانات پر توجہ دی گئی ہے جو ایپلی کیشنز میں مشین لرننگ اور مصنوعی ذہانت کے استعمال سے پیدا ہوتے ہیں جو لوگوں کی زندگیوں کو متاثر کر سکتے ہیں، "پولیسنگ سے لے کر فلاحی نظاموں تک، صحت کی دیکھ بھال کی فراہمی تک، آن لائن گفتگو کے پلیٹ فارم تک"۔ دستاویز کی ایک ثانوی تشویش معلومات کی رازداری کی خلاف ورزیوں کا امکان ہے۔ اعلامیے کا مقصد "ریاستوں اور نجی شعبے کے لیے ٹھوس اور قابل عمل معیارات" کا خاکہ پیش کرنا ہے۔ اعلامیے میں الگورتھمک امتیازی سلوک کے متاثرین کے لیے معاوضے جیسے ٹھوس حل کا مطالبہ کیا گیا ہے۔ ٹورنٹو اعلامیہ 59 مضامین پر مشتمل ہے، جنہیں چھ حصوں میں تقسیم کیا گیا ہے، جو بین الاقوامی انسانی حقوق کے قانون، ریاستوں کے فرائض، نجی شعبے کے اداکاروں کی ذمہ داریوں اور موثر علاج کے حق سے متعلق ہیں۔ تمہید دستاویز کا آغاز اس سوال سے ہوتا ہے، "مشین لرننگ سسٹم کی دنیا میں، انسانی حقوق کو نقصان پہنچانے کا ذمہ دار کون ہوگا؟" اس میں استدلال کیا گیا ہے کہ تمام پریکٹیشنرز، چاہے وہ سرکاری یا نجی شعبے میں ہوں، کو انسانی حقوق کے خطرات سے آگاہ ہونا چاہیے اور موجودہ بین الاقوامی قوانین، معیارات اور اصولوں سے آگاہ ہو کر انسانی حقوق کو ذہن میں رکھتے ہوئے اپنے کام سے رجوع کرنا چاہیے۔ دستاویز میں انسانی حقوق کی وضاحت کی گئی ہے کہ "رازداری اور ڈیٹا کے تحفظ کا حق، اظہار رائے اور انجمن کی آزادی کا حق، ثقافتی زندگی میں شرکت، قانون کے سامنے مساوات، اور موثر علاج تک رسائی" ؛ لیکن اس میں کہا گیا ہے کہ اعلامیہ کا سب سے زیادہ تعلق مساوات اور غیر امتیازی سلوک سے ہے۔ بین الاقوامی انسانی حقوق کے قانون کے فریم ورک کا استعمال کرتے ہوئے بین الاقوامی انسانی حقوق کے قانون کا فریم ورک مختلف حقوق کی گنتی کرتا ہے، خلاف ورزی کرنے والوں کو جوابدہ ٹھہرانے کے لیے میکانزم فراہم کرتا ہے، اور خلاف ورزی کے لیے علاج کو یقینی بناتا ہے۔ دستاویز میں اقوام متحدہ کی انسانی حقوق کمیٹی کی امتیازی سلوک کی تعریف کا حوالہ دیتے ہوئے کہا گیا ہے کہ "کوئی بھی امتیاز، اخراج، پابندی یا ترجیح جو کسی بھی بنیاد پر [بشمول] نسل، رنگ، جنس، زبان، مذہب، سیاسی یا دیگر رائے، قومی یا سماجی اصل، جائیداد، پیدائش یا دیگر حیثیت پر مبنی ہو، اور جس کا مقصد یا اثر تمام افراد کی طرف سے تمام حقوق اور آزادیوں کی مساوی بنیادوں پر پہچان، لطف یا مشق کو کالعدم یا خراب کرنا ہو۔" حکومتوں کو فعال طور پر پابند اقدامات کرنے چاہئیں، اور نجی اداروں کو امتیازی سلوک سے تحفظ کے لیے داخلی پالیسیاں بنانی چاہئیں۔ اقدامات میں حساس ڈیٹا کے تحفظات شامل ہو سکتے ہیں، خاص طور پر کمزور آبادیوں کے لیے۔ ڈیزائن میں امتیازی سلوک کو روکنے کے لیے متنوع کمیونٹی کے تعاون سے نظام تیار کیے جانے چاہئیں۔ ریاستوں کے فرائض: انسانی حقوق کی ذمہ داریاں آج کی حکومتیں اکثر نجی اداروں کے تعاون سے مشین لرننگ سسٹم کو تعینات کر رہی ہیں۔ یہاں تک کہ جب ترقی کا معاہدہ اس طرح کے تیسرے فریق سے کیا جاتا ہے، تب بھی حکومتیں انسانی حقوق کے تحفظ کے لیے اپنی ذمہ داری برقرار رکھتی ہیں۔ نفاذ سے پہلے، اور اس کے بعد مسلسل بنیادوں پر، انہیں خطرات کی نشاندہی کرنی چاہیے اور باقاعدہ آڈٹ کرنا چاہیے، پھر ان خطرات کو کم کرنے کے لیے تمام ضروری اقدامات کرنے چاہئیں۔ انہیں اس بارے میں شفاف ہونا چاہیے کہ مشین لرننگ کو کس طرح نافذ کیا جاتا ہے اور استعمال کیا جاتا ہے، بلیک باکس سسٹم سے گریز کرنا چاہیے جن کی منطق کو آسانی سے سمجھایا نہیں جا سکتا۔ نظام کو متنوع داخلی کمیٹیوں اور آزاد عدالتی حکام کی سخت نگرانی کے تابع ہونا چاہیے۔ حکومتوں کو شہریوں کو نجی اداروں کے امتیازی سلوک سے بھی بچانا چاہیے۔ نگرانی کے علاوہ، انہیں امتیازی سلوک کے ساتھ ساتھ ڈیٹا کے تحفظ اور رازداری کے لیے پابند قوانین منظور کرنے چاہئیں، اور انہیں متاثرہ افراد کے علاج کے لیے موثر ذرائع فراہم کرنے چاہئیں۔ قومی اور علاقائی حکومتوں کے لیے یہ ضروری ہے کہ وہ بین الاقوامی قانون کو وسعت دیں اور سیاق و سباق کے مطابق بنائیں۔ نجی شعبے کے اداکاروں کی ذمہ داریاں: انسانی حقوق کی وجہ سے مستعدی نجی ادارے "انسانی حقوق کی وجہ سے مستعدی" کے لیے ذمہ دار ہیں۔ حکومتوں کی طرح، نجی اداروں کو مشترکہ خطرات پر غور کرکے اور اسٹیک ہولڈرز سے مشورہ کرکے ترقی سے پہلے خطرات کی نشاندہی کرنی چاہیے، بشمول متاثرہ گروپ، تنظیمیں جو انسانی حقوق، مساوات اور امتیازی سلوک کے ساتھ ساتھ آزاد انسانی حقوق اور مشین لرننگ کے ماہرین پر کام کرتی ہیں۔ انہیں ایسے نظام تیار کرنے چاہئیں جو خطرات کو کم کریں، موضوع کے نظام کو باقاعدہ آڈٹ میں شامل کریں، اور ایسے منصوبوں کو ترک کریں جن میں بہت زیادہ خطرات ہوں۔ انہیں فرض شدہ خطرات کے بارے میں شفاف ہونا چاہیے، بشمول جہاں ضروری ہو تکنیکی نفاذ کی تفصیلات، اور متاثرہ افراد کو ان پر اثر انداز ہونے والے کسی بھی فیصلے پر اختلاف کرنے کے لیے ایک طریقہ کار فراہم کرنا چاہیے۔ ایک موثر علاج کا حق "انصاف کا حق بین الاقوامی انسانی حقوق کے قانون کا ایک اہم عنصر ہے"۔ نجی اداروں کو متاثرہ افراد کے لیے علاج تلاش کرنے کے لیے عمل تخلیق کرنا چاہیے، اور انہیں کرداروں کو نامزد کرنا چاہیے جو ان عمل کی نگرانی کریں گے۔ انصاف کے شعبے میں مشین لرننگ سسٹم کو تعینات کرتے وقت حکومتوں کو خاص طور پر محتاط رہنا چاہیے۔ شفافیت، جوابدہی اور علاج مدد کر سکتے ہیں۔ حوالہ جات مشین لرننگ انفارمیشن اخلاقیات 2018 دستاویزات کمپیوٹنگ اینڈ سوسائٹی مینی فیسٹوس