Toronto Declaration
টরন্টো ঘোষণাঃ মেশিন লার্নিং সিস্টেমে সমতা এবং অ-বৈষম্যের অধিকার রক্ষা করা একটি ঘোষণা যা মেশিন লার্নিং অনুশীলনকারী এবং পরিচালনাকারী সংস্থাগুলির জন্য দায়িত্বশীল অনুশীলনের পক্ষে। এটি হিউম্যান রাইটস ওয়াচ এবং দ্য উইকিমিডিয়া ফাউন্ডেশন সহ অন্যান্য উল্লেখযোগ্য স্বাক্ষরকারীদের সাথে অ্যামনেস্টি ইন্টারন্যাশনাল এবং অ্যাক্সেস নাও সহ গোষ্ঠীগুলির দ্বারা জারি করা একটি যৌথ বিবৃতি। এটি 2018 সালের 16ই মে রাইটসকনে প্রকাশিত হয়েছিল। এই ঘোষণাপত্রে অ্যালগরিদমিক পক্ষপাতের উদ্বেগ এবং প্রয়োগগুলিতে মেশিন লার্নিং এবং কৃত্রিম বুদ্ধিমত্তার ব্যবহার থেকে উদ্ভূত বৈষম্যের সম্ভাবনার উপর দৃষ্টি নিবদ্ধ করা হয়েছে যা মানুষের জীবনকে প্রভাবিত করতে পারে, "পুলিশিং থেকে শুরু করে কল্যাণমূলক ব্যবস্থা, স্বাস্থ্যসেবা ব্যবস্থা, অনলাইন আলোচনার জন্য প্ল্যাটফর্ম"। নথির একটি গৌণ উদ্বেগের বিষয় হল তথ্যের গোপনীয়তা লঙ্ঘনের সম্ভাবনা। এই ঘোষণার লক্ষ্য হল "রাজ্য এবং বেসরকারী ক্ষেত্রের জন্য বাস্তব এবং কার্যকর মান"-এর রূপরেখা তৈরি করা। ঘোষণাপত্রে অ্যালগরিদমিক বৈষম্যের শিকারদের জন্য ক্ষতিপূরণের মতো বাস্তব সমাধানের আহ্বান জানানো হয়েছে। বিষয়বস্তু টরন্টো ঘোষণাপত্রে 59টি অনুচ্ছেদ রয়েছে, যা আন্তর্জাতিক মানবাধিকার আইন, রাষ্ট্রের কর্তব্য, বেসরকারী খাতের অভিনেতাদের দায়িত্ব এবং কার্যকর প্রতিকারের অধিকার সম্পর্কিত ছয়টি বিভাগে বিভক্ত। প্রস্তাবনা নথিটি এই প্রশ্নটি জিজ্ঞাসা করে শুরু হয়, "মেশিন লার্নিং সিস্টেমের জগতে, মানবাধিকারের ক্ষতির জন্য কে দায়বদ্ধ হবে?" এটি যুক্তি দেয় যে সমস্ত অনুশীলনকারীদের, সরকারী বা বেসরকারী ক্ষেত্রে, মানবাধিকারের ঝুঁকি সম্পর্কে সচেতন হওয়া উচিত এবং মানবাধিকারের কথা মাথায় রেখে তাদের কাজের দিকে নজর দেওয়া উচিত-বিদ্যমান আন্তর্জাতিক আইন, মান এবং নীতি সম্পর্কে সচেতন। নথিতে মানবাধিকারের সংজ্ঞা দেওয়া হয়েছে "গোপনীয়তা ও তথ্য সুরক্ষার অধিকার, মতপ্রকাশ ও সংগঠনের স্বাধীনতার অধিকার, সাংস্কৃতিক জীবনে অংশগ্রহণ, আইনের সামনে সমতা এবং কার্যকর প্রতিকারের সুযোগ" অন্তর্ভুক্ত করার জন্য; তবে এতে বলা হয়েছে যে ঘোষণাটি সমতা এবং বৈষম্যহীনতার সাথে সবচেয়ে বেশি সম্পর্কিত। আন্তর্জাতিক মানবাধিকার আইনের কাঠামো ব্যবহার আন্তর্জাতিক মানবাধিকার আইনের কাঠামো বিভিন্ন অধিকার গণনা করে, লঙ্ঘনকারীদের জবাবদিহিতার ব্যবস্থা করে এবং লঙ্ঘনের প্রতিকার নিশ্চিত করে। নথিতে জাতিসংঘের মানবাধিকার কমিটির বৈষম্যের সংজ্ঞাকে "জাতি, বর্ণ, লিঙ্গ, ভাষা, ধর্ম, রাজনৈতিক বা অন্যান্য মতামত, জাতীয় বা সামাজিক উৎস, সম্পত্তি, জন্ম বা অন্যান্য মর্যাদার উপর ভিত্তি করে যে কোনও পার্থক্য, বর্জন, সীমাবদ্ধতা বা পছন্দ হিসাবে উল্লেখ করা হয়েছে এবং যার উদ্দেশ্য বা প্রভাব রয়েছে সমস্ত ব্যক্তির দ্বারা সমস্ত অধিকার এবং স্বাধীনতার সমান ভিত্তিতে স্বীকৃতি, উপভোগ বা অনুশীলনকে বাতিল বা ক্ষতিগ্রস্থ করা"। সরকারগুলিকে সক্রিয়ভাবে বাধ্যতামূলক ব্যবস্থা গ্রহণ করতে হবে এবং বৈষম্যের বিরুদ্ধে সুরক্ষার জন্য বেসরকারী সংস্থাগুলিকে অভ্যন্তরীণ নীতি তৈরি করতে হবে। পদক্ষেপগুলির মধ্যে সংবেদনশীল তথ্যের জন্য সুরক্ষা অন্তর্ভুক্ত থাকতে পারে, বিশেষ করে দুর্বল জনগোষ্ঠীর জন্য। নকশায় বৈষম্য রোধ করার জন্য বিভিন্ন সম্প্রদায়ের সহযোগিতায় ব্যবস্থা তৈরি করা উচিত। রাষ্ট্রের কর্তব্যঃ মানবাধিকারের বাধ্যবাধকতা সরকারগুলি আজ প্রায়শই বেসরকারী সংস্থাগুলির সহযোগিতায় মেশিন লার্নিং সিস্টেম স্থাপন করছে। এমনকি যখন এই ধরনের তৃতীয় পক্ষের সাথে উন্নয়ন চুক্তি করা হয়, তখনও সরকার মানবাধিকার রক্ষার জন্য তাদের বাধ্যবাধকতা বজায় রাখে। বাস্তবায়নের আগে এবং তার পরে চলমান ভিত্তিতে, তাদের ঝুঁকিগুলি চিহ্নিত করা উচিত এবং নিয়মিত নিরীক্ষা পরিচালনা করা উচিত, তারপরে এই ঝুঁকিগুলি হ্রাস করার জন্য সমস্ত প্রয়োজনীয় ব্যবস্থা গ্রহণ করা উচিত। মেশিন লার্নিং কীভাবে প্রয়োগ করা হয় এবং ব্যবহার করা হয় সে সম্পর্কে তাদের স্বচ্ছ হওয়া উচিত, ব্ল্যাক বক্স সিস্টেমগুলি এড়িয়ে চলা উচিত যার যুক্তি সহজেই ব্যাখ্যা করা যায় না। বিভিন্ন অভ্যন্তরীণ কমিটি এবং স্বাধীন বিচার বিভাগীয় কর্তৃপক্ষের কাছ থেকে ব্যবস্থাগুলির কঠোর তদারকির বিষয় হওয়া উচিত। বেসরকারী সংস্থাগুলির দ্বারা বৈষম্য থেকে সরকারগুলিকে অবশ্যই নাগরিকদের রক্ষা করতে হবে। তদারকির পাশাপাশি, তাদের বৈষম্যের বিরুদ্ধে বাধ্যতামূলক আইন পাস করা উচিত, পাশাপাশি তথ্য সুরক্ষা এবং গোপনীয়তার জন্য, এবং তাদের প্রভাবিত ব্যক্তিদের প্রতিকারের কার্যকর উপায় প্রদান করা উচিত। জাতীয় ও আঞ্চলিক সরকারগুলির জন্য আন্তর্জাতিক আইনকে সম্প্রসারিত ও প্রাসঙ্গিক করা গুরুত্বপূর্ণ। বেসরকারী খাতের অভিনেতাদের দায়িত্বঃ মানবাধিকারের যথাযথ অধ্যবসায় বেসরকারী সংস্থাগুলি "মানবাধিকারের যথাযথ অধ্যবসায়" পরিচালনার জন্য দায়বদ্ধ। সরকারের মতো, বেসরকারী সংস্থাগুলিকেও সাধারণ ঝুঁকি বিবেচনা করে এবং "প্রভাবিত গোষ্ঠী, মানবাধিকার, সমতা ও বৈষম্যের পাশাপাশি স্বাধীন মানবাধিকার এবং মেশিন লার্নিং বিশেষজ্ঞদের উপর কাজ করে এমন সংস্থাগুলি সহ" অংশীদারদের সাথে পরামর্শ করে উন্নয়নের আগে ঝুঁকিগুলি চিহ্নিত করা উচিত। তাদের এমন ব্যবস্থার নকশা করা উচিত যা ঝুঁকি হ্রাস করে, নিয়মিত অডিটের বিষয় ব্যবস্থা এবং অত্যধিক ঝুঁকি বহনকারী প্রকল্পগুলি ত্যাগ করা উচিত। যেখানে প্রয়োজন সেখানে প্রযুক্তিগত বাস্তবায়নের বিশদ সহ অনুমিত ঝুঁকি সম্পর্কে তাদের স্বচ্ছ হওয়া উচিত এবং প্রভাবিত ব্যক্তিদের প্রভাবিত করে এমন যে কোনও সিদ্ধান্ত নিয়ে বিতর্ক করার জন্য একটি ব্যবস্থা প্রদান করা উচিত। কার্যকর প্রতিকারের অধিকার "ন্যায়বিচারের অধিকার আন্তর্জাতিক মানবাধিকার আইনের একটি গুরুত্বপূর্ণ উপাদান"। বেসরকারী সংস্থাগুলির উচিত ক্ষতিগ্রস্ত ব্যক্তিদের প্রতিকার খোঁজার জন্য প্রক্রিয়া তৈরি করা এবং এই প্রক্রিয়াগুলি কে তদারকি করবে তার জন্য তাদের ভূমিকা নির্ধারণ করা উচিত। বিচার ক্ষেত্রে মেশিন লার্নিং ব্যবস্থা স্থাপনের সময় সরকারগুলিকে বিশেষভাবে সতর্ক থাকতে হবে। স্বচ্ছতা, জবাবদিহিতা এবং প্রতিকার সাহায্য করতে পারে। রেফারেন্স মেশিন লার্নিং ইনফরমেশন এথিক্স 2018 নথি কম্পিউটিং এবং সমাজ ইশতেহার