Toronto Declaration
ટોરોન્ટો ઘોષણાઃ મશીન લર્નિંગ સિસ્ટમ્સમાં સમાનતા અને બિન-ભેદભાવના અધિકારોનું રક્ષણ એ એક ઘોષણા છે જે મશીન લર્નિંગ પ્રેક્ટિશનર્સ અને સંચાલક સંસ્થાઓ માટે જવાબદાર પ્રથાઓની હિમાયત કરે છે. તે હ્યુમન રાઇટ્સ વોચ અને વિકિમીડિયા ફાઉન્ડેશન સહિતના અન્ય નોંધપાત્ર હસ્તાક્ષરકર્તાઓ સાથે એમ્નેસ્ટી ઇન્ટરનેશનલ અને એક્સેસ નાઉ સહિતના જૂથો દ્વારા બહાર પાડવામાં આવેલું સંયુક્ત નિવેદન છે. તે 16 મે, 2018ના રોજ રાઇટ્સકોન ખાતે પ્રકાશિત કરવામાં આવી હતી. આ ઘોષણા એલ્ગોરિધમિક પૂર્વગ્રહની ચિંતાઓ અને લોકોના જીવનને અસર કરી શકે તેવી એપ્લિકેશનોમાં મશીન લર્નિંગ અને આર્ટિફિશિયલ ઇન્ટેલિજન્સના ઉપયોગથી ઉદ્ભવતા ભેદભાવની સંભાવના પર ધ્યાન કેન્દ્રિત કરે છે, "પોલીસિંગથી લઈને કલ્યાણ પ્રણાલીઓ, આરોગ્યસંભાળની જોગવાઈઓ, ઓનલાઇન પ્રવચન માટેના મંચો". દસ્તાવેજની ગૌણ ચિંતા માહિતીની ગોપનીયતાના ઉલ્લંઘનની સંભાવના છે. આ ઘોષણાનો ધ્યેય "રાજ્યો અને ખાનગી ક્ષેત્ર માટે મૂર્ત અને વ્યવહારુ ધોરણો" ની રૂપરેખા તૈયાર કરવાનો છે. ઘોષણાપત્રમાં એલ્ગોરિધમિક ભેદભાવનો ભોગ બનેલા લોકો માટે વળતર જેવા મૂર્ત ઉકેલોની માંગ કરવામાં આવી છે. ટોરોન્ટો ઘોષણામાં આંતરરાષ્ટ્રીય માનવાધિકાર કાયદો, રાજ્યોની ફરજો, ખાનગી ક્ષેત્રના અભિનેતાઓની જવાબદારીઓ અને અસરકારક ઉપાયનો અધિકાર સંબંધિત છ વિભાગોમાં વિભાજિત 59 લેખોનો સમાવેશ થાય છે. પ્રસ્તાવના દસ્તાવેજની શરૂઆત આ પ્રશ્ન પૂછવાથી થાય છે, "મશીન લર્નિંગ સિસ્ટમની દુનિયામાં, માનવ અધિકારોને નુકસાન પહોંચાડવા માટે કોણ જવાબદારી ઉઠાવશે?" તે દલીલ કરે છે કે તમામ વ્યાવસાયિકો, પછી ભલે તે જાહેર હોય કે ખાનગી ક્ષેત્રમાં, માનવ અધિકારો માટેના જોખમોથી વાકેફ હોવા જોઈએ અને હાલના આંતરરાષ્ટ્રીય કાયદાઓ, ધોરણો અને સિદ્ધાંતોને ધ્યાનમાં રાખીને માનવ અધિકારો સાથે તેમના કાર્યનો સંપર્ક કરવો જોઈએ. આ દસ્તાવેજ માનવ અધિકારોને વ્યાખ્યાયિત કરે છે જેમાં "ગોપનીયતા અને માહિતી સંરક્ષણનો અધિકાર, અભિવ્યક્તિ અને સંગઠનની સ્વતંત્રતાનો અધિકાર, સાંસ્કૃતિક જીવનમાં ભાગીદારી, કાયદા સમક્ષ સમાનતા અને અસરકારક ઉપાયોની પહોંચ" નો સમાવેશ થાય છે; પરંતુ તે જણાવે છે કે ઘોષણા સૌથી વધુ સમાનતા અને બિન-ભેદભાવ સાથે સંબંધિત છે. આંતરરાષ્ટ્રીય માનવાધિકાર કાયદાના માળખાનો ઉપયોગ આંતરરાષ્ટ્રીય માનવાધિકાર કાયદાનું માળખું વિવિધ અધિકારોની ગણતરી કરે છે, ઉલ્લંઘન કરનારાઓને જવાબદાર ઠેરવવા માટેની પદ્ધતિઓ પ્રદાન કરે છે અને ઉલ્લંઘન માટે ઉપાય સુનિશ્ચિત કરે છે. દસ્તાવેજમાં યુનાઇટેડ નેશન્સ હ્યુમન રાઇટ્સ કમિટીની ભેદભાવની વ્યાખ્યાને "કોઈપણ ભેદ, બાકાત, પ્રતિબંધ અથવા પસંદગી તરીકે ટાંકવામાં આવી છે જે જાતિ, રંગ, લિંગ, ભાષા, ધર્મ, રાજકીય અથવા અન્ય અભિપ્રાય, રાષ્ટ્રીય અથવા સામાજિક મૂળ, સંપત્તિ, જન્મ અથવા અન્ય દરજ્જા સહિત કોઈપણ આધાર પર આધારિત છે અને જેનો હેતુ અથવા અસર તમામ વ્યક્તિઓ દ્વારા તમામ અધિકારો અને સ્વતંત્રતાઓની સમાન ધોરણે માન્યતા, આનંદ અથવા કવાયતને નાબૂદ કરવાનો અથવા નબળી પાડવાનો છે". સરકારોએ સક્રિયપણે બંધનકર્તા પગલાં લેવા જોઈએ અને ખાનગી સંસ્થાઓએ ભેદભાવ સામે રક્ષણ આપવા માટે આંતરિક નીતિઓ બનાવવી જોઈએ. પગલાંઓમાં સંવેદનશીલ માહિતી માટે સુરક્ષાનો સમાવેશ થઈ શકે છે, ખાસ કરીને નબળી વસ્તી માટે. ડિઝાઇનમાં ભેદભાવને રોકવા માટે વિવિધ સમુદાયના સહયોગથી સિસ્ટમોની રચના કરવી જોઈએ. રાજ્યોની ફરજોઃ માનવાધિકારની જવાબદારીઓ સરકારો આજે ઘણીવાર ખાનગી સંસ્થાઓના સહયોગથી મશીન લર્નિંગ સિસ્ટમનો ઉપયોગ કરી રહી છે. જ્યારે આવા ત્રીજા પક્ષોને વિકાસનો કરાર કરવામાં આવે છે ત્યારે પણ સરકારો માનવ અધિકારોનું રક્ષણ કરવાની તેમની જવાબદારી જાળવી રાખે છે. અમલીકરણ પહેલાં, અને તે પછી સતત ધોરણે, તેઓએ જોખમો ઓળખવા જોઈએ અને નિયમિત ઓડિટ કરવા જોઈએ, પછી આ જોખમોને ઘટાડવા માટે તમામ જરૂરી પગલાં લેવા જોઈએ. મશીન લર્નિંગ કેવી રીતે અમલમાં મૂકવામાં આવે છે અને તેનો ઉપયોગ કરવામાં આવે છે તે અંગે તેઓ પારદર્શક હોવા જોઈએ, બ્લેક બોક્સ પ્રણાલીઓને ટાળવી જોઈએ, જેના તર્કને સરળતાથી સમજાવી શકાતો નથી. પ્રણાલીઓ વિવિધ આંતરિક સમિતિઓ અને સ્વતંત્ર ન્યાયિક અધિકારીઓની કડક દેખરેખને આધિન હોવી જોઈએ. સરકારોએ નાગરિકોને ખાનગી સંસ્થાઓ દ્વારા થતા ભેદભાવથી પણ રક્ષણ આપવું જોઈએ. દેખરેખ ઉપરાંત, તેઓએ ભેદભાવ સામે બંધનકર્તા કાયદાઓ પસાર કરવા જોઈએ, તેમજ ડેટા સુરક્ષા અને ગોપનીયતા માટે, અને તેઓએ અસરગ્રસ્ત વ્યક્તિઓ માટે ઉપાય માટે અસરકારક માધ્યમો પૂરા પાડવા જોઈએ. રાષ્ટ્રીય અને પ્રાદેશિક સરકારો માટે આંતરરાષ્ટ્રીય કાયદાનું વિસ્તરણ કરવું અને તેને સંદર્ભિત કરવું મહત્વપૂર્ણ છે. ખાનગી ક્ષેત્રના અભિનેતાઓની જવાબદારીઓઃ માનવ અધિકારોની યોગ્ય ખંત ખાનગી સંસ્થાઓ "માનવ અધિકારોની યોગ્ય ખંત" ચલાવવા માટે જવાબદાર છે. સરકારોની જેમ, ખાનગી સંસ્થાઓએ સામાન્ય જોખમોને ધ્યાનમાં લઈને અને "અસરગ્રસ્ત જૂથો, માનવ અધિકારો, સમાનતા અને ભેદભાવ પર કામ કરતી સંસ્થાઓ, તેમજ સ્વતંત્ર માનવ અધિકારો અને મશીન લર્નિંગ નિષ્ણાતો સહિત" હિતધારકોની સલાહ લઈને વિકાસ પહેલાં જોખમોને ઓળખવા જોઈએ. તેઓએ જોખમો ઘટાડે તેવી પ્રણાલીઓની રચના કરવી જોઈએ, નિયમિત ઓડિટ માટે વિષય પ્રણાલીઓ અને ખૂબ ઊંચા જોખમો ધરાવતા પ્રોજેક્ટ્સને છોડી દેવા જોઈએ. તેઓ જ્યાં જરૂરી હોય ત્યાં તકનીકી અમલીકરણની વિગતો સહિત ધારેલા જોખમો વિશે પારદર્શક હોવા જોઈએ અને અસરગ્રસ્ત વ્યક્તિઓ માટે તેમને અસર કરતા કોઈપણ નિર્ણયો પર વિવાદ કરવા માટે એક પદ્ધતિ પ્રદાન કરવી જોઈએ. અસરકારક ઉપાયનો અધિકાર "ન્યાયનો અધિકાર એ આંતરરાષ્ટ્રીય માનવાધિકાર કાયદાનું એક મહત્વપૂર્ણ તત્વ છે". ખાનગી સંસ્થાઓએ અસરગ્રસ્ત વ્યક્તિઓ માટે ઉપાય શોધવા માટે પ્રક્રિયાઓ બનાવવી જોઈએ, અને તેઓએ આ પ્રક્રિયાઓની દેખરેખ કોણ કરશે તેની ભૂમિકા નક્કી કરવી જોઈએ. ન્યાય ક્ષેત્રમાં મશીન લર્નિંગ સિસ્ટમનો ઉપયોગ કરતી વખતે સરકારોએ ખાસ કરીને સાવધ રહેવું જોઈએ. પારદર્શિતા, જવાબદારી અને ઉપાય મદદરૂપ થઈ શકે છે. સંદર્ભો મશીન લર્નિંગ ઇન્ફર્મેશન એથિક્સ 2018 દસ્તાવેજો કમ્પ્યુટિંગ અને સોસાયટી મેનિફેસ્ટોઝ