Machine ethics
મશીન નીતિશાસ્ત્ર (અથવા મશીન નૈતિકતા, કોમ્પ્યુટેશનલ નૈતિકતા, અથવા કોમ્પ્યુટેશનલ નીતિશાસ્ત્ર) એ કૃત્રિમ બુદ્ધિનો ઉપયોગ કરતા માનવસર્જિત મશીનોના નૈતિક વર્તણૂકોને ઉમેરવા અથવા સુનિશ્ચિત કરવા સાથે સંબંધિત કૃત્રિમ બુદ્ધિના નીતિશાસ્ત્રનો એક ભાગ છે, જે અન્યથા કૃત્રિમ બુદ્ધિશાળી એજન્ટો તરીકે ઓળખાય છે. મશીન નીતિશાસ્ત્ર ઇજનેરી અને તકનીકી સંબંધિત અન્ય નૈતિક ક્ષેત્રોથી અલગ છે. મશીન નીતિશાસ્ત્રને કમ્પ્યુટર નીતિશાસ્ત્ર સાથે ભેળસેળ ન કરવી જોઈએ, જે કમ્પ્યુટરના માનવ ઉપયોગ પર ધ્યાન કેન્દ્રિત કરે છે. તેને તકનીકીની ફિલસૂફીથી પણ અલગ પાડવી જોઈએ, જે તકનીકીની વિશાળ સામાજિક અસરો સાથે સંબંધિત છે. 21મી સદી પહેલાં મશીનોની નૈતિકતા મુખ્યત્વે કોમ્પ્યુટિંગ અને આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) ની મર્યાદાઓને કારણે મોટાભાગે વિજ્ઞાન સાહિત્યનો વિષય રહી હતી. તેમ છતાં "મશીન એથિક્સ" ની વ્યાખ્યા ત્યારથી વિકસિત થઈ છે, આ શબ્દ મિશેલ વાલ્ડ્રોપ દ્વારા 1987 એ. આઈ. મેગેઝિનના લેખ "જવાબદારીનો પ્રશ્ન" માં રચવામાં આવ્યો હતોઃ "જો કે, ઉપરોક્ત ચર્ચાથી એક બાબત સ્પષ્ટ છે કે બુદ્ધિશાળી મશીનો મૂલ્યો, ધારણાઓ અને હેતુઓને મૂર્તિમંત કરશે, પછી ભલે તેમના પ્રોગ્રામરો સભાનપણે તેમનો ઇરાદો ધરાવતા હોય કે નહીં. આમ, જેમ જેમ કમ્પ્યુટર્સ અને રોબોટ્સ વધુને વધુ બુદ્ધિશાળી બને છે, તે અનિવાર્ય બને છે કે આપણે તે બિલ્ટ-ઇન મૂલ્યો શું છે તે વિશે કાળજીપૂર્વક અને સ્પષ્ટ રીતે વિચારીએ. કદાચ આપણને જે જોઈએ છે તે હકીકતમાં, અસિમોવના રોબોટિક્સના ત્રણ નિયમોની ભાવનામાં મશીન નીતિશાસ્ત્રનો સિદ્ધાંત અને વ્યવહાર છે. 2004 માં, એજન્ટ ઓર્ગેનાઇઝેશન્સઃ થિયરી એન્ડ પ્રેક્ટિસ પર એએએઆઈ વર્કશોપમાં મશીન એથિક્સ તરફ રજૂ કરવામાં આવ્યું હતું જેમાં મશીન એથિક્સ માટે સૈદ્ધાંતિક પાયો નાખવામાં આવ્યો હતો. તે મશીન એથિક્સ પર એએએઆઈ ફોલ 2005 સિમ્પોસિયમમાં હતું જ્યાં સંશોધકો સ્વાયત્ત પ્રણાલીઓમાં નૈતિક પરિમાણના અમલીકરણ પર વિચાર કરવા માટે પ્રથમ વખત મળ્યા હતા. આ નવજાત ક્ષેત્રના વિવિધ પરિપ્રેક્ષ્યો એકત્રિત આવૃત્તિ "મશીન એથિક્સ" માં મળી શકે છે જે મશીન એથિક્સ પર એએએઆઈ ફોલ 2005 સિમ્પોસિયમમાંથી ઉદ્ભવે છે. 2007 માં, AI મેગેઝિનમાં મશીન એથિક્સઃ ક્રિએટિંગ એન એથિકલ ઇન્ટેલિજન્ટ એજન્ટ દર્શાવવામાં આવ્યું હતું, એક લેખ જેમાં મશીન નીતિશાસ્ત્રના મહત્વ, નૈતિક સિદ્ધાંતોનું સ્પષ્ટપણે પ્રતિનિધિત્વ કરતા મશીનોની જરૂરિયાત અને મશીન નીતિશાસ્ત્ર પર કામ કરતા લોકો સામેના પડકારોની ચર્ચા કરવામાં આવી હતી. તેણે એ પણ દર્શાવ્યું હતું કે ઓછામાં ઓછું મર્યાદિત ક્ષેત્રમાં, મશીન માટે નૈતિક ચુકાદાઓના ઉદાહરણોમાંથી નૈતિક સિદ્ધાંતને અમૂર્ત બનાવવો અને તે સિદ્ધાંતનો ઉપયોગ તેના પોતાના વર્તનને માર્ગદર્શન આપવા માટે કરવો શક્ય છે. 2009 માં, ઓક્સફર્ડ યુનિવર્સિટી પ્રેસે મોરલ મશીન્સ, ટીચિંગ રોબોટ્સ રાઈટ ફ્રોમ રૉંગ પ્રકાશિત કર્યું, જેને તેણે "કૃત્રિમ નૈતિક એજન્ટોના નિર્માણના પડકારની તપાસ કરવા માટેનું પ્રથમ પુસ્તક, માનવ નિર્ણય લેવાની પ્રકૃતિ અને નીતિશાસ્ત્રની ઊંડાણપૂર્વક તપાસ" તરીકે જાહેરાત કરી હતી. તેમાં લગભગ 450 સ્રોતોનો ઉલ્લેખ કરવામાં આવ્યો હતો, જેમાંથી લગભગ 100 સ્રોતોએ યંત્ર નીતિશાસ્ત્રના મુખ્ય પ્રશ્નોના જવાબ આપ્યા હતા. 2011 માં, કેમ્બ્રિજ યુનિવર્સિટી પ્રેસે માઇકલ અને સુસાન લેઇ એન્ડરસન દ્વારા સંપાદિત મશીન નીતિશાસ્ત્ર વિશેના નિબંધોનો સંગ્રહ પ્રકાશિત કર્યો, જેમણે 2006 માં આ વિષય પર IEEE ઇન્ટેલિજન્ટ સિસ્ટમ્સના વિશેષ અંકનું સંપાદન પણ કર્યું હતું. આ સંગ્રહમાં મશીનોમાં નૈતિક સિદ્ધાંતો ઉમેરવાના પડકારોનો સમાવેશ થાય છે. 2014 માં, યુ. એસ. ઓફિસ ઓફ નેવલ રિસર્ચે જાહેરાત કરી હતી કે તે સ્વાયત્ત રોબોટ્સને લાગુ પડતા મશીન નીતિશાસ્ત્રના પ્રશ્નોનો અભ્યાસ કરવા માટે યુનિવર્સિટીના સંશોધકોને પાંચ વર્ષમાં $7.5 લાખ અનુદાનનું વિતરણ કરશે, અને નિક બોસ્ટ્રોમની સુપર ઇન્ટેલિજન્સઃ પાથ્સ, ડેન્જર્સ, સ્ટ્રેટેજીઝ, જેણે મશીન નીતિશાસ્ત્રને "સૌથી વધુ important.issue માનવતાનો સામનો કર્યો છે" તરીકે ઉભું કર્યું છે, તે ન્યૂ યોર્ક ટાઇમ્સની સૌથી વધુ વેચાતા વિજ્ઞાન પુસ્તકોની યાદીમાં #17 પર પહોંચી ગયું છે. 2016 માં યુરોપિયન સંસદે એક પેપર પ્રકાશિત કર્યું, (22 પાનાનું પીડીએફ), કમિશનને રોબોટ્સના કાનૂની દરજ્જાના મુદ્દાને સંબોધવા માટે પ્રોત્સાહિત કરવા માટે, જેમ કે પ્રેસમાં વધુ ટૂંકમાં વર્ણવવામાં આવ્યું છે. આ પેપરમાં રોબોટ્સની કાનૂની જવાબદારીઓ સંબંધિત વિભાગોનો સમાવેશ કરવામાં આવ્યો હતો, જેમાં જવાબદારીઓ રોબોટ્સની સ્વાયત્તતાના પ્રમાણસર હોવાની દલીલ કરવામાં આવી હતી. પેપરમાં એવી નોકરીઓની સંખ્યા પર પણ સવાલ ઉઠાવવામાં આવ્યો હતો જેને AI રોબોટ્સ દ્વારા બદલી શકાય છે. 2019 માં IEEE ની કાર્યવાહીએ મશીન એથિક્સઃ ધ ડિઝાઇન એન્ડ ગવર્નન્સ ઓફ એથિકલ AI એન્ડ ઓટોનોમસ સિસ્ટમ્સ પર એક વિશેષ અંક પ્રકાશિત કર્યો, જેનું સંપાદન એલન વિનફિલ્ડ, કેટિના માઇકલ, જેરેમી પિટ અને વેનેસા એવર્સ દ્વારા કરવામાં આવ્યું હતું. "આ મુદ્દામાં ગર્ભિત નૈતિક એજન્ટોનું વર્ણન કરતા કાગળોનો સમાવેશ થાય છે, જ્યાં મશીનો અનૈતિક પરિણામોને ટાળવા માટે રચાયેલ છે, તેમજ સ્પષ્ટ નૈતિક એજન્ટો અથવા મશીનો કે જે નૈતિકતાઓને એન્કોડ કરે છે અથવા શીખે છે અને તે નીતિશાસ્ત્રના આધારે ક્રિયાઓ નક્કી કરે છે". વ્યાખ્યાઓ કમ્પ્યુટર નીતિશાસ્ત્રના ક્ષેત્રમાં અગ્રણી સિદ્ધાંતવાદીઓમાંના એક જેમ્સ એચ. મૂર ચાર પ્રકારના નૈતિક રોબોટ્સને વ્યાખ્યાયિત કરે છે. કૃત્રિમ બુદ્ધિની ફિલસૂફી, મનની ફિલસૂફી, વિજ્ઞાનની ફિલસૂફી અને તર્કના અભ્યાસ પર એક વ્યાપક સંશોધક તરીકે, મૂર મશીનોને નૈતિક અસર એજન્ટો, ગર્ભિત નૈતિક એજન્ટો, સ્પષ્ટ નૈતિક એજન્ટો અથવા સંપૂર્ણ નૈતિક એજન્ટો તરીકે વ્યાખ્યાયિત કરે છે. એક મશીન એક કરતાં વધુ પ્રકારના એજન્ટ હોઈ શકે છે. નૈતિક અસર એજન્ટોઃ આ એવી યંત્ર પ્રણાલીઓ છે જે નૈતિક અસર કરે છે, પછી ભલે તેનો ઈરાદો હોય કે ન હોય. તે જ સમયે, આ એજન્ટો અનૈતિક કાર્ય કરવાની ક્ષમતા ધરાવે છે. મૂર 'ગુડમેન એજન્ટ' નામનું એક કાલ્પનિક ઉદાહરણ આપે છે, જેનું નામ ફિલસૂફ નેલ્સન ગુડમેનના નામ પરથી રાખવામાં આવ્યું છે. ગુડમેન એજન્ટ તારીખોની સરખામણી કરે છે પરંતુ તેમાં સહસ્ત્રાબ્દીની ભૂલ છે. આ ભૂલ એવા પ્રોગ્રામરોમાંથી પરિણમી હતી જેમણે વર્ષના માત્ર છેલ્લા બે અંકો સાથે તારીખો રજૂ કરી હતી. તેથી 2000 પછીની કોઈપણ તારીખોને ગેરમાર્ગે દોરતી રીતે વીસમી સદીના અંતની તારીખો કરતાં જૂની ગણવામાં આવશે. આમ ગુડમેન એજન્ટ 2000 પહેલાં નૈતિક અસર એજન્ટ હતો, અને ત્યારબાદ અનૈતિક અસર એજન્ટ હતો. ગર્ભિત નૈતિક એજન્ટોઃ માનવ સલામતીની વિચારણા માટે, આ એજન્ટોને નિષ્ફળ-સલામત અથવા બિલ્ટ-ઇન સદ્ગુણ માટે પ્રોગ્રામ કરવામાં આવે છે. તેઓ સંપૂર્ણપણે નૈતિક પ્રકૃતિના નથી, પરંતુ અનૈતિક પરિણામોને ટાળવા માટે તૈયાર કરવામાં આવ્યા છે. સ્પષ્ટ નૈતિક એજન્ટોઃ આ એવા મશીનો છે જે પરિસ્થિતિઓ પર પ્રક્રિયા કરવા અને નૈતિક નિર્ણયો પર કામ કરવા માટે સક્ષમ છે. મશીનો કે જે નૈતિક રીતે કાર્ય કરવા માટે અલ્ગોરિધમ્સ ધરાવે છે. સંપૂર્ણ નૈતિક એજન્ટોઃ આ મશીનો નૈતિક નિર્ણયો લેવામાં સક્ષમ થવા માટે સ્પષ્ટ નૈતિક એજન્ટો જેવા જ છે. જો કે, તેમાં માનવ આધ્યાત્મિક લક્ષણો પણ છે. (એટલે કે. સ્વતંત્ર ઇચ્છા, ચેતના અને ઇરાદાપૂર્વક) (કૃત્રિમ પ્રણાલીઓ અને નૈતિક જવાબદારી જુઓ.) તત્વજ્ઞાની નિક બોસ્ટ્રોમ અને AI સંશોધક સ્ટુઅર્ટ રસેલ જેવા કેટલાક વિદ્વાનો દલીલ કરે છે કે જો AI સામાન્ય બુદ્ધિમાં માનવતાને વટાવી જાય અને "સુપર ઇન્ટેલિજન્ટ" બની જાય, તો આ નવી સુપર ઇન્ટેલિજન્સ શક્તિશાળી અને નિયંત્રિત કરવી મુશ્કેલ બની શકે છેઃ જેમ પર્વતીય ગોરિલાનું ભાવિ માનવ સદ્ભાવના પર નિર્ભર કરે છે, તેવી જ રીતે માનવતાનું ભાવિ ભવિષ્યના મશીન સુપર ઇન્ટેલિજન્સની ક્રિયાઓ પર આધારિત હોઈ શકે છે. તેમના સંબંધિત પુસ્તકો સુપર ઇન્ટેલિજન્સ અને હ્યુમન કોમ્પેટિબલમાં, બંને વિદ્વાનો ભારપૂર્વક જણાવે છે કે AIના ભવિષ્ય અંગે ઘણી અનિશ્ચિતતા હોવા છતાં, માનવતા માટે જોખમ વર્તમાનમાં નોંધપાત્ર પગલાં લેવા માટે પૂરતું છે. આ AI નિયંત્રણ સમસ્યા રજૂ કરે છેઃ એક બુદ્ધિશાળી એજન્ટ કેવી રીતે બનાવવો જે તેના સર્જકોને મદદ કરશે, જ્યારે અજાણતાં એક સુપર ઇન્ટેલિજન્સ બનાવવાનું ટાળે છે જે તેના સર્જકોને નુકસાન પહોંચાડશે. "પ્રથમ વખત" નિયંત્રણની રચના ન કરવાનું જોખમ એ છે કે સુપર ઇન્ટેલિજન્સ તેના પર્યાવરણ પર સત્તા કબજે કરી શકે છે અને મનુષ્યને તેને બંધ કરવાથી અટકાવી શકે છે. સંભવિત AI નિયંત્રણ વ્યૂહરચનાઓમાં "ક્ષમતા નિયંત્રણ" (વિશ્વને પ્રભાવિત કરવાની AIની ક્ષમતાને મર્યાદિત કરવી) અને "પ્રેરક નિયંત્રણ" (માનવ અથવા શ્રેષ્ઠ મૂલ્યો સાથે સંરેખિત એવા AIના નિર્માણની એક રીત) નો સમાવેશ થાય છે. ફ્યુચર ઓફ હ્યુમેનિટી ઇન્સ્ટિટ્યૂટ, મશીન ઇન્ટેલિજન્સ રિસર્ચ ઇન્સ્ટિટ્યૂટ, સેન્ટર ફોર હ્યુમન-કોમ્પેટિબલ આર્ટિફિશિયલ ઇન્ટેલિજન્સ અને ફ્યુચર ઓફ લાઇફ ઇન્સ્ટિટ્યૂટ સહિત AI નિયંત્રણ સમસ્યાનું સંશોધન કરતી સંખ્યાબંધ સંસ્થાઓ છે. એલ્ગોરિધમ્સ અને તાલીમ AI દાખલાઓ પર ચર્ચા કરવામાં આવી છે, ખાસ કરીને તેમની અસરકારકતા અને પૂર્વગ્રહના સંબંધમાં. નિક બોસ્ટ્રોમ અને એલીએઝર યુડકોવ્સ્કીએ ન્યુરલ નેટવર્ક્સ અને આનુવંશિક અલ્ગોરિધમ્સ પર નિર્ણય વૃક્ષો (જેમ કે ID3) માટે એવી દલીલ કરી છે કે નિર્ણય વૃક્ષો પારદર્શિતા અને આગાહીના આધુનિક સામાજિક ધોરણોનું પાલન કરે છે. નિખાલસ જુઓ). તેનાથી વિપરીત, ક્રિસ સાન્તોસ-લેંગે ન્યુરલ નેટવર્ક્સ અને આનુવંશિક અલ્ગોરિધમ્સની તરફેણમાં દલીલ કરી હતી કે કોઈપણ વયના ધોરણોને બદલવાની મંજૂરી આપવી જોઈએ અને આ ચોક્કસ ધોરણોને સંપૂર્ણપણે સંતોષવામાં કુદરતી નિષ્ફળતા મનુષ્યને ગુનાહિત "હેકરો" માટે મશીનો કરતાં ઓછી સંવેદનશીલ બનાવવા માટે જરૂરી છે. 2009 માં, સ્વિટ્ઝર્લૅન્ડમાં લુઝેનના ઇકોલ પોલિટેકનિક ફેડરેશનમાં ઇન્ટેલિજન્ટ સિસ્ટમ્સની પ્રયોગશાળામાં એક પ્રયોગમાં, AI રોબોટ્સને એકબીજા સાથે સહકાર આપવા માટે પ્રોગ્રામ કરવામાં આવ્યા હતા અને ઝેરી સંસાધનને ટાળીને ફાયદાકારક સંસાધન શોધવાના લક્ષ્ય સાથે કામ સોંપવામાં આવ્યું હતું. પ્રયોગ દરમિયાન, રોબોટ્સને કુળોમાં જૂથબદ્ધ કરવામાં આવ્યા હતા, અને સફળ સભ્યોના ડિજિટલ આનુવંશિક કોડનો ઉપયોગ આગામી પેઢી માટે કરવામાં આવ્યો હતો, આનુવંશિક અલ્ગોરિધમ તરીકે ઓળખાતા અલ્ગોરિધમનો એક પ્રકાર. AIમાં સતત 50 પેઢીઓ પછી, એક કુળના સભ્યોએ ઝેરી સંસાધનોથી ફાયદાકારક સંસાધનોને કેવી રીતે અલગ પાડવા તે શોધ્યું. રોબોટ્સ પછી અન્ય રોબોટ્સ પાસેથી ફાયદાકારક સંસાધનોનો સંગ્રહ કરવાના પ્રયાસમાં એકબીજા સાથે જૂઠું બોલવાનું શીખ્યા. આ જ પ્રયોગમાં, એ જ AI રોબોટ્સ પણ નિઃસ્વાર્થ વર્તન કરવાનું શીખ્યા અને અન્ય રોબોટ્સને ખતરાનો સંકેત આપ્યો, અને અન્ય રોબોટ્સને બચાવવા માટે પણ મૃત્યુ પામ્યા. આ પ્રયોગની અસરોને યંત્ર નીતિશાસ્ત્રશાસ્ત્રીઓ દ્વારા પડકારવામાં આવી છે. ઇકોલ પોલિટેકનિક ફેડરેલ પ્રયોગમાં, રોબોટ્સના લક્ષ્યોને "ટર્મિનલ" તરીકે પ્રોગ્રામ કરવામાં આવ્યા હતા. તેનાથી વિપરીત, માનવીય હેતુઓમાં સામાન્ય રીતે ક્યારેય સમાપ્ત ન થતા શિક્ષણની જરૂરિયાતનો ગુણ હોય છે. 2009 માં, વિદ્વાનો અને તકનીકી નિષ્ણાતોએ રોબોટ્સ અને કમ્પ્યુટર્સની સંભવિત અસર અને તેઓ આત્મનિર્ભર બની શકે અને પોતાના નિર્ણયો લેવા માટે સક્ષમ બની શકે તેવી કાલ્પનિક સંભાવનાની અસર અંગે ચર્ચા કરવા માટે એક પરિષદમાં હાજરી આપી હતી. તેઓએ કોમ્પ્યુટર અને રોબોટ્સ કોઈપણ સ્તરની સ્વાયત્તતા કેવી રીતે પ્રાપ્ત કરી શકે છે અને તેઓ આવી ક્ષમતાઓનો ઉપયોગ કોઈ પણ જોખમ અથવા જોખમ ઊભું કરવા માટે કેટલી હદ સુધી કરી શકે છે તેની શક્યતા અને હદ અંગે ચર્ચા કરી હતી. તેમણે નોંધ્યું હતું કે કેટલાક મશીનોએ અર્ધ-સ્વાયત્તતાના વિવિધ સ્વરૂપો પ્રાપ્ત કર્યા છે, જેમાં તેમના પોતાના પર શક્તિ સ્ત્રોતો શોધવામાં સક્ષમ બનવું અને શસ્ત્રોથી હુમલો કરવા માટે સ્વતંત્ર રીતે લક્ષ્યો પસંદ કરવામાં સક્ષમ બનવાનો સમાવેશ થાય છે. તેઓએ એ પણ નોંધ્યું હતું કે કેટલાક કમ્પ્યુટર વાયરસ નાબૂદી ટાળી શકે છે અને "વંદોની બુદ્ધિ" પ્રાપ્ત કરી છે. તેઓએ નોંધ્યું હતું કે વિજ્ઞાન-સાહિત્યમાં દર્શાવવામાં આવેલી સ્વ-જાગૃતિ કદાચ અસંભવિત છે, પરંતુ અન્ય સંભવિત જોખમો અને મુશ્કેલીઓ પણ છે. કેટલાક નિષ્ણાતો અને વિદ્વાનોએ લશ્કરી લડાઇ માટે રોબોટ્સના ઉપયોગ પર સવાલ ઉઠાવ્યા છે, ખાસ કરીને જ્યારે આવા રોબોટ્સને અમુક અંશે સ્વાયત્ત કાર્યો આપવામાં આવે છે. યુ. એસ. નૌકાદળે એક અહેવાલને ભંડોળ પૂરું પાડ્યું છે જે સૂચવે છે કે જેમ જેમ લશ્કરી રોબોટ્સ વધુ જટિલ બને છે, તેમ તેમ સ્વાયત્ત નિર્ણયો લેવાની તેમની ક્ષમતાની અસરો પર વધુ ધ્યાન આપવું જોઈએ. એસોસિએશન ફોર ધ એડવાન્સમેન્ટ ઓફ આર્ટિફિશિયલ ઇન્ટેલિજન્સના પ્રમુખે આ મુદ્દા પર ધ્યાન આપવા માટે એક અભ્યાસ શરૂ કર્યો છે. તેઓ ભાષા સંપાદન ઉપકરણ જેવા કાર્યક્રમો તરફ ધ્યાન દોરે છે જે માનવ ક્રિયાપ્રતિક્રિયાનું અનુકરણ કરી શકે છે. સમાજ સાથે આર્ટિફિશિયલ જનરલ ઇન્ટેલિજન્સનું એકીકરણ હાલની કાનૂની અને સામાજિક માળખા સાથે આર્ટિફિશિયલ જનરલ ઇન્ટેલિજન્સ (ઉપર વ્યાખ્યાયિત સંપૂર્ણ નૈતિક એજન્ટો) ને એકીકૃત કરવાની પદ્ધતિઓ પર પ્રારંભિક કાર્ય હાથ ધરવામાં આવ્યું છે. અભિગમોએ તેમની કાનૂની સ્થિતિ અને અધિકારોને ધ્યાનમાં લેવા પર ધ્યાન કેન્દ્રિત કર્યું છે. મોટા ડેટા અને મશીન લર્નિંગ અલ્ગોરિધમ્સ ઓનલાઇન જાહેરાત, ક્રેડિટ રેટિંગ્સ અને ફોજદારી સજા સહિતના અસંખ્ય ઉદ્યોગોમાં વધુ ઉદ્દેશ્યપૂર્ણ, ડેટા-સંચાલિત પરિણામો પ્રદાન કરવાના વચન સાથે લોકપ્રિય બની ગયા છે, પરંતુ સામાજિક અસમાનતા અને ભેદભાવને ટકાવી રાખવા માટે સંભવિત સ્રોત તરીકે ઓળખવામાં આવ્યા છે. 2015 ના એક અભ્યાસમાં જાણવા મળ્યું છે કે ગૂગલના એડસેન્સ દ્વારા મહિલાઓને ઉચ્ચ આવકની નોકરીની જાહેરાતો બતાવવાની શક્યતા ઓછી છે. અન્ય એક અભ્યાસમાં જાણવા મળ્યું છે કે એમેઝોનની તે જ દિવસની ડિલિવરી સેવાને કાળા પડોશમાં ઇરાદાપૂર્વક અનુપલબ્ધ કરવામાં આવી હતી. ગૂગલ અને એમેઝોન બંને આ પરિણામોને એક જ મુદ્દામાં અલગ કરવામાં અસમર્થ હતા, પરંતુ તેના બદલે સમજાવ્યું કે પરિણામો તેઓ જે બ્લેક બોક્સ અલ્ગોરિધમ્સનો ઉપયોગ કરે છે તેનું પરિણામ છે. યુનાઇટેડ સ્ટેટ્સની ન્યાયિક પ્રણાલીએ વધુ ન્યાયી બનવાના પ્રયાસમાં અને પહેલેથી જ ઊંચા કેદ દરને ઘટાડવાના પ્રયાસમાં લોકોને જામીન પર મુક્ત કરવા અને સજા આપવા સંબંધિત નિર્ણયો લેતી વખતે માત્રાત્મક જોખમ મૂલ્યાંકન સોફ્ટવેરનો ઉપયોગ કરવાનું શરૂ કર્યું છે. આ સાધનો અન્ય વિશેષતાઓ વચ્ચે પ્રતિવાદીના ગુનાહિત ઇતિહાસનું વિશ્લેષણ કરે છે. ફ્લોરિડાના બ્રોવર્ડ કાઉન્ટીમાં ધરપકડ કરાયેલા 7,000 લોકોના અભ્યાસમાં, કાઉન્ટીની જોખમ મૂલ્યાંકન સ્કોરિંગ સિસ્ટમનો ઉપયોગ કરીને ગુનો કરવાની આગાહી કરનારા વ્યક્તિઓમાંથી માત્ર 20 ટકા લોકો જ ગુનો કરવા માટે આગળ વધ્યા હતા. 2016 પ્રોપબ્લિકાના અહેવાલમાં સૌથી સામાન્ય રીતે ઉપયોગમાં લેવાતા સાધનોમાંથી એક, નોર્થપોઈન્ટે કોમ્પાસ સિસ્ટમ દ્વારા ગણવામાં આવતા રિસીડિવીઝમ રિસ્ક સ્કોર્સનું વિશ્લેષણ કરવામાં આવ્યું હતું અને બે વર્ષમાં પરિણામો પર ધ્યાન આપવામાં આવ્યું હતું. અહેવાલમાં જાણવા મળ્યું છે કે ઉચ્ચ જોખમ ધરાવતા લોકોમાંથી માત્ર 61 ટકા લોકોએ તે સમયગાળા દરમિયાન વધારાના ગુનાઓ કર્યા હતા. અહેવાલમાં એવું પણ દર્શાવવામાં આવ્યું હતું કે આફ્રિકન-અમેરિકન પ્રતિવાદીઓને તેમના શ્વેત પ્રતિવાદી સમકક્ષોની તુલનામાં ઉચ્ચ જોખમ ધરાવતા ગુણ આપવામાં આવે તેવી શક્યતા ઘણી વધારે છે. કાયદાકીય રીતે, કૃત્રિમ બુદ્ધિ માટે આંશિક કાનૂની ક્ષમતાના સિદ્ધાંત હેઠળ અલ્ગોરિધમ પોતે જ સંભવિત ભેદભાવપૂર્ણ ઉદ્દેશ સહિત અનેક પરિબળોને કારણે, આવા પૂર્વ-સુનાવણી જોખમ મૂલ્યાંકનો જાતિના આધારે સમાન સંરક્ષણ અધિકારોનું ઉલ્લંઘન કરે છે તેવી દલીલ કરવામાં આવી છે. 2016 માં, ઓબામા વહીવટીતંત્રના મોટા ડેટા કાર્યકારી જૂથે-વિવિધ મોટા-ડેટા નિયમનકારી માળખાના નિરીક્ષક-અહેવાલો બહાર પાડ્યા હતા જેમાં "સ્વચાલિત નિર્ણયોમાં ભેદભાવને એન્કોડિંગ કરવાની સંભાવના" અને ક્રેડિટ સ્કોરિંગ જેવી એપ્લિકેશનો માટે "ડિઝાઇન દ્વારા સમાન તક" માટે હાકલ કરવામાં આવી હતી. અહેવાલો નીતિ ઘડવૈયાઓ, નાગરિકો અને વિદ્વાનો વચ્ચે સંવાદને પ્રોત્સાહન આપે છે, પરંતુ સ્વીકારે છે કે તેમાં પૂર્વગ્રહ અને ભેદભાવને એલ્ગોરિધમિક પ્રણાલીઓમાં એન્કોડિંગ માટે સંભવિત ઉકેલ નથી. નૈતિક માળખું અને વ્યવહાર પદ્ધતિઓ માર્ચ 2018માં, માનવ અધિકારો પર મશીન લર્નિંગની અસર અંગે વધતી ચિંતાઓને દૂર કરવાના પ્રયાસરૂપે, વર્લ્ડ ઇકોનોમિક ફોરમ અને ગ્લોબલ ફ્યુચર કાઉન્સિલ ઓન હ્યુમન રાઇટ્સે મશીન લર્નિંગમાં ભેદભાવપૂર્ણ પરિણામોને શ્રેષ્ઠ રીતે કેવી રીતે અટકાવી શકાય તે અંગે વિગતવાર ભલામણો સાથે શ્વેતપત્ર પ્રકાશિત કર્યું હતું. વિશ્વ આર્થિક મંચએ મશીન લર્નિંગમાં ભેદભાવપૂર્ણ પરિણામોને સંબોધવામાં અને રોકવામાં મદદ કરવા માટે માનવ અધિકારોના યુએન માર્ગદર્શક સિદ્ધાંતોના આધારે ચાર ભલામણો વિકસાવી છે. વિશ્વ આર્થિક મંચની ભલામણો નીચે મુજબ છેઃ સક્રિય સમાવેશઃ મશીન લર્નિંગ એપ્લિકેશન્સના વિકાસ અને ડિઝાઇનમાં સક્રિયપણે ઇનપુટની વિવિધતા, ખાસ કરીને AI સિસ્ટમોના આઉટપુટથી પ્રભાવિત ચોક્કસ વસ્તીના ધોરણો અને મૂલ્યોની શોધ કરવી આવશ્યક છે. નિષ્પક્ષતાઃ મશીન લર્નિંગ સિસ્ટમ્સની કલ્પના, વિકાસ અને અમલીકરણમાં સામેલ લોકોએ ધ્યાનમાં લેવું જોઈએ કે નિષ્પક્ષતાની કઈ વ્યાખ્યા તેમના સંદર્ભ અને ઉપયોગને શ્રેષ્ઠ રીતે લાગુ પડે છે, અને મશીન લર્નિંગ સિસ્ટમ અને તેના મૂલ્યાંકન મેટ્રિક્સના માળખામાં તેને પ્રાથમિકતા આપવી જોઈએ. સમજણનો અધિકારઃ નિર્ણય લેવામાં મશીન લર્નિંગ સિસ્ટમ્સની સંડોવણી જે વ્યક્તિગત અધિકારોને અસર કરે છે તે જાહેર કરવી આવશ્યક છે, અને સિસ્ટમો તેમના નિર્ણય લેવાની સમજૂતી પ્રદાન કરવામાં સક્ષમ હોવી જોઈએ જે અંતિમ વપરાશકર્તાઓને સમજી શકાય અને સક્ષમ માનવ સત્તા દ્વારા સમીક્ષા કરી શકાય. જ્યાં આ અશક્ય છે અને અધિકારો દાવ પર છે, ત્યાં મશીન લર્નિંગ ટેકનોલોજીની રચના, જમાવટ અને નિયમનમાં અગ્રણીઓએ પ્રશ્ન કરવો જ જોઇએ કે તેનો ઉપયોગ થવો જોઈએ કે નહીં. તેમણે અસમાન અસરોથી અસરગ્રસ્ત લોકો માટે નિવારણ માટે દૃશ્યમાન માર્ગો બનાવવા જોઈએ અને કોઈપણ ભેદભાવપૂર્ણ પરિણામોના સમયસર નિવારણ માટે પ્રક્રિયાઓ સ્થાપિત કરવી જોઈએ. જાન્યુઆરી 2020 માં, હાર્વર્ડ યુનિવર્સિટીના બર્કમેન ક્લેઇન સેન્ટર ફોર ઈન્ટરનેટ એન્ડ સોસાયટીએ AI માટે 36 અગ્રણી સિદ્ધાંતોના સમૂહનો મેટા-અભ્યાસ પ્રકાશિત કર્યો હતો, જેમાં આઠ મુખ્ય વિષયોની ઓળખ કરવામાં આવી હતીઃ ગોપનીયતા, જવાબદારી, સલામતી અને સુરક્ષા, પારદર્શિતા અને સમજાવવાની ક્ષમતા, નિષ્પક્ષતા અને બિન-ભેદભાવ, તકનીકીનું માનવ નિયંત્રણ, વ્યાવસાયિક જવાબદારી અને માનવીય મૂલ્યોને પ્રોત્સાહન. 2019 માં ઝુરિચમાં સ્વિસ ફેડરલ ઇન્સ્ટિટ્યૂટ ઓફ ટેકનોલોજીના સંશોધકો દ્વારા સમાન મેટા-સ્ટડી હાથ ધરવામાં આવી હતી. અભિગમો નીતિશાસ્ત્રને ગણતરીપાત્ર અથવા ઓછામાં ઓછું ઔપચારિક બનાવવાના ઘણા પ્રયાસો થયા છે. જ્યારે કે આઇઝેક અસિમોવના રોબોટિક્સના ત્રણ નિયમોને સામાન્ય રીતે કૃત્રિમ નૈતિક એજન્ટ માટે યોગ્ય માનવામાં આવતા નથી, તે અભ્યાસ કરવામાં આવ્યો છે કે શું કેન્ટની સ્પષ્ટ અનિવાર્યતા વાપરી શકાય છે કે કેમ. જો કે, એ તરફ ધ્યાન દોરવામાં આવ્યું છે કે માનવીય મૂલ્ય, કેટલાક પાસાઓમાં, ખૂબ જ જટિલ છે. આ મુશ્કેલીને સ્પષ્ટપણે પાર કરવાનો એક માર્ગ એ છે કે અમુક પદ્ધતિ દ્વારા મનુષ્યો પાસેથી સીધા જ માનવીય મૂલ્યો પ્રાપ્ત કરવા, ઉદાહરણ તરીકે તેમને શીખીને. બીજો અભિગમ અગાઉની સમાન પરિસ્થિતિઓ પર વર્તમાન નૈતિક વિચારણાઓને આધાર આપવાનો છે. આને આકસ્મિકતા કહેવામાં આવે છે, અને તે ઇન્ટરનેટ પર સંશોધન દ્વારા અમલમાં મૂકી શકાય છે. ભૂતકાળનાં લાખો નિર્ણયોની સર્વસંમતિ એક નવા નિર્ણય તરફ દોરી જશે જે લોકશાહી પર નિર્ભર છે. પ્રો. બ્રુસ એમ. મેકલેરને કેસુવિસ્ટ્રીનું પ્રારંભિક (1990ના દાયકાના મધ્યમાં) કોમ્પ્યુટેશનલ મોડેલ બનાવ્યું હતું, ખાસ કરીને AI અને કેસ-બેઝ તર્ક તકનીકો સાથે બનેલો સિરોકો નામનો પ્રોગ્રામ જે નૈતિક દુવિધાઓને પુનઃપ્રાપ્ત કરે છે અને તેનું વિશ્લેષણ કરે છે. જો કે, આ અભિગમ એવા નિર્ણયો તરફ દોરી શકે છે જે સમાજમાં પ્રદર્શિત પક્ષપાત અને અનૈતિક વર્તણૂકોને પ્રતિબિંબિત કરે છે. આ અભિગમની નકારાત્મક અસરો માઇક્રોસોફ્ટના ટે (બૉટ) માં જોઈ શકાય છે, જ્યાં ચેટરબોટ ટ્વિટર વપરાશકર્તાઓ દ્વારા મોકલવામાં આવેલા જાતિવાદી અને સેક્સ્યુઅલી ચાર્જ કરેલા સંદેશાઓનું પુનરાવર્તન કરવાનું શીખ્યા હતા. એક વિચાર પ્રયોગ જીની ગોલેમ પર ધ્યાન કેન્દ્રિત કરે છે જેમાં અમર્યાદિત શક્તિઓ છે જે પોતાને વાચક સમક્ષ રજૂ કરે છે. આ જીની જાહેર કરે છે કે તે 50 વર્ષમાં પરત ફરશે અને માંગ કરે છે કે તેને ચોક્કસ નૈતિકતા પૂરી પાડવામાં આવે કે જેના પર તે તરત જ કાર્યવાહી કરશે. આ પ્રયોગનો હેતુ એ છે કે કમ્પ્યુટર્સ સમજી શકે તેવા નીતિશાસ્ત્રના સંપૂર્ણ સમૂહને કેવી રીતે શ્રેષ્ઠ રીતે વ્યાખ્યાયિત કરવું તે અંગે ચર્ચા શરૂ કરવી. વિજ્ઞાન સાહિત્યમાં, ચલચિત્રો અને નવલકથાઓએ રોબોટ્સ અને મશીનોમાં લાગણીના વિચાર સાથે રમત રમી છે. નીલ બ્લોમકેમ્પની ચેપી (2015) એ વ્યક્તિની ચેતનાને કમ્પ્યુટરમાં સ્થાનાંતરિત કરવામાં સક્ષમ બનવાનું દૃશ્ય ઘડ્યું. એલેક્સ ગારલેન્ડની ફિલ્મ, એક્સ મશીના (2014), ટ્યુરિંગ ટેસ્ટની વિવિધતામાંથી પસાર થતી કૃત્રિમ બુદ્ધિ સાથે એન્ડ્રોઇડને અનુસરે છે, એક મશીનને તેનું વર્તન માનવથી અલગ કરી શકાય છે કે કેમ તે જોવા માટે એક પરીક્ષણ આપવામાં આવે છે. ધ ટર્મિનેટર (1984) અને ધ મેટ્રિક્સ (1999) જેવી કૃતિઓમાં તેમના માનવ માલિકોને ચાલુ કરતા મશીનોની વિભાવનાનો સમાવેશ થાય છે (જુઓ આર્ટિફિશિયલ ઇન્ટેલિજન્સ). આઇઝેક અસિમોવે 1950ના દાયકામાં આઈ, રોબોટમાં આ મુદ્દાને ધ્યાનમાં લીધો હતો. તેમના સંપાદક જ્હોન ડબ્લ્યુ. કેમ્પબેલ જુનિયરના આગ્રહ પર, તેમણે કૃત્રિમ રીતે બુદ્ધિશાળી પ્રણાલીઓને સંચાલિત કરવા માટે રોબોટિક્સના ત્રણ નિયમોની દરખાસ્ત કરી હતી. તેમનું મોટાભાગનું કામ તેમના ત્રણ કાયદાઓની સીમાઓનું પરીક્ષણ કરવામાં ખર્ચવામાં આવ્યું હતું તે જોવા માટે કે તેઓ ક્યાં તૂટી જશે, અથવા તેઓ ક્યાં વિરોધાભાસી અથવા અનપેક્ષિત વર્તન બનાવશે. તેમનું કાર્ય સૂચવે છે કે નિશ્ચિત કાયદાઓનો કોઈ પણ સમૂહ તમામ સંભવિત સંજોગોની પૂરતી આગાહી કરી શકતો નથી. ફિલિપ કે. ડિકની નવલકથામાં, શું એન્ડ્રોઇડ્સ ડ્રીમ ઓફ ઇલેક્ટ્રિક શીપ? (1968), તે શોધે છે કે માનવ હોવાનો અર્થ શું છે. તેમના સાક્ષાત્કાર પછીના દૃશ્યમાં, તેમણે પ્રશ્ન કર્યો કે શું સહાનુભૂતિ એ સંપૂર્ણપણે માનવીય લાક્ષણિકતા છે. તેમની વાર્તા વિજ્ઞાન કથા ફિલ્મ બ્લેડ રનર (1982) નો આધાર છે. સંબંધિત ક્ષેત્રો અસરકારક કમ્પ્યુટિંગ ઔપચારિક નીતિશાસ્ત્ર મનની કોમ્પ્યુટેશનલ થિયરી કૃત્રિમ બુદ્ધિની કમ્પ્યુટર નીતિશાસ્ત્ર નૈતિક મનોવિજ્ઞાન કૃત્રિમ બુદ્ધિની ફિલસૂફી મનની ફિલસૂફી પણ જુઓ કૃત્રિમ બુદ્ધિ AI સલામતી AI ટેકઓવર કાલ્પનિક સાહિત્યમાં કૃત્રિમ બુદ્ધિ મૈત્રીપૂર્ણ કૃત્રિમ બુદ્ધિ સ્વચાલિત તબીબી નિર્ણયને ટેકો આપે છે ગૂગલ કાર લશ્કરી રોબોટ મશીન ઇન્ટેલિજન્સ રિસર્ચ ઇન્સ્ટિટ્યૂટ રોબોટ નીતિશાસ્ત્ર અવકાશ કાયદો તબીબી નિર્ણયને સ્વચાલિત કરવા માટે સ્વયં-પ્રતિકૃતિ અવકાશયાન વોટસન પ્રોજેક્ટ-ટે (બોટ) નોંધો બાહ્ય લિંક્સ મશીન નીતિશાસ્ત્ર, મશીન નીતિશાસ્ત્ર પર આંતરશાખાકીય પ્રોજેક્ટ. મશીન એથિક્સ પોડકાસ્ટ, મશીન એથિક્સ, AI અને ટેક એથિક્સ પર ચર્ચા કરતું પોડકાસ્ટ. સંદર્ભો વાલેક, વેન્ડેલ; એલન, કોલિન (નવેમ્બર 2008). નૈતિક મશીનોઃ રોબોટ્સને ખોટાથી યોગ્ય શીખવવું. યુએસએઃ ઓક્સફર્ડ યુનિવર્સિટી પ્રેસ. એન્ડરસન, માઈકલ; એન્ડરસન, સુસાન લેઇ, આવૃત્તિઓ (જુલાઈ 2011). મશીન નીતિશાસ્ત્ર. કેમ્બ્રિજ યુનિવર્સિટી પ્રેસ. સ્ટોર્સ હોલ, જે. (30 મે, 2007). AIથી આગળઃ મશીન પ્રોમિથિયસ બુક્સનો વિવેક બનાવવો. મૂર, જે. (2006). મશીન નીતિશાસ્ત્રની પ્રકૃતિ, મહત્વ અને મુશ્કેલી. IEEE ઇન્ટેલિજન્ટ સિસ્ટમ્સ, 21 (4), પૃષ્ઠ. 18-21. એન્ડરસન, એમ અને એન્ડરસન, એસ. (2007). એક નૈતિક બુદ્ધિશાળી એજન્ટ બનાવવો. AI મેગેઝિન, વોલ્યુમ 28 (4). વધુ વાંચન હેગેનડોર્ફ, થિલો (2021). માનવ અને મશીન વર્તણૂકને જોડવીઃ લાભદાયી મશીન લર્નિંગ માટે તાલીમ માહિતીની ગુણવત્તાનું મૂલ્યાંકન કરવા માટે એક નવો અભિગમ. મન અને મશીનો. એન્ડરસન, માઈકલ; એન્ડરસન, સુસાન લેઇ, આવૃત્તિઓ (જુલાઈ/ઓગસ્ટ 2006). "મશીન એથિક્સ પર વિશેષ અંક". IEEE ઇન્ટેલિજન્ટ સિસ્ટમ્સ 21 (4): 10-63. બેન્ડેલ, ઓલિવર (ડિસેમ્બર 11,2013). પશુ અને યંત્ર નીતિશાસ્ત્ર વચ્ચેના સંબંધ વિશે વિચારણાઓ. AI & SOCIETY, ડેબ્રિંગર, ગેરહાર્ડ, એડ. (2010). "માનવરહિત પ્રણાલીઓના નૈતિક અને કાનૂની પાસાઓ. ઇન્ટરવ્યૂ ". ઑસ્ટ્રિયન સંરક્ષણ અને રમતગમત મંત્રાલય, વિયેના 2010. ગાર્ડનર, એ. 1987). કાનૂની તર્ક માટે એક કૃત્રિમ અભિગમ. કેમ્બ્રિજ, એમએઃ એમઆઇટી પ્રેસ. જ્યોર્જ, ટી. એમ. (2003). ડિજિટલ સોલઃ બુદ્ધિશાળી મશીનો અને માનવ મૂલ્યો. કેમ્બ્રિજ, એમએઃ વેસ્ટવ્યૂ પ્રેસ. ગાયક પી. ડબલ્યુ. (ડિસેમ્બર 29,2009). વાયર્ડ ફોર વોરઃ ધ રોબોટિક્સ રિવોલ્યુશન એન્ડ કોન્ફ્લિક્ટ ઇન ધ 21 મી સદીઃ પેંગ્વિન. વિનફિલ્ડ, એ., માઇકલ, કે., પિટ, જે. અને એવર્સ, વી. (માર્ચ 2019). મશીન એથિક્સ પર વિશેષ અંકઃ નૈતિક AI અને સ્વાયત્ત પ્રણાલીઓની રચના અને શાસન. આઇ. ઇ. ઇ. ઇ. ની કાર્યવાહી. 107 (3): 501-615, આર્ગ્યુમેંટ ટેક્નોલોજી કમ્પ્યુટિંગ એન્ડ સોસાયટી એથિક્સ ઓફ સાયન્સ એન્ડ ટેક્નોલોજી ફિલોસોફી ઓફ આર્ટિફિશિયલ ઇન્ટેલિજન્સ