Machine ethics
मशीन नैतिकता (या मशीन नैतिकता, कम्प्यूटेशनल नैतिकता, या कम्प्यूटेशनल नैतिकता) कृत्रिम बुद्धिमत्ता की नैतिकता का एक हिस्सा है जो मानव निर्मित मशीनों के नैतिक व्यवहार को जोड़ने या सुनिश्चित करने से संबंधित है जो कृत्रिम बुद्धिमत्ता का उपयोग करते हैं, अन्यथा कृत्रिम बुद्धिमान एजेंटों के रूप में जाना जाता है। मशीन नैतिकता इंजीनियरिंग और प्रौद्योगिकी से संबंधित अन्य नैतिक क्षेत्रों से अलग है। मशीन नैतिकता को कंप्यूटर नैतिकता के साथ भ्रमित नहीं किया जाना चाहिए, जो कंप्यूटर के मानव उपयोग पर केंद्रित है। इसे प्रौद्योगिकी के दर्शन से भी अलग किया जाना चाहिए, जो प्रौद्योगिकी के विशाल सामाजिक प्रभावों से संबंधित है। 21वीं सदी से पहले मशीनों की नैतिकता काफी हद तक विज्ञान कथा साहित्य का विषय रही थी, मुख्य रूप से कंप्यूटिंग और कृत्रिम बुद्धिमत्ता (ए. आई.) की सीमाओं के कारण। यद्यपि "मशीन एथिक्स" की परिभाषा तब से विकसित हुई है, यह शब्द मिशेल वाल्ड्रॉप द्वारा 1987 ए. आई. पत्रिका के लेख "ए क्वेश्चन ऑफ रेस्पोंसिबिलिटी" में गढ़ा गया थाः "हालांकि, उपरोक्त चर्चा से एक बात स्पष्ट है कि बुद्धिमान मशीनें मूल्यों, धारणाओं और उद्देश्यों को मूर्त रूप देंगी, चाहे उनके प्रोग्रामर जानबूझकर उनका इरादा रखते हों या नहीं। इस प्रकार, जैसे-जैसे कंप्यूटर और रोबोट अधिक से अधिक बुद्धिमान होते जाते हैं, यह अनिवार्य हो जाता है कि हम ध्यान से और स्पष्ट रूप से सोचें कि वे अंतर्निहित मूल्य क्या हैं। शायद हमें वास्तव में, असिमोव के रोबोटिक्स के तीन नियमों की भावना में, मशीन नैतिकता के एक सिद्धांत और अभ्यास की आवश्यकता है। 2004 में, टुवर्ड्स मशीन एथिक्स को एएएआई कार्यशाला में एजेंट ऑर्गेनाइजेशनः थ्योरी एंड प्रैक्टिस पर प्रस्तुत किया गया था जिसमें मशीन एथिक्स के लिए सैद्धांतिक नींव रखी गई थी। यह मशीन नैतिकता पर ए. ए. ए. आई. फॉल 2005 संगोष्ठी में था जहाँ शोधकर्ता पहली बार स्वायत्त प्रणालियों में एक नैतिक आयाम के कार्यान्वयन पर विचार करने के लिए मिले थे। इस नवजात क्षेत्र के विभिन्न दृष्टिकोण एकत्र संस्करण "मशीन एथिक्स" में पाए जा सकते हैं जो मशीन एथिक्स पर एएएआई फॉल 2005 सिम्पोजियम से उत्पन्न होता है। 2007 में, ए. आई. पत्रिका ने मशीन एथिक्सः क्रिएटिंग एन एथिकल इंटेलीजेंट एजेंट को चित्रित किया, एक लेख जिसमें मशीन नैतिकता के महत्व, नैतिक सिद्धांतों का स्पष्ट रूप से प्रतिनिधित्व करने वाली मशीनों की आवश्यकता और मशीन नैतिकता पर काम करने वालों के सामने आने वाली चुनौतियों पर चर्चा की गई। इसने यह भी प्रदर्शित किया कि कम से कम एक सीमित क्षेत्र में, एक मशीन के लिए नैतिक निर्णयों के उदाहरणों से एक नैतिक सिद्धांत को अमूर्त करना और उस सिद्धांत का उपयोग अपने स्वयं के व्यवहार का मार्गदर्शन करने के लिए करना संभव है। 2009 में, ऑक्सफोर्ड यूनिवर्सिटी प्रेस ने मोरल मशीन्स, टीचिंग रोबोट्स राइट फ्रॉम रॉन्ग प्रकाशित किया, जिसे उसने "मानव निर्णय लेने और नैतिकता की प्रकृति की गहराई से जांच करते हुए, कृत्रिम नैतिक एजेंटों के निर्माण की चुनौती की जांच करने वाली पहली पुस्तक" के रूप में विज्ञापित किया। इसने कुछ 450 स्रोतों का हवाला दिया, जिनमें से लगभग 100 ने मशीन नैतिकता के प्रमुख प्रश्नों को संबोधित किया। 2011 में, कैम्ब्रिज यूनिवर्सिटी प्रेस ने माइकल और सुसान लेह एंडरसन द्वारा संपादित मशीन नैतिकता के बारे में निबंधों का एक संग्रह प्रकाशित किया, जिन्होंने 2006 में इस विषय पर आई. ई. ई. ई. बुद्धिमान प्रणालियों के एक विशेष अंक का भी संपादन किया। संग्रह में मशीनों में नैतिक सिद्धांतों को जोड़ने की चुनौतियों को शामिल किया गया है। 2014 में, यूएस ऑफिस ऑफ नेवल रिसर्च ने घोषणा की कि वह स्वायत्त रोबोटों पर लागू मशीन नैतिकता के प्रश्नों का अध्ययन करने के लिए विश्वविद्यालय के शोधकर्ताओं को पांच वर्षों में $7.5 लाख का अनुदान वितरित करेगा, और निक बोस्ट्रोम की सुपर इंटेलिजेंसः पाथ, डेंजर्स, स्ट्रैटेजीज, जिसने मशीन नैतिकता को "सबसे अधिक important.issue मानवता का सामना किया है" के रूप में उठाया, न्यूयॉर्क टाइम्स की सबसे अधिक बिकने वाली विज्ञान पुस्तकों की सूची में #17 तक पहुंच गया। 2016 में यूरोपीय संसद ने एक पेपर प्रकाशित किया, (22-पृष्ठ पीडीएफ), आयोग को रोबोट की कानूनी स्थिति के मुद्दे को संबोधित करने के लिए प्रोत्साहित करने के लिए, जैसा कि प्रेस में अधिक संक्षेप में वर्णित किया गया है। इस पेपर में रोबोट की कानूनी देनदारियों के बारे में खंड शामिल थे, जिसमें देनदारियों को रोबोट की स्वायत्तता के स्तर के समानुपाती होने के रूप में तर्क दिया गया था। पेपर ने उन नौकरियों की संख्या पर भी सवाल उठाया जिन्हें ए. आई. रोबोट द्वारा प्रतिस्थापित किया जा सकता है। 2019 में प्रोसीडिंग्स ऑफ द आई. ई. ई. ई. ने मशीन एथिक्सः द डिजाइन एंड गवर्नेंस ऑफ एथिकल ए. आई. एंड ऑटोनॉमस सिस्टम्स पर एक विशेष अंक प्रकाशित किया, जिसे एलन विनफील्ड, कैटिना माइकल, जेरेमी पिट और वैनेसा एवर्स द्वारा संपादित किया गया था। "इस मुद्दे में निहित नैतिक एजेंटों का वर्णन करने वाले पेपर शामिल हैं, जहां मशीनों को अनैतिक परिणामों से बचने के लिए डिज़ाइन किया गया है, साथ ही स्पष्ट नैतिक एजेंट, या मशीनें जो या तो नैतिकता को कूटबद्ध करती हैं या सीखती हैं और उन नैतिकता के आधार पर कार्यों को निर्धारित करती हैं।" परिभाषाएँ जेम्स एच. मूर, कंप्यूटर नैतिकता के क्षेत्र में अग्रणी सिद्धांतकारों में से एक, चार प्रकार के नैतिक रोबोट को परिभाषित करते हैं। कृत्रिम बुद्धिमत्ता, मन के दर्शन, विज्ञान के दर्शन और तर्क के दर्शन के अध्ययन पर एक व्यापक शोधकर्ता के रूप में, मूर ने मशीनों को नैतिक प्रभाव एजेंट, निहित नैतिक एजेंट, स्पष्ट नैतिक एजेंट या पूर्ण नैतिक एजेंट के रूप में परिभाषित किया है। एक मशीन एक से अधिक प्रकार के एजेंट हो सकते हैं। नैतिक प्रभाव कारक-ये मशीन प्रणालियाँ हैं जो नैतिक प्रभाव डालती हैं चाहे उनका इरादा हो या नहीं। साथ ही, इन एजेंटों में अनैतिक कार्य करने की क्षमता होती है। मूर 'गुडमैन एजेंट' नामक एक काल्पनिक उदाहरण देते हैं, जिसका नाम दार्शनिक नेल्सन गुडमैन के नाम पर रखा गया है। गुडमैन एजेंट तारीखों की तुलना करता है लेकिन सहस्राब्दी बग है। यह बग उन प्रोग्रामरों के कारण हुआ जिन्होंने वर्ष के केवल अंतिम दो अंकों के साथ तिथियों का प्रतिनिधित्व किया। इसलिए 2000 से आगे की किसी भी तारीख को भ्रामक रूप से बीसवीं शताब्दी के उत्तरार्ध की तुलना में पहले की तारीख माना जाएगा। इस प्रकार गुडमैन एजेंट 2000 से पहले एक नैतिक प्रभाव एजेंट था, और उसके बाद एक अनैतिक प्रभाव एजेंट था। अंतर्निहित नैतिक अभिकर्ताः मानव सुरक्षा पर विचार करने के लिए, इन अभिकर्ताओं को एक असफल-सुरक्षित, या एक अंतर्निहित गुण के लिए क्रमादेशित किया जाता है। वे पूरी तरह से नैतिक प्रकृति के नहीं हैं, बल्कि अनैतिक परिणामों से बचने के लिए क्रमादेशित हैं। स्पष्ट नैतिक कारक-ये ऐसी मशीनें हैं जो परिदृश्यों को संसाधित करने और नैतिक निर्णयों पर कार्य करने में सक्षम हैं। ऐसी मशीनें जिनमें नैतिक रूप से कार्य करने के लिए एल्गोरिदम हों। पूर्ण नैतिक अभिकर्ताः ये मशीनें नैतिक निर्णय लेने में सक्षम होने में स्पष्ट नैतिक अभिकर्ताओं के समान हैं। हालाँकि, उनमें मानव आध्यात्मिक विशेषताएँ भी हैं। (अर्थात। स्वतंत्र इच्छा, चेतना और इरादतन) (कृत्रिम प्रणालियाँ और नैतिक जिम्मेदारी देखें।) कुछ विद्वान, जैसे कि दार्शनिक निक बोस्ट्रोम और ए. आई. शोधकर्ता स्टुअर्ट रसेल, तर्क देते हैं कि यदि ए. आई. सामान्य बुद्धिमत्ता में मानवता को पीछे छोड़ देता है और "अति बुद्धिमान" बन जाता है, तो यह नई अति बुद्धिमत्ता शक्तिशाली और नियंत्रित करना मुश्किल हो सकता हैः जैसे पहाड़ी गोरिल्ला का भाग्य मानव सद्भावना पर निर्भर करता है, वैसे ही मानवता का भाग्य भविष्य की मशीन अति बुद्धिमत्ता के कार्यों पर निर्भर हो सकता है। अपनी-अपनी पुस्तकों सुपर इंटेलीजेंस एंड ह्यूमन कम्पेटिबल में, दोनों विद्वानों का कहना है कि एआई के भविष्य के बारे में बहुत अनिश्चितता है, लेकिन मानवता के लिए जोखिम वर्तमान में महत्वपूर्ण कार्रवाई के योग्य है। यह एआई नियंत्रण समस्या प्रस्तुत करता हैः एक बुद्धिमान एजेंट का निर्माण कैसे किया जाए जो इसके रचनाकारों की सहायता करेगा, जबकि अनजाने में एक सुपर इंटेलिजेंस का निर्माण करने से बचें जो इसके रचनाकारों को नुकसान पहुंचाएगा। "पहली बार" नियंत्रण को सही ढंग से डिजाइन नहीं करने का खतरा यह है कि एक अति बुद्धिमत्ता अपने पर्यावरण पर अधिकार हासिल करने में सक्षम हो सकती है और मनुष्यों को इसे बंद करने से रोक सकती है। संभावित ए. आई. नियंत्रण रणनीतियों में "क्षमता नियंत्रण" (दुनिया को प्रभावित करने की ए. आई. की क्षमता को सीमित करना) और "प्रेरक नियंत्रण" (ए. आई. के निर्माण का एक तरीका जिसके लक्ष्य मानव या इष्टतम मूल्यों के साथ संरेखित हैं) शामिल हैं। एआई नियंत्रण समस्या पर शोध करने वाले कई संगठन हैं, जिनमें फ्यूचर ऑफ ह्यूमैनिटी इंस्टीट्यूट, मशीन इंटेलिजेंस रिसर्च इंस्टीट्यूट, सेंटर फॉर ह्यूमन-कम्पेटिबल आर्टिफिशियल इंटेलिजेंस और फ्यूचर ऑफ लाइफ इंस्टीट्यूट शामिल हैं। एल्गोरिदम और प्रशिक्षण ए. आई. प्रतिमानों पर बहस की गई है, विशेष रूप से उनकी प्रभावकारिता और पूर्वाग्रह के संबंध में। निक बोस्ट्रोम और एलीएज़र युडकोव्स्की ने तंत्रिका नेटवर्क और आनुवंशिक एल्गोरिदम पर निर्णय पेड़ों (जैसे आईडी3) के लिए इस आधार पर तर्क दिया है कि निर्णय पेड़ पारदर्शिता और भविष्यवाणी के आधुनिक सामाजिक मानदंडों का पालन करते हैं (जैसे। निर्णय लेते हुए देखें)। इसके विपरीत, क्रिस सैंटोस-लैंग ने न्यूरल नेटवर्क और आनुवंशिक एल्गोरिदम के पक्ष में इस आधार पर तर्क दिया कि किसी भी उम्र के मानदंडों को बदलने की अनुमति दी जानी चाहिए और इन विशेष मानदंडों को पूरी तरह से पूरा करने में प्राकृतिक विफलता मनुष्यों को मशीन की तुलना में कम असुरक्षित बनाने में आवश्यक रही है। 2009 में, स्विट्जरलैंड में लुसाने के इकोले पॉलीटेक्निक फेडरेशन में प्रयोगशाला के बुद्धिमान प्रणालियों में एक प्रयोग में, एआई रोबोटों को एक दूसरे के साथ सहयोग करने के लिए प्रोग्राम किया गया था और एक जहरीले संसाधन से बचने के साथ-साथ एक लाभकारी संसाधन की खोज करने के लक्ष्य के साथ काम सौंपा गया था। प्रयोग के दौरान, रोबोटों को कुलों में समूहीकृत किया गया था, और सफल सदस्यों के डिजिटल आनुवंशिक कोड का उपयोग अगली पीढ़ी के लिए किया गया था, एक प्रकार का एल्गोरिथ्म जिसे आनुवंशिक एल्गोरिथ्म के रूप में जाना जाता है। ए. आई. में लगातार 50 पीढ़ियों के बाद, एक कबीले के सदस्यों ने पता लगाया कि लाभकारी संसाधन को जहरीले से कैसे अलग किया जाए। रोबोटों ने तब अन्य रोबोटों से लाभकारी संसाधनों को जमा करने के प्रयास में एक-दूसरे से झूठ बोलना सीखा। इसी प्रयोग में, उन्हीं AI रोबोटों ने भी निस्वार्थ रूप से व्यवहार करना सीखा और अन्य रोबोटों को खतरे का संकेत दिया, और अन्य रोबोटों को बचाने की कीमत पर भी मर गए। इस प्रयोग के निहितार्थ को मशीन नैतिकतावादियों द्वारा चुनौती दी गई है। इकोल पॉलीटेक्निक फेडरेल प्रयोग में, रोबोटों के लक्ष्यों को "अंतिम" के रूप में क्रमादेशित किया गया था। इसके विपरीत, मानवीय उद्देश्यों में आम तौर पर कभी न खत्म होने वाले सीखने की आवश्यकता होती है। 2009 में, शिक्षाविदों और तकनीकी विशेषज्ञों ने रोबोट और कंप्यूटर के संभावित प्रभाव और इस काल्पनिक संभावना के प्रभाव पर चर्चा करने के लिए एक सम्मेलन में भाग लिया कि वे आत्मनिर्भर हो सकते हैं और अपने स्वयं के निर्णय लेने में सक्षम हो सकते हैं। उन्होंने इस संभावना पर चर्चा की कि कंप्यूटर और रोबोट किसी भी स्तर की स्वायत्तता प्राप्त करने में किस हद तक सक्षम हो सकते हैं, और वे ऐसी क्षमताओं का उपयोग किसी भी खतरे या खतरे को पैदा करने के लिए किस हद तक कर सकते हैं। उन्होंने नोट किया कि कुछ मशीनों ने अर्ध-स्वायत्तता के विभिन्न रूपों को प्राप्त कर लिया है, जिसमें अपने दम पर बिजली के स्रोतों को खोजने में सक्षम होना और हथियारों से हमला करने के लिए स्वतंत्र रूप से लक्ष्य चुनने में सक्षम होना शामिल है। उन्होंने यह भी नोट किया कि कुछ कंप्यूटर वायरस उन्मूलन से बच सकते हैं और उन्होंने "कॉकरोच इंटेलिजेंस" हासिल किया है। उन्होंने नोट किया कि विज्ञान-कथा में दर्शाए गए आत्म-जागरूकता की संभावना नहीं है, लेकिन अन्य संभावित खतरे और नुकसान भी हैं। कुछ विशेषज्ञों और शिक्षाविदों ने सैन्य युद्ध के लिए रोबोट के उपयोग पर सवाल उठाया है, खासकर जब ऐसे रोबोट को कुछ हद तक स्वायत्त कार्य दिए जाते हैं। अमेरिकी नौसेना ने एक रिपोर्ट को वित्त पोषित किया है जो इंगित करता है कि जैसे-जैसे सैन्य रोबोट अधिक जटिल होते जाते हैं, स्वायत्त निर्णय लेने की उनकी क्षमता के निहितार्थ पर अधिक ध्यान दिया जाना चाहिए। एसोसिएशन फॉर द एडवांसमेंट ऑफ आर्टिफिशियल इंटेलिजेंस के अध्यक्ष ने इस मुद्दे को देखने के लिए एक अध्ययन शुरू किया है। वे भाषा अधिग्रहण उपकरण जैसे कार्यक्रमों की ओर इशारा करते हैं जो मानव संपर्क का अनुकरण कर सकते हैं। समाज के साथ कृत्रिम सामान्य बुद्धिमत्ता का एकीकरण मौजूदा कानूनी और सामाजिक ढांचे के साथ कृत्रिम सामान्य बुद्धिमत्ता (ऊपर परिभाषित पूर्ण नैतिक एजेंट) को एकीकृत करने के तरीकों पर प्रारंभिक कार्य किया गया है। दृष्टिकोण उनकी कानूनी स्थिति और अधिकारों पर विचार करने पर केंद्रित हैं। मशीन लर्निंग पूर्वाग्रह बिग डेटा और मशीन लर्निंग एल्गोरिदम ऑनलाइन विज्ञापन, क्रेडिट रेटिंग और आपराधिक सजा सहित कई उद्योगों के बीच लोकप्रिय हो गए हैं, जिसमें अधिक उद्देश्यपूर्ण, डेटा-संचालित परिणाम प्रदान करने का वादा किया गया है, लेकिन सामाजिक असमानताओं और भेदभाव को बनाए रखने के लिए एक संभावित स्रोत के रूप में पहचाना गया है। 2015 के एक अध्ययन में पाया गया कि गूगल के ऐडसेंस द्वारा महिलाओं को उच्च आय वाली नौकरी के विज्ञापन दिखाए जाने की संभावना कम थी। एक अन्य अध्ययन में पाया गया कि अमेज़ॅन की उसी दिन डिलीवरी सेवा को जानबूझकर काले पड़ोस में अनुपलब्ध कर दिया गया था। गूगल और अमेज़ॅन दोनों इन परिणामों को एक ही मुद्दे पर अलग करने में असमर्थ थे, लेकिन इसके बजाय समझाया कि परिणाम उनके द्वारा उपयोग किए गए ब्लैक बॉक्स एल्गोरिदम का परिणाम थे। संयुक्त राज्य की न्यायिक प्रणाली ने अधिक निष्पक्ष होने और पहले से ही उच्च कारावास दर को कम करने के प्रयास में लोगों को जमानत पर रिहा करने और सजा देने से संबंधित निर्णय लेते समय मात्रात्मक जोखिम मूल्यांकन सॉफ्टवेयर का उपयोग करना शुरू कर दिया है। ये उपकरण अन्य विशेषताओं के साथ प्रतिवादी के आपराधिक इतिहास का विश्लेषण करते हैं। ब्रोवार्ड काउंटी, फ्लोरिडा में गिरफ्तार किए गए 7,000 लोगों के एक अध्ययन में, केवल 20 प्रतिशत व्यक्तियों ने काउंटी की जोखिम मूल्यांकन स्कोरिंग प्रणाली का उपयोग करके अपराध करने की भविष्यवाणी की, जो अपराध करने के लिए आगे बढ़े। 2016 की प्रोपब्लिका रिपोर्ट ने सबसे अधिक उपयोग किए जाने वाले उपकरणों में से एक, नॉर्थप्वाइंट कॉम्पास प्रणाली द्वारा गणना किए गए पुनरावृत्ति जोखिम अंकों का विश्लेषण किया और दो वर्षों के परिणामों को देखा। रिपोर्ट में पाया गया कि उच्च जोखिम वाले लोगों में से केवल 61 प्रतिशत ने उस अवधि के दौरान अतिरिक्त अपराध किए। रिपोर्ट में यह भी कहा गया कि अफ्रीकी-अमेरिकी प्रतिवादियों को उनके श्वेत प्रतिवादी समकक्षों के सापेक्ष उच्च जोखिम वाले अंक दिए जाने की अधिक संभावना थी। कानूनी रूप से, कृत्रिम बुद्धिमत्ता के लिए आंशिक कानूनी क्षमता के सिद्धांत के तहत एल्गोरिथ्म से ही संभावित भेदभावपूर्ण इरादे सहित कई कारकों के कारण, इस तरह के पूर्व-परीक्षण जोखिम मूल्यांकनों को नस्ल के आधार पर समान सुरक्षा अधिकारों का उल्लंघन करने के लिए तर्क दिया गया है। 2016 में, ओबामा प्रशासन के बिग डेटा वर्किंग ग्रुप-विभिन्न बड़े-डेटा नियामक ढांचे के एक पर्यवेक्षक-ने "स्वचालित निर्णयों में भेदभाव को कूटबद्ध करने की क्षमता" का तर्क देते हुए रिपोर्ट जारी की और क्रेडिट स्कोरिंग जैसे अनुप्रयोगों के लिए "डिजाइन द्वारा समान अवसर" का आह्वान किया। रिपोर्ट नीति निर्माताओं, नागरिकों और शिक्षाविदों के बीच समान रूप से चर्चा को प्रोत्साहित करती है, लेकिन यह स्वीकार करती है कि इसमें एल्गोरिथमिक प्रणालियों में पूर्वाग्रह और भेदभाव के एन्कोडिंग के लिए कोई संभावित समाधान नहीं है। नैतिक ढांचे और प्रथाएं मार्च 2018 में, मानवाधिकारों पर मशीन लर्निंग के प्रभाव पर बढ़ती चिंताओं को दूर करने के प्रयास में, विश्व आर्थिक मंच और मानवाधिकारों पर वैश्विक भविष्य परिषद ने मशीन लर्निंग में भेदभावपूर्ण परिणामों को रोकने के लिए विस्तृत सिफारिशों के साथ एक श्वेत पत्र प्रकाशित किया। विश्व आर्थिक मंच ने मशीन लर्निंग में भेदभावपूर्ण परिणामों को संबोधित करने और रोकने में मदद करने के लिए मानवाधिकारों के संयुक्त राष्ट्र मार्गदर्शक सिद्धांतों के आधार पर चार सिफारिशें विकसित कीं। विश्व आर्थिक मंच की सिफारिशें इस प्रकार हैंः सक्रिय समावेशः मशीन लर्निंग अनुप्रयोगों के विकास और डिजाइन को सक्रिय रूप से इनपुट की विविधता की तलाश करनी चाहिए, विशेष रूप से एआई सिस्टम के उत्पादन से प्रभावित विशिष्ट आबादी के मानदंडों और मूल्यों की निष्पक्षताः मशीन लर्निंग सिस्टम की अवधारणा, विकास और कार्यान्वयन में शामिल लोगों को इस बात पर विचार करना चाहिए कि निष्पक्षता की कौन सी परिभाषा उनके संदर्भ और अनुप्रयोग पर सबसे अच्छी तरह से लागू होती है, और इसे मशीन लर्निंग सिस्टम और इसके मूल्यांकन मेट्रिक्स की वास्तुकला में प्राथमिकता देनी चाहिए। जहां यह असंभव है और अधिकार दांव पर हैं, मशीन लर्निंग तकनीक के डिजाइन, परिनियोजन और विनियमन में नेताओं को सवाल करना चाहिए कि क्या इसका उपयोग किया जाना चाहिए या नहीं समाधान तक पहुंचः मशीन लर्निंग सिस्टम के नेता, डिजाइनर और डेवलपर्स अपनी प्रणालियों के संभावित नकारात्मक मानवाधिकार प्रभावों की पहचान करने के लिए जिम्मेदार हैं। उन्हें अलग-अलग प्रभावों से प्रभावित लोगों के लिए निवारण के लिए दृश्यमान रास्ते बनाने चाहिए और किसी भी भेदभावपूर्ण परिणाम के समय पर निवारण के लिए प्रक्रियाएं स्थापित करनी चाहिए। जनवरी 2020 में, हार्वर्ड विश्वविद्यालय के बर्कमैन क्लेन सेंटर फॉर इंटरनेट एंड सोसाइटी ने एआई के लिए 36 प्रमुख सिद्धांतों का एक मेटा-अध्ययन प्रकाशित किया, जिसमें आठ प्रमुख विषयों की पहचान की गईः गोपनीयता, जवाबदेही, सुरक्षा और सुरक्षा, पारदर्शिता और व्याख्या, निष्पक्षता और गैर-भेदभाव, प्रौद्योगिकी का मानव नियंत्रण, पेशेवर जिम्मेदारी, और मानवीय मूल्यों को बढ़ावा देना। 2019 में ज्यूरिख में स्विस फेडरल इंस्टीट्यूट ऑफ टेक्नोलॉजी के शोधकर्ताओं द्वारा इसी तरह का मेटा-अध्ययन किया गया था। दृष्टिकोण नैतिकता को गणना योग्य, या कम से कम औपचारिक बनाने के कई प्रयास किए गए हैं। जबकि आइज़ैक असिमोव के रोबोटिक्स के तीन नियमों को आमतौर पर एक कृत्रिम नैतिक एजेंट के लिए उपयुक्त नहीं माना जाता है, यह अध्ययन किया गया है कि क्या कांट की स्पष्ट अनिवार्यता का उपयोग किया जा सकता है। हालाँकि, यह बताया गया है कि मानवीय मूल्य कुछ पहलुओं में बहुत जटिल है। इस कठिनाई को स्पष्ट रूप से पार करने का एक तरीका है किसी तंत्र के माध्यम से सीधे मनुष्यों से मानवीय मूल्यों को प्राप्त करना, उदाहरण के लिए उन्हें सीखना। एक अन्य दृष्टिकोण पिछली समान स्थितियों पर वर्तमान नैतिक विचारों को आधार बनाना है। इसे कैसुइस्ट्री कहा जाता है और इसे इंटरनेट पर शोध के माध्यम से लागू किया जा सकता है। पिछले लाखों निर्णयों से सर्वसम्मति एक नए निर्णय की ओर ले जाएगी जो लोकतंत्र पर निर्भर है। प्रो. ब्रूस एम. मैकलेरन ने कैसुस्ट्री का एक प्रारंभिक (1990 के दशक के मध्य) कम्प्यूटेशनल मॉडल बनाया, विशेष रूप से एसआईआरओसीसीओ नामक एक कार्यक्रम जिसे एआई और केस-बेस तर्क तकनीकों के साथ बनाया गया है जो नैतिक दुविधाओं को पुनर्प्राप्त और विश्लेषण करता है। हालाँकि, यह दृष्टिकोण ऐसे निर्णयों को जन्म दे सकता है जो समाज में प्रदर्शित पूर्वाग्रहों और अनैतिक व्यवहारों को दर्शाते हैं। इस दृष्टिकोण के नकारात्मक प्रभाव माइक्रोसॉफ्ट के टे (बॉट) में देखे जा सकते हैं, जहां चैटरबॉट ने ट्विटर उपयोगकर्ताओं द्वारा भेजे गए नस्लवादी और यौन रूप से आरोपित संदेशों को दोहराना सीखा। एक विचार प्रयोग पाठक के सामने खुद को प्रस्तुत करने वाली असीमित शक्तियों के साथ एक जीनी गोलेम पर केंद्रित है। यह जिनी घोषणा करता है कि यह 50 वर्षों में वापस आ जाएगा और मांग करता है कि इसे नैतिकता का एक निश्चित समूह प्रदान किया जाए जिस पर वह तुरंत कार्रवाई करेगा। इस प्रयोग का उद्देश्य इस बात पर चर्चा शुरू करना है कि नैतिकता के पूर्ण समूह को परिभाषित करने के लिए सबसे अच्छा प्रबंधन कैसे किया जाए जिसे कंप्यूटर समझ सकते हैं। विज्ञान कथा में, फिल्मों और उपन्यासों ने रोबोट और मशीनों में भावना के विचार के साथ खेला है। नील ब्लोमकैम्प की चैपी (2015) ने किसी की चेतना को कंप्यूटर में स्थानांतरित करने में सक्षम होने का एक परिदृश्य प्रस्तुत किया। एलेक्स गारलैंड की फिल्म, एक्स मशीना (2014), ट्यूरिंग टेस्ट के एक बदलाव से गुजरने वाली कृत्रिम बुद्धिमत्ता के साथ एक एंड्रॉइड का अनुसरण करती है, एक मशीन को यह देखने के लिए प्रशासित किया जाता है कि क्या इसके व्यवहार को मनुष्य से अलग किया जा सकता है। द टर्मिनेटर (1984) और द मैट्रिक्स (1999) जैसी कृतियाँ अपने मानव स्वामियों को चालू करने वाली मशीनों की अवधारणा को शामिल करती हैं (आर्टिफिशियल इंटेलिजेंस देखें)। इसाक असिमोव ने 1950 के दशक में आई, रोबोट में इस मुद्दे पर विचार किया। अपने संपादक जॉन डब्ल्यू. कैम्पबेल जूनियर के आग्रह पर, उन्होंने कृत्रिम रूप से बुद्धिमान प्रणालियों को नियंत्रित करने के लिए रोबोटिक्स के तीन नियमों का प्रस्ताव रखा। उनके अधिकांश काम तब उनके तीन नियमों की सीमाओं का परीक्षण करने में खर्च किए गए थे ताकि यह देखा जा सके कि वे कहाँ टूटेंगे, या वे कहाँ विरोधाभासी या अप्रत्याशित व्यवहार पैदा करेंगे। उनके काम से पता चलता है कि निश्चित कानूनों का कोई भी समूह सभी संभावित परिस्थितियों का पर्याप्त अनुमान नहीं लगा सकता है। फिलिप के. डिक के उपन्यास में, क्या एंड्रॉइड इलेक्ट्रिक भेड़ का सपना देखते हैं? (1968), वह खोज करता है कि मानव होने का क्या अर्थ है। अपने सर्वनाश के बाद के परिदृश्य में, उन्होंने सवाल किया कि क्या सहानुभूति पूरी तरह से मानवीय विशेषता है। उनकी कहानी विज्ञान कथा फिल्म ब्लेड रनर (1982) का आधार है। संबंधित क्षेत्र प्रभावी कंप्यूटिंग औपचारिक नैतिकता मन का कम्प्यूटेशनल सिद्धांत कृत्रिम बुद्धिमत्ता की कंप्यूटर नैतिकता कृत्रिम बुद्धिमत्ता की नैतिक मनोविज्ञान कृत्रिम बुद्धिमत्ता का दर्शन मन का दर्शन भी देखें कृत्रिम बुद्धिमत्ता ए. आई. सुरक्षा ए. आई. अधिग्रहण काल्पनिक कथाओं में कृत्रिम बुद्धिमत्ता अनुकूल कृत्रिम बुद्धिमत्ता स्वचालित चिकित्सा निर्णय-समर्थन गूगल कार सैन्य रोबोट मशीन इंटेलिजेंस रिसर्च इंस्टीट्यूट रोबोट नैतिकता अंतरिक्ष कानून स्व-प्रतिकृति अंतरिक्ष यान वाटसन परियोजना चिकित्सा निर्णय को स्वचालित करने के लिए-समर्थन टे (बॉट) नोट्स बाहरी लिंक मशीन नैतिकता, मशीन नैतिकता पर अंतःविषय परियोजना। मशीन एथिक्स पॉडकास्ट, पॉडकास्ट मशीन एथिक्स, एआई और टेक एथिक्स पर चर्चा कर रहा है। सन्दर्भ वालाक, वेंडेल; एलन, कॉलिन (नवंबर 2008)। नैतिक मशीनः रोबोट को गलत से सही सिखाना। अमेरिकाः ऑक्सफोर्ड यूनिवर्सिटी प्रेस। एंडरसन, माइकल; एंडरसन, सुसान लेह, संस्करण (जुलाई 2011)। मशीन नैतिकता। कैम्ब्रिज यूनिवर्सिटी प्रेस। स्टॉर्स हॉल, जे. (30 मई, 2007)। AI से परेः मशीन प्रोमेथियस पुस्तकों का विवेक बनाना। मूर, जे। (2006)। मशीन नैतिकता की प्रकृति, महत्व और कठिनाई। आई. ई. ई. ई. बुद्धिमान प्रणालियाँ, 21 (4), पृ. 18-21। एंडरसन, एम और एंडरसन, एस. (2007)। एक नैतिक बुद्धिमान एजेंट बनाना। ए. आई. पत्रिका, खंड 28 (4)। आगे पढ़ने के लिए हेगेनडॉर्फ, थिलो (2021)। मानव और मशीन व्यवहार को जोड़नाः लाभकारी मशीन लर्निंग के लिए प्रशिक्षण डेटा गुणवत्ता का मूल्यांकन करने के लिए एक नया दृष्टिकोण। दिमाग और मशीनें। एंडरसन, माइकल; एंडरसन, सुसान लेह, संस्करण (जुलाई/अगस्त 2006)। "मशीन नैतिकता पर विशेष अंक"। आई. ई. ई. ई. बुद्धिमान प्रणाली 21 (4): 10-63। बेंडेल, ओलिवर (11 दिसंबर, 2013)। पशु और मशीन नैतिकता के बीच संबंध के बारे में विचार। ए. आई. और सोसायटी, डैब्रिंगर, गेरहार्ड, एड। (2010)। "मानव रहित प्रणालियों के नैतिक और कानूनी पहलू। साक्षात्कार "। ऑस्ट्रियाई रक्षा और खेल मंत्रालय, वियना 2010,। गार्डनर, ए। (1987)। कानूनी तर्क के लिए एक कृत्रिम दृष्टिकोण। कैम्ब्रिज, एमएः एमआईटी प्रेस। जॉर्जेस टी. एम. (2003)। डिजिटल सोलः बुद्धिमान मशीनें और मानव मूल्य। कैम्ब्रिज, एमएः वेस्टव्यू प्रेस। गायक, पी. डब्ल्यू. (29 दिसंबर, 2009)। वायर्ड फॉर वारः द रोबोटिक्स रिवोल्यूशन एंड कॉन्फ्लिक्ट इन द 21 सेंचुरीः पेंगुइन। विनफील्ड, ए., माइकल, के., पिट, जे. और एवर्स, वी. (मार्च 2019)। मशीन नैतिकता पर विशेष अंकः नैतिक एआई और स्वायत्त प्रणालियों का डिजाइन और शासन। आई. ई. ई. ई. की कार्यवाही। 107 (3): 501-615, तर्क प्रौद्योगिकी कम्प्यूटिंग और समाज विज्ञान और प्रौद्योगिकी की नैतिकता कृत्रिम बुद्धिमत्ता का दर्शन