Machine ethics
مشین اخلاقیات (یا مشین اخلاقیات، کمپیوٹیشنل اخلاقیات، یا کمپیوٹیشنل اخلاقیات) مصنوعی ذہانت کی اخلاقیات کا ایک حصہ ہے جس کا تعلق مصنوعی ذہانت استعمال کرنے والی انسان ساختہ مشینوں کے اخلاقی طرز عمل کو شامل کرنے یا یقینی بنانے سے ہے، بصورت دیگر مصنوعی ذہین ایجنٹوں کے نام سے جانا جاتا ہے۔ مشین اخلاقیات انجینئرنگ اور ٹیکنالوجی سے متعلق دیگر اخلاقی شعبوں سے مختلف ہیں۔ مشین اخلاقیات کو کمپیوٹر اخلاقیات کے ساتھ الجھن میں نہیں ڈالنا چاہیے، جو کمپیوٹر کے انسانی استعمال پر مرکوز ہے۔ اسے ٹیکنالوجی کے فلسفے سے بھی ممتاز کیا جانا چاہیے، جس کا تعلق ٹیکنالوجی کے بڑے سماجی اثرات سے ہے۔ اکیسویں صدی سے پہلے مشینوں کی اخلاقیات بڑی حد تک سائنس فکشن ادب کا موضوع رہی تھی، بنیادی طور پر کمپیوٹنگ اور مصنوعی ذہانت (اے آئی) کی حدود کی وجہ سے۔ اگرچہ "مشین اخلاقیات" کی تعریف تب سے تیار ہوئی ہے، یہ اصطلاح مچل والڈروپ نے 1987 کے اے آئی میگزین کے مضمون "ذمہ داری کا سوال" میں وضع کی تھی: "تاہم، ایک چیز جو مذکورہ بحث سے واضح ہے وہ یہ ہے کہ ذہین مشینیں اقدار، مفروضوں اور مقاصد کو مجسم بنائیں گی، چاہے ان کے پروگرامر شعوری طور پر ان کا ارادہ کریں یا نہ کریں۔ اس طرح، جیسے جیسے کمپیوٹر اور روبوٹ زیادہ سے زیادہ ذہین ہوتے جاتے ہیں، یہ ضروری ہو جاتا ہے کہ ہم احتیاط سے اور واضح طور پر سوچیں کہ وہ بلٹ ان ویلیوز کیا ہیں۔ شاید ہمیں جس چیز کی ضرورت ہے وہ درحقیقت ایسیموف کے روبوٹکس کے تین قوانین کی روح میں مشین اخلاقیات کا ایک نظریہ اور عمل ہے۔ " 2004 میں، ٹورڈز مشین ایتھکس کو ایجنٹ آرگنائزیشنز: تھیوری اینڈ پریکٹس پر اے اے اے آئی ورکشاپ میں پیش کیا گیا تھا جس میں مشین اخلاقیات کی نظریاتی بنیادیں رکھی گئیں۔ یہ اے اے اے آئی فال 2005 سمپوزیم آن مشین ایتھکس میں تھا جہاں محققین پہلی بار خود مختار نظاموں میں اخلاقی جہت کے نفاذ پر غور کرنے کے لیے ملے تھے۔ اس نوزائیدہ شعبے کے مختلف تناظر جمع شدہ ایڈیشن "مشین ایتھکس" میں پائے جا سکتے ہیں جو مشین ایتھکس پر اے اے اے آئی فال 2005 سمپوزیم سے نکلتا ہے۔ 2007 میں، اے آئی میگزین نے مشین ایتھکس: کریئٹنگ این ایتھکل انٹیلیجنٹ ایجنٹ کو نمایاں کیا، ایک مضمون جس میں مشین اخلاقیات کی اہمیت، ایسی مشینوں کی ضرورت پر تبادلہ خیال کیا گیا جو اخلاقی اصولوں کی واضح طور پر نمائندگی کرتی ہیں، اور مشین اخلاقیات پر کام کرنے والوں کو درپیش چیلنجز۔ اس نے یہ بھی ظاہر کیا کہ یہ ممکن ہے، کم از کم ایک محدود ڈومین میں، کسی مشین کے لیے اخلاقی فیصلوں کی مثالوں سے اخلاقی اصول کو خلاصہ کرنا اور اس اصول کو اپنے رویے کی رہنمائی کے لیے استعمال کرنا۔ 2009 میں آکسفورڈ یونیورسٹی پریس نے مورل مشینیں، ٹیچنگ روبوٹس رائٹ فرام رانگ شائع کی، جسے اس نے "مصنوعی اخلاقی ایجنٹوں کی تعمیر کے چیلنج کا جائزہ لینے والی پہلی کتاب، انسانی فیصلہ سازی اور اخلاقیات کی نوعیت کی گہرائی سے تحقیقات کرنے والی" کے طور پر اشتہار دیا۔ اس نے تقریبا 450 ذرائع کا حوالہ دیا، جن میں سے تقریبا 100 نے مشین اخلاقیات کے بڑے سوالات کو حل کیا۔ 2011 میں، کیمبرج یونیورسٹی پریس نے مائیکل اور سوسن لی اینڈرسن کے ترمیم کردہ مشین اخلاقیات کے بارے میں مضامین کا مجموعہ شائع کیا، جنہوں نے 2006 میں اس موضوع پر آئی ای ای ای انٹیلیجنٹ سسٹمز کے ایک خصوصی شمارے میں بھی ترمیم کی۔ یہ مجموعہ مشینوں میں اخلاقی اصولوں کو شامل کرنے کے چیلنجوں پر مشتمل ہے۔ 2014 میں، یو ایس آفس آف نیول ریسرچ نے اعلان کیا کہ وہ یونیورسٹی کے محققین کو مشین اخلاقیات کے سوالات کا مطالعہ کرنے کے لیے پانچ سالوں میں 75 لاکھ ڈالر کی گرانٹ تقسیم کرے گا جیسا کہ خود مختار روبوٹس پر لاگو ہوتا ہے، اور نک بوسٹروم کی سپر انٹیلی جنس: پاتھز، ڈینجرز، اسٹریٹجیز، جس نے مشین اخلاقیات کو "انسانیت نے اب تک کا سب سے زیادہ important.issue سامنا کیا ہے" کے طور پر بلند کیا، نیویارک ٹائمز کی سب سے زیادہ فروخت ہونے والی سائنس کی کتابوں کی فہرست میں #17 تک پہنچ گیا۔ 2016 میں یورپی پارلیمنٹ نے روبوٹ کی قانونی حیثیت کے مسئلے کو حل کرنے کے لیے کمیشن کی حوصلہ افزائی کے لیے ایک مقالہ (22 صفحات پر مشتمل پی ڈی ایف) شائع کیا، جیسا کہ پریس میں مزید مختصر طور پر بیان کیا گیا ہے۔ اس مقالے میں روبوٹس کی قانونی واجبات سے متعلق حصے شامل تھے، جن میں واجبات کو روبوٹس کی خود مختاری کی سطح کے متناسب ہونے کی دلیل دی گئی تھی۔ اس مقالے میں ان ملازمتوں کی تعداد پر بھی سوال اٹھایا گیا جن کی جگہ اے آئی روبوٹ لے سکتے ہیں۔ 2019 میں پروسیڈنگز آف دی آئی ای ای ای نے مشین ایتھکس: دی ڈیزائن اینڈ گورننس آف ایتھکل اے آئی اینڈ آٹونومس سسٹمز پر ایک خصوصی شمارہ شائع کیا، جس میں ایلن ون فیلڈ، کٹینا مائیکل، جیریمی پٹ اور ونیسا ایورز نے ترمیم کی۔ "اس شمارے میں مضمر اخلاقی ایجنٹوں کو بیان کرنے والے مقالے شامل ہیں، جہاں مشینیں غیر اخلاقی نتائج سے بچنے کے لیے بنائی گئی ہیں، نیز واضح اخلاقی ایجنٹوں، یا ایسی مشینیں جو اخلاقیات کو انکوڈ یا سیکھتی ہیں اور ان اخلاقیات کی بنیاد پر اعمال کا تعین کرتی ہیں۔" تعریف جیمز ایچ مور، جو کمپیوٹر اخلاقیات کے شعبے میں ایک اہم نظریہ ساز ہیں، چار قسم کے اخلاقی روبوٹ کی وضاحت کرتے ہیں۔ مصنوعی ذہانت کے فلسفے، ذہن کے فلسفے، سائنس کے فلسفے اور منطق کے مطالعے پر ایک وسیع محقق کے طور پر، مور مشینوں کی تعریف اخلاقی اثرات کے ایجنٹوں، مضمر اخلاقی ایجنٹوں، واضح اخلاقی ایجنٹوں، یا مکمل اخلاقی ایجنٹوں کے طور پر کرتے ہیں۔ ایک مشین ایک سے زیادہ قسم کے ایجنٹ ہو سکتی ہے۔ اخلاقی اثرات کے ایجنٹ: یہ مشین کے نظام ہیں جو اخلاقی اثر رکھتے ہیں چاہے ان کا ارادہ ہو یا نہ ہو۔ ایک ہی وقت میں، ان ایجنٹوں میں غیر اخلاقی کام کرنے کی صلاحیت ہوتی ہے۔ مور ایک فرضی مثال دیتے ہیں جسے 'گڈ مین ایجنٹ' کہا جاتا ہے، جس کا نام فلسفی نیلسن گڈ مین کے نام پر رکھا گیا ہے۔ گڈ مین ایجنٹ تاریخوں کا موازنہ کرتا ہے لیکن اس میں ملینیم بگ ہے۔ یہ بگ پروگرامرز کے نتیجے میں ہوا جنہوں نے سال کے صرف آخری دو ہندسوں کے ساتھ تاریخوں کی نمائندگی کی۔ لہذا 2000 سے آگے کی کسی بھی تاریخ کو گمراہ کن طور پر بیسویں صدی کے آخر سے پہلے کی تاریخ سمجھا جائے گا۔ اس طرح گڈ مین ایجنٹ 2000 سے پہلے ایک اخلاقی اثر ایجنٹ تھا، اور اس کے بعد ایک غیر اخلاقی اثر ایجنٹ تھا۔ مضمر اخلاقی ایجنٹ: انسانی حفاظت پر غور کرنے کے لیے، ان ایجنٹوں کو ناکام محفوظ، یا بلٹ ان فضیلت کے لیے پروگرام کیا جاتا ہے۔ وہ مکمل طور پر اخلاقی نوعیت کے نہیں ہیں، بلکہ غیر اخلاقی نتائج سے بچنے کے لیے پروگرام کیے گئے ہیں۔ واضح اخلاقی ایجنٹ: یہ ایسی مشینیں ہیں جو منظرناموں پر کارروائی کرنے اور اخلاقی فیصلوں پر عمل کرنے کی صلاحیت رکھتی ہیں۔ ایسی مشینیں جن کے پاس اخلاقی طور پر کام کرنے کے لیے الگورتھم ہوتے ہیں۔ مکمل اخلاقی ایجنٹ: یہ مشینیں اخلاقی فیصلے کرنے کے قابل ہونے میں واضح اخلاقی ایجنٹوں سے ملتی جلتی ہیں۔ تاہم، ان میں انسانی مابعد الطبیعاتی خصوصیات بھی شامل ہیں۔ (یعنی۔ آزاد مرضی، شعور اور جان بوجھ کر ہونا) (مصنوعی نظام اور اخلاقی ذمہ داری دیکھیں۔) کچھ اسکالرز، جیسے فلسفی نک بوسٹروم اور اے آئی کے محقق اسٹیورٹ رسل کا کہنا ہے کہ اگر اے آئی عام ذہانت میں انسانیت کو پیچھے چھوڑ دیتا ہے اور "انتہائی ذہین" بن جاتا ہے، تو یہ نئی سپر انٹیلی جنس طاقتور اور قابو میں رکھنا مشکل ہو سکتا ہے: جس طرح پہاڑی گوریلے کی قسمت انسانی خیر سگالی پر منحصر ہے، اسی طرح انسانیت کی قسمت مستقبل کی مشین سپر انٹیلی جنس کے اعمال پر منحصر ہو سکتی ہے۔ اپنی اپنی کتابوں سپر انٹیلی جنس اینڈ ہیومن کمپیٹیبل میں، دونوں اسکالرز اس بات پر زور دیتے ہیں کہ اگرچہ اے آئی کے مستقبل کے بارے میں بہت زیادہ غیر یقینی صورتحال ہے، لیکن انسانیت کے لیے خطرہ اتنا بڑا ہے کہ وہ موجودہ وقت میں اہم کارروائی کے لائق ہے۔ یہ اے آئی کنٹرول کا مسئلہ پیش کرتا ہے: ایک ذہین ایجنٹ کیسے بنایا جائے جو اس کے تخلیق کاروں کی مدد کرے، جبکہ نادانستہ طور پر ایک ایسی ذہانت کی تعمیر سے گریز کریں جو اس کے تخلیق کاروں کو نقصان پہنچائے۔ "پہلی بار" کنٹرول کو صحیح طریقے سے ڈیزائن نہ کرنے کا خطرہ یہ ہے کہ ایک سپر انٹیلی جنس اس کے ماحول پر قبضہ کرنے اور انسانوں کو اسے بند کرنے سے روکنے کے قابل ہو سکتا ہے۔ ممکنہ اے آئی کنٹرول کی حکمت عملیوں میں "صلاحیت کنٹرول" (دنیا پر اثر انداز ہونے کی اے آئی کی صلاحیت کو محدود کرنا) اور "محرک کنٹرول" (اے آئی بنانے کا ایک طریقہ جس کے اہداف انسانی یا زیادہ سے زیادہ اقدار کے مطابق ہوں) شامل ہیں۔ اے آئی کنٹرول کے مسئلے پر تحقیق کرنے والی متعدد تنظیمیں ہیں، جن میں فیوچر آف ہیومینٹی انسٹی ٹیوٹ، مشین انٹیلی جنس ریسرچ انسٹی ٹیوٹ، سینٹر فار ہیومن-کمپیٹیبل آرٹیفیشل انٹیلی جنس، اور فیوچر آف لائف انسٹی ٹیوٹ شامل ہیں۔ الگورتھم اور ٹریننگ اے آئی پیراڈائمز پر بحث کی گئی ہے، خاص طور پر ان کی افادیت اور تعصب کے سلسلے میں۔ نک بوسٹروم اور ایلیزر یوڈکوسکی نے نیورل نیٹ ورکس اور جینیاتی الگورتھم پر فیصلہ کن درختوں (جیسے آئی ڈی 3) کے لیے اس بنیاد پر بحث کی ہے کہ فیصلہ کن درخت شفافیت اور پیش گوئی کے جدید سماجی اصولوں کی پابندی کرتے ہیں (جیسے۔ فیصلہ کو گھور کر دیکھیں)۔ اس کے برعکس، کرس سینٹوس-لینگ نے نیورل نیٹ ورکس اور جینیاتی الگورتھم کے حق میں اس بنیاد پر دلیل دی کہ کسی بھی عمر کے اصولوں کو تبدیل کرنے کی اجازت ہونی چاہیے اور ان مخصوص اصولوں کو مکمل طور پر پورا کرنے میں قدرتی ناکامی انسانوں کو مجرم "ہیکرز" کے لیے مشینوں کے مقابلے میں کم کمزور بنانے کے لیے ضروری رہی ہے۔ 2009 میں، سوئٹزرلینڈ میں لوزان کے ایکول پولی ٹیکنک فیڈرل میں لیبارٹری آف انٹیلیجنٹ سسٹمز کے ایک تجربے میں، اے آئی روبوٹس کو ایک دوسرے کے ساتھ تعاون کرنے کے لیے پروگرام کیا گیا تھا اور انہیں زہریلے وسائل سے گریز کرتے ہوئے فائدہ مند وسائل کی تلاش کا کام سونپا گیا تھا۔ تجربے کے دوران، روبوٹس کو قبیلوں میں تقسیم کیا گیا، اور کامیاب اراکین کے ڈیجیٹل جینیاتی کوڈ کو اگلی نسل کے لیے استعمال کیا گیا، ایک قسم کا الگورتھم جسے جینیاتی الگورتھم کہا جاتا ہے۔ اے آئی میں مسلسل 50 نسلوں کے بعد، ایک قبیلے کے ارکان نے دریافت کیا کہ فائدہ مند وسائل کو زہریلے وسائل سے کیسے الگ کیا جائے۔ اس کے بعد روبوٹس نے دوسرے روبوٹس سے فائدہ مند وسائل کو ذخیرہ کرنے کی کوشش میں ایک دوسرے سے جھوٹ بولنا سیکھ لیا۔ اسی تجربے میں، انہی اے آئی روبوٹس نے بھی بے لوث سلوک کرنا سیکھا اور دوسرے روبوٹس کو خطرے کا اشارہ دیا، اور دوسرے روبوٹس کو بچانے کی قیمت پر بھی مر گئے۔ اس تجربے کے مضمرات کو مشین اخلاقیات کے ماہرین نے چیلنج کیا ہے۔ ایکول پولی ٹیکنک فیڈرل تجربے میں، روبوٹس کے اہداف کو "ٹرمینل" کے طور پر پروگرام کیا گیا تھا۔ اس کے برعکس، انسانی محرکات میں عام طور پر کبھی نہ ختم ہونے والی تعلیم کی ضرورت کا معیار ہوتا ہے۔ خود مختار ہتھیاروں کے نظام 2009 میں ماہرین تعلیم اور تکنیکی ماہرین نے روبوٹ اور کمپیوٹر کے ممکنہ اثرات اور اس فرضی امکان کے اثرات پر تبادلہ خیال کرنے کے لیے ایک کانفرنس میں شرکت کی کہ وہ خود کفیل بن سکتے ہیں اور اپنے فیصلے کرنے کے قابل ہو سکتے ہیں۔ انہوں نے اس امکان اور اس حد پر تبادلہ خیال کیا کہ کمپیوٹر اور روبوٹ کسی بھی سطح کی خود مختاری حاصل کرنے کے قابل ہو سکتے ہیں، اور وہ اس طرح کی صلاحیتوں کو کس حد تک استعمال کر سکتے ہیں تاکہ ممکنہ طور پر کوئی خطرہ یا خطرہ پیدا ہو۔ انہوں نے نوٹ کیا کہ کچھ مشینوں نے نیم خود مختاری کی مختلف شکلیں حاصل کر لی ہیں، بشمول خود سے بجلی کے ذرائع تلاش کرنے کے قابل ہونا اور ہتھیاروں سے حملہ کرنے کے لیے آزادانہ طور پر اہداف کا انتخاب کرنے کے قابل ہونا۔ انہوں نے یہ بھی نوٹ کیا کہ کچھ کمپیوٹر وائرس خاتمے سے بچ سکتے ہیں اور "کاکروچ انٹیلی جنس" حاصل کر چکے ہیں۔ انہوں نے نوٹ کیا کہ خود آگاہی جیسا کہ سائنس فکشن میں دکھایا گیا ہے شاید اس کا امکان نہیں ہے، لیکن یہ کہ دیگر ممکنہ خطرات اور نقصانات بھی تھے۔ کچھ ماہرین اور ماہرین تعلیم نے فوجی لڑائی کے لیے روبوٹ کے استعمال پر سوال اٹھایا ہے، خاص طور پر جب ایسے روبوٹ کو کچھ حد تک خود مختار کام دیے جاتے ہیں۔ امریکی بحریہ نے ایک رپورٹ کو مالی اعانت فراہم کی ہے جو اس بات کی نشاندہی کرتی ہے کہ جیسے جیسے فوجی روبوٹ زیادہ پیچیدہ ہوتے جا رہے ہیں، خود مختار فیصلے کرنے کی ان کی صلاحیت کے مضمرات پر زیادہ توجہ دی جانی چاہیے۔ ایسوسی ایشن فار دی ایڈوانسمنٹ آف آرٹیفیشل انٹیلی جنس کے صدر نے اس مسئلے کو دیکھنے کے لیے ایک مطالعہ شروع کیا ہے۔ وہ زبان کے حصول کے آلے جیسے پروگراموں کی طرف اشارہ کرتے ہیں جو انسانی تعامل کی تقلید کر سکتے ہیں۔ سماج کے ساتھ مصنوعی عمومی ذہانتوں کا انضمام موجودہ قانونی اور سماجی ڈھانچے کے ساتھ مصنوعی عمومی ذہانتوں (جیسا کہ اوپر بیان کیا گیا ہے مکمل اخلاقی ایجنٹوں) کو مربوط کرنے کے طریقوں پر ابتدائی کام کیا گیا ہے۔ نقطہ نظر نے اپنی قانونی حیثیت اور حقوق پر غور کرنے پر توجہ مرکوز کی ہے۔ بگ ڈیٹا اور مشین لرننگ الگورتھم متعدد صنعتوں میں مقبول ہو چکے ہیں جن میں آن لائن اشتہارات، کریڈٹ ریٹنگز، اور مجرمانہ سزا شامل ہیں، جن میں زیادہ معروضی، ڈیٹا پر مبنی نتائج فراہم کرنے کا وعدہ کیا گیا ہے، لیکن ان کی شناخت سماجی عدم مساوات اور امتیازی سلوک کو برقرار رکھنے کے ممکنہ ذریعہ کے طور پر کی گئی ہے۔ 2015 کی ایک تحقیق سے پتہ چلا ہے کہ گوگل کے ایڈسینس کے ذریعے خواتین کو اعلی آمدنی والے ملازمت کے اشتہارات دکھائے جانے کا امکان کم تھا۔ ایک اور تحقیق سے پتہ چلا ہے کہ ایمیزون کی ایک ہی دن کی ڈیلیوری سروس کو سیاہ فام محلوں میں جان بوجھ کر دستیاب نہیں کیا گیا تھا۔ گوگل اور ایمیزون دونوں ان نتائج کو کسی ایک مسئلے سے الگ کرنے میں ناکام رہے، لیکن اس کے بجائے وضاحت کی کہ نتائج ان کے استعمال کردہ بلیک باکس الگورتھم کا نتیجہ تھے۔ ریاستہائے متحدہ کے عدالتی نظام نے زیادہ منصفانہ ہونے اور پہلے سے ہی زیادہ قید کی شرح کو کم کرنے کی کوشش میں لوگوں کو ضمانت پر رہا کرنے اور سزا سنانے سے متعلق فیصلے کرتے وقت مقداری رسک اسسمنٹ سافٹ ویئر کا استعمال شروع کر دیا ہے۔ یہ ٹولز دیگر صفات کے ساتھ مدعا علیہ کی مجرمانہ تاریخ کا تجزیہ کرتے ہیں۔ بروورڈ کاؤنٹی، فلوریڈا میں گرفتار 7,000 افراد کے مطالعے میں، کاؤنٹی کے رسک اسسمنٹ اسکورنگ سسٹم کا استعمال کرتے ہوئے جرم کرنے کی پیش گوئی کرنے والے افراد میں سے صرف 20 ٪ ہی جرم کرنے کے لیے آگے بڑھے۔ 2016 کی پروپبلکا رپورٹ میں ریسیڈیوزم رسک اسکور کا تجزیہ کیا گیا جس کا حساب عام طور پر استعمال ہونے والے ٹولز میں سے ایک، نارتھ پوائنٹ کمپاس سسٹم کے ذریعے کیا گیا، اور دو سالوں کے نتائج کو دیکھا گیا۔ رپورٹ سے پتہ چلا کہ زیادہ خطرہ سمجھے جانے والوں میں سے صرف 61 فیصد نے اس عرصے کے دوران اضافی جرائم کا ارتکاب کیا۔ رپورٹ میں یہ بھی اشارہ کیا گیا کہ افریقی نژاد امریکی مدعا علیہان کو ان کے سفید فام مدعا علیہان کے ہم منصبوں کے مقابلے میں ہائی رسک اسکور دیے جانے کا امکان بہت زیادہ تھا۔ قانونی طور پر، مصنوعی ذہانت کے لیے جزوی قانونی صلاحیت کے نظریہ کے تحت الگورتھم سے ممکنہ امتیازی ارادے سمیت متعدد عوامل کی وجہ سے، اس طرح کے مقدمے سے پہلے کے خطرے کے جائزوں کو نسل کی بنیاد پر مساوی تحفظ کے حقوق کی خلاف ورزی کرنے کا استدلال کیا گیا ہے۔ 2016 میں، اوباما انتظامیہ کے بگ ڈیٹا ورکنگ گروپ-جو کہ مختلف بگ ڈیٹا ریگولیٹری فریم ورک کا نگران ہے-نے رپورٹس جاری کیں جن میں "خودکار فیصلوں میں امتیازی سلوک کو انکوڈنگ کرنے کی صلاحیت" پر بحث کی گئی تھی اور کریڈٹ اسکورنگ جیسی ایپلی کیشنز کے لیے "ڈیزائن کے ذریعے مساوی موقع" کا مطالبہ کیا گیا تھا۔ یہ رپورٹیں پالیسی سازوں، شہریوں اور ماہرین تعلیم کے درمیان گفتگو کی حوصلہ افزائی کرتی ہیں، لیکن یہ تسلیم کرتی ہیں کہ اس میں الگورتھمک نظاموں میں تعصب اور امتیازی سلوک کی انکوڈنگ کا کوئی ممکنہ حل نہیں ہے۔ اخلاقی ڈھانچے اور طرز عمل مارچ 2018 میں، انسانی حقوق پر مشین لرننگ کے اثرات پر بڑھتے ہوئے خدشات کو دور کرنے کی کوشش میں، ورلڈ اکنامک فورم اور گلوبل فیوچر کونسل آن ہیومن رائٹس نے ایک وائٹ پیپر شائع کیا جس میں تفصیلی سفارشات پیش کی گئیں کہ مشین لرننگ میں امتیازی نتائج کو کیسے روکا جائے۔ ورلڈ اکنامک فورم نے مشین لرننگ میں امتیازی نتائج کو دور کرنے اور روکنے میں مدد کے لیے اقوام متحدہ کے انسانی حقوق کے رہنما اصولوں پر مبنی چار سفارشات تیار کیں۔ ورلڈ اکنامک فورم کی سفارشات مندرجہ ذیل ہیں: فعال شمولیت: مشین لرننگ ایپلی کیشنز کی ترقی اور ڈیزائن کو فعال طور پر ان پٹ کے تنوع کی تلاش کرنی چاہیے، خاص طور پر اے آئی سسٹم کے آؤٹ پٹ سے متاثر مخصوص آبادیوں کے اصولوں اور اقدار کی۔ انصاف: مشین لرننگ سسٹم کے تصور، ترقی اور نفاذ میں شامل لوگوں کو اس بات پر غور کرنا چاہیے کہ انصاف کی کون سی تعریف ان کے سیاق و سباق اور اطلاق پر سب سے زیادہ لاگو ہوتی ہے، اور اسے مشین لرننگ سسٹم کے فن تعمیر اور اس کے تشخیصی میٹرکس میں ترجیح دینی چاہیے۔ سمجھنے کا حق: فیصلہ سازی میں مشین لرننگ سسٹم کی شمولیت جو انفرادی حقوق کو متاثر کرتی ہے اسے ظاہر کیا جانا چاہیے، اور سسٹم کو اپنے فیصلہ سازی کی وضاحت فراہم کرنے کے قابل ہونا چاہیے جو اختتامی صارفین کے لیے قابل فہم ہو اور ایک قابل انسانی اتھارٹی کے ذریعے قابل جائزہ ہو۔ جہاں یہ ناممکن ہے اور حقوق خطرے میں ہیں، مشین لرننگ ٹیکنالوجی کے ڈیزائن، تعیناتی اور ضابطے میں قائدین کو یہ سوال کرنا چاہیے کہ آیا اسے استعمال کیا جانا چاہیے یا نہیں۔ رسائی سے ازالہ: مشین لرننگ سسٹم کے قائدین، ڈیزائنرز، اور ڈویلپرز اپنے نظام کے ممکنہ منفی انسانی حقوق کے اثرات کی نشاندہی کرنے کے ذمہ دار ہیں۔ انہیں متفرق اثرات سے متاثرہ افراد کے تدارک کے لیے واضح راستے بنانے چاہئیں، اور کسی بھی امتیازی نتائج کے بروقت تدارک کے لیے عمل قائم کرنا چاہیے۔ جنوری 2020 میں، ہارورڈ یونیورسٹی کے برکمین کلین سینٹر فار انٹرنیٹ اینڈ سوسائٹی نے اے آئی کے لیے 36 نمایاں اصولوں کا ایک میٹا اسٹڈی شائع کیا، جس میں آٹھ کلیدی موضوعات کی نشاندہی کی گئی: رازداری، جوابدہی، حفاظت اور سلامتی، شفافیت اور وضاحت، انصاف پسندی اور غیر امتیازی سلوک، ٹیکنالوجی کا انسانی کنٹرول، پیشہ ورانہ ذمہ داری، اور انسانی اقدار کا فروغ۔ اسی طرح کا میٹا اسٹڈی 2019 میں زیورخ میں سوئس فیڈرل انسٹی ٹیوٹ آف ٹیکنالوجی کے محققین نے کیا تھا۔ نقطہ نظر اخلاقیات کو قابل حساب، یا کم از کم رسمی بنانے کی کئی کوششیں کی گئی ہیں۔ اگرچہ آئزک ایزیموف کے روبوٹکس کے تین قوانین کو عام طور پر مصنوعی اخلاقی ایجنٹ کے لیے موزوں نہیں سمجھا جاتا ہے، لیکن اس بات کا مطالعہ کیا گیا ہے کہ آیا کانٹ کی واضح ضرورت کو استعمال کیا جا سکتا ہے۔ تاہم، اس بات کی نشاندہی کی گئی ہے کہ انسانی قدر کچھ پہلوؤں میں بہت پیچیدہ ہے۔ اس مشکل پر واضح طور پر قابو پانے کا ایک طریقہ یہ ہے کہ انسانی اقدار کو کسی طریقہ کار کے ذریعے انسانوں سے براہ راست حاصل کیا جائے، مثال کے طور پر انہیں سیکھ کر۔ ایک اور نقطہ نظر یہ ہے کہ موجودہ اخلاقی تحفظات کو پچھلے اسی طرح کے حالات پر مبنی کیا جائے۔ اسے کازوسٹری کہا جاتا ہے، اور اسے انٹرنیٹ پر تحقیق کے ذریعے نافذ کیا جا سکتا ہے۔ ایک ملین ماضی کے فیصلوں سے اتفاق رائے ایک نئے فیصلے کا باعث بنے گا جو جمہوریت پر منحصر ہے۔ پروفیسر بروس ایم میک لارن نے کیسیوسٹری کا ایک ابتدائی (1990 کی دہائی کے وسط) کمپیوٹیشنل ماڈل بنایا، خاص طور پر ایک پروگرام جسے سیروکو کہا جاتا ہے جو اے آئی اور کیس بیس استدلال کی تکنیکوں کے ساتھ بنایا گیا ہے جو اخلاقی دشواریوں کو بازیافت اور تجزیہ کرتا ہے۔ تاہم، یہ نقطہ نظر ایسے فیصلوں کا باعث بن سکتا ہے جو معاشرے میں ظاہر ہونے والے تعصبات اور غیر اخلاقی طرز عمل کی عکاسی کرتے ہیں۔ اس نقطہ نظر کے منفی اثرات مائیکروسافٹ کے تائی (بوٹ) میں دیکھے جا سکتے ہیں، جہاں چیٹر بوٹ نے ٹویٹر صارفین کی طرف سے بھیجے گئے نسل پرستانہ اور جنسی طور پر چارج شدہ پیغامات کو دہرانا سیکھا۔ ایک سوچ کا تجربہ جینی گولم پر مرکوز ہے جس میں لامحدود طاقتیں ہیں جو خود کو قارئین کے سامنے پیش کرتی ہیں۔ یہ جینی اعلان کرتا ہے کہ یہ 50 سالوں میں واپس آئے گا اور مطالبہ کرتا ہے کہ اسے اخلاقیات کا ایک قطعی مجموعہ فراہم کیا جائے جس پر وہ فوری طور پر عمل کرے گا۔ اس تجربے کا مقصد اس بات پر گفتگو شروع کرنا ہے کہ اخلاقیات کے مکمل سیٹ کی وضاحت کو کس طرح بہتر طریقے سے سنبھالا جائے جسے کمپیوٹر سمجھ سکیں۔ فکشن میں سائنس فکشن میں، فلموں اور ناولوں نے روبوٹ اور مشینوں میں جذبات کے خیال کے ساتھ کھیل کھیلا ہے۔ نیل بلومکیمپ کی چیپی (2015) نے کسی کے شعور کو کمپیوٹر میں منتقل کرنے کے قابل ہونے کا ایک منظر نامہ نافذ کیا۔ الیکس گارلینڈ کی فلم، ایکس ماچینا (2014)، مصنوعی ذہانت کے ساتھ ایک اینڈرائڈ کے بعد ٹورنگ ٹیسٹ کی تبدیلی سے گزر رہی ہے، یہ ٹیسٹ ایک مشین کو یہ دیکھنے کے لیے دیا جاتا ہے کہ آیا اس کے رویے کو انسان سے ممتاز کیا جا سکتا ہے۔ دی ٹرمینیٹر (1984) اور دی میٹرکس (1999) جیسی تصانیف میں اپنے انسانی آقاؤں کو چالو کرنے والی مشینوں کے تصور کو شامل کیا گیا ہے (مصنوعی ذہانت دیکھیں)۔ آئزک امیموف نے 1950 کی دہائی میں آئی، روبوٹ میں اس مسئلے پر غور کیا۔ اپنے ایڈیٹر جان ڈبلیو کیمبل جونیئر کے اصرار پر، انہوں نے مصنوعی طور پر ذہین نظاموں کو چلانے کے لیے روبوٹکس کے تین قوانین کی تجویز پیش کی۔ اس کے بعد ان کا زیادہ تر کام ان کے تین قوانین کی حدود کی جانچ کرنے میں گزرا تاکہ یہ معلوم کیا جا سکے کہ وہ کہاں ٹوٹ جائیں گے، یا وہ کہاں متضاد یا غیر متوقع طرز عمل پیدا کریں گے۔ ان کے کام سے پتہ چلتا ہے کہ مقررہ قوانین کا کوئی مجموعہ تمام ممکنہ حالات کا کافی اندازہ نہیں لگا سکتا۔ فلپ کے ڈک کے ناول، ڈو اینڈرائڈز ڈریم آف الیکٹرک شیپ؟ (1968)، وہ دریافت کرتا ہے کہ انسان ہونے کا کیا مطلب ہے۔ اپنے پوسٹ اپوکلیپٹک منظر نامے میں، انہوں نے سوال کیا کہ کیا ہمدردی مکمل طور پر انسانی خصوصیت ہے۔ ان کی کہانی سائنس فکشن فلم بلیڈ رنر (1982) کی بنیاد ہے۔ متعلقہ شعبے متاثر کن کمپیوٹنگ رسمی اخلاقیات ذہن کی کمپیوٹیشنل تھیوری کمپیوٹر اخلاقیات مصنوعی ذہانت کی اخلاقی نفسیات مصنوعی ذہانت کا فلسفہ ذہن کا فلسفہ بھی دیکھیں مصنوعی ذہانت اے آئی سیفٹی اے آئی ٹیک اوور فکشن میں مصنوعی ذہانت دوستانہ مصنوعی ذہانت خودکار طبی فیصلے کی حمایت گوگل کار ملٹری روبوٹ مشین انٹیلی جنس ریسرچ انسٹی ٹیوٹ روبوٹ اخلاقیات خلائی قانون طبی فیصلے کو خودکار بنانے کے لیے خود نقل کرنے والا خلائی جہاز واٹسن پروجیکٹ-سپورٹ ٹی (بوٹ) نوٹ بیرونی روابط مشین اخلاقیات، مشین اخلاقیات پر بین الضابطہ منصوبہ۔ مشین ایتھکس پوڈ کاسٹ، مشین ایتھکس، اے آئی اور ٹیک اخلاقیات پر بحث کرنے والا پوڈ کاسٹ۔ حوالہ جات والچ، وینڈل ؛ ایلن، کولن (نومبر 2008)۔ اخلاقی مشینیں: روبوٹس کو غلط سے صحیح سکھانا۔ امریکہ: آکسفورڈ یونیورسٹی پریس۔ اینڈرسن، مائیکل ؛ اینڈرسن، سوسن لی، ایڈز (جولائی 2011)۔ مشین اخلاقیات۔ کیمبرج یونیورسٹی پریس۔ اسٹورس ہال، جے۔ (30 مئی 2007)۔ AI سے پرے: مشین پرومیتھیس کتابوں کا ضمیر بنانا۔ مور، جے۔ (2006)۔ مشین اخلاقیات کی نوعیت، اہمیت اور دشواری۔ آئی ای ای ای انٹیلیجنٹ سسٹمز، 21 (4)، پی پی۔ 18-21۔ اینڈرسن، ایم اور اینڈرسن، ایس۔ (2007)۔ ایک اخلاقی ذہین ایجنٹ بنانا۔ اے آئی میگزین، جلد 28 (4)۔ مزید پڑھنا ہیگنڈورف، تھیلو (2021)۔ انسانی اور مشین کے رویے کو جوڑنا: فائدہ مند مشین لرننگ کے لیے تربیتی ڈیٹا کے معیار کی تشخیص کے لیے ایک نیا نقطہ نظر۔ ذہن اور مشینیں۔ اینڈرسن، مائیکل ؛ اینڈرسن، سوسن لی، ایڈز (جولائی/اگست 2006)۔ "مشین اخلاقیات پر خصوصی شمارہ"۔ آئی ای ای ای انٹیلیجنٹ سسٹمز 21 (4): 10-63۔ بینڈل، اولیور (دسمبر 11، 2013)۔ جانوروں اور مشین اخلاقیات کے درمیان تعلقات کے بارے میں غور و فکر۔ اے آئی اینڈ سوسائٹی۔ ڈیبرنگر، گیرہارڈ، ایڈ۔ (2010)۔ "بغیر پائلٹ کے نظام کے اخلاقی اور قانونی پہلو۔ انٹرویو۔ " آسٹریا کی وزارت دفاع اور کھیل، ویانا 2010،۔ گارڈنر، اے۔ (1987)۔ قانونی استدلال کے لیے مصنوعی نقطہ نظر۔ کیمبرج، ایم اے: ایم آئی ٹی پریس۔ جارجز، ٹی۔ ایم۔ (2003)۔ ڈیجیٹل روح: ذہین مشینیں اور انسانی اقدار۔ کیمبرج، ایم اے: ویسٹ ویو پریس۔ گلوکار، پی ڈبلیو۔ (29 دسمبر 2009)۔ جنگ کے لیے وائرڈ: اکیسویں صدی میں روبوٹکس انقلاب اور تنازعہ: پینگوئن۔ ون فیلڈ، اے۔، مائیکل، کے۔، پٹ، جے۔ اور ایورز، وی۔ (مارچ 2019)۔ مشین اخلاقیات پر خصوصی مسئلہ: اخلاقی AI اور خود مختار نظاموں کا ڈیزائن اور حکمرانی۔ آئی ای ای ای کی کارروائی۔ 107 (3): 501-615، آرگیومنٹ ٹیکنالوجی کمپیوٹنگ اینڈ سوسائٹی سائنس اور ٹیکنالوجی کی اخلاقیات مصنوعی ذہانت کا فلسفہ