AI safety
اے آئی سیفٹی ایک بین الضابطہ شعبہ ہے جس کا تعلق حادثات، غلط استعمال، یا دیگر نقصان دہ نتائج کی روک تھام سے ہے جو مصنوعی ذہانت (اے آئی) کے نظام کے نتیجے میں ہو سکتے ہیں۔ اس میں مشین اخلاقیات اور مصنوعی ذہانت کی صف بندی شامل ہے، جس کا مقصد مصنوعی ذہانت کے نظام کو اخلاقی اور فائدہ مند بنانا ہے، اور مصنوعی ذہانت کی حفاظت میں تکنیکی مسائل شامل ہیں جن میں خطرات کے لیے نگرانی کے نظام اور انہیں انتہائی قابل اعتماد بنانا شامل ہے۔ مصنوعی ذہانت کی تحقیق کے علاوہ، اس میں ایسے اصولوں اور پالیسیوں کو تیار کرنا شامل ہے جو حفاظت کو فروغ دیتے ہیں۔ محرکات اے آئی محققین کی اے آئی ٹیکنالوجی سے پیدا ہونے والے خطرے کی شدت اور بنیادی ذرائع کے بارے میں وسیع پیمانے پر مختلف آراء ہیں-حالانکہ سروے سے پتہ چلتا ہے کہ ماہرین اعلی نتائج کے خطرات کو سنجیدگی سے لیتے ہیں۔ اے آئی محققین کے دو سروے میں، اوسط جواب دہندہ مجموعی طور پر اے آئی کے بارے میں پر امید تھا، لیکن اس نے 5 فیصد امکان کو "انتہائی خراب" پر رکھا۔ انسانی معدومیت) "اعلی درجے کی AI کا نتیجہ۔ نیچرل لینگویج پروسیسنگ (این ایل پی) کمیونٹی کے 2022 کے سروے میں، 37 فیصد نے اتفاق کیا یا کمزور طور پر اس بات پر اتفاق کیا کہ یہ قابل فہم ہے کہ اے آئی کے فیصلے ایک ایسی تباہی کا باعث بن سکتے ہیں جو "کم از کم ایک مکمل جوہری جنگ کی طرح خراب" ہے۔ اسکالرز اہم نظام کی ناکامیوں، تعصب، اور اے آئی فعال نگرانی سے موجودہ خطرات پر تبادلہ خیال کرتے ہیں۔ تکنیکی بے روزگاری، ڈیجیٹل ہیرا پھیری، اور ہتھیاروں سے ابھرتے ہوئے خطرات ؛ اور مستقبل کے مصنوعی جنرل انٹیلی جنس (اے جی آئی) ایجنٹوں کا کنٹرول کھونے سے قیاس آرائی پر مبنی خطرات۔ کچھ لوگوں نے اے جی آئی کے بارے میں خدشات پر تنقید کی ہے، جیسے اینڈریو این جی جنہوں نے 2015 میں ان کا موازنہ "مریخ پر زیادہ آبادی کے بارے میں فکر کرنے سے کیا جب کہ ہم نے ابھی تک سیارے پر قدم بھی نہیں رکھا ہے۔" دوسری طرف اسٹیورٹ جے رسل احتیاط پر زور دیتے ہوئے کہتے ہیں کہ "انسانی ذہانت کو کم سمجھنے سے بہتر ہے کہ اس کی توقع کی جائے"۔ کمپیوٹر کے دور کے آغاز میں اے آئی سے ہونے والے پس منظر کے خطرات پر سنجیدگی سے تبادلہ خیال ہونا شروع ہوا: 2008 سے 2009 تک، ایسوسی ایشن فار دی ایڈوانسمنٹ آف آرٹیفیشل انٹیلی جنس (اے اے اے آئی) نے اے آئی تحقیق اور ترقی کے ممکنہ طویل مدتی سماجی اثرات کو تلاش کرنے اور ان سے نمٹنے کے لیے ایک مطالعہ شروع کیا۔ پینل عام طور پر سائنس فکشن کے مصنفین کے اظہار کردہ بنیاد پرست خیالات کے بارے میں شکوک و شبہات کا شکار تھا لیکن اس بات پر اتفاق کیا کہ "غیر متوقع نتائج کو کم کرنے کے لیے پیچیدہ کمپیوٹیشنل سسٹمز کے طرز عمل کی حد کو سمجھنے اور تصدیق کرنے کے طریقوں پر اضافی تحقیق قابل قدر ہوگی"۔ 2011 میں، رومن یامپولسکی نے فلاسفی اینڈ تھیوری آف آرٹیفیشل انٹیلی جنس کانفرنس میں "اے آئی سیفٹی انجینئرنگ" کی اصطلاح متعارف کرائی، جس میں اے آئی سسٹمز کی سابقہ ناکامیوں کو درج کیا گیا اور یہ دلیل دی گئی کہ "جیسے جیسے اے آئی زیادہ قابل ہوتے جائیں گے اس طرح کے واقعات کی تعدد اور سنگینی میں مسلسل اضافہ ہوگا"۔ 2014 میں فلسفی نک بوسٹروم نے کتاب سپر انٹیلی جنس: پاتھز، ڈینجرز، اسٹریٹجیز شائع کی۔ ان کی رائے ہے کہ اے جی آئی کے عروج میں مختلف سماجی مسائل پیدا کرنے کی صلاحیت ہے، جن میں اے آئی کے ذریعے افرادی قوت کی نقل مکانی، سیاسی اور فوجی ڈھانچوں میں ہیرا پھیری، یہاں تک کہ انسانی معدومیت کا امکان بھی شامل ہے۔ ان کی یہ دلیل کہ مستقبل کے جدید نظام انسانی وجود کے لیے خطرہ بن سکتے ہیں، ایلون مسک، بل گیٹس اور اسٹیفن ہاکنگ کو بھی اسی طرح کے خدشات کا اظہار کرنے پر آمادہ کرتی ہے۔ 2015 میں، مصنوعی ذہانت کے درجنوں ماہرین نے مصنوعی ذہانت پر ایک کھلے خط پر دستخط کیے جس میں اے آئی کے سماجی اثرات پر تحقیق اور ٹھوس سمتوں کا خاکہ پیش کرنے کا مطالبہ کیا گیا۔ آج تک اس خط پر 8000 سے زائد افراد کے دستخط ہو چکے ہیں جن میں یان لیکون، شین لیگ، یوشوا بینجیو اور اسٹیورٹ رسل شامل ہیں۔ اسی سال، پروفیسر اسٹیورٹ رسل کی سربراہی میں ماہرین تعلیم کے ایک گروپ نے یونیورسٹی آف کیلیفورنیا برکلے میں سینٹر فار ہیومن-کمپیٹیبل اے آئی کی بنیاد رکھی اور فیوچر آف لائف انسٹی ٹیوٹ نے تحقیق کے لیے 65 لاکھ ڈالر کی گرانٹ سے نوازا جس کا مقصد "مصنوعی ذہانت (اے آئی) کو محفوظ، اخلاقی اور فائدہ مند رہنے کو یقینی بنانا ہے۔" 2016 میں، وائٹ ہاؤس آفس آف سائنس اینڈ ٹیکنالوجی پالیسی اور کارنیگی میلن یونیورسٹی نے دی پبلک ورکشاپ آن سیفٹی اینڈ کنٹرول فار آرٹیفیشل انٹیلی جنس کا اعلان کیا، جو وائٹ ہاؤس کی چار ورکشاپس کے سلسلے میں سے ایک تھی جس کا مقصد اے آئی کے "فوائد اور خامیوں" کی تحقیقات کرنا تھا۔ اسی سال اے آئی سیفٹی میں ٹھوس مسائل-جو کہ پہلے اور سب سے زیادہ بااثر تکنیکی اے آئی سیفٹی ایجنڈوں میں سے ایک ہے-شائع کیا گیا۔ 2017 میں، فیوچر آف لائف انسٹی ٹیوٹ نے فائدہ مند اے آئی پر اسیلومار کانفرنس کو اسپانسر کیا، جہاں 100 سے زیادہ مفکرین نے فائدہ مند اے آئی کے لیے اصول وضع کیے جن میں "ریس سے بچاؤ: اے آئی سسٹم تیار کرنے والی ٹیموں کو حفاظتی معیارات میں کٹوتی سے بچنے کے لیے فعال طور پر تعاون کرنا چاہیے"۔ 2018 میں، ڈیپ مائنڈ سیفٹی ٹیم نے تفصیلات، مضبوطی اور یقین دہانی میں اے آئی حفاظتی مسائل کا خاکہ پیش کیا۔ اگلے سال، محققین نے آئی سی ایل آر میں ایک ورکشاپ کا انعقاد کیا جس میں ان مسائل کے علاقوں پر توجہ مرکوز کی گئی۔ 2021 میں، ایم ایل سیفٹی میں غیر حل شدہ مسائل شائع کیے گئے، جس میں مضبوطی، نگرانی، صف بندی اور نظامی حفاظت میں تحقیقی ہدایات کا خاکہ پیش کیا گیا۔ 2023 میں، رشی سنک نے کہا کہ وہ چاہتے ہیں کہ برطانیہ "عالمی اے آئی سیفٹی ریگولیشن کا جغرافیائی گھر" بنے اور اے آئی سیفٹی پر پہلی عالمی سربراہ کانفرنس کی میزبانی کرے۔ ریسرچ فوس اے آئی سیفٹی ریسرچ کے شعبوں میں مضبوطی، نگرانی اور صف بندی شامل ہیں۔ سختی مخالف مضبوطی اے آئی سسٹم اکثر مخالف مثالوں یا "مشین لرننگ (ایم ایل) ماڈلز کے ان پٹ کے لیے کمزور ہوتے ہیں جنہیں ایک حملہ آور نے جان بوجھ کر ماڈل کو غلطی کا سبب بنانے کے لیے ڈیزائن کیا ہے۔" مثال کے طور پر، 2013 میں، Szegedy et al. دریافت کیا کہ کسی تصویر میں مخصوص ناقابل فہم پریشانیوں کو شامل کرنے سے اسے اعلی اعتماد کے ساتھ غلط درجہ بندی کیا جا سکتا ہے۔ یہ عصبی نیٹ ورکس کے ساتھ ایک مسئلہ بنا ہوا ہے، حالانکہ حالیہ کام میں عوارض عام طور پر اتنے بڑے ہوتے ہیں کہ قابل فہم ہوتے ہیں۔ دائیں طرف کی تمام تصاویر پرٹربیشن لگانے کے بعد شترمرغ ہونے کی پیش گوئی کی گئی ہے۔ (بائیں) ایک درست پیش گوئی شدہ نمونہ ہے، (مرکز) پرٹربیشن کو 10x، (دائیں) مخالف مثال سے بڑھایا جاتا ہے۔ مخالفانہ مضبوطی اکثر سلامتی سے وابستہ ہوتی ہے۔ محققین نے مظاہرہ کیا کہ آڈیو سگنل کو ناقابل فہم طور پر تبدیل کیا جا سکتا ہے تاکہ اسپیچ ٹو ٹیکسٹ سسٹم اسے حملہ آور کے منتخب کردہ کسی بھی پیغام میں نقل کر سکے۔ نیٹ ورک کی مداخلت اور میلویئر کا پتہ لگانے کے نظام کو بھی مخالفانہ طور پر مضبوط ہونا چاہیے کیونکہ حملہ آور اپنے حملوں کو ڈٹیکٹرز کو بے وقوف بنانے کے لیے ڈیزائن کر سکتے ہیں۔ مقاصد کی نمائندگی کرنے والے نمونے (انعامی نمونے) بھی مخالفانہ طور پر مضبوط ہونے چاہئیں۔ مثال کے طور پر، ایک ریوارڈ ماڈل اندازہ لگا سکتا ہے کہ ٹیکسٹ رسپانس کتنا مددگار ہے اور اس اسکور کو زیادہ سے زیادہ کرنے کے لیے زبان کے ماڈل کو تربیت دی جا سکتی ہے۔ محققین نے دکھایا ہے کہ اگر کسی زبان کے ماڈل کو کافی عرصے تک تربیت دی جاتی ہے، تو یہ بہتر اسکور حاصل کرنے اور مطلوبہ کام پر بدتر کارکردگی کا مظاہرہ کرنے کے لیے انعامی ماڈل کی کمزوریوں سے فائدہ اٹھائے گا۔ انعام کے ماڈل کی مخالفانہ مضبوطی کو بہتر بنا کر اس مسئلے کو حل کیا جا سکتا ہے۔ زیادہ عام طور پر، کسی دوسرے اے آئی سسٹم کا جائزہ لینے کے لیے استعمال ہونے والا کوئی بھی اے آئی سسٹم مخالفانہ طور پر مضبوط ہونا چاہیے۔ اس میں نگرانی کے اوزار شامل ہو سکتے ہیں، کیونکہ زیادہ انعام حاصل کرنے کے لیے ان کے ساتھ ممکنہ طور پر چھیڑ چھاڑ بھی کی جا سکتی ہے۔ غیر یقینی صورتحال کے تخمینے کی نگرانی انسانی آپریٹرز کے لیے اکثر یہ اندازہ لگانا ضروری ہے کہ انہیں اے آئی سسٹم پر کتنا بھروسہ کرنا چاہیے، خاص طور پر طبی تشخیص جیسی اعلی داؤ کی ترتیبات میں۔ ایم ایل ماڈل عام طور پر امکانات کو ظاہر کرکے اعتماد کا اظہار کرتے ہیں ؛ تاہم، وہ اکثر حد سے زیادہ پر اعتماد ہوتے ہیں، خاص طور پر ان حالات میں جو ان سے مختلف ہوتے ہیں جنہیں سنبھالنے کے لیے انہیں تربیت دی گئی تھی۔ پیمائش کی تحقیق کا مقصد ماڈل کے امکانات کو اس حقیقی تناسب سے جتنا ممکن ہو اتنا قریب سے مطابقت بنانا ہے کہ ماڈل درست ہے۔ اسی طرح، بے ضابطگی کا پتہ لگانے یا آؤٹ آف ڈسٹری بیوشن (او او ڈی) کا پتہ لگانے کا مقصد یہ شناخت کرنا ہے کہ اے آئی سسٹم کب غیر معمولی صورتحال میں ہے۔ مثال کے طور پر، اگر کسی خود مختار گاڑی کا سینسر خراب ہو رہا ہے، یا اسے مشکل علاقوں کا سامنا کرنا پڑتا ہے، تو اسے ڈرائیور کو کنٹرول سنبھالنے یا پل اوور کرنے کے لیے الرٹ کرنا چاہیے۔ بے ضابطگی کا پتہ لگانے کا عمل صرف درجہ بندی کرنے والے کو بے ضابطگی اور غیر بے ضابطگی والے آدانوں میں فرق کرنے کی تربیت دے کر نافذ کیا گیا ہے، حالانکہ اضافی تکنیکوں کی ایک رینج استعمال میں ہے۔ بدنیتی پر مبنی استعمال کا پتہ لگانے کے لیے اسکالرز اور سرکاری ایجنسیوں نے خدشات کا اظہار کیا ہے کہ اے آئی سسٹم کو بدنیتی پر مبنی اداکاروں کو ہتھیار بنانے، رائے عامہ میں ہیرا پھیری کرنے، یا سائبر حملوں کو خودکار بنانے میں مدد کے لیے استعمال کیا جا سکتا ہے۔ یہ خدشات اوپن اے آئی جیسی کمپنیوں کے لیے ایک عملی تشویش ہیں جو آن لائن طاقتور اے آئی ٹولز کی میزبانی کرتی ہیں۔ غلط استعمال کو روکنے کے لیے، اوپن اے آئی نے پتہ لگانے کے نظام بنائے ہیں جو صارفین کو ان کی سرگرمی کی بنیاد پر نشان زد یا محدود کرتے ہیں۔ ٹرانسپیرنسی نیورل نیٹ ورکس کو اکثر بلیک باکس کے طور پر بیان کیا گیا ہے، اس کا مطلب یہ ہے کہ یہ سمجھنا مشکل ہے کہ وہ بڑے پیمانے پر کمپیوٹیشن کے نتیجے میں فیصلے کیوں کرتے ہیں۔ اس سے ناکامیوں کا اندازہ لگانا مشکل ہو جاتا ہے۔ 2018 میں، ایک سیلف ڈرائیونگ کار نے ایک پیدل چلنے والے کو ان کی شناخت نہ کرنے پر ہلاک کر دیا۔ اے آئی سافٹ ویئر کے بلیک باکس کی نوعیت کی وجہ سے، ناکامی کی وجہ واضح نہیں ہے۔ شفافیت کا ایک اہم فائدہ وضاحت ہے۔ بعض اوقات یہ قانونی ضرورت ہوتی ہے کہ اس بات کی وضاحت فراہم کی جائے کہ انصاف پسندی کو یقینی بنانے کے لیے فیصلہ کیوں کیا گیا، مثال کے طور پر نوکری کی درخواستوں کو خود بخود فلٹر کرنے یا کریڈٹ سکور اسائنمنٹ کے لیے۔ ایک اور فائدہ ناکامی کی وجہ کو ظاہر کرنا ہے۔ 2020 کووڈ-19 وبائی مرض کے آغاز میں، محققین نے شفافیت کے ٹولز کا استعمال یہ ظاہر کرنے کے لیے کیا کہ میڈیکل امیج کلاسیفائر ہسپتال کے غیر متعلقہ لیبلز پر 'توجہ دے رہے تھے'۔ غلطیوں کو درست کرنے کے لیے شفافیت کی تکنیکوں کا بھی استعمال کیا جا سکتا ہے۔ مثال کے طور پر، مقالے "لوکیٹنگ اینڈ ایڈیٹنگ فیکچوئل ایسوسی ایشنز ان جی پی ٹی" میں، مصنفین ماڈل پیرامیٹرز کی نشاندہی کرنے میں کامیاب رہے جنہوں نے متاثر کیا کہ اس نے ایفل ٹاور کے مقام کے بارے میں سوالات کے جوابات کیسے دیے۔ اس کے بعد وہ اس علم کو 'ترمیم' کرنے کے قابل ہو گئے تاکہ ماڈل کو سوالات کا جواب دیا جا سکے گویا اس کا خیال ہے کہ ٹاور فرانس کے بجائے روم میں ہے۔ اگرچہ اس معاملے میں، مصنفین نے ایک غلطی کو جنم دیا، ان طریقوں کو ممکنہ طور پر ان کو مؤثر طریقے سے ٹھیک کرنے کے لیے استعمال کیا جا سکتا ہے۔ کمپیوٹر وژن میں ماڈل ایڈیٹنگ کی تکنیکیں بھی موجود ہیں۔ آخر میں، کچھ لوگوں نے استدلال کیا ہے کہ اے آئی سسٹم کی غیر واضحیت خطرے کا ایک اہم ذریعہ ہے اور اس کی بہتر تفہیم کہ وہ کیسے کام کرتے ہیں مستقبل میں اعلی نتائج کی ناکامیوں کو روک سکتا ہے۔ "اندرونی" تشریح کی تحقیق کا مقصد ایم ایل ماڈلز کو کم غیر واضح بنانا ہے۔ اس تحقیق کا ایک مقصد یہ شناخت کرنا ہے کہ اندرونی نیوران کی سرگرمیاں کس چیز کی نمائندگی کرتی ہیں۔ مثال کے طور پر، محققین نے سی ایل آئی پی مصنوعی ذہانت کے نظام میں ایک نیوران کی نشاندہی کی جو مکڑی انسان کے ملبوسات، مکڑی انسان کے خاکے، اور لفظ 'مکڑی' میں لوگوں کی تصاویر کا جواب دیتا ہے۔ اس میں ان نیوران یا 'سرکٹس' کے درمیان رابطوں کی وضاحت بھی شامل ہے۔ مثال کے طور پر، محققین نے ٹرانسفارمر کی توجہ میں پیٹرن سے ملنے والے میکانزم کی نشاندہی کی ہے جو زبان کے ماڈل اپنے سیاق و سباق سے سیکھنے میں کردار ادا کر سکتے ہیں۔ "اندرونی تشریح" کا موازنہ نیورو سائنس سے کیا گیا ہے۔ دونوں صورتوں میں، مقصد یہ سمجھنا ہے کہ ایک پیچیدہ نظام میں کیا ہو رہا ہے، حالانکہ ایم ایل محققین کو کامل پیمائش کرنے اور من مانی ابلیشن انجام دینے کے قابل ہونے کا فائدہ حاصل ہے۔ ٹروجن کے ایم ایل ماڈلز کا پتہ لگانے میں ممکنہ طور پر 'ٹروجن' یا 'بیک ڈور' شامل ہو سکتے ہیں: وہ کمزوریاں جو بدنیتی پر مبنی اداکار بدنیتی سے اے آئی سسٹم میں بناتے ہیں۔ مثال کے طور پر، جب زیورات کا کوئی مخصوص ٹکڑا نظر آتا ہے تو ٹروجنڈ چہرے کی شناخت کا نظام رسائی فراہم کر سکتا ہے ؛ یا ٹروجنڈ خود مختار گاڑی عام طور پر اس وقت تک کام کر سکتی ہے جب تک کہ کوئی مخصوص محرک نظر نہ آئے۔ نوٹ کریں کہ ٹروجن لگانے کے لیے مخالف کو نظام کے تربیتی ڈیٹا تک رسائی حاصل ہونی چاہیے۔ یہ کچھ بڑے ماڈلز جیسے سی ایل آئی پی یا جی پی ٹی-3 کے ساتھ کرنا مشکل نہیں ہو سکتا کیونکہ انہیں عوامی طور پر دستیاب انٹرنیٹ ڈیٹا پر تربیت دی جاتی ہے۔ محققین 3 ملین ٹریننگ امیجز میں سے صرف 300 کو تبدیل کرکے امیج کلاسیفائر میں ٹروجن لگانے میں کامیاب ہوئے۔ حفاظتی خطرہ پیدا کرنے کے علاوہ، محققین نے استدلال کیا ہے کہ ٹروجن جانچ اور بہتر نگرانی کے اوزار تیار کرنے کے لیے ایک ٹھوس ترتیب فراہم کرتے ہیں۔ صف بندی نظاماتی حفاظت اور سماجی تکنیکی عوامل AI خطرات (اور زیادہ عام طور پر تکنیکی خطرات) کو غلط استعمال یا حادثات کے طور پر درجہ بندی کرنا عام ہے۔ کچھ اسکالرز نے تجویز کیا ہے کہ یہ فریم ورک کم ہے۔ مثال کے طور پر، کیوبا کا میزائل بحران واضح طور پر کوئی حادثہ یا ٹیکنالوجی کا غلط استعمال نہیں تھا۔ پالیسی تجزیہ کار زویٹسلوٹ اور ڈیفو نے لکھا، "غلط استعمال اور حادثے کے تناظر صرف ایک وجہ سلسلہ کے آخری مرحلے پر توجہ مرکوز کرتے ہیں جو نقصان کا باعث بنتا ہے: یعنی وہ شخص جس نے ٹیکنالوجی کا غلط استعمال کیا، یا وہ نظام جس نے غیر ارادی طریقوں سے برتاؤ کیا۔ اکثر، اگرچہ، متعلقہ وجہ سلسلہ بہت طویل ہوتا ہے۔" خطرات اکثر 'ساختی' یا 'نظامی' عوامل جیسے مسابقتی دباؤ، نقصانات کا پھیلاؤ، تیز رفتار ترقی، اعلی سطح کی غیر یقینی صورتحال، اور ناکافی حفاظتی ثقافت سے پیدا ہوتے ہیں۔ حفاظتی انجینئرنگ کے وسیع تر تناظر میں، 'تنظیمی حفاظتی ثقافت' جیسے ساختی عوامل مقبول STAMP رسک تجزیہ فریم ورک میں مرکزی کردار ادا کرتے ہیں۔ ساختی نقطہ نظر سے متاثر ہو کر، کچھ محققین نے سماجی تکنیکی حفاظتی عوامل کو بہتر بنانے کے لیے مشین لرننگ کے استعمال کی اہمیت پر زور دیا ہے، مثال کے طور پر، سائبر دفاع کے لیے ایم ایل کا استعمال، ادارہ جاتی فیصلہ سازی کو بہتر بنانا، اور تعاون کو آسان بنانا۔ سائبر دفاع کچھ اسکالرز کو خدشہ ہے کہ اے آئی سائبر حملہ آوروں اور سائبر محافظوں کے درمیان پہلے سے غیر متوازن کھیل کو بڑھائے گا۔ اس سے 'پہلی ہڑتال' کی ترغیبات میں اضافہ ہوگا اور یہ زیادہ جارحانہ اور غیر مستحکم حملوں کا باعث بن سکتا ہے۔ اس خطرے کو کم کرنے کے لیے، کچھ لوگوں نے سائبر دفاع پر زیادہ زور دینے کی وکالت کی ہے۔ اس کے علاوہ، طاقتور اے آئی ماڈلز کو چوری ہونے اور غلط استعمال ہونے سے روکنے کے لیے سافٹ ویئر سیکیورٹی ضروری ہے۔ ادارہ جاتی فیصلہ سازی کو بہتر بنانا اقتصادی اور فوجی شعبوں میں مصنوعی ذہانت کی ترقی بے مثال سیاسی چیلنجوں کو جنم دے سکتی ہے۔ کچھ اسکالرز نے اے آئی ریس کی حرکیات کا موازنہ سرد جنگ سے کیا ہے، جہاں فیصلہ سازوں کی ایک چھوٹی سی تعداد کا محتاط فیصلہ اکثر استحکام اور تباہی کے درمیان فرق کو واضح کرتا ہے۔ اے آئی محققین نے استدلال کیا ہے کہ اے آئی ٹیکنالوجیز کو فیصلہ سازی میں مدد کے لیے بھی استعمال کیا جا سکتا ہے۔ مثال کے طور پر، محققین AI پیشن گوئی اور مشاورتی نظام تیار کرنا شروع کر رہے ہیں۔ تعاون کو آسان بنانا بہت سے بڑے عالمی خطرات (جوہری جنگ، موسمیاتی تبدیلی وغیرہ) تعاون کے چیلنجوں کے طور پر تیار کیا گیا ہے۔ جیسا کہ معروف قیدی کے مخمصے کے منظر نامے میں، کچھ حرکیات تمام کھلاڑیوں کے لیے خراب نتائج کا باعث بن سکتی ہیں، یہاں تک کہ جب وہ اپنے مفاد میں بہتر طریقے سے کام کر رہے ہوں۔ مثال کے طور پر، کسی ایک اداکار کے پاس آب و ہوا کی تبدیلی سے نمٹنے کے لیے مضبوط ترغیبات نہیں ہیں حالانکہ اگر کوئی مداخلت نہ کرے تو اس کے نتائج اہم ہو سکتے ہیں۔ اے آئی تعاون کا ایک نمایاں چیلنج 'نچلی سطح تک کی دوڑ' سے گریز کرنا ہے۔ اس منظر نامے میں، ممالک یا کمپنیاں زیادہ قابل اے آئی سسٹم بنانے اور حفاظت کو نظر انداز کرنے کی دوڑ میں ہیں، جس کی وجہ سے ایک تباہ کن حادثہ ہوتا ہے جس میں شامل ہر شخص کو نقصان پہنچتا ہے۔ اس طرح کے منظرناموں کے بارے میں خدشات نے انسانوں کے درمیان اور ممکنہ طور پر اے آئی سسٹمز کے درمیان بھی تعاون کو آسان بنانے کے لیے سیاسی اور تکنیکی دونوں کوششوں کو متاثر کیا ہے۔ زیادہ تر AI تحقیق انفرادی ایجنٹوں کو الگ تھلگ افعال انجام دینے کے لیے ڈیزائن کرنے پر مرکوز ہے (اکثر 'سنگل پلیئر' گیمز میں)۔ اسکالرز نے تجویز کیا ہے کہ جیسے جیسے اے آئی سسٹم زیادہ خود مختار ہوتے جا رہے ہیں، ان کے تعامل کے طریقے کا مطالعہ اور تشکیل کرنا ضروری ہو سکتا ہے۔ حکمرانی میں اے آئی گورننس کا تعلق وسیع پیمانے پر اے آئی سسٹمز کے استعمال اور ترقی کی رہنمائی کے لیے اصولوں، معیارات اور ضوابط کی تشکیل سے ہے۔ ریسرچ اے آئی سیفٹی گورننس ریسرچ بنیادی تحقیقات سے لے کر اے آئی کے ممکنہ اثرات سے لے کر مخصوص ایپلی کیشنز تک ہے۔ بنیادی پہلو پر، محققین نے استدلال کیا ہے کہ اے آئی معاشرے کے بہت سے پہلوؤں کو اس کے وسیع اطلاق کی وجہ سے تبدیل کر سکتا ہے، اس کا موازنہ بجلی اور بھاپ انجن سے کر سکتا ہے۔ کچھ کاموں نے ان اثرات سے پیدا ہونے والے مخصوص خطرات کی پیش گوئی پر توجہ مرکوز کی ہے-مثال کے طور پر، بڑے پیمانے پر بے روزگاری، ہتھیاروں، غلط معلومات، نگرانی، اور طاقت کے ارتکاز سے خطرات۔ دیگر کام بنیادی خطرے کے عوامل کی کھوج کرتے ہیں جیسے کہ تیزی سے ترقی پذیر اے آئی انڈسٹری کی نگرانی میں دشواری، اے آئی ماڈلز کی دستیابی، اور 'نچلے حصے کی دوڑ' کی حرکیات۔ ڈیپ مائنڈ میں طویل مدتی حکمرانی اور حکمت عملی کے سربراہ ایلن ڈیفو نے ریسنگ کے خطرات اور تعاون کی ممکنہ ضرورت پر زور دیا ہے: "یہ اے آئی کی حفاظت اور صف بندی کے لیے ایک ضروری اور کافی شرط کے قریب ہو سکتا ہے کہ اعلی درجے کے طاقتور نظاموں کو تعینات کرنے سے پہلے اعلی درجے کی احتیاط ہو۔ تاہم، اگر اداکار کسی ڈومین میں فرسٹ موورز یا رشتہ دار فائدے کے لیے بڑے منافع کے ساتھ مقابلہ کر رہے ہیں، تو ان پر دباؤ ڈالا جائے گا کہ وہ احتیاط کی ذیلی بہترین سطح کا انتخاب کریں۔" کچھ ماہرین نے استدلال کیا ہے کہ اے آئی کو ریگولیٹ کرنا بہت جلد ہوگا، خدشات کا اظہار کرتے ہوئے کہ قواعد و ضوابط جدت میں رکاوٹ ڈالیں گے اور "لاعلمی میں ریگولیٹ کرنے میں جلدی کرنا" احمقانہ ہوگا۔ دوسرے، جیسے کاروباری شخصیت ایلون مسک، کم کرنے کے لیے پیشگی کارروائی کا مطالبہ کرتے ہیں۔ رسمی قانون سازی سے باہر، سرکاری ایجنسیوں نے اخلاقی اور حفاظتی سفارشات پیش کی ہیں۔ مارچ 2021 میں، یو ایس نیشنل سیکیورٹی کمیشن آن آرٹیفیشل انٹیلی جنس نے اطلاع دی کہ اے آئی میں پیشرفت "اس بات کو یقینی بنانا کہ نظام اہداف اور اقدار کے ساتھ منسلک ہیں، بشمول حفاظت، مضبوطی اور وشوسنییتا" کو تیزی سے اہم بنا سکتی ہے۔ اس کے بعد، نیشنل انسٹی ٹیوٹ آف اسٹینڈرڈز اینڈ ٹیکنالوجی نے اے آئی رسک کے انتظام کے لیے ایک فریم ورک کا مسودہ تیار کیا، جس میں مشورہ دیا گیا ہے کہ جب "تباہ کن خطرات موجود ہوں-ترقی اور تعیناتی کو محفوظ طریقے سے روکنا چاہیے جب تک کہ خطرات کو کافی حد تک منظم نہ کیا جا سکے"۔ ستمبر 2021 میں، عوامی جمہوریہ چین نے چین میں AI کے استعمال کے لیے اخلاقی رہنما خطوط شائع کیے، جس میں اس بات پر زور دیا گیا کہ AI کے فیصلے انسانی کنٹرول میں رہنے چاہئیں اور جوابدہی کے طریقہ کار کا مطالبہ کیا گیا۔ اسی مہینے میں، برطانیہ نے اپنی 10 سالہ نیشنل اے آئی اسٹریٹجی شائع کی، جس میں کہا گیا ہے کہ برطانوی حکومت "غیر وابستہ آرٹیفیشل جنرل انٹیلی جنس کے طویل مدتی خطرے، اور ان غیر متوقع تبدیلیوں کو جو دنیا کے لیے معنی رکھتی ہیں، سنجیدگی سے لیتی ہے۔" یہ حکمت عملی تباہ کن خطرات سمیت طویل مدتی اے آئی خطرات کا اندازہ لگانے کے اقدامات کو بیان کرتی ہے۔ برطانوی حکومت نے اے آئی سیفٹی پر پہلے بڑے عالمی اجلاس کے منصوبوں کا اعلان کیا ہے۔ یہ یکم اور 2 نومبر 2023 کو ہونے والا ہے اور یہ "پالیسی سازوں اور عالمی رہنماؤں کے لیے ایک موقع ہے کہ وہ اے آئی کے فوری اور مستقبل کے خطرات پر غور کریں اور عالمی سطح پر مربوط نقطہ نظر کے ذریعے ان خطرات کو کیسے کم کیا جا سکتا ہے"۔ سرکاری تنظیموں، خاص طور پر ریاستہائے متحدہ میں، نے بھی تکنیکی AI حفاظتی تحقیق کی ترقی کی حوصلہ افزائی کی ہے۔ انٹیلی جنس ایڈوانسڈ ریسرچ پروجیکٹس ایکٹیویٹی نے اے آئی سسٹمز پر ٹروجن حملوں کی شناخت اور حفاظت کے لیے ٹروجای پروجیکٹ کا آغاز کیا۔ ڈی اے آر پی اے قابل وضاحت مصنوعی ذہانت پر تحقیق اور مخالفانہ حملوں کے خلاف مضبوطی کو بہتر بنانے میں مصروف ہے۔ اور نیشنل سائنس فاؤنڈیشن سینٹر فار ٹرسٹ ورتھی مشین لرننگ کی حمایت کرتی ہے، اور تجرباتی اے آئی سیفٹی ریسرچ کے لیے لاکھوں ڈالر کی فنڈنگ فراہم کر رہی ہے۔ کارپوریٹ سیلف ریگولیشن اے آئی لیبز اور کمپنیاں عام طور پر حفاظتی طریقوں اور اصولوں کی پابندی کرتی ہیں جو رسمی قانون سازی سے باہر ہیں۔ گورننس کے محققین کا ایک مقصد ان اصولوں کی تشکیل کرنا ہے۔ ادب میں پائی جانے والی حفاظتی سفارشات کی مثالوں میں تھرڈ پارٹی آڈٹ انجام دینا، ناکامیوں کو تلاش کرنے کے لیے انعامات کی پیشکش کرنا، اے آئی واقعات کا اشتراک کرنا (اس مقصد کے لیے اے آئی واقعے کا ڈیٹا بیس بنایا گیا تھا)، تحقیق یا ماڈل شائع کرنے کے لیے رہنما اصولوں پر عمل کرنا، اور اے آئی لیبز میں معلومات اور سائبر سیکیورٹی کو بہتر بنانا شامل ہیں۔ کمپنیوں نے بھی وعدے کیے ہیں۔ کوہرے، اوپن اے آئی، اور اے آئی 21 نے غلط استعمال کو کم کرنے پر توجہ مرکوز کرتے ہوئے "زبان کے نمونوں کی تعیناتی کے لیے بہترین طریقوں" کی تجویز پیش کی اور اس پر اتفاق کیا۔ ریسنگ-ڈائنامکس میں حصہ ڈالنے سے بچنے کے لیے، اوپن اے آئی نے اپنے چارٹر میں یہ بھی کہا ہے کہ "اگر کوئی ویلیو-ایلائنڈ، سیفٹی سے آگاہ پروجیکٹ ہمارے کرنے سے پہلے اے جی آئی کی تعمیر کے قریب آتا ہے، تو ہم اس پروجیکٹ کے ساتھ مقابلہ کرنا بند کرنے اور اس کی مدد شروع کرنے کا عہد کرتے ہیں" نیز، ڈیپ مائنڈ ڈیمس ہاسابیس کے سی ای او، فیس بک اے آئی یان لیکون کے ڈائریکٹر جیسے صنعت کے رہنماؤں نے اسیلومار اصولوں اور خود مختار ہتھیاروں کے کھلے خط جیسے کھلے خطوط پر دستخط کیے ہیں۔ اے آئی صف بندی مصنوعی ذہانت کا پتہ لگانے والے سافٹ ویئر کے حوالہ جات بیرونی لنکس ایم ایل سیفٹی میں بے حل مسائل فاؤنڈیشن ماڈلز کے مواقع اور خطرات پر تباہ کن اے آئی کے خطرات کا ایک جائزہ اے آئی حادثات: ایک ابھرتا ہوا خطرہ انجینئرنگ ایک محفوظ دنیا مصنوعی ذہانت مصنوعی عمومی ذہانت سائبرنیٹکس سے موجود خطرہ