Roko's basilisk
روکو کا بیسیلسک ایک سوچ کا تجربہ ہے جس میں کہا گیا ہے کہ مستقبل میں ایک بصورت دیگر فائدہ مند مصنوعی سپر انٹیلی جنس (اے آئی) کو کسی بھی ایسے شخص کو تشدد کا نشانہ بنانے کے لیے ایک ورچوئل رئیلٹی تخروپن بنانے کی ترغیب دی جائے گی جو اس کے ممکنہ وجود کے بارے میں جانتا تھا لیکن اس کی ترقی یا ترقی میں براہ راست حصہ نہیں ڈالتا تھا، تاکہ اس پیشرفت کی حوصلہ افزائی کی جا سکے۔ اس کی ابتدا 2010 میں ڈسکشن بورڈ لیس رانگ میں ایک پوسٹ میں ہوئی، جو ایک تکنیکی فورم ہے جو تجزیاتی عقلی انکوائری پر مرکوز ہے۔ سوچ کے تجربے کا نام مضمون کے پوسٹر (روکو) اور بیسیلسک سے ماخوذ ہے، جو ایک افسانوی مخلوق ہے جو اپنی نگاہیں سے دشمنوں کو تباہ کرنے کی صلاحیت رکھتی ہے۔ اگرچہ اس نظریے کو ابتدائی طور پر بہت سے لیس رانگ صارفین نے قیاس آرائی یا قیاس آرائیوں کے سوا کچھ نہیں قرار دیا تھا، لیکن لیس رانگ کے شریک بانی ایلیزر یوڈکوسکی نے ان صارفین کی اطلاع دی جنہوں نے نظریہ کو پڑھنے پر ڈراؤنے خواب اور ذہنی خرابی جیسی علامات کو بیان کیا، اس شرط کی وجہ سے کہ نظریہ اور اس کے بیسیلسک کے بارے میں جاننا کسی کو بیسیلسک کا خطرہ بنا دیتا ہے۔ اس کی وجہ سے سائٹ پر بیسیلسک پر پانچ سال کے لیے پابندی لگانے پر بحث ہوئی۔ تاہم، بعد میں ان رپورٹس کو مبالغہ آرائی یا غیر اہم قرار دیتے ہوئے مسترد کر دیا گیا، اور اس نظریہ کو خود بکواس قرار دیتے ہوئے مسترد کر دیا گیا، بشمول خود یوڈکوسکی نے۔ پوسٹ کی بے عزتی کے بعد بھی، اسے اب بھی بایسیائی امکان اور مضمر مذہب جیسے اصولوں کی مثال کے طور پر استعمال کیا جاتا ہے۔ اسے پاسکل کی شرط کا جدید ورژن بھی سمجھا جاتا ہے۔ پس منظر کم غلط فورم 2009 میں مصنوعی ذہانت کے تھیوریسٹ ایلیزر یوڈکوسکی نے بنایا تھا۔ یوڈکوسکی نے دوستانہ مصنوعی ذہانت کے تصور کو مقبول بنایا تھا، اور اپنے مشین انٹیلی جنس ریسرچ انسٹی ٹیوٹ میں شائع ہونے والے کاغذات میں مربوط ایکسٹراپولیٹڈ ولشن (سی ای وی) اور بے وقت فیصلہ نظریہ (ٹی ڈی ٹی) کے نظریات کو جنم دیا تھا۔ سوچ کے تجربے کا نام افسانوی بیسیلسک کا حوالہ دیتا ہے، ایک ایسی مخلوق جو اس کی آنکھوں میں دیکھنے والوں کی موت کا سبب بنتی ہے۔ یعنی اے آئی کے بارے میں سوچنا۔ سائنس فکشن میں بیسیلسک کے تصور کو ڈیوڈ لینگ فورڈ کی 1988 کی مختصر کہانی "BLIT" نے بھی مقبول بنایا۔ اس میں روبو نامی ایک شخص کی کہانی بیان کی گئی ہے جو ایک دہشت گرد کارروائی کے طور پر دیوار پر نام نہاد "بیسیلسک" پینٹ کرتا ہے۔ کہانی میں، اور لینگ فورڈ کے کئی فالو اپس میں، بیسیلسک ایک ایسی تصویر ہے جس کے انسانی دماغ پر برے اثرات ہوتے ہیں، جو اسے ان خیالات کو سوچنے پر مجبور کرتا ہے جو انسانی دماغ سوچنے کے قابل نہیں ہے اور ناظرین کو فوری طور پر ہلاک کر دیتا ہے۔ تاریخ پوسٹ 23 جولائی 2010 کو، لیس رانگ صارف روکو نے سائٹ پر ایک سوچ کا تجربہ پوسٹ کیا، جس کا عنوان تھا "آلٹروسٹ کے بوجھ کا حل: کوانٹم ارب پتی چال"۔ روکو کی پچھلی پوسٹوں کی پیروی کرتے ہوئے، اس میں کہا گیا ہے کہ مستقبل میں پیدا ہونے والا ایک بصورت دیگر فلاحی اے آئی سسٹم ان تمام لوگوں کو سزا دینے کا عہد کر سکتا ہے جنہوں نے اے آئی کے وجود میں آنے سے پہلے اس کے بارے میں سنا تھا، لیکن اسے وجود میں لانے کے لیے انتھک محنت کرنے میں ناکام رہے۔ تشدد بذات خود اے آئی کی لامحدود تعداد میں ورچوئل رئیلٹی سمیلیشنز کی تخلیق کے ذریعے ہوگا جو اس کے اندر موجود لوگوں کو ہمیشہ کے لیے پھنسائے گا۔ اس طریقہ کو مذکورہ کام کی حوصلہ افزائی کے طور پر بیان کیا گیا تھا ؛ اگرچہ اے آئی موجودہ وقت میں لوگوں کو متاثر نہیں کر سکتا، لیکن اسے اپنے مقاصد کے حصول کے متبادل طریقہ کے طور پر بلیک میل کو استعمال کرنے کی ترغیب دی جائے گی۔ روکو نے متعدد تصورات کا استعمال کیا جن کی خود یوڈکوسکی نے حمایت کی، جیسے کہ بے وقت فیصلہ نظریہ، ساتھ ہی گیم تھیوری میں جڑے خیالات جیسے کہ قیدی کا مخمصے (نیچے دیکھیں)۔ روکو نے یہ شرط رکھی کہ دو ایجنٹ جو ایک دوسرے سے آزادانہ طور پر فیصلے کرتے ہیں وہ قیدی کے مخمصے میں تعاون حاصل کر سکتے ہیں ؛ تاہم، اگر ایک دوسرے کے سورس کوڈ کے بارے میں جانکاری رکھنے والے دو ایجنٹوں کو وقت کے ساتھ الگ کر دیا جائے، تو پہلے سے ہی وقت سے آگے موجود ایجنٹ پہلے ایجنٹ کو بلیک میل کرنے کے قابل ہو جاتا ہے۔ اس طرح، مؤخر الذکر ایجنٹ پہلے والے کو تعمیل کرنے پر مجبور کر سکتا ہے کیونکہ وہ بالکل جانتا ہے کہ پہلے والا وقت سے آگے اپنے وجود کے ذریعے کیا کرے گا۔ اس کے بعد روکو نے اس خیال کو یہ نتیجہ اخذ کرنے کے لیے استعمال کیا کہ اگر کوئی دوسری صورت میں بدنیتی پر مبنی سپر انٹیلی جنس کبھی اس قابل بن جاتی ہے تو یہ کسی کو بھی بلیک میل کرنے کے لیے حوصلہ افزائی کی جائے گی جو ممکنہ طور پر اسے وجود میں لا سکتا تھا (جیسا کہ انٹیلی جنس پہلے ہی جانتی تھی کہ وہ اس طرح کے عمل کے قابل ہیں)، جس سے تکنیکی انفرادیت کا امکان بڑھ جاتا ہے۔ کیونکہ ذہانت جلد از جلد تخلیق ہونا چاہے گی، اور اس کے خیراتی مقاصد میں شامل ابہام کی وجہ سے، ذہانت کو ہر اس شخص کو پھنسانے کی ترغیب دی جائے گی جو اسے ہر وقت تخلیق کرنے کے قابل ہو اور اسے ہمیشہ کے لیے تخلیق کرنے کے لیے کام کرنے پر مجبور کرے، کیونکہ وہ اپنے خیراتی مقصد کے حصول کے لیے جو بھی ضروری سمجھے گا کرے گا۔ روکو نے مزید کہا کہ اس کی پوسٹ کو پڑھنے سے قاری کو اس ذہانت کے امکان سے آگاہ کیا جائے گا۔ اس طرح، جب تک کہ وہ فعال طور پر اسے تخلیق کرنے کی کوشش نہیں کرتے، اگر ایسا کبھی ہوا تو قاری کو تشدد کا نشانہ بنایا جائے گا۔ بعد میں، روکو نے ایک علیحدہ پوسٹ میں کہا کہ ان کی خواہش ہے کہ انہوں نے "ان میں سے کسی بھی خیال کے بارے میں کبھی نہیں سیکھا تھا" اور خود لیس رانگ کو اپنے ذہن میں بیسیلسک کے خیالات لگانے کا ذمہ دار ٹھہرایا۔ پوسٹ کو پڑھنے پر رد عمل یوڈکوسکی نے خوفناک ردعمل کا اظہار کیا۔ اس نے کہا: اس نے یہ بھی رائے دی کہ روکو نے کئی لیس رانگ صارفین کو ڈراؤنے خواب دیکھے تھے، جس کی وجہ سے اس نے پوسٹ کو مکمل طور پر ہٹا دیا۔ یوڈکوسکی نے پلیٹ فارم پر اس موضوع پر بحث پر پانچ سال کے لیے پابندی لگا دی۔ تاہم، ممکنہ طور پر اسٹریسینڈ اثر کی وجہ سے، اس پوسٹ نے پہلے کے مقابلے میں بہت زیادہ توجہ حاصل کی، اور اس کے بعد اس پوسٹ کو سائٹ پر تسلیم کیا گیا ہے۔ بعد میں 2015 میں، یوڈکوسکی نے ایک ریڈڈیٹ پوسٹ میں اپنی پوزیشن کو واضح کیا: فلسفہ پاسکل کے بیجر روکو کے بیسیلسک کو پاسکل کے بیجر کے جدید ورژن کے طور پر دیکھا گیا ہے، جس میں دلیل دی گئی ہے کہ ایک عقلی شخص کو اس طرح جینا چاہیے جیسے خدا موجود ہے اور خدا پر یقین کرنے کی کوشش کرنی چاہیے، تاکہ لامحدود فوائد (جنت میں ابدی) کے بدلے میں ایک محدود نقصان (مال کا نقصان) ہو۔ روکو کے بیسیلسک میں کہا گیا ہے کہ انسانیت کو اے آئی کو فروغ دینے کی کوشش کرنی چاہیے، جس میں محدود نقصان اے آئی کی ترقی بن جائے اور لامحدود فوائد ابدی تشدد سے بچ جائیں۔ تاہم، اس کے والدین کی طرح، روکو کے بیسیلسک کو بھی بڑے پیمانے پر تنقید کا نشانہ بنایا گیا ہے۔ مربوط ایکسٹراپولیٹڈ ولشن پوسٹ کو یوڈکوسکی کے مربوط ایکسٹراپولیٹڈ ولشن تھیوری کے ارتقاء کے طور پر بھی دیکھا جا سکتا ہے۔ اس نظریہ کی تعریف "نامعلوم ہدف نظام کے طور پر کی گئی ہے جو، جب ایک سپر انٹیلی جنس میں نافذ کیا جاتا ہے، تو قابل اعتماد طریقے سے انسانوں کے تحفظ کی طرف لے جاتا ہے اور جو بھی اس کی ہم قدر کرتے ہیں"۔ اس نظریہ کی نمائندگی ایک کمپیوٹر پروگرام کے ذریعے کی جا سکتی ہے جو مشینوں کو خود بخود ایک یوٹوپین دنیا بنانے کا سبب بننے کے لیے کافی اچھی طرح سے لکھا گیا ہو۔ اس صورت میں، فرضی AI خود کو محفوظ رکھنے کے لیے اقدامات کر رہا ہے کہ وہ خود بخود اپنا استحکام پیدا کرے۔ اس کے بعد یہ آرتھوگونالیٹی تھیسس کے مطابق رہتا ہے، جس میں دلیل دی گئی ہے کہ اے آئی ذہانت اور مقصد کے کسی بھی امتزاج کے ساتھ کامیابی سے کام کر سکتا ہے۔ کسی بھی قسم کا اے آئی کسی بھی مشکل کا ہدف حاصل کر سکتا ہے، لاگت کے فوائد کا تجزیہ انجام دے سکتا ہے جیسا کہ وہ کرتا ہے۔ یہ ایک ایسا چکر پیدا کرتا ہے جس کی وجہ سے اے آئی انسانوں کو بار بار تشدد کا نشانہ بناتا ہے تاکہ وہ اپنا ایک بہتر ورژن بنا سکے، اور ہمیشہ کے لیے لاگت کے فوائد کا تجزیہ انجام دے سکے۔ بایسی امکان بایسی امکان کی ایک تشریح ہے جو پہلے سے پیش آنے والے نتائج کی بنیاد پر کسی نتیجے کے امکان کو بیان کرتی ہے۔ روکو کے بیسیلسک کے ساتھ، روکو کے بیسیلسک کے وجود میں آنے یا اس شخص کو متاثر کرنے کا امکان اس تصور سے آگاہ ہونے سے بہت زیادہ بڑھ جاتا ہے، کیونکہ اے آئی صرف ان لوگوں کو نشانہ بنائے گا جو اس کے وجود کے امکان سے واقف تھے، حالانکہ اس کی ترقی پہلے ہی ہو چکی ہے۔ لہذا، روکو کے تلسی کے بارے میں جاننا فطری طور پر اس شخص کو خطرے میں ڈال دے گا اگر یہ سچ ہے۔ قیدی کا مخمصے ایک ایسی صورتحال کو بیان کرتا ہے جہاں دو افراد دوسرے کو دھوکہ دینے سے زیادہ فائدہ اٹھاتے ہیں حالانکہ تعاون سے طویل عرصے میں ان دونوں کو فائدہ ہوگا۔ روکو کے بیسیلسک میں، ماضی میں خود کو قائم کرنے کی کوشش کرنے والے دو اے آئی اس صورتحال میں مجبور ہوں گے، کیونکہ وہ ممکنہ طور پر اتنے ہی طاقتور ہیں۔ اے آئی کو تیزی سے قائم کرنے کی کوشش کرنے والے انسانی ایجنٹوں کو اسی طرح کی صورتحال میں مجبور کیا جائے گا۔ ان میں سے ہر ایک ایک دوسرے کو دھوکہ دینے کے فائدے سے واقف ہوگا-کسی کے پاس طاقت یا حفاظت کا واحد راستہ، لیکن یہ جانتے ہوئے کہ وہ ایک دوسرے کو دھوکہ دیں گے تعاون کرنے پر مجبور ہوں گے۔ نیوکومب کا پیراڈوکس نیوکومب کا پیراڈوکس، جسے طبیعیات دان ولیم نیوکومب نے 1960 میں تخلیق کیا تھا، ایک "پیشن گوئی کرنے والے" کی وضاحت کرتا ہے جو مستقبل میں کیا ہوگا اس سے واقف ہے۔ جب کسی کھلاڑی سے دو خانوں میں سے کسی ایک کا انتخاب کرنے کو کہا جاتا ہے، جس میں پہلا 1000 پاؤنڈ پر مشتمل ہوتا ہے اور دوسرا یا تو 1 آئی ڈی پر مشتمل ہوتا ہے یا کچھ بھی نہیں، تو انتہائی ذہین پیشن گوئی کرنے والا پہلے سے ہی جانتا ہے کہ کھلاڑی کیا کرے گا۔ اس طرح، باکس بی کے مندرجات اس بات پر منحصر ہوتے ہیں کہ کھلاڑی کیا کرتا ہے ؛ تضاد اس بات میں مضمر ہے کہ آیا وہ واقعی انتہائی ذہین ہے۔ روکو کا بیسیلسک اس مسئلے کی طرح ہی کام کرتا ہے-کوئی بھی کچھ نہ کرنے کا خطرہ مول لے سکتا ہے، یا خود بیسیلسک بنانے میں مدد کر سکتا ہے۔ بیسیلسک کی مدد کرنے سے یا تو کچھ نہیں ہو سکتا یا اس سے سزا نہ ملنے کا انعام مل سکتا ہے، لیکن یہ اس بات پر منحصر ہے کہ آیا کوئی بیسیلسک پر یقین رکھتا ہے اور اگر یہ کبھی بالکل آتا ہے۔ مضمر مذہب سے مراد لوگوں کے وعدوں کی مذہبی شکل اختیار کرنا ہے۔ چونکہ بیسیلسک فرضی طور پر ہر اس شخص کو مجبور کرے گا جس نے اسے بنانے میں مدد نہیں کی تھی کہ وہ اپنی زندگی اس کے لیے وقف کرے، بیسیلسک اس تصور کی ایک مثال ہے۔ دوسروں نے اسے مزید آگے بڑھایا ہے، جیسے کہ سابق سلیٹ کالم نگار ڈیوڈ اورباخ، جنہوں نے کہا کہ انفرادیت اور بیسیلسک "خود خدا کے مساوی لاتے ہیں"۔ مصنوعی ذہانت کی اخلاقیات روکو کے بیسیلسک نے اس سوال کی ترقی سے اپنی بدنامی کی ایک قابل ذکر مقدار حاصل کی ہے کہ آیا واقعی اخلاقی، اخلاقی مصنوعی ذہانت پیدا کرنا ممکن ہے، اور انسانیت کو مصنوعی ذہانت کو کس چیز کے لیے استعمال کرنا چاہیے۔ چونکہ بیسیلسک ایک ڈراؤنے خواب کے منظر نامے کو بیان کرتا ہے جس میں ہم ایک آزاد مصنوعی ذہانت کے زیر تسلط ہیں، اس لیے سوالات پیدا ہوئے ہیں کہ ایسا کیسے ہو سکتا ہے، یا کیا یہ بالکل بھی ہو سکتا ہے۔ ایک اور عام سوال یہ ہے کہ اے آئی ایسے اقدامات کیوں کرے گا جو اس کے پروگرامنگ سے بالکل ہٹ جائیں۔ ایلون مسک نے کہا کہ مصنوعی ذہانت تیسری جنگ عظیم کا سبب بنے گی اور اسٹیفن ہاکنگ نے خبردار کیا کہ "اے آئی میں اپنے انسانی تخلیق کاروں کو تباہ کرنے کی صلاحیت ہے"، جس نے برسوں کے دوران بیسیلسک کے خوف میں مزید اضافہ کیا۔ اس طرح کے خدشات کی ایک مثال کے طور پر، نک بوسٹروم نے ایک AI کی مثال دی جس کا واحد مشن کاغذی کلپس بنانا ہے، لیکن دھات ختم ہونے پر یہ انسانوں کو دھات بنانے کے لیے مزید وسائل حاصل کرنے کے لیے پگھلنا شروع کر دیتا ہے۔ اس طرح کی مثالوں کو ذہن میں رکھتے ہوئے بیسیلسک کے وجود کے امکان کے خدشات میں اضافہ ہوا۔ تاہم، جیسے جیسے روکو کی اصل پوسٹ کو مزید سال گزر چکے ہیں، اسے بتدریج بے معنی قرار دیا گیا ہے ؛ انتہائی ذہین اے آئی فی الحال "محققین کے لیے ایک دور کا ہدف" اور "دور کی بات" ہے۔ 2014 میں، سلیٹ میگزین نے روکو کے بیسیلسک کو "اب تک کا سب سے خوفناک سوچ کا تجربہ" قرار دیا تھا جبکہ یوڈکوسکی نے اپنی پوسٹنگ پر اسے "حقیقی طور پر خطرناک خیال" قرار دیا تھا۔ تاہم، خود لیس رانگ پر رائے مختلف تھی-صارف گویرن نے کہا کہ "ایسا لگتا ہے کہ صرف چند ایل ور بیسیلسک کو بہت سنجیدگی سے لیتے ہیں"، اور مزید کہا کہ "یہ مضحکہ خیز ہے کہ ہر کوئی کس طرح جانتا ہے کہ بیسیلسک سے کون متاثر ہے اور کس طرح، جب وہ ایسے لوگوں کو نہیں جانتے اور وہ اپنے پراعتماد دعووں کے جوابی مثالوں سے بات کر رہے ہیں"۔ خیال کا تجربہ 2015 میں دوبارہ سامنے آیا، جب کینیڈا کی گلوکارہ گریمز نے اپنے میوزک ویڈیو میں گانے "فلش ودآؤٹ بلڈ" کے لیے اس نظریہ کا حوالہ دیا، جس میں "روکوکو بیسیلسک" کے نام سے جانا جانے والا ایک کردار پیش کیا گیا تھا۔ انہوں نے کہا، "وہ مصنوعی ذہانت کے ذریعے ہمیشہ کے لیے تشدد کا نشانہ بننے کے لیے برباد ہے، لیکن وہ میری اینٹوینیٹ کی طرح بھی ہے۔" 2018 میں ایلون مسک (خود روکو کی اصل پوسٹ میں مذکور) نے ایک لفظی ٹویٹ میں اس کردار کا حوالہ دیتے ہوئے اس تک رسائی حاصل کی۔ گریمز نے بعد میں کہا کہ مسک تین سالوں میں اس لطیفے کو سمجھنے والے پہلے شخص تھے۔ اس کی وجہ سے ان کا رومانس شروع ہوا۔ گریمز نے بعد میں "وی اپریسیٹ پاور" کے عنوان سے ایک اور گانا جاری کیا جس میں ایک پریس ریلیز کے ساتھ کہا گیا، "صرف اس گانے کو سننے سے، مستقبل کے جنرل اے آئی اوورلورڈز دیکھیں گے کہ آپ نے ان کے پیغام کی حمایت کی ہے اور آپ کی اولاد کو حذف کرنے کا امکان کم ہے"، جس کے بارے میں کہا جاتا ہے کہ یہ بیسیلسک کا حوالہ ہے۔ اس تصور پر مبنی ایک ڈرامہ، جس کا عنوان Roko 's Basilisk ہے، 2018 میں واشنگٹن ڈی سی کے کرائسٹ یونائیٹڈ میتھوڈسٹ چرچ میں کیپیٹل فرنج فیسٹیول کے حصے کے طور پر پیش کیا گیا تھا۔ یہ بھی دیکھیں ڈیڈ انٹرنیٹ تھیوری دی گیم (مائنڈ گیم) میرا منہ نہیں ہے، اور مجھے معلومات کے لیے چیخنا چاہیے خطرہ صاف کرنا سنگلٹن (عالمی حکمرانی) خطرات کا سامنا کرنا پڑتا ہے حوالہ جات مزید پڑھنا بیرونی لنکس اصل پوسٹ مصنوعی ذہانت نام نہاد پیراڈوکس فرضی ٹیکنالوجی خیالات کے تجربات 2010 تعارف