The Alignment Problem
صف بندی کا مسئلہ: مشین لرننگ اینڈ ہیومن ویلیوز امریکی مصنف برائن کرسچن کی 2020 کی غیر افسانوی کتاب ہے۔ یہ مصنوعی ذہانت کے نظام، خاص طور پر مشین لرننگ سسٹم بنانے کی کوشش کرنے والے ماہرین کے ساتھ متعدد انٹرویوز پر مبنی ہے، جو انسانی اقدار کے مطابق ہیں۔ خلاصہ کتاب کو تین حصوں میں تقسیم کیا گیا ہے: پیشن گوئی، ایجنسی اور نارمیٹیویٹی۔ ہر سیکشن میں انسانی اقدار کے ساتھ مصنوعی ذہانت کی صف بندی میں مختلف چیلنجوں پر کام کرنے والے محققین اور انجینئروں کا احاطہ کیا گیا ہے۔ پیشن گوئی پہلے حصے میں، عیسائی مصنوعی ذہانت کی تحقیق کی تاریخ، خاص طور پر مصنوعی عصبی نیٹ ورک جیسے پرسیپٹرون اور الیکس نیٹ کے مشین لرننگ اپروچ کے بارے میں بات چیت کرتے ہیں، اس کی مثالوں کے ساتھ کہ اے آئی سسٹم کس طرح غیر ارادی سلوک کر سکتے ہیں۔ وہ جولیا اینگون کی کہانی سناتا ہے، جو ایک صحافی ہے جس کی کمپاس الگورتھم کی پروپبلکا تحقیقات، جو مجرمانہ مدعا علیہان میں بازگشت کی پیش گوئی کرنے کا ایک ذریعہ ہے، اس کی درستگی اور بعض آبادیاتی پہلوؤں کی طرف تعصب پر بڑے پیمانے پر تنقید کا باعث بنی۔ AI کے اہم صف بندی کے چیلنجوں میں سے ایک اس کے بلیک باکس کی نوعیت ہے (ان پٹ اور آؤٹ پٹ قابل شناخت ہیں لیکن درمیان میں تبدیلی کا عمل غیر متعین ہے)۔ شفافیت کی کمی سے یہ جاننا مشکل ہو جاتا ہے کہ نظام کہاں ٹھیک ہو رہا ہے اور کہاں غلط ہو رہا ہے۔ دوسرے حصے میں، کرسچن اسی طرح انعام کے نفسیاتی مطالعہ کی تاریخ، جیسے کہ رویے اور ڈوپامائن، کو کمک سیکھنے کی کمپیوٹر سائنس کے ساتھ جوڑتا ہے، جس میں اے آئی سسٹمز کو ویلیو فنکشن ("کیا انعام یا سزا کی توقع") کے پیش نظر پالیسی ("کیا کرنا ہے") تیار کرنے کی ضرورت ہوتی ہے۔ وہ ڈیپ مائنڈ الفا گو اور الفا زیرو سسٹمز کو "خودکار نصاب کے ڈیزائن میں شاید واحد سب سے زیادہ متاثر کن کامیابی" کہتے ہیں۔ وہ تجسس کی اہمیت پر بھی روشنی ڈالتے ہیں، جس میں کمک سیکھنے والے اندرونی طور پر اپنے ماحول کو تلاش کرنے کے لیے حوصلہ افزائی کرتے ہیں، بجائے اس کے کہ وہ خصوصی طور پر بیرونی انعام حاصل کریں۔ نارمیٹیویٹی تیسرا سیکشن انسانی یا مشین کے رویے کی نقل کے ذریعے اے آئی کی تربیت کے ساتھ ساتھ فلسفیانہ مباحثوں کا احاطہ کرتا ہے جیسے کہ پوسیبلزم اور حقیقت پسندی کے درمیان جو اے آئی سسٹمز کے لیے مختلف مثالی رویے کا اشارہ ہے۔ الٹا کمک سیکھنا خاص اہمیت کا حامل ہے، جو مشینوں کے لیے انسان یا کسی دوسرے ایجنٹ کے معروضی فعل کو سیکھنے کے لیے ایک وسیع نقطہ نظر ہے۔ کرسچن مؤثر پرہیزگاری اور وجودی خطرے سے وابستہ معیاری چیلنجوں پر تبادلہ خیال کرتا ہے، بشمول فلسفی ٹوبی آرڈ اور ولیم میکاسکل کا کام جو صف بندی کے مسئلے کو زیادہ سے زیادہ مؤثر طریقے سے نیویگیٹ کرنے کے لیے انسانی اور مشین کی حکمت عملی وضع کرنے کی کوشش کر رہے ہیں۔ اس کتاب کو ناقدین کی طرف سے مثبت تبصرے ملے۔ وال اسٹریٹ جرنل کے ڈیوڈ اے شائیوٹز نے حقیقی دنیا کے مسائل پر الگورتھم کا اطلاق کرتے وقت اکثر مسائل پر زور دیا، اور کتاب کو "اس سفید گرم موضوع کی ایک باریک اور دلکش کھوج" کے طور پر بیان کیا۔ پبلشرز ویکلی نے اس کتاب کی تحریر اور وسیع تحقیق کے لیے اس کی تعریف کی۔ کرکس ریویوز نے کتاب کو ایک مثبت جائزہ دیتے ہوئے اسے "تکنیکی طور پر بھرپور لیکن قابل رسائی" اور "اے آئی کی ایک دلچسپ تلاش" قرار دیا۔ نیچر کے لیے لکھتے ہوئے، ورجینیا ڈگنم نے کتاب کو ایک مثبت جائزہ دیا، اور اس کا موازنہ کیٹ کرافورڈ کے اٹلس آف اے آئی: پاور، پولیٹکس، اینڈ دی پلینٹری کاسٹس آف آرٹیفیشل انٹیلی جنس سے کیا۔ 2021 میں، صحافی ایزرا کلین نے اپنے پوڈ کاسٹ، دی ایزرا کلین شو پر کرسچن کے ساتھ دی نیویارک ٹائمز میں لکھا، "دی الائنمنٹ پروبلم اے آئی کے کلیدی تکنیکی اور اخلاقی سوالات پر بہترین کتاب ہے۔ جو میں نے پڑھا ہے۔ " اس سال کے آخر میں، کتاب کو فاسٹ کمپنی کی خصوصیت میں درج کیا گیا، "5 کتابیں جنہوں نے اس سال مائیکروسافٹ کے سی ای او ستیہ نڈیلا کو متاثر کیا"۔ یہ بھی دیکھیں مؤثر پرہیزگاری عالمی تباہی کا خطرہ انسانی مطابقت پذیر: مصنوعی ذہانت اور کنٹرول سپر انٹیلی جنس کا مسئلہ: راستے، خطرات، حکمت عملی حوالہ جات 2020 غیر افسانوی کتابیں موثر پرہیزگاری کے بارے میں کتابیں مصنوعی عمومی ذہانت سے وجود کے خطرے کے بارے میں کتابیں انگریزی غیر افسانوی کتابیں مستقبل کی کتابیں ڈبلیو ڈبلیو نارٹن اینڈ کمپنی کی کتابیں مصنوعی ذہانت کے بارے میں غیر افسانوی کتابیں