The Alignment Problem
संरेखण समस्याः मशीन लर्निंग एंड ह्यूमन वैल्यूज अमेरिकी लेखक ब्रायन क्रिश्चियन की 2020 की एक गैर-काल्पनिक पुस्तक है। यह कृत्रिम बुद्धिमत्ता प्रणालियों, विशेष रूप से मशीन सीखने की प्रणालियों का निर्माण करने की कोशिश करने वाले विशेषज्ञों के साथ कई साक्षात्कारों पर आधारित है, जो मानवीय मूल्यों के साथ संरेखित हैं। सारांश पुस्तक को तीन खंडों में विभाजित किया गया हैः भविष्यवाणी, एजेंसी और नॉर्मेटिविटी। प्रत्येक खंड में मानव मूल्यों के साथ कृत्रिम बुद्धिमत्ता के संरेखण में विभिन्न चुनौतियों पर काम करने वाले शोधकर्ताओं और इंजीनियरों को शामिल किया गया है। भविष्यवाणी पहले खंड में, क्रिश्चियन ने आर्टिफिशियल इंटेलिजेंस अनुसंधान के इतिहास, विशेष रूप से परसेप्ट्रॉन और एलेक्सनेट जैसे आर्टिफिशियल न्यूरल नेटवर्क के मशीन लर्निंग दृष्टिकोण पर चर्चा की है, जिसमें इस बात के उदाहरण हैं कि एआई सिस्टम कैसे अनपेक्षित व्यवहार कर सकते हैं। वह एक पत्रकार जूलिया एंगविन की कहानी बताता है, जिसकी प्रोपब्लिका जांच, जो आपराधिक प्रतिवादियों के बीच पुनरावृत्ति की भविष्यवाणी करने का एक उपकरण है, ने कुछ जनसांख्यिकी के प्रति इसकी सटीकता और पूर्वाग्रह की व्यापक आलोचना की। एआई की मुख्य संरेखण चुनौतियों में से एक इसकी ब्लैक बॉक्स प्रकृति है (इनपुट और आउटपुट पहचानने योग्य हैं लेकिन बीच में परिवर्तन प्रक्रिया अनिर्धारित है)। पारदर्शिता की कमी से यह जानना मुश्किल हो जाता है कि व्यवस्था कहां सही चल रही है और कहां गलत हो रही है। एजेंसी दूसरे खंड में, क्रिश्चियन इसी तरह पुरस्कार के मनोवैज्ञानिक अध्ययन के इतिहास को जोड़ता है, जैसे कि व्यवहारवाद और डोपामाइन, सुदृढीकरण सीखने के कंप्यूटर विज्ञान के साथ, जिसमें AI प्रणालियों को एक मूल्य कार्य ("क्या पुरस्कार या सजा की उम्मीद करनी है") के सामने नीति ("क्या करना है") विकसित करने की आवश्यकता होती है। वे डीपमाइंड अल्फागो और अल्फाजीरो प्रणालियों को "स्वचालित पाठ्यक्रम डिजाइन में शायद सबसे प्रभावशाली उपलब्धि" कहते हैं। वह जिज्ञासा के महत्व पर भी प्रकाश डालते हैं, जिसमें सुदृढीकरण शिक्षार्थी विशेष रूप से बाहरी पुरस्कार की तलाश करने के बजाय अपने वातावरण का पता लगाने के लिए आंतरिक रूप से प्रेरित होते हैं। नॉर्मेटिविटी तीसरे खंड में मानव या मशीन व्यवहार की नकल के माध्यम से प्रशिक्षण एआई शामिल है, साथ ही दार्शनिक बहस जैसे कि संभाव्यता और यथार्थवाद के बीच जो एआई प्रणालियों के लिए अलग आदर्श व्यवहार का संकेत देते हैं। व्युत्क्रम सुदृढीकरण सीखना विशेष महत्व का है, जो मनुष्य या किसी अन्य एजेंट के वस्तुनिष्ठ कार्य को सीखने के लिए मशीनों के लिए एक व्यापक दृष्टिकोण है। क्रिश्चियन प्रभावी परोपकार और अस्तित्वगत जोखिम से जुड़ी मानक चुनौतियों पर चर्चा करते हैं, जिसमें दार्शनिक टोबी ऑर्ड और विलियम मैकस्किल का काम भी शामिल है, जो संरेखण समस्या को यथासंभव प्रभावी ढंग से नेविगेट करने के लिए मानव और मशीन रणनीतियों को तैयार करने की कोशिश कर रहे हैं। पुस्तक को आलोचकों से सकारात्मक समीक्षा मिली। द वॉल स्ट्रीट जर्नल के डेविड ए. शायविट्ज़ ने वास्तविक दुनिया की समस्याओं के लिए एल्गोरिदम को लागू करते समय अक्सर होने वाली समस्याओं पर जोर दिया, पुस्तक को "इस सफेद-गर्म विषय की एक सूक्ष्म और आकर्षक खोज" के रूप में वर्णित किया। पब्लिशर्स वीकली ने इसके लेखन और व्यापक शोध के लिए पुस्तक की प्रशंसा की। किर्कस रिव्यूज ने पुस्तक को एक सकारात्मक समीक्षा देते हुए इसे "तकनीकी रूप से समृद्ध लेकिन सुलभ" और "ए. आई. का एक दिलचस्प अन्वेषण" कहा। नेचर के लिए लिखते हुए, वर्जीनिया डिगनम ने पुस्तक को एक सकारात्मक समीक्षा दी, जिसकी तुलना केट क्रॉफर्ड के एटलस ऑफ एआईः पावर, पॉलिटिक्स, एंड द प्लेनेटरी कॉस्ट्स ऑफ आर्टिफिशियल इंटेलिजेंस से की गई। 2021 में, पत्रकार एजरा क्लेन ने अपने पॉडकास्ट, द एजरा क्लेन शो पर क्रिश्चियन को द न्यूयॉर्क टाइम्स में लिखते हुए कहा, "संरेखण समस्या ए. आई. के प्रमुख तकनीकी और नैतिक प्रश्नों पर सबसे अच्छी पुस्तक है। जिसे मैंने पढ़ा है। " उस वर्ष बाद में, पुस्तक को फास्ट कंपनी फीचर में सूचीबद्ध किया गया था, "5 पुस्तकें जिन्होंने इस वर्ष माइक्रोसॉफ्ट के सीईओ सत्या नडेला को प्रेरित किया।" यह भी देखें प्रभावी परोपकार वैश्विक विनाशकारी जोखिम मानव संगतः कृत्रिम बुद्धिमत्ता और नियंत्रण की समस्या अति बुद्धिमत्ताः मार्ग, खतरे, रणनीतियाँ संदर्भ 2020 गैर-काल्पनिक किताबें प्रभावी परोपकार के बारे में किताबें अस्तित्वगत जोखिम के बारे में किताबें कृत्रिम सामान्य बुद्धिमत्ता से अस्तित्वगत जोखिम अंग्रेजी गैर-काल्पनिक किताबें भविष्य विज्ञान किताबें डब्ल्यू. डब्ल्यू. नॉर्टन एंड कंपनी की किताबें कृत्रिम बुद्धिमत्ता के बारे में गैर-काल्पनिक किताबें