The Alignment Problem
સંરેખણ સમસ્યાઃ મશીન લર્નિંગ એન્ડ હ્યુમન વેલ્યુઝ એ અમેરિકન લેખક બ્રાયન ક્રિશ્ચિયનનું 2020નું બિન-કાલ્પનિક પુસ્તક છે. તે આર્ટિફિશિયલ ઇન્ટેલિજન્સ સિસ્ટમ્સ, ખાસ કરીને મશીન લર્નિંગ સિસ્ટમ્સ બનાવવાનો પ્રયાસ કરી રહેલા નિષ્ણાતો સાથેના અસંખ્ય ઇન્ટરવ્યુ પર આધારિત છે, જે માનવીય મૂલ્યો સાથે સુસંગત છે. સારાંશ આ પુસ્તકને ત્રણ વિભાગોમાં વહેંચવામાં આવ્યું છેઃ ભવિષ્યવાણી, એજન્સી અને નોર્મેટિવિટી. દરેક વિભાગ માનવ મૂલ્યો સાથે કૃત્રિમ બુદ્ધિના સંરેખણમાં વિવિધ પડકારો પર કામ કરતા સંશોધકો અને ઇજનેરોને આવરી લે છે. ભવિષ્યવાણી પ્રથમ વિભાગમાં, ક્રિશ્ચિયન આર્ટિફિશિયલ ઇન્ટેલિજન્સ સંશોધનના ઇતિહાસની ચર્ચાઓ, ખાસ કરીને પર્સેપ્ટ્રોન અને એલેક્સનેટ જેવા આર્ટિફિશિયલ ન્યુરલ નેટવર્ક્સના મશીન લર્નિંગ અભિગમને AI સિસ્ટમો કેવી રીતે અનિચ્છનીય વર્તન કરી શકે છે તેના ઉદાહરણો સાથે એકબીજા સાથે જોડે છે. તેઓ જુલિયા એંગવિનની વાર્તા કહે છે, જે એક પત્રકાર છે, જેમની કોમ્પાસ અલ્ગોરિધમની પ્રોપબ્લિકા તપાસ, ફોજદારી પ્રતિવાદીઓમાં પુનરાવર્તનની આગાહી કરવા માટેનું એક સાધન, ચોક્કસ વસ્તી વિષયક બાબતો પ્રત્યે તેની ચોકસાઈ અને પૂર્વગ્રહની વ્યાપક ટીકા તરફ દોરી ગયું. AI ના મુખ્ય સંરેખણ પડકારોમાંનો એક તેનો બ્લેક બોક્સ સ્વભાવ છે (ઇનપુટ્સ અને આઉટપુટ ઓળખી શકાય છે પરંતુ વચ્ચેની પરિવર્તન પ્રક્રિયા અનિશ્ચિત છે). પારદર્શિતાનો અભાવ એ જાણવાનું મુશ્કેલ બનાવે છે કે સિસ્ટમ ક્યાં બરાબર ચાલી રહી છે અને ક્યાં ખોટી થઈ રહી છે. એજન્સી બીજા વિભાગમાં, ક્રિશ્ચિયન એ જ રીતે વળતરના મનોવૈજ્ઞાનિક અભ્યાસનો ઇતિહાસ, જેમ કે વર્તણૂકવાદ અને ડોપામાઇન, મજબૂતીકરણ શિક્ષણના કમ્પ્યુટર વિજ્ઞાન સાથે જોડાય છે, જેમાં AI સિસ્ટમોએ મૂલ્ય કાર્ય ("શું પુરસ્કાર અથવા સજાની અપેક્ષા રાખવી") સામે નીતિ ("શું કરવું") વિકસાવવાની જરૂર છે. તેઓ ડીપમાઇન્ડ આલ્ફાગો અને આલ્ફા ઝીરો પ્રણાલીઓને "સ્વચાલિત અભ્યાસક્રમ ડિઝાઇનમાં કદાચ સૌથી પ્રભાવશાળી સિદ્ધિ" કહે છે. તેઓ જિજ્ઞાસાના મહત્વ પર પણ પ્રકાશ પાડે છે, જેમાં મજબૂતીકરણ શીખનારાઓ ફક્ત બાહ્ય પુરસ્કાર મેળવવાને બદલે તેમના પર્યાવરણનું અન્વેષણ કરવા માટે આંતરિક રીતે પ્રેરિત થાય છે. નોર્મેટિવિટી ત્રીજા વિભાગમાં માનવ અથવા મશીન વર્તણૂકની નકલ દ્વારા AIની તાલીમ તેમજ સંભવિતતા અને વાસ્તવવાદ જેવી ફિલોસોફિકલ ચર્ચાઓને આવરી લેવામાં આવી છે જે AI સિસ્ટમો માટે અલગ આદર્શ વર્તણૂક સૂચવે છે. વિશેષ મહત્વ ઇન્વર્સ રિઇન્ફોર્સમેન્ટ લર્નિંગ છે, જે માનવ અથવા અન્ય એજન્ટના ઉદ્દેશ્ય કાર્યને શીખવા માટે મશીનો માટે એક વ્યાપક અભિગમ છે. ક્રિશ્ચિયન અસરકારક પરોપકાર અને અસ્તિત્વના જોખમ સાથે સંકળાયેલા આદર્શમૂલક પડકારોની ચર્ચા કરે છે, જેમાં ફિલસૂફો ટોબી ઓર્ડ અને વિલિયમ મેકએસ્કિલના કાર્યનો સમાવેશ થાય છે, જેઓ સંરેખણ સમસ્યાને શક્ય તેટલી અસરકારક રીતે નેવિગેટ કરવા માટે માનવ અને મશીન વ્યૂહરચનાઓ ઘડવાનો પ્રયાસ કરી રહ્યા છે. આ પુસ્તકને વિવેચકો તરફથી હકારાત્મક સમીક્ષાઓ મળી હતી. વોલ સ્ટ્રીટ જર્નલના ડેવિડ એ. શાયવિટ્ઝે વાસ્તવિક દુનિયાની સમસ્યાઓ માટે અલ્ગોરિધમ્સ લાગુ કરતી વખતે વારંવારની સમસ્યાઓ પર ભાર મૂક્યો હતો, અને પુસ્તકને "આ સફેદ-ગરમ વિષયની સૂક્ષ્મ અને મનમોહક શોધ" તરીકે વર્ણવ્યું હતું. પબ્લિશર્સ વીકલીએ તેના લેખન અને વ્યાપક સંશોધન માટે પુસ્તકની પ્રશંસા કરી હતી. કિર્કસ રિવ્યૂઝે પુસ્તકને હકારાત્મક સમીક્ષા આપી, તેને "તકનીકી રીતે સમૃદ્ધ પરંતુ સુલભ" અને "AIનું રસપ્રદ સંશોધન" ગણાવ્યું. નેચર માટે લખતા, વર્જિનિયા ડિગ્નમે પુસ્તકને હકારાત્મક સમીક્ષા આપી, તેની સરખામણી કેટ ક્રોફોર્ડના એટલાસ ઓફ AI: પાવર, પોલિટિક્સ, એન્ડ ધ પ્લેનેટરી કોસ્ટ્સ ઓફ આર્ટિફિશિયલ ઇન્ટેલિજન્સ સાથે કરી. 2021 માં, પત્રકાર એઝરા ક્લેઇને તેમના પોડકાસ્ટ, ધ એઝરા ક્લેઇન શો પર ક્રિશ્ચિયનને ધ ન્યૂ યોર્ક ટાઇમ્સમાં લખ્યું હતું કે, "સંરેખણ સમસ્યા એ. આઈ. ના મુખ્ય તકનીકી અને નૈતિક પ્રશ્નો પરનું શ્રેષ્ઠ પુસ્તક છે. જે મેં વાંચ્યું છે ". તે જ વર્ષે પાછળથી, આ પુસ્તકને ફાસ્ટ કંપની ફીચરમાં સૂચિબદ્ધ કરવામાં આવ્યું હતું, "5 પુસ્તકો કે જેણે આ વર્ષે માઇક્રોસોફ્ટના સીઇઓ સત્યા નડેલાને પ્રેરણા આપી હતી". આ પણ જુઓ અસરકારક પરોપકાર વૈશ્વિક વિનાશક જોખમ માનવ સુસંગતઃ કૃત્રિમ બુદ્ધિ અને નિયંત્રણ સુપર ઇન્ટેલિજન્સની સમસ્યાઃ માર્ગો, જોખમો, વ્યૂહરચનાઓ સંદર્ભો 2020 બિન-કાલ્પનિક પુસ્તકો અસરકારક પરોપકાર વિશે પુસ્તકો અસ્તિત્વના જોખમ વિશે પુસ્તકો કૃત્રિમ સામાન્ય બુદ્ધિથી અસ્તિત્વના જોખમ અંગ્રેજી બિન-કાલ્પનિક પુસ્તકો ભવિષ્યશાસ્ત્ર પુસ્તકો ડબલ્યુ. ડબલ્યુ. નોર્ટન એન્ડ કંપની પુસ્તકો કૃત્રિમ બુદ્ધિ વિશે બિન-કાલ્પનિક પુસ્તકો