The Alignment Problem
দ্য অ্যালাইনমেন্ট প্রবলেমঃ মেশিন লার্নিং অ্যান্ড হিউম্যান ভ্যালুজ হল মার্কিন লেখক ব্রায়ান ক্রিশ্চিয়ানের 2020 সালের একটি নন-ফিকশন বই। এটি কৃত্রিম বুদ্ধিমত্তা ব্যবস্থা, বিশেষত মেশিন লার্নিং সিস্টেম তৈরি করার চেষ্টা করা বিশেষজ্ঞদের সাথে অসংখ্য সাক্ষাৎকারের উপর ভিত্তি করে, যা মানবিক মূল্যবোধের সাথে সামঞ্জস্যপূর্ণ। বইটি তিনটি বিভাগে বিভক্তঃ ভবিষ্যদ্বাণী, এজেন্সি এবং নর্ম্যাটিভিটি। প্রতিটি বিভাগে মানব মূল্যবোধের সঙ্গে কৃত্রিম বুদ্ধিমত্তার সমন্বয় সাধনের বিভিন্ন চ্যালেঞ্জ নিয়ে কাজ করা গবেষক ও প্রকৌশলীরা রয়েছেন। ভবিষ্যদ্বাণী প্রথম বিভাগে, খ্রিস্টানরা কৃত্রিম বুদ্ধিমত্তা গবেষণার ইতিহাস, বিশেষত পারসেপ্ট্রন এবং অ্যালেক্সনেটের মতো কৃত্রিম স্নায়বিক নেটওয়ার্কগুলির মেশিন লার্নিং পদ্ধতির আলোচনাগুলি এআই সিস্টেমগুলির কীভাবে অনিচ্ছাকৃত আচরণ হতে পারে তার উদাহরণ সহ। তিনি জুলিয়া অ্যাংউইনের গল্প বলেন, একজন সাংবাদিক যার প্রোপাবলিকা তদন্ত কমপাস অ্যালগরিদম, অপরাধী আসামীদের মধ্যে পুনরাবৃত্তির পূর্বাভাস দেওয়ার একটি হাতিয়ার, নির্দিষ্ট জনসংখ্যার প্রতি এর নির্ভুলতা এবং পক্ষপাতের ব্যাপক সমালোচনার জন্ম দেয়। এআই-এর প্রধান প্রান্তিককরণ চ্যালেঞ্জগুলির মধ্যে একটি হল এর ব্ল্যাক বক্স প্রকৃতি (ইনপুট এবং আউটপুটগুলি সনাক্তযোগ্য তবে এর মধ্যে রূপান্তর প্রক্রিয়া অনির্ধারিত)। স্বচ্ছতার অভাব সিস্টেমটি কোথায় ঠিক হচ্ছে এবং কোথায় ভুল হচ্ছে তা জানা কঠিন করে তোলে। দ্বিতীয় বিভাগে, ক্রিশ্চিয়ান একইভাবে রিইনফোর্সমেন্ট লার্নিংয়ের কম্পিউটার বিজ্ঞানের সাথে আচরণবাদ এবং ডোপামিনের মতো পুরস্কারের মনস্তাত্ত্বিক অধ্যয়নের ইতিহাসকে জড়িত করে, যেখানে এআই সিস্টেমগুলিকে একটি মূল্য ফাংশন ("কী পুরস্কার বা শাস্তি আশা করা যায়") এর মুখে নীতি ("কী করতে হবে") বিকাশ করতে হবে। তিনি ডিপমাইন্ড আলফাগো এবং আলফাজিরো ব্যবস্থাকে "স্বয়ংক্রিয় পাঠ্যক্রমের নকশায় সম্ভবত সবচেয়ে চিত্তাকর্ষক অর্জন" বলে অভিহিত করেছেন। তিনি কৌতূহলের গুরুত্বকেও তুলে ধরেছেন, যেখানে শক্তিশালীকরণের শিক্ষার্থীরা একচেটিয়াভাবে বাহ্যিক পুরস্কার খোঁজার পরিবর্তে তাদের পরিবেশ অন্বেষণ করতে অন্তর্নিহিতভাবে অনুপ্রাণিত হয়। তৃতীয় বিভাগে মানব বা যান্ত্রিক আচরণের অনুকরণের মাধ্যমে এআই প্রশিক্ষণের পাশাপাশি সম্ভাব্যতা এবং বাস্তববাদের মধ্যে দার্শনিক বিতর্ক রয়েছে যা এআই সিস্টেমের জন্য ভিন্ন আদর্শ আচরণকে বোঝায়। বিশেষ গুরুত্বের মধ্যে রয়েছে বিপরীত শক্তিবৃদ্ধি শেখা, যা কোনও মানুষ বা অন্য কোনও প্রতিনিধির উদ্দেশ্যমূলক কার্যকারিতা শেখার জন্য মেশিনের জন্য একটি বিস্তৃত পদ্ধতি। ক্রিস্টিয়ান দার্শনিক টবি অর্ড এবং উইলিয়াম ম্যাকআস্কিলের কাজ সহ কার্যকর পরার্থপরতা এবং অস্তিত্বগত ঝুঁকির সাথে সম্পর্কিত আদর্শমূলক চ্যালেঞ্জগুলি নিয়ে আলোচনা করেছেন, যারা সারিবদ্ধকরণ সমস্যাটিকে যতটা সম্ভব কার্যকরভাবে নেভিগেট করার জন্য মানব এবং যন্ত্র কৌশল তৈরি করার চেষ্টা করছেন। বইটি সমালোচকদের কাছ থেকে ইতিবাচক পর্যালোচনা পেয়েছে। ওয়াল স্ট্রিট জার্নালের ডেভিড এ. শায়উইটস বাস্তব-জগতের সমস্যাগুলির অ্যালগরিদম প্রয়োগ করার সময় ঘন ঘন সমস্যার উপর জোর দিয়েছিলেন, বইটিকে "এই সাদা-গরম বিষয়টির একটি সূক্ষ্ম এবং চিত্তাকর্ষক অনুসন্ধান" হিসাবে বর্ণনা করেছেন। পাবলিশার্স উইকলি বইটির লেখা এবং ব্যাপক গবেষণার জন্য প্রশংসা করেছে। কার্কাস রিভিউ বইটিকে একটি ইতিবাচক পর্যালোচনা দিয়েছে, এটিকে "প্রযুক্তিগতভাবে সমৃদ্ধ কিন্তু সহজলভ্য" এবং "এআই-এর একটি কৌতূহলী অন্বেষণ" বলে অভিহিত করেছে। নেচারের জন্য লিখতে গিয়ে, ভার্জিনিয়া ডিগনম বইটিকে একটি ইতিবাচক পর্যালোচনা দিয়েছেন, অনুকূলভাবে এটিকে কেট ক্রফোর্ডের অ্যাটলাস অফ এআইঃ পাওয়ার, পলিটিক্স, অ্যান্ড দ্য প্ল্যানেটারি কস্টস অফ আর্টিফিশিয়াল ইন্টেলিজেন্সের সাথে তুলনা করেছেন। 2021 সালে, সাংবাদিক এজরা ক্লেইন তার পডকাস্ট, দ্য এজরা ক্লেইন শোতে ক্রিশ্চিয়ানকে বলেছিলেন, দ্য নিউ ইয়র্ক টাইমসে লিখেছেন, "দ্য অ্যালাইনমেন্ট প্রবলেম এ. আই-এর মূল প্রযুক্তিগত এবং নৈতিক প্রশ্নের উপর সেরা বই। যা আমি পড়েছি। " সেই বছরের শেষের দিকে, বইটি একটি ফাস্ট কোম্পানির বৈশিষ্ট্যে তালিকাভুক্ত করা হয়েছিল, "5টি বই যা এই বছর মাইক্রোসফ্টের সিইও সত্য নাদেলাকে অনুপ্রাণিত করেছিল।" আরও দেখুন কার্যকরী পরার্থপরতা বৈশ্বিক বিপর্যয়কর ঝুঁকি হিউম্যান কম্প্যাটিবলঃ আর্টিফিশিয়াল ইন্টেলিজেন্স অ্যান্ড দ্য প্রবলেম অফ কন্ট্রোল সুপারইন্টেলিজেন্সঃ পাথস, ডেঞ্জার্স, স্ট্র্যাটেজিস রেফারেন্স 2020 নন-ফিকশন বই কার্যকর পরার্থপরতা সম্পর্কে বই অস্তিত্বগত ঝুঁকি সম্পর্কে বই কৃত্রিম সাধারণ বুদ্ধিমত্তা থেকে অস্তিত্বগত ঝুঁকি ইংরেজি নন-ফিকশন বই ভবিষ্যতবিদ্যা বই ডব্লিউ. ডব্লিউ. নর্টন অ্যান্ড কোম্পানি বই কৃত্রিম বুদ্ধিমত্তা সম্পর্কে নন-ফিকশন বই