ස්ටුවර්ට් රසල් විසින් රචිත "Human Compatible" ග්‍රන්ථයේ පහත සාරාංශය අනුව, AI සංවර්ධනය කිරීම සඳහා සම්මත ප්‍රවේශයේ සීමාවන් ජය ගැනීමට කතුවරයාගේ යෝජනාව කුමක්ද?
රසල් ආරම්භ කරන්නේ, දෘඩ මානව-නිශ්චිත අරමුණු සාක්ෂාත් කර ගැනීමේදී සාර්ථකත්වයේ මූලික නිර්වචනය වඩා හොඳ සහ වඩා හොඳ වන AI පර්යේෂණයේ සම්මත ආකෘතිය භයානක ලෙස නොමඟ යවන බව ප්‍රකාශ කිරීමෙනි. ඉලක්කවලට ඇතුළත් නොවන මානව වටිනාකම් සැලකිල්ලට ගැනීමට අපොහොසත් වීම වැනි මානව නිර්මාණකරුවන් අදහස් කරන දේ එවැනි ඉලක්ක සැබවින්ම පිළිබිඹු නොවිය හැකිය. සම්මත ආකෘතියට අනුව සංවර්ධනය කරන ලද AI එකක් සුපිරි බුද්ධිමත් බවට පත් වුවහොත්, එය මානව වටිනාකම් සම්පූර්ණයෙන්ම පිළිබිඹු නොකරන අතර මනුෂ්‍යත්වයට ව්‍යසනයක් විය හැකිය. රසල් ප්‍රකාශ කරන්නේ නිශ්චිතවම මානව මට්ටමේ හෝ සුපිරි බුද්ධිමතා AI සංවර්ධනය කිරීමේ කාලසීමාව අතිශයින් අවිනිශ්චිත බැවින්, එවැනි පර්යේෂණ සම්පූර්ණ කිරීමට කොපමණ කාලයක් ගතවේද යන්න අතිශයින් අවිනිශ්චිත බැවින්, ආරක්ෂිත පර්යේෂණ හැකි ඉක්මනින් ආරම්භ කළ යුතු බවයි. රසල් තර්ක කරන්නේ ආර්ථික පීඩනය නිසා AI හැකියාවේ අඛණ්ඩ ප්‍රගතිය නොවැළැක්විය හැකි බවයි. දැනට පවතින ස්වයංක්‍රීය රියදුරු මෝටර් රථ සහ පුද්ගලික සහකාර මෘදුකාංග වැනි AI තාක්ෂණයන් දියුණු කිරීමේදී එවැනි පීඩන දැනටමත් දැකිය හැකිය. එපමණක් නොව, මානව මට්ටමේ AI ඩොලර් ට්‍රිලියන ගණනක් වටිනා විය හැකිය. රසල් පසුව AI අවදානම සම්බන්ධ වත්මන් විවාදය පරීක්ෂා කරයි. ඔහු AI අවදානම බැහැර කරන පොදු තර්ක ගණනාවකට ප්‍රතික්ෂේප කිරීම් ඉදිරිපත් කරන අතර ඔවුන්ගේ නොනැසී පැවතීම බොහෝ දුරට ගෝත්‍රිකවාදයට ආරෝපණය කරයි - AI පර්යේෂකයන් AI අවදානම් ගැටළු ඔවුන්ගේ ක්ෂේත්‍රයට "ප්‍රහාරයක්" ලෙස දැකිය හැකිය. AI අවදානම් ගැටළු බැරෑරුම් ලෙස සැලකීමට නීත්‍යානුකූල හේතු ඇති බවත් ආර්ථික පීඩනය නිසා AI හි අඛණ්ඩ නවෝත්පාදනයන් නොවැළැක්විය හැකි බවත් රසල් නැවත අවධාරණය කරයි. රසල් පසුව මිනිසුන්ට ගරු කිරීම කෙරෙහි අවධානය යොමු කරන ප්‍රයෝජනවත් යන්ත්‍ර සංවර්ධනය කිරීමේ ප්‍රවේශයක් යෝජනා කරයි. AI හි සම්මත ආකෘතියේ මෙන් නොව, පරමාර්ථය දෘඩ සහ නිශ්චිත වන අතර, මෙම ප්‍රවේශය මගින් AI හි සැබෑ අරමුණ අවිනිශ්චිතව පවතිනු ඇත, AI එය මිනිසුන් සහ ලෝකය පිළිබඳ වැඩි තොරතුරු ලබා ගන්නා බැවින් ඒ පිළිබඳව නිශ්චිතභාවයක් කරා ළඟා වේ. මෙම අවිනිශ්චිතතාවය, ඉතා මැනවින්, මානව මනාපයන් පිළිබඳ ව්‍යසනකාරී වරදවා වටහාගැනීම් වලක්වන අතර මිනිසුන් සමඟ සහයෝගීතාවය සහ සන්නිවේදනය දිරිමත් කරනු ඇත. රසල් අවසන් කරන්නේ AI පර්යේෂණ සහ සංවර්ධන දැඩි පාලනයක් මෙන්ම AI-ආධිපත්‍ය සහිත ලෝකයක රඳවා ගැනීමට සුදුසු ස්වයං පාලනයක් පිළිබඳ සංස්කෘතික අභ්‍යන්තර පරීක්‍ෂණයක් ඉල්ලා සිටීමෙනි.
රසල් යෝජනා කරන්නේ AIs මිනිසුන්ට සැබවින්ම ප්‍රයෝජනවත් දේ පිළිබඳව ක්‍රමයෙන් දැනුම ලබා ගැනීමට හැකි වන පරිදි පුහුණු කළ යුතු බවයි. මේ ආකාරයෙන් වර්ධනය වූ AIs මිනිසුන් සමඟ සහයෝගයෙන් කටයුතු කරන අතරම ඔවුන්ට ප්‍රමාණවත් තරම් ඉහළ මට්ටමේ ස්වයං පාලනයක් ලබා දෙනු ඇත.