 Láti inú àkópọ yìí, ṣe àkọsílẹ ọnà mẹta tí àwọn ètò ìmọ-ìjìnlẹ alágbèéká fi ń fi ìwà tí kò bá ìlànà ènìyàn mu hàn, èyí tí Brian Christian jíròrò nínú àwọn apá mẹta ìwé rẹ The Alignment Problem?Context:Apá mẹta ni ìwé náà pín sí: Àsọtẹlẹ, Àṣẹ, àti Ìlànà. Apá kọọkan ní àwọn olùṣèwádìí àti àwọn onímọ ẹrọ tí wọn ń ṣiṣẹ lórí àwọn ìpèníjà ọtọọtọ nínú mímú kí ìmọ-ìjìnlẹ tó jẹ ẹrọ mọ àwọn ìlànà ẹdá ènìyàn.  Àsọtẹlẹ Ní apá àkọkọ, Christian fi àwọn ìjíròrò nípa ìtàn ìwádìí ìmọ-ọrọ-ọfẹ, ní pàtàkì ọnà tí àwọn ẹrọ ń gbà kọ àwọn ẹrọ-ọrọ-ọfẹ bí Perceptron àti AlexNet, pẹlú àwọn àpẹẹrẹ bí àwọn ètò ìmọ-ọfẹ-ọfẹ ṣe lè ní ìwà tí a kò fẹ. Ó sọ ìtàn Julia Angwin, akọròyìn kan tí ProPublica ṣe ìwádìí nípa ìlànà COMPAS, ọnà kan láti sọ àsọtẹlẹ ìwà ọdaràn láàárín àwọn tí wọn fẹsùn ìwà ọdaràn kàn, èyí tí ó yọrí sí àríyànjiyàn tó gbòde kan nípa bó ṣe péye tó àti bí ó ṣe máa ń ṣe ojúsàájú sí àwọn ènìyàn kan. Ọkan ninu awọn ipenija idasilẹ akọkọ ti AI ni iseda apoti dudu rẹ awọn titẹsi ati awọn abajade ni a le ṣe idanimọ ṣugbọn ilana iyipada laarin wọn ko ṣe ipinnu. Àìsí ìfòyebánilò ń mú kó ṣòro láti mọ ibi tí ètò náà ti ń lọ dáadáa àti ibi tó ti ń lọ díẹdíẹ.  Àjọ Ní apá kejì, Christian bákan náà ṣe àgbéyẹwò ìtàn nípa ẹkọ nípa ẹmí nípa èrè, bíi ìwà àti dopamine, pẹlú ìmọ-ìjìnlẹ kòmpútà nípa kíkọ nípa àfikún okun, nínú èyí tí àwọn ètò AI nílò láti gbé ìlànà kalẹ ohun tí wọn gbọdọ ṣe ní ojú iṣẹ iye ohun tí wọn gbọdọ san tàbí ìyà tí wọn gbọdọ jẹ. Ó pe ètò AlphaGo àti AlphaZero tí DeepMind ṣe ní ìgbésẹ tó kàmàmà jù lọ nínú ètò ẹkọ kíkọni lọnà tó wà létòlétò. Ó tún tẹnu mọ ìjẹpàtàkì ìmọlára, nínú èyí tí àwọn akẹkọọ tí ó ń gba ìdánilójú ti ní ìdíwọ láti ṣàyẹwò àyíká wọn, dípò wíwá èrè láti ìta nìkan.  Ìlànà Apá kẹta dá lórí ìdánilẹkọọ AI nípasẹ àfarawé ìwà ènìyàn tàbí ìwà ẹrọ, àti àríyànjiyàn nípa ẹkọ ẹkọ ẹkọ ẹkọ ẹkọ ẹkọ ẹkọ ẹkọ ẹkọ ẹkọ ẹkọ ẹkọ ẹkọ ẹkọ ẹkọ ẹkọ ẹkọ ẹkọ ẹkọ ẹkọ ẹkọ ẹkọ ẹkọ ẹkọ. O ṣe pataki pataki ni ẹkọ imudani, ọna ti o gbooro fun awọn ẹrọ lati kọ ẹkọ iṣẹ-ṣiṣe ti eniyan tabi oluranlowo miiran. Christian ṣalaye awọn ipenija ti o ṣe deede ti o ni nkan ṣe pẹlu altruism ti o munadoko ati eewu ti o wa, pẹlu iṣẹ ti awọn onimoye Toby Ord ati William MacAskill ti o n gbiyanju lati ṣe agbekalẹ awọn ọgbọn eniyan ati ẹrọ fun lilọ kiri ninu iṣoro iṣedede bi daradara bi o ti ṣee. : Ní apá àkọkọ, Àsọtẹlẹ, òǹkọwé sọrọ nípa àwọn àwòkọṣe tó ń sọ àsọtẹlẹ tó ń ṣe àwọn ìpinnu tí ó ṣòro láti ṣàyẹwò tí ó sì lè di ẹtanú tàbí àìṣòdodo.  Ní apá kejì, Àjọ, nípa àwọn ètò ìkọni tí ó ń mú kí ó lágbára sí i, bó tilẹ jẹ pé àwọn àṣeyọrí dídára wà tí wọn ti ṣe, ó fẹrẹẹ jẹ pé iṣẹ tí wọn ń ṣe nìkan ló ń darí wọn, kì í ṣe bí wọn ṣe fẹ mọ nípa àgbáyé.  Ní abala kẹta, Normativity, àwọn ọnà ìkọ tí a fi àdàkàdekè fúnni ní ìdánilójú dojú kọ ìpèníjà láti mọ iṣẹ tí ènìyàn ń ṣe. 