 Bi a ṣe fi àwọn ìpínrọ yìí nípa àwọn àwòkọ èdè ńlá, ọrọ mélòó ni BookCorpus ní nígbà tí wọn lòó láti kọ àwòkọkọ àkọkọ nínú OpenAIs GPT series tí wọn kọ ní 2018?Context:Àpẹẹrẹ èdè ńlá LLM jẹ àwòkọṣe èdè tí ó ní àwòkọṣe nẹwúrà pẹlú ọpọlọpọ àwọn ìlànà ìyẹn bílíọnù àìmọye àwọn àdánù tàbí jù bẹẹ lọ, tí wọn ń kọ ní orí ọpọlọpọ àwọn àkọsílẹ tí kò ní àmì tí wọn ń lò nípasẹ ẹkọ tí wọn ń darí fúnra wọn. Awọn LLM farahan ni ayika ọdun 2018 ati ṣiṣe daradara ni ọpọlọpọ awọn iṣẹ-ṣiṣe. Eyi ti yi idojukọ ti iwadii sisẹ ede adayeba kuro ni apẹrẹ iṣaaju ti ikẹkọ awọn awoṣe abojuto pataki fun awọn iṣẹ-ṣiṣe kan pato.  Àwọn ohun-ìní Bó tilẹ jẹ pé ọrọ náà àpẹẹrẹ èdè ńlá kò ní ìtumọ tí ó ṣe pàtó, ó sábà máa ń tọka sí àwọn àwòkọọ tí ó jinlẹ tí ó ní iye àwọn àlàfo tó jẹ bílíọnù tàbí jù bẹẹ lọ. LLM jẹ awọn awoṣe idi gbogbogbo ti o tayọ ni ọpọlọpọ awọn iṣẹ-ṣiṣe, ni idakeji si ikẹkọ fun iṣẹ-ṣiṣe kan pato bii itupalẹ iṣaro, idanimọ nkan ti a npe ni, tabi ero iṣiro. Ọgbọn ti wọn fi n ṣe awọn iṣẹ, ati ibiti awọn iṣẹ ti wọn lagbara, dabi pe o jẹ iṣẹ ti iye awọn orisun data, iwọn paramita, agbara iṣiro ti a ya sọtọ si wọn, ni ọna ti ko da lori awọn ilọsiwaju afikun ninu apẹrẹ.  Bó tilẹ jẹ pé wọn ti kọ wọn ní àwọn iṣẹ tó rọrùn bíi wíwo ọrọ tó máa tẹ lé e nínú gbólóhùn kan, a rí i pé àwọn ẹrọ èdè tí wọn ti kọ dáadáa tí wọn sì ní àwọn ìlànà tó yẹ kí wọn máa lò máa ń gba ọpọ lára àwọn ìlànà àti ọrọ-ìtumọ èdè èèyàn. Ni afikun, awọn awoṣe ede nla ṣe afihan imọ gbogbogbo ti o pọju nipa agbaye, ati pe o ni anfani lati ṣe iranti ọpọlọpọ awọn otitọ lakoko ikẹkọ.  Ìrònú Àwọn ojúewé wọnyí jápọ mọ Àdàkọ:Hallucination artificial intelligence Nínú ìmọ ọgbọn orí ẹdá ní gbogbogbo, àti nínú àwọn àwòkọ èdè ńlá ní pàtó, ìmọlára jẹ ìdáhùn ìdánilójú tí kò dàbí ẹni pé ó jẹ èyí tí àwọn ìsọfúnni ìdánilẹkọọ tí àwòkọ náà ní fi hàn pé ó tọnà.  Àwọn agbára tó ń yọjú  Ní oríṣiríṣi àwọn ìlànà èdè àbínibí tí ó ní àwọn iṣẹ bíi ìdáhùn ìbéèrè nínú, àwọn àwòṣe kò ṣe dáadáa ju àfàìmọ kí wọn ṣe àfàìmọ kí wọn ṣe àfàìmọ kí wọn ṣe àfàìmọ kí wọn ṣe àfàìmọ kí wọn ṣe àfàìmọ kí wọn ṣe àfàìmọ kí wọn ṣe àfàìmọ kí wọn ṣe àfàìmọ kí wọn ṣe àfàìmọ kí wọn ṣe àfàìmọ kí wọn ṣe àfàìmọ kí wọn ṣe àfàìmọ kí wọn ṣe àfàìmọ kí wọn ṣe àfàìmọ kí wọn ṣe àfàìmọ kí wọn ṣe àfàìmọ kí wọn ṣe àfàìmọ. Àpẹẹrẹ àwọn agbára tó ń yọjú nìyí. Àwọn agbára tí a kò lè sọ tẹlẹ tí a ti ṣàkíyèsí nínú àwọn àwòkọṣe èdè ńláńlá ṣùgbọn tí wọn kò sí nínú àwọn àwòkọṣe tí ó rọrùn tí wọn kò sì ṣe àtúnṣe sí àwòkọṣe náà ni a sábà máa ń pè ní àwọn agbára tí ó yọjú. Àwọn olùṣèwádìí náà sọ pé kò ṣeé ṣe láti sọ bí irú àwọn nǹkan bẹẹ ṣe máa ń ṣiṣẹ tó nípa wíwulẹ ṣe àyẹwò àwọn ohun tó kéré jù lọ. Awọn agbara wọnyi ni a ṣe awari dipo ti siseto-ni tabi apẹrẹ, ni awọn igba miiran nikan lẹhin ti LLM ti wa ni ita gbangba. Àwọn èèyàn ti ṣàpèjúwe ọgọrọọrún àwọn agbára tó ń yọjú. Àwọn àpẹẹrẹ kan ni ìṣirò oríṣiríṣi ìgbésẹ, gbígba ìdánwò ní ipele kọlẹẹjì, wíwá ìtumọ tí a fẹ fún ọrọ kan, pípèsè ìsọfúnni nípa ọnà tí a gbà ń ronú, ṣíṣàmúlò Àdàkọ Ọrọ-ìmọ Oríṣiríṣi, ṣíṣàmúlò àwọn lẹtà ọrọ kan, wíwá ìsọfúnni tí kò bára mu nínú àwọn ìpínrọ Hinglish àjọpọ èdè Híńdí àti èdè Gẹẹsì, àti pípèsè èdè Gẹẹsì tí ó bára dọgba pẹlú àwọn òwe èdè Kiswahili.  Ìmúra àti ìdánilẹkọọ Awọn awoṣe ede nla ti lo julọ ti itumọ itumọ transformer, eyiti, lati ọdun 2018, ti di ilana ẹkọ jinlẹ boṣewa fun data itẹlera ni iṣaaju, awọn ọna ṣiṣe atunwi bii LSTM jẹ wọpọ julọ. Àwọn LLM ni wọn ń kọ ní ọnà tí kò ní àbójútó lórí ìwé tí kò ní àlàyé. A ṣe ìdánilẹkọọ àyípadà òsì sí ọtún láti mú kí ìdánilójú tí a yàn fún ọrọ tó tẹlé e nínú àwọn ìsọfúnni ìdánilẹkọọ náà pọ sí i, níwọn bí ó ti jẹ pé àyíká tó ṣáájú ni. Ni ọna miiran, LLM le lo iyipada ti o ni itọsọna meji bi ninu apẹẹrẹ ti BERT, eyiti o funni ni pinpin iṣeeṣe lori awọn ọrọ ti a fun ni iraye si mejeeji ti iṣaaju ati atẹle. Ni afikun si iṣẹ-ṣiṣe ti asọtẹlẹ ọrọ ti o tẹle tabi fi awọn aaye ṣofo, LLMs le ni ikẹkọ lori awọn iṣẹ-ṣiṣe iranlọwọ ti o ṣe idanwo oye wọn ti pinpin data gẹgẹbi Asọtẹlẹ Ọrọ-ọrọ ti o tẹle NSP, ninu eyiti a gbekalẹ awọn tọkọtaya ti awọn gbolohun ọrọ ati awoṣe gbọdọ ṣe asọtẹlẹ boya wọn farahan lẹgbẹẹ-lẹgbẹẹ ninu akopọ ikẹkọ.  Àwọn LLM tí wọn kọkọ kọ ni wọn kọ nípa àwọn ìsọfúnni tó ní bílíọnù ọrọ. Àpẹẹrẹ àkọkọ nínú OpenAIs GPT series ni wọn kọ ní 2018 lórí BookCorpus, tí ó ní àwọn ọrọ mílíọnù 985. Ni ọdun kanna, BERT ni ikẹkọ lori apapo BookCorpus ati English Wikipedia, lapapọ 3.3 bilionu awọn ọrọ. Láàárín àwọn ọdún tó ti kọjá látìgbà náà, àwọn ilé ìdánilẹkọọ fún àwọn LLM ti pọ sí i gan-an, wọn sì ti tó ọgọrọọrún bílíọnù tàbí ẹgbàágbèje owó tokeni.  Àwọn LLM jẹ dídára láti kọ. Ìwádìí kan tí wọn ṣe lọdún 2020 fojú díwọn iye tí wọn máa ná láti kọ ẹrọ tí wọn ń pè ní 1.5 billion parameter model 1-2 orders of magnitude smaller than the state of the art at the time ní 1.6 million.  Àgbéyẹwò ọdún 2020 fi hàn pé agbára àwọn àwòkọ èdè ti ọpọlọ bí a ṣe wọn nípa àdánù ìdánilẹkọọ pọ sí i ní rọrọ-rọ-rọ ní ìbáṣepọ òfin agbára pẹlú iye àwọn ìlànà, iye àwọn ìsọfúnni ìdánilẹkọọ, àti ìṣirò tí a lò fún ìdánilẹkọọ. A ṣe idanwo awọn ibatan wọnyi lori ibiti o gbooro ti awọn iye to awọn aṣẹ titobi meje ati pe ko ṣe akiyesi idinku ti ibatan ni opin ti o ga julọ ti ibiti pẹlu fun awọn titobi nẹtiwọọki to awọn trillions ti awọn iṣiro.  Ohun elo si awọn iṣẹ-ṣiṣe isalẹ Láàárín ọdún 2018 àti 2020, ọnà tí wọn ń lò fún lílo LLM fún iṣẹ kan pàtó nídìí lílo èdè àbínibí NLP ni láti ṣe àtúnṣe àwòṣe náà pẹlú ìdánilẹkọọ pàtó fún iṣẹ náà. A ti rii nigbamii pe awọn LLM ti o ni agbara diẹ sii bii GPT-3 le yanju awọn iṣẹ laisi ikẹkọ afikun nipasẹ awọn ilana awọn iwuri, ninu eyiti iṣoro ti o yẹ ki o yanju ni a gbekalẹ si awoṣe bi iwuri ọrọ, boya pẹlu diẹ ninu awọn apẹẹrẹ ọrọ ti awọn iṣoro iru ati awọn solusan wọn.  Ṣíṣàtúnṣe Àwọn ojúewé wọnyí jápọ mọ Àdàkọ:Fine-tuning machine learning: Àtúnṣe dídára jẹ àṣeyege láti ṣe àtúnṣe sí àwòkọ èdè tí a ti kọ tẹlẹ nípa kíkọ ọ ní ọnà tí a ń darí lórí iṣẹ pàtó kan bí àyèwò èrò orí, ìfọwọsí àwọn ohun tí a pè ní orúkọ, tàbí dídá àwọn apá kan lára ọrọ-ìbánisọrọ mọ. Irú ìkọnilẹkọọ tí wọn máa ń fi kọni nìyẹn. Ó sábà máa ń wé mọ ìdásílẹ àpapọ àwọn ohun tí a fi ń díwọn tí ó so àlàfo ìkẹyìn ti àwòkọ èdè pọ mọ àbájáde iṣẹ tí ó wà ní ìsàlẹ. Àwọn àdánwò ìpilẹṣẹ ti àwòkọ èdè lè jẹ tí ó dì, irú èyí tí kìkì àwo tuntun ti àdánwò tí ó so wọn pọ mọ ìjáde ni a kọ lásìkò ìdánilẹkọọ. Yatọ si eyi, awọn iwuwo atilẹba le gba awọn imudojuiwọn kekere o ṣee ṣe pẹlu awọn fẹlẹfẹlẹ iṣaaju ti o ti wa ni tutu.  Ìsọfúnni Ẹ tún wo: Ẹrọ tí ó yára àti Ẹkọ tí ó yára kúrú ìmúlò èdè àdáni Ni awọn prompting paradigm, popularized nipa GPT-3, awọn isoro lati wa ni solved ti wa ni formulate nipasẹ kan ọrọ prompt, eyi ti awọn awoṣe gbọdọ yanju nipa pese kan pari nipasẹ inference. Ni ìmọràn díẹ-ìmọràn, ìmọràn náà ní àwọn àpẹẹrẹ díẹ ti àwọn ìbejì tó jọra ìṣòro, ojútùú. Fun apẹẹrẹ, iṣẹ-ṣiṣe onínọmbà ero ti sisọ ero ti atunyẹwo fiimu kan le ṣee beere bi atẹle:  Àtúnyẹwò: Fíìmù yìí ò dáa rárá. Èrò: kò dára  Àtúnyẹwò: Fíìmù yìí mà dára o! Ìrònú:  Ti awoṣe naa ba jade positive, lẹhinna o ti yanju iṣẹ naa ni deede. Níbi tí wọn ti ń sọrọ nípa ìṣẹlẹ tí kò ní ìṣẹlẹ, a kò fúnni ní àpẹẹrẹ ìdáhùn kankan. Àpẹẹrẹ ohun tí a kò lè ṣe fún àgbéyẹwò èrò kan náà ni Ìrònú tí ó so mọ àtúnyẹwò fíìmù Fíìmù yìí tayọtayọ! jẹ.  A ti fi han pe iṣẹ ṣiṣe kekere ti awọn LLM ṣe aṣeyọri awọn abajade ifigagbaga lori awọn iṣẹ NLP, nigbakan o kọja awọn ọna iṣatunṣe iṣaaju ti iṣaaju. Àpẹẹrẹ àwọn iṣẹ NLP wọnyí ni ìtumọ, ìdáhùn ìbéèrè, iṣẹ cloze, ṣíṣí àwọn ọrọ, àti lílo ọrọ tuntun nínú gbólóhùn. Ẹda ati iṣapeye ti iru awọn itọnisọna bẹẹ ni a npe ni imọ-ẹrọ itọnisọna.  Ìtọsọnà tí ó ń yí padà Ìtọni ìtọni jẹ ọnà ìtọni dídíjú tí a ṣe láti mú kí ìfọrọwérọ tí ó ń mú kí ìṣẹlẹ-ìṣẹlẹ-ìṣẹlẹ-ìṣẹlẹ-ìṣẹlẹ-ìṣẹlẹ-ìṣẹlẹ-ìṣẹlẹ-ìṣẹlẹ-ìṣẹlẹ-ìṣẹlẹ-ìṣẹlẹ-ìṣẹlẹ-ìṣẹlẹ-ìṣẹlẹ-ìṣẹlẹ-ìṣẹlẹ-ìṣẹlẹ-ìṣẹlẹ-ìṣẹlẹ-ìṣẹlẹ-ìṣẹlẹ-ìṣẹlẹ-ìṣẹlẹ-ìṣẹlẹ-ìṣẹlẹ-ìṣẹlẹ-ìṣẹlẹ. Ti a ba fi ọrọ kan sinu, awoṣe ede ti a ti kọ tẹlẹ yoo ṣe agbekalẹ ipari ti o baamu pinpin ọrọ lori eyiti o ti kọ ẹkọ. Àpẹẹrẹ èdè tí a kò mọ rí tí a fún ní ìsọfúnni náà Kọwé nípa àwọn kókó pàtàkì nínú Hamlet. lè pèsè ìparí bíi A ó fi ìjìyà ìdádúró tó jẹ 10 fún ọjọ kan sí àwọn ìsọfúnni tí a gbà lẹyìn March 17. Nínú ìtọni ìtọni, a máa ń kọ àwòkọ èdè lórí ọpọlọpọ àpẹẹrẹ àwọn iṣẹ tí a ṣe gẹgẹ bí ìtọni èdè àbínibí, pẹlú àwọn ìdáhùn tó yẹ. Oríṣiríṣi ọnà ni wọn ti lò nínú ìṣe láti ṣe àtúnṣe sí ìtọni. OpenAIs InstructGPT protocol níí ṣe pẹlú àbójútó àtúnṣe lórí ìdìpọ ìsọfúnni tí ènìyàn dá ìsọfúnni tí ó tètè dé, ìdáhùn àwọn tọkọtaya, tí a tẹlé e pẹlú ìkónilétí láti inú àlàyé tí ènìyàn fúnni RLHF, nínú èyí tí a kọ iṣẹ èrè tí ó dá lórí ìdìpọ ìsọfúnni tí ènìyàn yàn. Ọna miiran, fi ara kọ ẹkọ, ṣe atunṣe awoṣe ede lori ṣeto ikẹkọ ti awọn apẹẹrẹ eyiti wọn jẹ ti ara wọn nipasẹ LLM bootstrapped lati ṣeto ibẹrẹ kekere ti awọn apẹẹrẹ ti eniyan ṣe.   : Ọrọ tó lé ní mílíọnù méjìdínláàádọrùn-ún. 