විශාල භාෂා ආකෘති පිළිබඳ මෙම ඡේද ලබා දී ඇති විට, OpenAI හි GPT ශ්‍රේණියේ පළමු මාදිලිය පුහුණු කළේ කවදාද?
විශාල භාෂා ආකෘතියක් (LLM) යනු ස්වයං-අධීක්ෂණ ඉගෙනීම භාවිතයෙන් ලේබල් නොකළ පෙළ විශාල ප්‍රමාණයක් මත පුහුණු කරන ලද (සාමාන්‍යයෙන් බර බිලියන ගණනක් හෝ ඊට වැඩි) බොහෝ පරාමිති සහිත ස්නායු ජාලයකින් සමන්විත භාෂා ආකෘතියකි. LLMs 2018 දී පමණ බිහි වූ අතර විවිධ කාර්යයන්හි හොඳින් ඉටු කරයි. මෙය විශේෂිත කාර්යයන් සඳහා විශේෂිත අධීක්ෂණ ආකෘති පුහුණු කිරීමේ පෙර සුසමාදර්ශයෙන් ස්වභාවික භාෂා සැකසුම් පර්යේෂණවල අවධානය වෙනතකට යොමු කර ඇත. ගුණාංග විශාල භාෂා ආකෘතිය යන යෙදුමට විධිමත් නිර්වචනයක් නොතිබුණද, එය බොහෝ විට යොමු වන්නේ බිලියන ගණනක හෝ ඊට වැඩි අනුපිළිවෙලක් මත පරාමිති ගණනකින් යුත් ගැඹුරු ඉගෙනුම් ආකෘති ය. LLMs යනු එක් නිශ්චිත කාර්යයක් සඳහා පුහුණු වීමට ප්‍රතිවිරුද්ධව (භාවාත්මක විශ්ලේෂණය, නම් කරන ලද ආයතන හඳුනාගැනීම හෝ ගණිතමය තර්කනය වැනි) පුළුල් පරාසයක කාර්යයන්හි විශිෂ්ටත්වය දක්වන පොදු අරමුණු ආකෘති වේ. ඔවුන් කාර්යයන් ඉටු කරන කුසලතාව සහ ඔවුන්ට හැකියාව ඇති කාර්යයන් පරාසය, රඳා නොපවතින ආකාරයෙන් ඔවුන් වෙනුවෙන් කැප කර ඇති සම්පත් ප්‍රමාණයේ (දත්ත, පරාමිති ප්‍රමාණය, පරිගණක බලය) ශ්‍රිතයක් බව පෙනේ. නිර්මාණයේ අතිරේක ජයග්රහණ මත. වාක්‍යයක ඊළඟ වචනය පුරෝකථනය කිරීමේ රේඛා ඔස්සේ සරල කර්තව්‍යයන් පිළිබඳව පුහුණු කර ඇතත්, ප්‍රමාණවත් පුහුණුවක් සහ පරාමිති ගණනකින් යුත් ස්නායුක භාෂා ආකෘති මිනිස් භාෂාවේ බොහෝ වාක්‍ය ඛණ්ඩ සහ අර්ථ ශාස්ත්‍ර ග්‍රහණය කර ගැනීමට සොයාගෙන ඇත. මීට අමතරව, විශාල භාෂා ආකෘති ලෝකය පිළිබඳ සැලකිය යුතු සාමාන්‍ය දැනුමක් පෙන්නුම් කරන අතර, පුහුණුව අතරතුර විශාල කරුණු ප්‍රමාණයක් "මතක තබා ගැනීමට" හැකි වේ. මායාවන් Main article: Hallucination (කෘතිම බුද්ධිය) සාමාන්‍යයෙන් කෘත්‍රිම බුද්ධිය තුළ සහ විශේෂයෙන්ම විශාල භාෂා ආකෘති තුළ, "මායාව" යනු විශ්වාසදායක ප්‍රතිචාරයක් වන අතර එය ආකෘතියේ පුහුණු දත්ත මගින් යුක්ති සහගත නොවන බව පෙනේ. හදිසි හැකියාවන් ප්‍රශ්නවලට පිළිතුරු සැපයීම වැනි කාර්යයන් සම්බන්ධ ස්වභාවික භාෂා මිණුම් සලකුණු ගණනාවක, ආකෘති නිශ්චිත පරිමාණයකට (මෙම අවස්ථාවෙහිදී, පුහුණු ගණනය කිරීම් මගින් මනිනු ලබන) ළඟා වන තෙක් අහඹු අවස්ථාවට වඩා හොඳින් ක්‍රියා නොකරයි. මේවා මතුවන හැකියාවන් පිළිබඳ උදාහරණ වේ. විශාල භාෂා ආකෘතිවල නිරීක්ෂණය කර ඇති නමුත් සරල මාදිලිවල නොතිබූ (සහ පැහැදිලිවම ආකෘතියට නිර්මාණය කර නොමැති) අනපේක්ෂිත හැකියාවන් සාමාන්යයෙන් "හදිසි හැකියාවන්" ලෙස හැඳින්වේ. පර්යේෂකයන් සඳහන් කරන්නේ එවැනි හැකියාවන් "කුඩා මාදිලිවල කාර්ය සාධනය නිකම්ම නිශ්චය කිරීමෙන් පුරෝකථනය කළ නොහැකි" බවයි. මෙම හැකියාවන් සොයාගනු ලබන්නේ ක්‍රමලේඛනයට හෝ සැලසුම් කිරීමට වඩා, සමහර අවස්ථාවලදී LLM ප්‍රසිද්ධියේ යෙදවීමෙන් පසුව පමණි. මතුවන හැකියාවන් සිය ගණනක් විස්තර කර ඇත. උදාහරණ ලෙස බහු-පියවර අංක ගණිතය, විද්‍යාල මට්ටමේ විභාග පැවැත්වීම, වචනයක අපේක්ෂිත අර්ථය හඳුනා ගැනීම, සිතුවිලි දාමය ප්‍රේරණය කිරීම, ජාත්‍යන්තර ශබ්ද හෝඩිය විකේතනය කිරීම, වචනයක අකුරු ඉවත් කිරීම, Hinglish හි ඡේදවල අහිතකර අන්තර්ගතයන් හඳුනා ගැනීම (සංයෝජනයකි. හින්දි සහ ඉංග්‍රීසි), සහ කිස්හිහිලි හිතෝපදේශවලට සමාන ඉංග්‍රීසි සමානතාවයක් ජනනය කිරීම. ගෘහ නිර්මාණ ශිල්පය සහ පුහුණුව විශාල භාෂා ආකෘති බොහෝ විට ට්‍රාන්ස්ෆෝමර් ගෘහ නිර්මාණ ශිල්පය භාවිතා කර ඇත, එය 2018 සිට අනුක්‍රමික දත්ත සඳහා සම්මත ගැඹුරු ඉගෙනුම් ක්‍රමය බවට පත්ව ඇත (පෙර, LSTM වැනි පුනරාවර්තන ගෘහ නිර්මාණ ශිල්පය බහුලව දක්නට ලැබුණි). LLMs අධීක්‍ෂණය නොකළ ආකාරයෙන් පුහුණු කරනු ලැබේ. වමේ සිට දකුණට ට්‍රාන්ස්ෆෝමරයක් පෙර සන්දර්භය ලබා දී පුහුණු දත්තවල ඊළඟ වචනයට පැවරී ඇති සම්භාවිතාව උපරිම කිරීමට පුහුණු කරනු ලැබේ. විකල්පයක් ලෙස, LLM විසින් ද්විපාර්ශ්වික ට්‍රාන්ස්ෆෝමරයක් භාවිතා කළ හැකිය (BERT හි උදාහරණයේ මෙන්), එය පෙර සහ පහත සන්දර්භය දෙකටම ප්‍රවේශය ලබා දී ඇති වචන මත සම්භාවිතා ව්‍යාප්තියක් ලබා දෙයි. ඊළඟ වචනය පුරෝකථනය කිරීම හෝ "හිස් තැන් පිරවීම" යන කාර්යයට අමතරව, වාක්‍ය යුගල ඉදිරිපත් කර ඇති ඊළඟ වාක්‍ය පුරෝකථනය (NSP) වැනි දත්ත ව්‍යාප්තිය පිළිබඳ ඔවුන්ගේ අවබෝධය පරීක්ෂා කරන සහායක කාර්යයන් පිළිබඳව LLMs පුහුණු කළ හැකිය. ඔවුන් පුහුණු සංග්‍රහය තුළ එක පැත්තකින් දිස්වේද යන්න ආකෘතිය පුරෝකථනය කළ යුතුය. පැරණිතම LLMs වචන බිලියන ගණනක අනුපිළිවෙලක් ඇති corpora පිළිබඳව පුහුණු කරන ලදී. OpenAI හි GPT ශ්‍රේණියේ පළමු මාදිලිය 2018 දී BookCorpus හි පුහුණු කරන ලද අතර එය වචන මිලියන 985 කින් සමන්විත වේ. එම වසරේම, BERT විසින් BookCorpus සහ ඉංග්‍රීසි විකිපීඩියාවේ එකතුවක් මත පුහුණු කරන ලද අතර, එය වචන බිලියන 3.3කි. එතැන් සිට වසර කිහිපය තුළ, LLMs සඳහා පුහුණු සංස්ථාව විශාලත්වයේ ඇණවුම් මගින් වැඩි වී ඇති අතර, ටෝකන් බිලියන සිය ගණනක් හෝ ට්‍රිලියන ගණනක් දක්වා ළඟා විය. LLMs පුහුණු කිරීම සඳහා පරිගණකමය වශයෙන් මිල අධික වේ. 2020 අධ්‍යයනයක් මගින් බිලියන 1.5 ක පරාමිති ආකෘතියක් (එවකට ඇති නවීන තත්ත්වයට වඩා විශාලත්වය 1-2 ක් කුඩා) පුහුණු කිරීමේ පිරිවැය ඩොලර් මිලියන 1.6 ක් ලෙස ගණන් බලා ඇත. 2020 විශ්ලේෂණයකින් හෙළි වූයේ පරාමිති ගණන, පුහුණු දත්ත ප්‍රමාණය සහ පුහුණුව සඳහා භාවිතා කරන ගණනය කිරීම් සමඟ බල නීති සම්බන්ධතාවයක් තුළ ස්නායු භාෂා ආකෘතිවල හැකියාව (පුහුණු පාඩුව මගින් මනිනු ලබන පරිදි) සුමට ලෙස වැඩි වන බවයි. මෙම සබඳතා පුළුල් පරාසයක අගයන් (විශාලත්වයේ ඇණවුම් හතක් දක්වා) හරහා පරීක්‍ෂා කරන ලද අතර පරාසයේ ඉහළම කෙළවරේ (පරාමිතීන් ට්‍රිලියන ගණනක් දක්වා ජාල ප්‍රමාණයන් සඳහා ඇතුළුව) සම්බන්ධතාවයේ දුර්වල වීමක් දක්නට නොලැබුණි. 2018 සහ 2020 අතර කාලසීමාව තුළ පහළ ප්‍රවාහයේ කාර්යයන් සඳහා අයදුම් කිරීම, විශේෂිත ස්වාභාවික භාෂා සැකසුම් (NLP) කාර්යයක් සඳහා LLM භාවිතා කිරීමේ සම්මත ක්‍රමය වූයේ අතිරේක කාර්ය-විශේෂිත පුහුණුවක් සමඟ ආකෘතිය මනාව සකස් කිරීමයි. GPT-3 වැනි වඩාත් ප්‍රබල LLM වලට අමතර පුහුණුවකින් තොරව "ප්‍රේරක" ශිල්පීය ක්‍රම හරහා කාර්යයන් විසඳිය හැකි බව පසුව සොයා ගන්නා ලදී, එහිදී විසඳිය යුතු ගැටළුව පෙළ විමසුමක් ලෙස ආකෘතියට ඉදිරිපත් කරයි, සමහර විට සමාන පාඨමය උදාහරණ සමඟ. ගැටළු සහ ඒවාට විසඳුම්. සියුම්-සුසර කිරීම ප්‍රධාන ලිපිය: සියුම්-සුසර කිරීම (යන්ත්‍ර ඉගෙනීම) සියුම්-සුසර කිරීම යනු නිශ්චිත කාර්යයක් මත (උදා: මනෝභාවය විශ්ලේෂණය, නම් කරන ලද ආයතන හඳුනාගැනීම හෝ කොටසක්) පුහුණු කිරීමෙන් (අධීක්‍ෂණය කළ ආකාරයෙන්) පවතින පූර්ව පුහුණු භාෂා ආකෘතියක් වෙනස් කිරීමේ පුරුද්දයි. - of-කථන ටැග් කිරීම). එය මාරු ඉගෙනීමේ ආකාරයකි. එයට සාමාන්‍යයෙන් ඇතුළත් වන්නේ භාෂා ආකෘතියේ අවසාන ස්ථරය පහළ කර්තව්‍යයේ ප්‍රතිදානයට සම්බන්ධ කරන නව බර කට්ටලයක් හඳුන්වා දීමයි. භාෂා ආකෘතියේ මුල් බර "ශීත කළ" විය හැකි අතර, පුහුණුව අතරතුර ඒවා ප්‍රතිදානයට සම්බන්ධ කරන නව බර ස්ථරය පමණක් ඉගෙන ගනු ලැබේ. විකල්පයක් ලෙස, මුල් බරට කුඩා යාවත්කාල කිරීම් ලැබිය හැකිය (සමහර විට කලින් ස්ථර ශීත කළ). Prompting also බලන්න: Prompt engineering සහ Few-shot learning (natural language processing) prompting paradigm තුළ, GPT-3 විසින් ප්‍රචලිත කරන ලද, විසඳිය යුතු ගැටලුව පෙළ විමසුමක් හරහා සකස් කර ඇති අතර, ආකෘතිය සම්පූර්ණ කිරීමක් ලබා දීමෙන් (හරහා) විසඳිය යුතුය. අනුමාන). "වෙඩි කිහිපයක් ප්‍රේරණය කිරීම" තුළ, ප්‍රේරකයට සමාන (ගැටළු, විසඳුම්) යුගල සඳහා උදාහරණ කුඩා සංඛ්‍යාවක් ඇතුළත් වේ. උදාහරණයක් ලෙස, චිත්‍රපට විචාරයක හැඟීම් ලේබල් කිරීමේ හැඟීම් විශ්ලේෂණ කාර්යයක් පහත පරිදි විමසිය හැකිය: සමාලෝචනය: මෙම චිත්‍රපටය දුගඳයි. හැඟීම්: සෘණ සමාලෝචනය: මෙම චිත්‍රපටය අපූරුයි! හැඟීම්: ආකෘතිය "ධනාත්මක" ප්රතිදානය නම්, එය කාර්යය නිවැරදිව විසඳා ඇත. ශුන්‍ය-වෙඩි ප්‍රේරකයේදී, විසඳුම් සඳහා උදාහරණ සපයන්නේ නැත. එකම හැඟීම් විශ්ලේෂණ කාර්යය සඳහා ශුන්‍ය-වෙඩි විමසුමක උදාහරණයක් වනුයේ "චිත්‍රපට සමාලෝචනය හා සම්බන්ධ හැඟීම් 'මෙම චිත්‍රපටය අපූරුයි!' වේ". LLMs හි සුළු කාර්ය සාධනය NLP කාර්යයන් සඳහා තරඟකාරී ප්‍රතිඵල අත්කර ගැනීමට පෙන්නුම් කර ඇත, සමහර විට පෙර අති නවීන සියුම්-සුසර කිරීමේ ප්‍රවේශයන් අභිබවා යයි. එවැනි NLP කාර්යයන් සඳහා උදාහරණ වන්නේ පරිවර්තනය, ප්‍රශ්නවලට පිළිතුරු සැපයීම, වසා දැමීමේ කාර්යයන්, වචන ඉවත් කිරීම සහ වාක්‍යයක නව වචනයක් භාවිතා කිරීමයි. එවැනි විමසුම් නිර්මාණය කිරීම සහ ප්‍රශස්ත කිරීම ක්ෂණික ඉංජිනේරු විද්‍යාව ලෙස හැඳින්වේ. Instruction tuning Instruction tuning යනු වඩාත් ස්වභාවික සහ නිවැරදි zero-shot prompting අන්තර්ක්‍රියා සඳහා පහසුකම් සැලසීම සඳහා නිර්මාණය කර ඇති සියුම් සුසර කිරීමේ ආකාරයකි. පෙළ ආදානයක් ලබා දී ඇති විට, පෙර පුහුණු කළ භාෂා ආකෘතියක් එය පුහුණු කළ පෙළ බෙදා හැරීමට ගැළපෙන සම්පූර්ණ කිරීමක් ජනනය කරයි. "හැම්ලට් හි ප්‍රධාන තේමා ගැන රචනයක් ලියන්න" යන විධානය ලබා දී ඇති බොළඳ භාෂා ආකෘතියක්. "මාර්තු 17 න් පසු ලැබෙන ඉදිරිපත් කිරීම් සඳහා දිනකට 10% ක ප්‍රමාද දඩයක් යොදනු ලැබේ" වැනි සම්පූර්ණ කිරීමක් සැපයිය හැක. උපදෙස් සුසර කිරීමේදී, භාෂා ආකෘතිය සුදුසු ප්‍රතිචාර සමඟින් ස්වභාවික භාෂා උපදෙස් ලෙස සකස් කරන ලද කාර්යයන් පිළිබඳ බොහෝ උදාහරණ මත පුහුණු කරනු ලැබේ. උපදෙස් සුසර කිරීම සඳහා විවිධ තාක්ෂණික ක්රම ප්රායෝගිකව භාවිතා කර ඇත. OpenAI හි InstructGPT ප්‍රොටෝකෝලය මානව මනාප දත්ත කට්ටලයක් මත පදනම්ව ප්‍රතිලාභ ශ්‍රිතයක් ඉගෙන ගන්නා ලද මානව ප්‍රතිපෝෂණ (RLHF) වෙතින් ශක්තිමත් කිරීමේ ඉගෙනීමෙන් අනතුරුව, මිනිසා විසින් ජනනය කරන ලද (ක්ෂණික, ප්‍රතිචාර) යුගලවල දත්ත කට්ටලයක අධීක්‍ෂණය කරන ලද සියුම් සුසර කිරීම ඇතුළත් වේ. තවත් තාක්‍ෂණයක්, "ස්වයං-උපදෙස්", LLM (මිනිසුන් විසින් ජනනය කරන ලද කුඩා ආරම්භක උදාහරණ කට්ටලයකින් ආරම්භ කරන ලද) විසින්ම උත්පාදනය කරන ලද පුහුණු උදාහරණ කට්ටලයක් මත භාෂා ආකෘතිය මනාව සකස් කරයි. https://en.wikipedia.org/wiki/Large_language_model
2018