بالنظر إلى هذه الفقرات حول نماذج اللغة الكبيرة، متى تم تدريب النموذج الأول في سلسلة GPT من OpenAI؟
Context:نموذج لغة كبير (LLM) هو نموذج لغة يتكون من شبكة عصبية مع العديد من المعلمات (عادةً مليارات الأوزان أو أكثر) ، مدربة على كميات كبيرة من النص غير المسمى باستخدام التعلم الخاضع للإشراف الذاتي. ظهرت LLMs حوالي عام 2018 وتؤدي بشكل جيد في مجموعة واسعة من المهام. وقد أدى ذلك إلى تحويل تركيز أبحاث معالجة اللغة الطبيعية بعيدًا عن النموذج السابق لتدريب نماذج خاضعة للإشراف المتخصصة لمهام محددة.  الخصائص على الرغم من أن مصطلح نموذج اللغة الكبيرة ليس له تعريف رسمي، إلا أنه يشير في كثير من الأحيان إلى نماذج التعلم العميق التي تحتوي على عدد من المعلمات بمليارات أو أكثر. تعتبر LLMs نماذج ذات غرض عام تتفوق في مجموعة واسعة من المهام ، بدلاً من التدريب على مهمة واحدة محددة (مثل تحليل المشاعر أو التعرف على الكيانات المسماة أو التفكير الرياضي). يبدو أن المهارة التي يقومون بها بإنجاز المهام، ومجموعة المهام التي هم قادرون عليها، هي وظيفة من كمية الموارد (البيانات، حجم المعلمات، قوة الحوسبة) المخصصة لهم، بطريقة لا تعتمد على اختراقات إضافية في التصميم.  على الرغم من تدريبها على مهام بسيطة على غرار التنبؤ بالكلمة التالية في الجملة ، إلا أن نماذج اللغة العصبية ذات التدريب الكافي وعدد المعلمات تم العثور عليها لالتقاط الكثير من تركيب اللغة البشرية والمعاني. بالإضافة إلى ذلك ، تظهر نماذج اللغة الكبيرة معرفة عامة كبيرة حول العالم ، وتستطيع "تذكر" كمية كبيرة من الحقائق أثناء التدريب.  هلوسات المقالة الرئيسية: الهلوسة في الذكاء الاصطناعي بشكل عام ، وفي نماذج اللغة الكبيرة على وجه الخصوص ، يكون "الهلوسة" استجابة واثقة لا يبدو أنها مبررة من قبل بيانات تدريب النموذج.  القدرات الناشئة  على عدد من معايير اللغة الطبيعية التي تنطوي على مهام مثل الإجابة على الأسئلة ، لا تؤدي النماذج بشكل أفضل من الصدفة العشوائية حتى تصل إلى مقياس معين (في هذه الحالة ، تقاس بحساب التدريب) ، وعند هذه النقطة يزداد أداؤها بشكل حاد. هذه أمثلة على القدرات الناشئة. القدرات غير المتوقعة التي لوحظت في نماذج اللغة الكبيرة ولكن لم تكن موجودة في النماذج البسيطة (والتي لم تكن مصممة صراحة في النموذج) عادة ما تسمى "القدرات الناشئة". يلاحظ الباحثون ان مثل هذه القدرات "لا يمكن التنبؤ بها ببساطة عن طريق استنتاج أداء نماذج أصغر". يتم اكتشاف هذه القدرات بدلاً من برمجتها أو تصميمها ، في بعض الحالات فقط بعد نشر LLM علناً. تم وصف مئات القدرات الناشئة. وتشمل الأمثلة حسابات متعددة الخطوات، وإجراء امتحانات على مستوى الكلية، وتحديد المعنى المقصود لكلمة، وتوجيه سلسلة الأفكار، وتفكيك الأبجدية الصوتية الدولية، وتفكيك حروف الكلمة، وتحديد المحتوى المسيء في فقرات اللغة الهندية (مزيج من اللغة الهندية واللغة الإنجليزية) ، وتوليد ما يعادل المثل الإنجليزية المماثلة للأمثال الكسواحيلية.  الهندسة المعمارية والتدريب استخدمت نماذج اللغات الكبيرة بشكل شائع بنية المحول ، والتي أصبحت منذ عام 2018 تقنية التعلم العميق القياسية للبيانات المتسلسلة (في السابق ، كانت المعماريات المتكررة مثل LSTM هي الأكثر شيوعًا). يتم تدريب LLM بطريقة غير خاضعة للرقابة على النص غير المعلق. يتم تدريب المحول من اليسار إلى اليمين لتحقيق أقصى قدر من الاحتمال المخصص لكلمة التالية في بيانات التدريب ، بالنظر إلى السياق السابق. بدلاً من ذلك ، يمكن أن يستخدم LLM محول ثنائي الاتجاه (كما هو الحال في مثال BERT) ، والذي يعين توزيع الاحتمال على الكلمات التي تم إتاحتها الوصول إلى السياق السابق واللاحق. بالإضافة إلى مهمة التنبؤ بالكلمة التالية أو "ملء الفراغات" ، قد يتم تدريب LLMs على مهام مساعدة تختبر فهمهم لتوزيع البيانات مثل التنبؤ بالجملة التالية (NSP) ، حيث يتم تقديم أزواج من الجمل ويجب على النموذج التنبؤ بما إذا كانت تظهر جنبا إلى جنب في المجموعة التدريبية.  تم تدريب أوائل LLM على الجماعات التي تحتوي على مليارات الكلمات. تم تدريب النموذج الأول في سلسلة GPT من OpenAI في عام 2018 على BookCorpus ، والذي يتكون من 985 مليون كلمة. في نفس العام، تم تدريب BERT على مزيج من BookCorpus و ويكيبيديا باللغة الإنجليزية، بما مجموعه 3.3 مليار كلمة. في السنوات التي تلت ذلك، زادت مؤسسات التدريب لـ LLMs بأوامر من الحجم، لتصل إلى مئات المليارات أو تريليونات من الرموز.  التدريب على LLM باهظ التكلفة. قدرت دراسة أجريت عام 2020 تكلفة تدريب نموذج ذي 1.5 مليار معيار (1-2 أوامر من الحجم الأصغر من حالة الفن في ذلك الوقت) بنحو 1.6 مليون دولار.  وجد تحليل عام 2020 أن قدرة نماذج اللغة العصبية (كما يقاس بخسارة التدريب) تزداد بسلاسة في علاقة قانون القوة مع عدد المعلمات ، وكمية بيانات التدريب ، والحسابات المستخدمة للتدريب. تم اختبار هذه العلاقات على نطاق واسع من القيم (حتى سبع أطر من الحجم) ولم يلاحظ أي تراجع في العلاقة في أعلى نهاية النطاق (بما في ذلك لأحجام الشبكات تصل إلى تريليونات من المعلمات).  التطبيق على المهام التالية بين عامي 2018 و 2020، كانت الطريقة القياسية لاستغلال LLM لمهام معينة في معالجة اللغة الطبيعية (NLP) هي تحسين النموذج بتدريب إضافي محدد للمهمة. تم العثور في وقت لاحق على أن LLMs الأكثر قوة مثل GPT-3 يمكن أن تحل المهام دون تدريب إضافي من خلال تقنيات "التحفيز" ، حيث يتم تقديم المشكلة التي سيتم حلها إلى النموذج كطلب نصي ، وربما مع بعض الأمثلة النصية للمشاكل المماثلة وحلولها.  ضبط الدقة المقالة الرئيسية: ضبط الدقة (التعلم الآلي) التنظيم الدقيق هو ممارسة تعديل نموذج لغة تم تدريبه مسبقًا من خلال تدريبه (بطريقة مشرفة) في مهمة محددة (على سبيل المثال تحليل المشاعر أو التعرف على الكيانات المسماة أو وضع علامات على أجزاء من الكلام). إنه شكل من أشكال التعلم النقلي. يتضمن ذلك بشكل عام إدخال مجموعة جديدة من الأوزان التي تربط الطبقة الأخيرة من نموذج اللغة بمخرجات المهمة التالية. قد تكون الأوزان الأصلية لنموذج اللغة "مجمّدة" ، بحيث يتم تعلم الطبقة الجديدة من الأوزان التي تربطها بالمخرجات فقط أثناء التدريب. بدلاً من ذلك ، قد تتلقى الأوزان الأصلية تحديثات صغيرة (ربما مع تجميد الطبقات السابقة).  التوجيه انظر أيضًا: الهندسة الفورية والتعلم القصير (معالجة اللغة الطبيعية) في نموذج التوجيه، الذي أشتهر بواسطة GPT-3، يتم صياغة المشكلة التي يجب حلها عبر إشارة نصية، والتي يجب على النموذج حلها من خلال توفير الانتهاء (عن طريق الاستدلال). في "التحفيز القصير"، يتضمن التحفيز عددًا صغيرًا من الأمثلة على أزواج مماثلة (مشكلة ، حل). على سبيل المثال، يمكن أن تتم مهمة تحليل المشاعر لتسمية مشاعر مراجعة فيلم على النحو التالي:  هذا الفيلم سيء مشاعر: سلبية  هذا الفيلم رائع! المشاعر:  إذا كان النموذج يخرج "إيجابياً" ، فقد حل المهمة بشكل صحيح. في إشارة الصفر، لا يتم تقديم أمثلة حل. ومن الأمثلة على إشارة الصفر لتحليل المشاعر نفسها هي "الشعور المرتبط بمراجعة الفيلم 'هذا الفيلم رائع!' ".  وقد تبين أن أداء القليل من LLMs يحقق نتائج تنافسية في مهام NLP ، في بعض الأحيان يتفوق على أساليب ضبط الدقة الحديثة السابقة. أمثلة على مثل هذه المهام هي الترجمة، والإجابة على الأسئلة، ومهمات التوقف عن العمل، وكشف الكلمات، واستخدام كلمة جديدة في الجملة. إنشاء وتحسين مثل هذه الإشارات يسمى هندسة الإشارات.  ضبط التعليمات ضبط التعليمات هو شكل من أشكال ضبط الدقة المصممة لتسهيل تفاعلات التفاعل التي تثير إطلاق الصفر بشكل أكثر طبيعية ودقة. مع إدخال نص ، سيولد نموذج لغة مدرب مسبقًا إكمالًا يطابق توزيع النص الذي تم تدريبه عليه. قد يوفر نموذج لغة ساذج عند إعطاء الطلب "اكتب مقالًا عن الموضوعات الرئيسية لهاملت". إكمالًا مثل "سيتم تطبيق عقوبة تأخير بنسبة 10٪ يوميًا على المشاركات الواردة بعد 17 مارس". في ضبط التعليمات ، يتم تدريب نموذج اللغة على العديد من الأمثلة على المهام المصممة كإرشادات لغة طبيعية ، جنبا إلى جنب مع الردود المناسبة. وقد تم تطبيق تقنيات مختلفة لتنسيق التعليمات في الممارسة العملية. يتضمن بروتوكول InstructGPT من OpenAI ضبطًا دقيقًا تحت إشراف على مجموعة بيانات من الأزواج التي تم إنشاؤها من قبل الإنسان (السرعة والاستجابة) ، تليها التعلم التعزيزي من ردود الفعل البشرية (RLHF) ، حيث تم تعلم وظيفة المكافأة بناءً على مجموعة بيانات التفضيلات البشرية. تقنية أخرى، "التعليم الذاتي"، تعمل على ضبط نموذج اللغة على مجموعة من الأمثلة التدريبية التي يتم إنشاؤها من قبل LLM (تم تشغيلها من مجموعة أولية صغيرة من الأمثلة التي أنشأها الإنسان).  النموذج اللغوي الكبير
عام 2018