human
Rédigez un résumé pour un article sur l'apprentissage automatique qui montre comment former un chatbot en affinant un modèle de langage pré-entraîné sur 1000 exemples soigneusement sélectionnés
gpt
Les modèles de langage ont montré des résultats impressionnants grâce à une combinaison d'entraînement non supervisé, d'affinage à grande échelle et d'apprentissage par renforcement. Nous explorons l'importance relative de ces approches en affinant un modèle de langage sur seulement 1000 exemples de haute qualité, et démontrons une performance remarquablement solide. Les données d'entraînement comprennent des exemples soigneusement sélectionnés à partir de [ajouter les sources]. Nous constatons qu'avec seulement quelques démonstrations, le modèle peut rapidement apprendre à suivre des formats de réponse spécifiques, répondant à des requêtes complexes allant de la planification d'itinéraires de voyage à la spéculation sur des histoires alternatives. Dans une étude humaine contrôlée, nous observons que notre approche simple amène le modèle au même niveau de performance que les chatbots de qualité industrielle. Ces résultats soutiennent l'hypothèse selon laquelle presque toutes les connaissances des grands modèles de langage sont apprises lors de la pré-formation, et seules des données d'affinage limitées sont nécessaires pour enseigner aux modèles de se concentrer sur les modes correspondant à des sorties de haute qualité.