GPT4ALLは、OpenAIのGPT-3.5ターボモデルから抽出された合成命令データで微調整されていますが、OpenAssistantは主に本物の人間のボランティアによって書かれた回答から収集されたデータで微調整されています。合成トレーニングデータが生きている人間によって書かれた応答に匹敵する結果を達成できるかどうかはまだ不明ですが、OpenAssistantプロジェクトは、生きている人間によって書かれた応答に触れることができるという理論をテストしています。既存のinstructing-Tunedの大手言語モデルから純粋に削減されたデータで効果的に複製することができます。
GPT4All is fine-tuned on synthetic instruction data extracted from OpenAI's GPT-3.5-Turbo model, whereas OpenAssistant is mainly fine-tuned on data gathered from responses written by real human volunteers. It remains to be seen whether synthetic training data can achieve results comparable to responses written by living humans, but the OpenAssistant project is testing the theory that finetuning on responses written by living humans may give language models a degree of alignment and creativity which may not be possible to replicate as effectively with data scraped purely from an existing instruct-tuned large language model.