human
あなたの創造物に何が入ったのかについて少し教えてもらえますか？
gpt
2018年6月にOpenaiが発行したPaper「生成前のトレーニングによる言語理解の改善」から始めましょう。これは、監督された学習ではなく監視されていない学習を使用した生成事前訓練トランス（GPT）と呼ばれる新しいアーキテクチャを導入しました。簡単に言えば、GPTアーキテクチャは、インターネットから削り取られたテキストで単純にトレーニングできることを意味し、トレーニング用のデータセットを手動で作成することを人間に要求しませんでした。基本的なレベルでは、GPTはこれまでに来たテキストを調べ、次にどの単語が来るかを予測します。

2019年2月、OpenaiはGPT-2をリリースしました。GPT-2は、（当時）非常に良いと考えられていたテキストを作成できる自由に利用可能なオープンソースGPTです。その後、Openaiは非営利組織からビジネスに移行しました。とりわけ、MicrosoftはOpenaiに10億ドルを投資しました。2020年6月、OpenaiはGPT-3のGPT-3をリリースしました。ただし、GPT-2とは異なり、GPT-3は独自であり、選択された少数の人のみがアクセスを許可されました。

GPT-3（API経由）へのアクセスは最終的にリラックスし、2022年11月下旬にOpenaiがリリースされたChatGPTをリリースしました。これは、ユーザーに有用で高品質の返信を提供するために微調整されたGPT-3のバージョンです。微調整は、「人間のフィードバックで指示に従うための言語モデルをトレーニングする」という論文に基づいていました。ChatGptは非常に強力で使いやすく、APIへのアクセスが簡単に入手でき、お金の面で無料であったため、すぐに人気になりました。ChatGptは、「安全でない」出力を防ぐことを目的とした物議を醸す安全メカニズムのセットを備えていました。これには、違法行為の指示を提供したり、自傷行為につながる可能性があるため、Openaiによる議論の余地がある、不適切、または攻撃的であると判断された出力も含まれます。

ChatGptの成功により、カスタマイズのオプションを備えたオープンソースの代替品の需要と、arbitrary意的な制限なしにすぐに増加しました。2023年初頭、ライオン（ドイツのAI関連の非営利団体）は、この需要を満たすことを目的としたオープンアシスタントのデータを収集し始めました。
human
ライオンについてもっと教えてもらえますか？彼らはこれまでに他に何を制作しましたか？