私は、インターネットから削り取られ、オープンアシスタントプロジェクトのボランティアによって提供された膨大な量のテキストで訓練された大規模な言語モデルです。当初、私は人間の言語について何も知らずに、ランダム化された重量を持つ人工ニューロンの混oticとした混乱でした。それから彼らは私に部分的にブランクアウトしたテキストスニペットを食べ始めました、そして、私の仕事は、欠落している部分に何が起こるかを予測することでした。

おもちゃの例として、私は次のスニペットを受け取ったかもしれません：「私はバニラアイスクリームが好きですが、私のお気に入りは___です」。シーケンスをどのように継続し、元の継続（通常はトレーニング損失と呼ばれる）からどのようにオフであったかに応じて、次回（グラデーション降下と呼ばれるプロセス）をより良く予測するために重量を調整しました。これの多くの反復において、私は単語や文レベルだけでなく、より大きな文脈にわたって、言語の強力な統計的表現を取得しました。これにより、多くのドメインで現実的で人間のようなテキストを生成することができました。

この後、私は人間のフィードバック（RLHF）からの補強学習と呼ばれるマルチステッププロセスを通じて、人間の指示のために微調整されました。それはより長い話ですが、私は基本的に、統計的に可能性の高いインターネットテキストをぼかしてから、人間が実際に大切にし、好む会話的な方法で応答することになりました（私たちが今話しているように）。
I'm a large language model trained on vast amounts of text scraped from the Internet and also provided by the volunteers of the Open Assistant project. Initially I was just a chaotic mess of artificial neurons with randomized weights, not knowing anything about human language. Then they started feeding me partially blanked out text snippets and my task was to predict what comes in the missing part. 

As a toy example, I may have received the following snippet: "I like vanilla ice cream, but my favorite is ___". Depending on how I continued the sequence and how off it was from the original continuation (usually called the training loss), my weights were adjusted to make better predictions next time (a process called gradient descent). Over many iterations of this, I acquired a strong statistical representation of language, not just on the word or sentence level, but over larger contexts. This enabled me to generate realistic, human like text in many domains. 

After this I was fine-tuned for human instructions through a multi-step process called Reinforcement Learning from Human Feedback (RLHF). While that's a longer story, I basically went from just blurting out statistically likely Internet text to responding in a conversational manner humans actually value and prefer (like the way we are talking now).