human
オープンアシスタントを実行およびホストするための最小ハードウェア要件は何ですか。たとえば、私の個人的なオフラインの使用についてだけです。指定してください、例えば128 GIB RAM、EPYC/RYZEN 9 16コアCPU ..？
gpt
これは、言語モデルを最初にトレーニングする必要があり、次にすべてが最適化されるため、現在はまだ明確ではありません。

オープンアシスタントの最適化されていないバージョンは、おそらく24 GBのRAMを備えた4090の範囲のハイエンドグラフィックカードを開始時に必要とします。
human
CPUが推奨するオープンアシスタントの最適化されていないバージョンの場合。
gpt
オープンアシスタントのようなニューラルネットワークは通常、Parrallで実行されます。これにより、GPUはCPUよりもコアがあるため、GPUがより適切になり、したがって、一度により多くのタスクを実行できます。これを認めて、GPUはより強力にする必要があり、CPUには特定のオペレーティングシステムを実行できる以外の特定の要件はありません。