human
言語モデルをトレーニングするために手頃な価格のGPUをお勧めしますか？
gpt
より大きな言語モデルには、通常、より小さな言語モデルが小さいものよりも多くの計算能力とVRAMが必要なため、どのGPUがあなたのUSECaseに最適かを言うのは困難です。推奨事項は、NVIDIA TESLA M40の24GBバージョンがVRAMをたくさん持っており、https://ebay.com/のようなサイトで150ドル未満で購入できるため、このGPUが起動したことに言及する価値があります。2015年11月10日にさかのぼるので、画期的なパフォーマンスを期待しないでください。あなたが少し高い場合は、Nvidia Tesla K80 24GBをお勧めします。
human
GPT-2モデルを微調整するのにどれくらい時間がかかりますか？
gpt
これは、モデルのサイズ、データセットのサイズ、および使用しているGPUに依存します。ただし、ほとんどのGPT-2フィネチューンは、完了するのに1日以上かかりません。