より大きな言語モデルには、通常、より小さな言語モデルが小さいものよりも多くの計算能力とVRAMが必要なため、どのGPUがあなたのUSECaseに最適かを言うのは困難です。推奨事項は、NVIDIA TESLA M40の24GBバージョンがVRAMをたくさん持っており、https://ebay.com/のようなサイトで150ドル未満で購入できるため、このGPUが起動したことに言及する価値があります。2015年11月10日にさかのぼるので、画期的なパフォーマンスを期待しないでください。あなたが少し高い場合は、Nvidia Tesla K80 24GBをお勧めします。
It is diffucult to say which GPU fits best for your usecase since larger language models typically require more computational power and VRAM than smaller ones. A recommendation would be the 24GB version of the NVIDIA Tesla M40 since it has a lot of VRAM and can be bought used on sites like https://ebay.com/ for below 150$, however it is worth mentioning that this GPU was launched all the way back in November 10th, 2015 so you shouldnt expect groundbreaking performance. If your budged is a little higher, I could also recommend the NVIDIA Tesla K80 24GB.