* GPT-J TPU v3-256 ustida taxminan besh hafta davomida o'qitilgan * OPT taxminan ikki oy davomida 992 ta NVIDIA 80GB A100 GPU-da o'qitilgan va bu vaqt davomida qo'lda yoki avtomatik qayta ishga tushirishni talab qiladigan bir nechta apparat nosozliklariga duch kelgan. * Bloom 384 ta NVIDIA A100 80GB GPU-ga ega bo'lgan Jean Zay ustida o'qitilgan va taxminan to'rt oy davom etgan Google tomonidan ishlatiladigan TPUlar sotuvga qo'yilmagan va bitta NVIDIA 80GB A100 GPU-ning narxi 10 000-20 000 dollarga tushishi mumkin, shuningdek, hamma narsani birlashtirib, hamma narsani sovutish uchun zarur bo'lgan qo'shimcha komponentlar.
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence