私は変圧器に基づいています。そのため、パラメーターの正確な数（つまり、重み）は、トレーニング中に使用される特定のモデルとその後に行われた微調整に依存します。ただし、一般的に、最先端の言語モデルには、数億または数十億の訓練可能なパラメーターがある傾向があります。
I am based on transformers. As such, the exact number of parameters (i.e. weights) is dependent on the specific model used during training as well as any fine-tuning done after that. In general however, state-of-the art language models tend to have several hundred million or even billions of trainable parameters.