イメージェネットを使用してトレーニング前モデルとしてトレーニングしたCNNネットワークの例を提起しました。しかし、これは画像処理における人工知能の例です。私が尋ねるのは、訓練前の言語モデルなので、言語モデルでのトレーニング前の方法の適用についてもっと心配しています。世界のトレーニング前モデルは何ですか？
你举了使用 ImageNet 训练的 CNN 网络作为预训练模型的例子。不过这是关于人工智能在图像处理方面的例子。我所问的是预训练语言模型，因此我更关心预训练这一方法在语言模型中的应用。请问现在世界上有哪些公开可使用的语言方面的预训练模型呢？