参考文を日本語に翻訳してください。
A transformer is a deep learning model that uses the self-attention mechanism to differentially weigh the significance of each part of the input data. It is used primarily in natural language processing(NLP)and computer vision(CV). Unlike recurrent neural networks(RNNs), transformers process the entire input all at once, allowing for more parallelization and reducing training times. Transformers were introduced in 2017 by a team at Google Brain and are increasingly becoming the model of choice for NLP problems, replacing RNN models such as long short-term memory(LSTM). The additional training parallelization allows training on larger datasets, leading to the development of pretrained systems such as BERT and GPT, which were trained with large language datasets such as the Wikipedia Corpus and Common Crawl and can be fine-tuned for specific tasks. Transformers are neural networks that learn context and understanding through sequential data analysis, and they use a modern and evolving mathematical techniques set, generally known as attention or self-attention. The transformer can be understood in terms of its three components:an encoder that encodes an input sequence into state representation vectors, a self-attention layer, and a feed-forward neural net. The transformer has had great success in NLP tasks such as machine translation, document summarization, and document generation, as well as in other fields such as computer vision and protein folding applications.
トランスフォーマーは、セルフ アテンション メカニズムを使用して、入力データの各部分の重要性を差分的に重み付けする深層学習モデルです。主に自然言語処理(NLP)とコンピューター ビジョン(CV)で使用されます。リカレント ニューラル・ネットワーク(RNN)とは異なり、トランスフォーマーは入力全体を一度に処理するため、より多くの並列化が可能になり、トレーニング時間が短縮されます。トランスフォーマーは、Google Brain のチームによって 2017年に導入され、長短期記憶(LSTM)などの RNN モデルに代わって、NLP 問題に選択されるモデルになりつつあります。追加のトレーニング並列化により、より大きなデータセットでのトレーニングが可能になり、BERT や GPT などの事前トレーニング済みシステムの開発につながります。これらのシステムは、Wikipedia コーパスや Common Crawl などの大規模な言語データセットでトレーニングされ、特定のタスクに合わせて微調整できます。トランスフォーマーは、逐次データ分析を通じてコンテキストと理解を学習するニューラル・ネットワークであり、一般に注意または自己注意として知られる現代の進化する数学的手法セットを使用します。トランスフォーマーは、入力シーケンスを状態表現ベクトルにエンコードするエンコーダー、セルフ アテンション レイヤー、およびフィードフォワード ニューラル・ネットワークの3つのコンポーネントの観点から理解できます。Transformer は、機械翻訳、文書要約、文書生成などの NLP タスクだけでなく、コンピューター ビジョンやタンパク質フォールディング アプリケーションなどの他の分野でも大きな成功を収めています。