-この研究では、注意メカニズムに完全に基づいた新しいシーケンス変換モデルであるTransformerを導入します。

 - エンコーダーデコーダーアーキテクチャで最も一般的に使用される再発層を、多目的の自己告知に置き換えます。

 - 変圧器は、翻訳タスク用の再発または畳み込み層に基づいて、アーキテクチャよりも迅速にトレーニングできます。

-WMT 2014 English-to-GermanとWMT 2014 English-to-Frenchからフランス語からフランス語への翻訳タスクの両方で、モデルは新しい最新技術を達成します。前者のタスクでは、モデルは以前に報告されたすべてのアンサンブルよりも優れています。

 - この論文は、さまざまな深い学習タスクで最先端を改善した他の多くの人の起源であることが知られています
- This work introduces Transformer, a novel sequence transduction model based entirely on attention mechanism.

- It replaces the recurrent layers most commonly used in encoder-decoder architectures with multi-headed self-attention.

- Transformer can be trained significantly faster than architectures based on recurrent or convolutional layers for translation tasks.

- On both WMT 2014 English-to-German and WMT 2014 English-to-French translation tasks, the model achieves a new state of the art.  In the former task the model outperforms all previously reported ensembles.

- This paper is known to be the origin of many others that have improved the state of the art in a wide variety of deep learning tasks