トランスモデルは、機械学習用に設計された特定のシステムアーキテクチャであり、主にシーケンシャルデータの処理に適しています。シーケンシャルデータにも使用される従来の再発性ニューラルネットワーク（RNNS）と比較して、トランスマルチヘッドのほとんどのレイヤーは、シーケンスの要素間の依存関係をモデル化するために使用します。これにより、並行した仕上がりと、長い依存関係を処理する能力が向上します。

変圧器は、入力として一連のベクトルを採取し、入力ベクトルに関する情報を提供するベクトルの出力シーケンスを計算します。このアーキテクチャは、たとえば機械の翻訳やテキスト認識など、さまざまな言語アプリケーションで使用され、訓練された変圧器は予測を行うために使用されます。
Transformer-Modelle sind eine spezifische Systemarchitektur, die für maschinelles Lernen konzipiert wurden und hauptsächlich für die Verarbeitung sequentieller Daten geeignet ist. Im Vergleich zu traditionellen Recurrent Neural Networks (RNNs), die auch für sequentielle Daten verwendet werden, verwendet der Transformer Multi-Head-Attention-Schichten, um die Abhängigkeiten zwischen den Elementen einer Sequenz zu modellieren. Dies ermöglicht eine parallele Verarbeitung und eine bessere Fähigkeit, lange Abhängigkeiten zu verarbeiten.

Transformer nehmen als Eingabe eine Sequenz von Vektoren und berechnet daraus Ausgabe-Sequenz von Vektoren, die Informationen über die Eingabevektoren bereitstellen. Diese Architektur wird in verschiedenen sprachlichen Anwendungen eingesetzt, beispielsweise im maschinellen Übersetzen und der Texterkennung, und es werden trainierte Transformer verwendet, um Vorhersagen zu treffen.