ماشین الکتریکی
ترانسفورماتور یک دستگاه ایستا است که جریان متناوب را در فرکانسی ثابت، از یک سطح ولتاژ به سطح ولتاژی دیگر (بیشتر یا کمتر یا گاهی همسطح) تبدیل می‌کند. ترانسفورماتور انرژی الکتریکی را با استفاده از کوپل مغناطیسی از یک مدار به مداری دیگر انتقال می‌دهد. یک جریان متغیر الکتریکی در "سیم‌پیچ اولیه" یک شار مغناطیسی متغیر نسبت به زمان را در "هستهٔ" ترانسفورماتور ایجاد می‌کند که موجب ایجاد میدان مغناطیسی در "سیم‌پیچ ثانویه" خواهد شد. این میدان مغناطیسی متغیر یک نیروی محرک الکتریکی یا ولتاژ را در سیم‌پیچ ثانویه القا خواهد کرد. به این پدیده القای متقابل گفته می‌شود.
ترنسفورمرها (یادگیری ماشین)
ترانسفورماتورها در سال 2017 توسط تیمی در Google Brain معرفی شدند و به طور فزاینده ای مدل انتخابی برای مشکلات NLP هستند، جایگزین مدل های RNN مانند حافظه کوتاه مدت طولانی (LSTM). موازی سازی آموزش اضافی امکان آموزش بر روی مجموعه داده های بزرگتر از زمانی که ممکن بود را می دهد. این منجر به توسعه سیستم های از پیش آموزش دیده مانند BERT (نمایش رمزگذار دوطرفه از ترانسفورماتورها) و GPT (تبدیل پیش‌آموزش‌شده تولیدی)، که با مجموعه داده‌های زبانی بزرگ، مانند ویکی‌پدیا Corpus و Common Crawl آموزش دیده‌اند، و می‌توان آنها را برای کارهای خاص به‌خوبی تنظیم کرد.  قبل از ترانسفورماتورها، بیشتر سیستم‌های NLP پیشرفته به RNN‌های دروازه‌دار مانند LSTM و واحد بازگشتی دروازه‌ای  (GRU) با مکانیسم توجه] اضافه شده بود. s ترانسفورماتورها بر اساس این فناوری های توجه بدون استفاده از ساختار RNN ساخته شده اند، و این واقعیت را برجسته می کند که مکانیسم های توجه به تنهایی می توانند عملکرد RNN ها را با توجه مطابقت دهند.