جاسازی کلمه
پس از پیشرفت‌هایی که در سال ۲۰۱۰ در زمینه کاری نظری در مورد کیفیت بردارها انجام شد و سرعت آموزش مدل و پیشرفت‌های سخت‌افزاری امکان کاوش در فضای پارامتر وسیع‌تری را فراهم کرد این رویکرد توسط بسیاری از گروه‌های تحقیقاتی مورد استفاده قرار گرفت. در سال ۲۰۱۳، تیمی در گوگل به رهبری توماس میکولوف روش word2vec را ایجاد کردند که ابزاری است که جاسازی کلمه در مدل‌های فضای برداری را سریعتر از رویکردهای قبلی امکان‌پذیر می‌کند. رویکرد word2vec به‌طور گسترده‌ای استفاده شده‌است و باعث افزایش علاقه به استفاده از تکنیک جاسازی کلمات و در نهایت هموار کردن راه برای کاربرد عملی شده‌است.
اشتقاق (زبان‌شناسی)
در زبان‌شناسی، اشتقاق یکی از روش‌های واژه‌سازی است، همان‌طور که شاد-ی و نا-خشنود از شاد و خشنود، یا تعیین از تعیین کردن ساخته شده‌است. یک تقابل با فرایند صرف معنی می‌شود که نوع دیگری از وند را به منظور ساختن نوع دیگر همان کلمه بکار می‌گیرد . همان‌طور که تعیین کردن / تعیین کردن سوم شخص / در حال تعیین کردن / معین .(1)