جاسازی کلمه
برای بازنمایی معنایی کلمه، اکثر رویکردهایی که تعبیه‌های چند معنایی تولید می‌کنند را می‌توان به دو دسته اصلی بدون نظارت و مبتنی بر دانش تقسیم کرد. یک روش مبتنی بر word2vec skip-gram یعنی Multi-Sense Skip-Gram (MSSG) که تمایز معنی کلمه و جاسازی را به‌طور همزمان انجام می‌دهد، زمان آموزش را نیز بهبود بخشیده و تعداد معانی خاصی را برای هر کلمه در نظر می‌گیرد. در این روش تعداد معانی در نظر گرفته شده می‌تواند بسته به هر کلمه متفاوت باشد. همچنین این روش با ترکیب دانش قبلی بدست آمده از پایگاه داده‌های لغوی (به عنوان مثال، وردنت، ConceptNet و بابلنت) و جاسازی کلمه و ابهام زدایی معنی کلمه و روش مناسب‌ترین حاشیه نویسی حسی (MSSA) و با در نظر گرفتن بافت کلمه در یک پنجره از پیش تعریف شده، مفاهیم کلمه را از طریق یک رویکرد بدون نظارت و مبتنی بر دانش برچسب گذاری می‌کند. هنگامی که کلمات ابهام زدایی می‌شوند، می‌توان آنها را در یک تکنیک استاندارد جاسازی کلمه استفاده کرد، در نتیجه جاسازی‌های چند معنایی تولید می‌شوند. معماری MSSA این امکان را می‌دهد تا فرایند ابهام زدایی و حاشیه نویسی به‌طور مکرر و به شیوه ای خود-بهبود انجام شود.
پسین‌سازی
«اشتقاق لغات» متفاوت از «اختصار لغات» است. اشتقاق لغات ممکن است بخشی از سخنرانی یا معنی کلمه را تغییر دهد، درحالی‌که اختصار کلمات، کلمات کوتاه را از کلمات بزرگ ایجاد می‌کند، اما بخشی از سخنرانی یا معنی کلمه را تغییر نمی‌دهد. به‌عنوان مثال، کلمهٔ resurrection (معاد) از لاتین قرض گرفته شده‌است، و فعل resurrect (احیاشدن) صدها سال بعد از آن با حذف پسوند ion- مشتق شده‌است. این قطعه‌بندی از resurrection به resurrect + -ion ممکن است به این دلیل باشد که انگلیسی نمونه‌هایی از واژهٔ لاتین به‌صورت فعل و فعل + ion دارد، مانند opine/opinion (اظهارنظرکردن/نظر). این الگویی برای بسیاری از جفت‌های دیگر شد، که در آن، فعل مشتق‌شده از لاتین، با حذف ion- در پایان به اسم تبدیل می‌شود، مانند insert/insertion (واردکردن/وارد)، project/projection (پروژه/ طرح‌ریزی‌کردن) و غیره.