جاسازی کلمه
برای بازنمایی معنایی کلمه، اکثر رویکردهایی که تعبیه‌های چند معنایی تولید می‌کنند را می‌توان به دو دسته اصلی بدون نظارت و مبتنی بر دانش تقسیم کرد. یک روش مبتنی بر word2vec skip-gram یعنی Multi-Sense Skip-Gram (MSSG) که تمایز معنی کلمه و جاسازی را به‌طور همزمان انجام می‌دهد، زمان آموزش را نیز بهبود بخشیده و تعداد معانی خاصی را برای هر کلمه در نظر می‌گیرد. در این روش تعداد معانی در نظر گرفته شده می‌تواند بسته به هر کلمه متفاوت باشد. همچنین این روش با ترکیب دانش قبلی بدست آمده از پایگاه داده‌های لغوی (به عنوان مثال، وردنت، ConceptNet و بابلنت) و جاسازی کلمه و ابهام زدایی معنی کلمه و روش مناسب‌ترین حاشیه نویسی حسی (MSSA) و با در نظر گرفتن بافت کلمه در یک پنجره از پیش تعریف شده، مفاهیم کلمه را از طریق یک رویکرد بدون نظارت و مبتنی بر دانش برچسب گذاری می‌کند. هنگامی که کلمات ابهام زدایی می‌شوند، می‌توان آنها را در یک تکنیک استاندارد جاسازی کلمه استفاده کرد، در نتیجه جاسازی‌های چند معنایی تولید می‌شوند. معماری MSSA این امکان را می‌دهد تا فرایند ابهام زدایی و حاشیه نویسی به‌طور مکرر و به شیوه ای خود-بهبود انجام شود.
حالت نهادی
در زبان‌هایی مانند انگلیسی به خاطر آسان‌شدگی و حذف نشانگرهای حالت، ترتیب قرار گرفتن واژه‌ها در جمله برای درک درست معنا اهمیت اساسی دارد اما در آلمانی یا روسی که شکل باستانی‌تر هندواروپایی را حفظ کرده‌اند حالت است که معنا را می‌رساند و بنابراین اجزای جمله آزادند تا جابه‌جا بشود.. در زبان‌هایی مانند زبان فارسی، حالتهای صرفی به جای صرف با نشانه مشخص می‌شوند. این به زبان فارسی اجازه می‌دهد تا همانند زبان آلمانی چیدمان واژگانی آزاد داشته باشد.