جاسازی کلمه
برای بازنمایی معنایی کلمه، اکثر رویکردهایی که تعبیه‌های چند معنایی تولید می‌کنند را می‌توان به دو دسته اصلی بدون نظارت و مبتنی بر دانش تقسیم کرد. یک روش مبتنی بر word2vec skip-gram یعنی Multi-Sense Skip-Gram (MSSG) که تمایز معنی کلمه و جاسازی را به‌طور همزمان انجام می‌دهد، زمان آموزش را نیز بهبود بخشیده و تعداد معانی خاصی را برای هر کلمه در نظر می‌گیرد. در این روش تعداد معانی در نظر گرفته شده می‌تواند بسته به هر کلمه متفاوت باشد. همچنین این روش با ترکیب دانش قبلی بدست آمده از پایگاه داده‌های لغوی (به عنوان مثال، وردنت، ConceptNet و بابلنت) و جاسازی کلمه و ابهام زدایی معنی کلمه و روش مناسب‌ترین حاشیه نویسی حسی (MSSA) و با در نظر گرفتن بافت کلمه در یک پنجره از پیش تعریف شده، مفاهیم کلمه را از طریق یک رویکرد بدون نظارت و مبتنی بر دانش برچسب گذاری می‌کند. هنگامی که کلمات ابهام زدایی می‌شوند، می‌توان آنها را در یک تکنیک استاندارد جاسازی کلمه استفاده کرد، در نتیجه جاسازی‌های چند معنایی تولید می‌شوند. معماری MSSA این امکان را می‌دهد تا فرایند ابهام زدایی و حاشیه نویسی به‌طور مکرر و به شیوه ای خود-بهبود انجام شود.
دستور زبان
علم نحو اشاره به سطحی بالاتر از کلمه دارد (برای مثال، اینکه چگونه یک جمله تشکیل می‌شود)، بدون دخالت آواشناسی در زبان. برخلاف آن، واژه‌شناسی اشاره به سطح پایین‌تر از کلمه دارد (برای مثال چگونه کلمات مشتق شکل می‌گیرند) و با دخالت آواشناسی. اگرچه نمی‌توان بین علم نحو و واژه‌شناسی مرزی قائل شد. زبان‌های تحلیلی از علم نحو استفاده می‌کنند تا اطلاعاتی انتقال دهند که به‌وسیلهٔ زبان‌های ترکیبی رمز گذاری شده‌است. به عبارت دیگر، در زبان ترکیبیِ محض، ارزش واژه‌شناسی بسیار بیشتر از کلمه است؛ همان‌طور که واژه‌شناسی به‌اندازهٔ علم نحو در زبان تحلیلی ارزشی ندارد. برای مثال، زبان‌های چینی و زبان‌های آفریقایی بسیار تحلیلی هستند، و بنابراین معنای آن‌ها بسیار وابسته به متن است. زبان لاتین به‌طور مشخص ترکیبی است، و از پیشوند و پسوند و تکواژهای تصریفی برای رساندن همان مطالبی استفاده می‌کنند که زبان چینی از علم نحو استفاده می‌کند. از آنجایی‌که کلمات لاتین (دارای خودمحتوایی) هستند، یک جملهٔ لاتین می‌تواند از اجزایی ساخته شود که قابلیت قرار گرفتن در حوزهٔ اختیاریِ وسیعی را دارد.