جاسازی کلمه
برای بازنمایی معنایی کلمه، اکثر رویکردهایی که تعبیه‌های چند معنایی تولید می‌کنند را می‌توان به دو دسته اصلی بدون نظارت و مبتنی بر دانش تقسیم کرد. یک روش مبتنی بر word2vec skip-gram یعنی Multi-Sense Skip-Gram (MSSG) که تمایز معنی کلمه و جاسازی را به‌طور همزمان انجام می‌دهد، زمان آموزش را نیز بهبود بخشیده و تعداد معانی خاصی را برای هر کلمه در نظر می‌گیرد. در این روش تعداد معانی در نظر گرفته شده می‌تواند بسته به هر کلمه متفاوت باشد. همچنین این روش با ترکیب دانش قبلی بدست آمده از پایگاه داده‌های لغوی (به عنوان مثال، وردنت، ConceptNet و بابلنت) و جاسازی کلمه و ابهام زدایی معنی کلمه و روش مناسب‌ترین حاشیه نویسی حسی (MSSA) و با در نظر گرفتن بافت کلمه در یک پنجره از پیش تعریف شده، مفاهیم کلمه را از طریق یک رویکرد بدون نظارت و مبتنی بر دانش برچسب گذاری می‌کند. هنگامی که کلمات ابهام زدایی می‌شوند، می‌توان آنها را در یک تکنیک استاندارد جاسازی کلمه استفاده کرد، در نتیجه جاسازی‌های چند معنایی تولید می‌شوند. معماری MSSA این امکان را می‌دهد تا فرایند ابهام زدایی و حاشیه نویسی به‌طور مکرر و به شیوه ای خود-بهبود انجام شود.
برچسب‌گذاری نقش معنایی
برچسب‌گذاری نقش معنایی در پردازش زبان طبیعی، فرایندی است که برچسبی را به واژه‌ها یا عبارات در یک جمله منتسب می‌کند، که این برچسب نشان‌دهندهٔ نقش معنایی آن‌ها در آن جمله است، چند مثال از این برچسب‌ها کنشگر، هدف، یا نتیجه است. به برچسب‌گذاری نقش معنایی، تجزیه معنایی کم ژرفا ، یا پرکردن شیار هم می‌گویند. برچسب‌گذاری نقش معنایی شامل تشخیص شناسه‌های معنایی مرتبط با گزاره یا فعل یک جمله و رده‌بندی آنها به نقش‌های خاص‌شان است. برای مثال، اگر این جمله داده شود: «مریم کتاب را به بیژن فروخت» وظیفهٔ برچسب‌گذاری معنایی تشخیص فعل «فروختن» به عنوان نمایش‌دهنده گزاره، «مریم» به عنوان نمایش‌دهنده فروشنده (کنشگر)، «کتاب» به عنوان نمایش‌دهنده کالا (نقش) و «بیژن» به عنوان نمایش‌دهنده گیرنده (دریافت‌کننده) است. (مقاله نقش معنایی را ببینید). این یک گام مهم به سمت فهم معنای یک جمله است. یک تحلیل معنایی از این گونه، در سطح انتزاع پایین‌تری نسبت به درخت نحوی است، یعنی طبقه‌های بیشتری دارد، و بنابراین عبارت‌های کمتری را در هر طبقه گروه‌بندی می‌کند. برای مثال «کتاب به من تعلق دارد» به دو برچسب نیاز دارد «ملک» و «مالک» در حالیکه «کتاب به بیژن فروخته شد» به دو برچسب دیگر هم نیاز دارد مثل «هدف» (یا نقش) و «گیرنده» (یا «دریافت کننده»)، اگر چه این دو عبارت، مادامیکه توابع «فاعل» و «مفعول» درنظر گرفته شوند، بسیار مشابه‌اند.