جاسازی کلمه
پس از پیشرفت‌هایی که در سال ۲۰۱۰ در زمینه کاری نظری در مورد کیفیت بردارها انجام شد و سرعت آموزش مدل و پیشرفت‌های سخت‌افزاری امکان کاوش در فضای پارامتر وسیع‌تری را فراهم کرد این رویکرد توسط بسیاری از گروه‌های تحقیقاتی مورد استفاده قرار گرفت. در سال ۲۰۱۳، تیمی در گوگل به رهبری توماس میکولوف روش word2vec را ایجاد کردند که ابزاری است که جاسازی کلمه در مدل‌های فضای برداری را سریعتر از رویکردهای قبلی امکان‌پذیر می‌کند. رویکرد word2vec به‌طور گسترده‌ای استفاده شده‌است و باعث افزایش علاقه به استفاده از تکنیک جاسازی کلمات و در نهایت هموار کردن راه برای کاربرد عملی شده‌است.
دستور زبان
علم نحو اشاره به سطحی بالاتر از کلمه دارد (برای مثال، اینکه چگونه یک جمله تشکیل می‌شود)، بدون دخالت آواشناسی در زبان. برخلاف آن، واژه‌شناسی اشاره به سطح پایین‌تر از کلمه دارد (برای مثال چگونه کلمات مشتق شکل می‌گیرند) و با دخالت آواشناسی. اگرچه نمی‌توان بین علم نحو و واژه‌شناسی مرزی قائل شد. زبان‌های تحلیلی از علم نحو استفاده می‌کنند تا اطلاعاتی انتقال دهند که به‌وسیلهٔ زبان‌های ترکیبی رمز گذاری شده‌است. به عبارت دیگر، در زبان ترکیبیِ محض، ارزش واژه‌شناسی بسیار بیشتر از کلمه است؛ همان‌طور که واژه‌شناسی به‌اندازهٔ علم نحو در زبان تحلیلی ارزشی ندارد. برای مثال، زبان‌های چینی و زبان‌های آفریقایی بسیار تحلیلی هستند، و بنابراین معنای آن‌ها بسیار وابسته به متن است. زبان لاتین به‌طور مشخص ترکیبی است، و از پیشوند و پسوند و تکواژهای تصریفی برای رساندن همان مطالبی استفاده می‌کنند که زبان چینی از علم نحو استفاده می‌کند. از آنجایی‌که کلمات لاتین (دارای خودمحتوایی) هستند، یک جملهٔ لاتین می‌تواند از اجزایی ساخته شود که قابلیت قرار گرفتن در حوزهٔ اختیاریِ وسیعی را دارد.