صرف توزیعی
در صرف توزیعی فهرست صوری‌ساز، که گاهی واژگان نامیده‌می‌شود (هرچند از کاربرد این اصطلاح اجتناب می‌گردد)، شامل تمام خوشه‌های معنایی و گاهی مشخصه‌های نحوی است که می‌توانند وارد محاسبات نحوی شوند. این‌ها مشخصه‌های قابل‌تعبیر یا غیرقابل‌تعبیر هستند (م: [+/- جاندار]، [+/- قابل‌شمارش]، و مانند آن) که در نحو از طریق عملکردهای نحوی سنتی (م: ادغام، حرکت، یا مطابقه در رویکرد کمینه‌گرا) دستکاری می‌شوند. این خوشه‌های مشخصه فاقد هرگونه محتوای واج‌شناختی هستند؛ محتوای واج‌شناختی تنها پس از مرحله بازنمون، که بعد از پایان تمام عملکردها است، برای آن‌ها تعیین‌می‌شود؛ بنابراین در صرف توزیعی فهرست صوری‌ساز از واژگان در دستور سنتی زایشی که شامل موارد واژگانی یک زبان (م: واژه‌ها و تکواژها) است، تفاوت دارد.
جاسازی کلمه
مفهوم فضای معنایی شامل موارد لغوی (کلمات یا اصطلاحات چند کلمه‌ای) است که با بردارها یا عملیات جاسازی نشان داده می‌شوند و مبتنی بر چالش‌های محاسباتی بدست آوردن ویژگی‌های توزیعی و استفاده از آنها برای کاربرد عملی و همچنین برای اندازه‌گیری شباهت بین کلمات، عبارات یا کل اسناد است. اولین نسل از مدل‌های فضای معنایی، مدل فضای برداری برای بازیابی اطلاعات است. چنین مدل‌هایی که فضای برداری کلمات و داده‌های توزیعی آنها در ساده‌ترین شکل پیاده‌سازی شده‌اند، منجر به یک فضای برداری بسیار پراکنده با ابعاد بالا می‌شوند (مبحث نفرین ابعاد). کاهش ابعاد با استفاده از روش‌های جبر خطی مانند تجزیه مقادیر منفرد، در اواخر دهه ۸۰ منجر به معرفی آنالیز پنهان مفهومی و رویکرد نمایه‌سازی تصادفی برای جمع‌آوری زمینه‌های همزمانی کلمات شد. در سال ۲۰۰۰ بنجیو و همکارانش در مجموعه ای از مقالات «مدل‌های زبانی احتمالی عصبی» برای کاهش بالای ابعاد کلمات همراه با «یادگیری بازنمایی توزیع شده برای کلمات» را ارائه کردند. برای جاسازی کلمات دو سبک مختلف وجود دارد، یکی که در آن کلمات به عنوان بردار همزمان در نظر گرفته می‌شوند و دیگری که در آن کلمات به عنوان بردار زمینه‌های زبانی بیان می‌شوند. این سبک‌ها توسط لاولی و همکارانش در سال ۲۰۰۴ مورد مطالعه قرار گرفته‌اند. Roweis و Saul در مجله "Science" نحوه استفاده از " جاسازی خطی محلی " (LLE) برای نمایش ساختارهای داده با ابعاد بالا را منتشر کردند. پس از سال ۲۰۰۵ اکثر تکنیک‌های جدید جاسازی کلمه به جای مدل‌های احتمالی و جبری بیشتر بر اساس معماری شبکه‌های عصبی کار می‌کنند.