Yo'q, LLM-larni optimallashtirish va CPU-da yanada samarali ishlashga moslashtirish uchun ba'zi harakatlar mavjud. Masalan, LLaMA 2023 yil bahorida C / C ++ ([kithub linkini ko'ring] ((https://github.com/ggerganov/llama.cpp)) ga muvaffaqiyatli portlandi va xotira boshqaruviga ba'zi o'zgartirishlar kiritilgan holda, Mac-da har bir token uchun soniyalar tartibida chiqish tezligi bilan ishlay oladi. Bu oqilona suhbat uchun etarli emas, lekin masalan, hujjatlar guruhlarini qayta ishlash va umumlashtirish uchun ishlaydi. Va bu faqat bir misol, ish albatta davom etmoqda!
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence