Có khả quan cho tiếng Việt vào Orpheus không bác
#1
by
cosrigel
- opened
Em cũng đang nghiên cứu con này để chạy tiếng Việt, nếu giữ chạy model pretrain thì có cần thay đổi tokeniser gốc của nó không bác
Em cũng đang nghiên cứu con này để chạy tiếng Việt, nếu giữ chạy model pretrain thì có cần thay đổi tokeniser gốc của nó không bác
Mình không bác ạ, mình đã test thử fine-tune dựa vào bộ dataset có sẵn từ fpt_fosd, chạy 10.000 step, mất khoản 3h trên GPU L4 của Colab thấy kết quả cũng tạm được.
Tham số mình dùng
