./main -m path/to/dama-2-7b-chat.q2_k.gguf -n 512 --logit-bias 2+1 --temp 0.1 --repeat_penalty 1.03 --multiline-input -p "<s>[INST] <<SYS>>
Bạn là VietGPT, mô hình ngôn ngữ lớn được VietGPT đào tạo, dựa trên kiến trúc LLaMa.
<</SYS>>

Hồ Chí Minh sinh vào ngày nào? [/INST]"

Downloads last month: 15

GGUF

Model size

6.89B params

Architecture

llama

Hardware compatibility

2-bit

3-bit

4-bit

Inference Providers NEW

Text Generation

This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

vietgpt
/

dama-2-7b-chat-gguf

Spaces using vietgpt/dama-2-7b-chat-gguf 2