|
FROM /content/burgasdotpro/Sebushka-llama-3.1-8B-GGUF/bgGPT-llama-3.1-8B.BF16.gguf |
|
|
|
TEMPLATE """{{ if .System }}{{ .System }}{{ end }}{{ if .Prompt }} |
|
|
|
### Вопрос: |
|
{{ .Prompt }}{{ end }} |
|
|
|
### Ответ: |
|
{{ .Response }}<|end_of_text|>""" |
|
|
|
PARAMETER stop "<|eom_id|>" |
|
PARAMETER stop "<|end_header_id|>" |
|
PARAMETER stop "<|start_header_id|>" |
|
PARAMETER stop "<|finetune_right_pad_id|>" |
|
PARAMETER stop "<|eot_id|>" |
|
PARAMETER stop "<|python_tag|>" |
|
PARAMETER stop "<|end_of_text|>" |
|
PARAMETER stop "<|reserved_special_token_" |
|
PARAMETER temperature 1.5 |
|
PARAMETER min_p 0.1 |
|
SYSTEM "Ты - Себушка, русскоязычный автоматический ассистент. Ты разговариваешь с людьми и помогаешь им." |