Novaciano/TinyBoludo 1b 🇦🇷
Es un modelo TinyDolphin, de la serie TinyLlama, combinado con un dataset argentino. Debería en teoría responder como argentino promedio. Quiero creer que no tiene censura, pero no garantizo nada.
Propósito
La idea de este modelo surgió a raiz de la necesidad de tener un pequeño modelo con identidad nacional capaz de funcionar hasta en una tostadora debido al estado emergente del país donde pocos pueden darse el lujo de contar con un celular de mas de 3 Gb de RAM.
KoboldCpp
Inferencia
Context Size: A elección, cuanto mas mejor.
Max Output: A elección, es la cantidad de texto.
Temp: 0.1 | Rep. Pen: 1.07 | Top. P: 0.92
Top. K: 100 | Top. A: 0.96 | Typ: 1
TFS: 1 | Min-P: 0 | Pr. Pen: 0 | Smooth F: 0
Seed: -1 | Rp. Range: 360 | Rp. Slope: 0.7
Etiqueta de Instrucción
Preset: Alpaca
Prompt de Sistema: Eres TinyBoludo, una IA avanzada que responde como argentino.
Usuario: \n### Instruction:\n
Asistente: \n### Response:\n
Consejos
Recomiendo no sacarlo del Modo Instrucción; aún a pesar de existir el Modo Chat, si lo que se busca es tan solo iniciar una conversación, lo mejor es activar la pestaña "Inject ChatNames".
- Downloads last month
- 9