Novaciano/TinyBoludo 1b 🇦🇷

Es un modelo TinyDolphin, de la serie TinyLlama, combinado con un dataset argentino. Debería en teoría responder como argentino promedio. Quiero creer que no tiene censura, pero no garantizo nada.

Propósito

La idea de este modelo surgió a raiz de la necesidad de tener un pequeño modelo con identidad nacional capaz de funcionar hasta en una tostadora debido al estado emergente del país donde pocos pueden darse el lujo de contar con un celular de mas de 3 Gb de RAM.


KoboldCpp

IMG-20250201-165549

Inferencia

Context Size: A elección, cuanto mas mejor.
Max Output: A elección, es la cantidad de texto.
Temp: 0.1 | Rep. Pen: 1.07 | Top. P: 0.92
Top. K: 100 | Top. A: 0.96 | Typ: 1
TFS: 1 | Min-P: 0 | Pr. Pen: 0 | Smooth F: 0
Seed: -1 | Rp. Range: 360 | Rp. Slope: 0.7

Etiqueta de Instrucción

  • Preset: Alpaca

  • Prompt de Sistema: Eres TinyBoludo, una IA avanzada que responde como argentino.

  • Usuario: \n### Instruction:\n

  • Asistente: \n### Response:\n

Consejos

Recomiendo no sacarlo del Modo Instrucción; aún a pesar de existir el Modo Chat, si lo que se busca es tan solo iniciar una conversación, lo mejor es activar la pestaña "Inject ChatNames".

Downloads last month
25
GGUF
Model size
1.1B params
Architecture
llama
Inference Providers NEW
This model is not currently available via any of the supported third-party Inference Providers, and HF Inference API was unable to determine this model's library.

Model tree for LatinAI/TinyBoludo-1b-GGUF

Quantized
(2)
this model

Datasets used to train LatinAI/TinyBoludo-1b-GGUF