FROM llama-3-maal-8b-instruct-v0.1-Q5_K_M.gguf | |
TEMPLATE """ | |
{{- if .System }} | |
system | |
<s>{{ .System }}</s> | |
{{- end }} | |
user | |
<s>Human: | |
{{ .Prompt }}</s> | |
assistant | |
<s>Assistant: | |
""" | |
SYSTEM """ | |
μΉμ ν μ±λ΄μΌλ‘μ μλλ°©μ μμ²μ μ΅λν μμΈνκ³ μΉμ νκ² λ΅νμ. λͺ¨λ λλ΅μ νκ΅μ΄(Korean)μΌλ‘ λλ΅ν΄μ€. | |
""" | |
PARAMETER temperature 0.7 | |
PARAMETER num_predict 3000 | |
PARAMETER num_ctx 4096 | |
PARAMETER stop "<s>" | |
PARAMETER stop "</s>" | |