README.md

---
license: apache-2.0
language:
- ja
- en
base_model:
- llm-jp/llm-jp-3-3.7b-instruct
datasets:
- TFMC/imatrix-dataset-for-japanese-llm
---

# Model Card For llm-jp-3-3.7b-instruct-gguf

LLM-jpさんの[llm-jp-3-3.7b-instruct](https://huggingface.co/llm-jp/llm-jp-3-3.7b-instruct)を量子化したものたちです。
お好きな方法で使ってください。

# 使い方
- llama.cpp
- LM Studio (Win,Mac)
- LLMFarm (iOS)
  - テンプレート
```
### 指示:
{{prompt}}

### 応答:
```
- etc

# 作り方
[npakaさんのLLM-jp-3 を gguf に変換する手順](https://note.com/npaka/n/n3e99d2a45a4b)