Commit
•
54122dc
1
Parent(s):
455ebc3
Update README.md
Browse files
README.md
CHANGED
|
@@ -8,18 +8,21 @@ language:
|
|
| 8 |
---
|
| 9 |
|
| 10 |
|
| 11 |
-
|
| 12 |
-
|
| 13 |
-
-
|
| 14 |
-
-
|
| 15 |
-
-
|
| 16 |
-
-
|
| 17 |
-
-
|
| 18 |
-
-
|
| 19 |
-
-
|
| 20 |
-
-
|
| 21 |
-
|
| 22 |
-
|
|
|
|
|
|
|
|
|
|
| 23 |
|
| 24 |
```
|
| 25 |
import torch
|
|
|
|
| 8 |
---
|
| 9 |
|
| 10 |
|
| 11 |
+
## 🤔 これは何？
|
| 12 |
+
|
| 13 |
+
- 🧠 学習元LLMモデル
|
| 14 |
+
- 🔗 https://huggingface.co/tokyotech-llm/Swallow-13b-instruct-hf
|
| 15 |
+
- 📚 利用データセット
|
| 16 |
+
- 📖 JAQKET (dev / unuse) + JSQuAD(train・サンプリングで一部を利用)
|
| 17 |
+
- 🛠️ 学習手法
|
| 18 |
+
- 📈 SFT(Supervised fine-tuning)
|
| 19 |
+
- 🧮 量子化手法
|
| 20 |
+
- 🤖 AutoGPTQ
|
| 21 |
+
- 💡 このモデルのできること
|
| 22 |
+
- 💬 コンテキスト付きのQ&Aに対して、回答を生成
|
| 23 |
+
|
| 24 |
+
## 🚀 実行例
|
| 25 |
+
|
| 26 |
|
| 27 |
```
|
| 28 |
import torch
|