File size: 2,172 Bytes
20ace5c a43984d d53e4e0 4605da6 20ace5c |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 |
---
license: cc-by-sa-4.0
language:
- ja
size_categories:
- 1M<n<10M
---
# llm-japanese-dataset-vanilla
LLM構築用の日本語チャットデータセット
[izumi-lab/llm-japanese-dataset](https://huggingface.co/datasets/izumi-lab/llm-japanese-dataset) から,日英翻訳のデータセット等を抜いたものです.
主に,日本語LLMモデルなどに対して,チャット(Instruction)応答タスクに関してLoRAなどでチューニングするために使用できます.
※様々な公開言語資源を利用させていただきました.関係各位にはこの場を借りて御礼申し上げます.
## データの詳細
データの詳細は,[izumi-lab/llm-japanese-dataset](https://huggingface.co/datasets/izumi-lab/llm-japanese-dataset) に関する,以下の論文を参照してください.
- 日本語: [https://jxiv.jst.go.jp/index.php/jxiv/preprint/view/383](https://jxiv.jst.go.jp/index.php/jxiv/preprint/view/383)
- 英語: [https://arxiv.org/abs/2305.12720](https://arxiv.org/abs/2305.12720)
- GitHub: [https://github.com/masanorihirano/llm-japanese-dataset](https://github.com/masanorihirano/llm-japanese-dataset)
- 最新情報: [llm.msuzuki.me](https://llm.msuzuki.me).
なお,Citationには,よろしければ,以下をご利用ください.
```
@preprint{Suzuki2023-llmj,
title={{日本語インストラクションデータを用いた対話可能な日本語大規模言語モデルのLoRAチューニング}},
author={鈴木 雅弘 and 平野 正徳 and 坂地 泰紀},
doi={10.51094/jxiv.422},
archivePrefix={Jxiv},
year={2023}
}
```
共同研究,データ提供,各種支援,その他問い合わせは,izumi-llm@socsim.org へ.
## How to use
```python
from datasets import load_dataset
dataset = load_dataset("izumi-lab/llm-japanese-dataset-vanilla")
```
Currently, it contains 1,811,964 data
For more details, see: https://github.com/masanorihirano/llm-japanese-dataset/tree/vanilla
## LICENSE
CC-BY-SA 4.0
(For more details, see: LICENSE, NOTICE.md, NOTICE2.md)
## Note
To see more latest information, please go to [llm.msuzuki.me](https://llm.msuzuki.me).
|