README.md

---
license: other
license_name: other
license_link: LICENSE
task_categories:
- text-generation
language:
- ja
---

# AKU-d_ms-0.5B-v0.1_dataset
## Overview
このリポジトリは、私の開発している[AKUシリーズ](https://github.com/YukiTomita-CC/AKU)の1つ目となる、**AKU-d_ms-0.5B-chat-v0.1**の事前学習に使用したテキストデータを集めています。

これには次で説明するように複数の公開データセットから作成したテキストファイルが含まれており、それぞれのライセンスや著作権は各データセットに従います。\
また、各データセットに対する処理スクリプトは、上記[GitHubリポジトリ内](https://github.com/YukiTomita-CC/AKU/tree/main/aku/dataset)にて公開しています。

合計トークン数は **1.56 B tokens**となります。([モデルに使用しているTokenizer](https://huggingface.co/YukiTomita-CC/AKU-d_ms_tokenizer)による計算)

## Each Dataset Description
| Dataset Name                                           | License      | URL or Repository                                                                                                                         | token count   |
| :----------------------------------------------------- | :----------- | :---------------------------------------------------------------------------------------------------------------------------------------- | ------------: |
| Accommodation Search Dialog Corpus (in Japanese)       | CC-BY-4.0    | [GitHub](https://github.com/megagonlabs/asdc)                                                                                             |       139,246 |
| Japanese Movie Recommendation Dialogue                 | CC-BY-SA-4.0 | [GitHub](https://github.com/ku-nlp/JMRD)                                                                                                  |     2,698,430 |
| OjousamaTalkScriptDataset                              | MIT          | [GitHub](https://github.com/matsuvr/OjousamaTalkScriptDataset)                                                                            |         8,710 |
| Rosebleu                                               | Apache-2.0   | [GitLab](https://gitlab.com/open_contents_datasets/Rosebleu)                                                                              |     4,844,391 |
| character conversation dataset                         | Apache-2.0   | [GitHub](https://github.com/matsuvr/characterconversationdataset)                                                                         |        23,843 |
| 感想付きニュース雑談対話コーパス                       | MIT          | [GitHub](https://github.com/fukanarita/newschat-with-impression)                                                                          |       352,350 |
| RealPersonaChat                                        | CC-BY-SA-4.0 | [GitHub](https://github.com/nu-dialogue/real-persona-chat), [Hugging Face](https://huggingface.co/datasets/nu-dialogue/real-persona-chat) |     9,588,948 |
| JMultiWOZ: Japanese Multi-Domain Wizard-of-Oz Dataset  | CC-BY-SA-4.0 | [GitHub](https://github.com/nu-dialogue/jmultiwoz), [Hugging Face](https://huggingface.co/datasets/nu-dialogue/jmultiwoz)                 |     1,836,127 |
| aozorabunko-clean                                      | CC-BY-4.0    | [Hugging Face](https://huggingface.co/datasets/globis-university/aozorabunko-clean)                                                       |   110,521,202 |
| Wikipedia                                              | CC-BY-SA-3.0 | [Hugging Face](https://huggingface.co/datasets/wikimedia/wikipedia)                                                                       | 1,430,838,594 |
| original(32 items datasets created entirely by human)  | MIT          | The data before conversion will be made public at a later date.                                                                           |         9,621 |