Datasets:
metadata
license: other
license_name: other
license_link: LICENSE
task_categories:
- text-generation
language:
- ja
AKU-d_ms-0.5B-v0.1_dataset
Overview
このリポジトリは、私の開発しているAKUシリーズの1つ目となる、AKU-d_ms-0.5B-chat-v0.1の事前学習に使用したテキストデータを集めています。
これには次で説明するように複数の公開データセットから作成したテキストファイルが含まれており、それぞれのライセンスや著作権は各データセットに従います。
また、各データセットに対する処理スクリプトは、上記GitHubリポジトリ内にて公開しています。
合計トークン数は 1.56 B tokensとなります。(モデルに使用しているTokenizerによる計算)
Each Dataset Description
Dataset Name | License | URL or Repository | token count |
---|---|---|---|
Accommodation Search Dialog Corpus (in Japanese) | CC-BY-4.0 | GitHub | 139,246 |
Japanese Movie Recommendation Dialogue | CC-BY-SA-4.0 | GitHub | 2,698,430 |
OjousamaTalkScriptDataset | MIT | GitHub | 8,710 |
Rosebleu | Apache-2.0 | GitLab | 4,844,391 |
character conversation dataset | Apache-2.0 | GitHub | 23,843 |
感想付きニュース雑談対話コーパス | MIT | GitHub | 352,350 |
RealPersonaChat | CC-BY-SA-4.0 | GitHub, Hugging Face | 9,588,948 |
JMultiWOZ: Japanese Multi-Domain Wizard-of-Oz Dataset | CC-BY-SA-4.0 | GitHub, Hugging Face | 1,836,127 |
aozorabunko-clean | CC-BY-4.0 | Hugging Face | 110,521,202 |
Wikipedia | CC-BY-SA-3.0 | Hugging Face | 1,430,838,594 |
original(32 items datasets created entirely by human) | MIT | The data before conversion will be made public at a later date. | 9,621 |