YukiTomita-CC's picture
Update README.md
95d7584 verified
metadata
license: other
license_name: other
license_link: LICENSE
task_categories:
  - text-generation
language:
  - ja

AKU-d_ms-0.5B-v0.1_dataset

Overview

このリポジトリは、私の開発しているAKUシリーズの1つ目となる、AKU-d_ms-0.5B-chat-v0.1の事前学習に使用したテキストデータを集めています。

これには次で説明するように複数の公開データセットから作成したテキストファイルが含まれており、それぞれのライセンスや著作権は各データセットに従います。
また、各データセットに対する処理スクリプトは、上記GitHubリポジトリ内にて公開しています。

合計トークン数は 1.56 B tokensとなります。(モデルに使用しているTokenizerによる計算)

Each Dataset Description

Dataset Name License URL or Repository token count
Accommodation Search Dialog Corpus (in Japanese) CC-BY-4.0 GitHub 139,246
Japanese Movie Recommendation Dialogue CC-BY-SA-4.0 GitHub 2,698,430
OjousamaTalkScriptDataset MIT GitHub 8,710
Rosebleu Apache-2.0 GitLab 4,844,391
character conversation dataset Apache-2.0 GitHub 23,843
感想付きニュース雑談対話コーパス MIT GitHub 352,350
RealPersonaChat CC-BY-SA-4.0 GitHub, Hugging Face 9,588,948
JMultiWOZ: Japanese Multi-Domain Wizard-of-Oz Dataset CC-BY-SA-4.0 GitHub, Hugging Face 1,836,127
aozorabunko-clean CC-BY-4.0 Hugging Face 110,521,202
Wikipedia CC-BY-SA-3.0 Hugging Face 1,430,838,594
original(32 items datasets created entirely by human) MIT The data before conversion will be made public at a later date. 9,621