# 日本語アニメ音声データセット V2

[**English readme here**](https://huggingface.co/datasets/joujiboi/japanese-anime-speech-v2)

**japanese-anime-speech-v2**は、自動音声認識モデルのトレーニング用に設計された音声テキストデータセットです。
このデータセットは、さまざまなビジュアルノベルから**300,506件の音声クリップ**とそれに対応する文字起こしで構成されています。
このデータセットは<a href="https://huggingface.co/datasets/joujiboi/japanese-anime-speech-v1">japanese-anime-speech-v1</a>の拡張版では<b>ありません</b>。
そのため、japanese-anime-speech-v1の音声の多くはこのデータセットに**含まれていません**。

このデータセットの目的は、OpenAIの[Whisper](https://huggingface.co/openai/whisper-large-v2)のような自動音声認識モデルが、
アニメやその他の類似した日本のメディアからの対話を正確に文字起こしする精度を向上させることです。
このジャンルは、独特の声質や言語的特徴、従来の日本語の話し方とは異なる発話パターンが特徴です。

<div class="course-tip course-tip-orange bg-gradient-to-br dark:bg-gradient-to-r before:border-orange-500 dark:before:border-orange-800 from-orange-50 dark:from-gray-900 to-white dark:to-gray-950 border border-orange-50 text-orange-700 dark:text-gray-400">
  <p>
    <b>コンテンツに関する警告：</b> このデータセットの音声はビジュアルノベルから取得されており、すべての視聴者に適していないコンテンツが含まれていることをご了承ください。
    <br>
    <a href="https://huggingface.co/datasets/joujiboi/japanese-anime-speech-v1">japanese-anime-speech-v1</a>とは異なり、
    このデータセットはNSFWコンテンツをフィルタリングしていません。このデータセットを使用して自動音声認識モデルをトレーニングする場合は、事前にデータセットをクリーンアップする必要があります。
  </p>
</div>

すべての音声ファイルと書き起こしのリストは[**こちら**](https://huggingface.co/datasets/joujiboi/japanese-anime-speech-v2/blob/main/audio_transcription_list.txt)にあります。

# データセット情報

* **300,506**件の音声テキストペア
* **458.55時間**の音声（OpenAIは生産的な[Whisper](https://huggingface.co/openai/whisper-large-v2)ファインチューニングのために最低[5時間](https://huggingface.co/blog/fine-tune-whisper)を推奨しています）
* 平均音声長：**5.5秒**
* データセットのソース：**ビジュアルノベル**
* 音声フォーマット：**mp3 (128kbps)**
* 最新バージョン：**V1 - 2024年6月29日**（これはjapanese-anime-speech-v2シリーズの最初のバージョンを意味します）
* 書き起こしのおよそ**８％**がNSFWである。

# V1からの変更点

* データセットのサイズを73,004から300,506の音声テキストペアに大幅に増加
* 音声フォーマットをmp3（192kbps）から**mp3（128kbps）**に変更してストレージ効率を向上
* このバージョンではNSFWコンテンツのフィルタリングを行っていません - 将来的には、データセットを職場向けとNSFWに分けて異なるスプリットにする可能性があります

# バイアスと制限事項

このデータセットは、アニメ調の日本語音声認識のトレーニングに有用ですが、いくつかの固有のバイアスと制限があります。
音声は主にビジュアルノベルから取得されているため、女性の声に偏りがあり、恋愛、人間関係、ファンタジーなどのトピックに関連する特定の領域の語彙が中心となっています。
さらに、プロが制作した音声であるため、明瞭でゆっくりとした発話になっており、実際の会話パターンを完全に反映していない可能性があります。
このバージョンにはNSFWコンテンツが含まれており、すべてのアプリケーションに適しているわけではありません。
文字起こしの整形やクリーニング（例：重複文字の削除）は行われていないため、一部のテキストサンプルの品質に影響を与える可能性があります。

# 今後の計画

* 職場向けとNSFWコンテンツを分けた別々のスプリットを作成
* 文字起こしの品質を向上させるためのテキスト整形の実装（例：過剰な文字の繰り返しの削除）
* より多くのソースを含めてデータセットの拡張を続ける

# 使用とクレジット

このデータセットは、商用または非商用利用のために公開されています。
誰でも適切と判断するようにこのリソースを使用することを歓迎します。
しかし、その使用の結果については、作成者は一切の責任を負いません。
必須ではありませんが、派生作品でこのデータセットにリンクでのクレジットを与えることが非常に感謝されます。

このデータセットを共有することで、我々（オープンソースコミュニティ）がアニメの音声の自動音声認識を改善することを願っています。