README.md

metadata

license: cc
task_categories:
  - text2text-generation
language:
  - ja
tags:
  - furigana
  - education
pretty_name: 青空文庫振り仮名注釈付き音声コーパス(FLFL Train)
size_categories:
  - 1M<n<10M

A more aggressively cleaned up version of Calvin-Xu/Furigana-Aozora-Speech, which consists of 2,536,041 out of the 3,361,443 entries generated from the raw data 青空文庫及びサピエの音声デイジーデータから作成した振り仮名注釈付き音声コーパスのデータセット https://github.com/ndl-lab/hurigana-speech-corpus-aozora. Training data of Calvin-Xu/FLFL.

The Whisper-generated transcriptions in the original dataset contains many errors. Additional sanity-checking is implemented to filter on reading of common kanji and eliminate wildly inaccurate entries (1,964,511 remaining).

Additionally as recognized by the original dataset authors, the consonant voicing (連濁) of many words, especially numbers / number + counters, is incorrect. Such words' readings were transformed in the training data (i.e., 十匹: じゅうひき -> じっぴき).

Calvin-Xu/FLFL is finetuned from stockmark/gpt-neox-japanese-1.4b and trained for slightly over one epoch on these data.

FLFL Output Example

国境くにざかいの長ながいトンネルを抜ぬけると雪国ゆきぐにであった<|endoftext|>

鰤ぶりの照てり焼やき、八宝菜はっぽうさい、ハンバーグ。<|endoftext|>

主菜しゅさい関連かんれんは、見事みごとなまでの和洋わよう中ちゅう折衷せっちゅう。<|endoftext|>

別べつの者ものの目めを通つうじて歴史れきしを垣間見かいまみられるとは、想像そうぞうを超こえる体験たいけんに違ちがいない!<|endoftext|>

止とめるなら、その大本おおもとを根絶ねだやしにしないと効果こうかがないわ<|endoftext|>

不人気ふにんき銘柄かぶでこれ以上いじょう価値かちが下さがりようないから、ほとんど底値そこねだ<|endoftext|>

時間じかんの澱おりの中なかに沈殿ちんたいしていたようだ。<|endoftext|>