Datasets:

Formats:
parquet
Languages:
Japanese
ArXiv:
Libraries:
Datasets
Dask
License:

ペアの数がフィルタリングの数と一致しない理由

#2
by alfredplpl - opened

フィルタリングの結果を見ると37M pairsあると書いてありますが、
このデータセットでは150M pairsと数が一致しません。
この理由はなぜですか?

論文を斜め読みしたのですが、各スナップショットに対してフィルタリングした結果を統合したためでしょうか?

ご質問ありがとうございます! はい, 図中の括弧内の数字は2025-18 snapshotに対してpipelineを適用した場合の数字です. 6つ分のsnapshotをdeduplicationしつつ統合した結果が公開データの150M pairsになります.

ご回答ありがとうございました。
それで150M pairsになるんですね。
納得しました。

speed changed discussion status to closed

Sign up or log in to comment