Hugging Face's logo

Datasets:
hotchpotch
/
ms_marco_japanese

Modalities:
Text
Formats:
parquet
Languages:
Japanese
Size:
1M - 10M
Libraries:
Datasets
Dask
License:
Dataset card Viewer Files Community
2
ms_marco_japanese / README.md
hotchpotch's picture
hotchpotch
Librarian Bot: Add language metadata for dataset (#2)
c861bba verified
preview code
|
raw
history blame contribute delete
7.99 kB
metadata
language:
  - ja
license: other
license_name: same-ms-marco
license_link: https://huggingface.co/datasets/ms_marco
dataset_info:
  config_name: v2.1-madlad400-3b
  features:
    - name: answers
      sequence: string
    - name: passages
      sequence:
        - name: is_selected
          dtype: int32
        - name: passage_text
          dtype: string
        - name: url
          dtype: string
    - name: query
      dtype: string
    - name: query_id
      dtype: int32
    - name: query_type
      dtype: string
    - name: wellFormedAnswers
      sequence: string
  splits:
    - name: validation
      num_bytes: 440690468
      num_examples: 101093
    - name: train
      num_bytes: 3590508080
      num_examples: 808731
    - name: test
      num_bytes: 430765349
      num_examples: 101092
  download_size: 2491144245
  dataset_size: 4461963897
configs:
  - config_name: v2.1-madlad400-3b
    data_files:
      - split: validation
        path: v2.1-madlad400-3b/validation-*
      - split: train
        path: v2.1-madlad400-3b/train-*
      - split: test
        path: v2.1-madlad400-3b/test-*

ms_marco_japanese

  • ms_marco の日本語翻訳データです。
  • 翻訳には、google/madlad400-3b-mtを利用しています。
  • HuggingFace で公開されている、ms_marco と同等の構造で保存しています。
  • 翻訳品質はそれほど高くありません。繁体字などが含まれるデータもあります。Google Translate API を用いて翻訳された、マルチリンガルms_marcoデータセットである、mMARCOの方が品質が高いです。そのため、このデータセットを利用の際は、他の翻訳データセットとの比較をお勧めします。
  • wellFormedAnswers カラムは翻訳していません
  • 翻訳にかかった時間は、高速化のためsanthosh/madlad400-3b-ct2を利用し、対象のデータ約1000万文に対して RTX3090 で8日ほどでした。

利用方法 

from datasets import load_dataset

train_ds = load_dataset("hotchpotch/ms_marco_japanese", "v2.1-madlad400-3b", split="train")
validation_ds = load_dataset("hotchpotch/ms_marco_japanese", "v2.1-madlad400-3b", split="validation")
test_ds = load_dataset("hotchpotch/ms_marco_japanese", "v2.1-madlad400-3b", split="test"

print(train_ds[0])
{'answers': ['マンハッタン計画の成功が直接的にもたらした影響は、原子力研究者や技術員達による素晴しい業績を覆い隠す唯一な雲であった。その成果と真実であるもの:何十万という無辜なる命々があきれていたことだろうか?'], 'passages': {'is_selected': [1, 0, 0, 0, 0, 0, 0, 0, 0, 0], 'passage_text': ['科学者の間でコミュニケーションが行われることは、マンハッタン計画を成功させるために重要であった。原子力研究家や技術員たちによって達成された素晴らしい業績には雲だけがあふれているものだろうか?その実際的な意味と言えば何十万という無辜なる人々へ生命も犠牲になっていることですね!', 'マンハッタン計画とその原子爆弾は第二次世界大戦の終結に寄与し、平和的な目標をもって核エネルギーが利用されたことで歴史や科学界には影響力があった。', 'マンハッタン計画は原子爆弾の製造が可能かどうかなんて見るために始められた。このプロジェクトを成功させれば、世界には永遠な変化がありそこまで強力で人工的であることも知らしむことになっただろいますからね.', 'マンハッタン計画(Manhattan Project)は、第二次世界大戦中にアメリカ合衆国で行われた原子爆弾開発プロジェクトの名称。特別には1942年から翌日までレスリー・R. グローブズ将軍が指揮する米陸军工兵隊によって実施されたものをいうことが多かったのである 。', 'また、各巻のバージョンと補完的なウェブサイトもある。最初に作られたのは『マンハッタン計画: インタラクティヴ・ヒストリー』であり([http://www.cfo-doe/me70_history)歴史遺産資源局および国家核安全保障庁によるものだったが現在では全て廃止されています(https//en](http://www.cfo-doe/me70_history)%E6%AD%B4%E5%8F%B2%E9%81%BA%E7%94%A3%E8%B3%87%E6%BA%90%E5%B1%80%E3%81%8A%E3%82%88%E3%81%B3%E5%9B%BD%E5%AE%B6%E6%A0%B8%E5%AE%89%E5%85%A8%E4%BF%9D%E9%9A%9C%E5%BA%81%E3%81%AB%E3%82%88%E3%82%8B%E3%82%82%E3%81%AE%E3%81%A0%E3%81%A3%E3%81%9F%E3%81%8C%E7%8F%BE%E5%9C%A8%E3%81%A7%E3%81%AF%E5%85%A8%E3%81%A6%E5%BB%83%E6%AD%A2%E3%81%95%E3%82%8C%E3%81%A6%E3%81%84%E3%81%BE%E3%81%99(https//en))', '原子爆弾は、1945年7月にニューメキシコ州の砂漠で初めて実験的な核兵器として使用された。その後も多くが開発され続けたものだったのである(マンハッタン計画)。', 'また、原爆や第二次世界大戦の終結に関する非常によく豊富な文献を置き換える試みもない。本コレクションはマンハッタン計画について起源と発展が記録されることには努めていませんのである 。', 'マンハッタン計画(Manhattan Project)は、第二次世界大戦中に最初の核兵器を生産した研究開発事業である。イギリスとカナダによる支援下アメリカ合衆国が主導していたものだった 。1942年から1946年代までこのプロジェクトには米陸軍工廠少将レスリー・グローブス (Leslie Groves) (英語版 )(en:Lesley G.Grove, US Army Corp of Engineer), ロサンゼル斯原子力実験場所長ロバート·オペンハーマーらも参加しており,その間爆弾設計者として活躍していることでも知られていたのであり ,また彼等自身について言及する必要性があると考えている人物であることなどよりこれ以上詳細な情報ではないかという意見がありました', '1942年6月、アメリカ陸軍工兵隊はマンハッタン計画を開始した。原子爆弾の秘密名称であるが.', 'マンハッタン計画のB炉がハンフォードに建設される理由は、北アメリカ沿岸から太平洋へ流れ込む最大級河川であるコロンビア湖と近いことだった。'], 'url': ['[http://www.pitt.edu/~sdb14/atombomb.html](http://www.pitt.edu/~sdb14/atombomb.html)', '[http://www.osti.gov/accomplishments/manhattan_story.html](http://www.osti.gov/accomplishments/manhattan_story.html)', '[http://www.123helpme.com/impact-of-the-manhattan-project-preview.asp?id=177337](http://www.123helpme.com/impact-of-the-manhattan-project-preview.asp?id=177337)', '[http://www.answers.com/Q/How_did_the_Manhattan_Project_impact_on_society](http://www.answers.com/Q/How_did_the_Manhattan_Project_impact_on_society)', '[https://www.osti.gov/manhattan-project-history/publications/Manhattan_Project_2010.pdf](https://www.osti.gov/manhattan-project-history/publications/Manhattan_Project_2010.pdf)', '[http://www.ushistory.org/us/51f.asp](http://www.ushistory.org/us/51f.asp)', '[http://nsarchive.gwu.edu/NSAEBB/NSAEBB162](http://nsarchive.gwu.edu/NSAEBB/NSAEBB162)', '[https://en.wikipedia.org/wiki/Manhattan_Project](https://en.wikipedia.org/wiki/Manhattan_Project)', '[https://quizlet.com/41456230/a-bomb-flash-cards/](https://quizlet.com/41456230/a-bomb-flash-cards/)', '[https://www.atomicheritage.org/history/environmental-consequences](https://www.atomicheritage.org/history/environmental-consequences)']}, 'query': '(マンハッタン計画の成功が直接的にもたらした影響は何でしょうか。', 'query_id': 1185869, 'query_type': 'DESCRIPTION', 'wellFormedAnswers': []}

ライセンス

  • ms_marco と同等とします。