Hugging Face's logo

Datasets:
tet550
/
jawiki_sentences

Modalities:
Text
Formats:
parquet
Languages:
Japanese
Size:
10M - 100M
Libraries:
Datasets
Dask
License:
Dataset card Viewer Files Community
jawiki_sentences
File size: 1,454 Bytes 
0541192
 
acb27d9
 
 
 
 
 
 
 
 
 
 
 
 
 
3cede32
 
0541192
3cede32
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
 
---
license: cc-by-3.0
dataset_info:
  features:
  - name: article_title
    dtype: string
  - name: topic_title
    dtype: string
  - name: text
    dtype: string
  splits:
  - name: train
    num_bytes: 7170293044
    num_examples: 31888063
  download_size: 3521442667
  dataset_size: 7170293044
language:
- ja
---

# Jawiki Sentences Dataset
このデータセットは、日本語版Wikipediaの記事を元に作成されました。原文からできる限り不要なタグや表など文章にならないものを取り除いています。各エントリーには、その文が含まれる記事タイトル、セクションタイトルを含めています。

## データの構造
各エントリーは以下の3つのフィールドからなります:

- article_title: 記事のタイトルを表す文字列。
- topic_title: 記事のセクションタイトルを表す文字列。
- text: セクションのテキストを表す文字列。

## データの生成
このデータセットは、下記スクリプトで日本語Wikipediaダンプファイルから生成しています。
https://github.com/tet550/jawiki_sentences

## ライセンス
ウィキペディアのコンテンツは Creative Commons Attribution-ShareAlike 4.0 International License (CC BY-SA 4.0) および GNU Free Documentation License (GFDL) の下にライセンスされています。
このデータセットも同ライセンスに準じます。