Datasets:

p208p2002
/

csl-1.8G-filtered

Modalities:

Formats:

Languages:

Size:

Libraries:

Dataset card Viewer Files Files and versions Community

p208p2002 commited on Jun 2

Commit

3e7a5f7

•

1 Parent(s): 6b43d7e

Update README.md

Files changed (1) hide show

README.md +3 -1

README.md CHANGED Viewed

@@ -11,4 +11,6 @@ language:
 # CSL 中文科學論文摘要資料集
 資料來源: https://github.com/ydli-ai/CSL
-資料集基於 [p208p2002/csl-1.8G](https://huggingface.co/datasets/p208p2002/csl-1.8G) 並經過去重、雜訊清洗。

 # CSL 中文科學論文摘要資料集
 資料來源: https://github.com/ydli-ai/CSL
+此資料集使用 [huggingface/datatrove](https://github.com/huggingface/datatrove) 進行了系統性的資料清洗。
+我們在清洗過程中應用了多種基於規則的過濾方法，移除許多過短、重複和含有噪聲的資料。