Update README.md
Browse files
README.md
CHANGED
@@ -7,5 +7,8 @@ configs:
|
|
7 |
language:
|
8 |
- zh
|
9 |
---
|
10 |
-
#
|
11 |
-
|
|
|
|
|
|
|
|
7 |
language:
|
8 |
- zh
|
9 |
---
|
10 |
+
# c4-chinese-zhtw-light-filtered
|
11 |
+
|
12 |
+
此資料集使用 [huggingface/datatrove](https://github.com/huggingface/datatrove) 進行了系統性的資料清洗。
|
13 |
+
|
14 |
+
我們在清洗過程中應用了多種基於規則的過濾方法,移除許多過短、重複和含有噪聲的資料。
|