Update README.md
Browse files
README.md
CHANGED
@@ -9,7 +9,7 @@ tags:
|
|
9 |
---
|
10 |
纯手工用眼睛和手细细切做臊子的中文长文本语料
|
11 |
|
12 |
-
下载:`$env:HF_ENDPOINT="https://hf-mirror.com"; python -c "from huggingface_hub import snapshot_download; snapshot_download(repo_id='
|
13 |
|
14 |
1. 清洗要求:`全角转半角` | `繁体转简体`
|
15 |
2. 内部去重:`s/(.)\1{3,}/$1$1$1/g` | `s/(.{2,}?)\1{2,}/$1/g` | `s/(((^.*$)[\r\n]*){1,10}?)\1{1,}/$1/g`
|
|
|
9 |
---
|
10 |
纯手工用眼睛和手细细切做臊子的中文长文本语料
|
11 |
|
12 |
+
下载:`$env:HF_ENDPOINT="https://hf-mirror.com"; python -c "from huggingface_hub import snapshot_download; snapshot_download(repo_id='Limour/b-corpus', repo_type='dataset', local_dir=r'D:\datasets\tmp')"`
|
13 |
|
14 |
1. 清洗要求:`全角转半角` | `繁体转简体`
|
15 |
2. 内部去重:`s/(.)\1{3,}/$1$1$1/g` | `s/(.{2,}?)\1{2,}/$1/g` | `s/(((^.*$)[\r\n]*){1,10}?)\1{1,}/$1/g`
|