Datasets:

Languages:
Chinese
Tags:
Not-For-All-Audiences
License:
Limour commited on
Commit
939d423
1 Parent(s): b25bf52

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +4 -4
README.md CHANGED
@@ -6,11 +6,11 @@ language:
6
  - zh
7
  ---
8
  纯手工用眼睛和手细细切做臊子的中文长文本语料
9
- 1. 清洗要求:`全角转半角`|`繁体转简体`
10
- 2. 内部去重:`s/(.)\1{3,}/$1$1$1/g`|`s/(.{2,}?)\1{2,}/$1/g`|`s/(((^.*$)[\r\n]*){1,10}?)\1{1,}/$1/g`
11
  3. 杂项:`s/^([\x00-\x3e\x40-\xff]{1,4})[\x00-\xff]*:/$1:/g`
12
- 4. 错字:`s/巴巴/爸爸/g`|`s/阿阿+/啊啊/g`|`s/很抄/很吵/g`|`s/能苟/能够/g`
13
- 5. 错字:`s/拉\b/啦/g`|`s/巴\b/吧/g`|`s/阿\b/啊/g`
14
  6. 一个完整对话为一个文件
15
  7. 一行的格式为 `{NAME}:{DIALOGUE}`(':'为中文冒号)
16
  8. 旁白的 {NAME} 为 `旁白`
 
6
  - zh
7
  ---
8
  纯手工用眼睛和手细细切做臊子的中文长文本语料
9
+ 1. 清洗要求:`全角转半角` | `繁体转简体`
10
+ 2. 内部去重:`s/(.)\1{3,}/$1$1$1/g` | `s/(.{2,}?)\1{2,}/$1/g` | `s/(((^.*$)[\r\n]*){1,10}?)\1{1,}/$1/g`
11
  3. 杂项:`s/^([\x00-\x3e\x40-\xff]{1,4})[\x00-\xff]*:/$1:/g`
12
+ 4. 错字:`s/巴巴/爸爸/g` | `s/阿阿+/啊啊/g` | `s/很抄/很吵/g` | `s/能苟/能够/g`
13
+ 5. 错字:`s/拉\b/啦/g` | `s/巴\b/吧/g` | `s/阿\b/啊/g`
14
  6. 一个完整对话为一个文件
15
  7. 一行的格式为 `{NAME}:{DIALOGUE}`(':'为中文冒号)
16
  8. 旁白的 {NAME} 为 `旁白`