Update README.md
Browse files
README.md
CHANGED
@@ -6,11 +6,11 @@ language:
|
|
6 |
- zh
|
7 |
---
|
8 |
纯手工用眼睛和手细细切做臊子的中文长文本语料
|
9 |
-
1.
|
10 |
-
2. 内部去重:`s/(.)\1{3,}/$1$1$1/g
|
11 |
3. 杂项:`s/^([\x00-\x3e\x40-\xff]{1,4})[\x00-\xff]*:/$1:/g`
|
12 |
-
4. 错字:`s/巴巴/爸爸/g
|
13 |
-
5. 错字:`s/拉\b/啦/g
|
14 |
6. 一个完整对话为一个文件
|
15 |
7. 一行的格式为 `{NAME}:{DIALOGUE}`(':'为中文冒号)
|
16 |
8. 旁白的 {NAME} 为 `旁白`
|
|
|
6 |
- zh
|
7 |
---
|
8 |
纯手工用眼睛和手细细切做臊子的中文长文本语料
|
9 |
+
1. 清洗要求:`全角转半角` | `繁体转简体`
|
10 |
+
2. 内部去重:`s/(.)\1{3,}/$1$1$1/g` | `s/(.{2,}?)\1{2,}/$1/g` | `s/(((^.*$)[\r\n]*){1,10}?)\1{1,}/$1/g`
|
11 |
3. 杂项:`s/^([\x00-\x3e\x40-\xff]{1,4})[\x00-\xff]*:/$1:/g`
|
12 |
+
4. 错字:`s/巴巴/爸爸/g` | `s/阿阿+/啊啊/g` | `s/很抄/很吵/g` | `s/能苟/能够/g`
|
13 |
+
5. 错字:`s/拉\b/啦/g` | `s/巴\b/吧/g` | `s/阿\b/啊/g`
|
14 |
6. 一个完整对话为一个文件
|
15 |
7. 一行的格式为 `{NAME}:{DIALOGUE}`(':'为中文冒号)
|
16 |
8. 旁白的 {NAME} 为 `旁白`
|