Update README.md
Browse files
README.md
CHANGED
@@ -1,18 +1,25 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
纯手工用眼睛和手细细切做臊子的中文长文本语料
|
2 |
-
1.
|
3 |
-
|
4 |
-
|
5 |
-
|
6 |
-
|
7 |
-
|
8 |
-
|
9 |
-
|
10 |
-
|
11 |
-
|
12 |
-
|
13 |
-
|
14 |
-
|
15 |
-
|
16 |
```python
|
17 |
from opencc import OpenCC
|
18 |
cc = OpenCC('t2s') # 't2s'表示繁体转简体
|
|
|
1 |
+
---
|
2 |
+
license: cc-by-nc-sa-4.0
|
3 |
+
task_categories:
|
4 |
+
- text-generation
|
5 |
+
language:
|
6 |
+
- zh
|
7 |
+
---
|
8 |
纯手工用眼睛和手细细切做臊子的中文长文本语料
|
9 |
+
1. 清洗要求:`全角转半角`|`繁体转简体`
|
10 |
+
2. 内部去重:`s/(.)\1{3,}/$1$1$1/g`|`s/(.{2,}?)\1{2,}/$1/g`|`s/(((^.*$)[\r\n]*){1,10}?)\1{1,}/$1/g`
|
11 |
+
3. 杂项:`s/^([\x00-\x3e\x40-\xff]{1,4})[\x00-\xff]*:/$1:/g`
|
12 |
+
4. 错字:`s/巴巴/爸爸/g`|`s/阿阿+/啊啊/g`|`s/很抄/很吵/g`|`s/能苟/能够/g`
|
13 |
+
5. 错字:`s/拉\b/啦/g`|`s/巴\b/吧/g`|`s/阿\b/啊/g`
|
14 |
+
6. 一个完整对话为一个文件
|
15 |
+
7. 一行的格式为 `{NAME}:{DIALOGUE}`(':'为中文冒号)
|
16 |
+
8. 旁白的 {NAME} 为 `旁白`
|
17 |
+
9. 未知人物的 {NAME} 为 '?'
|
18 |
+
10. 可以从旁白推断的主角的 {NAME} 为 `我/名字`,否则为 `名字`
|
19 |
+
11. 如万华镜等主角名字改变的,`名字` 变,`我/` 不变
|
20 |
+
12. 除 `b-corpus\视觉小说\format` 外的语料的作用是增加多样性
|
21 |
+
13. 完整保留涩涩内容,部分内容涉及*错误世界观和道德伦理*
|
22 |
+
14. 注意:部分多视角的语料,随着旁白的改变,主角也可能会改变
|
23 |
```python
|
24 |
from opencc import OpenCC
|
25 |
cc = OpenCC('t2s') # 't2s'表示繁体转简体
|