Datasets:

Languages:
Chinese
Tags:
Not-For-All-Audiences
License:
Limour commited on
Commit
d26372c
1 Parent(s): 4f48617

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +21 -14
README.md CHANGED
@@ -1,18 +1,25 @@
 
 
 
 
 
 
 
1
  纯手工用眼睛和手细细切做臊子的中文长文本语料
2
- 1.1. 清洗要求:`全角转半角`|`繁体转简体`
3
- 1.2. 内部去重:`s/(.)\1{3,}/$1$1$1/g`|`s/(.{2,}?)\1{2,}/$1/g`|`s/(((^.*$)[\r\n]*){1,10}?)\1{1,}/$1/g`
4
- 1.3. 杂项:`s/^([\x00-\x3e\x40-\xff]{1,4})[\x00-\xff]*:/$1:/g`
5
- 1.4. 错字:`s/巴巴/爸爸/g`|`s/阿阿+/啊啊/g`|`s/很抄/很吵/g`|`s/能苟/能够/g`
6
- 1.5. 错字:`s/拉\b/啦/g`|`s/巴\b/吧/g`|`s/阿\b/啊/g`
7
- 2. 一个完整对话为一个文件
8
- 3. 一行的格式为 `{NAME}:{DIALOGUE}`(':'为中文冒号)
9
- 3. 旁白的 {NAME} 为 `旁白`
10
- 4. 未知人物的 {NAME} 为 '?'
11
- 5. 可以从旁白推断的主角的 {NAME} 为 `我/名字`,否则为 `名字`
12
- 6. 如万华镜等主角名字改变的,`名字` 变,`我/` 不变
13
- 7. 除 `b-corpus\视觉小说\format` 外的语料的作用是增加多样性
14
- 8. 完整保留涩涩内容,部分内容涉及*错误世界观和道德伦理*
15
- 9. 注意:部分多视角的语料,随着旁白的改变,主角也可能会改变
16
  ```python
17
  from opencc import OpenCC
18
  cc = OpenCC('t2s') # 't2s'表示繁体转简体
 
1
+ ---
2
+ license: cc-by-nc-sa-4.0
3
+ task_categories:
4
+ - text-generation
5
+ language:
6
+ - zh
7
+ ---
8
  纯手工用眼睛和手细细切做臊子的中文长文本语料
9
+ 1. 清洗要求:`全角转半角`|`繁体转简体`
10
+ 2. 内部去重:`s/(.)\1{3,}/$1$1$1/g`|`s/(.{2,}?)\1{2,}/$1/g`|`s/(((^.*$)[\r\n]*){1,10}?)\1{1,}/$1/g`
11
+ 3. 杂项:`s/^([\x00-\x3e\x40-\xff]{1,4})[\x00-\xff]*:/$1:/g`
12
+ 4. 错字:`s/巴巴/爸爸/g`|`s/阿阿+/啊啊/g`|`s/很抄/很吵/g`|`s/能苟/能够/g`
13
+ 5. 错字:`s/拉\b/啦/g`|`s/巴\b/吧/g`|`s/阿\b/啊/g`
14
+ 6. 一个完整对话为一个文件
15
+ 7. 一行的格式为 `{NAME}:{DIALOGUE}`(':'为中文冒号)
16
+ 8. 旁白的 {NAME} 为 `旁白`
17
+ 9. 未知人物的 {NAME} 为 '?'
18
+ 10. 可以从旁白推断的主角的 {NAME} 为 `我/名字`,否则为 `名字`
19
+ 11. 如万华镜等主角名字改变的,`名字` 变,`我/` 不变
20
+ 12. 除 `b-corpus\视觉小说\format` 外的语料的作用是增加多样性
21
+ 13. 完整保留涩涩内容,部分内容涉及*错误世界观和道德伦理*
22
+ 14. 注意:部分多视角的语料,随着旁白的改变,主角也可能会改变
23
  ```python
24
  from opencc import OpenCC
25
  cc = OpenCC('t2s') # 't2s'表示繁体转简体