Datasets:

Languages:
Chinese
Tags:
Not-For-All-Audiences
License:
b-corpus / README.md
Limour's picture
Update README.md
03055c6 verified
|
raw
history blame
6.3 kB
metadata
license: cc-by-nc-sa-4.0
task_categories:
  - text-generation
language:
  - zh
tags:
  - not-for-all-audiences

纯手工用眼睛和手细细切做臊子的中文长文本语料

下载:$env:HF_ENDPOINT="https://hf-mirror.com"; python -c "from huggingface_hub import snapshot_download; snapshot_download(repo_id='Limour/b-corpus', repo_type='dataset', local_dir=r'D:\datasets\tmp')"

  1. 清洗要求:全角转半角 | 繁体转简体
  2. 内部去重:s/(.)\1{3,}/$1$1$1/g | s/(.{2,}?)\1{2,}/$1/g | s/(((^.*$)[\r\n]*){1,10}?)\1{1,}/$1/g
  3. 杂项:s/^([\x00-\x3e\x40-\xff]{1,4})[\x00-\xff]*:/$1:/g
  4. 错字:s/巴巴/爸爸/g | s/阿阿+/啊啊/g | s/很抄/很吵/g | s/能苟/能够/g
  5. 错字:s/拉\b/啦/g | s/巴\b/吧/g | s/阿\b/啊/g
  6. 一个完整对话为一个文件
  7. 一行的格式为 {NAME}:{DIALOGUE}(':'为中文冒号)
  8. 旁白的 {NAME} 为 旁白
  9. 未知人物的 {NAME} 为 ?
  10. 可以从旁白推断的主角的 {NAME} 为 我/名字,否则为 名字
  11. 如万华镜等主角名字改变的,名字 变,我/ 不变
  12. b-corpus\视觉小说\format 外的语料的作用是增加多样性
  13. 完整保留涩涩内容,部分内容涉及错误世界观和道德伦理
  14. 注意:部分多视角的语料,随着旁白的改变,主角也可能会改变
  15. b-corpus\v-corpus-en 来自 alpindale/visual-novels, 或许可以翻译成中文?
from opencc import OpenCC
cc = OpenCC('t2s')  # 't2s'表示繁体转简体
import unicodedata
def fullwidth_to_halfwidth(input_str):
    return ''.join((unicodedata.normalize('NFKC', char) for char in input_str))
def clearT(s):
    s = cc.convert(fullwidth_to_halfwidth(s))
    return s.strip()
  • 错误价值观举例
旁白:她抵达了终之空。
旁白:她已经超越了万物....
旁白:超越万物....
旁白:也就是,
旁白:抵达极致....
女信徒A:野崎跳下去了!
女信徒A:真棒。我们跟上吧!趁俗世的权利还没阻止我们抵达极致!!
女信徒A:救世主大人
女信徒A:我先走一步
我/卓司:嗯
女性信者B:我也走了
女信徒C:我也....各位,保重
男信徒A:我也要....跟这不完美的世界说再见了。各位,再见....
由香:在完美的世界里,我们也要在一起,
?:嗯——
由香:再见,救世主大人。非常感谢
我/卓司:嗯....
男信徒B:这样就能跟这个世界说再见了....我讨厌这个世界
男信徒B:以后就能在完美的世界里——
男信徒B:在完美的世界里,过上幸福的日子!!
男信徒B:没有家人
男信徒B:没有老师
男信徒B:没有考试
男信徒B:也没有学校
男信徒C:完美的世界,我来了!!
旁白:....信徒们一个个地抵达终之空....
我/卓司:真的会有祝福自己诞生的人吗?
我/卓司:正因为诅咒一切,在这个世界诞生,因为一切都是谬误,我们才——
行人:是啊,没错,是这样。如果诞生是惩罚的话,我们在诞生的瞬间就是丧家犬了....
我/卓司:那为什么——
行人:所以就要勒紧刚诞生的婴儿的脖子?
旁白:我有些惊讶。
旁白:“掐住新生婴儿的脖子,将其人生在10分钟结束,谁也不会有异议”
旁白:虽然这的确是我说的,但那是在方舟的演说上说的。我不认为行人会知道。
旁白:这样的话。
我/卓司:我们在思考同样的事?
行人:谁知道呢?但我能断言,你的所作所为是错误的
旁白:即使如此,也要断定我是错的。
旁白:虽然很想听听他的理由,但若他是最后一人,也就没必要听了。
旁白:因为这是我在思考的事,而水上行人与我的判断完全相反——
我/卓司:被诅咒的,生
我/卓司:被祝福的,生
我/卓司:亦或者是——
我/卓司:被当做诅咒的,死
我/卓司:把这样的死,当做祝福接受
我/卓司:到这里为止,我和你的想法应该是一样的吧?
  • 涩涩内容举例
我/块斗:「哪个才是本体啊!?」
月咏:「都是本体哦。这是将自身的存在多次复制的结果」
月咏:「现技术已经支持了,只要大脑适应,就能复制多个自己,并随意行动」
月咏:「就好比自己的神经伸展到外部了的感觉」
我/块斗:「嚯嚯......」
旁白:我也能做到这样的吗......?
月咏:「我一开始就是完全适应的状态......所以这种事也能做到」
旁白:齐刷刷走来的月咏大军将我围住,并把我推倒。
我/块斗:「哇......怎么了?」
月咏:「......在这里做爱的话,就不会对身体有负担了」
月咏:「但是,这样会将大脑的感受更直接的引导出来」
我/块斗:「......也就是说?」
月咏:「......非常抱歉,主人」
月咏:「我......大概是个相当色情的女孩子」
我/块斗:「放心吧。我对你的感情绝对不比你差」
月咏:「好开心......请让我好好侍奉您一番吧」
旁白:两侧的月咏靠近过来,并将她们的嘴唇贴了上来。
月咏1:「嗯......呼......啾......今天,请尽情享受吧......啾......」
旁白:站在身旁的月咏吸住我的嘴唇。
旁白:而且还抓住我的手往自己胸上压。
月咏1:「哈噗......啾、嗯嗯......啊哈......主人,你知道,啾......我现在心脏砰砰跳个不停吗......?」
月咏2:「要这样说,我的心脏现在也......扑通扑通地跳......主人......嗯嗯、请你确认一下......」
旁白:位于另一侧的月咏则是把我的手放在私处。
旁白:指尖有种湿润的触感。
月咏2:「啊......嗯、嗯......主人的手指......啊、啊......我的阴道里面,躁动不停......嗯嗯......好舒服......」
月咏1:「也请尽情摸我的胸部......嗯、啾、嗯溜噜......溜噜、啾......!」
旁白:像是为了对抗让我触摸秘部的月咏,另一个月咏吸住了我的舌头。
我/块斗:「啾......哈啊、哈啊......呜喔喔!?」
月咏3:「呼......嗯、嗯......呼呼、主人,舒服吗......?」
旁白:往身下看去,发现第三个月咏用胸部夹住了我的股间。