数据错误，这份数据可用性存疑！
看起来把一个样本拆分成多个了。
随便抽查了一个文件：01373-000-002-analyze_emotion_by_keywords.jsonl
{"task_name_in_eng": "analyze_emotion_by_keywords", "instruction": "分析关键语句中的情感", "input": "当 我 看到 建议 被 采纳", "output": "激动", "split": null, "task_type": {"major": ["自然语言推理"], "minor": ["情感分析"]}, "domain": ["通用,心理"], "other": "null"}
{"task_name_in_eng": "analyze_emotion_by_keywords", "instruction": "分析关键语句中的情感", "input": "部委 领导 写给 我 的 回信 时", "output": "激动", "split": null, "task_type": {"major": ["自然语言推理"], "minor": ["情感分析"]}, "domain": ["通用,心理"], "other": "null"}
{"task_name_in_eng": "analyze_emotion_by_keywords", "instruction": "分析关键语句中的情感", "input": "我 知道 我 正在 为 这个 国家 的 发展 尽着 一份 力量", "output": "激动", "split": null, "task_type": {"major": ["自然语言推理"], "minor": ["情感分析"]}, "domain": ["通用,心理"], "other": "null"}
{"task_name_in_eng": "analyze_emotion_by_keywords", "instruction": "分析关键语句中的情感", "input": "27 日", "output": "激动", "split": null, "task_type": {"major": ["自然语言推理"], "minor": ["情感分析"]}, "domain": ["通用,心理"], "other": "null"}
{"task_name_in_eng": "analyze_emotion_by_keywords", "instruction": "分析关键语句中的情感", "input": "河北省 邢台 钢铁 有限公司 的 普通工人 白金 跃", "output": "激动", "split": null, "task_type": {"major": ["自然语言推理"], "minor": ["情感分析"]}, "domain": ["通用,心理"], "other": "null"}
{"task_name_in_eng": "analyze_emotion_by_keywords", "instruction": "分析关键语句中的情感", "input": "拿 着 历年来 国家 各部委 反馈 给 他 的 感谢信", "output": "激动", "split": null, "task_type": {"major": ["自然语言推理"], "minor": ["情感分析"]}, "domain": ["通用,心理"], "other": "null"}
{"task_name_in_eng": "analyze_emotion_by_keywords", "instruction": "分析关键语句中的情感", "input": "激动 地 对 中新网 记者 说", "output": "激动", "split": null, "task_type": {"major": ["自然语言推理"], "minor": ["情感分析"]}, "domain": ["通用,心理"], "other": "null"}
{"task_name_in_eng": "analyze_emotion_by_keywords", "instruction": "分析关键语句中的情感", "input": "27 年来", "output": "激动", "split": null, "task_type": {"major": ["自然语言推理"], "minor": ["情感分析"]}, "domain": ["通用,心理"], "other": "null"}
{"task_name_in_eng": "analyze_emotion_by_keywords", "instruction": "分析关键语句中的情感", "input": "国家公安部 国家 工商总局 国家科学技术委员会 科技部 卫生部 国家 发展 改革 委员会 等 部委 均 接受 并 采纳 过 的 我 的 建议", "output": "激动", "split": null, "task_type": {"major": ["自然语言推理"], "minor": ["情感分析"]}, "domain": ["通用,心理"], "other": "null"}
{"task_name_in_eng": "analyze_emotion_by_keywords", "instruction": "分析关键语句中的情感", "input": "据 白金 跃 介绍", "output": "激动", "split": null, "task_type": {"major": ["自然语言推理"], "minor": ["情感分析"]}, "domain": ["通用,心理"], "other": "null"}
建议对数据处理逻辑进行一下检查。
不好意思，您发的这个数据问题的有问题吗？貌似是合理的吧？
您看一下前几条，明显是一条信息被拆分成了多条。
{"task_name_in_eng": "analyze_emotion_by_keywords", "instruction": "分析关键语句中的情感", "input": "27 日", "output": "激动", "split": null, "task_type": {"major": ["自然语言推理"], "minor": ["情感分析"]}, "domain": ["通用,心理"], "other": "null"}
27 日三个字的情感怎么可能是激动呢
{"task_name_in_eng": "analyze_emotion_by_keywords", "instruction": "分析关键语句中的情感", "input": "27 日", "output": "激动", "split": null, "task_type": {"major": ["自然语言推理"], "minor": ["情感分析"]}, "domain": ["通用,心理"], "other": "null"}
27 日三个字的情感怎么可能是激动呢
这份数据总集出于数据留存的目的，是根据源数据文件尽可能保留数据全量进行直接的自动化处理的。我们会在稍后的report中直接汇报这一点。
我们已和负责这个文件的志愿者工程师同学沟通了这个文件的修改，感谢您的意见，如果您抽检过程中还有其他有问题文件，也辛苦直接反馈，但劳烦您在issue中指明具体的问题文件，避免指代不清。此外，出于降低维护志愿者工程师维护工作量的目的，我们不会对正确率在80%以上的单个SFT文件进行修改。
这里解释下三个数据构建设计上的选择：
- 这个全集更多是鼓励大家来做multitask learning和数据留存的，所以我们本身没有做基于CCNet流程的降重，因为这样会删掉很多类似的但是做了输出格式区分或者任务逻辑区分的输入输出的数据，如果某个数据文件有显著的质量问题，主要是instruction不准确，我们会去跟进重新修改；如果有自己采样的需求，辛苦自己设计流程进行去重和data truncation。
- 一方面，基于数据留存备份和保留源数据分布以及减少志愿者工程师工作量的目的，我们尽可能保留了源数据的全量，另一方面，由于我们的数据不是自然的连贯文本，ppl筛选出来会导致丢失很多正常数据，我们并没有使用ppl进行筛选，未来我们找到合适的阈值可能会release一个筛选后的中间版本。
- 如果想直接使用一个较为干净的量上比较小的数据，可以期待下我们在路上的COIG-PC-core，使用了ppl和token覆盖率进行选择数据，并在task和domain分布上做了尽可能地均衡。那个数据我们会针对单条有问题的数据进行修改，并预期那个数据集可以直接应用到SFT环节。
开源不易，造成不便也希望您理解。
开源一份这样的数据，工作量确实也很大，难免有问题。大家一起发现问题并改进，也是开源的目的之一。一起期待COIG-PC-core
已将该样本加入忽略列表