Datasets:
Tasks:
Text Generation
Modalities:
Text
Formats:
json
Languages:
Vietnamese
Size:
100K - 1M
ArXiv:
License:
license: mit | |
task_categories: | |
- text-generation | |
language: | |
- vi | |
size_categories: | |
- 100K<n<1M | |
# Dataset Card for Vietnamese UltraChat 200k | |
## Dataset Description | |
This is a heavily filtered version of the [UltraChat](https://github.com/thunlp/UltraChat) dataset and was used to train [Zephyr-7B-β](https://huggingface.co/HuggingFaceH4/zephyr-7b-beta), a state of the art 7b chat model. | |
The original datasets consists of 1.4M dialogues generated by ChatGPT and spanning a wide range of topics. To create `UltraChat 200k`, we applied the following logic: | |
- Selection of a subset of data for faster supervised fine tuning. | |
- Truecasing of the dataset, as we observed around 5% of the data contained grammatical errors like "Hello. how are you?" instead of "Hello. How are you?" | |
- Removal of dialogues where the assistant replies with phrases like "I do not have emotions" or "I don't have opinions", even for fact-based prompts that don't involve either. | |
The Dataset has been translated to Vietnamese by Google translate | |
## Dataset Structure | |
The dataset has two splits, suitable for: | |
* Supervised fine-tuning (`sft`). | |
The number of examples per split is shown as follows: | |
| train_sft | test_sft | | |
|:-------:|:-----------:| | |
| 207834 | 23107 | | |
The dataset is stored in parquet format with each entry using the following schema: | |
``` | |
{ | |
"prompt": "Có thể kết hợp ngăn kéo, tủ đựng chén và giá đựng rượu trong cùng một tủ búp phê không?: ...", | |
"messages":[ | |
{ | |
"role": "user", | |
"content": "Có thể kết hợp ngăn kéo, tủ đựng chén và giá đựng rượu trong cùng một tủ búp phê không?: ...", | |
}, | |
{ | |
"role": "assistant", | |
"content": "Có, có thể kết hợp ngăn kéo, tủ đựng chén và giá để rượu trong cùng một chiếc tủ. Tủ búp phê Hand Made ...", | |
}, | |
{ | |
"role": "user", | |
"content": "Bạn có thể cung cấp cho tôi thông tin liên hệ của người bán tủ búp phê Hand Made được không? ...", | |
}, | |
{ | |
"role": "assistant", | |
"content": "Tôi không có quyền truy cập vào thông tin cụ thể về người bán hoặc thông tin liên hệ của họ. ...", | |
}, | |
{ | |
"role": "user", | |
"content": "Bạn có thể cung cấp cho tôi một số ví dụ về các loại bàn làm việc khác nhau có sẵn cho tủ búp phê Hand Made không?", | |
}, | |
{ | |
"role": "assistant", | |
"content": "Chắc chắn, đây là một số ví dụ về các mặt bàn làm việc khác nhau có sẵn cho tủ búp phê Hand Made: ...", | |
}, | |
], | |
"prompt_id": "0ee8332c26405af5457b3c33398052b86723c33639f472dd6bfec7417af38692" | |
} | |
``` | |
## Citation | |
If you find this dataset is useful in your work, please cite the original UltraChat dataset: | |
``` | |
@misc{ding2023enhancing, | |
title={Enhancing Chat Language Models by Scaling High-quality Instructional Conversations}, | |
author={Ning Ding and Yulin Chen and Bokai Xu and Yujia Qin and Zhi Zheng and Shengding Hu and Zhiyuan Liu and Maosong Sun and Bowen Zhou}, | |
year={2023}, | |
eprint={2305.14233}, | |
archivePrefix={arXiv}, | |
primaryClass={cs.CL} | |
} | |
``` |