nguyenphuthien's picture
Update README.md
f9b9200 verified
---
license: mit
task_categories:
- text-generation
language:
- vi
size_categories:
- 100K<n<1M
---
# Dataset Card for Vietnamese UltraChat 200k
## Dataset Description
This is a heavily filtered version of the [UltraChat](https://github.com/thunlp/UltraChat) dataset and was used to train [Zephyr-7B-β](https://huggingface.co/HuggingFaceH4/zephyr-7b-beta), a state of the art 7b chat model.
The original datasets consists of 1.4M dialogues generated by ChatGPT and spanning a wide range of topics. To create `UltraChat 200k`, we applied the following logic:
- Selection of a subset of data for faster supervised fine tuning.
- Truecasing of the dataset, as we observed around 5% of the data contained grammatical errors like "Hello. how are you?" instead of "Hello. How are you?"
- Removal of dialogues where the assistant replies with phrases like "I do not have emotions" or "I don't have opinions", even for fact-based prompts that don't involve either.
The Dataset has been translated to Vietnamese by Google translate
## Dataset Structure
The dataset has two splits, suitable for:
* Supervised fine-tuning (`sft`).
The number of examples per split is shown as follows:
| train_sft | test_sft |
|:-------:|:-----------:|
| 207834 | 23107 |
The dataset is stored in parquet format with each entry using the following schema:
```
{
"prompt": "Có thể kết hợp ngăn kéo, tủ đựng chén và giá đựng rượu trong cùng một tủ búp phê không?: ...",
"messages":[
{
"role": "user",
"content": "Có thể kết hợp ngăn kéo, tủ đựng chén và giá đựng rượu trong cùng một tủ búp phê không?: ...",
},
{
"role": "assistant",
"content": "Có, có thể kết hợp ngăn kéo, tủ đựng chén và giá để rượu trong cùng một chiếc tủ. Tủ búp phê Hand Made ...",
},
{
"role": "user",
"content": "Bạn có thể cung cấp cho tôi thông tin liên hệ của người bán tủ búp phê Hand Made được không? ...",
},
{
"role": "assistant",
"content": "Tôi không có quyền truy cập vào thông tin cụ thể về người bán hoặc thông tin liên hệ của họ. ...",
},
{
"role": "user",
"content": "Bạn có thể cung cấp cho tôi một số ví dụ về các loại bàn làm việc khác nhau có sẵn cho tủ búp phê Hand Made không?",
},
{
"role": "assistant",
"content": "Chắc chắn, đây là một số ví dụ về các mặt bàn làm việc khác nhau có sẵn cho tủ búp phê Hand Made: ...",
},
],
"prompt_id": "0ee8332c26405af5457b3c33398052b86723c33639f472dd6bfec7417af38692"
}
```
## Citation
If you find this dataset is useful in your work, please cite the original UltraChat dataset:
```
@misc{ding2023enhancing,
title={Enhancing Chat Language Models by Scaling High-quality Instructional Conversations},
author={Ning Ding and Yulin Chen and Bokai Xu and Yujia Qin and Zhi Zheng and Shengding Hu and Zhiyuan Liu and Maosong Sun and Bowen Zhou},
year={2023},
eprint={2305.14233},
archivePrefix={arXiv},
primaryClass={cs.CL}
}
```