| 100b tokens Việt, Anh, Code để tiếp tục pre-train LLMs | |
| Được trộn đều và chia làm 100 phần. | |
| Giải nén `xz -d *.lzma` | |
| Phân bố dữ liệu: | |
| ``` | |
| 75.4G 100_book | |
| 34.8G 100_code | |
| 66.7G 100_slimpajama | |
| - - - - - - - - - - - - | |
| 176.8G English (40%) | |
| 118.9G 100_c4-vi | |
| 11.3G 100_news_2020-2021 | |
| 15.1G 100_news_2022-2023 | |
| 2.6G 100_others | |
| 2.0G 500_wiki | |
| 20.3G 600_laws | |
| 78.3G 800_epub | |
| 11.3G 999_gov | |
| - - - - - - - - - - | |
| 259.8G Vietnamese (60%) | |
| Total 436.6GB, 100b tokens (Bloom tokenizer) | |
| Theo thể loại: | |
| 43% 187.6G slimpajama, c4_vi, wiki | |
| 35% 153.7G book, epub | |
| 8% 34.7G code | |
| 6% 26.4G news | |
| 5% 20.3G laws | |
| 3% 11.4G gov | |
| ``` |