100b tokens Việt, Anh, Code để tiếp tục pre-train LLMs
Được trộn đều và chia làm 100 phần.
Giải nén xz -d *.lzma
Phân bố dữ liệu:
75.4G 100_book
34.8G 100_code
66.7G 100_slimpajama
- - - - - - - - - - - -
176.8G English (40%)
118.9G 100_c4-vi
11.3G 100_news_2020-2021
15.1G 100_news_2022-2023
2.6G 100_others
2.0G 500_wiki
20.3G 600_laws
78.3G 800_epub
11.3G 999_gov
- - - - - - - - - -
259.8G Vietnamese (60%)
Total 436.6GB, 100b tokens (Bloom tokenizer)
Theo thể loại:
43% 187.6G slimpajama, c4_vi, wiki
35% 153.7G book, epub
8% 34.7G code
6% 26.4G news
5% 20.3G laws
3% 11.4G gov