|
--- |
|
task_categories: |
|
- text-generation |
|
license: mit |
|
language: |
|
- ru |
|
dataset_info: |
|
features: |
|
- name: text |
|
dtype: string |
|
configs: |
|
- config_name: lenta |
|
data_files: |
|
- split: train |
|
path: 01-lenta/train-* |
|
- config_name: gazeta |
|
data_files: |
|
- split: train |
|
path: 02-gazeta/train-* |
|
- config_name: health |
|
data_files: |
|
- split: train |
|
path: 03-health/train-* |
|
- config_name: wiki |
|
data_files: |
|
- split: train |
|
path: 04-wiki/train-* |
|
--- |
|
## Это общие знания для **духовного обогощения** тренируемой модели: |
|
|
|
1) ## data-silence[lenta.ru_2-extended] - subset **lenta** |
|
14.31% of data after filtering. \ |
|
Всего в train["input"] - input_ids: 82589 | Наибольшая длинна: 5449 | Количество overflow при ctx(2048): 184 \ |
|
Всего в train["input"] - input_ids: 82589 | Наибольшая длинна: 5449 | Количество overflow при ctx(4096): 11 |
|
|
|
2) ## data-silence[gazeta.ru-merged] - subset **gazeta** |
|
33.03% of data after filtering. \ |
|
Всего в train["input"] - input_ids: 45431 | Наибольшая длинна: 3455 | Количество overflow при ctx(2048): 6697 \ |
|
Всего в train["input"] - input_ids: 45431 | Наибольшая длинна: 3455 | Количество overflow при ctx(4096): 0 |
|
|
|
3) ## TopicNet[ICD-10] - subset **health** |
|
100% of data after filtering. \ |
|
Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856 | Количество overflow при ctx(2048): 574 \ |
|
Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856 | Количество overflow при ctx(4096): 235 \ |
|
Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856 | Количество overflow при ctx(8192): 66 \ |
|
Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856 | Количество overflow при ctx(16384): 13 |
|
|
|
4) ## Den4ikAI[russian_cleared_wikipedia] - subset **wiki** |
|
100% of data after filtering. \ |
|
Всего в train["input"] - input_ids: 6284 | Наибольшая длинна: 49204 | Количество overflow при ctx(8192): 301 \ |
|
Всего в train["input"] - input_ids: 6284 | Наибольшая длинна: 49204 | Количество overflow при ctx(16384): 108 |
|
|
|
|
|
|