File size: 2,445 Bytes
4347172 852953b 4347172 05441b6 111b96c 4347172 05441b6 111b96c 3c6f291 43594de 4347172 05441b6 111b96c 4347172 05441b6 111b96c 4347172 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 |
---
task_categories:
- text-generation
license: mit
language:
- ru
dataset_info:
features:
- name: text
dtype: string
configs:
- config_name: lenta
data_files:
- split: train
path: 01-lenta/train-*
- config_name: gazeta
data_files:
- split: train
path: 02-gazeta/train-*
- config_name: health
data_files:
- split: train
path: 03-health/train-*
- config_name: wiki
data_files:
- split: train
path: 04-wiki/train-*
---
## Это общие знания для **духовного обогощения** тренируемой модели:
1) ## data-silence[lenta.ru_2-extended] - subset **lenta**
14.31% of data after filtering. \
Всего в train["input"] - input_ids: 82589 | Наибольшая длинна: 5449 | Количество overflow при ctx(2048): 184 \
Всего в train["input"] - input_ids: 82589 | Наибольшая длинна: 5449 | Количество overflow при ctx(4096): 11
2) ## data-silence[gazeta.ru-merged] - subset **gazeta**
33.03% of data after filtering. \
Всего в train["input"] - input_ids: 45431 | Наибольшая длинна: 3455 | Количество overflow при ctx(2048): 6697 \
Всего в train["input"] - input_ids: 45431 | Наибольшая длинна: 3455 | Количество overflow при ctx(4096): 0
3) ## TopicNet[ICD-10] - subset **health**
100% of data after filtering. \
Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856 | Количество overflow при ctx(2048): 574 \
Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856 | Количество overflow при ctx(4096): 235 \
Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856 | Количество overflow при ctx(8192): 66 \
Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856 | Количество overflow при ctx(16384): 13
4) ## Den4ikAI[russian_cleared_wikipedia] - subset **wiki**
100% of data after filtering. \
Всего в train["input"] - input_ids: 6284 | Наибольшая длинна: 49204 | Количество overflow при ctx(8192): 301 \
Всего в train["input"] - input_ids: 6284 | Наибольшая длинна: 49204 | Количество overflow при ctx(16384): 108
|