File size: 2,204 Bytes
4347172
 
 
 
 
 
 
 
852953b
4347172
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
---
task_categories:
- text-generation
license: mit
language:
- ru
dataset_info:
  features:
  - name: text
    dtype: string
configs:
  - config_name: lenta
    data_files:
      - split: train
        path: 01-lenta/train-*
  - config_name: gazeta
    data_files:
      - split: train
        path: 02-gazeta/train-*
  - config_name: health
    data_files:
      - split: train
        path: 03-health/train-*
  - config_name: wiki
    data_files:
      - split: train
        path: 04-wiki/train-*
---
## Это общие знания для **духовного обогощения** тренируемой модели:

1) ## data-silence[lenta.ru_2-extended]
14.31% of data after filtering.
Всего в train["input"] - input_ids: 82589 | Наибольшая длинна: 5449  | Количество overflow при ctx(2048): 184
Всего в train["input"] - input_ids: 82589 | Наибольшая длинна: 5449  | Количество overflow при ctx(4096): 11

2) ## data-silence[gazeta.ru-merged]
33.03% of data after filtering.
Всего в train["input"] - input_ids: 45431 | Наибольшая длинна: 3455  | Количество overflow при ctx(2048): 6697

3) ## TopicNet[ICD-10]
100% of data after filtering.
Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856  | Количество overflow при ctx(2048): 574
Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856  | Количество overflow при ctx(4096): 235
Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856  | Количество overflow при ctx(8192): 66
Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856  | Количество overflow при ctx(16384): 13

4) ## Den4ikAI[russian_cleared_wikipedia]
100% of data after filtering.
Всего в train["input"] - input_ids: 6284 | Наибольшая длинна: 49204  | Количество overflow при ctx(8192): 301
Всего в train["input"] - input_ids: 6284 | Наибольшая длинна: 49204  | Количество overflow при ctx(16384): 108