Update README.md
Browse files
README.md
CHANGED
@@ -28,23 +28,23 @@ configs:
|
|
28 |
---
|
29 |
## Это общие знания для **духовного обогощения** тренируемой модели:
|
30 |
|
31 |
-
1) ## data-silence[lenta.ru_2-extended]
|
32 |
14.31% of data after filtering. \
|
33 |
Всего в train["input"] - input_ids: 82589 | Наибольшая длинна: 5449 | Количество overflow при ctx(2048): 184 \
|
34 |
Всего в train["input"] - input_ids: 82589 | Наибольшая длинна: 5449 | Количество overflow при ctx(4096): 11
|
35 |
|
36 |
-
2) ## data-silence[gazeta.ru-merged]
|
37 |
33.03% of data after filtering. \
|
38 |
Всего в train["input"] - input_ids: 45431 | Наибольшая длинна: 3455 | Количество overflow при ctx(2048): 6697
|
39 |
|
40 |
-
3) ## TopicNet[ICD-10]
|
41 |
100% of data after filtering. \
|
42 |
Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856 | Количество overflow при ctx(2048): 574 \
|
43 |
Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856 | Количество overflow при ctx(4096): 235 \
|
44 |
Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856 | Количество overflow при ctx(8192): 66 \
|
45 |
Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856 | Количество overflow при ctx(16384): 13
|
46 |
|
47 |
-
4) ## Den4ikAI[russian_cleared_wikipedia]
|
48 |
100% of data after filtering. \
|
49 |
Всего в train["input"] - input_ids: 6284 | Наибольшая длинна: 49204 | Количество overflow при ctx(8192): 301 \
|
50 |
Всего в train["input"] - input_ids: 6284 | Наибольшая длинна: 49204 | Количество overflow при ctx(16384): 108
|
|
|
28 |
---
|
29 |
## Это общие знания для **духовного обогощения** тренируемой модели:
|
30 |
|
31 |
+
1) ## data-silence[lenta.ru_2-extended] - subset **lenta**
|
32 |
14.31% of data after filtering. \
|
33 |
Всего в train["input"] - input_ids: 82589 | Наибольшая длинна: 5449 | Количество overflow при ctx(2048): 184 \
|
34 |
Всего в train["input"] - input_ids: 82589 | Наибольшая длинна: 5449 | Количество overflow при ctx(4096): 11
|
35 |
|
36 |
+
2) ## data-silence[gazeta.ru-merged] - subset **gazeta**
|
37 |
33.03% of data after filtering. \
|
38 |
Всего в train["input"] - input_ids: 45431 | Наибольшая длинна: 3455 | Количество overflow при ctx(2048): 6697
|
39 |
|
40 |
+
3) ## TopicNet[ICD-10] - subset **health**
|
41 |
100% of data after filtering. \
|
42 |
Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856 | Количество overflow при ctx(2048): 574 \
|
43 |
Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856 | Количество overflow при ctx(4096): 235 \
|
44 |
Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856 | Количество overflow при ctx(8192): 66 \
|
45 |
Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856 | Количество overflow при ctx(16384): 13
|
46 |
|
47 |
+
4) ## Den4ikAI[russian_cleared_wikipedia] - subset **wiki**
|
48 |
100% of data after filtering. \
|
49 |
Всего в train["input"] - input_ids: 6284 | Наибольшая длинна: 49204 | Количество overflow при ctx(8192): 301 \
|
50 |
Всего в train["input"] - input_ids: 6284 | Наибольшая длинна: 49204 | Количество overflow при ctx(16384): 108
|