Create README.md

README.md

@@ -0,0 +1,56 @@
+---
+task_categories:
+- text-generation
+license: mit
+language:
+- ru
+dataset_info:
+  features:
+  - name: instruction
+    dtype: string
+  - name: input
+    dtype: string
+  - name: output
+    dtype: string
+configs:
+  - config_name: lenta
+    data_files:
+      - split: train
+        path: 01-lenta/train-*
+  - config_name: gazeta
+    data_files:
+      - split: train
+        path: 02-gazeta/train-*
+  - config_name: health
+    data_files:
+      - split: train
+        path: 03-health/train-*
+  - config_name: wiki
+    data_files:
+      - split: train
+        path: 04-wiki/train-*
+---
+## Это общие знания для **духовного обогощения** тренируемой модели:
+
+1) ## data-silence[lenta.ru_2-extended]
+14.31% of data after filtering.
+Всего в train["input"] - input_ids: 82589 | Наибольшая длинна: 5449  | Количество overflow при ctx(2048): 184
+Всего в train["input"] - input_ids: 82589 | Наибольшая длинна: 5449  | Количество overflow при ctx(4096): 11
+
+2) ## data-silence[gazeta.ru-merged]
+33.03% of data after filtering.
+Всего в train["input"] - input_ids: 45431 | Наибольшая длинна: 3455  | Количество overflow при ctx(2048): 6697
+
+3) ## TopicNet[ICD-10]
+100% of data after filtering.
+Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856  | Количество overflow при ctx(2048): 574
+Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856  | Количество overflow при ctx(4096): 235
+Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856  | Количество overflow при ctx(8192): 66
+Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856  | Количество overflow при ctx(16384): 13
+
+4) ## Den4ikAI[russian_cleared_wikipedia]
+100% of data after filtering.
+Всего в train["input"] - input_ids: 6284 | Наибольшая длинна: 49204  | Количество overflow при ctx(8192): 301
+Всего в train["input"] - input_ids: 6284 | Наибольшая длинна: 49204  | Количество overflow при ctx(16384): 108
+
+