Update README.md

README.md

@@ -23,7 +23,7 @@ pretty_name: MKD | Multi-Domain Kazakh Dataset
 
 ### Dataset Summary
 
-MKD | Multi-Domain Kazakh Dataset is a Kazakh-language dataset containing just over 21 911 503 unique texts from multiple domains.
+MKD | Multi-Domain Kazakh Dataset is a Kazakh-language dataset containing just over 24 883 808 unique texts from multiple domains.
 
 ### Supported Tasks
 
@@ -38,14 +38,19 @@ The kk code for Kazakh as generally spoken in the Kazakhstan
 For each instance, there is a string for the text and a string for the id. 
 
 ```python
-{'id': '0054d6d30dbcad772e20b22771153a2a9cbeaf62',
- 'text': '«Челсидің» бапкері Жозе Моуриньо қызметінен кетті Лондондықтар Жозе Муриньюмен қош айтысты. Себеп көп. Англия чемпиондары маусымды өте сүреңсіз бастады. Ұпайды оңды солды шашқан ақсүйектер турнир кестесінің төменгі сатысында қалып қойды.'
+{'text': 'Алматыда баспана қымбаттап жатыр Қазақстанда пәтер бағасы түсті Жыл басынан бері баспана бағасы 6,2%-ға қымбаттады Мегополистегі пәтер бағасына шолу. Алматыда пандемия басталғалы баспана қымбаттап барады. Мұның себебі нарықтағы сұраныстың көбеюімен және теңгенің құнсыздануымен байланысты, деп хабарлайды Atameken Business. Арна тілшісі Жания Әбдібек нарық өкілдерімен сұхбаттасып, мегополистегі пәтер бағасына шолу жасады. Толығырақ: Мамыр айында Қазақстанның жеті ірі қаласында пәтер бағасы түскен. Орта есеппен республика бойынша тұрғын үйдің 1 шаршы метрінің бағасы 292 мың 886 теңгені құрайды. '},
+ 'predicted_language': 'kaz',
+ 'contains_kaz_symbols': 1,
+ 'id': '0752b3ce-f5ea-4330-9c5f-e4fecf783b00'}
 ```
 
 ### Data Fields
 
-- `id`: a string which is hexidecimal hash for text in split
 - `text`: a string containing the content body
+- `predicted_language`: a string containing the predicted label of language for the text
+- `contains_kaz_symbols`: a integer containing the indicator, contains text a kazakh symbols or not
+- `id`: a string which is hexidecimal hash for text in split
+  
   
 ### Data Splits
 
@@ -53,21 +58,21 @@ The Multi-Domain Kazakh dataset has 5 splits: _cc100-monolingual-crawled-data_,
 
 | Dataset Split                  |       Domain         |   Number of texts in Split   | Number of tokens in Split | Number of unique tokens in Split | Median number of tokens in text |
 | -------------------------------|----------------------|------------------------------| --------------------------|----------------------------------|---------------------------------|
-| cc100-monolingual-crawled-data | Wikipedia articles   |         19 569 201           |        440 737 547        |            6 071 847             |               12                |
-| kazakhBooks                    | Books                |              4 481           |        179 627 716        |            4 649 820             |           38 443                |
-| leipzig                        | Articles/News        |          1 734 397           |         27 013 206        |            1 115 876             |               14                |
-| oscar                          | CommonCrawl          |            269 965           |        229 713 848        |            3 781 885             |              427                |
-| kazakhNews                     | News                 |            333 459           |         87 606 307        |            1 255 834             |              177                |
+| cc100-monolingual-crawled-data | Wikipedia articles   |         19 635 580           |        441 623 321        |            6 217 337             |               12                |
+| kazakhBooks                    | Books                |              8 423           |        351 433 586        |            7 245 720             |           40 264                |
+| leipzig                        | Articles/News        |          1 706 485           |         26 494 864        |            1 109 113             |               14                |
+| oscar                          | CommonCrawl          |            269 047           |        230 314 378        |            3 863 498             |              431                |
+| kazakhNews                     | News                 |          3 264 273           |      1 041 698 037        |            5 820 543             |              177                |
 
 With overall stats:
 
 | Stat                    | Value        |
 |-------------------------|--------------|
-| Number of texts         |  21 911 503  |
-| Number of tokens        | 966 795 903  |
-| Number of unique tokens |  11 674 839  |
+| Number of texts         |  24 883 808  |
+| Number of tokens        |2 091 564 186 |
+| Number of unique tokens |  17 802 998  |
 
-Full dataset takes **21GB**
+Full dataset takes **25GB**
 
 ### Annotations