Datasets:

Modalities:
Text
Formats:
parquet
Libraries:
Datasets
Dask
License:
hannauer commited on
Commit
9b4dea1
1 Parent(s): 7d2638d

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +6 -6
README.md CHANGED
@@ -64,14 +64,14 @@ The corpus is saved as o jsonl (json line) file, where each line contains all th
64
  {"text": "Olá pessoal,\nNo MSDN temos vários exemplos de código utilizando as tecnologias do Windows Azure no Windows Azure Samples.Lá existe a possibilidade de filtrar os vários exemplos por versão do Visual Studio, linguagem de programação, quem criou ocódigo (Microsoft ou comunidade) como também pelas tecnologias (Windows Azure, Service Bus, Storage, SQL Azure, etc).\nUma opção interessante é a possibilidade de upload para enviar seu código de exemplo, você já enviou o seu?\nRG",
65
  "url": "http://blogs.msdn.com/b/rafaelgodinho/archive/2011/12/21/v-225-rios-exemplos-de-c-243-digo-para-windows-azure.aspx",
66
  "access_date": "2014-07-12T07:40:01Z",
67
- "index": 0}
68
  </pre>
69
 
70
  **Fields:**
71
  - Text: This field contains the plain text of the web page from where the data os crawled.
72
  - URL: The url from where the the text was obtained
73
  - Acess date: The acess date when Common Crawl crawled the data
74
- - Index: The index of each line
75
 
76
  **Split:** The data is only split into train set.
77
 
@@ -93,7 +93,7 @@ In the table bellow we present the comparision with other well know Portuguese d
93
 
94
  | Corpus | Size | #Documents | #Tokens |
95
  |:-----------------|:--------:|------------:|---------:|
96
- | Aroeira | 100GB | 35.3 Mi | 15.1 Bi |
97
  | brWac | 25GB | 3.53 Mi | 2.58 Bi |
98
  | Carolina 1.2 Ada | 11GB | 2.11 Mi | 0.82 Bi |
99
 
@@ -188,14 +188,14 @@ O corpus é salvo como um arquivo jsonl (json line), onde cada linha contém tod
188
  {"text": "Olá pessoal,\nNo MSDN temos vários exemplos de código utilizando as tecnologias do Windows Azure no Windows Azure Samples.Lá existe a possibilidade de filtrar os vários exemplos por versão do Visual Studio, linguagem de programação, quem criou ocódigo (Microsoft ou comunidade) como também pelas tecnologias (Windows Azure, Service Bus, Storage, SQL Azure, etc).\nUma opção interessante é a possibilidade de upload para enviar seu código de exemplo, você já enviou o seu?\nRG",
189
  "url": "http://blogs.msdn.com/b/rafaelgodinho/archive/2011/12/21/v-225-rios-exemplos-de-c-243-digo-para-windows-azure.aspx",
190
  "access_date": "2014-07-12T07:40:01Z",
191
- "index": 0}
192
  </pre>
193
 
194
  **Campos:**
195
  - Texto: Este campo contém o texto em formato simples da página web de onde os dados foram extraídos.
196
  - URL: A URL de onde o texto foi obtido.
197
  - Data de Acesso: A data de acesso quando o Common Crawl obteve os dados.
198
- - Índice: O índice de cada linha.
199
 
200
  **Divisão:** Os dados estão divididos apenas em conjunto de treinamento.
201
 
@@ -215,7 +215,7 @@ Aroeira é, em nosso conhecimento, o maior conjunto de dados disponível para a
215
 
216
  | Corpus | Tamanho | #Documentos | #Tokens |
217
  |:-----------------|:-----------:|-------------:|---------:|
218
- | Aroeira | 100GB | 35,3 Mi | 15,1 Bi |
219
  | brWac | 25GB | 3,53 Mi | 2,58 Bi |
220
  | Carolina 1.2 Ada | 11GB | 2,11 Mi | 0,82 Bi |
221
 
 
64
  {"text": "Olá pessoal,\nNo MSDN temos vários exemplos de código utilizando as tecnologias do Windows Azure no Windows Azure Samples.Lá existe a possibilidade de filtrar os vários exemplos por versão do Visual Studio, linguagem de programação, quem criou ocódigo (Microsoft ou comunidade) como também pelas tecnologias (Windows Azure, Service Bus, Storage, SQL Azure, etc).\nUma opção interessante é a possibilidade de upload para enviar seu código de exemplo, você já enviou o seu?\nRG",
65
  "url": "http://blogs.msdn.com/b/rafaelgodinho/archive/2011/12/21/v-225-rios-exemplos-de-c-243-digo-para-windows-azure.aspx",
66
  "access_date": "2014-07-12T07:40:01Z",
67
+ "id": 407b}
68
  </pre>
69
 
70
  **Fields:**
71
  - Text: This field contains the plain text of the web page from where the data os crawled.
72
  - URL: The url from where the the text was obtained
73
  - Acess date: The acess date when Common Crawl crawled the data
74
+ - id: unique identifier for each row
75
 
76
  **Split:** The data is only split into train set.
77
 
 
93
 
94
  | Corpus | Size | #Documents | #Tokens |
95
  |:-----------------|:--------:|------------:|---------:|
96
+ | Aroeira | 100GB | 34.9 Mi | 15 Bi |
97
  | brWac | 25GB | 3.53 Mi | 2.58 Bi |
98
  | Carolina 1.2 Ada | 11GB | 2.11 Mi | 0.82 Bi |
99
 
 
188
  {"text": "Olá pessoal,\nNo MSDN temos vários exemplos de código utilizando as tecnologias do Windows Azure no Windows Azure Samples.Lá existe a possibilidade de filtrar os vários exemplos por versão do Visual Studio, linguagem de programação, quem criou ocódigo (Microsoft ou comunidade) como também pelas tecnologias (Windows Azure, Service Bus, Storage, SQL Azure, etc).\nUma opção interessante é a possibilidade de upload para enviar seu código de exemplo, você já enviou o seu?\nRG",
189
  "url": "http://blogs.msdn.com/b/rafaelgodinho/archive/2011/12/21/v-225-rios-exemplos-de-c-243-digo-para-windows-azure.aspx",
190
  "access_date": "2014-07-12T07:40:01Z",
191
+ "id": 407b}
192
  </pre>
193
 
194
  **Campos:**
195
  - Texto: Este campo contém o texto em formato simples da página web de onde os dados foram extraídos.
196
  - URL: A URL de onde o texto foi obtido.
197
  - Data de Acesso: A data de acesso quando o Common Crawl obteve os dados.
198
+ - id: id único para cada linha.
199
 
200
  **Divisão:** Os dados estão divididos apenas em conjunto de treinamento.
201
 
 
215
 
216
  | Corpus | Tamanho | #Documentos | #Tokens |
217
  |:-----------------|:-----------:|-------------:|---------:|
218
+ | Aroeira | 100GB | 34,9 Mi | 15 Bi |
219
  | brWac | 25GB | 3,53 Mi | 2,58 Bi |
220
  | Carolina 1.2 Ada | 11GB | 2,11 Mi | 0,82 Bi |
221