Update README.md
Browse files
README.md
CHANGED
@@ -64,14 +64,14 @@ The corpus is saved as o jsonl (json line) file, where each line contains all th
|
|
64 |
{"text": "Olá pessoal,\nNo MSDN temos vários exemplos de código utilizando as tecnologias do Windows Azure no Windows Azure Samples.Lá existe a possibilidade de filtrar os vários exemplos por versão do Visual Studio, linguagem de programação, quem criou ocódigo (Microsoft ou comunidade) como também pelas tecnologias (Windows Azure, Service Bus, Storage, SQL Azure, etc).\nUma opção interessante é a possibilidade de upload para enviar seu código de exemplo, você já enviou o seu?\nRG",
|
65 |
"url": "http://blogs.msdn.com/b/rafaelgodinho/archive/2011/12/21/v-225-rios-exemplos-de-c-243-digo-para-windows-azure.aspx",
|
66 |
"access_date": "2014-07-12T07:40:01Z",
|
67 |
-
"
|
68 |
</pre>
|
69 |
|
70 |
**Fields:**
|
71 |
- Text: This field contains the plain text of the web page from where the data os crawled.
|
72 |
- URL: The url from where the the text was obtained
|
73 |
- Acess date: The acess date when Common Crawl crawled the data
|
74 |
-
-
|
75 |
|
76 |
**Split:** The data is only split into train set.
|
77 |
|
@@ -93,7 +93,7 @@ In the table bellow we present the comparision with other well know Portuguese d
|
|
93 |
|
94 |
| Corpus | Size | #Documents | #Tokens |
|
95 |
|:-----------------|:--------:|------------:|---------:|
|
96 |
-
| Aroeira | 100GB |
|
97 |
| brWac | 25GB | 3.53 Mi | 2.58 Bi |
|
98 |
| Carolina 1.2 Ada | 11GB | 2.11 Mi | 0.82 Bi |
|
99 |
|
@@ -188,14 +188,14 @@ O corpus é salvo como um arquivo jsonl (json line), onde cada linha contém tod
|
|
188 |
{"text": "Olá pessoal,\nNo MSDN temos vários exemplos de código utilizando as tecnologias do Windows Azure no Windows Azure Samples.Lá existe a possibilidade de filtrar os vários exemplos por versão do Visual Studio, linguagem de programação, quem criou ocódigo (Microsoft ou comunidade) como também pelas tecnologias (Windows Azure, Service Bus, Storage, SQL Azure, etc).\nUma opção interessante é a possibilidade de upload para enviar seu código de exemplo, você já enviou o seu?\nRG",
|
189 |
"url": "http://blogs.msdn.com/b/rafaelgodinho/archive/2011/12/21/v-225-rios-exemplos-de-c-243-digo-para-windows-azure.aspx",
|
190 |
"access_date": "2014-07-12T07:40:01Z",
|
191 |
-
"
|
192 |
</pre>
|
193 |
|
194 |
**Campos:**
|
195 |
- Texto: Este campo contém o texto em formato simples da página web de onde os dados foram extraídos.
|
196 |
- URL: A URL de onde o texto foi obtido.
|
197 |
- Data de Acesso: A data de acesso quando o Common Crawl obteve os dados.
|
198 |
-
-
|
199 |
|
200 |
**Divisão:** Os dados estão divididos apenas em conjunto de treinamento.
|
201 |
|
@@ -215,7 +215,7 @@ Aroeira é, em nosso conhecimento, o maior conjunto de dados disponível para a
|
|
215 |
|
216 |
| Corpus | Tamanho | #Documentos | #Tokens |
|
217 |
|:-----------------|:-----------:|-------------:|---------:|
|
218 |
-
| Aroeira | 100GB |
|
219 |
| brWac | 25GB | 3,53 Mi | 2,58 Bi |
|
220 |
| Carolina 1.2 Ada | 11GB | 2,11 Mi | 0,82 Bi |
|
221 |
|
|
|
64 |
{"text": "Olá pessoal,\nNo MSDN temos vários exemplos de código utilizando as tecnologias do Windows Azure no Windows Azure Samples.Lá existe a possibilidade de filtrar os vários exemplos por versão do Visual Studio, linguagem de programação, quem criou ocódigo (Microsoft ou comunidade) como também pelas tecnologias (Windows Azure, Service Bus, Storage, SQL Azure, etc).\nUma opção interessante é a possibilidade de upload para enviar seu código de exemplo, você já enviou o seu?\nRG",
|
65 |
"url": "http://blogs.msdn.com/b/rafaelgodinho/archive/2011/12/21/v-225-rios-exemplos-de-c-243-digo-para-windows-azure.aspx",
|
66 |
"access_date": "2014-07-12T07:40:01Z",
|
67 |
+
"id": 407b}
|
68 |
</pre>
|
69 |
|
70 |
**Fields:**
|
71 |
- Text: This field contains the plain text of the web page from where the data os crawled.
|
72 |
- URL: The url from where the the text was obtained
|
73 |
- Acess date: The acess date when Common Crawl crawled the data
|
74 |
+
- id: unique identifier for each row
|
75 |
|
76 |
**Split:** The data is only split into train set.
|
77 |
|
|
|
93 |
|
94 |
| Corpus | Size | #Documents | #Tokens |
|
95 |
|:-----------------|:--------:|------------:|---------:|
|
96 |
+
| Aroeira | 100GB | 34.9 Mi | 15 Bi |
|
97 |
| brWac | 25GB | 3.53 Mi | 2.58 Bi |
|
98 |
| Carolina 1.2 Ada | 11GB | 2.11 Mi | 0.82 Bi |
|
99 |
|
|
|
188 |
{"text": "Olá pessoal,\nNo MSDN temos vários exemplos de código utilizando as tecnologias do Windows Azure no Windows Azure Samples.Lá existe a possibilidade de filtrar os vários exemplos por versão do Visual Studio, linguagem de programação, quem criou ocódigo (Microsoft ou comunidade) como também pelas tecnologias (Windows Azure, Service Bus, Storage, SQL Azure, etc).\nUma opção interessante é a possibilidade de upload para enviar seu código de exemplo, você já enviou o seu?\nRG",
|
189 |
"url": "http://blogs.msdn.com/b/rafaelgodinho/archive/2011/12/21/v-225-rios-exemplos-de-c-243-digo-para-windows-azure.aspx",
|
190 |
"access_date": "2014-07-12T07:40:01Z",
|
191 |
+
"id": 407b}
|
192 |
</pre>
|
193 |
|
194 |
**Campos:**
|
195 |
- Texto: Este campo contém o texto em formato simples da página web de onde os dados foram extraídos.
|
196 |
- URL: A URL de onde o texto foi obtido.
|
197 |
- Data de Acesso: A data de acesso quando o Common Crawl obteve os dados.
|
198 |
+
- id: id único para cada linha.
|
199 |
|
200 |
**Divisão:** Os dados estão divididos apenas em conjunto de treinamento.
|
201 |
|
|
|
215 |
|
216 |
| Corpus | Tamanho | #Documentos | #Tokens |
|
217 |
|:-----------------|:-----------:|-------------:|---------:|
|
218 |
+
| Aroeira | 100GB | 34,9 Mi | 15 Bi |
|
219 |
| brWac | 25GB | 3,53 Mi | 2,58 Bi |
|
220 |
| Carolina 1.2 Ada | 11GB | 2,11 Mi | 0,82 Bi |
|
221 |
|