Datasets:
Tasks:
Text Generation
Sub-tasks:
language-modeling
Languages:
Italian
Size:
100M<n<1B
ArXiv:
License:
Update README.md
Browse files
README.md
CHANGED
@@ -100,8 +100,7 @@ An example from the dataset:
|
|
100 |
{
|
101 |
'timestamp': '2020-02-22T22:24:31Z',
|
102 |
'url': 'https://altreconomia.it/una-rotonda-sul-pane/',
|
103 |
-
'text': 'Per raggiungere il campo attraversiamo la striscia d’asfalto che porta verso la provinciale numero 13. Mettiamo a rischio la nostra incolumità in un territorio di auto e camion. Sullo sfondo, i profili della Grigna e del Resegone. Più vicini, quelli del solito ipermercato di provincia, e delle villette a schiera che avanzano tra le coltivazioni. È lo sprawling, l’avanzata del cemento
|
104 |
-
Da questo lato dalla strada, invece, è ancora regno contadino. Almeno per ora. Torniamo a Caponago (Mb), Brianza pura, dove ha avuto i natali il progetto “Spiga e madia”. Ne parlammo su Ae nel gennaio 2009: in un territorio “spaesato”, il Comitato “verso il Distretto di economia solidale della Brianza” (Desbri) e la “Retina” dei gruppi di acquisto locali danno vita a un progetto di produzione di frumento, molitura, panificazione e distribuzione in un raggio di 20 chilometri. Si comincia da zero, nel 2007, senza alcun di finanziamento, quando una famiglia del [...]. Il giochino vale almeno 3 miliardi di euro all’anno. La misura, introdotta in via straordinaria con la finanziaria 2005, è stata prorogata anche con l’ultimo decreto “milleproroghe”.'
|
105 |
}
|
106 |
```
|
107 |
|
@@ -117,15 +116,15 @@ The data contains the following fields:
|
|
117 |
|
118 |
To build mC4, the original authors used [CLD3](https://github.com/google/cld3) to identify over 100 languages. For Italian, the whole corpus of scraped text was divided in `1032` jsonl files, `1024` for training following the naming style `c4-it.tfrecord-0XXXX-of-01024.json.gz` and 8 for validation following the naming style `c4-it-validation.tfrecord-0000X-of-00008.json.gz`. The full set of preprocessed files takes roughly 215GB of disk space to download with Git LFS.
|
119 |
|
120 |
-
For ease of use under different storage capacities, the following incremental splits are available (sizes are estimates):
|
121 |
|
122 |
-
|split |train size
|
123 |
-
|
124 |
-
|tiny | 10M docs, 4B words (
|
125 |
-
|small | 20M docs, 8B words (
|
126 |
-
|medium| 50M docs, 20B words (
|
127 |
-
|large | 75M docs, 30B words (
|
128 |
-
|full | 103M docs, 41B words (
|
129 |
|
130 |
You can load any subset like this:
|
131 |
|
|
|
100 |
{
|
101 |
'timestamp': '2020-02-22T22:24:31Z',
|
102 |
'url': 'https://altreconomia.it/una-rotonda-sul-pane/',
|
103 |
+
'text': 'Per raggiungere il campo attraversiamo la striscia d’asfalto che porta verso la provinciale numero 13. Mettiamo a rischio la nostra incolumità in un territorio di auto e camion. Sullo sfondo, i profili della Grigna e del Resegone. Più vicini, quelli del solito ipermercato di provincia, e delle villette a schiera che avanzano tra le coltivazioni. È lo sprawling, l’avanzata del cemento.\\nDa questo lato dalla strada, invece, è ancora regno contadino. Almeno per ora. Torniamo a Caponago (Mb), Brianza pura, dove ha avuto i natali il progetto “Spiga e madia”. Ne parlammo su Ae nel gennaio 2009: in un territorio “spaesato”, il Comitato “verso il Distretto di economia solidale della Brianza” (Desbri) e la “Retina” dei gruppi di acquisto locali danno vita a un progetto di produzione di frumento, molitura, panificazione e distribuzione in un raggio di 20 chilometri. Si comincia da zero, nel 2007, senza alcun di finanziamento, quando una famiglia del [...]. Il giochino vale almeno 3 miliardi di euro all’anno. La misura, introdotta in via straordinaria con la finanziaria 2005, è stata prorogata anche con l’ultimo decreto “milleproroghe”.'
|
|
|
104 |
}
|
105 |
```
|
106 |
|
|
|
116 |
|
117 |
To build mC4, the original authors used [CLD3](https://github.com/google/cld3) to identify over 100 languages. For Italian, the whole corpus of scraped text was divided in `1032` jsonl files, `1024` for training following the naming style `c4-it.tfrecord-0XXXX-of-01024.json.gz` and 8 for validation following the naming style `c4-it-validation.tfrecord-0000X-of-00008.json.gz`. The full set of preprocessed files takes roughly 215GB of disk space to download with Git LFS.
|
118 |
|
119 |
+
For ease of use under different storage capacities, the following incremental splits are available (sizes are estimates). **Important**: The sizes in GB represent the estimated weight for :
|
120 |
|
121 |
+
|split |train size (docs, words, download + preproc disk space)|validation size|
|
122 |
+
|:-----|------------------------------------------------------:|--------------:|
|
123 |
+
|tiny | 10M docs, 4B words (9 GB + 27 GB) | 12k docs |
|
124 |
+
|small | 20M docs, 8B words (18 GB + 54 GB) | 24k docs |
|
125 |
+
|medium| 50M docs, 20B words (47 GB + 135 GB) | 48k docs |
|
126 |
+
|large | 75M docs, 30B words (71 GB + 203 GB) | 72k docs |
|
127 |
+
|full | 103M docs, 41B words (109 GB + 279 GB) | 96k docs |
|
128 |
|
129 |
You can load any subset like this:
|
130 |
|