Datasets:
Tasks:
Text Classification
Modalities:
Text
Sub-tasks:
multi-class-classification
Languages:
Spanish
Size:
1K - 10K
License:
correctin
Browse files- README.md +143 -1
- hftrain_esv5.json +1 -2
README.md
CHANGED
@@ -1,3 +1,145 @@
|
|
1 |
---
|
2 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
3 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
---
|
2 |
+
YAML tags:
|
3 |
+
annotations_creators:
|
4 |
+
- automatically-generated
|
5 |
+
language_creators:
|
6 |
+
- found
|
7 |
+
language:
|
8 |
+
- es
|
9 |
+
license:
|
10 |
+
- cc-by-sa-3.0
|
11 |
+
multilinguality:
|
12 |
+
- monolingual
|
13 |
+
pretty_name: wikicat_esv2
|
14 |
+
size_categories:
|
15 |
+
- unknown
|
16 |
+
source_datasets: []
|
17 |
+
task_categories:
|
18 |
+
- text-classification
|
19 |
+
task_ids:
|
20 |
+
- multi-class-classification
|
21 |
---
|
22 |
+
|
23 |
+
# WikiCAT_ca: Spanish Text Classification dataset
|
24 |
+
|
25 |
+
|
26 |
+
## Dataset Description
|
27 |
+
|
28 |
+
- **Paper:**
|
29 |
+
|
30 |
+
- **Point of Contact:** Carlos Rodríguez-Penagos (carlos.rodriguez1@bsc.es)
|
31 |
+
|
32 |
+
|
33 |
+
**Repository**
|
34 |
+
|
35 |
+
https://github.com/TeMU-BSC/WikiCAT
|
36 |
+
|
37 |
+
|
38 |
+
### Dataset Summary
|
39 |
+
|
40 |
+
WikiCAT_ca is a Spanish corpus for thematic Text Classification tasks. It is created automatically from Wikipedia and Wikidata sources, and contains 8401 articles from the Viquipedia classified under 12 different categories.
|
41 |
+
|
42 |
+
This dataset was developed by BSC TeMU as part of the PlanTL project, and intended as an evaluation of LT capabilities to generate useful synthetic corpus.
|
43 |
+
|
44 |
+
### Supported Tasks and Leaderboards
|
45 |
+
|
46 |
+
Text classification, Language Model
|
47 |
+
|
48 |
+
### Languages
|
49 |
+
|
50 |
+
ES- Spanish
|
51 |
+
|
52 |
+
## Dataset Structure
|
53 |
+
|
54 |
+
### Data Instances
|
55 |
+
|
56 |
+
Two json files, one for each split.
|
57 |
+
|
58 |
+
### Data Fields
|
59 |
+
|
60 |
+
We used a simple model with the article text and associated labels, without further metadata.
|
61 |
+
|
62 |
+
#### Example:
|
63 |
+
|
64 |
+
<pre>
|
65 |
+
{'sentence': 'La economía de Reunión se ha basado tradicionalmente en la agricultura. La caña de azúcar ha sido el cultivo principal durante más de un siglo, y en algunos años representa el 85% de las exportaciones. El gobierno ha estado impulsando el desarrollo de una industria turística para aliviar el alto desempleo, que representa más del 40% de la fuerza laboral.(...) El PIB total de la isla fue de 18.800 millones de dólares EE.UU. en 2007., 'label': 'Economía'}
|
66 |
+
|
67 |
+
|
68 |
+
</pre>
|
69 |
+
|
70 |
+
#### Labels
|
71 |
+
|
72 |
+
'Religión', 'Entretenimiento', 'Música', 'Ciencia_y_Tecnología', 'Política', 'Economía', 'Matemáticas', 'Humanidades', 'Deporte', 'Derecho', 'Historia', 'Filosofía'
|
73 |
+
|
74 |
+
### Data Splits
|
75 |
+
|
76 |
+
* hfeval_esv5.json: 1681 label-document pairs
|
77 |
+
* hftrain_esv5.json: 6716 label-document pairs
|
78 |
+
|
79 |
+
|
80 |
+
## Dataset Creation
|
81 |
+
|
82 |
+
### Methodology
|
83 |
+
|
84 |
+
La páginas de "Categoría" representan los temas.
|
85 |
+
para cada tema, extraemos las páginas asociadas a ese primer nivel de la jerarquía, y utilizamos el resúmen ("summary" como texto representativo.
|
86 |
+
|
87 |
+
### Curation Rationale
|
88 |
+
|
89 |
+
|
90 |
+
|
91 |
+
### Source Data
|
92 |
+
|
93 |
+
#### Initial Data Collection and Normalization
|
94 |
+
|
95 |
+
The source data are thematic categories in the different Wikipedias
|
96 |
+
|
97 |
+
#### Who are the source language producers?
|
98 |
+
|
99 |
+
|
100 |
+
### Annotations
|
101 |
+
|
102 |
+
#### Annotation process
|
103 |
+
Automatic annotation
|
104 |
+
|
105 |
+
#### Who are the annotators?
|
106 |
+
|
107 |
+
[N/A]
|
108 |
+
|
109 |
+
### Personal and Sensitive Information
|
110 |
+
|
111 |
+
No personal or sensitive information included.
|
112 |
+
|
113 |
+
## Considerations for Using the Data
|
114 |
+
|
115 |
+
### Social Impact of Dataset
|
116 |
+
|
117 |
+
We hope this corpus contributes to the development of language models in Spanish.
|
118 |
+
|
119 |
+
### Discussion of Biases
|
120 |
+
|
121 |
+
We are aware that this data might contain biases. We have not applied any steps to reduce their impact.
|
122 |
+
|
123 |
+
### Other Known Limitations
|
124 |
+
|
125 |
+
[N/A]
|
126 |
+
|
127 |
+
## Additional Information
|
128 |
+
|
129 |
+
### Dataset Curators
|
130 |
+
|
131 |
+
Text Mining Unit (TeMU) at the Barcelona Supercomputing Center (bsc-temu@bsc.es).
|
132 |
+
|
133 |
+
For further information, send an email to (plantl-gob-es@bsc.es).
|
134 |
+
|
135 |
+
This work was funded by the [Spanish State Secretariat for Digitalization and Artificial Intelligence (SEDIA)](https://avancedigital.mineco.gob.es/en-us/Paginas/index.aspx) within the framework of the [Plan-TL](https://plantl.mineco.gob.es/Paginas/index.aspx).
|
136 |
+
|
137 |
+
### Licensing Information
|
138 |
+
|
139 |
+
This work is licensed under [CC Attribution 4.0 International](https://creativecommons.org/licenses/by/4.0/) License.
|
140 |
+
|
141 |
+
Copyright by the Spanish State Secretariat for Digitalization and Artificial Intelligence (SEDIA) (2022)
|
142 |
+
|
143 |
+
### Contributions
|
144 |
+
|
145 |
+
[N/A]
|
hftrain_esv5.json
CHANGED
@@ -1,5 +1,4 @@
|
|
1 |
-
{
|
2 |
-
"version": "2.0.0",
|
3 |
"data": [
|
4 |
{
|
5 |
"sentence": "En estadística, un modelo probit es un tipo de regresión donde la variable dependiente puede tomar solo dos valores, por ejemplo, casados o no casados. La palabra es un acrónimo, viene de probabilidad + unit (unidad).[1] El propósito del modelo es estimar la probabilidad de que una observación con características particulares caerá en una categoría específica; además, clasificando las observaciones basadas en sus probabilidades predichas es un tipo de modelo de clasificación binario .\nUn modelo probit es una especificación popular para un modelo de respuesta ordinal[2] o binario. Como tal, trata el mismo conjunto de problemas que la regresión logística utilizando técnicas similares. El modelo probit, que emplea una función de enlace probit, se suele estimar utilizando el procedimiento estándar de máxima verosimilitud , que se denomina una regresión probit.\nLos modelos Probit fueron presentados por Chester Bliss en 1934;[3] Ronald Fisher propuso un método rápido para calcular las estimaciones de máxima verosimilitud para ellos como apéndice del trabajo de Bliss en 1935.[4]",
|
|
|
1 |
+
{"version": "2.0.0",
|
|
|
2 |
"data": [
|
3 |
{
|
4 |
"sentence": "En estadística, un modelo probit es un tipo de regresión donde la variable dependiente puede tomar solo dos valores, por ejemplo, casados o no casados. La palabra es un acrónimo, viene de probabilidad + unit (unidad).[1] El propósito del modelo es estimar la probabilidad de que una observación con características particulares caerá en una categoría específica; además, clasificando las observaciones basadas en sus probabilidades predichas es un tipo de modelo de clasificación binario .\nUn modelo probit es una especificación popular para un modelo de respuesta ordinal[2] o binario. Como tal, trata el mismo conjunto de problemas que la regresión logística utilizando técnicas similares. El modelo probit, que emplea una función de enlace probit, se suele estimar utilizando el procedimiento estándar de máxima verosimilitud , que se denomina una regresión probit.\nLos modelos Probit fueron presentados por Chester Bliss en 1934;[3] Ronald Fisher propuso un método rápido para calcular las estimaciones de máxima verosimilitud para ellos como apéndice del trabajo de Bliss en 1935.[4]",
|