language:
- es
tags:
- spanish
multilinguality:
- monolingual
task_categories:
- question-answering
task_ids:
- abstractive-qa
- extractive-qa
license:
- cc-by-nc-sa-4.0
pretty_name: AQuAS
Abstractive Question-Answering in Spanish (AQuAS) Dataset
Table of Contents
- Dataset Card Creation Guide
Dataset Description
- Leaderboard: Leaderboard Somos600M
- Point of Contact: Contacto
Dataset Summary
AQuAS es un dataset de alta calidad con ejemplos en varios dominios:
| dominio | count |
|---|---|
| financiero | 12 |
| seguros | 20 |
| clínico | 58 |
| música | 6 |
| legal | 11 |
Supported Tasks and Leaderboards
Está diseñado para evaluar modelos de lenguaje en la tarea de Question-Answering Abstractivo. También puede utlizarse para entrenar de forma supervisada estos modelos.
Languages
Castellano (BCP-47 es).
Dataset Structure
Data Instances
Las instancias de este dataset tienen la siguiente estructura:
| context | question | answer | topic |
|---|---|---|---|
| Estos préstamos, como se ha dicho, tienen para la entidad que los concede una garantía... | ¿Para qué sirven los préstamos hipotecarios? | Fundamentalmente sirven para adquirir inmuebles, ya sean viviendas o no, así como para su rehabilitación. En otros casos pueden servir para aumentar el dinero del que disponemos para adquirir bienes de consumo o para reestructurar varias deudas vigentes en un solo préstamo. | financial |
Data Fields
context: contexto donde podría encontrarse la respuesta.
question: pregunta planteada. Existen preguntas que no pueden responderse en base al contexto.
answer: respuesta redactada a partir del contexto.
topic: el dominio sobre el que trata el ejemplo.
Cabe mencionar que los contextos son cadenas de caracteres extensas.
Data Splits
El dataset no está dividido en train, validation y test porque está diseñado para evaluar.
| train | |
|---|---|
| Input Sentences | 107 |
Dataset Creation
Curation Rationale
Los modelos de lenguaje han demostrado grandes capacidades para resolver tareas por medio del entrenamiento de instrucciones. Dichas instrucciones son de diferente naturaleza, tales como: resumir, clasificar, traducir, etc. El Question-Answering Abstractivo en una tarea fundamental a la hora de diseñar modelos con capacidades para responder a preguntas complejas sobre los contextos dados en las que no se limitan a extraer la información literal del mismo, ya que la respuesta necesita de cierta comprensión del contenido.
Source Data
Los datos se crearon a partir de texto simple extraído de la web, con información de los distintos dominios.
Initial Data Collection and Normalization
Para la recolección de los datos se hizo una selección de los textos a partir los dominios elegidos, a los que posteriormente se les extrayeron unos contextos con los que formular las preguntas y respuestas. Se dio mucha importancia al hecho de que los contextos debían ser extensos.
Who are the source language producers?
Todo el corpus ha sido generado y revisado por humanos.
Annotations
La guía de anotación consistió en generar pares de pregunta-respuesta dado un contexto.
Annotation process
La metodología de corpus ha consistido en el acuerdo y diseño de las preguntas a realizar sobre los datos y la resolución de dudas.
Who are the annotators?
Corpus realizados de forma manual por dos lingüistas computacionales. Las respuestas han sido escritas por cada anotador.
Personal and Sensitive Information
El dataset está libre de información personal y sensible.
Considerations for Using the Data
Social Impact of Dataset
Crear corpus de calidad en castellano es de vital importancia si queremos que la inteligencia artificial de dicho idioma esté a la altura del inglés. La donación de corpus de alta calidad con tareas y dominios variados es lo más relevante a la hora de lograr este objetivo.
Discussion of Biases
No se ha hecho un análisis de sesgo, por lo que pueden existir algunos sesgos a causa del origen del que provienen los contextos seleccionados.
Other Known Limitations
Existen sesgos a nivel de dominio, ya que solo se han reflejado cinco a la hora de generar el dataset.
Additional Information
Dataset Curators
Instituto de Ingeniería del Conocimiento (IIC).
Licensing Information
Este dataset está bajo la licencia de uso no comercial CC BY-NC-SA 4.0.
Citation Information
@misc {Instituto de Ingeniería del Conocimiento (IIC),
author = { {Instituto de Ingeniería del Conocimiento} },
title = { Abstractive Question-Answering in Spanish (AQuAS) Dataset },
year = 2024,
url = { https://huggingface.co/datasets/IIC/AQuAS },
doi = { 10.57967/hf/2043 },
publisher = { Hugging Face }
}
Contributions
Gracias a @mariagrandury por darnos la oportunidad de participar en la creación de un corpus de instrucciones en castellano y lenguas cooficiales para potenciar los modelos de inteligencia artificial en estos idiomas tan ricos, variados y de tanta relevancia.