|
--- |
|
language: |
|
- hu |
|
size_categories: |
|
- 10K<n<100K |
|
pretty_name: K-Monitor sajtóadatbázis |
|
dataset_info: |
|
features: |
|
- name: news_id |
|
dtype: int64 |
|
- name: title |
|
dtype: string |
|
- name: description |
|
dtype: string |
|
- name: text |
|
dtype: string |
|
- name: source_url |
|
dtype: string |
|
- name: archive_url |
|
dtype: string |
|
- name: kmdb_url |
|
dtype: string |
|
- name: newspaper |
|
dtype: string |
|
- name: category |
|
dtype: string |
|
- name: pub_time |
|
dtype: string |
|
- name: persons |
|
sequence: string |
|
- name: institutions |
|
sequence: string |
|
- name: places |
|
sequence: string |
|
- name: others |
|
sequence: string |
|
- name: files |
|
sequence: string |
|
splits: |
|
- name: train |
|
num_bytes: 53491989 |
|
num_examples: 59999 |
|
download_size: 24702449 |
|
dataset_size: 53491989 |
|
configs: |
|
- config_name: default |
|
data_files: |
|
- split: train |
|
path: data/train-* |
|
--- |
|
|
|
Forrás: https://adatbazis.k-monitor.hu/ |
|
|
|
## Használat |
|
|
|
```python |
|
from datasets import load_dataset |
|
|
|
dataset = load_dataset('K-Monitor/kmdb_base') |
|
# írjuk ki egy cikk címét |
|
print(dataset['train'][0]['title']) |
|
``` |
|
|
|
Pandas-zal: |
|
```python |
|
import pandas as pd |
|
|
|
df = pd.read_parquet("hf://datasets/K-Monitor/kmdb_base/data/train-00000-of-00001.parquet") |
|
``` |
|
|
|
## Oszlopok magyarázata |
|
|
|
`news_id`: a cikk k-monitor-os azonosítója |
|
|
|
`title`: hírportál által adott cím (hiányos lehet, lásd: kmonitor_title) |
|
|
|
`description`: k-monitor adatbázisában tárolt leírás |
|
|
|
`text`: cikk szövegének törzse, tisztítva (üres is lehet, de előfordulhat az is, hogy nem teljes) |
|
|
|
`source_url`: cikk url-je, ami hírportálra mutat |
|
|
|
`archive_url`: archive.org-os url, az url archivált változatát tárolja |
|
|
|
`kmdb_url`: a cikk k-monitor adatbázisba felvett rekordjára mutat (https://adatbazis.k-monitor.hu/hirek/...) |
|
|
|
`newspaper`: a hírportál neve (a k-monitor adatbázisból származik) |
|
|
|
`category`: a cikk kategóriája (általában magyar/eu/világ hír) |
|
|
|
`files`: a cikk mely aktákban szerepel |
|
|
|
`pub_time`: a cikk publikálásának időpontja (a k-monitor adatbázisból származik, nem mindig pontos) |
|
|
|
`authors`: a cikk szerzői, ez a hír parsolása közben kinyert információ (lehet, hogy hibás, sokszor hiányzik) |
|
|
|
`persons`: a cikkre felvett személyek |
|
|
|
`institutions`: a cikkre felvett intézmények |
|
|
|
`places`: a cikkre felvett helyszínek |
|
|
|
`others`: a cikkre felvett egyéb címkék |
