boapps commited on
Commit
cb1fad8
·
verified ·
1 Parent(s): b3cdcd3

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +21 -16
README.md CHANGED
@@ -61,38 +61,43 @@ dataset = load_dataset('K-Monitor/kmdb_base')
61
  print(dataset['train'][0]['title'])
62
  ```
63
 
 
 
 
 
 
 
 
64
  ## Oszlopok magyarázata
65
 
66
  `news_id`: a cikk k-monitor-os azonosítója
67
 
68
  `title`: hírportál által adott cím (hiányos lehet, lásd: kmonitor_title)
69
 
70
- `source_url`: cikk url-je, ami hírportálra mutat
71
 
72
- `kmdb_url`: a cikk k-monitor adatbázisba felvett rekordjára mutat (https://adatbazis.k-monitor.hu/hirek/...)
73
 
74
- `newspaper`: a hírportál neve (a k-monitor adatbázisból származik)
75
-
76
- `pub_time`: publikálás időpontja (a k-monitor adatbázisból származik)
77
 
78
- `authors`: a cikk szerzői, ez a hír parsolása közben kinyert információ (lehet, hogy hibás, sokszor hiányzik)
79
 
80
- `text`: cikk szövegének törzse, tisztítva (üres nem lehet, de előfordulhat, hogy nem teljes)
81
 
82
- `meta_keywords`: hírportál címkék, ez is a hír parsolása közben kinyert információ (nem mindig van és nem mindig értelmes)
83
 
84
- `meta_description`: hírportál által adott lead (kis bevezető/összefoglaló az elején)
85
 
86
- `url`: a cikk url-je, normalizálva (http->https, www kiszedve, egyéb url paraméterek eltávolítva [kivétel pár hírportál esetén])
87
 
88
- `kmonitor_title`: ugyanez címmel
89
 
90
- `publish_date`: cikk megjelenésének ideje, változó pontossággal és ritkán értelmetlen
91
 
92
- `kmonitor_description`: k-monitor adatbázisában tárolt leírás (sokszor `null`, néha egyezik a rendes leírással)
93
 
94
- `kmonitor_places`: K-Monitoros önkéntesek által címkézett helyszínek
95
 
96
- `kmonitor_persons`: K-Monitoros önkéntesek által címkézett személyek
97
 
98
- `kmonitor_others`: K-Monitoros önkéntesek által címkézett egyéb kulcsszavak (nem feltétlen jelenik meg a cikkben az adott szó)
 
61
  print(dataset['train'][0]['title'])
62
  ```
63
 
64
+ Pandas-zal:
65
+ ```python
66
+ import pandas as pd
67
+
68
+ df = pd.read_parquet("hf://datasets/K-Monitor/kmdb_base/data/train-00000-of-00001.parquet")
69
+ ```
70
+
71
  ## Oszlopok magyarázata
72
 
73
  `news_id`: a cikk k-monitor-os azonosítója
74
 
75
  `title`: hírportál által adott cím (hiányos lehet, lásd: kmonitor_title)
76
 
77
+ `description`: k-monitor adatbázisában tárolt leírás
78
 
79
+ `text`: cikk szövegének törzse, tisztítva (üres is lehet, de előfordulhat az is, hogy nem teljes)
80
 
81
+ `source_url`: cikk url-je, ami hírportálra mutat
 
 
82
 
83
+ `archive_url`: archive.org-os url, az url archivált változatát tárolja
84
 
85
+ `kmdb_url`: a cikk k-monitor adatbázisba felvett rekordjára mutat (https://adatbazis.k-monitor.hu/hirek/...)
86
 
87
+ `newspaper`: a hírportál neve (a k-monitor adatbázisból származik)
88
 
89
+ `category`: a cikk kategóriája (általában magyar/eu/világ hír)
90
 
91
+ `files`: a cikk mely aktákban szerepel
92
 
93
+ `pub_time`: a cikk publikálásának időpontja (a k-monitor adatbázisból származik, nem mindig pontos)
94
 
95
+ `authors`: a cikk szerzői, ez a hír parsolása közben kinyert információ (lehet, hogy hibás, sokszor hiányzik)
96
 
97
+ `persons`: a cikkre felvett személyek
98
 
99
+ `institutions`: a cikkre felvett intézmények
100
 
101
+ `places`: a cikkre felvett helyszínek
102
 
103
+ `others`: a cikkre felvett egyéb címkék