update
Browse files- data/dev.txt +13 -7
- data/test.txt +13 -13
- data/train.txt +7 -0
- generate_dataset.py +5 -4
data/dev.txt
CHANGED
@@ -1,10 +1,3 @@
|
|
1 |
-
Ông B-W
|
2 |
-
Vương B-W
|
3 |
-
Đình I-W
|
4 |
-
Dung I-W
|
5 |
-
, B-W
|
6 |
-
Tổng B-W
|
7 |
-
|
8 |
Giấc B-W
|
9 |
mơ B-W
|
10 |
Tết B-W
|
@@ -10139,3 +10132,16 @@ thu B-W
|
|
10139 |
giữ I-W
|
10140 |
. B-W
|
10141 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
Giấc B-W
|
2 |
mơ B-W
|
3 |
Tết B-W
|
|
|
10132 |
giữ I-W
|
10133 |
. B-W
|
10134 |
|
10135 |
+
Tiếng B-W
|
10136 |
+
khóc B-W
|
10137 |
+
đuối B-W
|
10138 |
+
sức B-W
|
10139 |
+
của B-W
|
10140 |
+
bé B-W
|
10141 |
+
1 B-W
|
10142 |
+
tuổi B-W
|
10143 |
+
cần B-W
|
10144 |
+
được B-W
|
10145 |
+
mổ B-W
|
10146 |
+
tim B-W
|
10147 |
+
|
data/test.txt
CHANGED
@@ -1,16 +1,3 @@
|
|
1 |
-
Tiếng B-W
|
2 |
-
khóc B-W
|
3 |
-
đuối B-W
|
4 |
-
sức B-W
|
5 |
-
của B-W
|
6 |
-
bé B-W
|
7 |
-
1 B-W
|
8 |
-
tuổi B-W
|
9 |
-
cần B-W
|
10 |
-
được B-W
|
11 |
-
mổ B-W
|
12 |
-
tim B-W
|
13 |
-
|
14 |
Ngọc B-W
|
15 |
Trinh I-W
|
16 |
chưa B-W
|
@@ -10160,3 +10147,16 @@ kg B-W
|
|
10160 |
92 B-W
|
10161 |
. B-W
|
10162 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
Ngọc B-W
|
2 |
Trinh I-W
|
3 |
chưa B-W
|
|
|
10147 |
92 B-W
|
10148 |
. B-W
|
10149 |
|
10150 |
+
Một B-W
|
10151 |
+
bức B-W
|
10152 |
+
dành B-W
|
10153 |
+
cho B-W
|
10154 |
+
những B-W
|
10155 |
+
bạn B-W
|
10156 |
+
cùng B-W
|
10157 |
+
ở B-W
|
10158 |
+
phòng B-W
|
10159 |
+
trọ B-W
|
10160 |
+
KTX B-W
|
10161 |
+
. B-W
|
10162 |
+
|
data/train.txt
CHANGED
@@ -159126,3 +159126,10 @@ bố B-W
|
|
159126 |
về B-W
|
159127 |
. B-W
|
159128 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
159126 |
về B-W
|
159127 |
. B-W
|
159128 |
|
159129 |
+
Ông B-W
|
159130 |
+
Vương B-W
|
159131 |
+
Đình I-W
|
159132 |
+
Dung I-W
|
159133 |
+
, B-W
|
159134 |
+
Tổng B-W
|
159135 |
+
|
generate_dataset.py
CHANGED
@@ -25,10 +25,6 @@ for j, s in enumerate(sentences):
|
|
25 |
if j == 9000:
|
26 |
f.close()
|
27 |
f = open(test_file, "a")
|
28 |
-
if j % 1000 == 999:
|
29 |
-
f.write(content)
|
30 |
-
content = ""
|
31 |
-
logger.info(j)
|
32 |
words = word_tokenize(s)
|
33 |
for word in words:
|
34 |
tokens = tokenize(word)
|
@@ -39,4 +35,9 @@ for j, s in enumerate(sentences):
|
|
39 |
tag = "I-W"
|
40 |
content += token + "\t" + tag + "\n"
|
41 |
content += "\n"
|
|
|
|
|
|
|
|
|
|
|
42 |
f.close()
|
|
|
25 |
if j == 9000:
|
26 |
f.close()
|
27 |
f = open(test_file, "a")
|
|
|
|
|
|
|
|
|
28 |
words = word_tokenize(s)
|
29 |
for word in words:
|
30 |
tokens = tokenize(word)
|
|
|
35 |
tag = "I-W"
|
36 |
content += token + "\t" + tag + "\n"
|
37 |
content += "\n"
|
38 |
+
if j % 1000 == 999:
|
39 |
+
f.write(content)
|
40 |
+
content = ""
|
41 |
+
logger.info(j)
|
42 |
+
|
43 |
f.close()
|