rain1024 commited on
Commit
52d8db3
1 Parent(s): 565cd29
Files changed (4) hide show
  1. data/dev.txt +13 -7
  2. data/test.txt +13 -13
  3. data/train.txt +7 -0
  4. generate_dataset.py +5 -4
data/dev.txt CHANGED
@@ -1,10 +1,3 @@
1
- Ông B-W
2
- Vương B-W
3
- Đình I-W
4
- Dung I-W
5
- , B-W
6
- Tổng B-W
7
-
8
  Giấc B-W
9
  mơ B-W
10
  Tết B-W
@@ -10139,3 +10132,16 @@ thu B-W
10139
  giữ I-W
10140
  . B-W
10141
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
  Giấc B-W
2
  mơ B-W
3
  Tết B-W
 
10132
  giữ I-W
10133
  . B-W
10134
 
10135
+ Tiếng B-W
10136
+ khóc B-W
10137
+ đuối B-W
10138
+ sức B-W
10139
+ của B-W
10140
+ bé B-W
10141
+ 1 B-W
10142
+ tuổi B-W
10143
+ cần B-W
10144
+ được B-W
10145
+ mổ B-W
10146
+ tim B-W
10147
+
data/test.txt CHANGED
@@ -1,16 +1,3 @@
1
- Tiếng B-W
2
- khóc B-W
3
- đuối B-W
4
- sức B-W
5
- của B-W
6
- bé B-W
7
- 1 B-W
8
- tuổi B-W
9
- cần B-W
10
- được B-W
11
- mổ B-W
12
- tim B-W
13
-
14
  Ngọc B-W
15
  Trinh I-W
16
  chưa B-W
@@ -10160,3 +10147,16 @@ kg B-W
10160
  92 B-W
10161
  . B-W
10162
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
  Ngọc B-W
2
  Trinh I-W
3
  chưa B-W
 
10147
  92 B-W
10148
  . B-W
10149
 
10150
+ Một B-W
10151
+ bức B-W
10152
+ dành B-W
10153
+ cho B-W
10154
+ những B-W
10155
+ bạn B-W
10156
+ cùng B-W
10157
+ ở B-W
10158
+ phòng B-W
10159
+ trọ B-W
10160
+ KTX B-W
10161
+ . B-W
10162
+
data/train.txt CHANGED
@@ -159126,3 +159126,10 @@ bố B-W
159126
  về B-W
159127
  . B-W
159128
 
 
 
 
 
 
 
 
 
159126
  về B-W
159127
  . B-W
159128
 
159129
+ Ông B-W
159130
+ Vương B-W
159131
+ Đình I-W
159132
+ Dung I-W
159133
+ , B-W
159134
+ Tổng B-W
159135
+
generate_dataset.py CHANGED
@@ -25,10 +25,6 @@ for j, s in enumerate(sentences):
25
  if j == 9000:
26
  f.close()
27
  f = open(test_file, "a")
28
- if j % 1000 == 999:
29
- f.write(content)
30
- content = ""
31
- logger.info(j)
32
  words = word_tokenize(s)
33
  for word in words:
34
  tokens = tokenize(word)
@@ -39,4 +35,9 @@ for j, s in enumerate(sentences):
39
  tag = "I-W"
40
  content += token + "\t" + tag + "\n"
41
  content += "\n"
 
 
 
 
 
42
  f.close()
 
25
  if j == 9000:
26
  f.close()
27
  f = open(test_file, "a")
 
 
 
 
28
  words = word_tokenize(s)
29
  for word in words:
30
  tokens = tokenize(word)
 
35
  tag = "I-W"
36
  content += token + "\t" + tag + "\n"
37
  content += "\n"
38
+ if j % 1000 == 999:
39
+ f.write(content)
40
+ content = ""
41
+ logger.info(j)
42
+
43
  f.close()