Skip to content

Commit adcaa17

Browse files
committed
chore: vietbud500 256 sentencepiece
1 parent 6cba25e commit adcaa17

File tree

3 files changed

+268
-0
lines changed

3 files changed

+268
-0
lines changed
Lines changed: 12 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -0,0 +1,12 @@
1+
{
2+
"train": {
3+
"max_input_length": 256498,
4+
"max_label_length": 100,
5+
"num_entries": 634158
6+
},
7+
"eval": {
8+
"max_input_length": 117571,
9+
"max_label_length": 57,
10+
"num_entries": 7500
11+
}
12+
}
235 KB
Binary file not shown.
Lines changed: 256 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -0,0 +1,256 @@
1+
<unk> 0
2+
▁c -0
3+
ng -1
4+
▁t -2
5+
nh -3
6+
▁đ -4
7+
▁m -5
8+
▁l -6
9+
▁th -7
10+
▁v -8
11+
▁ch -9
12+
▁b -10
13+
▁nh -11
14+
▁k -12
15+
▁n -13
16+
▁h -14
17+
▁kh -15
18+
▁ng -16
19+
▁s -17
20+
▁g -18
21+
▁là -19
22+
ông -20
23+
▁tr -21
24+
▁r -22
25+
▁không -23
26+
ời -24
27+
▁p -25
28+
▁ph -26
29+
▁cá -27
30+
▁có -28
31+
ên -29
32+
▁d -30
33+
ôi -31
34+
ình -32
35+
▁gi -33
36+
anh -34
37+
qu -35
38+
▁qu -36
39+
▁và -37
40+
ột -38
41+
ới -39
42+
▁củ -40
43+
▁của -41
44+
iế -42
45+
ười -43
46+
▁như -44
47+
▁một -45
48+
▁tôi -46
49+
▁nó -47
50+
▁mà -48
51+
▁người -49
52+
iệ -50
53+
▁x -51
54+
▁anh -52
55+
▁đư -53
56+
ại -54
57+
ất -55
58+
ấy -56
59+
▁nà -57
60+
▁mình -58
61+
▁đi -59
62+
▁thì -60
63+
▁cái -61
64+
ợc -62
65+
em -63
66+
▁được -64
67+
ay -65
68+
▁cũ -66
69+
uy -67
70+
▁co -68
71+
▁cũng -69
72+
ững -70
73+
ong -71
74+
▁những -72
75+
▁cho -73
76+
▁con -74
77+
ai -75
78+
ải -76
79+
▁em -77
80+
▁ngh -78
81+
▁cả -79
82+
ều -80
83+
▁đó -81
84+
▁cô -82
85+
ồi -83
86+
▁lại -84
87+
▁với -85
88+
ch -86
89+
ao -87
90+
ân -88
91+
▁này -89
92+
▁đã -90
93+
▁trong -91
94+
ần -92
95+
uố -93
96+
▁để -94
97+
▁làm -95
98+
▁nói -96
99+
▁ta -97
100+
ạn -98
101+
▁phải -99
102+
▁ra -100
103+
ây -101
104+
▁chú -102
105+
▁nhưng -103
106+
ướ -104
107+
ang -105
108+
au -106
109+
▁rồi -107
110+
▁sẽ -108
111+
âu -109
112+
ến -110
113+
▁về -111
114+
▁nhi -112
115+
iết -113
116+
an -114
117+
ác -115
118+
▁khi -116
119+
òn -117
120+
▁ti -118
121+
▁gì -119
122+
▁thế -120
123+
▁bạn -121
124+
ước -122
125+
▁ở -123
126+
▁họ -124
127+
▁đến -125
128+
▁còn -126
129+
▁thể -127
130+
▁các -128
131+
ết -129
132+
▁mẹ -130
133+
▁việ -131
134+
ươ -132
135+
ật -133
136+
▁ông -134
137+
▁biết -135
138+
úc -136
139+
▁nhà -137
140+
▁chúng -138
141+
ương -139
142+
ận -140
143+
oà -141
144+
▁chị -142
145+
ành -143
146+
▁bà -144
147+
ơn -145
148+
▁thấy -146
149+
▁từ -147
150+
ầu -148
151+
ậy -149
152+
▁chuy -150
153+
▁nào -151
154+
ăn -152
155+
▁chỉ -153
156+
ờng -154
157+
ữa -155
158+
▁rất -156
159+
▁sự -157
160+
ồng -158
161+
▁nhiều -159
162+
ùng -160
163+
▁ -161
164+
n -162
165+
h -163
166+
c -164
167+
i -165
168+
t -166
169+
g -167
170+
m -168
171+
a -169
172+
đ -170
173+
à -171
174+
u -172
175+
l -173
176+
o -174
177+
ư -175
178+
y -176
179+
ô -177
180+
v -178
181+
r -179
182+
b -180
183+
k -181
184+
á -182
185+
ó -183
186+
ì -184
187+
s -185
188+
ế -186
189+
p -187
190+
ờ -188
191+
ấ -189
192+
ạ -190
193+
ả -191
194+
ê -192
195+
ộ -193
196+
ớ -194
197+
â -195
198+
ố -196
199+
ệ -197
200+
ề -198
201+
ủ -199
202+
d -200
203+
ậ -201
204+
ể -202
205+
e -203
206+
ợ -204
207+
ú -205
208+
q -206
209+
ữ -207
210+
ơ -208
211+
ồ -209
212+
ọ -210
213+
ầ -211
214+
ị -212
215+
ứ -213
216+
x -214
217+
ắ -215
218+
ã -216
219+
ở -217
220+
ũ -218
221+
ự -219
222+
í -220
223+
ò -221
224+
ă -222
225+
ừ -223
226+
ặ -224
227+
ẽ -225
228+
ẹ -226
229+
ù -227
230+
ỏ -228
231+
ụ -229
232+
ổ -230
233+
ỉ -231
234+
ĩ -232
235+
ằ -233
236+
ẫ -234
237+
ý -235
238+
é -236
239+
ử -237
240+
ỗ -238
241+
ẻ -239
242+
ẳ -240
243+
ẩ -241
244+
ễ -242
245+
è -243
246+
ỡ -244
247+
õ -245
248+
ỳ -246
249+
ỹ -247
250+
ỷ -248
251+
ẵ -249
252+
ỵ -250
253+
w -251
254+
f -252
255+
j -253
256+
z -254

0 commit comments

Comments
 (0)