Datasets:

tfvn
/

TTS-standardlization

Error code:   DatasetGenerationError
Exception:    CastError
Message:      Couldn't cast
input: string
output: string
src_name: string
w: double
to
{'input': Value('string'), 'output': Value('string')}
because column names don't match
Traceback:    Traceback (most recent call last):
                File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1835, in _prepare_split_single
                  for key, table in generator:
                                    ^^^^^^^^^
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 621, in wrapped
                  for item in generator(*args, **kwargs):
                              ~~~~~~~~~^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 361, in _generate_tables
                  self._cast_table(pa_table, json_field_paths=json_field_paths),
                  ~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 132, in _cast_table
                  pa_table = table_cast(pa_table, self.info.features.arrow_schema)
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2381, in table_cast
                  return cast_table_to_schema(table, schema)
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2309, in cast_table_to_schema
                  raise CastError(
                  ...<3 lines>...
                  )
              datasets.table.CastError: Couldn't cast
              input: string
              output: string
              src_name: string
              w: double
              to
              {'input': Value('string'), 'output': Value('string')}
              because column names don't match
              
              The above exception was the direct cause of the following exception:
              
              Traceback (most recent call last):
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1379, in compute_config_parquet_and_info_response
                  parquet_operations, partial, estimated_dataset_info = stream_convert_to_parquet(
                                                                        ~~~~~~~~~~~~~~~~~~~~~~~~~^
                      builder, max_dataset_size_bytes=max_dataset_size_bytes
                      ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                  )
                  ^
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 956, in stream_convert_to_parquet
                  builder._prepare_split(split_generator=splits_generators[split], file_format="parquet")
                  ~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1702, in _prepare_split
                  for job_id, done, content in self._prepare_split_single(
                                               ~~~~~~~~~~~~~~~~~~~~~~~~~~^
                      gen_kwargs=gen_kwargs, job_id=job_id, **_prepare_split_args
                      ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                  ):
                  ^
                File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1887, in _prepare_split_single
                  raise DatasetGenerationError("An error occurred while generating the dataset") from e
              datasets.exceptions.DatasetGenerationError: An error occurred while generating the dataset

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

input string	output string
Ko dc Kabuto hồi sinh và gặp Naruto thì có cl dùng dc Koto Amatsukami để làm bước ngoặc thay đổi trận chiến.	Không được Kabuto hồi sinh và gặp Naruto thì có cái lồn dùng được Koto Amatsukami để làm bước ngoặc thay đổi trận chiến.
Thằng kia chắc chắn không có 21 tỉ để đền r	Thằng kia chắc chắn không có 21 tỉ để đền rồi
me too, nay có cò hỏi 8250 một ki lô gram rồi	me too, nay có cò hỏi 8250 một ki lô gram rồi
Anh đặt cho chú mấy TH	Anh đặt cho chú mấy TH
copy rác lên voz hiệp à , vì t đang chán	copy rác lên voz hiệp à , vì tao đang chán
Định méo xem mà vợ cứ đòi đi, xem về mình chê còn chống chế: riêng có thằng thor là được 5đ rồi	Định méo xem mà vợ cứ đòi đi, xem về mình chê còn chống chế: riêng có thằng thor là được 5đ rồi
ko cho chơi game nó đi chơi đồ, chơi gái thì lúc đó lại giãy đành đạch, ngồi nhà trong tầm mắt yên tâm thế còn j	không cho chơi game nó đi chơi đồ, chơi gái thì lúc đó lại giãy đành đạch, ngồi nhà trong tầm mắt yên tâm thế còn gì
2/9 kì roài cho công nhân bên xưởng nghỉ 9 ngày nhé h vẫn còn cắt giảm	2/9 kì roài cho công nhân bên xưởng nghỉ 9 ngày nhé giờ vẫn còn cắt giảm
Cái loại loser như mày mà được nó nhặt về anh em tao vui lắm rồi	Cái loại loser như mày mà được nó nhặt về anh em tao vui lắm rồi
Kane trận này ko có trong danh sách đăng ký thì chắc là có chuyển nhượng thôi.	Kane trận này không có trong danh sách đăng ký thì chắc là có chuyển nhượng thôi.
Tôi đi nhiều vùng VN rồi, nông dân vẫn đang còn vất vả, thu nhập thấp	Tôi đi nhiều vùng Việt Nam rồi, nông dân vẫn đang còn vất vả, thu nhập thấp
Tóm tắt 2020 : NHƯ LOL	Tóm tắt 2020 : NHƯ LOL
Toàn " anh bạn tôi", người ta chửi mài ngu mài lấy câu chuyện anh bạn tôi ra để làm so sánh=> nha khoa Việt hơn Thái mà mài còn ko hỉu nữa ah.	Toàn " anh bạn tôi", người ta chửi mài ngu mài lấy câu chuyện anh bạn tôi ra để làm so sánh=> nha khoa Việt hơn Thái mà mài còn không hỉu nữa à.
Nghe đâu van der sar và BHL Ajax cười ko ngậm dc mồm, fax vui mà đội tôi yêu trả đủ thật.	Nghe đâu van der sar và ban huấn luyện Ajax cười không ngậm được mồm, fax vui mà đội tôi yêu trả đủ thật.
Khuyên reset có từ đời nào rồi xưa h có thấy ai nói gì đâu, gần đây có vài vụ tự tử nên có lý do đổ lổi cho những lời troll rs hả	Khuyên reset có từ đời nào rồi xưa giờ có thấy ai nói gì đâu, gần đây có vài vụ tự tử nên có lý do đổ lổi cho những lời troll rs hả
Có nhà sẵn thì cưới cũng dc.	Có nhà sẵn thì cưới cũng được.
Mấy anh vozer đòi viết tên đuông cy vào giấy chứng nhận độc thân để kết hôn ở thớt kia đâu rồi :lol:	Mấy anh vozer đòi viết tên đuông cy vào giấy chứng nhận độc thân để kết hôn ở thớt kia đâu rồi :lol:
chỉ có m đánh đồng chứ t chê hồi nào	chỉ có mày đánh đồng chứ tao chê hồi nào
Cho thím nào chậm chân, đôi này addax còn 1tr5 cũng ngon nè	Cho thím nào chậm chân, đôi này addax còn 1 triệu 5 cũng ngon nè
Cứ đòi cầu thủ nó gánh mãi thế đéo nào dc	Cứ đòi cầu thủ nó gánh mãi thế đéo nào được
kevin anh tui bị dẫm chân	kevin anh tui bị dẫm chân
Nhờ bác vy xem hộ e đường sự nghiệp với.	Nhờ bác vy xem hộ em đường sự nghiệp với.
Ghét nhân cách sống của người màu, lão có phốt chửi nhân viên ngày trước Không tự nhiên mà người ta bị ghét đâu	Ghét nhân cách sống của người màu, lão có phốt chửi nhân viên ngày trước Không tự nhiên mà người ta bị ghét đâu
Đây đâu phải chuyện đúng sai Con bé nó cảm thấy thớt ko đủ tình cảm, còn thớt lại cảm thấy con bé quá dựa dẫm với cảm tính thì chia tay.	Đây đâu phải chuyện đúng sai Con bé nó cảm thấy thớt không đủ tình cảm, còn thớt lại cảm thấy con bé quá dựa dẫm với cảm tính thì chia tay.
Có 1 tiệm gần nhà đã bán và đã phá cmn sản.	Có 1 tiệm gần nhà đã bán và đã phá con mẹ nó sản.
làm màu vl, ra chợ mua muốn bao nhiêu chẳng có	làm màu vãi lồn, ra chợ mua muốn bao nhiêu chẳng có
Em mới bị như vậy nửa tháng, di khám nội soi thì trĩ độ 1.	Em mới bị như vậy nửa tháng, di khám nội soi thì trĩ độ 1.
Đag tính mua cho 2 đứa cháu 1 bộ nữa to to nó ráp cho đã, bữa săn sale được 1 bộ nhỏ à...mà giá mấy bộ to ngoài MKD chát qá nên chùn tay	Đang tính mua cho 2 đứa cháu 1 bộ nữa to to nó ráp cho đã, bữa săn sale được 1 bộ nhỏ à...mà giá mấy bộ to ngoài MKD chát quá nên chùn tay
dm tiếng kèn luôn rồi	địt mẹ tiếng kèn luôn rồi
Mới biếu bố vợ đồng tiền cuối cùng r, nhịn cả mát-xa hàng tháng luôn, kkk	Mới biếu bố vợ đồng tiền cuối cùng rồi, nhịn cả mát-xa hàng tháng luôn, kkk
Hoặc là có gì thắc mắc bác cứ ib em tư vấn hỗ trợ giải đáp luôn ạ.	Hoặc là có gì thắc mắc bác cứ inbox em tư vấn hỗ trợ giải đáp luôn ạ.
Do bác cứ nhìn mấy th giàu sớm nên vậy chứ tiến trình thông thường thì tầm 35-40 nó mới ngon lành.	Do bác cứ nhìn mấy thằng giàu sớm nên vậy chứ tiến trình thông thường thì tầm 35-40 nó mới ngon lành.
lm ăn như cái cặc	làm ăn như con cặc
Trong lòng fan cc, máu quỉ nữa nha.	Trong lòng fan con cặc, máu quỉ nữa nha.
giàu quá có mệt ko mấy fen, điều hành nguyên cái tài sản chà bá chắc stress lắm	giàu quá có mệt không mấy fen, điều hành nguyên cái tài sản chà bá chắc stress lắm
Đi coi xe là dc mời nước r, vứt xe đi về nói gì nữa ông	Đi coi xe là được mời nước rồi, vứt xe đi về nói gì nữa ông
Vozer toàn thằng răng vẩu , da vàng , suốt ngày ngồi mơ trúng vietlot vs cả coin x200 thì thấy câu chuyện của thớt ko ra gì.	Vozer toàn thằng răng vẩu , da vàng , suốt ngày ngồi mơ trúng vietlot với cả coin x200 thì thấy câu chuyện của thớt không ra gì.
Bao h t có nhu cầu pr thì t mua.	Bao giờ tao có nhu cầu pr thì tao mua.
K trắng k được quan tâm hay đánh giá tốt đâu mấy em.	Không trắng không được quan tâm hay đánh giá tốt đâu mấy em.
T cũng mong như m, hy vọng đám sparky đừng đổ vào Nam nữa, biến về ngoài đó dùm tphcm kẹt xe cũng do đám này.	Tao cũng mong như mày, hy vọng đám sparky đừng đổ vào Nam nữa, biến về ngoài đó dùm thành phố Hồ Chí Minh kẹt xe cũng do đám này.
ờh, không cùng đẳng khó nói chuyện lắm.	ờh, không cùng đẳng khó nói chuyện lắm.
Đuổi cho bằng đc CR7 đi sẽ bớt đc số lương khổng lồ để deal các bản hợp đồng mới và xây dựng để chế Erik.	Đuổi cho bằng được CR7 đi sẽ bớt được số lương khổng lồ để deal các bản hợp đồng mới và xây dựng để chế Erik.
Thực sự ngại như thím trên , vs lại em học ở quê xong mới vào SG làm việc, nên cũng không có nhiều bạn	Thực sự ngại như thím trên , với lại em học ở quê xong mới vào Sài Gòn làm việc, nên cũng không có nhiều bạn
Như đợt trc rầm rộ ko chiếu phim khựa thì mua 1 đống ấn **, thái, hàn chiếu đấy	Như đợt trước rầm rộ không chiếu phim khựa thì mua 1 đống ấn **, thái, hàn chiếu đấy
Bị bệnh này khổ v lol bác ạ!	Bị bệnh này khổ vãi lồn bác ạ!
Đài thím ạ, má nó vắt kinh vcc, toàn kiểu tuyển 1 ng vào làm việc 1,5 người	Đài thím ạ, má nó vắt kinh vãi cả lồn, toàn kiểu tuyển 1 người vào làm việc 1,5 người
Lên đi thím.	Lên đi thím.
Anh ra bắc mấy e miền núi non xanh mơn mỡn mà 4xị 5xị thôi, Nam tiến thì lên giá 7xị 8xị	Anh ra bắc mấy em miền núi non xanh mơn mỡn mà 4xị 5xị thôi, Nam tiến thì lên giá 7xị 8xị
Béo gian thương vãi lồn	Béo gian thương vãi lồn
Nhưng có những trường hợp phải cho nó lên bằng đc thì k thiếu gì cách.	Nhưng có những trường hợp phải cho nó lên bằng được thì không thiếu gì cách.
Gần nhà mình có nhiều hiệu làm răng vcl.	Gần nhà mình có nhiều hiệu làm răng vãi cả lồn.
Vấn đề chính của post này là thái độ, ý thức như đầu bòi của mấy thằng em thớt, và liệu có thể suy rộng ra là thế hệ gen Z không	Vấn đề chính của post này là thái độ, ý thức như đầu bòi của mấy thằng em thớt, và liệu có thể suy rộng ra là thế hệ gen Z không
Làm operation cụ thể cv là gì vậy bác, e có tiếng Trung nhưng chưa biết gì về ngành này, cũng hơi già 29t rồi, có cơ hội apply làm fresher ở đâu ko nhỉ	Làm operation cụ thể cv là gì vậy bác, em có tiếng Trung nhưng chưa biết gì về ngành này, cũng hơi già 29 tuổi rồi, có cơ hội apply làm fresher ở đâu không nhỉ
Cái j cũng FB, messenger, zalo, whatapp...	Cái gì cũng FB, messenger, zalo, whatapp...
ăn tới h vẫn còn =="	ăn tới giờ vẫn còn =="
người như thế mà fence chơi vs quý được !!!	người như thế mà fence chơi với quý được !!!
dm thằng Phan Đăng văn vở nghe ngứa cả đít	địt mẹ thằng Phan Đăng văn vở nghe ngứa cả đít
Sài Gòn chỗ nào lên thắng ABS kênh trước cho AB 2016-19 ổn vậy anh em.	Sài Gòn chỗ nào lên thắng ABS kênh trước cho AB 2016-19 ổn vậy anh em.
Chết đuối do chuột rút thì ntn ?	Chết đuối do chuột rút thì như thế nào ?
Đm thất bại vcl.	Địt mẹ thất bại vãi cả lồn.
porn đần thua lingardinho cú đúp 5 đội chủ nhà sml	porn đần thua lingardinho cú đúp 5 đội chủ nhà sấp mặt lồn
hình như con cặc	hình như con cặc
M quote cho t dòng nào m đọc hiểu t bênh mẹ con nhà đó vậy.Từ đầu t quote thằng nào m có hiểu k mà nhào vào chửi thế	Mày quote cho tao dòng nào mày đọc hiểu tao bênh mẹ con nhà đó vậy.Từ đầu tao quote thằng nào mày có hiểu không mà nhào vào chửi thế
Đkm mày mang ra chỗ 2 nhà 2 bên nó che mẹ nó đi thì làm cái củ cải gì nữa.	Địt con mẹ mày mang ra chỗ 2 nhà 2 bên nó che mẹ nó đi thì làm cái củ cải gì nữa.
Ủa chứ đang đánh với thằng nào nữa vậy ?	Ủa chứ đang đánh với thằng nào nữa vậy ?
Công ty gì mà bèo thế mấy BP nho nhỏ cũng không có mà bắt tự viết ah?	Công ty gì mà bèo thế mấy BP nho nhỏ cũng không có mà bắt tự viết à?
Tội éo gì mà dùng Dulux, giá cắt cổ vl.	Tội éo gì mà dùng Dulux, giá cắt cổ vãi lồn.
Là sẽ biết được vạch kẻ qua đường cho ng đi bộ nó nằm đâu	Là sẽ biết được vạch kẻ qua đường cho người đi bộ nó nằm đâu
Hà lan ghi bàn vs key pass thế này, kô MOTM hơi phí.	Hà lan ghi bàn với key pass thế này, không MOTM hơi phí.
H ko biết khi nào đi lại dc, thèm quá thèm	Giờ không biết khi nào đi lại được, thèm quá thèm
Đây là 1 cái hơi dở vì tranh luận thì không có chỉ có đả kích.	Đây là 1 cái hơi dở vì tranh luận thì không có chỉ có đả kích.
Dự án trọng điểm lobby được lol ấy	Dự án trọng điểm lobby được lồn ấy
địt mẹ xuống hạng đá như cái đầu buoi	địt mẹ xuống hạng đá như cái đầu buoi
Em đặt kèm 1Kg loại G1 của nó cho bà chị bán quán ở quê xem ntn	Em đặt kèm 1Kg loại G1 của nó cho bà chị bán quán ở quê xem như thế nào
đừng nghe mấy người khuyên hoãn vì giá vl cao.	đừng nghe mấy người khuyên hoãn vì giá vãi lồn cao.
Hồi đó đổ xe wave chạy 90 ki lô mét một giờ lúc lên dốc cầu Cần Thơ có gió thì nó mát.	Hồi đó đổ xe wave chạy 90 ki lô mét một giờ lúc lên dốc cầu Cần Thơ có gió thì nó mát.
tập nhuần nhuyễn thì tối nào cũng phịch hoa hậu, mệt v loz, tốt nhất là nên bỏ lucid dream, độc hại lắm fence	tập nhuần nhuyễn thì tối nào cũng phịch hoa hậu, mệt vãi lồn, tốt nhất là nên bỏ lucid dream, độc hại lắm fence
Gái nó biết giữ mình, biết giá trị của nó ở đâu thì nó xứng với người biết trân trọng nó.	Gái nó biết giữ mình, biết giá trị của nó ở đâu thì nó xứng với người biết trân trọng nó.
Sao v e chai	Sao vậy em chai
người yêu tôi nhìn ảnh đã xinh rồi, ngoài đời còn xinh hơn	người yêu tôi nhìn ảnh đã xinh rồi, ngoài đời còn xinh hơn
Luthor thì hầu như ngồi canh máy tính.	Luthor thì hầu như ngồi canh máy tính.
đang ppw3 cũng đang phân vân xem nên mua ppw3 ko :v đọc xong chắc up lên đời quá :v	đang ppw3 cũng đang phân vân xem nên mua ppw3 không :v đọc xong chắc up lên đời quá :v
Em người yêu cũng 98, tôi 90 Xinh xắn cao ráo trắng trẻo mà tính tình chán lắm, đang muốn dứt luôn kiếm đứa khác, chứ sắp chịu ko nổi nữa rồi	Em người yêu cũng 98, tôi 90 Xinh xắn cao ráo trắng trẻo mà tính tình chán lắm, đang muốn dứt luôn kiếm đứa khác, chứ sắp chịu không nổi nữa rồi
Tuỳ, nếu có sẵn phòng ko cần thuê nhà nghỉ thì cũng ko tốn lắm đâu, đại loại 1 tháng khoảng 2 triệu.	Tuỳ, nếu có sẵn phòng không cần thuê nhà nghỉ thì cũng không tốn lắm đâu, đại loại 1 tháng khoảng 2 triệu.
mấy tỉnh miền Tây có ghét nhau ko mà chơi trò mất dạy ntn nhỉ	mấy tỉnh miền Tây có ghét nhau không mà chơi trò mất dạy như thế nào nhỉ
seltos nó chả down mà cũng đã cháy rồi, nhưng thấy bị chê cách âm nhiều lắm	seltos nó chả down mà cũng đã cháy rồi, nhưng thấy bị chê cách âm nhiều lắm
T nú ko nên lên tuyển nữa	Tao nú không nên lên tuyển nữa
Tôi thì không biết coi bói,nhưng thầy tôi bảo tay có này thì tốt,giữ được tiền	Tôi thì không biết coi bói,nhưng thầy tôi bảo tay có này thì tốt,giữ được tiền
Mình ở miền Nam sắp vào mùa nắng nóng nên cũng hơi e ngại việc sốc nhiệt.	Mình ở miền Nam sắp vào mùa nắng nóng nên cũng hơi e ngại việc sốc nhiệt.
Để tăng đẳng cấp của bản thân thôi :v	Để tăng đẳng cấp của bản thân thôi :v
Em dùng bản 2015 cùi vãi lol.	Em dùng bản 2015 cùi vãi lồn.
Mẹ vợ bạn tôi đoán cũng dạng phổi bò ghê gớm giống mấy bà ngoài chợ đ gì k nghĩ đến thể diện nhà trai với con rể 1 tý nhể	Mẹ vợ bạn tôi đoán cũng dạng phổi bò ghê gớm giống mấy bà ngoài chợ đéo gì không nghĩ đến thể diện nhà trai với con rể 1 tý nhể
Nó san lấp, bán 1 căn 8-9 tỷ, dkm nó.	Nó san lấp, bán 1 căn 8-9 tỷ, địt con mẹ nó.
Fen daituongquan còn sang ăn nhậu thả ga với nha tặc, tham quan nè....	Fen daituongquan còn sang ăn nhậu thả ga với nha tặc, tham quan nè....
Mẹ tôi tại đau yếu nên sinh ra cáu kỉnh chứ không phải ai cũng khó tính đâu.	Mẹ tôi tại đau yếu nên sinh ra cáu kỉnh chứ không phải ai cũng khó tính đâu.
nhà bè lên quận 1 cũng 1 tiếng th phen nếu thuê chung cư	nhà bè lên quận 1 cũng 1 tiếng thôi phen nếu thuê chung cư
mấy món này mình có ăn mà k thấy món nào ngon, ăn lần đầu lạ miệng thôi.	mấy món này mình có ăn mà không thấy món nào ngon, ăn lần đầu lạ miệng thôi.
Cổ Nhân Đàm Luận	Cổ Nhân Đàm Luận
này chắc đi nhìn thấy ngta xây quán xây kiểu này về học mót tự xây đéo thèm thuê kts hay bên nào nó tư vấn thiết kế cho đây mà.	này chắc đi nhìn thấy người ta xây quán xây kiểu này về học mót tự xây đéo thèm thuê kiến trúc sư hay bên nào nó tư vấn thiết kế cho đây mà.
Tư vấn oto có card cơ ah.	Tư vấn oto có card cơ à.

End of preview.

TTS-standardlization

Pairs of Vietnamese teencode and standard Vietnamese, used to train and evaluate the v3 model of TFVN-TTS-standardlization. The ONNX model is on Hugging Face as tfvn/TTS-standardlization.

huggingface-cli download tfvn/TTS-standardlization --repo-type dataset --local-dir data/v3
python src/train/encode_data.py --tokenizer models/TTS-standardlization/onnx/tokenizer.json --in data/v3 --out data_v3

from datasets import load_dataset
ds = load_dataset("tfvn/TTS-standardlization")            # train / validation / test
hard = load_dataset("tfvn/TTS-standardlization", "hard")  # eval-only hard set

Schema

field	meaning
`input`	teencode / untoned / abbreviated text
`output`	standard Vietnamese
`category`	(ctx, hard and some train rows) one of `pronoun_pair`, `ambiguous_abbrev`, `untoned_context`, `user_slang`
`src_name`	(train) which extra source the row came from: `untoned` or `ctx`. If absent, the row is gold
`w`	(train) per-row loss weight used in training. If absent, 1.0

Files and row counts

file	rows	notes
train.jsonl.gz	306,002	130,611 gold (incl. identity/partial-noise augmentation), 96,670 untoned, 78,721 ctx
dev / test	999 / 999	gold, seeded 98/1/1 split
dev_untoned / test_untoned	986 / 986	input has no tone marks
dev_ctx / test_ctx	803 / 803	context pairs, from the same generator as the train ctx rows (in-distribution)
test_hard_1251	1,251	eval-only and leakage-deduped against train: 508 pronoun_pair, 468 ambiguous_abbrev, 275 untoned_context
test_hard	396	earlier, smaller hard set

v3 results (CER, INT8, beam 4 + guard): gold 2.08%, untoned 11.19%, ctx 0.35%, hard_1251 4.95%.

Provenance

Gold pairs: teencode sentences with standard-Vietnamese labels from the project's labelling pipeline. Some inputs look like real social-media comments. TODO (maintainer): confirm where they came from and that you may redistribute them, then set the license above.
untoned: gold outputs with the tone marks removed, built by a script.
ctx / hard: synthetic pairs written by an assistant ("Teencode Data Generator"), plus pairs from user feedback (user_slang).

Cleaning

An automatic scan found 51 phone-number-like strings and 1 e-mail address in train (104 fields). They were replaced with 0900000000 and user@example.com. Dev and test had none. No secrets, tokens or URLs were found. The data contains vulgar slang on purpose, because the model has to normalize it.

Downloads last month: 69