Regenerate UDD-WS v1.1 dataset and update annotation tooling

WS_FIX_REPORT.md

@@ -6,148 +6,210 @@ Fixes applied by `src/fix_ws_errors.py` to UDD-1.1 word segmentation BIO files.
 
 | File | Cross-boundary splits | Long token splits | Compound merges | Validation errors |
 |------|----------------------:|------------------:|----------------:|------------------:|
-| udd-ws-v1.1-train.txt | 16 | 482 | 16 | 0 |
-| udd-ws-v1.1-dev.txt | 2 | 61 | 2 | 0 |
-| udd-ws-v1.1-test.txt | 1 | 54 | 1 | 0 |
-| **TOTAL** | **19** | **597** | **19** | **0** |
+| udd-ws-v1.1-train.txt | 4,969 | 725 | 1,870 | 0 |
+| udd-ws-v1.1-dev.txt | 598 | 87 | 222 | 0 |
+| udd-ws-v1.1-test.txt | 611 | 79 | 233 | 0 |
+| **TOTAL** | **6,178** | **891** | **2,325** | **0** |
 
 ## Merge Frequency by Term
 
 | Term | Count |
 |:-----|------:|
-| làm chủ | 18 |
-| phiên tòa | 1 |
+| hàng hóa | 759 |
+| chữa bệnh | 326 |
+| khám bệnh | 255 |
+| vụ án | 209 |
+| hòa giải | 138 |
+| kèm theo | 107 |
+| trả lại | 86 |
+| làm chủ | 82 |
+| phạt tù | 82 |
+| hủy bỏ | 81 |
+| phiên tòa | 44 |
+| bị hại | 37 |
+| ghi rõ | 35 |
+| rút gọn | 34 |
+| tiền công | 27 |
+| quá hạn | 9 |
+| chủ tọa | 7 |
+| lời khai | 5 |
+| thuê khoán | 1 |
+| bốc hàng | 1 |
 
 ## Cross-Boundary Split Examples
 
 ### udd-ws-v1.1-train.txt
 
-- [uvw-19943] split "làm Chủ tịch" → 'làm' + 'Chủ tịch'
-- [uvw-6826] split "làm Chủ tịch" → 'làm' + 'Chủ tịch'
-- [uvb-n-16752] split "làm Chủ tịch" → 'làm' + 'Chủ tịch'
-- [uvw-11371] split "làm Chủ tịch" → 'làm' + 'Chủ tịch'
-- [uvw-14568] split "làm Chủ tịch" → 'làm' + 'Chủ tịch'
-- [uvw-8787] split "làm Chủ tịch" → 'làm' + 'Chủ tịch'
-- [uvb-n-17467] split "làm Chủ tịch" → 'làm' + 'Chủ tịch'
-- [vlc-9870] split "làm Chủ tịch" → 'làm' + 'Chủ tịch'
-- [uvw-18776] split "làm Chủ tịch" → 'làm' + 'Chủ tịch'
-- [uvw-19267] split "làm Chủ tịch" → 'làm' + 'Chủ tịch'
-- [uvw-18775] split "làm Chủ tịch" → 'làm' + 'Chủ tịch'
-- [uvw-12623] split "làm Chủ tịch" → 'làm' + 'Chủ tịch'
-- [uvw-3529] split "làm Chủ tịch" → 'làm' + 'Chủ tịch'
-- [uvw-18747] split "làm Chủ tịch" → 'làm' + 'Chủ tịch'
-- [uvw-8782] split "làm Chủ tịch" → 'làm' + 'Chủ tịch'
-- [uvw-16412] split "làm Chủ tịch" → 'làm' + 'Chủ tịch'
+- [uvw-12640] split "nhà Minh" → 'nhà' + 'Minh'
+- [vlc-18105] split "ban Thường vụ Quốc hội" → 'ban' + 'Thường vụ' + 'Quốc hội'
+- [uvn-5192] split "nam MC" → 'nam' + 'MC'
+- [uvw-13051] split "diễn văn Gettysburg" → 'diễn văn' + 'Gettysburg'
+- [uvn-11996] split "sàn London" → 'sàn' + 'London'
+- [uvb-f-11285] split "Tiên phong Thiên Giới" → 'Tiên phong' + 'Thiên Giới'
+- [uvn-1652] split "giải Vietstock" → 'giải' + 'Vietstock'
+- [uvn-1652] split "Nông nghiệp và Môi trường" → 'Nông nghiệp và' + 'Môi trường'
+- [uvn-15129] split "chuyên Sinh" → 'chuyên' + 'Sinh'
+- [uvb-n-18150] split "vua Kiệt" → 'vua' + 'Kiệt'
+- [uvn-11110] split "bắc Tử" → 'bắc' + 'Tử'
+- [uvb-n-7068] split "phái Duy Vật" → 'phái' + 'Duy Vật'
+- [uvb-n-10940] split "quân Anh" → 'quân' + 'Anh'
+- [uvn-3318] split "chuẩn Anh" → 'chuẩn' + 'Anh'
+- [uvw-11565] split "nhà Thương" → 'nhà' + 'Thương'
+- [uvw-14254] split "châu Á" → 'châu' + 'Á'
+- [uvn-6648] split "hình X-quang" → 'hình' + 'X-quang'
+- [uvn-3392] split "bảng G ." → 'bảng' + 'G .'
+- [uvn-3392] split "bảng H" → 'bảng' + 'H'
+- [uvn-8106] split "châu Âu" → 'châu' + 'Âu'
+- ... and 4949 more
 
 ### udd-ws-v1.1-dev.txt
 
-- [uvw-18777] split "làm Chủ tịch" → 'làm' + 'Chủ tịch'
-- [uvb-n-3314] split "phiên Tòa" → 'phiên' + 'Tòa'
+- [uvb-n-730] split "mừng Lễ" → 'mừng' + 'Lễ'
+- [uvn-7093] split "chữ T" → 'chữ' + 'T'
+- [uvn-3234] split "môn Văn cấp" → 'môn' + 'Văn cấp'
+- [uvw-10521] split "of Plants" → 'of' + 'Plants'
+- [uvb-n-5230] split "châu Âu" → 'châu' + 'Âu'
+- [uvw-380] split "quẻ Sư 師" → 'quẻ' + 'Sư 師'
+- [uvb-f-19862] split "bán TV" → 'bán' + 'TV'
+- [uvn-207] split "9.0 IELTS" → '9.0' + 'IELTS'
+- [uvw-9988] split "Đế quốc Đông" → 'Đế quốc' + 'Đông'
+- [uvw-8703] split "phân Riemann" → 'phân' + 'Riemann'
+- [vlc-16923] split "và Phát triển nông thôn" → 'và' + 'Phát triển nông thôn'
+- [uvw-7715] split "châu Phi Francophone" → 'châu' + 'Phi Francophone'
+- [vlc-19028] split "và Phát triển nông thôn" → 'và' + 'Phát triển nông thôn'
+- [uvw-18298] split ":: Một" → '::' + 'Một'
+- [uvn-6630] split "hành Perseverance" → 'hành' + 'Perseverance'
+- [uvn-2592] split "da Luz" → 'da' + 'Luz'
+- [uvn-15632] split "phi hành gia NASA" → 'phi hành gia' + 'NASA'
+- [vlc-8981] split "thường vụ Quốc hội" → 'thường vụ' + 'Quốc hội'
+- [uvw-7003] split "châu Âu" → 'châu' + 'Âu'
+- [uvn-115] split "Giáo dục và Đào tạo" → 'Giáo dục và' + 'Đào tạo'
+- ... and 578 more
 
 ### udd-ws-v1.1-test.txt
 
-- [uvw-18702] split "làm Chủ tịch" → 'làm' + 'Chủ tịch'
+- [uvw-10170] split "phương Nam" → 'phương' + 'Nam'
+- [uvw-10170] split "thời Trung Cổ" → 'thời' + 'Trung Cổ'
+- [vlc-6223] split "thường vụ Quốc hội" → 'thường vụ' + 'Quốc hội'
+- [vlc-6223] split "Mặt trận Tổ quốc" → 'Mặt trận' + 'Tổ quốc'
+- [uvn-2071] split "tây Nam Cực" → 'tây' + 'Nam Cực'
+- [uvn-19983] split "fanpage Facebook" → 'fanpage' + 'Facebook'
+- [uvn-19983] split "nhắn SMS" → 'nhắn' + 'SMS'
+- [uvw-4834] split "châu Phi" → 'châu' + 'Phi'
+- [uvw-4834] split "châu Phi" → 'châu' + 'Phi'
+- [uvb-n-1229] split "matières Le" → 'matières' + 'Le'
+- [uvb-f-17918] split "gả Loan" → 'gả' + 'Loan'
+- [uvb-f-17918] split "phán Lợi" → 'phán' + 'Lợi'
+- [uvb-f-11852] split "‘ Người" → '‘' + 'Người'
+- [uvb-f-4210] split "quân Urgals" → 'quân' + 'Urgals'
+- [uvw-18184] split "quân H'mong" → 'quân' + "H'mong"
+- [vlc-13904] split "thường vụ Quốc hội" → 'thường vụ' + 'Quốc hội'
+- [uvn-17235] split "giải Jackpot" → 'giải' + 'Jackpot'
+- [uvn-3787] split "Thế chiến Ii" → 'Thế chiến' + 'Ii'
+- [uvw-14649] split "nhà Hồ" → 'nhà' + 'Hồ'
+- [uvw-14649] split "quân Minh" → 'quân' + 'Minh'
+- ... and 591 more
 
 ## Long Token Split Examples
 
 ### udd-ws-v1.1-train.txt
 
-- [uvw-6448] split "chủ nghĩa biểu hiện tại" → 'chủ nghĩa' + 'biểu hiện' + 'tại'
-- [uvw-13917] split "Đảng Cộng sản Việt Nam" → 'Đảng' + 'Cộng sản' + 'Việt Nam'
-- [vlc-19916] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
-- [vlc-15] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
-- [vlc-16255] split "Mặt trận Tổ quốc Việt Nam" → 'Mặt trận' + 'Tổ quốc' + 'Việt Nam'
-- [vlc-12686] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
-- [uvn-18201] split "chiêm ngưỡng nguyệt thực toàn" → 'chiêm ngưỡng' + 'nguyệt thực' + 'toàn'
-- [uvw-17503] split "Đảng Cộng sản Việt Nam" → 'Đảng' + 'Cộng sản' + 'Việt Nam'
-- [uvw-17503] split "Đảng Cộng sản Việt Nam" → 'Đảng' + 'Cộng sản' + 'Việt Nam'
-- [vlc-10039] split "Tòa án nhân dân tối cao" → 'Tòa án nhân dân' + 'tối cao'
-- [vlc-624] split "quyền sở hữu toàn dân" → 'quyền sở hữu' + 'toàn' + 'dân'
-- [vlc-353] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
-- [vlc-6987] split "phương tiện thông tin đại chúng" → 'phương tiện' + 'thông tin đại chúng'
-- [uvw-4874] split "Đảng Cộng sản Việt Nam" → 'Đảng' + 'Cộng sản' + 'Việt Nam'
-- [vlc-3583] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
-- [uvn-12997] split "quyền sở hữu trí tuệ" → 'quyền sở hữu' + 'trí tuệ'
-- [vlc-19715] split "Luật Bảo hiểm xã hội" → 'Luật' + 'Bảo hiểm xã hội'
-- [uvn-5062] split "Trần Lưu Tường Minh giữ" → 'Trần Lưu Tường Minh' + 'giữ'
-- [vlc-14777] split "Mặt trận Tổ quốc Việt Nam" → 'Mặt trận' + 'Tổ quốc' + 'Việt Nam'
-- [uvw-10341] split "phóng vệ tinh nhân tạo" → 'phóng vệ tinh' + 'nhân tạo'
-- [uvw-13920] split "Đảng Cộng sản Việt Nam" → 'Đảng' + 'Cộng sản' + 'Việt Nam'
-- [vlc-16398] split "Mặt trận Tổ quốc Việt Nam" → 'Mặt trận' + 'Tổ quốc' + 'Việt Nam'
-- [vlc-13141] split "quyền sở hữu trí tuệ" → 'quyền sở hữu' + 'trí tuệ'
-- [vlc-7920] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
-- [vlc-18475] split "Luật Bảo hiểm xã hội" → 'Luật' + 'Bảo hiểm xã hội'
-- [vlc-17502] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
-- [vlc-19572] split "Luật Bảo hiểm xã hội" → 'Luật' + 'Bảo hiểm xã hội'
-- [vlc-6986] split "phương tiện thông tin đại chúng" → 'phương tiện' + 'thông tin đại chúng'
-- [vlc-15371] split "Mặt trận Tổ quốc Việt Nam" → 'Mặt trận' + 'Tổ quốc' + 'Việt Nam'
-- [vlc-13776] split "quyền sở hữu trí tuệ" → 'quyền sở hữu' + 'trí tuệ'
-- ... and 452 more
+- [vlc-16418] split "Đảng Cộng sản Việt Nam" → 'Đảng' + 'Cộng sản' + 'Việt Nam'
+- [vlc-366] split "Đảng Cộng sản Việt Nam" → 'Đảng' + 'Cộng sản' + 'Việt Nam'
+- [vlc-18939] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
+- [uvw-3718] split "lực lượng vũ trang giáo phái" → 'lực lượng vũ trang' + 'giáo phái'
+- [vlc-19939] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
+- [uvn-5647] split "phương tiện thông tin đại chúng" → 'phương tiện' + 'thông tin đại chúng'
+- [vlc-4038] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
+- [vlc-9598] split "Mặt trận Tổ quốc Việt Nam" → 'Mặt trận Tổ quốc' + 'Việt Nam'
+- [vlc-121] split "luật tố tụng hình sự" → 'luật' + 'tố tụng hình sự'
+- [vlc-121] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
+- [vlc-2994] split "Đảng Cộng sản Việt Nam" → 'Đảng' + 'Cộng sản' + 'Việt Nam'
+- [vlc-2994] split "Đảng Cộng sản Việt Nam" → 'Đảng' + 'Cộng sản' + 'Việt Nam'
+- [uvw-3692] split "Thanh Tâm Tài Nhân thảo" → 'Thanh Tâm' + 'Tài Nhân' + 'thảo'
+- [uvn-11014] split "Mặt trận Tổ quốc Việt Nam" → 'Mặt trận Tổ quốc' + 'Việt Nam'
+- [vlc-7080] split "Đảng Cộng sản Việt Nam" → 'Đảng' + 'Cộng sản' + 'Việt Nam'
+- [vlc-1414] split "Đảng Cộng sản Việt Nam" → 'Đảng' + 'Cộng sản' + 'Việt Nam'
+- [uvn-15822] split "Chúng sở hữu cơ thể" → 'Chúng' + 'sở hữu' + 'cơ thể'
+- [vlc-14193] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
+- [vlc-15939] split "Mặt trận Tổ quốc Việt Nam" → 'Mặt trận Tổ quốc' + 'Việt Nam'
+- [vlc-17799] split "Bộ Tài nguyên và Môi trường" → 'Bộ' + 'Tài nguyên' + 'và' + 'Môi trường'
+- [vlc-17799] split "Bộ Tài nguyên và Môi trường" → 'Bộ' + 'Tài nguyên' + 'và' + 'Môi trường'
+- [vlc-7359] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
+- [uvn-12995] split "Tổng giám đốc điều hành" → 'Tổng giám đốc' + 'điều hành'
+- [vlc-4115] split "Mặt trận Tổ quốc Việt Nam" → 'Mặt trận Tổ quốc' + 'Việt Nam'
+- [vlc-16369] split "Mặt trận Tổ quốc Việt Nam" → 'Mặt trận Tổ quốc' + 'Việt Nam'
+- [vlc-16369] split "Mặt trận Tổ quốc Việt Nam" → 'Mặt trận Tổ quốc' + 'Việt Nam'
+- [vlc-7736] split "Đảng Cộng sản Việt Nam" → 'Đảng' + 'Cộng sản' + 'Việt Nam'
+- [vlc-7433] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
+- [uvn-2956] split "Đảng Cộng sản Việt Nam" → 'Đảng' + 'Cộng sản' + 'Việt Nam'
+- [vlc-131] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
+- ... and 695 more
 
 ### udd-ws-v1.1-dev.txt
 
-- [vlc-2196] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
-- [uvn-5219] split "The Harmony Đồng Minh Anh" → 'The Harmony' + 'Đồng Minh' + 'Anh'
-- [uvn-19577] split "mạch quang tử tích hợp" → 'mạch' + 'quang' + 'tử' + 'tích hợp'
-- [uvn-15947] split "Bùi Hoàng Phương kỳ vọng" → 'Bùi Hoàng Phương' + 'kỳ vọng'
-- [vlc-17841] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
-- [vlc-13138] split "quyền sở hữu trí tuệ" → 'quyền sở hữu' + 'trí tuệ'
-- [uvn-99] split "Khánh Hoàng Phước Tuấn Ảnh" → 'Khánh' + 'Hoàng' + 'Phước' + 'Tuấn' + 'Ảnh'
-- [vlc-7955] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
-- [vlc-2090] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
-- [vlc-16511] split "Luật Bảo hiểm xã hội" → 'Luật' + 'Bảo hiểm xã hội'
-- [uvw-5886] split "Xã hội Chủ nghĩa Việt Nam" → 'Xã hội Chủ nghĩa' + 'Việt Nam'
-- [vlc-10450] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
-- [uvw-19491] split "Giải vô địch bóng đá châu" → 'Giải vô địch' + 'bóng đá' + 'châu'
-- [uvw-19491] split "Giải vô địch bóng đá châu" → 'Giải vô địch' + 'bóng đá' + 'châu'
-- [uvw-16453] split "Mặt trận Tổ quốc Việt Nam" → 'Mặt trận' + 'Tổ quốc' + 'Việt Nam'
-- [vlc-8188] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
-- [vlc-3804] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
-- [vlc-13775] split "quyền sở hữu trí tuệ" → 'quyền sở hữu' + 'trí tuệ'
-- [vlc-13775] split "luật tố tụng dân sự" → 'luật' + 'tố tụng dân sự'
-- [vlc-19295] split "Mặt trận Tổ quốc Việt Nam" → 'Mặt trận' + 'Tổ quốc' + 'Việt Nam'
-- [uvn-15092] split "kính hiển vi sinh học" → 'kính' + 'hiển' + 'vi' + 'sinh học'
-- [vlc-7484] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
-- [vlc-19947] split "Mặt trận Tổ quốc Việt Nam" → 'Mặt trận' + 'Tổ quốc' + 'Việt Nam'
-- [vlc-19927] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
-- [vlc-16896] split "Luật Bảo hiểm xã hội" → 'Luật' + 'Bảo hiểm xã hội'
-- [vlc-621] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
-- [uvw-7796] split "Xã hội Chủ nghĩa Việt Nam" → 'Xã hội Chủ nghĩa' + 'Việt Nam'
-- [vlc-6731] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
-- [vlc-17800] split "phương tiện thông tin đại chúng" → 'phương tiện' + 'thông tin đại chúng'
-- [vlc-7950] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
-- ... and 31 more
+- [vlc-18372] split "phương tiện thông tin đại chúng" → 'phương tiện' + 'thông tin đại chúng'
+- [vlc-7298] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
+- [vlc-14549] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
+- [vlc-3635] split "Mặt trận Tổ quốc Việt Nam" → 'Mặt trận Tổ quốc' + 'Việt Nam'
+- [vlc-210] split "Đảng Cộng sản Việt Nam" → 'Đảng' + 'Cộng sản' + 'Việt Nam'
+- [vlc-210] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
+- [vlc-17769] split "Tòa án nhân dân tối cao" → 'Tòa án nhân dân' + 'tối cao'
+- [vlc-10450] split "Mặt trận Tổ quốc Việt Nam" → 'Mặt trận Tổ quốc' + 'Việt Nam'
+- [vlc-8980] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
+- [vlc-18762] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
+- [uvw-13677] split "thức ăn biến đổi gen" → 'thức ăn' + 'biến đổi gen'
+- [vlc-8382] split "Viện kiểm sát nhân dân tối cao" → 'Viện kiểm sát' + 'nhân dân' + 'tối cao'
+- [vlc-562] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
+- [uvn-1191] split "quyền sở hữu toàn dân" → 'quyền sở hữu' + 'toàn' + 'dân'
+- [uvw-5987] split "nhà thiên văn nghiệp dư" → 'nhà thiên văn' + 'nghiệp' + 'dư'
+- [uvw-5987] split "nhà thiên văn nghiệp dư" → 'nhà thiên văn' + 'nghiệp' + 'dư'
+- [vlc-11201] split "Mặt trận Tổ quốc Việt Nam" → 'Mặt trận Tổ quốc' + 'Việt Nam'
+- [uvb-f-16068] split "Dương dở khóc dở cười" → 'Dương' + 'dở' + 'khóc' + 'dở' + 'cười'
+- [vlc-11811] split "Viện kiểm sát nhân dân" → 'Viện kiểm sát' + 'nhân dân'
+- [vlc-11811] split "Viện kiểm sát nhân dân" → 'Viện kiểm sát' + 'nhân dân'
+- [uvw-6333] split "phóng vệ tinh nhân tạo" → 'phóng vệ tinh' + 'nhân tạo'
+- [vlc-13552] split "phương tiện thông tin đại chúng" → 'phương tiện' + 'thông tin đại chúng'
+- [vlc-17367] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
+- [vlc-784] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
+- [vlc-375] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
+- [vlc-310] split "Mặt trận Tổ quốc Việt Nam" → 'Mặt trận Tổ quốc' + 'Việt Nam'
+- [vlc-8628] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
+- [uvb-n-18761] split "lý thuyết vi trùng học" → 'lý thuyết' + 'vi trùng' + 'học'
+- [vlc-12944] split "Mặt trận Tổ quốc Việt Nam" → 'Mặt trận Tổ quốc' + 'Việt Nam'
+- [uvb-n-8034] split "phong vũ biểu tâm hồn" → 'phong' + 'vũ' + 'biểu' + 'tâm hồn'
+- ... and 57 more
 
 ### udd-ws-v1.1-test.txt
 
-- [vlc-10034] split "Viện kiểm sát nhân dân" → 'Viện kiểm sát' + 'nhân dân'
-- [uvb-f-461] split "Xã Hội Chủ Nghĩa Anh" → 'Xã Hội Chủ Nghĩa' + 'Anh'
-- [vlc-16618] split "Viện kiểm sát nhân dân tối cao" → 'Viện kiểm sát' + 'nhân dân' + 'tối cao'
-- [uvw-1380] split "Tổng thu nhập quốc dân" → 'Tổng thu' + 'nhập' + 'quốc dân'
-- [vlc-15228] split "Mặt trận Tổ quốc Việt Nam" → 'Mặt trận' + 'Tổ quốc' + 'Việt Nam'
-- [vlc-8925] split "Viện kiểm sát nhân dân" → 'Viện kiểm sát' + 'nhân dân'
-- [vlc-8925] split "Viện kiểm sát nhân dân tối cao" → 'Viện kiểm sát' + 'nhân dân' + 'tối cao'
-- [vlc-18894] split "Bộ Tài nguyên và Môi trường" → 'Bộ' + 'Tài nguyên' + 'và' + 'Môi trường'
-- [vlc-13757] split "quyền sở hữu trí tuệ" → 'quyền sở hữu' + 'trí tuệ'
-- [vlc-11587] split "Luật ban hành văn bản" → 'Luật' + 'ban hành' + 'văn bản'
-- [vlc-19296] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
-- [vlc-16198] split "Bộ Tài nguyên và Môi trường" → 'Bộ' + 'Tài nguyên' + 'và' + 'Môi trường'
-- [vlc-18868] split "Bộ Tài nguyên và Môi trường" → 'Bộ' + 'Tài nguyên' + 'và' + 'Môi trường'
-- [vlc-13097] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
-- [vlc-8917] split "Viện kiểm sát nhân dân" → 'Viện kiểm sát' + 'nhân dân'
-- [vlc-16751] split "Tòa án nhân dân tối cao" → 'Tòa án nhân dân' + 'tối cao'
-- [uvb-n-11178] split "lý thuyết vi trùng học" → 'lý thuyết' + 'vi' + 'trùng' + 'học'
-- [vlc-14758] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
-- [vlc-10398] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
-- [vlc-15065] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
-- [uvw-5867] split "Xã hội chủ nghĩa Việt Nam" → 'Xã hội chủ nghĩa' + 'Việt Nam'
-- [vlc-18922] split "Bộ Tài nguyên và Môi trường" → 'Bộ' + 'Tài nguyên' + 'và' + 'Môi trường'
-- [uvw-7413] split "lực lượng vũ trang giáo phái" → 'lực lượng vũ trang' + 'giáo phái'
-- [uvw-8427] split "Bồ Đào Nha thiết lập" → 'Bồ Đào Nha' + 'thiết lập'
-- [vlc-3487] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
-- [uvw-10867] split "hiện thực xã hội chủ nghĩa" → 'hiện thực' + 'xã hội chủ nghĩa'
-- [vlc-2387] split "Bộ Tài nguyên và Môi trường" → 'Bộ' + 'Tài nguyên' + 'và' + 'Môi trường'
-- [vlc-13758] split "quyền sở hữu trí tuệ" → 'quyền sở hữu' + 'trí tuệ'
-- [uvw-4525] split "Xã hội Chủ nghĩa Việt Nam" → 'Xã hội Chủ nghĩa' + 'Việt Nam'
-- [vlc-10296] split "Viện kiểm sát nhân dân" → 'Viện kiểm sát' + 'nhân dân'
-- ... and 24 more
+- [uvb-n-19086] split "Phù duy bất khả thức" → 'Phù' + 'duy' + 'bất' + 'khả' + 'thức'
+- [vlc-17267] split "Mặt trận Tổ quốc Việt Nam" → 'Mặt trận Tổ quốc' + 'Việt Nam'
+- [vlc-6223] split "Mặt trận Tổ quốc Việt Nam" → 'Mặt trận Tổ quốc' + 'Việt Nam'
+- [vlc-9785] split "Viện kiểm sát nhân dân tối cao" → 'Viện kiểm sát' + 'nhân dân' + 'tối cao'
+- [vlc-16181] split "Bộ Tài nguyên và Môi trường" → 'Bộ' + 'Tài nguyên' + 'và' + 'Môi trường'
+- [vlc-12025] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
+- [vlc-3574] split "Đảng Cộng sản Việt Nam" → 'Đảng' + 'Cộng sản' + 'Việt Nam'
+- [vlc-10711] split "Viện kiểm sát nhân dân tối cao" → 'Viện kiểm sát' + 'nhân dân' + 'tối cao'
+- [uvn-11938] split "Đảng Cộng sản Việt Nam" → 'Đảng' + 'Cộng sản' + 'Việt Nam'
+- [vlc-4389] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
+- [vlc-1254] split "Mặt trận Tổ quốc Việt Nam" → 'Mặt trận Tổ quốc' + 'Việt Nam'
+- [vlc-5002] split "luật tố tụng hình sự" → 'luật' + 'tố tụng hình sự'
+- [uvw-14472] split "nhà thiên văn vật lý" → 'nhà thiên văn' + 'vật lý'
+- [vlc-1994] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
+- [vlc-8312] split "Tổng liên đoàn Lao động" → 'Tổng liên đoàn' + 'Lao động'
+- [uvw-15118] split "Đông Hoài quốc hoàng đế" → 'Đông' + 'Hoài' + 'quốc' + 'hoàng đế'
+- [uvw-15118] split "Hoàn Nhan A Cốt Đả" → 'Hoàn' + 'Nhan' + 'A' + 'Cốt' + 'Đả'
+- [vlc-4206] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
+- [uvw-19136] split "sinh vật biến đổi gen" → 'sinh vật' + 'biến đổi gen'
+- [vlc-3581] split "Mặt trận Tổ quốc Việt Nam" → 'Mặt trận Tổ quốc' + 'Việt Nam'
+- [vlc-1319] split "Đảng Cộng sản Việt Nam" → 'Đảng' + 'Cộng sản' + 'Việt Nam'
+- [vlc-1319] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
+- [vlc-1319] split "Mặt trận Tổ quốc Việt Nam" → 'Mặt trận Tổ quốc' + 'Việt Nam'
+- [uvw-156] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
+- [vlc-6908] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
+- [vlc-2238] split "Mặt trận Tổ quốc Việt Nam" → 'Mặt trận Tổ quốc' + 'Việt Nam'
+- [vlc-14701] split "Mặt trận Tổ quốc Việt Nam" → 'Mặt trận Tổ quốc' + 'Việt Nam'
+- [vlc-14701] split "Mặt trận Tổ quốc Việt Nam" → 'Mặt trận Tổ quốc' + 'Việt Nam'
+- [vlc-16929] split "Mặt trận Tổ quốc Việt Nam" → 'Mặt trận Tổ quốc' + 'Việt Nam'
+- [vlc-870] split "xã hội chủ nghĩa Việt Nam" → 'xã hội chủ nghĩa' + 'Việt Nam'
+- ... and 49 more

src/build_dict_plugin.py

@@ -2,24 +2,27 @@
 # requires-python = ">=3.9"
 # dependencies = []
 # ///
-"""Generate a self-contained HTML dictionary plugin for Label Studio.
+"""Generate dictionary plugin files for Label Studio frontend JS injection.
 
-Produces dict_plugin.html that provides:
-1. Highlight bar: reads sentence text and predicted spans from URL fragment,
-   colors multi-syllable words green (in dict) or red (not in dict)
-2. Search box: instant dictionary search with exact/prefix/substring matches
+Produces three outputs:
+1. dict_data.json — sorted NFC-normalized dictionary entries as a JSON array
+2. dict_plugin.js — floating search panel + auto-lookup on region select
+3. Patches base.html — adds <script> tag in the {% block bottomjs %} block
 
-The full 63K-entry dictionary is embedded as a JS array for client-side lookup.
-Per-task data is passed via URL fragment (#text=...&spans=...) so the ~900KB
-dictionary is loaded once and cached by the browser.
+The JS plugin:
+- Loads dictionary via fetch("/static/dict_data.json") into a Set for O(1) lookup
+- Creates a fixed-position search panel at bottom-right (toggle with 'd' key)
+- Auto-fills search from selected annotation region via Htx.annotationStore polling
+- Only activates on annotation pages (checks window.APP_SETTINGS)
 
 Usage:
     uv run src/build_dict_plugin.py --dict path/to/dictionary.txt
-    uv run src/build_dict_plugin.py  # uses default path
+    uv run src/build_dict_plugin.py --deploy  # also deploys to LS static/templates
 """
 
 import argparse
 import json
+import re
 import unicodedata
 from pathlib import Path
 
@@ -28,11 +31,11 @@ DEFAULT_DICT = (
     "models/word_segmentation/udd_ws_v1_1-20260211_034002/dictionary.txt"
 )
 
-LS_STATIC_DIRS = [
-    "/home/claude-code/.local/share/uv/tools/label-studio/"
-    "lib/python3.12/site-packages/label_studio/core/static_build",
-    "/home/claude-code/projects/workspace_underthesea/label-studio/.venv/"
-    "lib/python3.12/site-packages/label_studio/core/static_build",
+LS_INSTALL_DIRS = [
+    Path("/home/claude-code/.local/share/uv/tools/label-studio/"
+         "lib/python3.12/site-packages/label_studio"),
+    Path("/home/claude-code/projects/workspace_underthesea/label-studio/.venv/"
+         "lib/python3.12/site-packages/label_studio"),
 ]
 
 
@@ -51,220 +54,274 @@ def load_dictionary(dict_path):
     return entries
 
 
-def build_html(entries):
-    # JSON-encode the sorted list for embedding in JS
-    dict_json = json.dumps(entries, ensure_ascii=False)
-
-    return (
-        '<!DOCTYPE html>\n'
-        '<html lang="vi">\n'
-        '<head>\n'
-        '<meta charset="UTF-8">\n'
-        '<style>\n'
-        '* { box-sizing: border-box; margin: 0; padding: 0; }\n'
-        'body { font-family: -apple-system, BlinkMacSystemFont, "Segoe UI", Roboto, sans-serif; }\n'
-        '.highlights {\n'
-        '  padding: 6px 10px;\n'
-        '  font-size: 15px;\n'
-        '  line-height: 1.6;\n'
-        '  background: #fafafa;\n'
-        '  border-bottom: 1px solid #e0e0e0;\n'
-        '  cursor: default;\n'
-        '}\n'
-        '.highlights .word {\n'
-        '  cursor: pointer;\n'
-        '}\n'
-        '.highlights .word:hover {\n'
-        '  background: #e3f2fd;\n'
-        '  border-radius: 3px;\n'
-        '}\n'
-        '.highlights .in-dict {\n'
-        '  background: #c8e6c9;\n'
-        '  padding: 1px 3px;\n'
-        '  border-radius: 3px;\n'
-        '  cursor: pointer;\n'
-        '}\n'
-        '.highlights .not-dict {\n'
-        '  background: #ffcdd2;\n'
-        '  padding: 1px 3px;\n'
-        '  border-radius: 3px;\n'
-        '  text-decoration: underline;\n'
-        '  text-decoration-color: red;\n'
-        '  cursor: pointer;\n'
-        '}\n'
-        '.search-area {\n'
-        '  padding: 6px 10px;\n'
-        '}\n'
-        '.search-box {\n'
-        '  display: flex;\n'
-        '  gap: 6px;\n'
-        '  align-items: center;\n'
-        '}\n'
-        '.search-box input {\n'
-        '  flex: 1;\n'
-        '  padding: 5px 10px;\n'
-        '  font-size: 14px;\n'
-        '  border: 1px solid #ccc;\n'
-        '  border-radius: 4px;\n'
-        '  outline: none;\n'
-        '}\n'
-        '.search-box input:focus { border-color: #4CAF50; }\n'
-        '.search-box .count {\n'
-        '  font-size: 12px;\n'
-        '  color: #888;\n'
-        '  white-space: nowrap;\n'
-        '}\n'
-        '#results {\n'
-        '  max-height: 200px;\n'
-        '  overflow-y: auto;\n'
-        '  font-size: 14px;\n'
-        '}\n'
-        '.section { padding: 4px 0; }\n'
-        '.section-title {\n'
-        '  font-size: 11px;\n'
-        '  font-weight: 600;\n'
-        '  color: #888;\n'
-        '  text-transform: uppercase;\n'
-        '  padding: 2px 0;\n'
-        '}\n'
-        '.match { padding: 1px 0; }\n'
-        '.match.exact { font-weight: 600; color: #2e7d32; }\n'
-        '.match mark { background: #fff9c4; padding: 0 1px; border-radius: 2px; }\n'
-        '.no-results { color: #999; padding: 4px 0; }\n'
-        '.hidden { display: none; }\n'
-        '</style>\n'
-        '</head>\n'
-        '<body>\n'
-        '<div class="highlights" id="highlights"></div>\n'
-        '<div class="search-area">\n'
-        '  <div class="search-box">\n'
-        '    <input type="text" id="q" placeholder="Search dictionary..." autocomplete="off">\n'
-        '    <span class="count" id="dict-count"></span>\n'
-        '  </div>\n'
-        '  <div id="results" class="hidden"></div>\n'
-        '</div>\n'
-        '\n'
-        '<script>\n'
-        'const DICT = ' + dict_json + ';\n'
-        'const DICT_LOWER = DICT.map(e => e.toLowerCase());\n'
-        'const DICT_SET = new Set(DICT_LOWER);\n'
-        'document.getElementById("dict-count").textContent = DICT.length.toLocaleString() + " entries";\n'
-        '\n'
-        '// --- Highlight bar: read params from URL fragment ---\n'
-        'function parseFragment() {\n'
-        '  const hash = decodeURIComponent(location.hash.slice(1));\n'
-        '  const params = {};\n'
-        '  for (const part of hash.split("&")) {\n'
-        '    const eq = part.indexOf("=");\n'
-        '    if (eq > 0) params[part.slice(0, eq)] = part.slice(eq + 1);\n'
-        '  }\n'
-        '  return params;\n'
-        '}\n'
-        '\n'
-        'function escHtml(s) {\n'
-        '  return s.replace(/&/g, "&amp;").replace(/</g, "&lt;").replace(/>/g, "&gt;");\n'
-        '}\n'
-        '\n'
-        'function renderHighlights() {\n'
-        '  const params = parseFragment();\n'
-        '  const text = params.text || "";\n'
-        '  const el = document.getElementById("highlights");\n'
-        '  if (!text) { el.classList.add("hidden"); return; }\n'
-        '  el.classList.remove("hidden");\n'
-        '\n'
-        '  let spans;\n'
-        '  try { spans = JSON.parse(params.spans || "[]"); } catch(e) { spans = []; }\n'
-        '\n'
-        '  if (!spans.length) {\n'
-        '    el.innerHTML = escHtml(text);\n'
-        '    return;\n'
-        '  }\n'
-        '\n'
-        '  let html = "";\n'
-        '  let prev = 0;\n'
-        '  for (const sp of spans) {\n'
-        '    const [start, end] = sp;\n'
-        '    if (start > prev) html += escHtml(text.slice(prev, start));\n'
-        '    const word = text.slice(start, end);\n'
-        '    const nSyl = word.split(" ").length;\n'
-        '    if (nSyl === 1) {\n'
-        '      html += \'<span class="word" onclick="fillSearch(this)">\' + escHtml(word) + "</span>";\n'
-        '    } else {\n'
-        '      const inDict = DICT_SET.has(word.toLowerCase());\n'
-        '      const cls = inDict ? "in-dict" : "not-dict";\n'
-        '      html += \'<span class="\' + cls + \'" onclick="fillSearch(this)">\' + escHtml(word) + "</span>";\n'
-        '    }\n'
-        '    prev = end;\n'
-        '  }\n'
-        '  if (prev < text.length) html += escHtml(text.slice(prev));\n'
-        '  el.innerHTML = html;\n'
-        '}\n'
-        '\n'
-        'function fillSearch(el) {\n'
-        '  const q = document.getElementById("q");\n'
-        '  q.value = el.textContent;\n'
-        '  q.focus();\n'
-        '  doSearch();\n'
-        '}\n'
-        '\n'
-        'renderHighlights();\n'
-        '\n'
-        '// --- Dictionary search ---\n'
-        'const input = document.getElementById("q");\n'
-        'const resultsDiv = document.getElementById("results");\n'
-        'let debounceTimer;\n'
-        'input.addEventListener("input", () => {\n'
-        '  clearTimeout(debounceTimer);\n'
-        '  debounceTimer = setTimeout(doSearch, 150);\n'
-        '});\n'
-        '\n'
-        'function doSearch() {\n'
-        '  const q = input.value.trim().toLowerCase();\n'
-        '  if (!q) { resultsDiv.classList.add("hidden"); return; }\n'
-        '  const exact = [], prefix = [], substring = [];\n'
-        '  const MAX = 50;\n'
-        '  for (let i = 0; i < DICT_LOWER.length; i++) {\n'
-        '    const e = DICT_LOWER[i];\n'
-        '    if (e === q) exact.push(i);\n'
-        '    else if (e.startsWith(q)) { if (prefix.length < MAX) prefix.push(i); }\n'
-        '    else if (e.includes(q)) { if (substring.length < MAX) substring.push(i); }\n'
-        '    if (prefix.length >= MAX && substring.length >= MAX && exact.length > 0) break;\n'
-        '  }\n'
-        '  let h = "";\n'
-        '  if (exact.length > 0) {\n'
-        '    h += \'<div class="section"><div class="section-title">Exact</div>\';\n'
-        '    for (const i of exact) h += \'<div class="match exact">\' + hl(DICT[i], q) + "</div>";\n'
-        '    h += "</div>";\n'
-        '  }\n'
-        '  if (prefix.length > 0) {\n'
-        '    h += \'<div class="section"><div class="section-title">Prefix (\' + prefix.length + ")</div>";\n'
-        '    for (const i of prefix) h += \'<div class="match">\' + hl(DICT[i], q) + "</div>";\n'
-        '    h += "</div>";\n'
-        '  }\n'
-        '  if (substring.length > 0) {\n'
-        '    h += \'<div class="section"><div class="section-title">Contains (\' + substring.length + ")</div>";\n'
-        '    for (const i of substring) h += \'<div class="match">\' + hl(DICT[i], q) + "</div>";\n'
-        '    h += "</div>";\n'
-        '  }\n'
-        '  if (!h) h = \'<div class="no-results">No matches</div>\';\n'
-        '  resultsDiv.innerHTML = h;\n'
-        '  resultsDiv.classList.remove("hidden");\n'
-        '}\n'
-        '\n'
-        'function hl(text, query) {\n'
-        '  const idx = text.toLowerCase().indexOf(query);\n'
-        '  if (idx < 0) return escHtml(text);\n'
-        '  return escHtml(text.slice(0, idx)) + "<mark>" + escHtml(text.slice(idx, idx + query.length)) + "</mark>" + escHtml(text.slice(idx + query.length));\n'
-        '}\n'
-        '</script>\n'
-        '</body>\n'
-        '</html>'
-    )
+def build_dict_data_json(entries):
+    return json.dumps(entries, ensure_ascii=False)
+
+
+def build_dict_plugin_js():
+    return r"""(function() {
+  "use strict";
+
+  // Only activate on annotation pages
+  if (!window.APP_SETTINGS || !window.APP_SETTINGS.project) return;
+
+  var DICT_SET = null;
+  var DICT_LOWER = null;
+  var dictLoaded = false;
+
+  // Load dictionary
+  fetch("/static/dict_data.json")
+    .then(function(r) { return r.json(); })
+    .then(function(entries) {
+      DICT_LOWER = entries.map(function(e) { return e.toLowerCase(); });
+      DICT_SET = new Set(DICT_LOWER);
+      dictLoaded = true;
+      if (countEl) countEl.textContent = entries.length.toLocaleString() + " entries";
+      console.log("[dict-plugin] Loaded " + entries.length + " dictionary entries");
+    })
+    .catch(function(err) {
+      console.error("[dict-plugin] Failed to load dictionary:", err);
+    });
+
+  // --- Create floating panel ---
+  var panel = document.createElement("div");
+  panel.id = "dict-plugin-panel";
+  panel.innerHTML = [
+    '<div class="dp-header">',
+    '  <span class="dp-title">Dictionary</span>',
+    '  <span class="dp-status" id="dp-status"></span>',
+    '  <span class="dp-count" id="dp-count"></span>',
+    '  <button class="dp-close" id="dp-close" title="Close (d)">&times;</button>',
+    '</div>',
+    '<div class="dp-search">',
+    '  <input type="text" id="dp-input" placeholder="Search dictionary..." autocomplete="off">',
+    '</div>',
+    '<div class="dp-results" id="dp-results"></div>'
+  ].join("\n");
+  document.body.appendChild(panel);
+
+  // --- Styles ---
+  var style = document.createElement("style");
+  style.textContent = [
+    '#dict-plugin-panel {',
+    '  position: fixed; bottom: 16px; right: 16px; width: 340px;',
+    '  background: #fff; border: 1px solid #ccc; border-radius: 8px;',
+    '  box-shadow: 0 4px 16px rgba(0,0,0,0.15); z-index: 10000;',
+    '  font-family: -apple-system, BlinkMacSystemFont, "Segoe UI", Roboto, sans-serif;',
+    '  font-size: 14px; display: flex; flex-direction: column;',
+    '  max-height: 400px; overflow: hidden;',
+    '}',
+    '#dict-plugin-panel.dp-hidden { display: none; }',
+    '.dp-header {',
+    '  display: flex; align-items: center; padding: 8px 12px;',
+    '  border-bottom: 1px solid #eee; gap: 8px;',
+    '}',
+    '.dp-title { font-weight: 600; font-size: 13px; }',
+    '.dp-status {',
+    '  font-size: 12px; padding: 1px 6px; border-radius: 3px;',
+    '  white-space: nowrap;',
+    '}',
+    '.dp-status.in-dict { background: #c8e6c9; color: #2e7d32; }',
+    '.dp-status.not-dict { background: #ffcdd2; color: #c62828; }',
+    '.dp-count { font-size: 11px; color: #999; margin-left: auto; }',
+    '.dp-close {',
+    '  background: none; border: none; font-size: 18px; cursor: pointer;',
+    '  color: #999; padding: 0 4px; line-height: 1;',
+    '}',
+    '.dp-close:hover { color: #333; }',
+    '.dp-search { padding: 8px 12px; }',
+    '.dp-search input {',
+    '  width: 100%; padding: 6px 10px; font-size: 14px;',
+    '  border: 1px solid #ddd; border-radius: 4px; outline: none;',
+    '  box-sizing: border-box;',
+    '}',
+    '.dp-search input:focus { border-color: #4CAF50; }',
+    '.dp-results {',
+    '  padding: 4px 12px 8px; overflow-y: auto; max-height: 260px;',
+    '}',
+    '.dp-section { padding: 2px 0; }',
+    '.dp-section-title {',
+    '  font-size: 11px; font-weight: 600; color: #888;',
+    '  text-transform: uppercase; padding: 2px 0;',
+    '}',
+    '.dp-match { padding: 1px 0; font-size: 13px; }',
+    '.dp-match.exact { font-weight: 600; color: #2e7d32; }',
+    '.dp-match mark { background: #fff9c4; padding: 0 1px; border-radius: 2px; }',
+    '.dp-no-results { color: #999; padding: 4px 0; font-size: 13px; }'
+  ].join("\n");
+  document.head.appendChild(style);
+
+  var input = document.getElementById("dp-input");
+  var resultsDiv = document.getElementById("dp-results");
+  var statusEl = document.getElementById("dp-status");
+  var countEl = document.getElementById("dp-count");
+  var closeBtn = document.getElementById("dp-close");
+
+  // --- Toggle visibility ---
+  var visible = true;
+  function togglePanel() {
+    visible = !visible;
+    panel.classList.toggle("dp-hidden", !visible);
+    if (visible) input.focus();
+  }
+  closeBtn.addEventListener("click", togglePanel);
+
+  // Keyboard shortcut: 'd' to toggle (only when not typing in an input)
+  document.addEventListener("keydown", function(e) {
+    if (e.key === "d" && !e.ctrlKey && !e.altKey && !e.metaKey) {
+      var tag = (e.target.tagName || "").toLowerCase();
+      if (tag !== "input" && tag !== "textarea" && !e.target.isContentEditable) {
+        e.preventDefault();
+        togglePanel();
+      }
+    }
+  });
+
+  // --- Search with debounce ---
+  var debounceTimer;
+  input.addEventListener("input", function() {
+    clearTimeout(debounceTimer);
+    debounceTimer = setTimeout(doSearch, 150);
+  });
+
+  function escHtml(s) {
+    return s.replace(/&/g, "&amp;").replace(/</g, "&lt;").replace(/>/g, "&gt;");
+  }
+
+  function highlight(text, query) {
+    var idx = text.toLowerCase().indexOf(query);
+    if (idx < 0) return escHtml(text);
+    return escHtml(text.slice(0, idx)) + "<mark>" +
+      escHtml(text.slice(idx, idx + query.length)) + "</mark>" +
+      escHtml(text.slice(idx + query.length));
+  }
+
+  function doSearch() {
+    if (!dictLoaded) return;
+    var q = input.value.trim().toLowerCase();
+    if (!q) { resultsDiv.innerHTML = ""; updateStatus(q); return; }
+
+    updateStatus(q);
+
+    var exact = [], prefix = [], substring = [];
+    var MAX = 20;
+    for (var i = 0; i < DICT_LOWER.length; i++) {
+      var e = DICT_LOWER[i];
+      if (e === q) exact.push(i);
+      else if (e.startsWith(q)) { if (prefix.length < MAX) prefix.push(i); }
+      else if (e.indexOf(q) >= 0) { if (substring.length < MAX) substring.push(i); }
+      if (prefix.length >= MAX && substring.length >= MAX && exact.length > 0) break;
+    }
+
+    var h = "";
+    if (exact.length > 0) {
+      h += '<div class="dp-section"><div class="dp-section-title">Exact</div>';
+      for (var j = 0; j < exact.length; j++)
+        h += '<div class="dp-match exact">' + highlight(DICT_LOWER[exact[j]], q) + '</div>';
+      h += '</div>';
+    }
+    if (prefix.length > 0) {
+      h += '<div class="dp-section"><div class="dp-section-title">Prefix (' + prefix.length + ')</div>';
+      for (var j = 0; j < prefix.length; j++)
+        h += '<div class="dp-match">' + highlight(DICT_LOWER[prefix[j]], q) + '</div>';
+      h += '</div>';
+    }
+    if (substring.length > 0) {
+      h += '<div class="dp-section"><div class="dp-section-title">Contains (' + substring.length + ')</div>';
+      for (var j = 0; j < substring.length; j++)
+        h += '<div class="dp-match">' + highlight(DICT_LOWER[substring[j]], q) + '</div>';
+      h += '</div>';
+    }
+    if (!h) h = '<div class="dp-no-results">No matches</div>';
+    resultsDiv.innerHTML = h;
+  }
+
+  function updateStatus(query) {
+    if (!query || !DICT_SET) {
+      statusEl.textContent = "";
+      statusEl.className = "dp-status";
+      return;
+    }
+    if (DICT_SET.has(query)) {
+      statusEl.textContent = "\u2713 in dict";
+      statusEl.className = "dp-status in-dict";
+    } else {
+      statusEl.textContent = "\u2717 not found";
+      statusEl.className = "dp-status not-dict";
+    }
+  }
+
+  // --- Auto-lookup on region select ---
+  var lastRegionText = "";
+  setInterval(function() {
+    if (!dictLoaded || !visible) return;
+    try {
+      var store = window.Htx && window.Htx.annotationStore;
+      if (!store) return;
+      var sel = store.selected;
+      if (!sel) return;
+      var regions = sel.regionStore && sel.regionStore.regions;
+      if (!regions) return;
+
+      // Find selected region
+      var selectedRegion = null;
+      for (var i = 0; i < regions.length; i++) {
+        if (regions[i].selected) { selectedRegion = regions[i]; break; }
+      }
+      if (!selectedRegion) {
+        if (lastRegionText) { lastRegionText = ""; }
+        return;
+      }
+
+      var text = selectedRegion.text || "";
+      if (text && text !== lastRegionText) {
+        lastRegionText = text;
+        input.value = text;
+        doSearch();
+      }
+    } catch(e) {
+      // Silently ignore — store structure may vary
+    }
+  }, 300);
+})();
+"""
+
+
+def patch_base_html(base_html_path):
+    """Patch base.html to include dict_plugin.js in the bottomjs block.
+
+    Adds <script src="/static/dict_plugin.js"></script> before {% endblock %}
+    in the bottomjs block. Idempotent — skips if already patched.
+    """
+    content = base_html_path.read_text(encoding="utf-8")
+
+    script_tag = '<script src="/static/dict_plugin.js"></script>'
+    if script_tag in content:
+        print(f"  Already patched: {base_html_path}")
+        return False
+
+    # Find {% endblock %} that closes {% block bottomjs %}
+    # Insert the script tag before the last {% endblock %} in the file
+    pattern = r'([ \t]*)({% endblock %})\s*$'
+    match = list(re.finditer(pattern, content, re.MULTILINE))
+    if not match:
+        print(f"  WARNING: Could not find {{% endblock %}} in {base_html_path}")
+        return False
+
+    # Use the last match (the bottomjs endblock is at the end of the file)
+    m = match[-1]
+    indent = m.group(1)
+    insert_pos = m.start()
+    patched = content[:insert_pos] + indent + script_tag + "\n" + content[insert_pos:]
+
+    base_html_path.write_text(patched, encoding="utf-8")
+    print(f"  Patched: {base_html_path}")
+    return True
 
 
 def main():
     parser = argparse.ArgumentParser(
-        description="Generate dictionary plugin HTML for Label Studio"
+        description="Generate dictionary plugin for Label Studio (JS injection)"
     )
     parser.add_argument(
         "--dict",
@@ -272,14 +329,14 @@ def main():
         help=f"Path to dictionary.txt (default: {DEFAULT_DICT})",
     )
     parser.add_argument(
-        "--output",
-        default="src/dict_plugin.html",
-        help="Output HTML path (default: src/dict_plugin.html)",
+        "--output-dir",
+        default="src",
+        help="Output directory for generated files (default: src)",
     )
     parser.add_argument(
         "--deploy",
         action="store_true",
-        help="Also copy to LS static_build directory",
+        help="Deploy to LS static_build + patch base.html",
     )
     args = parser.parse_args()
 
@@ -288,26 +345,58 @@ def main():
         print(f"ERROR: {dict_path} not found")
         return
 
+    # Load dictionary
     entries = load_dictionary(dict_path)
     print(f"Loaded {len(entries)} dictionary entries from {dict_path}")
 
-    html_content = build_html(entries)
-    output_path = Path(args.output)
-    output_path.parent.mkdir(parents=True, exist_ok=True)
-    output_path.write_text(html_content, encoding="utf-8")
+    # Generate dict_data.json
+    output_dir = Path(args.output_dir)
+    output_dir.mkdir(parents=True, exist_ok=True)
 
-    size_kb = output_path.stat().st_size / 1024
-    print(f"Written {output_path} ({size_kb:.0f} KB)")
+    json_path = output_dir / "dict_data.json"
+    json_content = build_dict_data_json(entries)
+    json_path.write_text(json_content, encoding="utf-8")
+    json_kb = json_path.stat().st_size / 1024
+    print(f"Written {json_path} ({json_kb:.0f} KB, {len(entries)} entries)")
 
+    # Generate dict_plugin.js
+    js_path = output_dir / "dict_plugin.js"
+    js_content = build_dict_plugin_js()
+    js_path.write_text(js_content, encoding="utf-8")
+    js_kb = js_path.stat().st_size / 1024
+    print(f"Written {js_path} ({js_kb:.0f} KB)")
+
+    # Deploy
     if args.deploy:
         import shutil
-        for static_dir in LS_STATIC_DIRS:
-            deploy_path = Path(static_dir) / "dict_plugin.html"
-            if deploy_path.parent.exists():
-                shutil.copy2(output_path, deploy_path)
-                print(f"Deployed to {deploy_path}")
+        print("\nDeploying to Label Studio installations:")
+        for ls_dir in LS_INSTALL_DIRS:
+            static_dir = ls_dir / "core" / "static_build"
+            templates_dir = ls_dir / "templates"
+
+            if not static_dir.exists():
+                print(f"  SKIP: {static_dir} not found")
+                continue
+
+            # Copy dict_data.json and dict_plugin.js to static_build
+            shutil.copy2(json_path, static_dir / "dict_data.json")
+            print(f"  Deployed dict_data.json -> {static_dir}")
+
+            shutil.copy2(js_path, static_dir / "dict_plugin.js")
+            print(f"  Deployed dict_plugin.js -> {static_dir}")
+
+            # Remove old dict_plugin.html if it exists
+            old_html = static_dir / "dict_plugin.html"
+            if old_html.exists():
+                old_html.unlink()
+                print(f"  Removed old dict_plugin.html")
+
+            # Patch base.html
+            base_html = templates_dir / "base.html"
+            if base_html.exists():
+                patch_base_html(base_html)
             else:
-                print(f"WARNING: {deploy_path.parent} not found, skipping")
+                print(f"  WARNING: {base_html} not found")
 
 
 if __name__ == "__main__":

src/dict_plugin.js

@@ -0,0 +1,225 @@
+(function() {
+  "use strict";
+
+  // Only activate on annotation pages
+  if (!window.APP_SETTINGS || !window.APP_SETTINGS.project) return;
+
+  var DICT_SET = null;
+  var DICT_LOWER = null;
+  var dictLoaded = false;
+
+  // Load dictionary
+  fetch("/static/dict_data.json")
+    .then(function(r) { return r.json(); })
+    .then(function(entries) {
+      DICT_LOWER = entries.map(function(e) { return e.toLowerCase(); });
+      DICT_SET = new Set(DICT_LOWER);
+      dictLoaded = true;
+      if (countEl) countEl.textContent = entries.length.toLocaleString() + " entries";
+      console.log("[dict-plugin] Loaded " + entries.length + " dictionary entries");
+    })
+    .catch(function(err) {
+      console.error("[dict-plugin] Failed to load dictionary:", err);
+    });
+
+  // --- Create floating panel ---
+  var panel = document.createElement("div");
+  panel.id = "dict-plugin-panel";
+  panel.innerHTML = [
+    '<div class="dp-header">',
+    '  <span class="dp-title">Dictionary</span>',
+    '  <span class="dp-status" id="dp-status"></span>',
+    '  <span class="dp-count" id="dp-count"></span>',
+    '  <button class="dp-close" id="dp-close" title="Close (d)">&times;</button>',
+    '</div>',
+    '<div class="dp-search">',
+    '  <input type="text" id="dp-input" placeholder="Search dictionary..." autocomplete="off">',
+    '</div>',
+    '<div class="dp-results" id="dp-results"></div>'
+  ].join("\n");
+  document.body.appendChild(panel);
+
+  // --- Styles ---
+  var style = document.createElement("style");
+  style.textContent = [
+    '#dict-plugin-panel {',
+    '  position: fixed; bottom: 16px; right: 16px; width: 340px;',
+    '  background: #fff; border: 1px solid #ccc; border-radius: 8px;',
+    '  box-shadow: 0 4px 16px rgba(0,0,0,0.15); z-index: 10000;',
+    '  font-family: -apple-system, BlinkMacSystemFont, "Segoe UI", Roboto, sans-serif;',
+    '  font-size: 14px; display: flex; flex-direction: column;',
+    '  max-height: 400px; overflow: hidden;',
+    '}',
+    '#dict-plugin-panel.dp-hidden { display: none; }',
+    '.dp-header {',
+    '  display: flex; align-items: center; padding: 8px 12px;',
+    '  border-bottom: 1px solid #eee; gap: 8px;',
+    '}',
+    '.dp-title { font-weight: 600; font-size: 13px; }',
+    '.dp-status {',
+    '  font-size: 12px; padding: 1px 6px; border-radius: 3px;',
+    '  white-space: nowrap;',
+    '}',
+    '.dp-status.in-dict { background: #c8e6c9; color: #2e7d32; }',
+    '.dp-status.not-dict { background: #ffcdd2; color: #c62828; }',
+    '.dp-count { font-size: 11px; color: #999; margin-left: auto; }',
+    '.dp-close {',
+    '  background: none; border: none; font-size: 18px; cursor: pointer;',
+    '  color: #999; padding: 0 4px; line-height: 1;',
+    '}',
+    '.dp-close:hover { color: #333; }',
+    '.dp-search { padding: 8px 12px; }',
+    '.dp-search input {',
+    '  width: 100%; padding: 6px 10px; font-size: 14px;',
+    '  border: 1px solid #ddd; border-radius: 4px; outline: none;',
+    '  box-sizing: border-box;',
+    '}',
+    '.dp-search input:focus { border-color: #4CAF50; }',
+    '.dp-results {',
+    '  padding: 4px 12px 8px; overflow-y: auto; max-height: 260px;',
+    '}',
+    '.dp-section { padding: 2px 0; }',
+    '.dp-section-title {',
+    '  font-size: 11px; font-weight: 600; color: #888;',
+    '  text-transform: uppercase; padding: 2px 0;',
+    '}',
+    '.dp-match { padding: 1px 0; font-size: 13px; }',
+    '.dp-match.exact { font-weight: 600; color: #2e7d32; }',
+    '.dp-match mark { background: #fff9c4; padding: 0 1px; border-radius: 2px; }',
+    '.dp-no-results { color: #999; padding: 4px 0; font-size: 13px; }'
+  ].join("\n");
+  document.head.appendChild(style);
+
+  var input = document.getElementById("dp-input");
+  var resultsDiv = document.getElementById("dp-results");
+  var statusEl = document.getElementById("dp-status");
+  var countEl = document.getElementById("dp-count");
+  var closeBtn = document.getElementById("dp-close");
+
+  // --- Toggle visibility ---
+  var visible = true;
+  function togglePanel() {
+    visible = !visible;
+    panel.classList.toggle("dp-hidden", !visible);
+    if (visible) input.focus();
+  }
+  closeBtn.addEventListener("click", togglePanel);
+
+  // Keyboard shortcut: 'd' to toggle (only when not typing in an input)
+  document.addEventListener("keydown", function(e) {
+    if (e.key === "d" && !e.ctrlKey && !e.altKey && !e.metaKey) {
+      var tag = (e.target.tagName || "").toLowerCase();
+      if (tag !== "input" && tag !== "textarea" && !e.target.isContentEditable) {
+        e.preventDefault();
+        togglePanel();
+      }
+    }
+  });
+
+  // --- Search with debounce ---
+  var debounceTimer;
+  input.addEventListener("input", function() {
+    clearTimeout(debounceTimer);
+    debounceTimer = setTimeout(doSearch, 150);
+  });
+
+  function escHtml(s) {
+    return s.replace(/&/g, "&amp;").replace(/</g, "&lt;").replace(/>/g, "&gt;");
+  }
+
+  function highlight(text, query) {
+    var idx = text.toLowerCase().indexOf(query);
+    if (idx < 0) return escHtml(text);
+    return escHtml(text.slice(0, idx)) + "<mark>" +
+      escHtml(text.slice(idx, idx + query.length)) + "</mark>" +
+      escHtml(text.slice(idx + query.length));
+  }
+
+  function doSearch() {
+    if (!dictLoaded) return;
+    var q = input.value.trim().toLowerCase();
+    if (!q) { resultsDiv.innerHTML = ""; updateStatus(q); return; }
+
+    updateStatus(q);
+
+    var exact = [], prefix = [], substring = [];
+    var MAX = 20;
+    for (var i = 0; i < DICT_LOWER.length; i++) {
+      var e = DICT_LOWER[i];
+      if (e === q) exact.push(i);
+      else if (e.startsWith(q)) { if (prefix.length < MAX) prefix.push(i); }
+      else if (e.indexOf(q) >= 0) { if (substring.length < MAX) substring.push(i); }
+      if (prefix.length >= MAX && substring.length >= MAX && exact.length > 0) break;
+    }
+
+    var h = "";
+    if (exact.length > 0) {
+      h += '<div class="dp-section"><div class="dp-section-title">Exact</div>';
+      for (var j = 0; j < exact.length; j++)
+        h += '<div class="dp-match exact">' + highlight(DICT_LOWER[exact[j]], q) + '</div>';
+      h += '</div>';
+    }
+    if (prefix.length > 0) {
+      h += '<div class="dp-section"><div class="dp-section-title">Prefix (' + prefix.length + ')</div>';
+      for (var j = 0; j < prefix.length; j++)
+        h += '<div class="dp-match">' + highlight(DICT_LOWER[prefix[j]], q) + '</div>';
+      h += '</div>';
+    }
+    if (substring.length > 0) {
+      h += '<div class="dp-section"><div class="dp-section-title">Contains (' + substring.length + ')</div>';
+      for (var j = 0; j < substring.length; j++)
+        h += '<div class="dp-match">' + highlight(DICT_LOWER[substring[j]], q) + '</div>';
+      h += '</div>';
+    }
+    if (!h) h = '<div class="dp-no-results">No matches</div>';
+    resultsDiv.innerHTML = h;
+  }
+
+  function updateStatus(query) {
+    if (!query || !DICT_SET) {
+      statusEl.textContent = "";
+      statusEl.className = "dp-status";
+      return;
+    }
+    if (DICT_SET.has(query)) {
+      statusEl.textContent = "\u2713 in dict";
+      statusEl.className = "dp-status in-dict";
+    } else {
+      statusEl.textContent = "\u2717 not found";
+      statusEl.className = "dp-status not-dict";
+    }
+  }
+
+  // --- Auto-lookup on region select ---
+  var lastRegionText = "";
+  setInterval(function() {
+    if (!dictLoaded || !visible) return;
+    try {
+      var store = window.Htx && window.Htx.annotationStore;
+      if (!store) return;
+      var sel = store.selected;
+      if (!sel) return;
+      var regions = sel.regionStore && sel.regionStore.regions;
+      if (!regions) return;
+
+      // Find selected region
+      var selectedRegion = null;
+      for (var i = 0; i < regions.length; i++) {
+        if (regions[i].selected) { selectedRegion = regions[i]; break; }
+      }
+      if (!selectedRegion) {
+        if (lastRegionText) { lastRegionText = ""; }
+        return;
+      }
+
+      var text = selectedRegion.text || "";
+      if (text && text !== lastRegionText) {
+        lastRegionText = text;
+        input.value = text;
+        doSearch();
+      }
+    } catch(e) {
+      // Silently ignore — store structure may vary
+    }
+  }, 300);
+})();

src/ls_config_ws.xml

@@ -1,9 +1,8 @@
 <View>
   <Header value="Word Segmentation: Select each word as a span. Multi-syllable words = one span."/>
   <Header value="Sentence: $sent_id | Rank: $rank" size="4"/>
-  <View style="border:1px solid #e0e0e0; border-radius:8px; overflow:hidden; margin-bottom:8px">
-    <HyperText name="dict_view" value="$dict_iframe" inline="true"/>
-  </View>
+  <Header value="Dictionary: green = in dict, red = NOT in dict" size="5"/>
+  <HyperText name="dict_view" value="$dict_html"/>
   <Labels name="label" toName="text" choice="single">
     <Label value="W" background="#4CAF50" hotkey="w"/>
     <Label value="WH" background="#2196F3" hotkey="h"/>

src/ls_import_ws.py

@@ -12,10 +12,9 @@ When --model is provided, computes per-span confidence scores from CRF
 marginal probabilities. Each word span gets score = min confidence across
 its syllables, so words with any uncertain boundary get a low score.
 
-When --dict is provided (standalone or auto-detected from model dir),
-generates dict_html field with dictionary match highlights:
-  green = multi-syllable span in dictionary
-  pink/red = multi-syllable span NOT in dictionary
+When --dict is provided (standalone or auto-detected from model dir):
+- dict_html: inline styled spans (green = in dict, red = NOT in dict)
+- meta.dict: dict status shown in Region Details when a span is selected
 
 Usage:
     uv run src/ls_import_ws.py [--validate]
@@ -24,11 +23,11 @@ Usage:
 """
 
 import argparse
+import html
 import json
 import sys
 import unicodedata
 from pathlib import Path
-from urllib.parse import quote
 
 
 def parse_bio_file(filepath):
@@ -215,31 +214,58 @@ def add_dict_meta(spans, dictionary):
                 span["meta"] = meta
 
 
-def build_dict_iframe(spans, text):
-    """Build an iframe tag pointing to the dictionary plugin page.
+def build_dict_html(spans, text, dictionary):
+    """Build inline HTML with colored spans showing dictionary status.
 
-    Encodes the sentence text and span positions in the URL fragment so the
-    plugin page can render highlights and search without a server round-trip.
-    The ~900KB dictionary page is loaded once and cached by the browser.
+    Multi-syllable words are colored green (in dict) or red (not in dict).
+    Single-syllable words are shown without color.
 
     Args:
         spans: list of span dicts from bio_to_spans()
         text: the sentence text
+        dictionary: set of NFC-normalized lowercase dictionary entries
 
     Returns:
-        HTML iframe tag string for the HyperText panel
+        HTML string for the HyperText panel
     """
-    # Encode spans as compact [start, end] pairs
-    span_pairs = [
-        [s["value"]["start"], s["value"]["end"]] for s in spans
-    ]
-    spans_json = json.dumps(span_pairs, separators=(",", ":"))
-
-    fragment = f"text={quote(text, safe='')}&spans={quote(spans_json, safe='')}"
-    return (
-        f"<iframe src='/static/dict_plugin.html#{fragment}'"
-        f" width='100%' height='180' style='border:none'></iframe>"
-    )
+    parts = []
+    prev_end = 0
+
+    for span in spans:
+        start = span["value"]["start"]
+        end = span["value"]["end"]
+        span_text = span["value"]["text"]
+        n_syllables = span_text.count(" ") + 1
+
+        # Add any gap text (spaces between spans)
+        if start > prev_end:
+            parts.append(html.escape(text[prev_end:start]))
+
+        escaped = html.escape(span_text)
+        if n_syllables > 1:
+            normalized = nfc(span_text.lower().strip())
+            in_dict = normalized in dictionary
+            if in_dict:
+                parts.append(
+                    f'<span style="background:#c8e6c9;padding:1px 3px;'
+                    f'border-radius:3px">{escaped}</span>'
+                )
+            else:
+                parts.append(
+                    f'<span style="background:#ffcdd2;padding:1px 3px;'
+                    f'border-radius:3px;text-decoration:underline;'
+                    f'text-decoration-color:red">{escaped}</span>'
+                )
+        else:
+            parts.append(escaped)
+
+        prev_end = end
+
+    # Trailing text
+    if prev_end < len(text):
+        parts.append(html.escape(text[prev_end:]))
+
+    return '<div style="font-size:15px;line-height:1.8;padding:4px 0">' + " ".join(parts) + "</div>"
 
 
 def validate_spans(spans, text, syllables):
@@ -445,11 +471,11 @@ def main():
         # Task-level prediction score = 1 - AL uncertainty score
         pred_score = round(1.0 - row["score"], 6)
 
-        # Add dictionary metadata to spans + build iframe for search
-        dict_iframe = ""
+        # Add dictionary metadata to spans + build inline HTML
+        dict_html = ""
         if dictionary:
             add_dict_meta(spans, dictionary)
-            dict_iframe = build_dict_iframe(spans, text)
+            dict_html = build_dict_html(spans, text, dictionary)
 
         task = {
             "data": {
@@ -458,7 +484,7 @@ def main():
                 "rank": row["rank"],
                 "file": split,
                 "sent_idx": sent_idx,
-                "dict_iframe": dict_iframe,
+                "dict_html": dict_html,
             },
             "predictions": [{
                 "model_version": "silver_crf_v1.1",

udd-ws-v1.1-train.conllu

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:46e72f621aea374546b2623fa204b61188eba0ba6294373be840f6ae17b924af
-size 55097167
+oid sha256:b9d03e5e2b7d628c68701a4c42f71b319f69790b6c3d0f7e74adcc90a2ce41b5
+size 58568648

udd-ws-v1.1-train.txt

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:6813dd255f69b2aab95307b857efd4aeae5f9998a66cae87891303b99df8b52d
-size 33868610
+oid sha256:5f96a698acd5bc306bdfb52f79e348feb3eededaab8006e3423a0146230b2c18
+size 35961491