Remeinium/WWHO
Feature Extraction • Updated
Datasets:
text string |
|---|
අනික ගෑනු ලමයින්ට තරහා වුනු කෙනෙක්ව අමතක වෙන්නේම නෑලුනේ නේද senna අයියේ. |
එක්කෙනෙක් හරි කියෙව්වත් ලියනවා කියල තරයේම හිතා ගත්තේ . |
सीरिया मे रूस की खास दिलचस्पी है, इसलिए आइएसआइएल व जभात अल-नुसरा का जिक्र हुआ। |
? |
Samsung Galaxy S10e Exynos एक फीचर पैक स्मार्टफोन है, यही कारण है कि यह अनिवार्य रूप से शीर्ष 128 जीबी स्टोरेज के साथ वायरलेस चार्जिग फ़ोन जिनकी कीमत 50000 रुपये से कम है मे से एक बन जाता है। |
\nThe speech also references Harrison Bergeron, the short story by Kurt Vonnegut, Jr. |
ඒ කෙල්ලන්ගේ හැටි |
DAR'S CRAFTY CREATIONS: CSSC47 - 3B's\nJacquel December 16, 2008 at 8:33 PM\nBeautiful. |
මෙම ඇගයීම පිළිබඳව අදහස් දක්වන Huawei පාරිභෝගික ව්යාපාර සමූහයේ ස්මාර්ට්ෆෝන් අංශයේ උප සභාපති බෘස් ලි මහතා පෙන්වා දුන්නේ තම සෑම නිෂ්පාදනයක් තුලින්ම පාරිභෝගිකයා අපේක්ෂා කළ විශේෂාග හඳුන්වා දීමට අපේක්ෂා කරනවා මෙන්ම සිය තරඟකරුවන්ට ද අත්දැකීමක් ලබාදීමට කටයුතු කරන බවයි. |
. |
එහෙත් ඒ සංකල්පය 2001දී යෝජනා කළේ අමෙරිකාවේ මේරිලන්ඞ් සරසවියේ භෞතික විද්යා මහාචාර්යවරයකු ලෙස සේවය කරන ඉන්දියානු ජාතික සතින්දර් මොහාන් භගත්. |
अलाभकारी कृषि से उन पर और कर्ज़ चढ़ेगा, किसान आत्महत्याओं मे और तेजी से वृद्धि होगी. |
\nअभी भी पर्याप्त बाल्टिक शानदार बयान नही है . |
ඉවාන් හරක් මස් බයිට් එකක් කාල , ඌට හරක්මස් කියන්නෙ අපි මිනීමස් කෑව වගේ. |
टीएनटी समतुल्य मे एक किलोग्राम तक की क्षमता वाला एक विस्फोटक उपकरण। |
\nजय ने प्रतीक को दी गाली\nजय से एक बार फिर गाली सुनकर प्रतीक बौखला जाते है और जय को गाली न देने की चेतावनी देता है. |
සැබෑ Roulette දුර වඩාත් ආකර්ෂණීය වෙනත් ඕනෑම ක්රීඩා වඩා ඇත. |
මහා එළියක් වගේ කියලා හිතලා ඇහැ ඇරලා බැලුවා. |
. |
ප්රාදේශීය දේශපාලනඥයන් රැසක් පදනම් හදාගෙන කෝටි ගණන් ගරලා නෝමන් පලිහවඩන ආණ්ඩුවේ සහ විපක්ෂයේ ප්රාදේශීය දේශපාලනඥයන් ඔවුන්ගේ නම් වලින් පිහිටුවාගෙන ඇති සමාජ සත්කාරක ආයතන (පදනම්) මගින් මහා පරිමාණ මූල්ය වංචා සිදුව ඇති බැවින් ඒ පිළිබඳව ජනාධිපති විමර්ශන |
जो मृत्यु के क्षण मे भी हमारे साथ है और मृत्यु के बाद भी. |
Home > පුවත් |
මේ web site (UDPixel) එකේ තියන පොඩි software එකෙන් ඒ වැඩේ ලේසියෙන්ම කරන්න පුළුවන්. |
මරියතුමී දර්ශනය උනු නගරේ නම දාලා තමා ඒ විදිහට නම් වැටිලා තියෙන්නේ,,ඇත්තටම ඔය ෆාතිමා නගරය කියලා පෘතුගාලේ නගරයක් තියනවා ඒ නගරේ තිබුනු ස්තානයක දර්ශනය උනු නිසා තමා එහෙම නම වැටුනේ,මේ විදිහටයි ඒ නගරේ ලියවෙන්නේ fàtima |
\nPosted: September 06 2008 at 18:42\nOriginally posted by birdwithteeth11ELP for sure. |
A new or unassigned network was detected on Realtek RTL 8139/810X Family Fast Ethernet NIC - Packet Schedules Miniport Adaptor. |
ज्यामिति मे सब कुछ सिद्ध नही होता है, इस प्रकार हम कुछ डाक का उपयोग करते है , जो कि मूल धारणा या अप्रमाणित सामान्य कथन है जिन्हे हम स्वीकार करते है। |
එදා ඉඳල මේ ක්ෂේත්රයේ හැම දේකටම මට ඔහුගෙන් ලැබෙන්නෙ ලොකු සහයෝගයක්. |
\nसम्पर्क सूत्र - श्री विनय. |
3idiots ෆිල්ම් එකත් මේ වගේ පණිවිඩයක් දනවා. |
එල එල. |
\nदिशा मामले मे पुलिस ने भरपूर जल्दबाज़ी दिखाई है, जिसका परिणाम ये है कि अब कोई कभी नही जान पायेगा कि एनकाउंटर मे मारे गए लोग सच मे दोषी थे या इन्हे जल्दबाज़ी मे सिर्फ शक़ के आधार पर गिरफ्तार किया गया था. |
Once the wax deposits take in vibrant colors like vivid red, green, yellow or soft penetrate the soil deeply enough. |
यह कलेक्शन और भी शानदार इसलिए हो जाता है क्योकि इसकी टक्कर मे मास अपील वाली यमला पगला दीवाना फिर से थी। |
उलटफेर के लिए चर्चित रही है यह सीट, अबकी बार प्रत्याशियो की भरमार, जाने जरमुडी विधानसभा क्षेत्र का लेखा-जोखा\nDec 12 2019 7:37AM\nBy Prabhat Khabar | Updated Date: Dec 12 2019 7:37AM\nदुमका : जरमुडी विधानसभा क्षेत्र 1962 मे स्वतंत्र रूप से अस्तित्व मे आया था. |
सफलता का स्वाद! |
\nस्प्रिग फील्ड राइफल, इनफील्ड राइफल, सेमी ऑटोमेटिक एम-1 ग्रारनेड राइफल, सेमी आटोमेटिक जानसन राइफल, फैमेज माउजर और विभिन्न प्रकार की मशीनगन मे इन कारतूसो का प्रयोग किया जा सकता है. |
The artichokes, therefore, used to be eaten after at least 24 hours of fasting. |
a peoplecentric आधारित partnership build करने के लिए हममे mutual respect पर निर्दिष्ट mutual विश्वास होना चाहिए और हमे अपनेअपने राजनीतिक और सामजिक दायित्वो का better मूल्याकन करना चाहिए। |
लगभग का मतलब ये कि वे छत्तीसगढ़ भवन ही सही, है तो दिल्ली मे। |
क्या आप प्रक्रियाओं मे शामिल होना पसंद करते है या क्या आप बीज के पौधे को पसंद करते है और चीजो को दूरी से बढ़ते देखना पसंद करते है? |
මෙතනින් අපිට alarm එකේ වෙලාවේ හෝරාව select කරන්න ඕනේ. |
हमे उम्मीद थी कि लालू प्रसाद यादव जेल से बाहर आ जाएंगे. |
. |
water pollution मे मुख्य योगदान औद्योगिक effluents और sewage का है। |
You can purchase these beautiful crowns or make your own in flower crown making class that you do for your hen do. |
ස්ත්රී පුරුෂ මූත්ර රෝග, මූත්ර දැවිල්ල, මූත්ර පිටවීමේ අසීරුතා සඳහා |
BJP in trouble due to kisan andolan in delhi - किसान आंदोलन: बीजेपी मुश्किल मे, सियासी नुक़सान का डर - Satya Hindi\nहिदुस्तान की किसान राजनीति का बड़ा केद्र है दिल्ली के आस-पास लगने वाले राज्य और इलाक़े। |
\n5) It’s like the guy who plays Ted, wakes up, rubs his eyes, and says “F’ it. |
शीतल नाम का अर्थ, राशि, शुभ अंक जानिए — Ink Sea\nMeaning of Sheetal ढूढ रहे है तो आप सही जगह पर है। |
නානුඔය - නුවරඑලිය - රාගල දක්වා ගමන් කල සුප්රසිද්ධ උඩුපුස්සැල්ලාව මාර්ගයද ඉන් එකකි. |
com/examples/censorship-on-the-internet-schools-and-the-role-of-parents/ |
मेदर्शको इस programme पर highlights डाला गया maintenance production और various devices है कि solar energy पर work करते है solar cooker solar ड्रायर घरेलू और औद्योगिक पानी हीटर्स की तरह काम कर रहा है |
අතුරුදන් වූවන් පිළිබඳ කාර්යාල පනත ගෙන එන අවස්ථාවේ එසේ හඬ නැඟූ+ ඇය ඉන් පසුවද අවස්ථා කිහිපයකදීම එල්ටීටීඊ ත්රස්තවාදය සාධාරණීකරණය කරමින් බෙදුම්වාදය වෙනුවෙන් පෙනී සිටින්නට වූවාය. |
सबसे ज्यादा सर्च की गई शख्सियतो मे तीसरा नाम इस 88 साल की उम्र मे गुजर जाने वाले दुनियाभर मे मशहूर पाकिस्तान के समाजसेवी अब्दुल सत्तार ईधी रहे। |
ගෝටා ජනාධිපතිවරණයට සූදානම් ! |
\nजापानी गुणवत्ता के लिए एक नया झटका\nराइजिग सन की भूमि मे बड़ी धातु कंपनी कोबे स्टील के साथ घोटाले के बाद अब भड़क रही है, हमे सोचना चाहिए, मित्सुबिशी सामग्री के साथ कोई कम जोर का घोटाला नही। |
ඇගේ ආත්ම ශක්තියක් ගොඩක් ඉහළයි ඇය ඒක හොදින් කලා එහෙම කිව්වේ නිෂි ගැන සතුටු වුනු නරඹන්නෙක්. |
जहागीर और शाहजहा के जमाने मे भी यहा इमारते बनी लेकिन लखनऊ की वास्तविक उन्नति तो नवाबी काल मे हुई. |
\nwhole loaf without obtaining any results from it. |
. |
” වසන්න කිව්වා. |
ඉන් අනතුරුව ඔහු චාවකච්චේරි පාසලක ළමුන් පන්සියයකට සපත්තු ලබා දීමේ වැඩසටහනකට ද එක් විය. |
136 135 134 133 131 126 119 solubility of -- x x x x x x x retained sample in sulfuric acid Y/X -- -- -- -- -- -- -- --\n As seen from Examples 8, 9, 12, and 13 and Comparative examples 13, and 15 to 17, comparison of the polyamide samples having the same composition of an equimolar salt of aliphatic diamine and tereph... |
. |
When told of my status, the 2 things we instantly questioned were; once I ‘m going to perish? |
यह 25-मिमी बोर्ड, वाष्प अवरोध, साथ ही सलाखो पर आधारित हो सकता है, जिसका क्रॉस-सेक्शन 100x100 मिमी है। |
ඒ පිළිබඳව . |
हालाकि उन्होने शॉ लेने का प्रयास किया, लेकिन वह बहुत भारी था। |
इस तरह के शब्द है kantselyarizmami. |
කලකට පසුව අමතමි _ I'm back again :D |
ඇලෝසියස් රැ. |
\nOverall, about half of these students are classified as English learners whereas half are considered Fluent English Proficient (FEP). |
සීනි සහිත ආහාර සීමා කිරීම වැදගත් වනුයේ ඉන් රුධිරයේ සීනි මට්ටම ඉතා වේගයෙන් වෙනස් වන නිසා, එය දරුවාට අහිතකර විය හැකි නිසා ය. |
\n4 Tips to Win Your Motorcycle Accident Case\n1. |
. |
इसमे जिक की अत्यधिक मात्रा पाई जाती है जो आपकी त्वचा की रंगत निखरने मे मदद करता है. |
com | bjp-state-in-charge-d-purandeswari-react-on-discipline\nरायपुर. |
\nटैग: Preschooler बेबी रसोई\nजुड़वा बच्चो के लिए घुमक्कड़ - सबसे दिलचस्प मॉडल का अवलोकन\nन्यूरोसिस के विकास के जोखिम पर परिवार का क्या प्रभाव है? |
” |
The duo will be performing in select Asian cities before going back to do their sold out UK tour, including Singapore at the Marina Bay Street Circuit at the Esplanade Outdoor Theatre (Zone 4) on the 21st of September. |
मगर लॉन्चिग से पहले इस गाड़ी के स्पेक्स लीक हुए है. |
आम तौर पर ज्यादातर बाजारो मे व्यापार करने के लिए अलग-अलग तरीके होते है। |
\nदिवंगत महान भविष्यवक्ता, बिगगी स्मॉल, रैप किया गया\n“यह सब एक सपना था, मै वर्ड अप पढ़ता था! |
The most devoted of them will join the lines before dawn. |
Add and Retrieve Data|Documentation\nRetrieving Data from Cells\nIn Accessing Cells of a Worksheet, we discussed basic approaches for accessing cells in a worksheet. |
එසේම ශ්රී ලංකාවේ වත්මන් ආර්ථික අර්බුදයට මුල් වූ ව්යූහාත්මක හේතූන් ආමන්ත්රණය කිරීමද සිදු විය යුතු බව එම නිවේදනයේ වැඩි දුරටත් සඳහන් වේ. |
\nगुरुवार, 15 जुलाई 2010\nमुस्लिम क्यो करते है हज यात्रा? |
यदि मकान मे बीम ऎसी जगह हो जिसके कारण आप मानसिक तनाव महसूस करते हो तो बीम से उत्पन्न होने वाले दोषो से बचाव के लिए यह उपाय अपना सकते है। |
In 2016 wordcamp europe sold 2,199 tickets and organizers completely free newest online dating sites for men in australia expect to sell more than 3,000 this year. |
उन्होने ये बयान एक कार्यक्रम के दौरान दिया है जो सोशल मीडिया पर अब खूब ट्रोल हो रहा है। |
\nValue For The Money: They say you get what you pay for. |
minor से दिखने वाले differences बडे से बडे ग़ुणो पर भारी पड्ते है। |
. |
\nस्वीग डे ट्रेडिग (Swing Trading) के फायदे अप्रैल 26, 2018\nBinary. |
2 කියන්නේ ඔටෝ ip දෙනවද නැද්ද කියන එක තෝරන එක |
इस लेख के माध्यम से हम नंगे पैर मंदिर जाने के महत्व पर गौर करेगे। |
කැප්ටන් ටිම් ලැන්කැස්ටර්ගේ කමිසය ගැලවී ගොස් තිබුණු අතර ඔහුගේ දෙපාවලින් ගුවන් යානය දෙසට නැවී ගොස් තිබුණි. |
How this isn’t a red flag is beyond me. |
\nक्राइस्टचर्च मे मौजूद बाग्लादेश क्रिकेट टीम का न्यूजीलैड के साथ होने वाला तीसरा और अंतिम टेस्ट मैच यहा मस्जिदो मे गोलीबारी के मद्देनजर रद्द कर दिया गया. |
End of preview. Expand in Data Studio
Separate before you Compress
The Next Architectural Primitive in Tokenization
Large language models remain linguistically blind to Abugida scripts. Byte-Pair Encoding and its descendants routinely shatter complex conjuncts — atomic multi-codepoint grapheme clusters that constitute the fundamental phonetic units of Indic and Southeast Asian writing systems — into meaningless sub-character fragments. The result is degraded reasoning, inflated inference costs, and a systemic “Token Tax” that disproportionately burdens more than one billion speakers.
WWHO (Where-What-How Often) introduces the clean separation of concerns the field has been missing.
By decoupling linguistic structural constraints from statistical compression, WWHO builds a unified meta-vocabulary space:
- Layer 1 (Where): Code-Switching Router
A linear $O(N)$ block scanner that evaluates characters in $O(1)$ time to inherently identify script boundaries, routing Latin text to proven frontier tokenizers (likeo200k_base) while sending Abugida text for specialized processing. - Layer 2 (What): LinguisTrie
Enforces linguistic integrity by construction: a DFA based syllabifier segments raw Unicode into well-formed syllables with a formal zero-breakage guarantee. - Layer 3 (How Often): SGPE & Meta-Vocabulary
Performs statistical pair merging exclusively over this linguistically sound stream, safely projecting the resulting tokens into a unified, mathematically offset ID space.
Sinhala and Devanagari serve as the high-complexity proofs-of-concept. The same architecture generalizes directly to Tamil, Khmer, Myanmar, and the broader Abugida family.
Multi-Script Stratified Benchmarks (122.2M Characters)
We evaluated WWHO against frontier models across a 1.5 million sentence code-switched corpus containing Sinhala, Hindi (Devanagari), and English.
1. Sinhala Efficiency
| Tokenizer | Tokens | TWR | Chr/Tok | % Reduction |
|---|---|---|---|---|
| SGPE(WWHO) | 6,654,288 | 1.274 | 4.83 | - |
| OpenAI (o200k_base) | 17,360,196 | 3.324 | 1.85 | 61.7% |
| Llama 4 Scout | 18,157,707 | 3.476 | 1.77 | 63.4% |
| DeepSeek V3 | 29,152,698 | 5.581 | 1.10 | 77.2% |
2. Hindi (Devanagari) Efficiency
| Tokenizer | Tokens | TWR | Chr/Tok | % Reduction |
|---|---|---|---|---|
| SGPE(WWHO) | 13,433,554 | 1.181 | 4.29 | - |
| OpenAI (o200k_base) | 18,394,075 | 1.617 | 3.13 | 27.0% |
| Llama 4 Scout | 19,566,121 | 1.720 | 2.94 | 31.3% |
| DeepSeek V3 | 31,682,218 | 2.786 | 1.82 | 57.6% |
3. English
| Tokenizer | Tokens | TWR | Chr/Tok | % Reduction |
|---|---|---|---|---|
| SGPE(WWHO) | 7,240,147 | 1.330 | 4.46 | - |
| OpenAI (o200k_base) | 7,420,527 | 1.364 | 4.35 | 2.4% |
| Llama 4 Scout | 7,512,843 | 1.381 | 4.30 | 3.6% |
| DeepSeek V3 | 7,904,670 | 1.453 | 4.09 | 8.4% |
(Note: Because WWHO routes Latin text directly to the native Tiktoken sequence, English performance is mathematically identical. The minor delta in total tokens emerges solely from boundary crossing mechanics.)
4. Overall (Mixed-Script)
| Tokenizer | Tokens | TWR | Chr/Tok | % Reduction |
|---|---|---|---|---|
| SGPE(WWHO) | 27,327,989 | 1.240 | 4.47 | - |
| OpenAI (o200k_base) | 43,174,798 | 1.959 | 2.83 | 36.7% |
| Llama 4 Scout | 45,236,671 | 2.053 | 2.70 | 39.6% |
| DeepSeek V3 | 68,739,586 | 3.119 | 1.78 | 60.2% |
- Zero-Breakage Guarantee: Validated through exhaustive testing permutations across all supported Abugida scripts (0 violations).
- Full-corpus reconstruction: 1.5M code-switched sentences encoded and decoded with 0 non-UNK mismatches.
- UNK rate: 0.08 % (restricted strictly to rare compounds without violating structural boundaries).
WWHO radically compresses the context window for Abugida text, effectively ending the Token Tax without penalizing existing state-of-the-art programming and reasoning capabilities.
Quick Start with Hugging Face
from transformers import AutoTokenizer
tokenizer = AutoTokenizer.from_pretrained("remeinium/SGPE")
text = "ආයුබෝවන් ශ්රී ලංකා"
tokens = tokenizer.tokenize(text)
# ['ආයුබෝවන්', ' ශ්රී', ' ලංකා']
print(tokenizer.encode(text))
Resources
- Pre-trained Tokenizer: Hugging Face
- Cleaned Training Corpus: Hugging Face
- Full Code & Evaluation Harness: GitHub
License
Apache License 2.0 — see LICENSE.
Citations
Title: Separate Before You Compress: The WWHO Tokenization Architecture
Author: Kusal Darshana
Year: 2026
DOI/ArXiv: 2603.25309
View BibTeX
@article{darshana2026separate,
title={Separate Before You Compress: The {WWHO} Tokenization Architecture},
author={Darshana, Kusal},
eprint={2603.25309},
eprinttype={arxiv},
year={2026}
}
Remeinium Research | Remeinium AI | Intelligence for a Greater Tomorrow
- Downloads last month
- 37
Models trained or fine-tuned on Remeinium/WWHO_30m