Update tokenizer.json
Browse files- tokenizer.json +6 -2
tokenizer.json
CHANGED
|
@@ -2586,7 +2586,9 @@
|
|
| 2586 |
"wer": 2541,
|
| 2587 |
"Ġnami": 2542,
|
| 2588 |
"Ġubra": 2543,
|
| 2589 |
-
"kacji": 2544
|
|
|
|
|
|
|
| 2590 |
},
|
| 2591 |
"merges": [
|
| 2592 |
"i e",
|
|
@@ -5003,7 +5005,9 @@
|
|
| 5003 |
"w er",
|
| 5004 |
"Ġna mi",
|
| 5005 |
"Ġu bra",
|
| 5006 |
-
"ka cji"
|
|
|
|
|
|
|
| 5007 |
]
|
| 5008 |
}
|
| 5009 |
}
|
|
|
|
| 2586 |
"wer": 2541,
|
| 2587 |
"Ġnami": 2542,
|
| 2588 |
"Ġubra": 2543,
|
| 2589 |
+
"kacji": 2544,
|
| 2590 |
+
"jÄħÅĤ": 2545,
|
| 2591 |
+
"Ġkur": 2646
|
| 2592 |
},
|
| 2593 |
"merges": [
|
| 2594 |
"i e",
|
|
|
|
| 5005 |
"w er",
|
| 5006 |
"Ġna mi",
|
| 5007 |
"Ġu bra",
|
| 5008 |
+
"ka cji",
|
| 5009 |
+
"jÄħ ÅĤ",
|
| 5010 |
+
"Ġku r"
|
| 5011 |
]
|
| 5012 |
}
|
| 5013 |
}
|