Update tokenizer_config.json
Browse files- tokenizer_config.json +2 -2
tokenizer_config.json
CHANGED
|
@@ -8025,8 +8025,8 @@
|
|
| 8025 |
"[SYSTEM_PROMPT]",
|
| 8026 |
"[/SYSTEM_PROMPT]",
|
| 8027 |
"[TOOL_CONTENT]",
|
| 8028 |
-
"<
|
| 8029 |
-
"<
|
| 8030 |
"<SPECIAL_22>",
|
| 8031 |
"<SPECIAL_23>",
|
| 8032 |
"<SPECIAL_24>",
|
|
|
|
| 8025 |
"[SYSTEM_PROMPT]",
|
| 8026 |
"[/SYSTEM_PROMPT]",
|
| 8027 |
"[TOOL_CONTENT]",
|
| 8028 |
+
"<|im_start|>",
|
| 8029 |
+
"<|im_end|>",
|
| 8030 |
"<SPECIAL_22>",
|
| 8031 |
"<SPECIAL_23>",
|
| 8032 |
"<SPECIAL_24>",
|