| license: mit | |
| ``` | |
| python hash_context_sft_generator.py --num-hash-pairs 100000 --num-samples 5000 --format-style arrow_comma --advanced --max-pairs-per-sample 50000 | |
| ``` | |
| 目前的命令單條數據的長度在rwkv v7 g1 分詞器上具有 693,472 tokens | |
| ``` | |
| python convert_to_jsonl.py ultra_long_context_sft_data.json formatted_data.jsonl | |
| ``` | |
| 此命令用於將格式化為rwkv所用的純文本格式. |