metadata
license: mit
python hash_context_sft_generator.py --num-hash-pairs 100000 --num-samples 5000 --format-style arrow_comma --advanced --max-pairs-per-sample 50000
目前的命令單條數據的長度在rwkv v7 g1 分詞器上具有 693,472 tokens
python convert_to_jsonl.py ultra_long_context_sft_data.json formatted_data.jsonl
此命令用於將格式化為rwkv所用的純文本格式.