給大佬的話
#1
by
win10
- opened
什么样的数据？我其实没有懂
什么样的数据？我其实没有懂
超長哈希表檢索數據
應該能產生單步感應頭
理論上可以提高上下文精密檢索的能力
什么样的数据？我其实没有懂
大佬注意單條數據可以超過1m tokens
这个练起来有点困难
我可能没有办法微调这套数据
即使使用infctx
即使使用infctx
可以設置的, 從1m到128k很靈活的
主要是训练周期会大幅度延长，而我现在没有机器空闲
主要是训练周期会大幅度延长，而我现在没有机器空闲
沒事大佬可以等, rwkv v8正式推出在抽空嘗試看看
rwkv8会增强超长文本能力，到时候可能官方会做
另外，目前我有一些idea可能和你目前的这个idea有些类似，是用一种特定分类的数据集强化上下文信息关联性的，后续可能会发到我的Labs
rwkv8会增强超长文本能力，到时候可能官方会做
我倒是希望官方能拿這玩意去試看看4m上下文
但他們還有很多工作要做
另外，目前我有一些idea可能和你目前的这个idea有些类似，是用一种特定分类的数据集强化上下文信息关联性的，后续可能会发到我的Labs
也許可以合作?
或许可以合作交流
或许可以合作交流
太棒了, 我對於rwkv架構方面還是新手來著
還請見諒
我是个经验主义者，对rwkv架构并没有太多了解，更多专注于语料制作和微调
在Discord频道我想你已经见过我说话了