Update README.md
Browse files
README.md
CHANGED
|
@@ -27,3 +27,7 @@ Transformers现已支持QWEN模型去量化，但是仍有一个重要的修改
|
|
| 27 |
### 好用吗？
|
| 28 |
|
| 29 |
使用Q6K模型去量化，模型精度肯定不如F16模型，对于推理产生的结果未进行测试。
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 27 |
### 好用吗？
|
| 28 |
|
| 29 |
使用Q6K模型去量化，模型精度肯定不如F16模型，对于推理产生的结果未进行测试。
|
| 30 |
+
|
| 31 |
+
### 其他问题
|
| 32 |
+
|
| 33 |
+
去量化后发现tokenizer的词表发生变化，不知道是否会对使用产生影响，你可以使用QWEN1.5模型中的词表替换这部分数据。
|