后续DeepSeek更新发版,建议同步发布官方DeepSeek量化版(如AWQ、INT4等),进一步降低资源要求

#71
by chenyuqiang - opened

现在DeepSeek全精度版本,资源要求太高,部署难度和资源要求都太高,第三方量化模型不能保证效果。

Sign up or log in to comment