license: apache-2.0

通义千问Qwen3-30B-A3B-GPTQ-Int4量化

基础模型 通义千问3-30B-A3B

最近更新

2025-05-08
fix (model.layers.*.mlp.gate) are not quantized

依赖

vllm==0.8.5

SDK下载

#安装ModelScope
pip install modelscope

#SDK模型下载
from modelscope import snapshot_download
model_dir = snapshot_download('JunHowie/Qwen3-30B-A3B-GPTQ-Int4')

Git下载

#Git模型下载
git clone https://www.modelscope.cn/JunHowie/Qwen3-30B-A3B-GPTQ-Int4.git

如果您是本模型的贡献者，我们邀请您根据模型贡献文档，及时完善模型卡片内容。