能压缩一个8卡H20能部署的版本吗?

#3
by thesby - opened

这个模型太大了,部署太消耗资源,能辛苦大佬搞个能 H20 部署的版本吗?

Sign up or log in to comment