File size: 949 Bytes
930aad0 093b382 930aad0 093b382 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 |
quantization method,hardware,bits
AQLM,CPU,1
AQLM,CPU,2
AQLM,CUDA GPU,1
AQLM,CUDA GPU,2
AWQ,CPU,4
AWQ,CUDA GPU,4
AWQ,ROCm GPU,4
bitsandbytes,CUDA GPU,4
bitsandbytes,CUDA GPU,8
compressed-tensors,CPU,1
compressed-tensors,CPU,8
compressed-tensors,CUDA GPU,1
compressed-tensors,CUDA GPU,8
compressed-tensors,ROCm GPU,1
compressed-tensors,ROCm GPU,8
EETQ,CUDA GPU,8
GGUF,CPU,1
GGUF,CPU,8
GGUF,CUDA GPU,1
GGUF,CUDA GPU,8
GGUF,Apple Silicon,1
GGUF,Apple Silicon,8
GPTQ,CUDA GPU,2
GPTQ,CUDA GPU,3
GPTQ,CUDA GPU,4
GPTQ,CUDA GPU,8
GPTQ,ROCm GPU,2
GPTQ,ROCm GPU,3
GPTQ,ROCm GPU,4
GPTQ,ROCm GPU,8
HQQ,CPU,1
HQQ,CPU,8
HQQ,CUDA GPU,1
HQQ,CUDA GPU,8
HIGGS,CUDA GPU,2
HIGGS,CUDA GPU,4
optimum-quanto,CPU,2
optimum-quanto,CPU,4
optimum-quanto,CPU,8
optimum-quanto,CUDA GPU,2
optimum-quanto,CUDA GPU,4
optimum-quanto,CUDA GPU,8
FBGEMM_FP8,CUDA GPU,8
torchao,CUDA GPU,4
torchao,CUDA GPU,8
VPTQ,CUDA GPU,1
VPTQ,CUDA GPU,8 |