Upload quantization.csv
Browse files- quantization.csv +5 -1
quantization.csv
CHANGED
|
@@ -33,6 +33,8 @@ HQQ,CPU,1
|
|
| 33 |
HQQ,CPU,8
|
| 34 |
HQQ,CUDA GPU,1
|
| 35 |
HQQ,CUDA GPU,8
|
|
|
|
|
|
|
| 36 |
optimum-quanto,CPU,2
|
| 37 |
optimum-quanto,CPU,4
|
| 38 |
optimum-quanto,CPU,8
|
|
@@ -41,4 +43,6 @@ optimum-quanto,CUDA GPU,4
|
|
| 41 |
optimum-quanto,CUDA GPU,8
|
| 42 |
FBGEMM_FP8,CUDA GPU,8
|
| 43 |
torchao,CUDA GPU,4
|
| 44 |
-
torchao,CUDA GPU,8
|
|
|
|
|
|
|
|
|
| 33 |
HQQ,CPU,8
|
| 34 |
HQQ,CUDA GPU,1
|
| 35 |
HQQ,CUDA GPU,8
|
| 36 |
+
HIGGS,CUDA GPU,2
|
| 37 |
+
HIGGS,CUDA GPU,4
|
| 38 |
optimum-quanto,CPU,2
|
| 39 |
optimum-quanto,CPU,4
|
| 40 |
optimum-quanto,CPU,8
|
|
|
|
| 43 |
optimum-quanto,CUDA GPU,8
|
| 44 |
FBGEMM_FP8,CUDA GPU,8
|
| 45 |
torchao,CUDA GPU,4
|
| 46 |
+
torchao,CUDA GPU,8
|
| 47 |
+
VPTQ,CUDA GPU,1
|
| 48 |
+
VPTQ,CUDA GPU,8
|