transformers
peft
bitsandbytes
auto-gptq
optimum
einops
accelerate