Googleのgemma-3-4b-itをgguf変換したものです。
imatrix量子化時にはTFMC/imatrix-dataset-for-japanese-llmのデータセットを用いています。
Chat template
4-bit
5-bit
6-bit
8-bit
Base model