26B:
hf download unsloth/gemma-4-26B-A4B-it-qat-GGUF --local-dir ./gemma-4-26b --include "*.gguf"

12B:

下载主模型（推荐 Q4_K_M 版本，性能与体积平衡）

hf download bartowski/gemma-4-12B-it-GGUF --local-dir ./gemma-4-12b --include "gemma-4-12B-it-Q4_K_M.gguf"

下载视觉编码器（必须，让模型能看图）

hf download unsloth/gemma-4-12b-it-GGUF --local-dir ./gemma-4-12b --include "mmproj-F16.gguf"