国际Gemma

Gemma 3-27B

Google Gemma 3 27B,强大的多模态能力,支持视觉理解

Google·27.4B 参数·Dense·发布于 2025-03

你的硬件评估

正在检测硬件...
未知
参数量

27.4B

上下文长度

128K tokens

架构

Dense

最低显存

16.7 GB

Q4_K_M 量化

量化选项

4 种

适用场景

对话视觉推理

量化版本对比

格式位宽所需显存质量预估速度状态
Q4_K_M4-bit16.7 GB
良好
未知
Q6_K6-bit21.6 GB
优秀
未知
Q8_08-bit28.2 GB
优秀
未知
F1616-bit54.8 GB
无损
未知

显存需求一览

Q4_K_M
16.7 GB
Q6_K
21.6 GB
Q8_0
28.2 GB
F16
54.8 GB

资源链接

推荐硬件配置

Q4_K_M建议 ≥ 20 GB 显存(模型 16.7 GB + 15% 余量)
Q6_K建议 ≥ 25 GB 显存(模型 21.6 GB + 15% 余量)
Q8_0建议 ≥ 33 GB 显存(模型 28.2 GB + 15% 余量)
F16建议 ≥ 64 GB 显存(模型 54.8 GB + 15% 余量)