国产Apache 2.0

Qwen3-8B

通义千问 Qwen3 8B,轻量高效,适合日常对话和轻度推理

Alibaba·8.2B 参数·Dense·发布于 2025-04

你的硬件评估

正在检测硬件...
未知
参数量

8.2B

上下文长度

128K tokens

架构

Dense

最低显存

5 GB

Q4_K_M 量化

量化选项

4 种

适用场景

对话代码

量化版本对比

格式位宽所需显存质量预估速度状态
Q4_K_M4-bit5 GB
良好
未知
Q6_K6-bit6.4 GB
优秀
未知
Q8_08-bit8.4 GB
优秀
未知
F1616-bit16.4 GB
无损
未知

显存需求一览

Q4_K_M
5 GB
Q6_K
6.4 GB
Q8_0
8.4 GB
F16
16.4 GB

资源链接

推荐硬件配置

Q4_K_M建议 ≥ 6 GB 显存(模型 5 GB + 15% 余量)
Q6_K建议 ≥ 8 GB 显存(模型 6.4 GB + 15% 余量)
Q8_0建议 ≥ 10 GB 显存(模型 8.4 GB + 15% 余量)
F16建议 ≥ 19 GB 显存(模型 16.4 GB + 15% 余量)