国产MoEApache 2.0

Qwen3.5-122B-A10B

Qwen3.5 中型 MoE,122B 总参数激活 10B,适合复杂 Agent 工作流,支持 1M+ 上下文

Alibaba·122B 参数·MoE·发布于 2026-02

你的硬件评估

正在检测硬件...
未知
参数量

122B

激活 10B

上下文长度

256K tokens

架构

MoE

122B 总参数

最低显存

66 GB

Q4_K_M 量化

量化选项

3 种

适用场景

对话推理Agent多模态

量化版本对比

格式位宽所需显存质量预估速度状态
Q4_K_M4-bit66 GB
良好
未知
Q6_K6-bit86 GB
优秀
未知
Q8_08-bit112 GB
优秀
未知

显存需求一览

Q4_K_M
66 GB
Q6_K
86 GB
Q8_0
112 GB

资源链接

💡 关于 MoE 架构

Qwen3.5-122B-A10B 采用 Mixture of Experts (MoE) 架构,总参数量为 122B, 但每次推理仅激活 10B 参数。虽然推理计算量较小, 但完整模型权重仍需全部加载到显存中,因此显存需求按总参数量计算。 实际推理速度会比同等显存占用的 Dense 模型更快。

推荐硬件配置

Q4_K_M建议 ≥ 76 GB 显存(模型 66 GB + 15% 余量)
Q6_K建议 ≥ 99 GB 显存(模型 86 GB + 15% 余量)
Q8_0建议 ≥ 129 GB 显存(模型 112 GB + 15% 余量)