国产MoEApache 2.0

Qwen3-Coder-480B-A35B

通义千问 Qwen3-Coder 旗舰代码模型,480B MoE 架构,激活 35B,专为 Agentic Coding 设计

Alibaba·480B 参数·MoE·发布于 2025-07

你的硬件评估

正在检测硬件...
未知
参数量

480B

激活 35B

上下文长度

256K tokens

架构

MoE

480B 总参数

最低显存

174 GB

Q2_K 量化

量化选项

2 种

适用场景

代码Agent推理

量化版本对比

格式位宽所需显存质量预估速度状态
Q2_K2-bit174 GB
未知
Q4_K_M4-bit262 GB
良好
未知

显存需求一览

Q2_K
174 GB
Q4_K_M
262 GB

资源链接

💡 关于 MoE 架构

Qwen3-Coder-480B-A35B 采用 Mixture of Experts (MoE) 架构,总参数量为 480B, 但每次推理仅激活 35B 参数。虽然推理计算量较小, 但完整模型权重仍需全部加载到显存中,因此显存需求按总参数量计算。 实际推理速度会比同等显存占用的 Dense 模型更快。

推荐硬件配置

Q2_K建议 ≥ 201 GB 显存(模型 174 GB + 15% 余量)
Q4_K_M建议 ≥ 302 GB 显存(模型 262 GB + 15% 余量)