国际MIT

Phi-4-mini-3.8B

微软 Phi-4 Mini,3.8B 参数支持 128K 超长上下文,推理能力出色

Microsoft·3.8B 参数·Dense·发布于 2025-02

你的硬件评估

正在检测硬件...
未知
参数量

3.8B

上下文长度

128K tokens

架构

Dense

最低显存

2.3 GB

Q4_K_M 量化

量化选项

4 种

适用场景

对话推理长文本

量化版本对比

格式位宽所需显存质量预估速度状态
Q4_K_M4-bit2.3 GB
良好
未知
Q6_K6-bit3 GB
优秀
未知
Q8_08-bit3.9 GB
优秀
未知
F1616-bit7.6 GB
无损
未知

显存需求一览

Q4_K_M
2.3 GB
Q6_K
3 GB
Q8_0
3.9 GB
F16
7.6 GB

资源链接

推荐硬件配置

Q4_K_M建议 ≥ 3 GB 显存(模型 2.3 GB + 15% 余量)
Q6_K建议 ≥ 4 GB 显存(模型 3 GB + 15% 余量)
Q8_0建议 ≥ 5 GB 显存(模型 3.9 GB + 15% 余量)
F16建议 ≥ 9 GB 显存(模型 7.6 GB + 15% 余量)