Q4_K_M: 流畅可跑 22.47 GB / 61.4 GB 安全可用
海光深算 DCU K100-AI 64GB (HBM2e) 运行 Gemma-4-31B-IT 显存与速度估算
可以流畅运行。在主流 Q4_K_M 4-bit 量化(16K 上下文)下,Gemma-4-31B-IT 总显存占用约 22.47 GB(权重 18.61 GB + KV 缓存 2.18 GB + 系统开销 1.67 GB),低于 海光 DCU K100-AI 的安全可用水位(61.4 GB),预估单并发推理速度约 32.7 tokens/s。
并发请求数 (Batch):
Dense 30.7B·60L (d=5376)·32Q/4KV·Ctx 256K·Text+Image+Video
流畅可跑22.47 / 61.4 GB~32.7 tok/s· Q4_K_M · 16K ctx
3. 权重量化精度
4. 单并发上下文窗口16K (16,384 tok)
参数核验:2026-11-20·带宽与算力屋顶模型估算(当前并发=1)
流畅可跑
22.47/ 61.4 GB 可用显存
物理总容量 64 GB · 占用率 36.6%
理论带宽解码速度 (Decode)
~32.7tokens/s
实际吞吐受框架 (vLLM/Ollama/Unsloth) 影响约 ±25%
当前并发 (1x) 最大可开窗口
256K/ 256K
高并发下开启 Q8/Q4 KV 量化可成倍提升并发上限
模型权重: 18.61 GBKV Cache (1×16K): 2.18 GB框架开销: 1.67 GB