Vault 资讯瀑布官方2026.07.14 16:43 UTC+8

sgl-project/sglang 发布 v0.5.15.post1

sglang 发布 v0.5.15.post1,主要修复 GLM 5.2 相关问题,包括 DSA 模型启动、flashinfer 依赖、NaN 输出及 IndexShare 设置等。

v0.5.15.post1 包含几个补丁,主要针对 GLM 5.2

  • #30454 #30627:修复 DSA 模型在非 Cuda/HIP 设备上的启动问题
  • #30858:修复 Cuda 12 镜像上的 flashinfer 依赖问题
  • #31001:修复 flashinfer trtllm FP4 MoE 内核在长输入上导致的 NaN 输出问题
  • #30839:修复 GLM 5.2 IndexShare 在 PD 分离设置下的问题
  • #30992:修复 GLM 5.2 IndexShare 在 Context Parallel 设置下的问题

sgl-project/sglang released v0.5.15.post1

v0.5.15.post1 includes a few patches, mostly for GLM 5.2

  • #30454 #30627: Fix DSA model launching on non Cuda/HIP devices
  • #30858: Fix flashinfer dependency on Cuda 12 images
  • #31001: Fix NaN outputs caused by flashinfer trtllm FP4 MoE kernels on long input
  • #30839: Fix GLM 5.2 IndexShare on PD disaggregation setting
  • #30992: Fix GLM 5.2 IndexShare on Context Parallel setting
查看原始发布
sgl-project/sglang 发布 v0.5.15.post1 — Vault2077