发布于 约 2458 字 预计阅读 8 分钟
Intel GPU 技术生态日报 (2026-10-13)
目录
核心速览
[Merged]vLLM XPU 修复 sleep mode 下 empty_cache 崩溃:修复 XPU teardown 时 release_pools 提前释放分配器包装导致纯虚函数调用崩溃[Merged]SGLang XPU CI 优化超时策略:按文件设置超时并快速失败挂起测试,避免每次挂起浪费30分钟[Merged]vLLM XPU 转发 softcap 和 alibi_slopes:修复 flash_attn_varlen_func 未传递 softcap 和 alibi_slopes 导致 Gemma-2 等模型错误
下游优化与加速库 (intel/llm-scaler / Triton / OpenVINO)
- [vLLM XPU] 修复 XPU sleep mode 下 empty_cache 崩溃:XpuMemAllocator.release_pools() 在释放内存池后过早丢弃分配器包装对象,导致后续 empty_cache() 调用触发纯虚函数调用崩溃。修复调整了释放顺序,确保包装对象在内存池完全释放后才被销毁。 [PR #61158]
影响: 修复 sleep mode 测试通过后进程崩溃的问题,提升 XPU 上 sleep mode 功能的稳定性。
- [SGLang XPU] 优化 XPU PR CI 超时策略:XPU PR CI 默认每个测试文件超时1200秒,重试再加600秒,但部分文件在设备初始化后无输出挂起,导致每次挂起浪费30分钟。通过按文件设置更短超时并快速失败,减少无效等待。 [PR #42048]
影响: 缩短 CI 挂起时间,提升开发效率,属于测试流程优化而非功能修复。
- [vLLM XPU] 扩展 spawn-safe sitecustomize monkeypatch 到 XPU:XPU 强制使用 spawn 多进程启动方式,导致父进程的 monkeypatch.setattr 不会传播到子进程。修复将 rocm_sitecustomize_factory fixture 扩展到 XPU,确保测试环境一致。 [PR #57911]
影响: 修复 XPU 下 shutdown 测试因 monkeypatch 不传播导致的失败,提升测试可靠性。
- [vLLM XPU] 标准化 Intel 测试任务标签:标准化 Intel 测试任务的标签,以统一 CI 配置和资源调度。 [PR #51755]
影响: 提升 CI 可维护性,无功能影响。
- [vLLM XPU] 修复 flash_attn_varlen_func 未传递 softcap 和 alibi_slopes:xpu_ops.flash_attn_varlen_func() 接受 softcap 和 alibi_slopes 参数但未传递给底层 vllm_xpu_kernels.flash_attn_interface,导致需要注意力 logit soft-capping 的模型(如 Gemma-2)输出错误。修复补全了参数传递。 [PR #58936]
影响: 修复 Gemma-2 等模型在 XPU 上的推理正确性,提升模型兼容性。
- [vLLM XPU] 升级 auto-round-lib 到 0.16.0:将 auto-round-lib 依赖升级到 0.16.0,以获取最新的量化优化和修复。 [PR #60976]
影响: 可能提升 XPU 上量化模型的性能或稳定性。
- [SGLang XPU] 支持 Intel XPU 上的 decode context parallelism:在 intel_xpu 注意力后端启用 —dcp-size > 1,支持解码上下文并行,将 KV 缓存按 token 位置分片到 TP 组各 rank,并合并部分结果。 [PR #34355]
影响: 提升 XPU 上长上下文解码的吞吐,扩展 SGLang 在 XPU 上的并行能力。
- [SGLang XPU] FLUX.2 在 XPU 上启用 bit-exact Triton SwiGLU:FLUX.2 的 packed SwiGLU fast path 是 Triton 内核,但内核守卫和调用点都要求 x.is_cuda,导致无法在 XPU 运行。移除 CUDA 限制后,该内核可在 XPU 上执行。 [PR #41940]
影响: 使 FLUX.2 在 XPU 上使用 bit-exact SwiGLU,提升数值精度和性能。
主流框架与上游集成 (PyTorch / vLLM / SGLang / llama.cpp / Ollama)
- [intel-xpu-backend-for-triton] 更新 sgl-kernel-xpu 固定版本:将 sgl-kernel-xpu 的固定版本更新到 ada8a03,以同步最新的内核优化和修复。 [Commit 7e7de78]
影响: 确保 SGLang 使用最新的 XPU 内核,可能带来性能提升或 bug 修复。
- [intel-xpu-backend-for-triton] CI 清理 runner_label 和 driver_version 用于产物命名:在 CI 产物命名中使用 runner_label 和 driver_version 前进行清理,避免特殊字符导致命名错误。 [Commit 82295eb]
影响: 提升 CI 产物管理的健壮性,属于基础设施改进。
- [intel-xpu-backend-for-triton] FPSan 启用更多 XPU 测试:在 FPSan 测试套件中启用更多 XPU 测试,扩大测试覆盖范围。 [Commit 3f3d3e5]
影响: 增加 XPU 测试覆盖,有助于发现潜在问题。
驱动、内核与图形栈 (Windows 驱动 / Linux drm/xe / Mesa ANV)
- [Intel Graphics Compiler] v2.42.5 发布:降低不变式 switch 分发检测阈值:IGC v2.42.5 降低了不变式 switch 分发检测的阈值,可能影响编译优化决策。 [Release v2.42.5]
影响: 可能改善特定代码模式的编译优化,但具体影响需进一步测试。
- [Intel Graphics Compiler] v2.42.4 发布:改进大型不变式 switch 的 LICM 禁用启发式:IGC v2.42.4 改进了对大型不变式 switch 禁用循环不变代码移动(LICM)的启发式,可能减少编译时间或避免性能退化。 [Release v2.42.4]
影响: 可能提升大型 switch 语句的编译效率和生成代码质量。