跳到正文

教程实践

拿来就能用的实操内容:提示词技巧、工作流搭建、工具用法与踩坑经验。

最新精选

第 21–21 条 · 共 21 条
1月22日周四
  1. Mistral AI60

    Mistral AI 详解 vLLM 内存泄漏排查:从 Heaptrack 到 BPFtrace 与 GDB

    Mistral AI 发布工程深度解析文章,记录其在 vLLM 预填充/解码分离部署中排查内存泄漏的过程。泄漏表现为每分钟 400 MB 的线性内存增长,最终通过 BPFtrace 和 GDB 定位到 UCX 的 mmap 钩子机制,设置 UCX_MEM_MMAP_HOOK_MODE=none 即可解决,且不影响性能。

    推荐理由:原文完整记录了从 Python 工具到内核级追踪的排查链路,读者可借鉴其定位深层依赖内存泄漏的方法。