性能工程2026.10.214 分钟
系统级性能剖析:从火焰图到 P99
平均延迟会把所有问题藏起来。这篇笔记整理了一套可复用的性能剖析流程:先定义指标,再定位热点,最后做对照实验。
#性能工程#可观测性#后端
阅读文章内容围绕这四个方向展开,每一篇都尽量写清「为什么」而不只是「是什么」。
持续更新中 · 最近写下的学习记录
自回归解码每一步都要重算全部历史,KV Cache 把这部分重复计算砍掉,但也带来了显存与并发的新问题。
冷启动不只是「启动慢」,它至少包含调度分配、运行时初始化和函数代码加载三层,每层的优化手段完全不同。
平均延迟会把所有问题藏起来。这篇笔记整理了一套可复用的性能剖析流程:先定义指标,再定位热点,最后做对照实验。
RAG 的效果瓶颈往往不在生成模型,而在检索环节。切分策略、重排序和上下文预算三个决策决定了答案质量。
把博客做成静态站,再加一个 Serverless 接口承接 AI 对话——全程零服务器、几乎零成本,这篇记录整个实现与踩坑过程。
笔记的价值不在于记了多少,而在于多久之后还能不能用。这篇整理我踩过的三个坑和一个一直在用的写作模板。
点标签可以看到相关的全部笔记。
右下角的助手会读取全站文章索引,可以帮你制定学习路线、 推荐相关笔记、解释概念,或把零散笔记整理成结构化提纲。 密钥只保存在服务端,不会暴露在浏览器里。
AI 学习助手
基于本站笔记回答问题