用静态页面连接职业简介、双语简历、工程项目与长期主题。
确定内容结构、评审设计,并在 AI 协助下实现与验证。
开发 · 测试 · 持续探索
从后端开发到测试开发,我关注业务逻辑、验证方法与系统维护。目前在将这些经验延伸到 AI 工作流,并持续学习 LLM 推理与缓存。
理解业务规则,构建可维护的服务与工具。
把需求转化为可验证的流程,重视可测试性与自动化。
探索 AI 与测试工作流的结合,持续学习推理系统。
用静态页面连接职业简介、双语简历、工程项目与长期主题。
确定内容结构、评审设计,并在 AI 协助下实现与验证。
围绕 LLM 推理、KV Cache 与评估方法建立可追溯的学习记录。
梳理学习问题、理解推理机制,并规划可复现实验。
从实践出发,逐步深入。
从测试工作流,到推理基础、KV Cache 与可复现实验方法。
Python、测试自动化、业务建模与可维护的工具。
理解 LLM 推理中 prefill 和 decode 的区别,以及为什么 prefill 更适合 batching。
梳理 KV Cache 的数据结构、显存估算方式,以及长上下文为什么会放大问题。
分析 Prefix Cache 命中与未命中对首 token 延迟的影响,并记录后续 benchmark 计划。
更多代码与项目记录,可以在 GitHub 找到。