标签：公众号

学习导读

Transformer——训练模型图解

AI 智能体 软件工程 微信 公众号

getBooker 2026-11-05 0 0 0

学习导读

KV Cache 机制详解

AI 智能体 软件工程 微信 公众号

getBooker 2026-11-04 0 0 0

学习导读

图解六种 KV cache 量化方法

AI 智能体 软件工程 微信 公众号

getBooker 2026-11-04 0 0 0

学习导读

AMD MAX+395调优Qwen3.8-27B:写34.6 tok/s,提速2.9倍,读378 tok/s

AI 智能体 软件工程 微信 公众号

getBooker 2026-11-03 0 0 0

学习导读

PD分离：GPU 做 prefill、NPU 做 decode，异构 PD 分离卡在哪

AI 智能体 软件工程 微信 公众号

getBooker 2026-11-03 0 0 0

学习导读

大模型加速优化：KV Cache原理再探

AI 智能体 软件工程 微信 公众号

getBooker 2026-11-02 0 0 0

学习导读

大模型加速优化：搞懂KV Cache基本原理

AI 智能体 软件工程 微信 公众号

getBooker 2026-10-30 0 0 0

学习导读

大模型推理中的 PD 分离：计算特征、KV Cache 传输与引擎实现

AI 智能体 软件工程 微信 公众号

getBooker 2026-10-30 0 0 0

学习导读

vLLM 多副本如何复用 KV Cache？llm-d 缓存感知路由实战

AI 智能体 软件工程 微信 公众号

getBooker 2026-10-30 0 0 0

学习导读

Ascend vNPU 实战：从原生 Docker 到 Ascend Docker Runtime

AI 智能体 软件工程 微信 公众号

getBooker 2026-10-30 0 0 0