标签：智能体

学习导读

大模型加速优化：搞懂KV Cache基本原理

AI 智能体 软件工程 微信 公众号

getBooker 16小时前 0 0 0

学习导读

大模型推理中的 PD 分离：计算特征、KV Cache 传输与引擎实现

AI 智能体 软件工程 微信 公众号

getBooker 21小时前 0 0 0

学习导读

vLLM 多副本如何复用 KV Cache？llm-d 缓存感知路由实战

AI 智能体 软件工程 微信 公众号

getBooker 21小时前 0 0 0

学习导读

Ascend vNPU 实战：从原生 Docker 到 Ascend Docker Runtime

AI 智能体 软件工程 微信 公众号

getBooker 21小时前 0 0 0

学习导读

为什么需要 PD 分离：Prefill 与 Decode 的瓶颈、拆分与代价

AI 智能体 软件工程 微信 公众号

getBooker 21小时前 0 0 0

学习导读

128GB 统一内存的本地 AI 小机器：能跑 284B 量化模型，64GB 版 29899 元起

AI 智能体 软件工程 微信 公众号

getBooker 22小时前 0 0 0

学习导读

AI Max+395跑Qwen3.8 Next Flash：Gufo UD-Q4_K_XL对比Halogen v2 HGN

AI 智能体 软件工程 微信 公众号

getBooker 2天前 0 0 0

学习导读

vLLM PD 分离实战：从请求流程理解 Prefill、Decode 与 KV Cache 传输

AI 智能体 软件工程 微信 公众号

getBooker 2026-10-22 0 0 0

学习导读

Claude Code 团队如何做代码审查

AI 智能体 软件工程 微信 公众号

getBooker 2026-10-22 0 0 0

学习导读

昇腾双机落地 DeepSeek-V4.1-Flash-1017：部署文档 + 性能测试来了

AI 智能体 软件工程 微信 公众号

getBooker 2026-10-19 0 0 0