Study note
The Engineering Behind LLM Inference From First Principles
Properties
- Type
- Videos
- Status
- 待读
- Domain
- AI / ML
- Category
- LLM 推理与服务
- Source
- youtube.com
- Vault note
library/videos/ai_ml/The-Engineering-Behind-LLM-Inference-From-First-Principles-9190cf49a3966f2e.md
Summary
从第一性原理讲解 LLM 推理工程的系列课程，覆盖请求执行、KV cache、批处理、调度与服务系统。
Highlights
内容与知识库的推理基础设施路线高度匹配，可作为阶段性视频主线。
Comments
Loading comments...