Study note
InfraTech
Properties
- Type
- Blogs
- Status
- 待读
- Domain
- AI / ML
- Category
- LLM 推理与服务
- Source
- github.com
- Vault note
library/articles/ai_ml/InfraTech-76413e4996bacf40.md
Summary
CalvinXKY 维护的 AI Infra 学习与代码练习仓库，内容覆盖大模型推理基础、Nano-vLLM、vLLM、SGLang、并行策略、KV Cache、P/D 分离、量化、性能分析、RL Infra 与部分 PyTorch 机制。大量主题同时提供文章与 Jupyter Notebook，可从概念说明直接走到可运行实验。
Highlights
适合作为中文推理系统主线索引。优先学习“推理核心术语 -> 集合通信与并行策略 -> Nano-vLLM -> 基础调度器 -> vLLM KV Cache -> SGLang RadixAttention -> P/D 分离与 profiling”，不用按仓库顺序全部通读。
Comments
Loading comments...