Study note

Deep Learning Systems: Algorithms, Compilers, and Processors for Large-Scale Production

Properties

Type: Books
Status: 想读
Domain: AI / ML
Category: ML 系统与规模化
Source: deeplearningsystems.ai
Vault note: library/books/ai_ml/Deep-Learning-Systems-Algorithms,-Compilers,-and-Processors-for-Large-Scale-Prod-29de1b1c8364427c.md

Summary

面向生产级深度学习系统的完整教材，共 10 章。从基础构件、模型应用、训练与分布式训练开始，依次讨论数值格式、量化、剪枝、知识蒸馏等模型压缩方法，CPU、GPU 与专用加速器，计算图和编译器优化，主流框架与编译器，最后总结大规模生产系统的机会与挑战。

Highlights

将算法、训练系统、模型压缩、系统软件、编译器和处理器放在同一条纵向技术栈中，帮助理解模型如何从高层框架下降到算子、编译优化与硬件执行。网站经原出版社许可免费提供整本书的 HTML 版本；建议先通读第 1-5 章建立全局背景，再重点学习第 6 章模型缩减、第 7 章硬件、第 8 章编译器优化和第 9 章框架与编译器。

Notes

Andres Rodriguez；2020-10。

Comments

Loading comments...