Study note
TrenTorch: Build an ML Framework from Scratch
Properties
- Type
- Blogs
- Status
- 待读
- Domain
- AI / ML
- Category
- 深度学习、自动微分与实践
- Source
- trentorch.com
- Vault note
library/articles/ai_ml/TrenTorch-Build-an-ML-Framework-from-Scratch-ab0c6ae5a0976371.md
Summary
一个基于 NumPy、从零构建机器学习框架的开源课程项目。20 个递进模块依次实现张量、激活函数、层、损失、数据加载、自动微分、优化器和训练循环，再扩展到卷积网络、分词、嵌入、注意力、Transformer、量化、压缩、加速、KV cache 与性能基准。
Highlights
所有核心运算都能追溯到可阅读的 NumPy 实现，学习过程同时要求观察内存、性能与扩展行为。课程还用自己实现的框架复现感知机、反向传播、CNN 和 Transformer 等历史节点，适合为 Rust 自动求导框架项目先建立完整参考模型。
Comments
Loading comments...