The spelled-out intro to neural networks and backpropagation: building micrograd
The spelled-out intro to neural networks and backpropagation: building micrograd #
从这个post开始学习模型构建的基本模块与概念,Andrej Karpathy是一个非常好的老师
视频地址:https://www.youtube.com/watch?v=VMj-3S1tku0 内容简介:从计算最简单的导数开始,建立了一个3层网络,按照Pytorch的API的形式建立了神经网络数据结构,用Python手动模拟了正向传播、反向传播等计算过程。 视频里面的一些资料(原Youtube视频介绍中有提到):
- 视频里面Micrograd Repo: https://github.com/karpathy/micrograd
- Jupyter notebook he built: https://github.com/karpathy/nn-zero-to-hero/tree/master/lectures/micrograd