资讯动态

Neural Networks: Zero to Hero 完整指南:手写反向传播,一路搭到 GPT

发布时间:2026/9/20 15:52:24 来源:尧图企业网站定制
Neural Networks: Zero to Hero 完整指南手写反向传播一路搭到 GPT【免费下载链接】nn-zero-to-heroNeural Networks: Zero to Hero项目地址: https://gitcode.com/GitHub_Trending/nn/nn-zero-to-heroNeural Networks: Zero to Hero从零手写神经网络的笔记本合集。仓库很轻一个 lectures 目录、7 个笔记本。不教调 API只带你把推导一行行敲出来。它到底帮你解决什么 视频看完觉得都懂了一动手就卡梯度到底怎么反传BatchNorm 不加会怎样这个仓库的答案是把推导做成能跑的笔记本。第一讲手写 micrograd讲透标量反向传播makemore 系列再逐节加料从二元统计一路堆到 GPT 雏形。你拿到的是过程不是结论。仓库里都装了什么 内容全在 lectures 目录里micrograd 和 makemore 两个子目录分两条线micrograd 线lectures/micrograd 下两个笔记本对应第一讲前后半场——先手搓标量自动求导引擎再拿它搭可训练的网络。makemore 线lectures/makemore 下 5 个笔记本按 part1 到 part5 排开bigrams 二元模型、MLP、BatchNorm、手写反向传播、WaveNet 式 CNN。根目录的 README.md 就是课程目录八讲的主题、前置要求、配套文件都写清了。提醒一下README 列的第 7、8 讲从零搭 GPT、GPT 分词器目前只有视频仓库里没有对应笔记本。照着做就能上手 ✅克隆仓库到本地git clone https://gitcode.com/GitHub_Trending/nn/nn-zero-to-hero顺序跑通 micrograd 前后两个笔记本补一点 PyTorch Tensor 基础再往下走跑通 part1 bigrams把二元模型跑起来推进 part2 到 part5每步只加一层复杂度完成每讲练习卡住就回头重读对应笔记本先别急着踩坑 ⚠️跳过 micrograd 直接进 makemore后面的自动求导全变黑盒part4 的手写反向传播基本没法做。part4 只看不写这讲要求你先自己推一遍梯度纯看视频收获打对折。part5 靠猜张量形状torch.nn 用法密度高不打印 shape 就闷头调会卡很久。在仓库里找 GPT 那讲的笔记本第 7、8 讲只有视频没有 .ipynb 可跑。适合谁、什么时候别用 适合刚入门、想弄清反向传播到底在算什么的初学者天天用 PyTorch 但没手写过 autograd 的开发者想搞懂 GPT 原理的 NLP 方向学习者。不适合只想快速调现成模型出效果——这套课节奏偏慢直接看 PyTorch 官方教程更快。前置门槛微积分底子薄的话先复习导数和链式法则再开第一讲否则 micrograd 会看得很吃力。别再收藏了今晚就先跑 micrograd 第一半场笔记本——等你自己推完 part4 每一步再去看 GPT 那讲感受完全不一样。【免费下载链接】nn-zero-to-heroNeural Networks: Zero to Hero项目地址: https://gitcode.com/GitHub_Trending/nn/nn-zero-to-hero创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

读完文章,也想定制专属网站?

尧图设计师 24 小时内与您沟通定制方案

免费获取报价