简介基于深度学习LeNet-5模型的图像分类系统Python源码是一套可用于本科毕业设计或课程设计的完整项目围绕MNIST手写数字识别等图像分类场景展示了从数据清洗、预处理到模型训练与测试的全流程。采用经典LeNet-5卷积神经网络结构通过卷积层、池化层与全连接层实现特征提取与分类实测准确率可达99.12%。资源包共27个文件大小11.53MB包含10个Python脚本如模型定义、数据处理、训练与测试、2个模型权重文件pth、4个数据集压缩包gz以及配置文件和说明文档目录结构清晰便于按模块学习或二次开发。项目代码注释较完整说明.txt提供了安装与使用指导适合希望深入理解LeNet-5原理、掌握深度学习工程实现或需要参考高准确率分类方案的Python学习者。目前已有102人学习下载。1. 为什么一个 1998 年的小网络还能把图像分类做到 99.12%LeNet-5 图像分类系统报出 99.12% 的准确率第一反应不该是怀疑过拟合而是想清楚这个数字意味着什么。它诞生于 1998 年参数量 6 万出头在普通 CPU 上训练一个 epoch 用不了两分钟却把卷积、池化、全连接、非线性激活这套 CNN 的核心构件全占了。社区里流传的 python 源码包解压后通常是数据加载、模型定义、训练脚本、预测脚本和一份训练好的权重结构非常规整。它能作为深度学习入门和图像分类算法教学的原型被反复使用核心原因只有一个小到能一眼看穿又强到能逼近 99% 的准确率。对刚接触深度学习的人这是第一个能完整跑通、并把准确率调到 99% 以上的网络对工作多年的工程师它是验证环境、数据管线和部署链路的廉价探针。下面按结构、实现、调参、导出验证的顺序把这类源码包里最常见可靠的做法讲一遍。2. LeNet-5 结构拆解卷积、池化与全连接层的参数设计LeNet-5 原文针对 32×32 灰度图像设计数字笔画只占中间约 20×20四周留白用来吸收缩放和平移带来的形变。全网络一共 7 层不含输入三个卷积、两个池化、两个全连接把 32×32 的像素逐步压缩成 10 个类别分数。它和当时主流全连接网络最大的区别是把「局部连接、权值共享」这个先验直接铸进结构里。全连接把每个像素当独立特征卷积则认为像素和它周围邻居的关系才有意义——这是它用极小参数量做到高精度的根本原因也是后续几乎所有图像分类算法共同继承的设计起点。2.1 输入尺寸与卷积核为什么是 32×32 和 5×5C1 用 6 个 5×5 卷积核、stride 1、无填充输出 6 张 28×28 特征图。5×5 对小图是「看全局部又不越界」的折中数字的端点、拐角、交叉点这些基本笔画单元尺寸正好落在窗口内第一层就能提取到最有判别力的局部模式。这里有个常被忽略的设计细节两个 5×5 卷积叠起来等效于一个更大的卷积核但参数量更少2×25 对 9×9 的 81中间还多一次 Tanh 非线性表达能力反而更强。原版第一层不加 padding特征图从 32 缩到 28不少移植到 PyTorch 的源码为了省事把 padding 设为 2输出保持 32×32收敛通常略快最终精度几乎不受影响。拿着源码对照论文看维度时先确认这一处。2.2 池化层平均池化与最大池化的取舍S2、S4 都是 2×2、stride 2 的下采样特征图边长减半。原版用的是带可学习系数的平均池化现代实现基本直接用AvgPool2d(2, 2)也有不少人换成MaxPool2d。平均池化对灰度噪声更平滑适合笔画这类连续灰度结构最大池化保留最强响应对边缘、纹理类特征更友好。在 MNIST 上两者最终精度差距通常在 0.1 个百分点以内不值得为这点差异改网络。真正要理解的是池化的作用它把 2×2 区域的响应合并成一个值等于告诉网络「这里有一个笔画精确位置可以放松 12 像素」——这正是数字识别这类允许轻微形变的任务最需要的性质。2.3 全连接层的维度推算与参数量对照C5 用 120 个 5×5 卷积核对 S4 的 16 张 5×5 特征图做卷积输出 120 个 1×1 值本质就是全连接只是保留了卷积的写法。之后 F6 压到 84 维最后映射到 10 类。维度推算口诀无 padding 卷积边长减 4池化边长减半。各层参数量如下层输出尺寸原版参数量计算累计C1 卷积6×28×286×1×5×56 156156S2 池化6×14×140156C3 卷积16×10×1016×6×5×516 24162572S4 池化16×5×502572C5 卷积120×1×1120×16×5×5120 4812050692F6 全连接84120×8484 1016460856输出层1084×1010 85061706注意 C3 的细节原版 C3 不是把 6 张输入特征图全部卷进去而是用部分连接表每个输出通道只连接其中 36 张总卷积模板只有 60 个全连接实现是 16×696 个模板。现代 PyTorch 源码几乎都用全连接写法参数多出 900 左右在 MNIST 上没有可感知的影响代码却干净很多。把这几层连起来看LeNet-5 的设计是逐级抽象低层卷积响应短线段和端点池化把它们聚合成更稳定的局部模式C3 到 C5 在更大的范围内组合出结构最后全连接把结构映射成类别。全网络 6 万参数里特征提取部分只占约 2600其余全花在分类头上。对比 ResNet-18 接近 1100 万参数这个容量配 MNIST 这种背景干净、类别结构简单的任务反而是恰到好处。3. 用 Python 源码搭建 LeNet-5数据、模型与训练循环一个可用的源码包文件划分一般遵循「数据、模型、训练、推理」四条线。下面给出的组织方式在 PyTorch 生态里最常见依赖只有 torch 和 torchvision纯 CPU 机器也能完整跑完流程。3.1 源码文件的组织方式与最小依赖lenet5_mnist/ ├── data.py # 数据加载与预处理 ├── model.py # LeNet5 网络定义 ├── train.py # 训练主脚本输出 best_model.pt ├── predict.py # 单张图片与批量推理 └── requirements.txtrequirements.txt 里写 torch 和 torchvision 两个依赖即可Python 3.8 以上都能跑。装完先做一次冒烟测试实例化模型喂一个(1, 1, 32, 32)的随机张量确认输出形状是(1, 10)这一步能排掉 90% 的维度问题。使用 GPU 前先确认torch.cuda.is_available()注意它返回 True 只代表驱动可见不代表计算链路正常最好让一个两万参数的小网络完整执行一次 backward 验证。3.2 数据加载与预处理# data.py from torchvision import datasets, transforms def build_loader(batch_size128, num_workers2): # MNIST 的均值和标准差是统计常量直接用于归一化 transform transforms.Compose([ transforms.Resize((32, 32)), # 28x28 放大到 LeNet-5 的输入尺寸 transforms.ToTensor(), # 像素值映射到 [0, 1] transforms.Normalize((0.1307,), (0.3081,)) ]) train_set datasets.MNIST(./data, trainTrue, downloadTrue, transformtransform) test_set datasets.MNIST(./data, trainFalse, downloadTrue, transformtransform) train_loader torch.utils.data.DataLoader( train_set, batch_sizebatch_size, shuffleTrue, num_workersnum_workers) test_loader torch.utils.data.DataLoader( test_set, batch_sizebatch_size, shuffleFalse, num_workersnum_workers) return train_loader, test_loader参数说明Resize 用双线性插值把 28×28 放大到 32×32让数字笔画在输入图中的占比如实还原原版设计Normalize 的(0.1307, 0.3081)是 MNIST 全集的均值和标准差单通道所以要写成单元素元组。这两个常量只在 MNIST 上成立换成 Fashion-MNIST 或其他灰度数据集必须重新统计直接套用会明显拖慢收敛。3.3 模型定义与训练循环# model.py import torch.nn as nn class LeNet5(nn.Module): def __init__(self, num_classes10): super().__init__() self.features nn.Sequential( nn.Conv2d(1, 6, kernel_size5), # C1: 32x32 - 28x28 nn.Tanh(), nn.AvgPool2d(kernel_size2, stride2), # S2: 28x28 - 14x14 nn.Conv2d(6, 16, kernel_size5), # C3: 14x14 - 10x10 nn.Tanh(), nn.AvgPool2d(kernel_size2, stride2), # S4: 10x10 - 5x5 nn.Conv2d(16, 120, kernel_size5), # C5: 5x5 - 1x1 nn.Tanh(), ) self.classifier nn.Sequential( nn.Linear(120, 84), # F6 nn.Tanh(), nn.Linear(84, num_classes), # 输出层 ) def forward(self, x): x self.features(x) x x.view(x.size(0), -1) return self.classifier(x)# train.py 核心片段 import torch from torch import nn, optim def train(model, train_loader, test_loader, epochs15, lr0.01, devicecuda): criterion nn.CrossEntropyLoss() optimizer optim.SGD(model.parameters(), lrlr, momentum0.9, weight_decay5e-4) scheduler optim.lr_scheduler.StepLR(optimizer, step_size5, gamma0.1) for epoch in range(1, epochs 1): model.train() for images, labels in train_loader: images, labels images.to(device), labels.to(device) optimizer.zero_grad() loss criterion(model(images), labels) loss.backward() optimizer.step() acc evaluate(model, test_loader, device) scheduler.step() print(fepoch {epoch:02d}, loss{loss.item():.4f}, test_acc{acc:.4f})逻辑说明CrossEntropyLoss 内部自带 softmax网络最后一层不需要手动加任何激活SGD 加 momentum 0.9每 5 个 epoch 学习率降为原来的 1/10这是 LeNet-5 在 MNIST 上最稳的组合weight_decay5e-4 对 6 万参数的网络影响很小但能压住尾部的过拟合。scheduler.step()放在每个 epoch 结束时调用不能挪进 batch 循环否则学习率下降过快尾部精度反而不稳。保存模型时只存state_dict不序列化整个 model 对象这样换 PyTorch 版本也不会因为序列化格式不一致导致权重打不开。3.3.1 验证函数与训练耗时预期def evaluate(model, loader, devicecuda): model.eval() correct total 0 with torch.no_grad(): for images, labels in loader: images, labels images.to(device), labels.to(device) preds model(images).argmax(dim1) correct (preds labels).sum().item() total labels.size(0) return correct / totaleval 配合 no_grad 是固定搭配。这个网络没有 BatchNorm 和 Dropouteval 模式不会改变数值结果但换到带 Dropout 的模型时遗忘这行推理结果会直接出错。15 个 epoch 在 CPU 上大约 58 分钟GPU 上一分钟以内第 1 个 epoch 结束准确率通常已经超过 97%第 5 个 epoch 到 98.5%之后每涨 0.1 个点都要靠学习率衰减硬磨。如果你的复现结果停在 96%先检查 Resize 和 Normalize 是否丢失这两个步骤对精度的影响比换任何优化器都大。4. 把准确率稳定在 99.12%调参与排错的几个关键点拿到 99.12% 先问一个问题这个数字在哪个数据集上算出来的。LeNet-5 在 MNIST 测试集上做到 99.1% 左右是真实水准如果标在 CIFAR-10 上同样的网络只有六成多除非做了大规模改造和数据增强。所以下面的调参全部围绕 MNIST 这类单通道、28×28 输入的小图任务展开。4.1 归一化与数据增强的边界MNIST 的灰度分布非常稳定用全局均值和标准差做归一化就够不需要逐图计算。数据增强要克制32×32 的输入本身很小随机裁剪会把笔画切掉常见的有效增强只有两类——随机平移 12 像素以及弹性形变。弹性形变可以把准确率顶到 99.4% 以上但它相当于人为扩大了训练集必须配合验证集观察是否过拟合。没有经验时不建议一上来就上增强先不加任何增强跑出基准准确率然后一次只试一个增强项记录每项带来的变化。MNIST 上增强带来的收益本身有限真正决定 98% 和 99% 差距的是归一化是否正确。4.2 优化器、学习率与 batch size 的搭配下面这组对照是同一份数据、同一个模型跑 15 个 epoch 的典型结果配置准确率走势最终精度SGD lr0.01, momentum0.9, bs128第 1 epoch 过 97%尾盘平缓99.0%99.2%Adam lr0.001, bs64前 3 epoch 快尾部波动98.8%99.1%SGD StepLR(5, 0.1)第 10 epoch 后明显跳升99.1%99.3%Adam lr0.0003, bs128收敛慢尾部稳定98.9%99.1%SGD 配学习率衰减在尾盘的表现稳定优于裸 Adam。原因在于最后 0.10.3 个点的提升本质是让参数落进损失面更窄的谷底动量抑制了来回震荡学习率衰减让更新步长随训练进程收缩。batch size 从 128 降到 64 在 MNIST 上差异很小但小于 32 时梯度噪声偏大尾盘难以收敛。4.3 99% 之后把最后 0.1 个点抠出来的四个手段拉长训练15 epoch 是基准30 epoch 配合余弦退火通常能再拿 0.050.1 个点。在 F6 之前加 Dropout(0.5)原版没有这一层加上后测试集普遍涨 0.05 个点左右代价是多一个超参数。测试时增强对测试图片做四个角 1 像素的平移5 次预测取均值精度稳定抬升 0.1 个点且不改变模型权重。label smoothing 设 0.05在 MNIST 上作用不明显但能降低过自信预测报告精度时仍用原始交叉熵计算。注意在测试集上调参属于数据泄漏。标准做法是从训练集切出 5000 张作为验证集所有超参对比在验证集上完成最后在官方测试集上只报一次数字。没有这个习惯98.9% 和 99.12% 的差距可能只是测试集被反复看过多次的结果。4.4 常见的精度回退场景与排查顺序训练集 100%、测试集 97%过拟合。先加 weight_decay 或 Dropout再考虑减少训练轮数。两边都在 90% 附近数据管线问题。检查 Normalize 是否丢失、Resize 是否生效。损失正常下降但验证指标震荡学习率过大。降到原来的 1/10 试跑 3 个 epoch 看趋势。loss 变 NaN学习率冲过头或数据里有异常像素加载后立即打印数据的 min/max。换机器精度突变检查 DataLoader 的 num_workers 配置Windows 下多进程必须加__main__保护否则数据加载行为异常。排查顺序固定是先数据、后模型、再超参。任何改动都要固定随机种子、训练至少 3 个 epoch 再下结论拿单次最终精度对比两个超参是不成立的——尾盘 0.1 个点的差异和随机种子强相关。5. 导出模型做批量推理验证 99.12% 不是训练集幻影源码包到手第一件事是复现报告里的准确率。完整动作分三步加载权重、跑完整测试集、对齐数字。少一步都可能让你对整个代码库的状态产生误判。5.1 用 TorchScript 导出并对齐精度# export.py model LeNet5() model.load_state_dict(torch.load(best_model.pt, map_locationcpu)) model.eval() example torch.randn(1, 1, 32, 32) traced torch.jit.trace(model, example) traced.save(lenet5_traced.pt) # 复用 train.py 里的 evaluate逐批对比 eager 与 traced 的精度 eager_acc evaluate(test_loader, model, devicecpu) traced_acc evaluate(test_loader, traced, devicecpu) assert abs(eager_acc - traced_acc) 1e-5, 导出前后精度不一致torch.jit.trace要求输入尺寸固定动态输入会在 trace 阶段直接报错。把 eager 和 traced 的精度差压在 1e-5 以内等于给部署形态上了一道保险后续无论改用 libtorch、ONNX Runtime 还是纯 C 推理基线都被这句断言锚住。5.2 批量推理脚本与错误分布def predict_batch(model, loader, devicecpu): model.eval() all_preds, all_labels [], [] with torch.no_grad(): for images, labels in loader: logits model(images.to(device)) all_preds.extend(logits.argmax(dim1).cpu().numpy()) all_labels.extend(labels.numpy()) return all_preds, all_labels拿到全部预测后用一行 numpy 计算正确率能落到 99%±0.1 说明权重和数据管线都没问题相差超过 0.5 个点先检查map_location是否把权重正确加载到了 CPU。随后画混淆矩阵LeNet-5 在 MNIST 上的错误集中在 4↔9、7↔2、3↔8 这三对写法相近的类别。如果最高验证精度出现在第 12 个 epoch 而不是最后一轮直接取最高的存盘点即可这是学习率衰减后验证集上常见的正常回摆。把这套管线迁到三通道彩色任务时只需要改三处第一层输入通道 1 改 3Resize 目标边长从 32 提到 64 或 128最后一层输出类别数改成目标类别数。特征提取部分不用动全连接的输入维度也不变迁移成本比换一个现代网络低得多。最后留一个可落地的验证技巧随机抽 200 张被分错的测试图把每张图预测概率最高的前三个类别列出来。LeNet-5 的大多数错分样本「第二候选」往往就是正确标签。看到这个规律你就知道下一步该优化什么不是换网络结构而是在 F6 的输出上接一个对相似笔画更敏感的度量。本文还有配套的精品资源点击获取