简介这份资源是面向计算机专业学生与深度学习入门者的毕设及课程作业参考包聚焦近红外光谱数据的回归分析建模。近红外光谱作为一种非破坏性分析手段广泛用于化学、生物医学与食品检测项目围绕数据预处理、特征构造、模型搭建、训练验证与误差评估等环节展开涉及卷积网络、循环网络、LSTM 及 Transformer 等结构并用 Python 深度学习框架实现C 可承担计算密集型模块以提升效率。压缩包共 9 个文件以 8 个 py 源码为主覆盖多种网络模型实现另附 1 个 md 说明文档整体约 27KB结构紧凑便于按模块阅读。目前已有 236 人学习。读者可借此理解光谱回归任务的完整流程参考模型组织方式与调参思路并在此基础上完成自己的毕设或课程实践。1. 近红外光谱回归这套源码到底能帮你省下多少事近红外光谱NIR回归分析这件事真正上手做过的人都知道难的不是搭一个网络而是把光谱数据从「一列列波长对应的吸光度」变成模型能吃的张量再让预测值跟理化值对得上。这份「毕设课程作业_基于深度学习的近红外光谱数据回归分析模型.zip」把这条链路拆成了八个 Python 文件加一份 README覆盖了 ConvNet、SpectFormer、DeepVit、VitNet 四条技术路线每条路线都给了「从零训练」和「迁移学习」两个版本。换句话说你拿到的不只是一个能跑的 demo而是一组可以横向对比的基线模型——这对做毕设或课程设计的人来说省掉的是从零搭框架、调接口、对齐输入输出维度的那几天。它适合谁适合已经会用 PyTorch 或 TensorFlow 写基本训练循环、但还没把光谱数据跑通的人也适合想看看 Transformer 类结构在光谱回归上到底比 CNN 强在哪的人。下面我按「数据怎么进、模型怎么选、训练怎么不翻车、结果怎么验证」的顺序把这份源码拆开讲。2. 光谱数据进模型之前预处理与张量形状对齐2.1 近红外光谱的原始形态与回归目标近红外光谱仪吐出来的原始数据通常是一个二维矩阵行是样本列是波长点对应的吸光度或反射率。假设你测了 200 个样本波长范围 1000–2500 nm分辨率 2 nm那列数就是 750 左右。回归目标一般是某个理化指标比如蛋白质含量、水分、脂肪每个样本对应一个标量。所以模型的输入是(N, 1, 750)或(N, 750)输出是(N, 1)。这里第一个坑就来了光谱数据不像图像有 RGB 三通道它只有一个通道但波长维度很长直接套用 ImageNet 上的 CNN 结构第一层卷积核在波长方向上的感受野可能覆盖不到吸收峰。常见做法是把一维光谱当成(1, L)的单通道信号用一维卷积或者把波长维度 reshape 成(H, W)的伪图像再走二维卷积。这份源码里的 ConvNet.py 和 ConvNetTL.py 走的是前者VitNet 和 SpectFormer 走的是 patch embedding 路线把长序列切成固定长度的 patch。2.2 预处理SNV、MSC 与一阶导数怎么选光谱预处理不是可选项是必选项。原始光谱里混杂着基线漂移、散射效应和噪声直接喂给网络模型会去学那些跟理化值无关的干扰。标准正态变量变换SNV和多元散射校正MSC是两种最常用的散射校正方法一阶导数或二阶导数则用来消除基线漂移、增强吸收峰。我一般会按这个顺序试先 SNV再一阶导数Savitzky-Golay 卷积平滑求导最后看情况加均值中心化。下面这段代码是 SNV 加一阶导数的典型实现你可以直接抄进自己的预处理脚本import numpy as np from scipy.signal import savgol_filter def snv(X): # X: (N, L) 原始光谱 mean np.mean(X, axis1, keepdimsTrue) std np.std(X, axis1, keepdimsTrue) return (X - mean) / (std 1e-8) def first_derivative(X, window_length11, polyorder2): # Savitzky-Golay 一阶导数window_length 必须为奇数 return savgol_filter(X, window_lengthwindow_length, polyorderpolyorder, deriv1, axis1) # 假设 raw_spectra 形状为 (200, 750) X_snv snv(raw_spectra) X_deriv first_derivative(X_snv, window_length15, polyorder2)逻辑说明SNV 逐样本减均值除标准差消除样本间的散射差异Savitzky-Golay 在平滑的同时求导window_length控制平滑窗口polyorder是拟合多项式阶数一般取 2 或 3。参数怎么改如果光谱噪声大把window_length调到 15 或 21如果吸收峰很尖锐polyorder别超过 3否则会过拟合。注意一阶导数之后光谱会出现负值这是正常的不需要再取绝对值。2.3 训练集/验证集划分与标签标准化光谱回归的样本量通常不大几百到几千条所以划分不能随机打乱就完事。如果样本是按浓度梯度配制的随机划分会导致训练集和验证集的浓度分布重叠验证结果虚高。我一般用 Kennard-Stone 算法或 SPXY 算法做划分保证验证集样本在浓度空间里均匀分布。标签也要标准化因为理化值的量纲差异很大比如水分含量是 0–100蛋白质是 0–50不标准化会让损失函数被大量纲指标主导。标准化用训练集的均值和标准差验证集和测试集必须用同一组参数否则就是数据泄露。from sklearn.model_selection import train_test_split from sklearn.preprocessing import StandardScaler # 假设 y 是 (N, 1) 的理化值 scaler_y StandardScaler() y_scaled scaler_y.fit_transform(y) # 按 8:2 划分random_state 固定保证可复现 X_train, X_val, y_train, y_val train_test_split( X_deriv, y_scaled, test_size0.2, random_state42, shuffleTrue )这里shuffleTrue在样本独立时没问题但如果样本有顺序依赖比如按时间采集要改成shuffleFalse或按时间切分。random_state固定是为了让每次跑的结果可对比调参阶段别改它。3. 四条模型路线怎么选ConvNet、SpectFormer、DeepVit、VitNet 的结构差异3.1 ConvNet 与 ConvNetTL一维卷积的基线ConvNet.py 和 ConvNetTL.py 是这套源码里最容易上手的部分。ConvNet 用一维卷积堆叠每层后面接 BatchNorm 和 ReLU最后全局平均池化到回归头。ConvNetTL 是迁移学习版本通常做法是在大规模光谱数据集上预训练然后冻结卷积层、只微调全连接层。一维卷积的优势是参数少、训练快对局部吸收峰敏感劣势是感受野有限长程依赖要靠堆层数或加大卷积核。我一般把卷积核大小设成 11 或 15步长 1通道数从 32 起步每两层翻倍。池化用最大池化窗口 2这样 750 的波长维度经过 4 次池化降到 46 左右再接全连接。注意卷积核大小别超过 21否则会平滑掉窄吸收峰。3.2 SpectFormer 与 SpectFormerTLTransformer 在光谱上的适配SpectFormer.py 和 SpectFormerTL.py 走的是 Transformer 路线。光谱数据进 Transformer 之前要先做 patch embedding把 750 维的波长序列切成 75 个 patch每个 patch 长度 10然后线性映射到d_model维度。位置编码用可学习的位置嵌入因为光谱的波长顺序是有物理意义的不能丢。SpectFormer 的编码器层数一般设 4–6 层注意力头数 4–8d_model取 128 或 256。迁移学习版本 SpectFormerTL 通常是在公开光谱数据集上预训练然后在下游任务上微调。这里有个坑Transformer 对样本量要求高如果只有两三百条光谱注意力机制很容易过拟合这时候要么加 dropout要么改用 ConvNet。我一般会在小样本场景下把d_model降到 64层数降到 2先看能不能跑通再往上加。3.3 DeepVit 与 VitNet深层 ViT 的变体与取舍DeepVit.py 和 VitNet.py 是 ViT 的两种变体。VitNet 是标准 ViT 结构patch embedding 加多头自注意力加 MLP 头DeepVit 则是在 ViT 基础上加深了网络可能用了更多的编码器层或者引入了残差密集连接。DeepVitTL.py 和 VitNetTL.py 是对应的迁移学习版本。选型上如果样本量在 1000 以上VitNet 可以试如果样本量在 500 以下DeepVit 的深层结构大概率会过拟合不如用 ConvNet 或 SpectFormer 的小配置。我一般会先跑 ConvNet 拿到一个基线 RMSE再用 SpectFormer 或 VitNet 对比如果提升不到 5%就不值得为了那点精度去调 Transformer 的学习率和 warmup。3.4 迁移学习版本的加载与微调策略四个 TL 文件ConvNetTL、SpectFormerTL、DeepVitTL、VitNetTL的核心逻辑是加载预训练权重、替换回归头、分阶段解冻。常见做法是先冻结主干网络只训练回归头 10–20 个 epoch然后解冻最后几个 block用更小的学习率比如 1e-5微调。下面是一个通用的微调框架import torch import torch.nn as nn def build_finetune_model(backbone, pretrained_path, freeze_epochs10): # 加载预训练权重 state_dict torch.load(pretrained_path, map_locationcpu) backbone.load_state_dict(state_dict, strictFalse) # 替换回归头假设原分类头输出 1000 类改成 1 维回归 if hasattr(backbone, head): in_features backbone.head.in_features backbone.head nn.Linear(in_features, 1) # 先冻结主干 for param in backbone.parameters(): param.requires_grad False for param in backbone.head.parameters(): param.requires_grad True return backbone # 训练循环里按 epoch 解冻 # if epoch freeze_epochs: # for param in backbone.layer4.parameters(): # param.requires_grad True逻辑说明strictFalse允许预训练权重和当前模型结构不完全匹配比如分类头被替换了。freeze_epochs控制冻结轮数解冻后学习率要降一个数量级。注意解冻的层数别一次全放开从最后一层往前逐层解冻否则预训练学到的特征会被小数据集带偏。4. 训练与调参损失函数、优化器与学习率调度4.1 回归损失的选择MSE、MAE 与 Huber光谱回归最常用的损失是均方误差MSE它对大误差敏感适合理化值分布比较均匀的场景。如果数据里有离群样本比如某个样本的理化值测错了MSE 会被拉偏这时候改用平均绝对误差MAE或 Huber 损失更稳。Huber 损失在误差小于delta时用平方大于delta时用线性相当于 MSE 和 MAE 的折中。我一般先跑 MSE 看基线如果验证集 RMSE 波动大再换 Huberdelta取 1.0 或 0.5标签标准化之后。import torch.nn as nn # MSE criterion_mse nn.MSELoss() # Huberdelta 控制切换点 criterion_huber nn.HuberLoss(delta1.0) # MAE criterion_mae nn.L1Loss()参数说明delta越小Huber 越接近 MAEdelta越大越接近 MSE。标签标准化之后delta1.0意味着误差在一个标准差以内用平方超过就用线性。4.2 优化器与学习率AdamW 加余弦退火光谱回归任务上AdamW 比 SGD 更省心尤其是 Transformer 类模型。学习率初始值设 1e-3 到 1e-4配合余弦退火或 ReduceLROnPlateau。如果用的是 ViT 或 SpectFormerwarmup 很重要前 5–10 个 epoch 从 1e-6 线性升到初始学习率避免注意力层早期震荡。权重衰减设 1e-4 到 1e-2Transformer 类模型可以大一点CNN 小一点。from torch.optim import AdamW from torch.optim.lr_scheduler import CosineAnnealingLR optimizer AdamW(model.parameters(), lr1e-3, weight_decay1e-4) scheduler CosineAnnealingLR(optimizer, T_max100, eta_min1e-6) # 训练循环里每个 epoch 后调用 scheduler.step()T_max是余弦周期的总 epoch 数eta_min是最小学习率。如果验证集损失连续 10 个 epoch 不降就提前停。4.3 批大小与梯度累积光谱样本量小批大小一般设 16 或 32。如果显存不够用梯度累积模拟大批大小每算 4 个 batch 的梯度再更新一次参数。注意 BatchNorm 在批大小小于 8 时统计量不准这时候要么调大批大小要么把 BatchNorm 换成 GroupNorm 或 LayerNorm。accumulation_steps 4 optimizer.zero_grad() for i, (inputs, targets) in enumerate(dataloader): outputs model(inputs) loss criterion(outputs, targets) / accumulation_steps loss.backward() if (i 1) % accumulation_steps 0: optimizer.step() optimizer.zero_grad()逻辑说明损失除以累积步数保证梯度尺度不变。最后不足一个累积周期的 batch 要手动补一次optimizer.step()。5. 避坑与排查光谱回归里最容易翻车的五个点5.1 验证集 RMSE 比训练集还低现象训练集 RMSE 0.8验证集 RMSE 0.5。原因数据泄露。要么是预处理时用了全体数据的均值和标准差要么是划分时验证集样本和训练集样本来自同一批配制浓度。解决预处理参数只在训练集上拟合验证集和测试集用transform而不是fit_transform划分用 Kennard-Stone 或按浓度分层。5.2 模型输出全是均值现象不管输入什么光谱预测值都接近训练集标签的均值。原因学习率太大导致模型塌缩或者输入数据没标准化、量纲差异太大。解决检查输入是否做了 SNV 或标准化把学习率降到 1e-4 再试加 warmup。5.3 Transformer 模型 loss 不降现象SpectFormer 或 VitNet 训练几个 epoch 后 loss 卡住不动。原因patch embedding 的线性层初始化太小或者位置编码没加。解决检查 patch embedding 输出是否做了 LayerNorm位置编码是否可学习学习率 warmup 是否生效。我一般会把d_model降到 64、层数降到 2 先跑通再往上加。5.4 迁移学习微调后精度反而下降现象加载预训练权重后微调完的 RMSE 比从零训练还差。原因预训练数据集和当前光谱数据的波长范围、分辨率不一致主干网络学到的特征不匹配。解决先只训练回归头看能不能恢复到基线如果不行解冻层数从 1 层开始学习率降到 1e-5。5.5 显存溢出或训练速度极慢现象跑 VitNet 时 CUDA out of memory或者每个 epoch 要几十分钟。原因输入序列太长注意力矩阵是L^2复杂度。解决加大 patch 长度把 750 维切成 50 个 patch 而不是 150 个用混合精度训练torch.cuda.amp批大小降到 8 或 4。6. 验证与进阶用 RMSE、RPD 和残差图判断模型能不能用模型训完不是看 loss 曲线好看就完事要回到理化值尺度上算指标。标准化后的 RMSE 要反标准化回去否则没有物理意义。我一般会算三个指标RMSE、决定系数 R²、以及相对分析误差 RPD标准差除以 RMSE。RPD 大于 2.5 说明模型可用于定量分析1.5 到 2.5 之间只能做粗略筛选小于 1.5 基本不可用。残差图要看有没有系统性偏差——如果残差随预测值增大而增大说明模型在高浓度区间欠拟合需要加样本或改损失函数。import numpy as np from sklearn.metrics import mean_squared_error, r2_score def evaluate(y_true, y_pred, scaler_y): # 反标准化 y_true_inv scaler_y.inverse_transform(y_true.reshape(-1, 1)) y_pred_inv scaler_y.inverse_transform(y_pred.reshape(-1, 1)) rmse np.sqrt(mean_squared_error(y_true_inv, y_pred_inv)) r2 r2_score(y_true_inv, y_pred_inv) rpd np.std(y_true_inv) / rmse return {RMSE: rmse, R2: r2, RPD: rpd}参数说明scaler_y是训练集上拟合的 StandardScaler验证和测试必须用同一个。RPD 的分母是 RMSE分子是验证集理化值的标准差。如果 RPD 低于 1.5别急着调模型先检查光谱预处理是不是丢了信息——我遇到过一阶导数窗口设成 21 把窄峰平滑掉的情况改回 11 之后 RPD 从 1.3 跳到 2.1。从那以后我每次做导数预处理都强制把窗口长度和吸收峰半高宽对比一遍确认没过度平滑才继续。希望帮到你。本文还有配套的精品资源点击获取