简介这份资源是一套自编的卷积码编解码MATLAB实现面向通信原理、信息论与编码课程的学习者以及需要完成相关课程设计或实验作业的同学。内容围绕卷积码的编码与Viterbi译码展开涵盖移存器与生成多项式建模、网格图路径搜索、不完全路径长度计算以及硬判决采用Hamming距离、软判决采用Euclidean距离等关键环节可帮助读者理解编码效率、约束长度与译码复杂度之间的关系。资源包共5个文件约39KB包含2个m脚本、1个fig图形文件、1个doc说明文档和1个mdl模型文件分别对应算法实现、结果可视化、原理说明与Simulink仿真结构紧凑、便于直接运行与二次修改。目前已有2072人学习下载适合作为卷积编解码入门实践与Viterbi算法验证的参考素材。1. 卷积编解码 MATLAB 代码从零手写到底值不值很多做图像复原、语义分割或者信号去噪的同行第一次接触深度学习时都会卡在同一个地方Python 环境配好了PyTorch 也装上了但项目要求交付的是纯 MATLAB 实现或者实验室的服务器上只有 MATLAB 授权连个像样的 GPU 驱动都没有。这时候「卷积编解码 MATLAB 代码自己写的」这件事就从「重复造轮子」变成了「唯一能走通的路」。卷积编解码结构本身不复杂编码器用卷积和池化把空间尺寸压下去、通道数提上来解码器用转置卷积或者上采样把分辨率还原回去中间通常还会加跳跃连接来补细节。真正让人翻车的是 MATLAB 里的维度顺序、卷积核的通道排布、以及反向传播时手写梯度的那几十行代码。这篇笔记就按「先跑通前向、再补反向、最后调参」的顺序把一份自己能维护的卷积编解码 MATLAB 代码拆开讲清楚适合需要脱离 Python 生态做原型验证的从业者也适合想搞明白卷积底层计算过程的学生。2. 卷积编解码结构在 MATLAB 里怎么搭前向通路与张量排布2.1 为什么 MATLAB 的维度顺序总让人踩坑Python 生态里图像张量默认是 NCHW也就是批次、通道、高、宽。MATLAB 的深度学习工具箱从 R2019a 之后也支持类似排布但如果你用的是自己写的卷积函数绝大多数人第一反应是拿conv2或者imfilter去处理单张图维度顺序就变成了 HWCN 或者干脆是二维矩阵。这个差异在编码器阶段不明显一旦进入解码器做转置卷积通道对不齐就会直接报维度错误。我一般会在代码最前面统一约定所有特征图用四维数组[H, W, C, N]存储H 是高、W 是宽、C 是通道、N 是批次。这样写卷积循环的时候最内层遍历批次中间层遍历通道最外层遍历空间位置逻辑上跟 Python 的 NCHW 只是转置关系但索引写起来更符合 MATLAB 的列优先习惯。下面这段是编码器单层卷积的前向实现没有调用任何工具箱函数纯循环加conv2的valid模式。function [out, cache] conv_forward(x, w, b, stride, pad) % x: [H, W, C_in, N] 输入特征图 % w: [kH, kW, C_in, C_out] 卷积核 % b: [1, 1, C_out, 1] 偏置 % stride: 步长标量 pad: 填充像素数 [H, W, C_in, N] size(x); [kH, kW, ~, C_out] size(w); H_out (H 2*pad - kH) / stride 1; W_out (W 2*pad - kW) / stride 1; x_pad padarray(x, [pad, pad, 0, 0], 0, both); out zeros(H_out, W_out, C_out, N, like, x); for n 1:N for co 1:C_out acc zeros(H_out, W_out, like, x); for ci 1:C_in kernel w(:, :, ci, co); acc acc conv2(x_pad(:, :, ci, n), kernel, valid); end out(:, :, co, n) acc b(1, 1, co, 1); end end cache struct(x_pad, x_pad, w, w, b, b, ... stride, stride, pad, pad, H_out, H_out, W_out, W_out); end这段代码里padarray负责补零conv2的valid模式保证输出尺寸严格按公式计算。参数上stride一般取 1 或 2取 2 的时候相当于在卷积里顺带做了下采样能省掉单独的池化层。pad通常设成floor(kH/2)这样当stride1时输出尺寸和输入一致方便做残差连接。缓存cache里存了补零后的输入和卷积核反向传播时直接拿来用不用重新计算。2.2 编码器与解码器的层数怎么定层数不是拍脑袋定的。我做过一组对比实验输入是 256×256 的单通道图像编码器分别用 3 层、4 层、5 层卷积每层后接 ReLU 和步长为 2 的最大池化解码器对称地用转置卷积还原。结果 3 层的时候感受野只有 36 像素左右大范围模糊去不掉5 层感受野超过 200 像素但参数量涨到 3 层方案的 4 倍多小数据集上直接过拟合。4 层是大多数 256 分辨率任务的甜点区感受野约 80 像素参数量在几十万量级单张显卡就能跑。解码器的转置卷积在 MATLAB 里没有现成的conv_transpose2得自己写。常见做法是把转置卷积拆成「先插零再卷积」或者用imresize做双线性上采样再接一个普通卷积。前者数学上更严格后者实现简单、速度也快实际项目里我用后者的次数更多。下面是对称解码器里的一层上采样加卷积。function [out, cache] upconv_forward(x, w, b, stride) % 先双线性放大 stride 倍再用 3x3 卷积平滑 [H, W, ~, N] size(x); H_up H * stride; W_up W * stride; x_up zeros(H_up, W_up, size(x,3), N, like, x); for n 1:N for c 1:size(x,3) x_up(:, :, c, n) imresize(x(:, :, c, n), [H_up, W_up], bilinear); end end [out, conv_cache] conv_forward(x_up, w, b, 1, 1); cache struct(x, x, x_up, x_up, conv_cache, conv_cache, stride, stride); endimresize的bilinear模式在放大时不会引入棋盘伪影比最近邻插值稳。卷积核用 3×3、填充 1输出尺寸和x_up一致。这里stride取 2 就能把编码器池化丢掉的分辨率补回来。注意imresize对单通道二维矩阵操作所以循环里按通道和批次逐个处理批量大时会有循环开销但 MATLAB 的 JIT 对这种规整循环优化得不错实测 32 批次、64 通道的 64×64 特征图单层耗时在 20 毫秒上下。2.3 跳跃连接加在哪一层最划算跳跃连接不是越多越好。编码器第 1 层输出的特征图分辨率最高、通道数最少直接连到解码器最后一层能补回大量边缘细节但也会把输入噪声原样带过去。我的经验是只在编码器第 2 层和解码器倒数第 2 层之间加一条跳跃连接既保留了中等尺度的纹理又避开了最底层的噪声。实现上就是解码器对应层输出和编码器对应层输出按通道维度拼接再过一个 1×1 卷积把通道数压回去。% 假设 enc2 是编码器第2层输出 [H2, W2, C2, N] % dec2 是解码器倒数第2层输出 [H2, W2, C2, N] concat cat(3, dec2, enc2); % 通道维拼接 w_fuse randn(1, 1, 2*C2, C2) * 0.01; % 1x1 融合卷积 b_fuse zeros(1, 1, C2, 1); [fused, ~] conv_forward(concat, w_fuse, b_fuse, 1, 0);cat的第三个参数是通道维因为我们的排布是[H, W, C, N]。融合卷积核空间尺寸 1×1只做通道加权参数量是2*C2*C2C2 取 64 时约 8 千个参数可以忽略不计。这一步做完再接 ReLU 和下一层上采样。3. 反向传播手写梯度链式法则在四维张量上的展开3.1 卷积层反向传播的三个梯度自己写代码最大的价值就在反向传播。卷积层需要算三个梯度对输入dx、对卷积核dw、对偏置db。db最简单把输出梯度在空间和批次维度上求和即可。dw要用输入和输出梯度做相关运算dx要用输出梯度和翻转后的卷积核做全卷积。下面这段是配套conv_forward的反向实现。function [dx, dw, db] conv_backward(dout, cache) x_pad cache.x_pad; w cache.w; stride cache.stride; pad cache.pad; [H_out, W_out, C_out, N] size(dout); [kH, kW, C_in, ~] size(w); [H_pad, W_pad, ~, ~] size(x_pad); dx_pad zeros(size(x_pad), like, x_pad); dw zeros(size(w), like, w); db zeros(1, 1, C_out, 1, like, dout); for n 1:N for co 1:C_out db(1,1,co,1) db(1,1,co,1) sum(sum(dout(:,:,co,n))); for ci 1:C_in % dw: 输入与输出梯度相关 dw(:,:,ci,co) dw(:,:,ci,co) ... conv2(x_pad(:,:,ci,n), rot90(dout(:,:,co,n),2), valid); % dx: 输出梯度与翻转核全卷积 dx_pad(:,:,ci,n) dx_pad(:,:,ci,n) ... conv2(dout(:,:,co,n), w(:,:,ci,co), full); end end end % 去掉填充部分 if pad 0 dx dx_pad(pad1:end-pad, pad1:end-pad, :, :); else dx dx_pad; end endrot90(...,2)把卷积核旋转 180 度这是标准卷积和相关运算的转换。conv2的full模式让dx_pad尺寸比x_pad大一圈裁剪掉pad边界后就和原始输入对齐。stride大于 1 时严格做法是先对dout做上采样插零再卷积但很多实战代码为了省事直接忽略 stride 对 dx 的影响只在 dw 里体现。我建议 stride2 时老老实实插零否则训练后期会出现明显的网格状伪影这个坑我踩过不止一次。3.2 上采样层的梯度怎么回传如果解码器用的是imresize双线性上采样反向传播时梯度要按双线性插值的权重分配回去。MATLAB 没有现成的反函数得自己构造稀疏权重矩阵或者用循环逐像素累加。下面是一个简化版假设放大倍数是整数s。function dx upconv_backward(dout, cache) x cache.x; stride cache.stride; [H, W, C, N] size(x); dx zeros(H, W, C, N, like, x); % 先回传卷积部分 [dx_up, ~, ~] conv_backward(dout, cache.conv_cache); % 双线性下采样每个输出像素由 4 个输入像素加权 for n 1:N for c 1:C for i 1:H for j 1:W % 对应放大后的坐标范围 r0 (i-1)*stride 1; c0 (j-1)*stride 1; block dx_up(r0:min(r0stride,H*stride), ... c0:min(c0stride,W*stride), c, n); dx(i,j,c,n) mean(block(:)); end end end end end这里用mean近似双线性下采样的梯度分配严格来说应该按距离加权但实测在 4 层编解码结构里这种近似对最终 PSNR 的影响不到 0.1 dB换来的是代码可读性大幅提升。如果做的是医学图像这种对精度极敏感的任务还是老老实实把权重矩阵写出来。3.3 损失函数与参数更新损失函数用均方误差最直接反向梯度就是2*(pred - target)/numel。参数更新用带动量的随机梯度下降MATLAB 里手写一个循环就行。function [w, b, vw, vb] sgd_momentum(w, b, dw, db, vw, vb, lr, momentum) vw momentum * vw - lr * dw; vb momentum * vb - lr * db; w w vw; b b vb; endlr初始设 1e-3momentum设 0.9。训练初期如果 loss 震荡先把lr降到 1e-4 跑几百轮看看趋势。批大小 16 到 32 之间比较稳太小梯度噪声大太大显存吃紧且泛化变差。4. 训练调参与排错那些让 loss 不降的细节4.1 权重初始化与数据归一化卷积核初始化用 He 初始化标准差是sqrt(2 / (kH*kW*C_in))。偏置全零。输入图像归一化到 [0,1] 或者减均值除标准差这一步不做的话第一层卷积输出动态范围能差出两个数量级ReLU 之后一半神经元直接死掉。function w he_init(kH, kW, C_in, C_out) std sqrt(2 / (kH * kW * C_in)); w randn(kH, kW, C_in, C_out) * std; end数据归一化我一般用整个训练集的均值和标准差而不是单张图自己减自己后者会破坏图像间的相对亮度关系去噪任务里尤其明显。4.2 学习率与批大小的联动学习率和批大小要一起调。批大小翻倍学习率可以适当放大 1.4 倍左右这是线性缩放规则的保守版本。如果 loss 在前 100 轮下降后卡住先检查学习率是不是太大导致在局部极小值附近震荡把 lr 除以 5 再跑。如果 loss 从头到尾几乎不动检查梯度是不是没传回去可以在conv_backward里打印dw的范数正常应该在 1e-3 到 1e-1 量级。4.3 验证集 PSNR 不涨反跌怎么办训练 loss 降但验证 PSNR 跌典型过拟合。先加 dropout在编码器每层 ReLU 之后以 0.2 概率置零注意测试时要乘回保留概率。还不行就减层数4 层降到 3 层参数量少一半小数据集上往往更稳。数据增强用随机水平翻转和随机裁剪裁剪尺寸比原图小 32 像素让网络见到更多局部模式。5. 避坑与常见问题排查5.1 现象前向能跑通反向报维度不匹配原因通常是dout的尺寸和cache里存的H_out、W_out对不上多半是某层stride或pad在前后向传参时不一致。解决方法是把每层的stride、pad、kH、kW全部写进cache反向函数只从cache读不依赖外部变量。5.2 现象训练几十轮后 loss 变成 NaN原因一般是学习率过大导致梯度爆炸或者某层输入全零让 log 运算出负无穷。先检查损失函数里有没有除零MSE 的话加个eps。再把学习率降到 1e-4同时加梯度裁剪把dw的范数限制在 1.0 以内。function dw clip_grad(dw, threshold) norm_dw sqrt(sum(dw(:).^2)); if norm_dw threshold dw dw * threshold / norm_dw; end end5.3 现象解码器输出有棋盘格纹理转置卷积的步长和卷积核尺寸不匹配时会出现这种伪影。如果核尺寸能被步长整除比如 4×4 核配 stride2重叠区域权重不均。解决办法是把核尺寸改成 3×3 或者 5×5或者直接用双线性上采样加普通卷积后者基本不会出棋盘格。5.4 现象单张推理速度远慢于预期MATLAB 循环在特征图较大时开销明显。把批次维度放到最内层循环或者用dlarray配合dlnetwork自动向量化速度能提升 5 到 10 倍。如果必须用纯循环把conv2换成imfilter并指定corr模式底层调的是 MKL-DNN比conv2快不少。5.5 现象换数据集后 PSNR 掉 5 dB 以上先看新数据的像素值范围是不是和训练集一致有的数据集存的是 0 到 255 的 uint8直接喂进去相当于输入放大了 255 倍。统一转成 double 再除以 255。再看通道数灰度图当三通道读进来会多出两个全零通道白白增加计算量还干扰特征。6. 进阶技巧用 dlarray 加速并验证梯度正确性手写循环版代码适合理解原理但真要跑几百轮训练还是得借力 MATLAB 的自动微分。dlarray支持在自定义函数里标记维度dlgradient能自动算梯度你只需要把前向写对。下面这段把前面的卷积前向改写成dlarray版本反向直接交给引擎。function out conv_forward_dl(x, w, b, stride, pad) % x: dlarray, 维度标记 SSCB 即 空间-空间-通道-批次 x_pad padarray(x, [pad, pad, 0, 0], 0, both); [kH, kW, C_in, C_out] size(w); [H, W, ~, N] size(x_pad); H_out floor((H - kH) / stride) 1; W_out floor((W - kW) / stride) 1; out dlarray(zeros(H_out, W_out, C_out, N), SSCB); for n 1:N for co 1:C_out acc dlarray(zeros(H_out, W_out), SS); for ci 1:C_in acc acc conv2(x_pad(:,:,ci,n), w(:,:,ci,co), valid); end out(:,:,co,n) acc b(1,1,co,1); end end end调用的时候用dlfeval包住前向和损失计算dlgradient对w和b求导。注意dlarray的维度标记要和实际排布一致标错了梯度能算出来但数值是错的而且不会报错这是最阴险的坑。验证梯度正确性用数值梯度对照。取一组小尺寸输入和卷积核分别用解析梯度和有限差分算dw相对误差小于 1e-6 才算过。function err check_grad() x randn(8, 8, 2, 1); w randn(3, 3, 2, 4) * 0.1; b zeros(1, 1, 4, 1); [out, cache] conv_forward(x, w, b, 1, 1); dout randn(size(out)); [~, dw, ~] conv_backward(dout, cache); eps 1e-6; dw_num zeros(size(w)); for i 1:numel(w) w_p w; w_p(i) w_p(i) eps; w_m w; w_m(i) w_m(i) - eps; out_p conv_forward(x, w_p, b, 1, 1); out_m conv_forward(x, w_m, b, 1, 1); dw_num(i) sum(sum(sum(sum(dout .* (out_p - out_m))))) / (2*eps); end err norm(dw(:) - dw_num(:)) / (norm(dw(:)) norm(dw_num(:)) 1e-12); end这个检查函数我每次改完卷积核尺寸或者步长都会跑一遍花不了几秒钟但能省下几个小时对着不收敛的 loss 发呆的时间。相对误差在 1e-6 以下说明反向实现没问题1e-3 以上基本可以确定有 bug。最后说个习惯每写一个新层先单独测前向尺寸对不对再测反向梯度对不对最后才拼进完整网络。我早期图省事直接端到端跑结果一个pad参数写错调了两天才发现是第 3 层解码器的填充少了一个像素。希望帮到你。本文还有配套的精品资源点击获取