1. 分类网络入门为什么选择PyTorch刚接触深度学习时我也曾被TensorFlow和PyTorch的选择困扰过。直到第一次用PyTorch实现了一个简单的图像分类器才真正体会到它的魅力。PyTorch就像乐高积木用动态计算图的方式让你可以随时调试、随时修改特别适合快速验证想法。举个例子当你想查看某个中间层的输出时在PyTorch里只需要简单的一个print语句而在静态图框架中可能需要重新定义整个计算流程。这种灵活性在研究和原型开发阶段简直是救命稻草。我去年在做一个医疗影像分类项目时就因为需要频繁调整网络结构最终从TensorFlow切换到了PyTorch开发效率直接翻倍。2. VGG16深度堆叠的经典之作2.1 架构解析为什么是16层VGG16的名字来源于它的16层权重层13个卷积层3个全连接层。我第一次看到这个结构时最大的疑问是为什么是16层更深的网络不会更好吗实际上牛津大学的团队测试了从11层到19层的不同配置发现16层在精度和计算成本之间取得了最佳平衡。这个网络最显著的特点就是坚持使用3×3的小卷积核。你可能好奇为什么不直接用更大的卷积核这里有个计算上的小技巧两个3×3卷积堆叠的感受野相当于一个5×5卷积但参数量更少2×3²18 vs 5²25。我在复现论文时实测过这种设计确实能在保持性能的同时减少约20%的参数。2.2 代码实现从零搭建VGG16下面是一个完整的VGG16实现我添加了一些实际项目中常用的技巧import torch import torch.nn as nn class VGG16(nn.Module): def __init__(self, num_classes1000): super(VGG16, self).__init__() self.features nn.Sequential( # 第一组卷积 nn.Conv2d(3, 64, kernel_size3, padding1), nn.ReLU(inplaceTrue), # inplace节省内存 nn.Conv2d(64, 64, kernel_size3, padding1), nn.ReLU(inplaceTrue), nn.MaxPool2d(kernel_size2, stride2), # 第二组卷积 nn.Conv2d(64, 128, kernel_size3, padding1), nn.ReLU(inplaceTrue), nn.Conv2d(128, 128, kernel_size3, padding1), nn.ReLU(inplaceTrue), nn.MaxPool2d(kernel_size2, stride2), # 后续层省略... ) self.avgpool nn.AdaptiveAvgPool2d((7, 7)) self.classifier nn.Sequential( nn.Linear(512 * 7 * 7, 4096), nn.ReLU(inplaceTrue), nn.Dropout(), # 默认0.5 nn.Linear(4096, 4096), nn.ReLU(inplaceTrue), nn.Dropout(), nn.Linear(4096, num_classes), ) def forward(self, x): x self.features(x) x self.avgpool(x) x torch.flatten(x, 1) x self.classifier(x) return x在实际使用时我通常会做几个优化添加BatchNorm层加速收敛根据输入尺寸调整最后的avgpool大小使用预训练权重时记得调整最后的全连接层3. MobileNetV2移动端的高效选择3.1 倒残差结构解析MobileNetV2最精妙的设计就是倒残差Inverted Residual结构。传统的残差块是先降维再升维而MobileNetV2反其道而行之先升维扩展层然后在深度可分离卷积操作最后再降维投影层。这种设计在保持精度的同时大幅减少了计算量。我做过一个对比实验在同样的计算预算下MobileNetV2比VGG16的推理速度快了约15倍而精度只下降了不到3%。这对于移动端应用简直是福音。去年给一个农业无人机项目部署模型时正是靠MobileNetV2才能在手机端实现实时作物病害识别。3.2 代码实现关键点class InvertedResidual(nn.Module): def __init__(self, inp, oup, stride, expand_ratio): super(InvertedResidual, self).__init__() self.stride stride hidden_dim int(round(inp * expand_ratio)) self.use_res_connect self.stride 1 and inp oup layers [] if expand_ratio ! 1: # 扩展层 layers.append(nn.Conv2d(inp, hidden_dim, 1, 1, 0, biasFalse)) layers.append(nn.BatchNorm2d(hidden_dim)) layers.append(nn.ReLU6(inplaceTrue)) # 深度可分离卷积 layers.extend([ nn.Conv2d(hidden_dim, hidden_dim, 3, stride, 1, groupshidden_dim, biasFalse), nn.BatchNorm2d(hidden_dim), nn.ReLU6(inplaceTrue), # 投影层 nn.Conv2d(hidden_dim, oup, 1, 1, 0, biasFalse), nn.BatchNorm2d(oup), ]) self.conv nn.Sequential(*layers) def forward(self, x): if self.use_res_connect: return x self.conv(x) else: return self.conv(x)实现时要注意几个细节ReLU6的使用限制最大输出为6残差连接的条件判断stride1且输入输出通道相同扩展比例expand_ratio的选择通常为64. ResNet50残差连接的革命4.1 跳跃连接如何解决梯度消失我第一次理解残差连接的价值是在训练一个50层的普通网络时。那个网络在训练集上的表现都很差而换成ResNet50后准确率直接提升了12%。关键就在于这些跳跃连接skip connection创建了梯度高速公路让深层网络也能有效训练。ResNet50的瓶颈结构Bottleneck设计也很巧妙先用1×1卷积降维然后进行3×3卷积最后再用1×1卷积升维。这样既减少了计算量又保持了足够的表达能力。我在处理高分辨率医学影像时这种设计让模型在保持精度的同时减少了40%的显存占用。4.2 完整实现与调优技巧class Bottleneck(nn.Module): expansion 4 def __init__(self, inplanes, planes, stride1, downsampleNone): super(Bottleneck, self).__init__() self.conv1 nn.Conv2d(inplanes, planes, kernel_size1, biasFalse) self.bn1 nn.BatchNorm2d(planes) self.conv2 nn.Conv2d(planes, planes, kernel_size3, stridestride, padding1, biasFalse) self.bn2 nn.BatchNorm2d(planes) self.conv3 nn.Conv2d(planes, planes * self.expansion, kernel_size1, biasFalse) self.bn3 nn.BatchNorm2d(planes * self.expansion) self.relu nn.ReLU(inplaceTrue) self.downsample downsample self.stride stride def forward(self, x): identity x out self.conv1(x) out self.bn1(out) out self.relu(out) out self.conv2(out) out self.bn2(out) out self.relu(out) out self.conv3(out) out self.bn3(out) if self.downsample is not None: identity self.downsample(x) out identity out self.relu(out) return out实际使用时我总结了几点经验下采样时要注意shortcut路径的维度匹配可以尝试调整expansion系数默认为4预训练模型最后一层的适配要小心处理5. 实战对比如何选择合适的网络5.1 精度、速度与参数量权衡去年做一个工业质检项目时我同时尝试了这三个网络。VGG16在测试集上准确率最高98.2%但推理速度只有10FPSMobileNetV2能达到45FPS但准确率降到95.7%ResNet50则取得了97.8%的准确率和25FPS的速度。最终我们选择了ResNet50因为它在精度和速度之间取得了最佳平衡。这里有个选择策略供参考追求最高精度VGG16或更深的ResNet需要移动端部署MobileNetV2平衡型需求ResNet505.2 迁移学习实战技巧from torchvision import models # 加载预训练模型 model models.resnet50(pretrainedTrue) # 替换最后一层 num_ftrs model.fc.in_features model.fc nn.Linear(num_ftrs, 10) # 假设我们的任务有10类 # 只训练最后一层 for param in model.parameters(): param.requires_grad False for param in model.fc.parameters(): param.requires_grad True我在实际项目中发现几个有用的技巧学习率要分层设置新加的层用较大学习率数据增强策略要根据任务调整微调时可以逐步解冻底层参数6. 训练过程中的常见问题第一次训练分类网络时我遇到了loss不下降的问题。后来发现是学习率设得太小。通过实验我总结出一些经验值VGG16初始学习率1e-3MobileNetV2初始学习率5e-4ResNet50初始学习率1e-3另一个常见问题是过拟合。我的解决方案组合是增加Dropout比例0.5-0.7使用更强的数据增强添加L2正则化早停策略在模型部署阶段记得使用model.eval()模式并配合torch.no_grad()上下文管理器这样可以减少内存消耗并加速推理。我在一个web服务项目中忘记这么做结果服务内存占用直接翻倍。