CNN 卷积神经网络

假设我们有一张 224×224 的彩色图片，展平后有 224×224×3 = 150,528 个像素。 如果第一个隐藏层有 1000 个神经元，仅第一层就需要 1.5 亿个参数！这不仅计算量巨大，而且容易过拟合。

更重要的是，全连接层把像素展平，完全丢失了空间信息 — 它不知道哪些像素是相邻的，也无法识别局部特征（如边缘、纹理）。

类比：想象你第一次看一幅画 — 你不会同时注意每一个像素。 你会先看局部的纹理和线条，再组合成更大的形状，最后理解整幅画的内容。CNN 做的正是同样的事情。

CNN 的三大核心思想

由 Yann LeCun 提出，是第一个成功的 CNN，用于手写数字识别（MNIST）。 它证明了卷积网络可以有效学习图像特征。

创新：首次成功将卷积 + 池化 + 全连接组合用于图像识别，奠定了 CNN 的基本架构。

VGG 的核心思想非常简单：用多个 3×3 小卷积核堆叠代替大卷积核。 例如，两个 3×3 卷积的感受野等价于一个 5×5，但参数更少、非线性更强。

创新：证明了"更深 + 更小卷积核"比"更浅 + 更大卷积核"效果更好。

网络越深，理论上应该越好。但实际上，超过一定深度后，训练误差反而上升（不是过拟合，是训练误差！）。 这是因为深层网络的梯度消失问题。

ResNet 的解决方案极其优雅：残差连接（Skip Connection）。 不直接学习目标映射 H(x)，而是学习残差 F(x) = H(x) - x， 最终输出 F(x) + x。

import torch
import torch.nn as nn

# 2D 卷积层
conv = nn.Conv2d(
    in_channels=3,      # 输入通道数（RGB=3）
    out_channels=16,    # 输出通道数（卷积核个数）
    kernel_size=3,     # 卷积核大小 3×3
    stride=1,          # 步长
    padding=1          # 填充（保持尺寸不变）
)

# 输入: (batch, channels, height, width)
x = torch.randn(1, 3, 32, 32)  # 1张 32×32 RGB图
out = conv(x)
print(out.shape)  # torch.Size([1, 16, 32, 32])

# 查看参数量
params = sum(p.numel() for p in conv.parameters())
print(f"参数量: {params}")  # 448 = 3×16×3×3 + 16

# 最大池化层
pool = nn.MaxPool2d(
    kernel_size=2,  # 2×2 窗口
    stride=2       # 步长=2，尺寸减半
)

x = torch.randn(1, 16, 32, 32)
out = pool(x)
print(out.shape)  # torch.Size([1, 16, 16, 16])

# 自适应池化（输出固定尺寸）
adaptive_pool = nn.AdaptiveAvgPool2d((1, 1))
out = adaptive_pool(x)
print(out.shape)  # torch.Size([1, 16, 1, 1])