Pytorch Learning with Papers

古法学习

[TOC]

Pytorch Learning with Papers

AlexNet

2025.10.13

  • 狠狠喷了论文写的一般,事实上这是非常早的一篇工作,实现端到端的图像分类

    • 之前的工作都是会对图像进行特征提取(例如SIFT),将特征作为输入
    • AlexNet直接输入图像,但可惜论文没有重点说明这个
  • ReLU的引入带来了更快的训练速度

    • 但是后续的工作发现其实没什么差别,但是ReLU简单好用
  • 阻止过拟合

    • 数据增强
    • dropout
acc 激活函数 dropout batch_size
91.73% relu 0.5 256
92.18% relu 0.5 512
88.14% tanh 0.5 256
92.18% relu 0.3 256
91.72% relu 0.1 256
使用 Hugo 构建
主题 StackJimmy 设计