[TOC]
Pytorch Learning with Papers
AlexNet
2025.10.13
-
狠狠喷了论文写的一般,事实上这是非常早的一篇工作,实现端到端的图像分类
- 之前的工作都是会对图像进行特征提取(例如SIFT),将特征作为输入
- AlexNet直接输入图像,但可惜论文没有重点说明这个
-
ReLU的引入带来了更快的训练速度
- 但是后续的工作发现其实没什么差别,但是ReLU简单好用
-
阻止过拟合
- 数据增强
- dropout
acc | 激活函数 | dropout | batch_size |
---|---|---|---|
91.73% | relu | 0.5 | 256 |
92.18% | relu | 0.5 | 512 |
88.14% | tanh | 0.5 | 256 |
92.18% | relu | 0.3 | 256 |
91.72% | relu | 0.1 | 256 |