重读 CNN 网络的经典论文,并用 tensorflow 2.0 手撸一遍经典模型,感受一下实测数据
硬件环境: GTX 1080(GPU) + i7 7700k(CPU) + 16G Memory
注:LeNet5 过于简单,复现优先级低。
code and result: AlexNet on MNIST and Cifar10 Datasets
观点:AlexNet 在 cifar10 上展示了 CNN 网络的潜力。70% 的正确率,在容错率较高的场景下,具备一定的使用价值。
code and result: VggNet on Cifar10 Datasets
观点:
- VggNet 成功的把网络做的更深了,模型的算法性能也有了不错的提升(70% - 78%)
- 运行时间增加 10 倍,也很明显。计算的能效比已经不那么高了。
code and result: ResNet on Cifar10 Datasets
观点:
- ResNet 的性能和能效比,都好于 VggNet。碾压式的进步。
- 当前实现版本,过拟合很严重,是改进的重点。
见 Ubuntu 18.04 搭建 cuda10.1+tensorflow2.1+python3.7
$ pip install -r requirements.txt
- Tensorflow 2.0 Tutorials: https://www.tensorflow.org/tutorials
- Keras Introduction: https://keras.io/
- Getting started with the Keras Sequential model: https://keras.io/getting-started/sequential-model-guide/
- Getting started with the Keras functional API: https://keras.io/getting-started/functional-api-guide/