CNN在图像上表现好的原因
相比于手工特征,
CNN可以采用数据驱动的方式学习特征提取,能够提取到更好更丰富的特征。
深层网络可以拟合更复杂的计算,从而提取更复杂更抽象的特征。
相比于普通深度神经网络,
卷积核共享参数,充分利用图像上的空间局部性,因此具有参数共享和稀疏连接两条优点,不容易过拟合。
CNN中的池化层还使网络具有平移不变性的特性。
参数共享: 不同图像区域用的卷积核共享一个参数
稀疏连接: 只在卷积视野内连接,不在全图连接
理论上,
万能逼近定理: 只要激活函数选择得当,神经元个数