MDX61B0450-503-4-0T 卷积神经网络是目前计算机视觉中使用最普遍的模型结构。 引入卷积神经网络进行特征提取，既能提取到相邻像素点之间的特征模式，又能保证参数的个数不随图片尺寸变化。上图是一个典型的卷积神经网络结构，多层卷积和池化层组合作用在输入图片上，在网络的最后通常会加入一系列全连接层，ReLU激活函数一般加在卷积或者全连接层的输出上，网络中通常还会加入Dropout来防止过拟合。 自2012年AlexNet在ImageNet比赛上获得，卷积神经网络逐渐取代传统算法成为了处理计算机视觉任务的核心。 在这几年，研究人员从提升特征提取能力，改进回传梯度更新效果，缩短训练时间，可视化内部结构，减少网络参数量，模型轻量化, 自动设计网络结构等这些方面，对卷积神经网络的结构有了较大的改进，逐渐研究出了AlexNet、ZFNet、VGG、NIN、GoogLeNet和Inception系列、ResNet、WRN和DenseNet等一系列经典模型，MobileNet系列、ShuffleNet系列、SqueezeNet和Xception等轻量化模型。
01
经典模型 （AlexNet）
AlexNet是第一个深度神经网络，其主要特点包括：
使用ReLU作为激活函数；
提出在全连接层使用Dropout避免过拟合。注：当BN提出后，Dropout就被BN替代了；
由于GPU显存太小，使用了两个GPU，做法是在通道上分组；。
使用局部响应归一化(Local Response Normalization --LRN)，在生物中存在侧抑制现象，即被激活的神经元会抑制周围的神经元。在这里的目的是让局部响应值大的变得相对更大，并抑制其它响应值相对比较小的卷积核。例如，某特征在这一个卷积核中响应值比较大，则在其它相邻卷积核中响应值会被抑制，这样一来卷积核之间的相关性会变小。LRN结合ReLU，使得模型提高了一点多个百分点；
使用重叠池化。作者认为使用重叠池化会提升特征的丰富性，且相对来说会更难过拟合。
02
集大成之作 （ResNet）
一般而言，网络越深越宽会有更好的特征提取能力，但当网络达到一定层数后，随着层数的增加反而导致准确率下降，网络收敛速度更慢。 传统的卷积网络在一个前向过程中每层只有一个连接，ResNet增加了残差连接从而增加了信息从一层到下一层的流动。FractalNets重复组合几个有不同卷积块数量的并行层序列，增加名义上的深度，却保持着网络前向传播短的路径。 相类似的操作还有Stochastic depth和Highway Networks等。这些模型都显示一个共有的特征，缩短前面层与后面层的路径，其主要的目的都是为了增加不同层之间的信息流动。
MDX61B0450-503-4-0T 1769-CRL3
1769-CRR1
1769-CRR3
1769-ECL
1769-ECR
1769-HSC
1769-IA16
1769-IA8I
1769-IF16C
1769-IF16V
1769-IF4
1769-IF4FXOF2F
1769-IF4I
1769-IF4XOF2
1769-IF8
1769-IG16
1769-IM12
6ES7317-2EK13-0AB0 CPU317-2 PN/DP,1MB内存
6ES7318-3EL00-0AB0 CPU319-3 PN/DP,1.4M内存
内存卡
6ES7953-8LF20-0AA0 SIMATIC Micro内存卡 64kByte(MMC)
6ES7953-8LG11-0AA0 SIMATIC Micro内存卡128KByte(MMC)
6ES7953-8LJ20-0AA0 SIMATIC Micro内存卡512KByte(MMC)
6ES7953-8LL20-0AA0 SIMATIC Micro内存卡2MByte(MMC)
6ES7953-8LM20-0AA0 SIMATIC Micro内存卡4MByte(MMC)
6ES7953-8LP20-0AA0 SIMATIC Micro内存卡8MByte(MMC)
开关量模板
6ES7321-1BH02-0AA0 开入模块（16点，24VDC）
6ES7321-1BH10-0AA0 开入模块（16点，24VDC）
6ES7321-1BH50-0AA0 开入模块（16点，24VDC，源输入）
6ES7321-1BL00-0AA0 开入模块（32点，24VDC）
6ES7321-7BH01-0AB0 开入模块（16点，24VDC，诊断能力）
6ES7321-1EL00-0AA0 开入模块（32点，120VAC）
6ES7321-1FF01-0AA0 开入模块（8点，120/230VAC）
6ES7321-1FF10-0AA0 开入模块（8点，120/230VAC）与公共电位单独连接
6ES7321-1FH00-0AA0 开入模块（16点，120/230VAC）
6ES7321-1CH00-0AA0 开入模块（16点，24/48VDC）
6ES7321-1CH20-0AA0 开入模块（16点，48/125VDC）
1769-IQ16
1769-IQ16F
1769-IQ32
1769-IQ32T
1769-IQ6XOW4
MDX61B0450-503-4-0T