图像的卷积和池化操作,卷积操作( 四 )


一个例子是使用 ResNet-152 作为教师模型来帮助训练 ResNet-50 。5.4 混合训练在混合训练(mixup)中,每次我们随机抽样两个样本 (x_i,y_i) 和 (x_j,y_j) 。然后我们通过这两个样本的加权线性插值构建一个新的样本:其中 λ∈[0,1] 是从 Beta(α, α) 分布提取的随机数 。
在混合训练中,我们只使用新的样本 (x hat, y hat) 。5.5 实验结果表 6:通过堆叠训练改进方法,得到的 ImageNet 验证准确率 。基线模型为第 3 节所描述的 。6 迁移学习6.1 目标检测表 8:在 Pascal VOC 上评估各种预训练基础网络的 Faster-RCNN 性能 。6.2 语义分割表 9:在 ADE20K 上评估各种基础网络的 FCN 性能 。
如何理解卷积神经网络里卷积过滤器的深度问题?

图像的卷积和池化操作,卷积操作


我们通常看到的卷积过滤器示意图是这样的:(图片来源:cs231n)这其实是把卷积过滤器“压扁”了,或者说“拍平”了 。比如,上图中粉色的卷积过滤器是3x3x3,也就是长3宽3深3,但是示意图中却画成二维——这是省略了深度(depth) 。实际上,卷积过滤器是有深度的,深度值和输入图像的深度相同 。也正因为卷积过滤器的深度和输入图像的深度相同,因此,一般在示意图中就不把深度画出来了 。
如果把深度也画出来,效果大概就是这样:(图片来源:mlnotebook)如前所述,卷积过滤器的深度和输入图像的深度相同,都是3 。顺便说下,输入图像深度为3,是因为输入图像是彩色图像,深度为3,分别为R、G、B值 。作为对比,灰度图像的卷积过滤器是这样的(真2D):(图片来源:mlnotebook)总之,卷积过滤器的深度和输入数据的深度保持一致就可以了 。

推荐阅读