vlambda博客
学习文章列表

【知识星球】有没有网络模型是动态变化的,每次用的时候都不一样?

欢迎大家来到《知识星球》专栏,这里是网络结构1000变小专题,今天给大家介绍一类网络结构,它是动态变化的,每一次使用的时候都不一样。



作者&编辑 | 言有三

1 训练时变化的网络结构

首先我们看第一种,即训练的时候拓扑结构发生动态变化的,最熟悉的是什么?Dropout和DropConnect对吧!

大家都知道的我们肯定是不会讲了,下面给大家讲一个非常优秀的研究。

有三AI知识星球-网络结构1000变

Stochastic Depth

【知识星球】有没有网络模型是动态变化的,每次用的时候都不一样?

多个独立研究表明实际上ResNet的有效深度没有想象中那么深,152层的网络有效深度也就是40多层左右,怎么去研究这个问题呢?

作者/编辑 言有三

stochastic depth对此做出了研究,它做的事情很简单,就是在训练的时候把残差网络的单元随机删减掉一些,测试时不变,所以网络训练的时候是一个比测试时更浅层的网络。


实验证明这不仅减小了训练时间,还提升了测试精度,实验结果如下:

【知识星球】有没有网络模型是动态变化的,每次用的时候都不一样?

从这两个图可以看出,加上随机删减后测试集的精度在CIFAR10和CIFAR100上都有所提升了。与基础ResNet结构相比,测试集的精度大于训练集,证明网络过拟合大大下降。下面SVHN的结果更加印证了这一点,稳稳地压倒普通ResNet网络。

【知识星球】有没有网络模型是动态变化的,每次用的时候都不一样?

另一方面再看右上图,1201层的网络的性能也很不错,不仅仅没有过拟合,而且相对于152层的ResNet性能还能够继续提升,这就相当不易了。


上面展示了实验结果,那为什么有效呢?作者给出了一点解释。即这样的网络梯度更大更有效,如下图第一个卷积层的对比:

【知识星球】有没有网络模型是动态变化的,每次用的时候都不一样?

随机删减网络的梯度始终比普通ResNet更大,而且学习率下降后更加明显。


[1] Huang G, Sun Y, Liu Z, et al. Deep networks with stochastic depth[C]//European conference on computer vision. Springer, Cham, 2016: 646-661.

Stochstic depth网络本质上可以看作是多个网络的集成,与Dropout等技术一样在训练时结构发生变化,能提高模型的表达能力。

测试时变化的网络结构

上面说了训练时发生变化的网络,那有没有测试时也发生动态变化的网络呢?

有三AI知识星球-网络结构1000变

BranchyNet

【知识星球】有没有网络模型是动态变化的,每次用的时候都不一样?

通常来说模型训练完之后结构就是固定的,测试时图片沿着固定的通路进行计算。然而测试样本本身有不同的难度,简单的样本只需要少量的计算量就可以完成任务,困难的样本则需要更多的计算量。BranchyNet就可以根据不同难度的图片,使用不同的计算通路,从而使计算更加高效。

作者/编辑 言有三

如上图所示,它在正常网络通道上包含了多个旁路分支,这样的思想是基于观察到随着网络的加深,表征能力越来越强,大部分简单的图片可以在较浅层时学习到足以识别的特征,如上图中的Exit 1通道。一些更难的样本需要进一步的学习,如上图中的Exit 2通道,而只有极少数样本需要整个网络,如Exit3通道。这样的思想可以实现精度和计算量的平衡,对于大部分样本,可以用更小的计算量完成任务。


那么如何判断是否可以提前结束呢?在提出该网络的论文中,作者采用分类信息熵,一旦该通道的分类信息熵低于某一个阈值,说明已经以很高的置信度获得了分类的结果,直到最终的通道。


在训练的时候,每一个通道都会对损失有贡献,越靠近浅层的网络权重越大。多通道的损失不仅增强了梯度信息,也在一定程度上实现了正则化。


将BranchyNet的设计思想用于LeNet,AlexNet,ResNet结构后,在维持性能的前提下,加速效果明显。

【知识星球】有没有网络模型是动态变化的,每次用的时候都不一样?

对于拥有N个分支的网络,需要的就是N-1个阈值,因为最后一个分支不需要阈值。

LeNet系列网络可以让超过90%的样本在第一个分支提前终止,AlexNet提前终止样本比例也超过一半,ResNet提前终止样本比例超过了40%。


[1] Teerapittayanon S, McDanel B, Kung H T. Branchynet: Fast inference via early exiting from deep neural networks[C]//2016 23rd International Conference on Pattern Recognition (ICPR). IEEE, 2016: 2464-2469.

更多相关内容请大家移步有三AI知识星球。

【知识星球】有没有网络模型是动态变化的,每次用的时候都不一样?

3 关于有三AI知识星球




有三AI知识星球的内容非常多,大家可以预览一些内容如下。

【知识星球】有没有网络模型是动态变化的,每次用的时候都不一样?
【知识星球】有没有网络模型是动态变化的,每次用的时候都不一样?
【知识星球】有没有网络模型是动态变化的,每次用的时候都不一样?
【知识星球】有没有网络模型是动态变化的,每次用的时候都不一样?
【知识星球】有没有网络模型是动态变化的,每次用的时候都不一样?
【知识星球】有没有网络模型是动态变化的,每次用的时候都不一样?
【知识星球】有没有网络模型是动态变化的,每次用的时候都不一样?
【知识星球】有没有网络模型是动态变化的,每次用的时候都不一样?
【知识星球】有没有网络模型是动态变化的,每次用的时候都不一样?


以上所有内容

加入有三AI知识星球即可获取

来日方长

点击加入

不见不散

更多精彩

每日更新


【知识星球】有没有网络模型是动态变化的,每次用的时候都不一样?


转载文章请后台联系

侵权必究

【知识星球】有没有网络模型是动态变化的,每次用的时候都不一样?

往期精选