您现在的位置是:热点 >>正文

谷歌大脑最新研究:AutoML方式自动学习Dropout模式

热点031713人已围观

简介...

本文经AI新媒体量子位(公众号ID:QbitA谷歌I)授权转载,转载请联系出处。

深度神经网络往往存大脑在过拟合的问题,需要Dropout、权重衰减这样的正则化最新方法的加持。

而最近的研究表明,如果对Dropo研究ut“剪掉”的神经元的结构进行利用,就能实现比随机替:A换更好的效果。

问题是,实际应用中,针对不同的问题,ut利用结构的方法需要人工设计,对Dropout的模式进行调oM整,泛化能力不足。

那么,是否能设计一种针对CNN、TL方ransformer这样的深度神经网络,自动学习D式自ropout模式的方法?

现在,谷歌大神Quoc V. Le的动学团队,就提出了一种名为AutoDropout的方法。

&习Dnbsp;

 

 

 

&nbsrop;

https://arxiv.org/abs/210po1.01761

 

Tags:

相关文章



友情链接