告别炼丹,Google Brain提出强化学习助力Neural Architecture Search | ICLR2017

论文为Google Brain在16年推出的使用强化学习的Neural Architecture Search方法,该方法能够针对数据集搜索构建特定的网络,但需要800卡训练一个月时间。虽然论文的思路有很多改进的地方,但该论文为AutoML的经典之作,为后面很多的研究提供了思路,属于里程碑式的论文,十分值得认真研读,后面读者会持续更新AutoML的论文,有兴趣的可以持续关注

论文:Neural Architecture Search with Reinforcement Learning

告别炼丹,Google Brain提出强化学习助力Neural Architecture Search | ICLR2017

  • 论文地址: https://arxiv.org/abs/1611.01578
  • 论文代码https://github.com/titu1994/neural-architecture-search

Introduction

告别炼丹,Google Brain提出强化学习助力Neural Architecture Search | ICLR2017

论文提出神经网络架构搜索(Neural Architecture Search),一个用于搜索架构的gradient-based方法,主要包含4个步骤:

  1. the controller. 网络结构可能看成是可变长的字符串,因此,论文使用循环神经网络(recurrent network)来产生这样的字符串
  2. child network. 在实际数据集上训练字符串对应的网络(child network),在验证集上获得准确率
  3. prolicy signal. 将准确率作为奖励信号(reward signal),我们能计算策略梯度(policy gradient)来更新controller
  4. iteration. 重复步骤1-3,controller将学习到如何针对训练集构建合适的神经网络

Methods

GENERATE MODEL DESCRIPTIONS WITH A CONTROLLER RECURRENT NEURAL NETWORK

告别炼丹,Google Brain提出强化学习助力Neural Architecture Search | ICLR2017

假设需要产生一个仅包含卷积层的神经网络,如图2,the controller会生成一个代表网络超参数token序列。在实验中,当层数达到设定后,生成操作就会停止,这个设定会按设定随着训练的进行增加。对于the controller产生的网络,会进行训练并在收敛后在预留的验证集上进行测试和记录,将准确率作为指标来优化the controller RNN的参数$/theta_c$

TRAINING WITH REINFORCE

告别炼丹,Google Brain提出强化学习助力Neural Architecture Search | ICLR2017

controller产生的网络可以标记为一连串action $a_{1:T}$,网络在验证集上的准确率标记为$R$,将$R$作为奖励信息,使用强化学习来训练controller最大化$R$,损失函数为准确率的期望

告别炼丹,Google Brain提出强化学习助力Neural Architecture Search | ICLR2017

由于$R$对于controller是不可导的($R$是独立训练产生的),需要使用强化学习的policy gradient method来更新$/theta_c$,这里采用Williams的REINFORCE方法,通过多次采样来估算奖励期望进行梯度计算 (这里有懂强化学习的读者,可以留言讲解下这个公式)

告别炼丹,Google Brain提出强化学习助力Neural Architecture Search | ICLR2017

转换后,对于controller的梯度$/triangledown_{/theta_c} J(/theta_c)$就如上式所示,m为controller一次产生的网络数,T为controller产生的超参数,$R_k$为第k个网络的准确率

告别炼丹,Google Brain提出强化学习助力Neural Architecture Search | ICLR2017

前面的更新公式是对梯度的无偏估计,但会产生较大的方差,因为产生的网络质量不稳定,每轮的准确差异可能很大。为了减少方差,加入基底参数b,即REINFORCE with Baseline,这里的b是之前每轮网络的准确率的指数滑动平均(exponential moving average),这样就能判断当前的准确率较之前是上升了还是下降了,从而更好地更新controller。由于b与当前的iteration无关,所以公式依然是无偏估计

告别炼丹,Google Brain提出强化学习助力Neural Architecture Search | ICLR2017

由于网络的训练需要很长时间,论文采用分布式训练以及异步更新参数的方法来加速整体流程。采用parameter-server的结构,总共S个parameter server,K个controller,每个controller一次训练m个网络。在网络都收敛后,controller收集梯度发送给parameter server,收敛定义为训练达到设定的周期

INCREASE ARCHITECTURE COMPLEXITY WITH SKIP CONNECTIONS AND OTHER LAYER TYPES

前面提到的网络构建不包含目前流行的skip-connection layer(ResNet)和branching layer(GoogleNet),论文使用Neelakan-tan提出的给予注意力极致的set-selection type attention来增加这个特性

告别炼丹,Google Brain提出强化学习助力Neural Architecture Search | ICLR2017

在层N添加一个anchor point隐藏层,该层输出N-1个content-based sigmoids来指示之前的层是否需要连接,$h_j$代表构造的网络的第j层的anchor point,$W_{prev}$ $W_{curr}$ $v$是可训练的参数,由于这些参数依然是概率分布,所以REINFORCE方法依然可直接使用

告别炼丹,Google Brain提出强化学习助力Neural Architecture Search | ICLR2017

在实际中,如果一个层包含多个输入,会将输入进行concat操作。由于每层的输出大小不一样,而且有的层甚至没有输入和输出,skip connection可能会出现问题,主要有以下3种应对方法:

  • 如果当前层无输入,直接将image作为输入
  • 在最后一层将所有无连接的输出concat作为最后的的分类器的输入
  • 当concat的输入大小不一致时,将小的输入进行0填充至统一大小

最后,论文提到controller可以添加学习率等参数的预测。此外,可以增加layer type的预测,来让controller增加pooling, local contrast normalization, batchnorm等层的添加

GENERATE RECURRENT CELL ARCHITECTURES

告别炼丹,Google Brain提出强化学习助力Neural Architecture Search | ICLR2017

论文也在RNN架构搜索上进行了尝试,RNN和LSTM单元(cell)可以定义为一个树状结构,将$x_t$和$h_{t-1}$作为输入,输出$h_t$。controller需要预测结构中node的合并方式(addition, elementwise, multiplication等)和激活函数(tanh, sigmoid等)来处理输入以及生成输出,然后将两个node的输出喂到下一个node中,为了方便预测,对树状结果的每一个node进行了编号

另外,受LSTM的启发,为每个单元添加变量$c_{t-1}$和$c_t$来存储记忆状态(memory state),让controller选择这两个变量分别连接哪个node,注意$c_{t-1}$需要合并和激活操作(Cell Inject),整体的预测步骤如下:

  • controller预测node 0的操作为$Add$和$Tanh$,$a_0=tanh(W_1 * x_t + W_2 * h_{t-1})$
  • controller预测node 1的操作为$ElemMult$和$ReLU$,$a_1=ReLU((W_3 * x_t) /odot (W_4*h_{t-1}))$
  • controller预测"Cell Index"的第二个变量为0,以及"Cell Inject"的操作为$Add$和$ReLU$,$a_0^{new}=ReLU(a_0+c_{t-1})$
  • controller预测node 2的操作为$ElemMult$和$Sigmoid$,$a_2=sigmoid(a_0^{new}/odot a_1)$
  • controller预测"Cell Index"的第一个变量为1,将$c_t$设为node 1激活前的输出

EXPERIMENTS AND RESULT

LEARNING CONVOLUTIONAL ARCHITECTURES FOR CIFAR-1

  • Search spac

搜索空间包含卷积操作,ReLu,batch normalization和skip connection。卷积核的长宽限制在$[1,3,5,7]$,output_num限制在$[24,36,48,64]$,步长包含两种,一种固定为1,一种则限制在$[1,2,3]$

  • Training details

controller为双层LSTM,每层35个隐藏单元,使用ADAM优化,学习率为0.0006。搜索的网络进行50轮训练,验证集是从训练机随机挑选的5000张样本,使用Nesterov Momentum训练,学习率为0.1。网络的层数初始为6层,每产生1600个子网络就增加2层

  • Results

告别炼丹,Google Brain提出强化学习助力Neural Architecture Search | ICLR2017

在训练了12800个网络后,得到了准确率最高的网络结构,之后进行小范围的超参数(learning rate,weight decay,batchnorm epsilon,epoch to decay learning rate)搜索,最后得到表1的结果:

  • 如果不预测步长和池化,能够得到一个5.5% errror rate的15-layer网络结构,这个结构准确率和层数的性价比很高,但是他的性能很慢,见Appendix,值得注意的是,这个结构包含很多长方形和比较大的卷积核,以及包含很多skip connections
  • 当需要预测步长时,由于搜索空间很大,搜索出的20-layer网络精度仅有6.01%
  • 最后,在允许网络在13层和24层包含池化操作后,controller能够设计一个39-layer的网络,精度达到4.47%。为了缩小搜索空间,让模型预测13层网络,每层由全连接3层的3个子层构成(类似与densenet),此外,缩小卷积数量为$[6,12,24,36]$,每个大层增加40个卷积核,最终准确率达到3.74%,超越人类设计的最好网络

LEARNING RECURRENT CELLS FOR PENN TREEBANK

  • Dataset

RNN在Penn Treebank数据集上进行语言模型构建,进行word-level的实验,即单词预测

  • Search space

combination method为$[add,elem/_mult]$,activation method为$[identity,tanh,sigmoid,relu]$,RNN单元的输入对为8对(对应之前的node0 node 1那种),总共大约$6/times 10^{16}$种网络结构

  • Training details

学习率为0.0005,每个子模型训练35个epoch,每个子网络包含两层,奖励函数为$/frac{c}{(validation perplexity)^2}$,c一般设为80。同样的,在搜索完结构后,需要进行超参数搜索

  • Result

告别炼丹,Google Brain提出强化学习助力Neural Architecture Search | ICLR2017

从表2可以看到,搜索到的网络性能达到了state-of-the-art,搜索出来的结构跟LSTM单元十分相似

  • Transfer Learning Results

告别炼丹,Google Brain提出强化学习助力Neural Architecture Search | ICLR2017

为了验证搜索的单元在不同任务上的通用性,在同样的数据集上进行character-level的实验,即字符预测,从结构看出,搜索的结构依然表现不错

  • Control Experiment 1 – Adding more functions in the search space

为了验证架构搜索的鲁棒性,添加max合并方法和sin激活方法,从实验来看,虽然搜索空间变大了,但结果相差不大,结果见Appendix A

  • Control Experiment 2 – Comparison against Random Search

告别炼丹,Google Brain提出强化学习助力Neural Architecture Search | ICLR2017

论文进行了随机搜索的对比,尽管这个方法看起来,但是实际经常很难超越,从实验结果看来,论文提出的搜索方法不仅最好的模型要优异,整体平均都要优于随机搜索

CONCLUSION

论文使用强化学习进行Neural Architecture Search这一创新的方法,该方法能够针对数据集搜索构建特定的网络,但搜索的资源消费巨大。从实验的过程来看,论文提出的方法还是需要添加许多人工干预的部分才能突破各个task中的state-of-the-art,而且需要十分多的计算资源和时间,但是从意义来说,该论文开创了AutoML的序幕,为后面很多的研究提供了思路,十分值得认真研读

参考内容

  • [Simple Statistical Gradient-Following Algorithms for Connectionist Reinforcement Learning

– WILLIAMS,R. J.

]( http://www-anw.cs.umass.edu/~…

  • Neural Programmer: Inducing Latent Programs with Gradient Descent – [Arvind Neelakantan

]( https://arxiv.org/abs/1511.04…

A APPENDIX

告别炼丹,Google Brain提出强化学习助力Neural Architecture Search | ICLR2017

告别炼丹,Google Brain提出强化学习助力Neural Architecture Search | ICLR2017

如果本文对你有帮助,麻烦点个赞或在看呗~

告别炼丹,Google Brain提出强化学习助力Neural Architecture Search | ICLR2017

原文 

https://segmentfault.com/a/1190000022167827

本站部分文章源于互联网,本着传播知识、有益学习和研究的目的进行的转载,为网友免费提供。如有著作权人或出版方提出异议,本站将立即删除。如果您对文章转载有任何疑问请告之我们,以便我们及时纠正。

PS:推荐一个微信公众号: askHarries 或者qq群:474807195,里面会分享一些资深架构师录制的视频录像:有Spring,MyBatis,Netty源码分析,高并发、高性能、分布式、微服务架构的原理,JVM性能优化这些成为架构师必备的知识体系。还能领取免费的学习资源,目前受益良多

转载请注明原文出处:Harries Blog™ » 告别炼丹,Google Brain提出强化学习助力Neural Architecture Search | ICLR2017

赞 (0)
分享到:更多 ()

评论 0

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址