平行区块链技术创新中心

第34期平行区块链讨论班——深度学习理论研讨

2019 3月21日,第34期平行区块链讨论班在智能化大厦11层会议室举行。黄辰辰在本次讨论班做了“深度学习理论研讨“的主题报告,从机器学习概念及其应用场景,深度学习算法的各类算法与应用,深度强化学习算法分析三部分对当前流行的机器学习与深度学习算法的发展与应用进行了研究和讨论。

 

第一部分,分有监督学习,无监督学习,半监督学习,强化学习介绍机器学习的各个概念,代表算法,以及应用场景。归纳有监督学的解决案为:数据收集,数据预处理,特征工程,特征分类。深度学习算法与传统数据挖掘算法的最显著的区别在于,深度学习算法采用端到端学习,通过CNN,RNN等神经网络算法进行特征工程。

 

第二部分,介绍CNN,RNN,Attention,以及GAN等深度学习算法。CNN的主要结构为卷积层与池化层,其作用分别为局部加权与下采样,经过大规模CNN算法,可挖掘图像,视频等高维数据深度隐含特征;经典的CNN网络模型为AlexNet,VGG,RestNet等,可将其作为预训练模型应用到具体问题。RNN为递归神经网络,适合于提取变量序列间的特征信息,其中LSTM为RNN网络的改进,应用更加广泛。Attention模型,可以提取输入向量间的相关度特征,一定程度上起到了逻辑推理的作用。GAN为半监督学习的一种,最常见的应用场景为生成与真实数据分布相近的数据,网络又生成器与判别器组成,通过交互对抗式训练,完成模型调参,通过改进可应用在其他有监督学习场景。

image

image

第三部分,介绍深度强化学习为主。强化学习的内容为通过与环境进行交互获得的奖赏指导行为,目标是使智能体获得最大的奖赏。以Actor-Critic算法为代表,Actor为策略生成器,Critic为策略评判器,通过时间差分法等算法完成迭代训练。以AlphaGo,AlphaStar为例,展开详细的介绍。

2019年3月21日 17:02
浏览量:0
收藏