预告 | NIPS 2017线上分享:用于序列生成的推敲网络
2017-11-28 00:00
211 查看
编者按:上一期NIPS 2017优秀论文分享活动中,中国科学技术大学-微软联合培养博士生夏应策详细讲解了一篇关于神经机器翻译的NIPS入选论文。这次,应邀参加分享活动的是中山大学-微软亚洲研究院联合培养博士吴郦军,分享主题为“得句自斟酌:用于序列生成的推敲网络”。
活动日期:北京时间 11 月 30 日 20:00-21:00
演讲主题:得句自斟酌:用于序列生成的推敲网络
主讲人介绍
吴郦军,博士三年级,现就读于中山大学-微软亚洲研究院联合培养博士班,研究方向为机器学习、神经机器翻译、强化学习,目前在微软亚洲研究院机器学习组学习。
论文摘要
编码器-解码器框架在许多序列生成任务中都实现了非常好的性能,包括机器翻译、自动文本摘要、对话系统和图像描述等。这样的框架在解码和生成序列的过程中只采用一次(one-pass)正向传播过程,因此缺乏推敲(deliberation)的过程:即生成的序列直接作为最终的输出而没有进一步打磨的过程。然而推敲是人们在日常生活中的一种常见行为,正如我们在阅读新闻和写论文/文章/书籍一样。在该研究中,我们将推敲过程加入到了编码器-解码器框架中,并提出了用于序列生成的推敲网络(Deliberation
networks)。推敲网络具有两阶段解码器,其中第一阶段解码器用于解码生成原始序列,第二阶段解码器通过推敲的过程打磨和润色原始语句。由于第二阶段推敲解码器具有应该生成什么样的语句这一全局信息,因此它能通过从第一阶段的原始语句中观察未来的单词而产生更好的序列。神经机器翻译和自动文本摘要的实验证明了我们所提出推敲网络的有效性。在 WMT 2014 英语到法语间的翻译任务中,我们的模型实现了 41.5 的 BLEU 分值,即当前最优的 BLEU 分值。
论文地址
http://papers.nips.cc/paper/6775-deliberation-networks-sequence-generation-beyond-one-pass-decoding.pdf
参与方式
线上分享将在微软研究院AI头条读者群中进行。加群方式:长按扫描下方二维码加“微软亚洲研究院”为好友,备注暗号:NIPS,成功后将由小助手统一拉入群聊。
你也许还想看:
● 干货
| NIPS 2017线上分享:利用价值网络改进神经机器翻译
● 二十一世纪计算
| John Hopcroft:AI革命
● 大会|NIPS
2016:机器学习的盛典
感谢你关注“微软研究院AI头条”,我们期待你的留言和投稿,共建交流平台。来稿请寄:msraai@microsoft.com。
相关文章推荐
- NIPS 2017 | 机器之心线上分享第四期:用于序列生成的推敲网络
- 干货 | NIPS 2017:用于序列生成的推敲网络
- 机器之心线上分享:用于序列生成的推敲网络
- 干货 | NIPS 2017线上分享:利用价值网络改进神经机器翻译
- NIPS 2017线上分享:利用价值网络改进神经机器翻译
- NIPS 2017 | 线上分享第一期:似自然梯度的优化算法KFAC与强化学习算法ACKTR
- 生成线上用https证书,支持通配符和多域名,初学Let’s Encrypt用于IIS,纯本地手动
- [ZZ] Valse 2017 | 生成对抗网络(GAN)研究年度进展评述
- Valse 2017 | 生成对抗网络(GAN)研究年度进展评述
- 中科院NIPS 2017论文提出深度离散哈希算法,可用于图像检索
- GAN之父NIPS 2016演讲现场直击:全方位解读生成对抗网络的原理及未来(附PPT)
- 2017南宁网络赛L.The Heaviest Non-decreasing Subsequence Problem (最长非递减子序列)
- 帮助你生成分享和显示社交媒体网络按钮的jQuery插件 - #50C1AL
- 直播实录 | 基于生成模型的事件流研究 + NIPS 2017 论文解读
- 帮助你生成分享和显示社交媒体网络按钮的jQuery插件 - #50C1AL
- 2017(深圳) .NET技术分享交流会(第二期)网络直播活动
- 【SQL】分享表值函数FMakeRows,用于生成行
- Seq2Seq非常好的代码(机器翻译、对话生成等):漫谈四种神经网络序列解码模型【附示例代码】
- 我们请来了2017 NIPS大会发文数全球前3的华人教授,讲解网络数据的表征学习(视频+PPT)