Convolutional Neural Network Architectures for Matching Natural Language Sentences（阅读理解）
2018-05-17 11:03
232 查看
以上图片是作者提供的一个最基本的并且通用的文本分类模型，文章后面介绍的内容是以此结构进行展开的
作者提出卷积神经网络模型来匹配两个句子，该模型不仅能够很好地表示句子的层次结构，而且能够逐层构图和合并，而且能够在不同层次捕捉到丰富的匹配模式
作者首先基于上一个模型提出了一个用于比较两个句子相似度的模型，这个模型的缺点在于将两个句子encode成句向量之后再用多层感知机进行分类，这种方法就很明显没有体现出句子之间的交互操作
根据缺少交互这一问题，作者改进了新的模型，将1-D卷积操作通过变换修改成和两个句子的相关的feature map，如下图所示
本文重点
这篇文章的核心点在于Layer-1 （1D convolution）
首先从Sentence x中任取一个向量xa，再从Sentence y中将每一个向量和xa进行卷积操作
同理以上操作，将两个句子中所有的向量两两组合，构成2D向量
后续的操作和一般的卷积操作没有太多区别
阅读更多
内容来自用户分享和网络整理，不保证内容的准确性，如有侵权内容，可联系管理员处理 
相关文章推荐
- 【文献阅读】Convolutional neural network architectures for predicting DNA-protein binding
- Neural Network Methods for Natural Language Processing 读书笔记2 —— 文本中的特征
- Attention-over-Attention Neural Network for Reading Comprehension----神经网络在阅读理解上的应用
- Multi-Task Convolutional Neural Network for Face Recognition阅读笔记
- Effective Use ofWord Order for Text Categorization with Convolutional Neural Networks（阅读理解）
- 论文阅读（Weilin Huang——【TIP2016】Text-Attentional Convolutional Neural Network for Scene Text Detection）
- A convolutional Neural Network for Modelling Sentences
- Neural Network Methods for Natural Language Processing 系列读书笔记 -- 预览
- [文献阅读]A Convolutional Neural Network Cascade for Face Detection
- A Hierarchical Deep Convolutional Neural Network for Fast Artistic Style Transfer论文理解
- Neural Network Methods for Natural Language Processing 读书笔记1 —— 神经网络入门
- Semantically Conditioned LSTM-based Natural Language Generation for Spoken Dialogue Systems（阅读理解）
- 论文阅读笔记：ShuffleNet: An Extremely Efficient Convolutional Neural Network for Mobile Devices
- Understanding Convolutional Neural Networks for NLP（理解NLP中的卷积神经网络） 阅读笔记
- ShuffleNet: An Extremely Efficient Convolutional Neural Network for Mobile Devices的理解
- [NLP论文阅读] The Fixed-Size Ordinally-Forgetting Encoding Method for Neural Network Language Models
- Neural Network Methods for Natural Language Processing 系列读书笔记 -- 第一章 介绍
- Human Action Recognition Using a Modified Convolutional Neural Network(经典文献阅读)
- Boundary-Aware Fully Convolutional Network for Brain Tumor Segmentation论文理解