深度学习（1）一些常见词解释

在看深度学习资料时一直提到回归这个词，最近在看RCNN时又提到逻辑回归。

1 回归问题：

回归分析预测法，最早是在分析市场现象自变量和因变量之间相关关系的基础上，建立变量之间的回归方程，并将回归方程作为预测模型，根据自变量在预测期的数量变化来预测因变量关系大多表现为相关关系。在深度学习中，我的理解就是根据数据拟合函数以后，再预测时将预测的值预测在（回归到）拟合函数上，所以叫回归。

2 逻辑回归的定位：

首先，逻辑回归是一种分类（Classification）算法。比如说：
给定一封邮件，判断是不是垃圾邮件
给出一个交易明细数据，判断这个交易是否是欺诈交易
给出一个肿瘤检查的结果数据，判断这个肿瘤是否为恶性肿瘤

逻辑回归是互联网上最流行也是最有影响力的分类算法，也是深度学习（Deep Learning）的基本组成单元。

在神经网络中，激活函数就是一种逻辑回归。

我对逻辑回归的通俗理解是，回归就是把数据去拟合（回归）原始的数据趋势（所以称为回归）。而逻辑回归则是在意义上（逻辑上）去拟合数据属于哪种类，即在逻辑上去定义，去判断，去分类。

3 聚类：

简单地说，聚类是指事先没有“标签”而通过分析找出事物之间存在聚集性原因的过程。在深度学习中，应该就是非监督学习，网络通过学习，自动将特征相同的类识别出来的过程。

分类聚类区别：

分类是事先定义好类别 ，类别数不变 。分类器需要由人工标注的分类训练语料训练得到，属于有指导学习范畴。聚类则没有事先预定的类别，类别数不确定。 聚类不需要人工标注和预先训练分类器，类别在聚类过程中自动生成 。

4 RCNN中正负样本：

负样本: 给定一张训练图像 --> 形成原始的过分割区域 --> 使用本文SS方法对区域进行融合,形成一系列最可能的候选区域 --> 计算每个候选区域与真实标记区域GT之间的重合度,如果区域A与GT的重合度在20-50%之间,而且A与其他的任何一个已生成的负样本之间的重合度不大于70%,则A被采纳为负样本,否则丢弃A,继续判别下一个区域;就是那些识别出来分错类的样本。正样本: 就是那些手工标记图片的样本。识别出来正确的样本。

5 非极大值抑制：

从一张图片中找出n多个可能是物体的矩形框，然后为每个矩形框为做类别分类概率：

算法先找出了一堆的方框，我们需要判别哪些矩形框是没用的。非极大值抑制：先假设有6个矩形框，根据分类器类别分类概率做排序，从小到大分别属于车辆的概率分别为A、B、C、D、E、F。

(1)从最大概率矩形框F开始，分别判断A~E与F的重叠度IOU是否大于某个设定的阈值;

(2)假设B、D与F的重叠度超过阈值，那么就扔掉B、D；并标记第一个矩形框F，是我们保留下来的。

(3)从剩下的矩形框A、C、E中，选择概率最大的E，然后判断E与A、C的重叠度，重叠度大于一定的阈值，那么就扔掉；并标记E是我们保留下来的第二个矩形框。

就这样一直重复，找到所有被保留下来的矩形框。

6.子采样：

就是平时所说的池化的另一种说法。