从零开始机器学习003-逻辑回归算法

老师的课程

1.从零开始进行机器学习

2.机器学习数学基础(根据学生需求不断更新)

3.机器学习Python基础

4.最适合程序员的方式学习TensorFlow

问：逻辑回归是解决回归的问题吗？

答：不是，逻辑回归解决的是分类问题。

一、逻辑回归概念

面对一个回归或者分类问题，建立代价函数，然后通过优化方法迭代求解出最优的模型参数，然后测试验证我们这个求解的模型的好坏。

Logistic回归虽然名字里带“回归”，但是它实际上是一种分类方法，主要用于两分类问题（即输出只有两种，分别代表两个类别）

是什么手段让逻辑回归只能输出两种值呢？答：Sigmoid函数。

二、Sigmoid函数

Logistic函数（或称为Sigmoid函数），函数形式为



其中e代表着常数 2.71828……

通过下面的图形可以看到，把任意一个z带入到Sigmoid函数中，都会得到一个(0,1)之间的值。那么我们能否把(0,1)之间的值想成是 0-100%的一个概率值呢？我们把概率小于50%的分为不易发生的一类。把剩余的分为另外一类。这样就产生了两个类别。达到分类的目的。这个就是逻辑回归作为分类的理论依据。

三、判定条件(分类的那条线)

对多元线性回归方程求Sigmoid函数hθ(x)=g(θ0+θ1x1+…+θnxn)，找到一组θ，假设得到−3+x1+x2=0的直线，把样本分成两类。把(1,1)代入g函数，概率值<0.5，就判定为负样本。这条直线就是判定边界，如下图：



这条线就是线性回归函数，换句话说，参数z就是一个线性回归函数。

因此逻辑回归函数的表达式如下：

四、代价函数

逻辑回归方法主要是用最大似然估计来学习的，所以单个样本的后验概率为：



整个样本的后验概率就是：

五、最终运用梯度下降求解：

微信公众号:北国课堂

老师的课程

1.从零开始进行机器学习

2.机器学习数学基础(根据学生需求不断更新)

3.机器学习Python基础

4.最适合程序员的方式学习TensorFlow