逻辑回归 算法 理论

极大似然估计












极大似然估计步骤



极大似然估计示例






示例引入逻辑回归









逻辑回归的由来



logistic函数(sigmoid函数)






sigmoid函数求导



Sigmoid函数性质






极大似然估计参数









回顾梯度下降法






梯度上升法



批处理梯度上升法



随机梯度上升法



批处理梯度上升法



随机梯度上升法












随机梯度上升法结果分析



改进的随机梯度上升法



改进的随机梯度上升法迭代多次效果



三种优化算法的结果对比