感知机中损失函数1/||w||为什么可以不考虑(或直接忽略)?
2016-09-18 10:44
288 查看
以下为个人理解,仅供参考交流。
1、1/||w||不影响-y(w,x+b)正负的判断,即不影响学习算法的中间过程。因为感知机学习算法是误分类驱动的,这里需要注意的是所谓的“误分类驱动”指的是我们只需要判断-y(wx+b)的正负来判断分类的正确与否,而1/||w||并不影响正负值的判断。所以1/||w||对感知机学习算法的中间过程可有可无;
2、1/||w||不影响感知机学习算法的最终结果。因为感知机学习算法最终的终止条件是所有的输入都被正确分类,即不存在误分类的点。则此时损失函数为0. 对应于-y(wx+b)/||w||,即分母为0.则可以看出1/||w||对最终结果也无影响。
综上所述,即使忽略1/||w||,也不会对感知机学习算法的执行过程产生任何影响。反而还能简化运算,提高算法执行效率。
1、1/||w||不影响-y(w,x+b)正负的判断,即不影响学习算法的中间过程。因为感知机学习算法是误分类驱动的,这里需要注意的是所谓的“误分类驱动”指的是我们只需要判断-y(wx+b)的正负来判断分类的正确与否,而1/||w||并不影响正负值的判断。所以1/||w||对感知机学习算法的中间过程可有可无;
2、1/||w||不影响感知机学习算法的最终结果。因为感知机学习算法最终的终止条件是所有的输入都被正确分类,即不存在误分类的点。则此时损失函数为0. 对应于-y(wx+b)/||w||,即分母为0.则可以看出1/||w||对最终结果也无影响。
综上所述,即使忽略1/||w||,也不会对感知机学习算法的执行过程产生任何影响。反而还能简化运算,提高算法执行效率。
相关文章推荐
- 用Python从零实现贝叶斯分类器的机器学习的教程
- My Machine Learning
- 机器学习---学习首页 3ff0
- Spark机器学习(一) -- Machine Learning Library (MLlib)
- 反向传播(Backpropagation)算法的数学原理
- 关于SVM的那点破事
- 也谈 机器学习到底有没有用 ?
- #ML-SDN
- TensorFlow人工智能引擎入门教程之九 RNN/LSTM循环神经网络长短期记忆网络使用
- TensorFlow人工智能引擎入门教程之十 最强网络 RSNN深度残差网络 平均准确率96-99%
- TensorFlow人工智能引擎入门教程所有目录
- Tensorflow 杂记
- 如何用70行代码实现深度神经网络算法
- 机器学习算法比较
- 量子计算机编程原理简介 和 机器学习
- 近200篇机器学习&深度学习资料分享(含各种文档,视频,源码等)
- 已经证实提高机器学习模型准确率的八大方法
- 一文读懂机器学习
- 初识机器学习算法有哪些?
- 机器学习相关的库和工具