[机器学习入门] 李宏毅机器学习笔记-13 (Semi-supervised Learning ;半监督学习)
2017-06-14 20:09
411 查看
[机器学习入门] 李宏毅机器学习笔记-13 (Semi-supervised Learning ;半监督学习)
更多的数据连在一起,很难分类,那么如何做呢?
这种方法不一定made sense ,需要class很强。
But,How to know x1 and x2 are close in a high density region (connected by a high density path)
还有另一种方法:
Graph Construction
怎样在Graph 中定量地表示平滑度
将该式子整理一下,换个形式
如此,让smoothness 影响Loss,as a regularization term
smoothness不一定要放在output上,放到任何一层都可以。
Looking for Better Representation
VIDEO |
---|
Introduction
Why semi-supervised learning helps?
Semi-supervised Learning for Generative Model
Supervised Generative Model VS Semi-supervised Generative Model
Step
Why?
Low-density Separation
Self-training
Entropy-based Regularization
Outlook: Semi-supervised SVM
Smoothness Assumption
核心思想:近朱者赤,近墨者黑Classify astronomy vs. travel articles
更多的数据连在一起,很难分类,那么如何做呢?
Cluster(群集 ) and then Label
这种方法不一定made sense ,需要class很强。
But,How to know x1 and x2 are close in a high density region (connected by a high density path)
还有另一种方法:
Graph-based Approach
Graph Construction
怎样在Graph 中定量地表示平滑度
将该式子整理一下,换个形式
如此,让smoothness 影响Loss,as a regularization term
smoothness不一定要放在output上,放到任何一层都可以。
Better Representation
去蕪存菁,化繁為簡Looking for Better Representation
相关文章推荐
- [机器学习入门] 李宏毅机器学习笔记-4(Where does the error come from ;误差分析)
- [机器学习入门] 李宏毅机器学习笔记-10 (Tips for Deep Learning;深度学习小贴士)
- [机器学习入门] 李宏毅机器学习笔记-26(Structured Support Vector Machine part 1;结构化支持向量机part 1)
- [机器学习入门] 李宏毅机器学习笔记-34 (Recurrent Neural Network part 3;循环神经网络 part 3)
- [机器学习入门] 李宏毅机器学习笔记-30 (Sequence Labeling Problem part 2 ;结构化预测-序列标记 part 2)
- [机器学习入门] 李宏毅机器学习笔记-5(Classification- Probabilistic Generative Model;分类:概率生成模型)
- [机器学习入门] 李宏毅机器学习笔记-21(Transfer Learning part 1 ; 迁移学习 part 1)
- [机器学习入门] 李宏毅机器学习笔记-27(Structured SVM part 2;结构化支持向量机 part 2)
- [机器学习入门] 李宏毅机器学习笔记-23(Support Vector Machine;支持向量机)
- [机器学习入门] 李宏毅机器学习笔记-33 (Recurrent Neural Network part 2;循环神经网络 part 2)
- [机器学习入门] 李宏毅机器学习笔记-8(Backpropagation;反向传播算法)
- [机器学习入门] 李宏毅机器学习笔记-19 (Deep Generative Model-part 2:深度生成模型-part 2)
- [机器学习入门] 李宏毅机器学习笔记-12 (Why Deep Learning? ; 为什么是深度学习?)
- [机器学习入门] 李宏毅机器学习笔记-28 (Structured SVM part 3 ;结构化支持向量机 part 3)
- [机器学习入门] 李宏毅机器学习笔记-2 (Regression:Case Study ;回归:案例研究)
- [机器学习入门] 李宏毅机器学习笔记-9 (“Hello world” of deep learning;初探深度学习)
- [机器学习入门] 李宏毅机器学习笔记-15 (Unsupervised Learning: Word Embedding;无监督学习:词嵌入)
- [机器学习入门] 李宏毅机器学习笔记-18 (Deep Generative Model-part 1:深度生成模型-part 1)
- [机器学习入门] 李宏毅机器学习笔记-31 (Sequence Labeling Problem part 3 ;结构化预测-序列标记 part 3)
- [机器学习入门] 李宏毅机器学习笔记-29 (Sequence Labeling Problem part 1;结构化预测-序列标记 part 1)