李宏毅机器学习2016 第二十讲 结构化线性模型

视频链接：李宏毅机器学习(2016)_演讲•公开课_科技_bilibili_哔哩哔哩

课程资源：Hung-yi Lee

课程相关PPT已经打包命名好了：链接：https://pan.baidu.com/s/1c3Jyh6S 密码：77u5

我的第十九讲笔记：李宏毅机器学习2016 第十九讲 结构化学习简介

Structured Linear Model

本章主要讲解了结构化线性模型的求解。

1.结构化线性模型（Structured Linear Model）

在第十九讲最后，结构化模型问题通常有三个问题。解决了这三个问题，就可以成功解决结构化学习问题。当问题1中的F（x，y）是一个特有的形式时，问题3就很容易解决。



2.问题1（Problem 1）

在结构化线性模型中，问题1将模型定义为线性的。将x和y用一些特征characteristics来表示。



再将其乘上权值，线性组合起来形成F（x，y）。

举例目标检测。



x为图像，y为边界框，上图中所示的特征是随便取的某些特征。当然可以用CNN卷积神经网络，深度学习的方法来提取特征。这样提取的特征是能work的。



当然其他的文档总结（Document Summarization）、图像搜索（Image Retrieval）同样也可以应用。

3.问题2（problem 2）

在这里，我们假定已经解决了这个问题。能够解出最大化问题。



4.问题3（Problem 3）

给定训练数据，能够训练出满足要求的权值。该权值满足对于所有的训练样本，所有的不正确的样本与权值乘积和值要小于正确样本与权值乘积和。

直观上来看此类问题很难，其实不然。



算法如上所示，和感知器（Perceptron）学习方法有点类似，且此方法是能够收敛的。关于为何能收敛涉及太多的数学知识就不进行说明了。

5.总结

通过分析结构化线性模型的三个问题，最终可以将其由三个问题简化为2个问题。问题变成了如何提取特征以及怎样找到最大值。