吴恩达深度学习课程笔记 1.3用神经网络进行有监督学习

吴恩达深度学习课程笔记

1.3用神经网络进行有监督学习



用神经网络进行有监督学习

最近的深度学习神经网络吵得火热，众说纷纭。到目前为止，几乎所有神经网络创造的经济效益都是基于机器学习中的一种，叫“有监督学习”。

有监督学习

下面有一些例子来解释有监督学习：



在有监督学习中，我们输入X，它会习得一个函数，映射到输出Y。

比如上一节中的预测房价的例子，我们输入房子的一些特征，它会输出预测的房子价格。

还有一些例子，神经网络在这些例子中的效果依然显著。在线广告是深度学习应用中获得最多经济效益的其中一个，输入一个广告，加上一些用户的信息，会判断用户会不会点击这个网站，神经网络在预测这个方面已经做的很好了，在线广告就是通过向用户推送用户最可能感兴趣的广告，来获得收益的。

计算机视觉在近几年也取得了很大的进步，这也得益于神经网络的发展；输入一张图片，可以输出它的类别，可以应用于给用户打标签。另外，深度学习在语音识别领域也有很大的进展；我们输入一段音频，神经网络会输出文本。还有机器翻译，我们输入一段英文，它会输出对应的中文意思。

在自动驾驶领域，深度学习也是主要的技术支持点；输入汽车前方的一个图像和一些雷达信息，就可以判断汽车下一步的操作。在这些神经网络应用的案例中，我们要机智的去选择对应的 X 和 Y ，这样才能帮助我们更好的解决实际生活中的问题。

神经网络结构



神经网络也有几种不同类型的结构（上图所示），比如：标准的神经网络（NN）、卷积神经网络（CNN）、循环神经网络（RNN）等，特定的网络结构用在特定的场景中才有更好的预测结果。

神经网络结构应用场景



比如上图所示：普通的神经网络结构用到的场景就是房地产的房价预测或者在线广告；CNN在图像领域的效果比较好，所以在图像分类这一块使用CNN；像音频，文本翻译这样的序列数据，通常我们使用RNN的效果比较好；还有一些复杂的使用场景，像无人驾驶，无人驾驶一方面需要处理实时的图像，一方面要处理雷达的信息，所以这种情况下要使用一些复杂的混合网络（图像和雷达信息要用不同的网络结构处理）。

有监督学习数据



上图所示：有监督学习的数据分为结构化数据和非结构化数据。

结构化数据就是数据的数据库，例如：在房价预测的例子中，有一个数据库会告诉我们房子的面积，房间的数量等；在预测用户是否点击广告的例子中，通过数据库我们能知道用户的年龄，广告的ID等信息，还能知道你要预测的类别，这就是结构化数据，每个特征都有一个清晰的定义。

非结构化数据就是指像图像，音频，文本等，你得到的特征会是一个像素值或文本中的一个单词，这就是非结构化数据。

非结构化数据相对结构化数据来说，计算机理解起来比较困难；但人类发展至今，最擅长的就是理解像图像、音频这样的非结构化数据。

人工智能发展至今，多亏了深度学习，多亏了神经网络，让计算机能很好地理解非结构化数据；较前几年来说，多了很多实际应用的机会，像图像识别，语音识别，自然语言处理。

神经网络在很多短期经济效益的创造是基于结构化数据的，比如更好的广告推送系统，有更好的能力去处理海量的数据，并用这些数据准确的预测未来。为了更好地理解算法的原理，神经网络要基于非结构化数据去学习。

神经网络彻底改变了传统的有监督学习，正在创造着巨大的经济效益。其实，神经网络的技术理念并不是近几年提出的，而是已经有几十年的历史了，近两年的数据量和计算机的计算能力的提升才使得神经网络脱颖而出。

不足之处还望各位指正，多谢。

文中图片均来源于网易云课堂吴恩达的深度学习课程视频。