李宏毅《一天搞懂深度学习》学习笔记-1

Regression（统计学） 回归;

股票预测，需要一个function，输入以前的数据，输出未来的可能数据

自动驾驶，推荐系统

更加实用的案例，预测宠物小精灵的进化后的CP值（Combat Power），例如预测妙蛙种子的CP值，得到可能进化后更强的宝可梦

f（妙蛙种子的数据）=CP after evolition

step 1：model=a set of function

step 2：goodness of function

model + training data = goodness of function

loss function L:

线性代数或者step 3

step 3：gradient descent

相对调整参数，一次次计算，得到 local值，但是不是gobal值（最优的）

一个参数的时候，计算微分，两个参数，分别计算偏微分，重复上面的过程

linear regression ，the loss function L is convex

no local optimal

the complex model is not the good one(when use testing data may not lead to best one) ----this is overfitting

加入物种的影响

（预测的时候，可能会有很多的未预测到的因素去影响）

back to step 1: redesign the model again

back to step 2: regularization

redesign the loss function

我们更加喜欢平滑一些的function，他会对noise没有那么敏感，但是不能太过于平滑

调整参数调整平滑程度