第一部分 監(jiān)督學習 （監(jiān)督學習分為回歸和分類）

??????回歸：擬合數(shù)據(jù)（直線，曲線）做預測

???????? 第一周 線性回歸模型、代價函數(shù)、梯度下降函算法

???????????線性回歸函數(shù) f=wx+b

????????????代價函數(shù) J=誤差平方之和的平均

???????????梯度下降 w-=α * J對w的偏導??b-=α * J對b的偏導

??????????????批量梯度下降（batch） 每一次計算梯度都考慮所有樣本

??????????????題外話：正規(guī)方程法 （normal equation）局限性，但可以一步到位求出w，b，不迭代

????????第二周 多元線性回歸

??????????????向量化

??????分類：劃分區(qū)域，做辨別

?????????第三周 邏輯回歸（即分類）

??????????? 引入sigmoid函數(shù)，將數(shù)據(jù)全部映射到(0, 1)

考慮什么時候是邊界？wx+b=0時。更復雜一些，也許是w1x+w2xx+b=0

提出loss，改進代價函數(shù)J

重新求偏導解出dw和db

梯度下降

??????條件維度越多，分類越精準，也越容易導致過擬合

???????? 緩解過擬合：

??????????? 1.增加數(shù)據(jù)數(shù)量

2.減少特征個數(shù)（第二部分自動選擇合適的特征）

3.（本節(jié)重點）正則化：擬合的同時讓x前系數(shù)盡可能小