按部就班的吴恩达机器学习网课用于讨论(3)

2020-03-19 14:43:40 浏览数 (1)

矩阵加法与乘法

加法省略,乘法房价案例:

输入层M节点,输入1xM的矩阵行向量输入,输入层到隐藏层N节点,权重表示为MxN的矩阵,

矩阵中每行N个数字,分别表示从输入层某节点接到所有隐层节点。

1xM * MxN,得到1xN,为隐层输入数据,以列向量表示。

矩阵乘法属性

单位矩阵I可以表示为:

这里的I单位矩阵,但是不表示两个I的规模相同(如果A不是一个正方形矩阵,则I不相同)

矩阵的逆和转秩

A为方阵,A-1为矩阵的逆

多元变量线性回归

特征缩放

特征缩放原则上缩放到一个合适的范围即可,针对于不同范围值量级,对输出产生的不同程度影响设计

缩放方式可以为(x-mu)/s,其中x为输入,mu为x们的均值,s为x们的标准差。简化处理后,s使用xmax-xmin表示。

特征缩放可以使得训练参数theta们在运用梯度下降的方案中收敛更快(在多维空间中thea之间相对的量级相同)

0 人点赞