矩阵加法与乘法
加法省略,乘法房价案例:
输入层M节点,输入1xM的矩阵行向量输入,输入层到隐藏层N节点,权重表示为MxN的矩阵,
矩阵中每行N个数字,分别表示从输入层某节点接到所有隐层节点。
1xM * MxN,得到1xN,为隐层输入数据,以列向量表示。
矩阵乘法属性
单位矩阵I可以表示为:
这里的I单位矩阵,但是不表示两个I的规模相同(如果A不是一个正方形矩阵,则I不相同)
矩阵的逆和转秩
A为方阵,A-1为矩阵的逆
多元变量线性回归
特征缩放
特征缩放原则上缩放到一个合适的范围即可,针对于不同范围值量级,对输出产生的不同程度影响设计
缩放方式可以为(x-mu)/s,其中x为输入,mu为x们的均值,s为x们的标准差。简化处理后,s使用xmax-xmin表示。
特征缩放可以使得训练参数theta们在运用梯度下降的方案中收敛更快(在多维空间中thea之间相对的量级相同)