【斯坦福大学-机器学习】3.线性代数

---

Author：kevinelstri
DateTime：2017/3/20

---

3.1 矩阵和向量

矩阵：
矩阵的维数：行数×<script type="math/tex" id="MathJax-Element-1">\times</script>列数
Aij<script type="math/tex" id="MathJax-Element-2">A_{ij}</script>：第i行，第j列的元素


向量：
向量是一种特殊的矩阵

3.2 加法和标量乘法

矩阵的加法：行列数相等的才可以进行加法运算

矩阵的标量乘法：每个元素都要乘

3.3 矩阵向量乘法

矩阵与向量的乘法：m×<script type="math/tex" id="MathJax-Element-3">\times</script>n的矩阵乘以n×<script type="math/tex" id="MathJax-Element-4">\times</script>1的向量，得到的是m×<script type="math/tex" id="MathJax-Element-5">\times</script>1的向量

3.4 矩阵乘法

矩阵乘法：
m×<script type="math/tex" id="MathJax-Element-6">\times</script>n矩阵乘以n×<script type="math/tex" id="MathJax-Element-7">\times</script>o矩阵,变成m×<script type="math/tex" id="MathJax-Element-8">\times</script>o矩阵。

3.5 矩阵乘法的性质

矩阵乘法的性质：
矩阵乘法不满足交换律：A×<script type="math/tex" id="MathJax-Element-32">\times</script>B≠<script type="math/tex" id="MathJax-Element-33">\not=</script>B×<script type="math/tex" id="MathJax-Element-34">\times</script>A
矩阵乘法满足结合律：A×<script type="math/tex" id="MathJax-Element-35">\times</script>(B×<script type="math/tex" id="MathJax-Element-36">\times</script>C)=(A×<script type="math/tex" id="MathJax-Element-37">\times</script>B)×<script type="math/tex" id="MathJax-Element-38">\times</script>C

单位矩阵：
单位矩阵一定是方阵，且单位矩阵在数值上就是1
任意非0的矩阵乘以单位矩阵，都不变，都是其本身。

3.6 逆矩阵、转置矩阵

矩阵的逆：
如果一个矩阵A是一个m×<script type="math/tex" id="MathJax-Element-15">\times</script>m矩阵（方阵），如果其有逆矩阵，则：
AA−1=A−1A=I<script type="math/tex" id="MathJax-Element-16">AA^{-1}=A^{-1}A=I</script>

矩阵的转置：
设 A 为m×<script type="math/tex" id="MathJax-Element-17">\times</script>n阶矩阵（即m行n列），第i行j列的元素是a(i,j)，即：
A=a(i,j)
定义A的转置为这样一个n×<script type="math/tex" id="MathJax-Element-18">\times</script>m阶矩阵B，满足B=a(j,i)，即b(i,j)=a(j,i)（B的第i行第j列元素是A的第j行第i列元素），记AT=B<script type="math/tex" id="MathJax-Element-19">A^T=B</script>。 (有些记为A’=B）