列向量

先说一个很重要的结论：机器学习中的向量是列向量。
另一个结论：用分号分隔不同的行，用逗号分隔同一行中的不同元素。

在线性代数中，列向量（Column vector）是一$m\times 1$的矩阵，即矩阵由一个包含$m$个元素的列组成。
书写方式1：

$$\left[\begin{array}{c}{x}_1\\ x_2\\ ⋮\\ x_m\end{array}\right]$$

为简化书写、方便排版起见，有时会以加上转置符号T的行向量表示列向量。
书写方式2：
$$X=[x_1,x_2,...,x_n{]}^T$$

为进一步化简，习惯上会把行向量和列向量都写成行的形式。不过行向量的元素是用空格或逗号隔开，列向量则用分号隔开。
书写方式3：

$$\left[\begin{array}{cc}0& -1\\ 1& 0\end{array}\right]$$

X=[x1; x2; x3; x4]
这种方式也可以用于矩阵的书写。
两行两列的矩阵，可写为

$$A=[0,-1;1,0]$$

注：有人使用()，而非[]。

机器学习中的向量

我们以最简单的线性回归为例：
$$f(X)=w_1{x}_1+w_2{x}_2+w_3{x}_3+b$$
我们令：
$$\begin{array}{rl}W=& [w_1,w_2,w_3{]}^T\\ X=& [x_1,x_2,x_3{]}^T\end{array}$$
则$f(X)=W^T\ast X+b$

深度学习中的向量

我们以一个简单大深度学习为例：
5个输入节点—第一隐藏层3个节点----第二隐藏层4个节点----2个输出节点。全连接。
输入为(51)：
$$X=[x1,x2,x3,x4,x5{]}^T$$
第一隐层(35)：
$$\begin{array}{rl}W1& =[w11,w12,w13,w14,w15;w21,w22,w23,w24,w25;w31,w32,w33,w34,w35]\\ B1& =[b1,b2,b3{]}^T\end{array}$$
第二隐层(43)：
$$\begin{array}{rl}W2& =[w11,w12,w13;w21,w22,w23;w31,w32,w33;w41,w42,w43]\\ B2& =[b1,b2,b3,b4{]}^T\end{array}$$
输出层节点(24)：
$$\begin{array}{rl}W3=& [w11,w12,w12,w14;w21,w22,w23,w24]\\ B3=& [b1,b2{]}^T\end{array}$$

所以计算过程为（不考虑激活函数）：

$f1=W1\ast X+B1$, 输出维度为$(3\ast 5)\ast (5\ast 1)=3\ast 1$

$f2=W2\ast f1+B2$，输出维度为$(4\ast 3)\ast (3\ast 1)=4\ast 1$

$f=W3\ast f2+B3$, 输出维度为$(2\ast 4)\ast (4\ast 1)=2\ast 1$
最终输出为[o1,o2]^T

总结：
每一层的W维度为：节点数量上一层的输出数量
每一层的输入维度为上一层的(输出数量1)
B的维度为：节点数量1
每一层的输出维度为：节点数量1