双线性函数

  线性代数里的双线性函数，是将线性空间里的两个变量，映射为一个实数。它必须要符合以下四个要求，才能叫做双线性函数：

1. $f(\mathbf{u},({\mathbf{w}}_1+({\mathbf{w}}_2)=f((\mathbf{u},({\mathbf{w}}_1)+f((\mathbf{u},({\mathbf{w}}_2)$
2. $f(({\mathbf{u}}_1+({\mathbf{u}}_2,w)=f(({\mathbf{u}}_1,(\mathbf{w})+f(({\mathbf{u}}_2,(\mathbf{w})$
3. $f(k\mathbf{u},\mathbf{w})=kf(\mathbf{u},\mathbf{w})$
4. $f(\mathbf{u},k\mathbf{w})=kf(\mathbf{u},\mathbf{w})$

  以上四点保证了线性，所以叫线性性。

内积

  内积也是一种双线性函数，不过定义更加严格，加了两点要求：对称性和正定性。内积一般就不用函数符号$f$，而是直接一对括号就可以了。

1. 对称性，$(\mathbf{u},\mathbf{w})=(\mathbf{w},\mathbf{u})$
2. 正定性，$(\mathbf{u},\mathbf{w})\ge 0$

内积表示

  内积有很多，千奇百怪，可以用度量矩阵表示内积，这样形式上就统一了。度量矩阵在外国教材里一般叫度量张量Mertic tensor，因为2-张量就是矩阵嘛。当然度量矩阵不是内积专有的，所有双线性函数都有度量矩阵，它的定义如下：
$$A=\left(\begin{array}{cccc}(e_1,e_1)& (e_1,e_2)& \cdots & (e_1,e_n)\\ (e_2,e_1)& (e_2,e_2)& \cdots & (e_2,e_n)\\ ⋮& ⋮& \ddots & ⋮\\ (e_n,e_1)& (e_n,e_2)& \cdots & (e_n,e_n)\end{array}\right)$$
  公式中的$e_1,e_2,\cdots ,e_n$是任意一组基，一般情况下用自然基。有了度量矩阵后，计算内积就可以使用$(\alpha ,\beta )={\alpha }^{T}A\beta$来计算了。内积的度量矩阵必须是实对称正定矩阵。
  这个时候，用代码计算内积就非常容易了：

    # 内积
    @staticmethod
    def inner_product(vector1, vector2, matrix=None):
        a = Matrix(Matrix([vector1]).transpose())
        b = Matrix([vector2])
        # 如果没定义内积矩阵，则是标准内积
        if matrix is None:
            return (a * b).vectors[0][0]
        # 如果长度小了呢？
        return (a * matrix * b).vectors[0][0]

4 柯西-施瓦茨不等式

  这个不等式的内容就是：
$$(x\cdot y)\le \parallel x\parallel \parallel y\parallel$$
  公式里的范数是内积导出的范数，$\parallel x\parallel =\sqrt{(x,x)}$。