二流四流神经网路（模型融合矩阵乘法理论实践）

下面这个代码是传统方式将经济的设计方式倍数的方式将流 网络变为 双流网络
从收敛的速度上看收敛的速度变快了一点点 ，所以说基本一致
下面给出了一个根据上面理论设计的一个四流网络，虽然是四流也就是说权重数量比二流多出一倍
但是loss前两轮的下降速度一致。说明同样的数据可以使用更多的权重进行表示
权重密度增加且使用的是最经济的输入输出比值 网络，更强强大稳定。细节表现能更强
下面的代码展示了我们将一个128-10 拆成了二流和四流网络 且同时利用了残差网路特性
且同时展示了多个模型融合的技术 就要使用矩阵乘法法则。这个模型是四流 多模型融合
由于每两个流分别训练了不同数据集也就是batcsize的前后，且进行了矩阵交融。根据模型融合天赋理论来说四流天赋 能力具有四个，二流具有 两个，但是二流没有针对不同的数据进行天赋匹配
也就是没有扬长避短，而四流网络进行了天赋匹配 和 天赋拯救。也就是扬长避短，矩阵乘法法则

import torch
import numpy as np
import matplotlib.pyplot as plt
import torch.nn as nn