智能优化算法：广义正态分布优化算法

摘要：广义正态分布优化算法（Generalized normal distribution optimization，GDNO）是于2020年提出的一种新型智能优化算法，该算法受到正态分布理论的启发，具有寻优能力强，收敛速度快等特点。

1.广义正态分布优化算法

广义正态分布优化(Generalized normal distribution optimization, GNDO)算法受到正态分布理论的启发。正态分布又称高斯分布 $Q$ ，是描述自然现象的重要工具。正态分布可以定义如下：假设一个随机变量 $x$ 服位置参数 $\mu$ 和尺度参数 $\delta$ 的概率分布，其概率密度 $Q$ 函数可以表 示为:
$$f(x)=\frac{1}{\sqrt{2\pi \delta }}\exp \left(-\frac{(x-\mu {)}^2}{2{\delta }^2}\right)\text{\hspace{1em}(17)}$$
其中， $\mathrm{x}$ 被称为正态随机变量，这个分布可以称为正态分布，也就是 $\mathrm{x}\sim \mathrm{N}\left(\mu ,{\delta }^2\right)$ 。根据式(1)，正态分布包括两个变量，即位置参数 $\mu$ 和 尺度参数 $\delta$ 。位置参数 $\mu$ 和尺度参数 $\delta$ 分别用来表示随机变量的均值和标准差。

GNDO中设计的信息共享策略包括局部开发和全局探索。局部开发基于建立的广义正态分布模型，该模型由当前平均位置和当前最优位置 引导；全局探索涉及三个随机选择的个体。这两种学习策略的详细解释如下:

1.1 局部开发策略

局部开发是指在包含所有个体当前位置的搜索空间周围找到更好解决方案的过程。基于个体在种群中的分布与正态分布之间的关系，可以 通过以下方法建立优化的广义正态分布模型:
$${\mathbf{v}}_{\mathrm{i}}^{\mathrm{t}}={\mu }_{\mathrm{i}}+{\delta }_{\mathrm{i}}\times \eta ,\mathrm{i}=1,2,\cdots ,\mathrm{N}\text{\hspace{1em}(18)}$$
其中， ${\mathbf{v}}_{\mathrm{i}}^{\mathrm{t}}$ 是第 $\mathrm{i}$ 个个体在时间 $\mathrm{t}$ 的轨迹向量， ${\mu }_{\mathrm{i}}$ 是第 $\mathrm{i}$ 个个体的广义平均位置， ${\delta }_{\mathrm{i}}$ 是广义标准差， $\eta$ 是惩罚因子。${\mu }_i$、 ${\delta }_{\mathrm{i}}$ 和 $\eta$ 可以定义为:
$${\mu }_{\mathrm{i}}=\frac{1}{3}\left({\mathbf{x}}_{\mathrm{i}}^{\mathrm{t}}+{\mathbf{x}}_{\text{Best }}^{\mathrm{t}}+\mathbf{M}\right)\text{\hspace{1em}(19)}$$

$${\delta }_{\mathrm{i}}=\sqrt{\frac{1}{3}\left[{\left({\mathbf{x}}_{\mathrm{i}}^{\mathrm{t}}-\mu \right)}^2+{\left({\mathbf{x}}_{\text{Best }}^{\mathrm{t}}-\mu \right)}^2+(\mathbf{M}-\mu {)}^2\right]}\text{\hspace{1em}(20)}$$

$$\begin{array}{c}\eta =\{\begin{array}{ll}\sqrt{-\log \left({\lambda }_1\right)}\times \cos \left(2\pi {\lambda }_2\right),& \text{ if a }\le \mathrm{b}\\ \sqrt{-\log \left({\lambda }_1\right)}\times \cos \left(2\pi {\lambda }_2+\pi \right),& \text{ otherwise }\end{array}\end{array}\text{\hspace{1em}(21)}$$
其中， a、b、 ${\lambda }_1$ 和 ${\lambda }_2$ 是介于 0 和1之间的随机数， ${\mathbf{x}}_{\mathrm{Best}}^{\mathrm{t}}$ 是当前最佳位置， $\mathbf{M}$ 是当前种群的平均位置。 $\mathbf{M}$ 计算如下:
$$\mathbf{M}=\frac{{\sum }_{\mathrm{i}=1}^{\mathrm{N}}{\mathbf{x}}_{\mathrm{i}}^{\mathrm{t}}}{\mathrm{N}}\text{\hspace{1em}(22)}$$
广义平均位置 ${\mu }_{\mathrm{i}}$ 当前最佳个体 $x_{\text{Best }}^{\mathrm{t}}$ 包含与全局最优解相关的有用信息。因此，第 $\mathrm{i}$ 个个体 $x_{\mathrm{i}}^{\mathrm{t}}$ 被拉向当前最佳个体 $x_{\text{Best }}^{\mathrm{t}}$ 的方向，后 方向移动。平均位置 $M$ 在迭代过程中会发生变化，这有利于找到更好的解决方案。因此，在设计的局部开发策略中引入了平均位置 $M$ ，在一定程度上提高了避免局部最优的机会。

广义标准差 ${\delta }_{\mathrm{i}}$ 。广义标准差 ${\delta }_{\mathrm{i}}$ 用于增强所提出的GNDO的局部搜索能力。基于式(3)和(4)，广义标准差 ${\delta }_{\mathrm{i}}$ 可以被视为一个随机序列，在 广义平均位置 ${\mathrm{i}}_{\mathrm{i}}$ 周围进行局部搜索。此外，根据式(4)，第 1 个个体 $x_{\mathrm{i}}^{\mathrm{t}}$ 的位置和平均位置 $M$ 与最佳个体 $x_{\text{Best }}^{\mathrm{t}}$ 的位置之间的距离越大， 动的随机序列可以帮助个体寻找更好的解。当个体 $x_{\mathrm{i}}^{\mathrm{t}}$ 具有良好的适应值时，个体很有可能在其周围找到更好的解决方案。因此，具 有弱波动的随机序列可以帮助个体获得更好的解。

惩罚因子$\eta$。在GNDO算法中，惩罚因子$\eta$用于进一步增强生成的广义标准差的随机性。惩罚因子可以增加GNDO的搜索方向，从而提高GNDO的搜索能力。

1.2全局开发

全局探索是在全局范围内搜索一个有希望的区域。GNDO的全局探索基于三个随机选择的个体，可以表示为：
$${\mathbf{v}}_{\mathrm{i}}^{\mathrm{t}}={\mathbf{x}}_{\mathrm{i}}^{\mathrm{t}}+\underset{\text{Local information sharing }}{\underbrace{\beta \times \left(\left|{\lambda }_3\right|\times {\mathbf{v}}_1\right)}}+\underset{\text{Global information sharing }}{\underbrace{(1-\beta )\times \left(\left|{\lambda }_4\right|\times {\mathbf{v}}_2\right)}}\text{\hspace{1em}(23)}$$
其中， ${\lambda }_3$ 和 ${\lambda }_4$ 是服从标准正态分布的两个随机数，称为调整参数的 $\beta$ 是介于 0 和 1 之间的随机数， $v_1$ 和 $v_2$ 是两个轨迹向量。 $v_1$ 和 $v_2$ 可通过 以下公式计算:
$${\mathbf{v}}_1=\{\begin{array}{ll}{\mathbf{x}}_{\mathrm{i}}^{\mathrm{t}}-{\mathbf{x}}_{\mathrm{p}1}^{\mathrm{t}},& \text{ if }\mathrm{f}\left({\mathbf{x}}_{\mathrm{i}}^{\mathrm{t}}\right)<\mathrm{f}\left({\mathbf{x}}_{\mathrm{p}1}^{\mathrm{t}}\right)\\ {\mathbf{x}}_{\mathrm{p}1}^{\mathrm{t}}-{\mathbf{x}}_{\mathrm{i}}^{\mathrm{t}},& \text{ otherwise }\end{array}\text{\hspace{1em}(24)}$$

$$\begin{array}{c}{\mathbf{v}}_2=\{\begin{array}{ll}{\mathbf{x}}_{\mathrm{p}2}^{\mathrm{t}}-{\mathbf{x}}_{\mathrm{p}3}^{\mathrm{t}},& \text{ if }\mathrm{f}\left({\mathbf{x}}_{\mathrm{p}2}^{\mathrm{t}}\right)<\mathrm{f}\left({\mathbf{x}}_{\mathrm{p}3}^{\mathrm{t}}\right)\\ {\mathbf{x}}_{\mathrm{p}3}^{\mathrm{t}}-{\mathbf{x}}_{\mathrm{p}2}^{\mathrm{t}},& \text{ otherwise }\end{array}\end{array}\text{\hspace{1em}(25)}$$
其中， $\mathrm{p}1、\mathrm{p}2$ 和 $\mathrm{p}3$ 是从1到 $\mathrm{N}$ 中选栔的三个随机整数，且满足 $\mathrm{p}1\ne \mathrm{p}2\ne \mathrm{p}3$ 。给定式(8)和式(9)，式(7)右侧的第二项可以称为局部学 习习项，这意味着个体p1与个体烘享信息; 式(7)右侧的第三项可以称为全局信息共享项，它表示个体p2和p3向个体提供信息。调整参数 $\beta$ 用于平衡两种信息共享策略。此外， ${\lambda }_3$ 和 ${\lambda }_4$ 是标准正态分布的随机数，这可以使GNDO在执行全局搜索的过程中拥有更大的搜索空间。

3.实验结果

4.参考文献

[1] Yiying Zhang, Zhigang Jin, Seyedali Mirjalili. Generalized normal distribution optimization and its applications in parameter extraction of photovoltaic models[J]. Energy Conversion and Management, 2020, 224: 113301.

5.Matlab代码