工具系列 | 负载均衡算法 - 平滑加权轮询

2020-08-17 17:16:59 浏览数 (1)

简介

在 负载均衡算法 — 轮询 一文中,我们就指出了加权轮询算法一个明显的缺陷。即在某些特殊的权重下,加权轮询调度会生成不均匀的实例序列,这种不平滑的负载可能会使某些实例出现瞬时高负载的现象,导致系统存在宕机的风险。为了解决这个调度缺陷,就提出了 平滑加权轮询 调度算法。

待解决的问题

为了说明平滑加权轮询调度的平滑性,使用以下 3 个特殊的权重实例来演示调度过程。

服务实例

权重值

192.168.10.1

5

192.168.10.2

1

192.168.10.3

1

我们已经知道通过 加权轮询 算法调度后,会生成如下不均匀的调度序列。

请求

选中的实例

1

192.168.10.1

2

192.168.10.1

3

192.168.10.1

4

192.168.10.1

5

192.168.10.1

6

192.168.10.2

7

192.168.10.3

接下来,我们就使用平滑加权轮询算法调度上述实例,看看生成的实例序列如何?

算法描述

假设有 N 台实例 S = {S1, S2, …, Sn},配置权重 W = {W1, W2, …, Wn},有效权重 CW = {CW1, CW2, …, CWn}。每个实例 i 除了存在一个配置权重 Wi 外,还存在一个当前有效权重 CWi,且 CWi 初始化为 Wi;指示变量 currentPos 表示当前选择的实例 ID,初始化为 -1;所有实例的配置权重和为 weightSum;

那么,调度算法可以描述为: 1、初始每个实例 i 的 当前有效权重 CWi 为 配置权重 Wi,并求得配置权重和 weightSum; 2、选出 当前有效权重 最大 的实例,将 当前有效权重 CWi 减去所有实例的 权重和 weightSum,且变量 currentPos 指向此位置; 3、将每个实例 i 的 当前有效权重 CWi 都加上 配置权重 Wi; 4、此时变量 currentPos 指向的实例就是需调度的实例; 5、每次调度重复上述步骤 2、3、4;

上述 3 个服务,配置权重和 weightSum 为 7,其调度过程如下:

请求

选中前的当前权重

currentPos

选中的实例

选中后当前权重

1

{5, 1, 1}

0

192.168.10.1

{-2, 1, 1}

2

{3, 2, 2}

0

192.168.10.1

{-4, 2, 2}

3

{1, 3, 3}

1

192.168.10.2

{1, -4, 3}

4

{6, -3, 4}

0

192.168.10.1

{-1, -3, 4}

5

{4, -2, 5}

2

192.168.10.3

{4, -2, -2}

6

{9, -1, -1}

0

192.168.10.1

{2, -1, -1}

7

{7, 0, 0}

0

192.168.10.1

{0, 0, 0}

8

{5, 1, 1}

0

192.168.10.1

{-2, 1, 1}

可以看出上述调度序列分散是非常均匀的,且第 8 次调度时当前有效权重值又回到 {0, 0, 0},实例的状态同初始状态一致,所以后续可以一直重复调度操作。

此轮询调度算法思路首先被 Nginx 开发者提出,见 phusion/nginx 部分。

代码实现
代码语言:javascript复制
class SmoothWeightedRobin implements RobinInterface
{
    private $services = array();

    private $total;

    private $currentPos = -1;

    public function init(array $services)
    {
        foreach ($services as $ip => $weight) {
            $this->services[] = [
                'ip'      => $ip,
                'weight'  => $weight,
                'current_weight' => $weight,
            ];
        }
        $this->total = count($this->services);
    }

    public function next()
    {
        // 获取最大当前有效权重实例的位置
        $this->currentPos = $this->getMaxCurrentWeightPos();

        // 当前权重减去权重和
        $currentWeight = $this->getCurrentWeight($this->currentPos) - $this->getSumWeight();
        $this->setCurrentWeight($this->currentPos, $currentWeight);

        // 每个实例的当前有效权重加上配置权重
        $this->recoverCurrentWeight();

        return $this->services[$this->currentPos]['ip'];
    }
}

其中,getSumWeight()为所有实例的配置权重和;getCurrentWeight()和 setCurrentWeight()分别用于获取和设置指定实例的当前有效权重;getMaxCurrentWeightPos()求得最大当前有效权重的实例位置,实现如下:

代码语言:javascript复制
public function getMaxCurrentWeightPos()
{
    $currentWeight = $pos = 0;
    foreach ($this->services as $index => $service) {
        if ($service['current_weight'] > $currentWeight) {
            $currentWeight = $service['current_weight'];
            $pos = $index;
        }
    }

    return $pos;
}

recoverCurrentWeight()用于调整每个实例的当前有效权重,即加上配置权重,实现如下:

代码语言:javascript复制
public function recoverCurrentWeight()
{
    foreach ($this->services as $index => &$service) {
        $service['current_weight']  = $service['weight'];
    }
}

需要注意的是,在配置services服务列表时,同样需要指定其权重:

代码语言:javascript复制
$services = [
    '192.168.10.1' => 5,
    '192.168.10.2' => 1,
    '192.168.10.3' => 1,
];

证明权重合理性

证明平滑性

证明平滑性,只要证明不要一直都是连续选择那一个节点即可。

总结

尽管,平滑加权轮询算法改善了加权轮询算法调度的缺陷,即调度序列分散的不均匀,避免了实例负载突然加重的可能,但是仍然不能动态感知每个实例的负载。

若由于实例权重配置不合理,或者一些其他原因加重系统负载的情况,平滑加权轮询都无法实现每个实例的负载均衡,这时就需要 有状态 的调度算法来完成。

源码地址https://github.com/Tinywan/load-balancing

0 人点赞