再回首,负载均衡真的很强大!

2023-10-30 19:10:38 浏览数 (1)

概念

负载均衡(Load Balancing)就是一种网络技术,是用来将工作负载分布到多个服务器上,提高资源利用率、最大化吞吐量、最小化响应时间、避免单个服务器过载,提高了系统的性能和可靠性。

原理:

负载均衡的主要原理是什么?

1. 监听客户端请求

2. 请求发送给调度器,根据调度算法选择服务器

3. 将请求转发到选择的服务器

4. 将服务器的响应转发回客户端

用途:

负载均衡通常用于:

集群服务器之间的负载分担

增强网络服务的可靠性和可用性

常见的负载均衡算法:

1. 随机算法:简单但可能导致负载分配不均衡。

2. 轮询算法:依次将请求分发到不同服务器,简单易实现但无法考虑服务器性能。

3. 权重轮询算法:根据服务器性能设置权重,性能高的服务器分配更多请求。

4. 最少连接算法:将请求分发到连接数最少的服务器。

5. 基于响应时间的算法:根据服务器的历史响应时间进行分配,响应时间短的优先分配。

6. 故障转移算法:主服务器发生故障后,请求转发到备份服务器。

这里举例一个使用js实现简单的负载均衡的代码:

代码语言:javascript复制
    // 服务列表
    let servers = [
    {
        name: "server1",
        url: "http://server1.example.com"
    },
    {
        name: "server2",
        url: "http://server2.example.com"
    },
    {
        name: "server3",
        url: "http://server3.example.com"
    }
    ];


    // 服务权重映射表
    let weights = {
        server1: 1,
        server2: 2,
        server3: 1
    };


    // 获取随机服务
    function getServer() {
        let total = Object.values(weights).reduce((a, b) => a   b, 0);
        let offset = Math.floor(Math.random() * total);
        let idx = 0;
    for (let key in weights) {
        if (offset < weights[key]) return servers[idx];
        offset -= weights[key];
        idx  ;
    }
    }


    // 请求处理函数
    function handleRequest(request) {
        let server = getServer();
        console.log(`Forward request to ${server.name}`);
        // 转发请求到选择的服务器
        let res = forwardRequest(request, server.url);
        // 获取响应并返回客户端
        return res;
    }
    // 转发请求到服务URL并获取响应
    function forwardRequest(request, url) {
        let options = {
            hostname: url,
            port: 80,
            path: request.url,
            method: request.method
    };
   
    let res = '';
    let req = http.request(options, (response) => {
        response.on('data', (chunk) => {
        res  = chunk;
        });
        response.on('end', () => {
        return res;
        });
    });
   
    req.on('error', (err) => {
        console.log('Error: ', err);
    });
   
    req.end();
    }  


    // HTTP服务
    let server = http.createServer((req, res) => {
        let response = handleRequest(req);
        res.end(response);
    });


    // 监听客户端请求 
    listenForRequests(8888);

常见的负载均衡架构:

1. DNS 负载均衡:通过 DNS 服务器,将请求分发到不同 IP 地址的服务器。

2. 硬件负载均衡器:通过专用负载均衡硬件设备,实现负载分发和故障转移。

3. 软件负载均衡:在服务器上部署负载均衡软件(如 Nginx,LVS,HAProxy等),通过软件实现负载分配。

常见的工作模式:

- 四层负载均衡:基于 TCP/IP 协议工作,可以对任意类型的 TCP/UDP 应用进行负载均衡。如 LVS、NLB 等。

- 七层负载均衡:基于 HTTP 协议工作,主要用于 Web 应用的负载均衡。如 Nginx、HAProxy、F5 等。

- 基于代理的负载均衡:通过反向代理服务器实现负载均衡。如 Nginx、HAProxy 等。

- 硬件负载均衡器:使用专用网络设备实现负载均衡。如 F5 BIG-IP 等。

常见的负载均衡软件:

1. Nginx:轻量级的 Web 服务器和反向代理服务器,也提供基于七层的负载均衡功能。

2. HAProxy:提供高可用性、基于七层的负载均衡和基于TCP和HTTP应用的代理,主要用于整合和监控集群中各节点服务。

3. LVS: Linux Virtual Server,是 Linux 平台下的软件负载均衡解决方案,工作在四层,支持各种调度算法。

4. AWS ELB:Amazon Web Services 提供的基于七层的负载均衡服务,可在 AWS 云内对 HTTP 和 TCP 应用进行负载均衡。

5. Azure Load Balancer:Microsoft Azure 提供的负载均衡器,可在 Azure 云平台上实现基于七层的负载均衡。

常见的硬件负载均衡:

1. F5 BIG-IP:提供高级防火墙、VPN、DNS与四层和七层负载均衡功能的硬件设备。

2. A10 ADC:提供高级的软件定义网络、四层负载均衡、七层内容交付网络和DDoS防火墙等网络解决方案。

3. Citrix NetScaler:提供四层和七层负载均衡、应用交付、云网络等功能的全软件网络设备。

4. Radware Alteon:提供高级adaptative网络安全、四层负载均衡和七层应用交付等功能的硬件设备。

### 误区:

初识对于负载均衡和高可用两个概念有点混淆,下面就来说说其中区别。

负载均衡

主要用于增加系统的吞吐量和效率,通过在多台服务器之间分配负载,充分利用资源。

通常在传输层或应用层工作,用于分发对应层的请求。

适用于吞吐量较高的场景,提高web服务能力,如电商网站。

常用软件:Nginx、LVS、HAProxy 等。

高可用

主要用于提高系统的可靠性,通过在多台服务器之间配置冗余,避免单点故障造成的服务中断。

设计在更低的操作系统或硬件层面,避免单一设备故障。

关注系统冗余,需配置双电源、备用设备、心跳检测、故障转移等。

常用软件:Keepalived、Heartbeat、Pacemaker等。

负载均衡追求更高的性能,高可用追求更高的稳定性。实际使用的时候,两者常结合使用:既能提高性能,又能确保高可用,达到更好的效果。

### 浅谈LVS

LVS 是 Linux Virtual Server 的简称,是 Linux 操作系统下的一款软件负载均衡解决方案。它可以实现基于四层(TCP/IP协议)的负载均衡,对来自客户端的请求进行分发,将负载分散到多台实际的服务器上,从而提高服务能力和可靠性。

LVS采用三层结构:

第一层:负载调度器

第二层:服务池

第三层:共享存储

LVS 主要由两部分组成:

1. IPVS(IP Virtual Server):Responsible for load balancing in the Linux kernel.LVS 中最核心的部分,实现请求分发与负载均衡功能。

2. 特定的 administration 程序:用于配置 IPVS,管理真实服务器等。常用的工具有:ipvsadm、ipvsadmin 等。

LVS 的工作模式主要有三种:

1. NAT 模式:LVS 对请求进行源地址转换后分发到后端服务器,对客户端来说只有一个 IP 地址。

2. TUN 模式:将客户端请求数据包进行封装后转发给后端服务器,服务器直接与客户端交互。

3. DR(Direct Routing)模式:将客户端请求数据包直接转发给后端服务器,客户端与真实服务器直接交互,LVS 只负责分发请求。

LVS 的主要配置步骤如下:

1. 安装 LVS,启动 IPVS 内核模块。

2. 配置虚拟服务(设置 VIP、端口、调度算法等)。常用命令:ipvsadm -A -t <VIP>:<PORT> -s <sched>

3. 添加真实服务器(设置 RIP、端口、权重等)。常用命令:ipvsadm -a -t <VIP>:<PORT> -r <RIP>:<PORT> -w <weight>

4. 启动管理程序(ipvsadm),监控服务器状态并同步配置。

5. 配置高可用,通过 Keepalived 实现 LVS 节点故障切换。

6. 启动 Keepalived 进行状态检测,当主节点故障时能够快速切换到备节点。

### 脑裂

在一个高可用集群中,由于网络故障导致集群中部分节点失去连接,但各节点本身并未故障。本来一个整体、变成独立的两个个体。争抢共享资源、这会导致集群中的数据出现不一致,影响服务的正确性和可靠性。

原因:

1. 网络隔离:集群中部分节点之间的网络连接断开,导致节点间无法正常通信。

2. 网络延迟:节点间网络连接出现严重延迟,导致节点间通信不稳定。

3. 网络攻击:恶意网络攻击导致集群节点间网络通信中断。

4. 配置不当

5. 硬件故障

6. 防火墙

等等

解决:

1. 心跳检测、状态同步

2. 监控脑裂程序

3. 手动配置

0 人点赞