Nginx系列:负载均衡

2020-08-21 16:35:40 浏览数 (1)

及阅读文本大概需要3分钟。

0x01:负载均衡

Nginx的负载均衡使用upstream定义服务器组,后面跟着组名,组名后面是大括号包起来的服务器列表,每个服务器使用server开头,后面跟定义的服务器名字、服务器ip:port、参数;一个基本的upstream模块如下:

代码语言:javascript复制
upstream [服务器组名称]{
  server [IP地址]:[端口号];
  server [IP地址]:[端口号];
  ....
}

在upstream模块定义完成后,要让指定的访问反向代理到服务器列表,格式如下:

代码语言:javascript复制
location ~ .*$ {
  index index.jsp index.html;
  proxy_pass http://[服务器组名称];
}

0x02:SpringBoot项目准备

在进行Nginx负载均衡配置前,先搭建一个简单的后端应用项目:nginx-upstream

  • pom.xml文文件
代码语言:javascript复制
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
    xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>

    <groupId>com.sentinel</groupId>
    <artifactId>nginx-upstream</artifactId>
    <version>0.0.1-SNAPSHOT</version>
    <packaging>jar</packaging>

    <parent>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-parent</artifactId>
        <version>2.1.3.RELEASE</version>
        <relativePath/> <!-- lookup parent from repository -->
    </parent>

    <name>nginx-upstream</name>
    <url>http://maven.apache.org</url>

    <properties>
        <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>
        <java.version>1.8</java.version>
    </properties>

    <dependencies>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>

    </dependencies>

    <dependencyManagement>
        <dependencies>
            <dependency>
                <groupId>org.springframework.cloud</groupId>
                <artifactId>spring-cloud-dependencies</artifactId>
                <version>Greenwich.SR3</version>
                <type>pom</type>
                <scope>import</scope>
            </dependency>
        </dependencies>
    </dependencyManagement>

</project>
  • 控制器controller
  • application.yml配置文件
代码语言:javascript复制
server:
  port: 8866
#  port: 8867

spring:
  application:
    name: nginx-upstream
  • SpringBoot启动类
代码语言:javascript复制
package com.olive;

import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;

@SpringBootApplication
public class Application {

    public static void main(String[] args) {
        SpringApplication.run(Application.class, args);
    }

}

因为只有一台电脑,为了演示Nginx负载均衡,后文会通过修改application.yml配置文件的端口和控制器controller的返回值来标识不同的应用服务器。

验证项目是否搭建成功

代码语言:javascript复制
http://127.0.0.1:8866/getUser
代码语言:javascript复制
http://127.0.0.1:8867/getUser

0x03:配置负载均衡

以下命令均在root用户下操作

进入Nginx的配置文件目录

代码语言:javascript复制
cd /usr/local/nginx/conf/
  • 增加upstream模块配置
代码语言:javascript复制
upstream myserver {
     server 192.168.56.1:8866;
     server 192.168.56.1:8867;
}

注意在http模块添加upstream

upstream可以有多个,名称不同即可。

  • 配置location转发规则
代码语言:javascript复制
location / {   #首页负载之后端服务器
     proxy_pass  http://myserver;  #通过upstrean定义的服务器组名调用后端服务器
     proxy_set_header X-Real-IP $remote_addr;  #传递客户端的ip地址
}

配置完成后可以使用如下命令启动Nginx

代码语言:javascript复制
/usr/local/nginx/sbin/nginx -c   
/usr/local/nginx/conf/nginx.conf

0x04:验证

使用命令ifconfig查下CentOS系统的ip地址

从上图可以看出CentOS和Windows的ip地址分别为

代码语言:javascript复制
192.168.56.9  #CentOS
192.168.56.1  #Windows

访问http://192.168.56.9/getUser

返回出现的结果是随意的,有可能访问192.168.56.1:8866,可有可能192.168.56.1:8867。

0x05: 知识扩展

 这样就完成了最基本的负载均衡,但是这并不能满足实际需求。目前Nginx的upstream模块支持6种方式的负载均衡策略(算法):轮询(默认方式)、weight(权重方式)、ip_hash(依据ip分配方式)、least_conn(最少连接方式)、fair(第三方提供的响应时间方式)、url_hash(第三方通过的依据URL分配方式)。

1)轮询

  最基本的配置方法,是upstream模块默认的负载均衡策略。每个请求会按时间顺序平均分配到不同的后端服务器。有如下参数:

  • fail_timeout: 与max_fails结合使用
  • max_fails: 在fail_timeout参数设置的时间内最大失败次数。如果在这个时间内,所有该服务器的请求都失败了,那么认为该服务器停机
  • fail_time: 服务器被认为停机的时长,默认10s(被认为停机的服务器尝试间隔?)
  • backup: 标记该服务器为备用服务器。当主服务器停止时,请求会被发送到它这里
  • down: 标记服务器永久停机

注意:

  • down标记的服务器会自动剔除;
  • 缺省就是轮询;
  • 此策略适合服务器配置无状态且短平块的服务使用

2)weight

权重方式,在轮询策略的基础上指定轮询的几率。也可以认为是在轮询的基础上新增了一个weight的参数,此参数指定轮询的几率,值为number。upstream模块配置模板如下:

代码语言:javascript复制
upstream [服务器组名称]{
  server [IP地址]:[端口号] weight=2;
  server [IP地址]:[端口号];
  ....
}

在该例子中,没有weight参数的服务器默认为1,weight的数值与访问比例成正比,所有weight值的总和为一个循环单位,服务器自身的weight值为循环单位内的轮询次数。

注意:

  • 权重越高分配到的请求越多;
  • 此策略可以和least_conn策略、iphash策略结合使用;
  • 此策略比较适合服务器硬件配置差距较大的情况。

3)ip_hash

  依据ip分配方式,指定负载均衡器按照基于客户端IP的分配方式,这个方法确保了相同的客户端请求一致发送到相同的服务器,以保证session会话。这样每个访客都固定访问一个后端服务器,可以解决session不能跨服务器的问题。upstream模块配置模板如下:

代码语言:javascript复制
upstream [服务器组名称]{
  ip_hash;
  server [IP地址]:[端口号] weight=2;
  server [IP地址]:[端口号];
  ....
}

注意:

  • nginx1.3.1之前的版本不能在ip_hash中使用权重(weight);
  • ip_hash不能与backup同时使用;
  • 此策略适合有状态服务的程序,比如session;
  • 当有服务器需要剔除,必须手动down掉。

4)least_conn

  最少连接方式,把请求发给链接数最少的后端服务器。轮询是把请求平均分配给各个后端,使它们的负载大致相同。但是,有些请求占用的时间很长,会导致其所在的后端负载较高。这种情况下,least_conn这种方式就可以达到更好的负载均衡效果。upstream模块配置模板如下:

代码语言:javascript复制
upstream [服务器组名称]{
  least_conn;
  server [IP地址]:[端口号] weight=2;
  server [IP地址]:[端口号];
  ....
}

注意:

  • 此策略适合请求处理时间长短不一造成的服务器过载情况;

5)fair

  响应时间方式,按照服务器端的响应时间来分配请求,响应时间短的优先分配。upstream模块配置模板如下:

代码语言:javascript复制
upstream [服务器组名称]{
  server [IP地址]:[端口号] weight=2;
  server [IP地址]:[端口号];
  ....
  fair;
}

注意:

  • 需要安装第三方插件';

6)url_hash

  url分配方式,按访问url的hash结果来分配请求,使每个url定向到同一个后端服务器,要配合缓存命中来使用。同一个资源多次请求可能会到达不同的服务器上,导致不必要的多次下载,缓存命中率不高,以及一些资源时间的浪费。而使用url_hash,可以使得同一个url(也就是同一个资源请求)会到达同一台服务器,一旦缓存住了资源,再次收到请求,就可以在缓存中读取。upstream模块配置模板如下:

代码语言:javascript复制
upstream [服务器组名称]{
  hash $request_uri;
  server [IP地址]:[端口号] weight=2;
  server [IP地址]:[端口号];
  ....
}

注意:

  • 需要安装第三方插件;
  • uri,是i,不是小写的L。

这两位小伙伴把邮寄地址及书名发一下:

往期精彩

01 Sentinel如何进行流量监控

02 Nacos源码编译

03 基于Apache Curator框架的ZooKeeper使用详解

04 spring boot项目整合xxl-job

05 互联网支付系统整体架构详解

0 人点赞