分布式限流

2019-03-07 10:36:37 浏览数 (1)

一、限流

在高并发系统中,需要使用多种方式来保护系统,例如:

  • 缓存,目的是提升系统访问速度,增大系统处理能力。
  • 降级,当服务器压力剧增的时候,根据实际业务情况,对某些服务或者页面有策略的不处理或者简单处理,从而释放服务器资源,以保证核心业务正常运行,通过牺牲局部利益来保证全局利益。
  • 限流,目的是通过对请求进行限速来保护系统,如果达到限速值就可以采取一定的手段,例如拒绝服务、排队、等待。

所以,限流是保证系统高可用的重要手段。

二、分布式限流

在单机系统中,限流逻辑直接放在服务接口中即可,Guava RateLimiter 可以方便的实现。

但在分布式系统中,一个服务可能启动多个实例,需要对服务整体进行限流,就不能放在每个实例中进行限流判断了,需要统一管理,例如放到API网关中:

分布式限流最关键的是要将限流服务做成原子化,常见的方案是 Redis Lua 和 Nginx Lua。

三、Redis Lua 实现方式

Lua 代码:

代码语言:javascript复制
-- 获取调用脚本时传入的第一个key值(用作限流的 key)
local key = KEYS[1]
-- 获取调用脚本时传入的第一个参数值(限流大小)
local limit = tonumber(ARGV[1])

-- 获取当前流量大小
local curentLimit = tonumber(redis.call('get', key) or "0")

-- 是否超出限流
if curentLimit   1 > limit then
    -- 返回(拒绝)
    return 0
else
    -- 没有超出 value   1
    redis.call("INCRBY", key, 1)
    -- 设置过期时间
    redis.call("EXPIRE", key, 2)
    -- 返回(放行)
    return 1
end

Redis 是单线程,如上的限流逻辑是在 Lua 脚本中,是线程安全的。

Java 调用示例代码:

代码语言:javascript复制
public boolean limit() throws Exception {
    String luaScript = Files.toString(
            new File("limit.lua")
            , Charset.defaultCharset());
    Jedis jedis = new Jedis(ip, port);
    
    String key = "ip:" 
              System.currentTimeMillis()/1000;
    String limit = "3";
    ArrayList<String> scriptKeys = 
            Lists.newArrayList(key);
    ArrayList<String> scriptArgs = 
            Lists.newArrayList(limit);
    
    return (Long)jedis.eval(
            luaScript, 
            scriptKeys, 
            scriptArgs) == 1;
}

点击?阅读原文,查看文章列表

0 人点赞