1 什么是连接池?
1.1 结构
连接池对外提供接口:
- 获得连接
- 归还连接
暴露客户端可配置的参数:
- 最小空闲连接数
- 最大连接数
内部实现功能:
- 连接建立
- 连接心跳保持
- 连接管理
- 空闲连接回收
- 连接可用性检测
1.2 连接池结构示意图
2 客户端SDK是否基于连接池
使用三方客户端进行网络通信时,先要确定客户端SDK是否基于连接池技术实现。
若客户端SDK没有使用连接池,而直接TCP连接,就需考虑每次建立TCP连接的开销,因为TCP基于字节流,若在多线程下对同一连接操作,就有线程安全隐患。
3 TCP连接的客户端SDK,对外提供API的方式
3.1 连接池和连接分离
XXXPool类,负责连接池实现:
- 先从其获得连接XXXConnection
- 再用所获连接请求服务端
- 完成后归还连接
XXXPool须线程安全,可并发获取和归还连接,而XXXConnection非线程安全:
- XXXPool对应连接池结构示意图,即右边连接池那个框
- 左边客户端,我们自己的代码
3.2 内部带有连接池的API
对外提供一个XXXClient类,通过该类可直接请求服务端。
该类内部维护了连接池,SDK使用者无需考虑连接的获取和归还问题。 XXXClient线程安全。对应到连接池结构示意图的整个API,即蓝框。
3.3 非连接池的API
一般命名为XXXConnection,以区分其是基于连接池or单连接,而不建议命名为XXXClient。
直接连接方式的API基于单一连接,每次使用都需创建、断开连接,性能一般,通常非线程安全。
对应连接池结构示意图,这种形式相当于没有右边连接池那个框,客户端直连服务端创建连接。
因此在使用三方SDK时,一定要
- 查看官方文档,了解其最佳实践
- Stackoverflow搜索XXX threadsafe/singleton
- 看源码,直到定位到原始Socket来判断Socket和客户端API的对应关系
4 SDK最佳实践
4.1 分离方式
连接池本身一般是线程安全,可复用。每次使用需从连接池获取连接,使用后归还,归还工作由使用者负责。
4.2 内置连接池
大多中间件、DB客户端SDK都支持连接池。SDK负责连接的获取、归还,使用时直接复用客户端。
4.3 SDK没有实现连接池
通常不是线程安全的,而且短连接的方式性能不高,使用时需考虑是否自己封装一个连接池。
5 Jedis类属于哪种类型API?
- 多线程复用一个连接会产生什么问题
- 如何用最佳实践来修复此问题
向Redis初始化2组数据,Key=a、Value=1,Key=b、Value=2:
代码语言:javascript复制@PostConstruct
public void init() {
try (Jedis jedis = new Jedis("127.0.0.1", 6379)) {
Assert.isTrue("OK".equals(jedis.set("a", "1")), "set a = 1 return OK");
Assert.isTrue("OK".equals(jedis.set("b", "2")), "set b = 2 return OK");
}
}
启动两个线程,共享操作同一个Jedis实例,每一个线程循环1000次,分别读取Key为a和b的Value,判断是否分别为1和2:
代码语言:javascript复制Jedis jedis = new Jedis("127.0.0.1", 6379);
new Thread(() -> {
for (int i = 0; i < 1000; i ) {
String result = jedis.get("a");
if (!result.equals("1")) {
log.warn("Expect a to be 1 but found {}", result);
return;
}
}
}).start();
new Thread(() -> {
for (int i = 0; i < 1000; i ) {
String result = jedis.get("b");
if (!result.equals("2")) {
log.warn("Expect b to be 2 but found {}", result);
return;
}
}
}).start();
TimeUnit.SECONDS.sleep(5);
有的读取Key为b的Value读取到了1,有的是流非正常结束,还有连接关闭异常:
代码语言:javascript复制//错误1
[14:56:19.069] [Thread-28] [WARN ] [.t.c.c.redis.JedisMisreuseController:45 ] - Expect b to be 2 but found 1
//错误2
redis.clients.jedis.exceptions.JedisConnectionException: Unexpected end of stream.
at redis.clients.jedis.util.RedisInputStream.ensureFill(RedisInputStream.java:202)
at redis.clients.jedis.util.RedisInputStream.readLine(RedisInputStream.java:50)
at redis.clients.jedis.Protocol.processError(Protocol.java:114)
at redis.clients.jedis.Protocol.process(Protocol.java:166)
at redis.clients.jedis.Protocol.read(Protocol.java:220)
at redis.clients.jedis.Connection.readProtocolWithCheckingBroken(Connection.java:318)
at redis.clients.jedis.Connection.getBinaryBulkReply(Connection.java:255)
at redis.clients.jedis.Connection.getBulkReply(Connection.java:245)
at redis.clients.jedis.Jedis.get(Jedis.java:181)
at JedisMisreuseController.lambda$wrong$1(JedisMisreuseController.java:43)
at java.lang.Thread.run(Thread.java:748)
//错误3
java.io.IOException: Socket Closed
at java.net.AbstractPlainSocketImpl.getOutputStream(AbstractPlainSocketImpl.java:440)
at java.net.Socket$3.run(Socket.java:954)
at java.net.Socket$3.run(Socket.java:952)
at java.security.AccessController.doPrivileged(Native Method)
at java.net.Socket.getOutputStream(Socket.java:951)
at redis.clients.jedis.Connection.connect(Connection.java:200)
... 7 more
6 Jedis类源码解析
BinaryClient封装各种Redis命令:
都是调用其父类Connection方法,使用Protocol类发命令
Protocol#sendCommand
发送命令,直接操作RedisOutputStream写字节。
多线程复用Jedis对象,就是在复用RedisOutputStream。若多个线程在执行操作,既无法确保整条命令以一个原子操作写入Socket,也无法确保写入后、读取前没有其他数据写到远端。
这就解释为何多线程使用Jedis对象操作Redis会有各种问题:
- 写操作互相干扰,多条命令交织,必然是非法的Redis命令,则Redis会关闭客户端连接,导致连接断开
- 线程1和2先后写入get a和get b请求,Redis也返回了值1和2,但线程2先读取数据1就会数据错乱。
7 修复方案
使用Jedis提供的线程安全的类JedisPool获得Jedis实例。
JedisPool作为连接池,可声明为static 被多线程共享。
这样使用后代码不再有线程安全问题。最好再通过shutdownhook,在程序退出之前关闭JedisPool:
代码语言:javascript复制@PostConstruct
public void init() {
Runtime.getRuntime().addShutdownHook(new Thread(() -> {
jedisPool.close();
}));
}
Jedis#close
若Jedis是从连接池获取的话,则close方法会调用连接池的return方法归还连接:
如果不是,则直接关闭连接,其最终调用Connection类的disconnect方法来关闭TCP连接:
可见Jedis可独立使用,也可配合连接池(JedisPool)
8 JedisPool总结
JedisPool继承JedisPoolAbstract又继承抽象类Pool,Pool内部持有Apache Common的GenericObjectPool:
所以JedisPool连接池就是直接复用GenericObjectPool,并没有自己实现一套池。
综上,Jedis API属于连接池和连接分离,JedisPool是线程安全的连接池,Jedis是非线程安全的单一连接。