背景
合理的JedisPool資源池參數(shù)設(shè)置能為業(yè)務(wù)使用Redis保駕護(hù)航,本文將對JedisPool的使用、資源池的參數(shù)進(jìn)行詳細(xì)說明,最后給出“最合理”配置。
一、使用方法
以官方的2.9.0為例子(Jedis Release),Maven依賴如下:
<dependency> <groupId>redis.clients</groupId> <artifactId>jedis</artifactId> <version>2.9.0</version> <scope>compile</scope></dependency>
Jedis使用apache commons-pool2對Jedis資源池進(jìn)行管理,所以在定義JedisPool時(shí)一個(gè)很重要的參數(shù)就是資源池GenericObjectPoolConfig,使用方式如下,其中有很多資源管理和使用的參數(shù)(具體看第二節(jié))
注意:后面會提到建議用JedisPoolConfig代替GenericObjectPoolConfig
GenericObjectPoolConfig jedisPoolConfig = new GenericObjectPoolConfig();jedisPoolConfig.setMaxTotal(..);jedisPoolConfig.setMaxIdle(..);jedisPoolConfig.setMinIdle(..);jedisPoolConfig.setMaxWaitMillis(..);
JedisPool的初始化如下:
// redisHost和redisPort是實(shí)例的IP和端口// redisPassword是實(shí)例的密碼// timeout,這里既是連接超時(shí)又是讀寫超時(shí),從Jedis 2.8開始有區(qū)分connectionTimeout和soTimeout的構(gòu)造函數(shù)JedisPool jedisPool = new JedisPool(jedisPoolConfig, redisHost, redisPort, timeout, redisPassword);Jedis jedis = null;try { jedis = jedisPool.getResource(); //具體的命令 jedis.executeCommand()} catch (Exception e) { logger.error(e.getMessage(), e);} finally { if (jedis != null) jedis.close(); //注意這里不是關(guān)閉連接,在JedisPool模式下,Jedis會被歸還給資源池。}
二、參數(shù)說明
JedisPool保證資源在一個(gè)可控范圍內(nèi),并且提供了線程安全,但是一個(gè)合理的GenericObjectPoolConfig配置能為應(yīng)用使用Redis保駕護(hù)航,下面將對它的一些重要參數(shù)進(jìn)行說明和建議:
在當(dāng)前環(huán)境下,Jedis連接就是資源,JedisPool管理的就是Jedis連接。
1. 資源設(shè)置和使用
序號 | 參數(shù)名 | 含義 | 默認(rèn)值 | 使用建議 |
---|---|---|---|---|
1 | maxTotal | 資源池中最大連接數(shù) | 8 | 設(shè)置建議見下節(jié) |
2 | maxIdle | 資源池允許最大空閑的連接數(shù) | 8 | 設(shè)置建議見下節(jié) |
3 | minIdle | 資源池確保最少空閑的連接數(shù) | 0 | 設(shè)置建議見下節(jié) |
4 | blockWhenExhausted | 當(dāng)資源池用盡后,調(diào)用者是否要等待。只有當(dāng)為true時(shí),下面的maxWaitMillis才會生效 | true | 建議使用默認(rèn)值 |
5 | maxWaitMillis | 當(dāng)資源池連接用盡后,調(diào)用者的最大等待時(shí)間(單位為毫秒) | -1:表示永不超時(shí) | 不建議使用默認(rèn)值 |
6 | testOnBorrow | 向資源池借用連接時(shí)是否做連接有效性檢測(ping),無效連接會被移除 | false | 業(yè)務(wù)量很大時(shí)候建議設(shè)置為false(多一次ping的開銷)。 |
7 | testOnReturn | 向資源池歸還連接時(shí)是否做連接有效性檢測(ping),無效連接會被移除 | false | 業(yè)務(wù)量很大時(shí)候建議設(shè)置為false(多一次ping的開銷)。 |
8 | jmxEnabled | 是否開啟jmx監(jiān)控,可用于監(jiān)控 | true | 建議開啟,但應(yīng)用本身也要開啟 |
2.空閑資源監(jiān)測
空閑Jedis對象檢測,下面四個(gè)參數(shù)組合來完成,testWhileIdle是該功能的開關(guān)。
序號 | 參數(shù)名 | 含義 | 默認(rèn)值 | 使用建議 |
---|---|---|---|---|
1 | testWhileIdle | 是否開啟空閑資源監(jiān)測 | false | true |
2 | timeBetweenEvictionRunsMillis | 空閑資源的檢測周期(單位為毫秒) | -1:不檢測 | 建議設(shè)置,周期自行選擇,也可以默認(rèn)也可以使用下面JedisPoolConfig中的配置 |
3 | minEvictableIdleTimeMillis | 資源池中資源最小空閑時(shí)間(單位為毫秒),達(dá)到此值后空閑資源將被移除 | 1000 60 30 = 30分鐘 | 可根據(jù)自身業(yè)務(wù)決定,大部分默認(rèn)值即可,也可以考慮使用下面JeidsPoolConfig中的配置 |
4 | numTestsPerEvictionRun | 做空閑資源檢測時(shí),每次的采樣數(shù) | 3 | 可根據(jù)自身應(yīng)用連接數(shù)進(jìn)行微調(diào),如果設(shè)置為-1,就是對所有連接做空閑監(jiān)測 |
為了方便使用,Jedis提供了JedisPoolConfig,它本身繼承了GenericObjectPoolConfig設(shè)置了一些空閑監(jiān)測設(shè)置
public class JedisPoolConfig extends GenericObjectPoolConfig { public JedisPoolConfig() { // defaults to make your life with connection pool easier :) setTestWhileIdle(true); // setMinEvictableIdleTimeMillis(60000); // setTimeBetweenEvictionRunsMillis(30000); setNumTestsPerEvictionRun(-1); }}
所有默認(rèn)值可以從org.apache.commons.pool2.impl.BaseObjectPoolConfig中看到。
三、資源池大小(maxTotal)、空閑(maxIdle minIdle)設(shè)置建議
1.maxTotal:最大連接數(shù)
實(shí)際上這個(gè)是一個(gè)很難回答的問題,考慮的因素比較多:
以一個(gè)例子說明,假設(shè):
那么理論上需要的資源池大小是50000 / 1000 = 50個(gè)。但事實(shí)上這是個(gè)理論值,還要考慮到要比理論值預(yù)留一些資源,通常來講maxTotal可以比理論值大一些。
但這個(gè)值不是越大越好,一方面連接太多占用客戶端和服務(wù)端資源,另一方面對于Redis這種高QPS的服務(wù)器,一個(gè)大命令的阻塞即使設(shè)置再大資源池仍然會無濟(jì)于事。
2. maxIdle minIdle
maxIdle實(shí)際上才是業(yè)務(wù)需要的最大連接數(shù),maxTotal是為了給出余量,所以maxIdle不要設(shè)置過小,否則會有new Jedis(新連接)開銷,而minIdle是為了控制空閑資源監(jiān)測。
連接池的最佳性能是maxTotal = maxIdle ,這樣就避免連接池伸縮帶來的性能干擾。但是如果并發(fā)量不大或者maxTotal設(shè)置過高,會導(dǎo)致不必要的連接資源浪費(fèi)。
可以根據(jù)實(shí)際總OPS和調(diào)用redis客戶端的規(guī)模整體評估每個(gè)節(jié)點(diǎn)所使用的連接池。
3.監(jiān)控
實(shí)際上最靠譜的值是通過監(jiān)控來得到“最佳值”的,可以考慮通過一些手段(例如jmx)實(shí)現(xiàn)監(jiān)控,找到合理值。
四、常見問題
1.資源“不足"
redis.clients.jedis.exceptions.JedisConnectionException: Could not get a resource from the pool…Caused by: java.util.NoSuchElementException: Timeout waiting for idle objectat org.apache.commons.pool2.impl.GenericObjectPool.borrowObject(GenericObjectPool.java:449)
或者
redis.clients.jedis.exceptions.JedisConnectionException: Could not get a resource from the pool…Caused by: java.util.NoSuchElementException: Pool exhaustedat org.apache.commons.pool2.impl.GenericObjectPool.borrowObject(GenericObjectPool.java:464)
兩種情況均屬于無法從資源池獲取到資源,但第一種是超時(shí),第二種是因?yàn)閎lockWhenExhausted為false根本就不等。
遇到此類異常,不要盲目的認(rèn)為資源池不夠大,第三節(jié)已經(jīng)進(jìn)行了分析。具體原因可以排查:網(wǎng)絡(luò)、資源池參數(shù)設(shè)置、資源池監(jiān)控(如果對jmx監(jiān)控)、代碼(例如沒執(zhí)行jedis.close())、慢查詢、DNS等問題。
具體可以參考該文章:https://www.atatech.org/articles/77799
2. 預(yù)熱JedisPool
由于一些原因(例如超時(shí)時(shí)間設(shè)置較小原因),有的項(xiàng)目在啟動(dòng)成功后會出現(xiàn)超時(shí)。JedisPool定義最大資源數(shù)、最小空閑資源數(shù)時(shí),不會真的把Jedis連接放到池子里,第一次使用時(shí),池子沒有資源使用,會new Jedis,使用后放到池子里,可能會有一定的時(shí)間開銷,所以也可以考慮在JedisPool定義后,為JedisPool提前進(jìn)行預(yù)熱,例如以最小空閑數(shù)量為預(yù)熱數(shù)量
List<Jedis> minIdleJedisList = new ArrayList<Jedis>(jedisPoolConfig.getMinIdle());for (int i = 0; i < jedisPoolConfig.getMinIdle(); i++) { Jedis jedis = null; try { jedis = pool.getResource(); minIdleJedisList.add(jedis); jedis.ping(); } catch (Exception e) { logger.error(e.getMessage(), e); } finally { }}for (int i = 0; i < jedisPoolConfig.getMinIdle(); i++) { Jedis jedis = null; try { jedis = minIdleJedisList.get(i); jedis.close(); } catch (Exception e) { logger.error(e.getMessage(), e); } finally { }}
以上就是本文的全部內(nèi)容,希望對大家的學(xué)習(xí)有所幫助,也希望大家多多支持VeVb武林網(wǎng)。
新聞熱點(diǎn)
疑難解答
圖片精選