濮阳杆衣贸易有限公司

主頁(yè) > 知識(shí)庫(kù) > 在Redis集群中使用pipeline批量插入的實(shí)現(xiàn)方法

在Redis集群中使用pipeline批量插入的實(shí)現(xiàn)方法

熱門標(biāo)簽:四川穩(wěn)定外呼系統(tǒng)軟件 高碑店市地圖標(biāo)注app b2b外呼系統(tǒng) 臺(tái)灣電銷 廊坊外呼系統(tǒng)在哪買 400電話辦理的口碑 地圖標(biāo)注工廠入駐 南京手機(jī)外呼系統(tǒng)廠家 一個(gè)地圖標(biāo)注多少錢

由于項(xiàng)目中需要使用批量插入功能, 所以在網(wǎng)上查找到了Redis 批量插入可以使用pipeline來(lái)高效的插入, 示例代碼如下:

String key = "key";
Jedis jedis = new Jedis("xx.xx.xx.xx");
Pipeline p = jedis.pipelined();
ListString> myData = .... //要插入的數(shù)據(jù)列表
for(String data: myData){
  p.hset(key, data);
}
p.sync();
jedis.close();

但實(shí)際上遇到的問(wèn)題是,項(xiàng)目上所用到的Redis是集群,初始化的時(shí)候使用的類是JedisCluster而不是Jedis. 去查了JedisCluster的文檔, 并沒(méi)有發(fā)現(xiàn)提供有像Jedis一樣的獲取Pipeline對(duì)象的 pipelined()方法.

Google了一下, 發(fā)現(xiàn)了解決方案.

Redis集群規(guī)范有說(shuō): Redis 集群的鍵空間被分割為 16384 個(gè)槽(slot), 集群的最大節(jié)點(diǎn)數(shù)量也是 16384 個(gè)。每個(gè)主節(jié)點(diǎn)都負(fù)責(zé)處理 16384 個(gè)哈希槽的其中一部分。當(dāng)我們說(shuō)一個(gè)集群處于“穩(wěn)定”(stable)狀態(tài)時(shí), 指的是集群沒(méi)有在執(zhí)行重配置(reconfiguration)操作, 每個(gè)哈希槽都只由一個(gè)節(jié)點(diǎn)進(jìn)行處理。

所以我們可以根據(jù)要插入的key知道這個(gè)key所對(duì)應(yīng)的槽的號(hào)碼, 再通過(guò)這個(gè)槽的號(hào)碼從集群中找到對(duì)應(yīng)Jedis. 具體實(shí)現(xiàn)如下

//初始化得到了jedis cluster, 如何獲取HostAndPort集合代碼就不寫了

SetHostAndPort> nodes = .....

JedisCluster jedisCluster = new JedisCluster(nodes);



MapString, JedisPool> nodeMap = jedisCluster.getClusterNodes();

String anyHost = nodeMap.keySet().iterator().next();

//getSlotHostMap方法在下面有

TreeMapLong, String> slotHostMap = getSlotHostMap(anyHost); 

  private static TreeMapLong, String> getSlotHostMap(String anyHostAndPortStr) {
    TreeMapLong, String> tree = new TreeMapLong, String>();
    String parts[] = anyHostAndPortStr.split(":");
    HostAndPort anyHostAndPort = new HostAndPort(parts[0], Integer.parseInt(parts[1]));
    try{
      Jedis jedis = new Jedis(anyHostAndPort.getHost(), anyHostAndPort.getPort());
      ListObject> list = jedis.clusterSlots();
      for (Object object : list) {
        ListObject> list1 = (ListObject>) object;
        ListObject> master = (ListObject>) list1.get(2);
        String hostAndPort = new String((byte[]) master.get(0)) + ":" + master.get(1);
        tree.put((Long) list1.get(0), hostAndPort);
        tree.put((Long) list1.get(1), hostAndPort);
      }
      jedis.close();
    }catch(Exception e){
      
    }
    return tree;
  }

上面這幾步可以在初始化的時(shí)候就完成. 不需要每次都調(diào)用, 把nodeMap和slotHostMap都定義為靜態(tài)變量.

//獲取槽號(hào)

int slot = JedisClusterCRC16.getSlot(key); 

//獲取到對(duì)應(yīng)的Jedis對(duì)象

Map.EntryLong, String> entry = slotHostMap.lowerEntry(Long.valueOf(slot));

Jedis jedis = nodeMap.get(entry.getValue()).getResource();

建議上面這步操作可以封裝成一個(gè)靜態(tài)方法, 比如命名為public static Jedis getJedisByKey(String key) 之類的. 意思就是在集群中, 通過(guò)key獲取到這個(gè)key所對(duì)應(yīng)的Jedis對(duì)象.

這樣再通過(guò)上面的jedis.pipelined();來(lái)就可以進(jìn)行批量插入了.

注:這個(gè)方法是從Google上搜來(lái)的, 直到目前我使用起來(lái)還沒(méi)發(fā)現(xiàn)什么問(wèn)題. 如果哪位大神發(fā)現(xiàn)有什么不對(duì)的地方歡迎提出來(lái).

以上就是本文的全部?jī)?nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。

您可能感興趣的文章:
  • Redis cluster集群的介紹
  • Spring-data-redis操作redis cluster的示例代碼
  • Windows環(huán)境下Redis Cluster環(huán)境搭建(圖文)
  • 如何用docker部署redis cluster的方法
  • python使用pipeline批量讀寫redis的方法
  • 詳解Java使用Pipeline對(duì)Redis批量讀寫(hmset&hgetall)
  • 詳解redis大幅性能提升之使用管道(PipeLine)和批量(Batch)操作
  • redis cluster支持pipeline的實(shí)現(xiàn)思路

標(biāo)簽:定州 畢節(jié) 泰州 伊春 拉薩 甘南 南寧 河源

巨人網(wǎng)絡(luò)通訊聲明:本文標(biāo)題《在Redis集群中使用pipeline批量插入的實(shí)現(xiàn)方法》,本文關(guān)鍵詞  在,Redis,集群,中,使用,pipeline,;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問(wèn)題,煩請(qǐng)?zhí)峁┫嚓P(guān)信息告之我們,我們將及時(shí)溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò),涉及言論、版權(quán)與本站無(wú)關(guān)。
  • 相關(guān)文章
  • 下面列出與本文章《在Redis集群中使用pipeline批量插入的實(shí)現(xiàn)方法》相關(guān)的同類信息!
  • 本頁(yè)收集關(guān)于在Redis集群中使用pipeline批量插入的實(shí)現(xiàn)方法的相關(guān)信息資訊供網(wǎng)民參考!
  • 推薦文章
    略阳县| 安乡县| 汉源县| 金寨县| 开封市| 怀化市| 松溪县| 巴南区| 郴州市| 湘西| 秭归县| 富阳市| 内乡县| 即墨市| 常熟市| 闵行区| 玉溪市| 邵阳市| 兴宁市| 洱源县| 曲水县| 堆龙德庆县| 济宁市| 瑞安市| 浦北县| 巧家县| 六枝特区| 威宁| 汾西县| 鄄城县| 广灵县| 行唐县| 永年县| 巴里| 玉溪市| 尼勒克县| 长阳| 榆树市| 普兰县| 宁陵县| 乃东县|