日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

Kafka分区分配策略(2)——RoundRobinAssignor和StickyAssignor

發布時間:2024/4/11 编程问答 25 豆豆
生活随笔 收集整理的這篇文章主要介紹了 Kafka分区分配策略(2)——RoundRobinAssignor和StickyAssignor 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

接上文【Kafka分區分配策略(1)——RangeAssignor】


歡迎支持筆者新作:《深入理解Kafka:核心設計與實踐原理》和《RabbitMQ實戰指南》,同時歡迎關注筆者的微信公眾號:朱小廝的博客。

歡迎跳轉到本文的原文鏈接:https://honeypps.com/mq/kafka-partitions-allocation-strategy-2-round-robin-and-sticky-assignor/


RoundRobinAssignor分配策略

RoundRobinAssignor策略的原理是將消費組內所有消費者以及消費者所訂閱的所有topic的partition按照字典序排序,然后通過輪詢方式逐個將分區以此分配給每個消費者。RoundRobinAssignor策略對應的partition.assignment.strategy參數值為:org.apache.kafka.clients.consumer.RoundRobinAssignor。

如果同一個消費組內所有的消費者的訂閱信息都是相同的,那么RoundRobinAssignor策略的分區分配會是均勻的。舉例,假設消費組中有2個消費者C0和C1,都訂閱了主題t0和t1,并且每個主題都有3個分區,那么所訂閱的所有分區可以標識為:t0p0、t0p1、t0p2、t1p0、t1p1、t1p2。最終的分配結果為:

消費者C0:t0p0、t0p2、t1p1 消費者C1:t0p1、t1p0、t1p2

如果同一個消費組內的消費者所訂閱的信息是不相同的,那么在執行分區分配的時候就不是完全的輪詢分配,有可能會導致分區分配的不均勻。如果某個消費者沒有訂閱消費組內的某個topic,那么在分配分區的時候此消費者將分配不到這個topic的任何分區。

舉例,假設消費組內有3個消費者C0、C1和C2,它們共訂閱了3個主題:t0、t1、t2,這3個主題分別有1、2、3個分區,即整個消費組訂閱了t0p0、t1p0、t1p1、t2p0、t2p1、t2p2這6個分區。具體而言,消費者C0訂閱的是主題t0,消費者C1訂閱的是主題t0和t1,消費者C2訂閱的是主題t0、t1和t2,那么最終的分配結果為:

消費者C0:t0p0 消費者C1:t1p0 消費者C2:t1p1、t2p0、t2p1、t2p2

可以看到RoundRobinAssignor策略也不是十分完美,這樣分配其實并不是最優解,因為完全可以將分區t1p1分配給消費者C1。


StickyAssignor分配策略

我們再來看一下StickyAssignor策略,“sticky”這個單詞可以翻譯為“粘性的”,Kafka從0.11.x版本開始引入這種分配策略,它主要有兩個目的:

  • 分區的分配要盡可能的均勻;
  • 分區的分配盡可能的與上次分配的保持相同。
    當兩者發生沖突時,第一個目標優先于第二個目標。鑒于這兩個目標,StickyAssignor策略的具體實現要比RangeAssignor和RoundRobinAssignor這兩種分配策略要復雜很多。我們舉例來看一下StickyAssignor策略的實際效果。
  • 假設消費組內有3個消費者:C0、C1和C2,它們都訂閱了4個主題:t0、t1、t2、t3,并且每個主題有2個分區,也就是說整個消費組訂閱了t0p0、t0p1、t1p0、t1p1、t2p0、t2p1、t3p0、t3p1這8個分區。最終的分配結果如下:

    消費者C0:t0p0、t1p1、t3p0 消費者C1:t0p1、t2p0、t3p1 消費者C2:t1p0、t2p1

    這樣初看上去似乎與采用RoundRobinAssignor策略所分配的結果相同,但事實是否真的如此呢?再假設此時消費者C1脫離了消費組,那么消費組就會執行再平衡操作,進而消費分區會重新分配。如果采用RoundRobinAssignor策略,那么此時的分配結果如下:

    消費者C0:t0p0、t1p0、t2p0、t3p0 消費者C2:t0p1、t1p1、t2p1、t3p1

    如分配結果所示,RoundRobinAssignor策略會按照消費者C0和C2進行重新輪詢分配。而如果此時使用的是StickyAssignor策略,那么分配結果為:

    消費者C0:t0p0、t1p1、t3p0、t2p0 消費者C2:t1p0、t2p1、t0p1、t3p1

    可以看到分配結果中保留了上一次分配中對于消費者C0和C2的所有分配結果,并將原來消費者C1的“負擔”分配給了剩余的兩個消費者C0和C2,最終C0和C2的分配還保持了均衡。

    如果發生分區重分配,那么對于同一個分區而言有可能之前的消費者和新指派的消費者不是同一個,對于之前消費者進行到一半的處理還要在新指派的消費者中再次復現一遍,這顯然很浪費系統資源。StickyAssignor策略如同其名稱中的“sticky”一樣,讓分配策略具備一定的“粘性”,盡可能地讓前后兩次分配相同,進而減少系統資源的損耗以及其它異常情況的發生。

    到目前為止所分析的都是消費者的訂閱信息都是相同的情況,我們來看一下訂閱信息不同的情況下的處理。

    舉例,同樣消費組內有3個消費者:C0、C1和C2,集群中有3個主題:t0、t1和t2,這3個主題分別有1、2、3個分區,也就是說集群中有t0p0、t1p0、t1p1、t2p0、t2p1、t2p2這6個分區。消費者C0訂閱了主題t0,消費者C1訂閱了主題t0和t1,消費者C2訂閱了主題t0、t1和t2。

    如果此時采用RoundRobinAssignor策略,那么最終的分配結果如下所示(和講述RoundRobinAssignor策略時的一樣,這樣不妨贅述一下):

    【分配結果集1】 消費者C0:t0p0 消費者C1:t1p0 消費者C2:t1p1、t2p0、t2p1、t2p2

    如果此時采用的是StickyAssignor策略,那么最終的分配結果為:

    【分配結果集2】 消費者C0:t0p0 消費者C1:t1p0、t1p1 消費者C2:t2p0、t2p1、t2p2

    可以看到這是一個最優解(消費者C0沒有訂閱主題t1和t2,所以不能分配主題t1和t2中的任何分區給它,對于消費者C1也可同理推斷)。
    假如此時消費者C0脫離了消費組,那么RoundRobinAssignor策略的分配結果為:

    消費者C1:t0p0、t1p1 消費者C2:t1p0、t2p0、t2p1、t2p2

    可以看到RoundRobinAssignor策略保留了消費者C1和C2中原有的3個分區的分配:t2p0、t2p1和t2p2(針對結果集1)。而如果采用的是StickyAssignor策略,那么分配結果為:

    消費者C1:t1p0、t1p1、t0p0 消費者C2:t2p0、t2p1、t2p2

    可以看到StickyAssignor策略保留了消費者C1和C2中原有的5個分區的分配:t1p0、t1p1、t2p0、t2p1、t2p2。

    從結果上看StickyAssignor策略比另外兩者分配策略而言顯得更加的優異,這個策略的代碼實現也是異常復雜,如果讀者沒有接觸過這種分配策略,不妨使用一下來嘗嘗鮮。

    歡迎跳轉到本文的原文鏈接:https://honeypps.com/mq/kafka-partitions-allocation-strategy-2-round-robin-and-sticky-assignor/


    歡迎支持筆者新作:《深入理解Kafka:核心設計與實踐原理》和《RabbitMQ實戰指南》,同時歡迎關注筆者的微信公眾號:朱小廝的博客。


    總結

    以上是生活随笔為你收集整理的Kafka分区分配策略(2)——RoundRobinAssignor和StickyAssignor的全部內容,希望文章能夠幫你解決所遇到的問題。

    如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。