日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 运维知识 > windows >内容正文

windows

Kafka 如何保证消息消费的全局顺序性

發布時間:2023/11/27 windows 29 coder
生活随笔 收集整理的這篇文章主要介紹了 Kafka 如何保证消息消费的全局顺序性 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

哈嘍大家好,我是咸魚

今天我們繼續來講一講 Kafka

當有消息被生產出來的時候,如果沒有指定分區或者指定 key ,那么消費會按照【輪詢】的方式均勻地分配到所有可用分區中,但不一定按照分區順序來分配


我們知道,在 Kafka 中消費者可以訂閱一個或多個主題,并被分配一個或多個分區

如果一個消費者消費了多個分區,某些場景下消費者需要順序地消費消息,但消息并不是按照順序分配給分區的,所以就不一定能夠保證消息消費的全局順序性

比如下圖中 Msg0002 消息并不是在 Msg0001 消息之后的,就有可能導致消費者先把 Msg0002 消息給消費, Msg0001 消息才被消費

那么這種情況該怎么解決?如何盡可能地保證消息消費的全局順序性?(即這些消息具有因果關系)要想消費消息 B 必須先消費消息 A

要注意的是,Kafka 的設計目標是提供高吞吐量和低延遲,而不是強制保證全局有序性

所以這篇文章探討的是需要強調全局順序性場景下的 Kafka 應用

單分區

最簡單粗暴的方法,雖然 Kafka 不能保證全局消費順序性,但是能夠保證分區內的消息順序性

所以我們可以只創建一個分區,并讓消費者消費這個分區,這樣就能夠保證消費的消息是有序的

但是這樣做大大降低了吞吐量和處理效率,容易使得性能出現瓶頸

基于 key

在 Kafka 中,基于 key 的消息分配策略是通過消息中的鍵(key)來確定消息發送到哪個分區

當生產者發送消息時,可以指定一個鍵(key),Kafka 使用這個鍵通過哈希算法來確定消息被發送到哪個分區

由于相同的 key 就發送到同一分區,這樣就能夠保證了消費的消息是有序的

然而,如果只有一個消費者消費相同 key 的消息,那么與單分區相比,基于 key 的消息分配策略不會提高吞吐量

因為即使相同 key 的消息在多個分區中,但同一消費者依然只能從一個分區中消費,這并不會增加整體的處理能力。

但如果有多個消費者消費相同 key 的消息,基于 key 的分區策略可以提高消費者并行消費的能力


因為這些消費者可以同時從不同分區中讀取消息,從而增加整體的處理速度。這種情況下,基于 key 的消息分配可以提高整體吞吐量

最后總結一下:

  • Kafka 的設計目標是提供高吞吐量和低延遲,而不是強制保證全局有序性,所以Kafka使用多分區的概念,并且只保證單分區有序

  • 如果想要實現消息的全局有序

    • 單分區策略:

      一個主題下只創建一個分區,一個消費者只消費一個分區,但這樣做毫無并發性可言,極大降低系統性能

    • 基于 key 的消息分配策略:

      由于相同的 key 就發送到同一分區,這樣就能夠保證了消費的消息是有序的。然而,如果只有一個消費者消費相同 key 的消息,與前面單分區相比沒有什么區別

總結

以上是生活随笔為你收集整理的Kafka 如何保证消息消费的全局顺序性的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。