日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

kafka遇到的坑

發布時間:2023/12/20 编程问答 31 豆豆
生活随笔 收集整理的這篇文章主要介紹了 kafka遇到的坑 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

文章目錄

      • 一、kafka_2.11-0.11.0.2版本中advertised.listeners參數導致的大坑:
      • 二、offset is out of range
      • 三、java.lang.IllegalStateException: No current assignment for partition djt_db.hehe.result-0

一、kafka_2.11-0.11.0.2版本中advertised.listeners參數導致的大坑:

場景:在我們自己的服務器上安裝好單機kafka_2.11-0.11.0.2后,讓另一家公司往我們的kafka的topic上推數,因為我們兩家的的Linux服務器都是在云上,所以需要做網絡映射讓他們的服務器能夠訪問我們的服務器,能ping通也能Telnet端口9092。但是那家公司死活把數推不過來。總是報這么個錯:The ExecutionException occured : {}.
解決:修改我們服務器上kafka的config/server.properties文件advertised.listeners參數,后重啟kakfa修改的才會生效

正確的配置:advertised.listeners=PLAINTEXT://kafkahost:9092
以前導致以上報錯的配置:advertised.listeners=PLAINTEXT://我方內網實際IP:9092
在我方的Linux服務器上的/etc/hosts文件下添加一行:
我方內網實際IP kafkahost
在那家公司的Linux服務器上的/etc/hosts文件中添加一行:
我方映射給這家公司的IP kafkahost
做完以上操作后在代碼里寫bootstrapServers, "kafkahost:9092"或者bootstrapServers, "我方映射給這家公司的IP:9092"都可以運行成功
???

二、offset is out of range

當手動設置從指定的偏移量消費數據的時候,有時候指定的偏移量超出范圍會報這個錯:

2020-03-31 12:34:13.394 INFO 94001 --- [ConsumerExample] o.a.k.c.consumer.internals.Fetcher : Fetch offset 228668 is out of range for partition weishiDataOGG_append-0, resetting offset

注意:在實際使用中發現這么個問題,那就是kafka中topic中的數據在設置的存儲天數到期后數據會被刪除,一開始我們的topic中有10萬條數據,后來時間到期后數據自動被刪除了,我就又重新生產了10萬條數據,本以為第二次生產的數據的offset也是從0開始的,于是我就在代碼中設置從offset為0L的地方開始消費,但是一直循環報錯:Fetch offset 0 is out of range for partition weishiDataOGG_append-0, resetting offset,后來才發現第二次生產的數據的offset并不是從0開始的,而是在以前的基礎上累加的,后來在代碼中將offset設置成了99999L就不報那個錯了。
???

三、java.lang.IllegalStateException: No current assignment for partition djt_db.hehe.result-0

??我用sparkstream連接的kafka,手動提交偏移量,保存到zk中,我的分區0消費到保存到zk中是20了,但是kafka中偏移量被另一個程序修改為起止是21了,所以消費不到報了個這個錯誤:

總結

以上是生活随笔為你收集整理的kafka遇到的坑的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。