Flink从入门到精通100篇(四)-基于 Flink 和 Drools 的实时日志处理
生活随笔
收集整理的這篇文章主要介紹了
Flink从入门到精通100篇(四)-基于 Flink 和 Drools 的实时日志处理
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
背景
日志系統接入的日志種類多、格式復雜多樣,主流的有以下幾種日志:
-
filebeat采集到的文本日志,格式多樣
-
winbeat采集到的操作系統日志
-
設備上報到logstash的syslog日志
-
接入到kafka的業務日志
以上通過各種渠道接入的日志,存在2個主要的問題:
-
格式不統一、不規范、標準化不夠
-
如何從各類日志中提取出用戶關心的指標,挖掘更多的業務價值
為了解決上面2個問題,我們基于flink和drools規則引擎做了實時的日志處理服務。
系統架構
架構比較簡單,架構圖如下:
各類日志都是通過kafka匯總,做日志中轉。
flink消費kafka的數據,同時通過API調用拉取drools規則引擎&#
總結
以上是生活随笔為你收集整理的Flink从入门到精通100篇(四)-基于 Flink 和 Drools 的实时日志处理的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 用Tableau画幂函数柱状图
- 下一篇: 用Tableau画3D模型之二(提高篇)