Knative 实战:基于阿里云 Kafka 实现消息推送
在 Knative 中已經提供了對 Kafka 事件源的支持,那么如何在阿里云上基于 Kafka 實現消息推送,本文給大家解鎖這一新的姿勢。
背景
消息隊列 for Apache Kafka 是阿里云提供的分布式、高吞吐、可擴展的消息隊列服務。消息隊列 for Apache Kafka 廣泛用于日志收集、監控數據聚合、流式數據處理、在線和離線分析等大數據領域,已成為大數據生態中不可或缺的部分。
另外 Knative 中提供了KafkaSource事件源的支持,通過這個事件源可以方便的對接 Kafka 消息服務。
在阿里云上創建 Kafka 實例
創建 Kafka 實例
登錄消息隊列Kafka控制臺, 選擇【購買實例】。由于當前Knative中Kafka事件源支持2.0.0及以上版本,在阿里云上創建 Kafka 實例需要選擇包年包月、專業版本進行購買,購買之后升級到 2.0.0 即可。
部署實例并綁定 VPC
購買完成之后,進行部署,部署時設置 Knative 集群所在的 VPC 即可:
創建 Topic 和 Consumer Group
接下來我們創建 Topic 和消費組。
進入【Topic 管理】,點擊創建Topic, 這里我們創建名稱為demo的topic:
進入【Consumer Group 管理】,點擊創建 Consumer Group, 這里我們創建名稱為demo-consumer的消費組:
部署 Kafka 數據源
部署 Kafka addon 組件
登錄容器服務控制臺,進入【Knative 組件管理】,部署 Kafka addon 組件。
創建 KafkaSource 實例
首先創建用于接收事件的服務 event-display:
apiVersion: serving.knative.dev/v1 kind: Service metadata:name: event-display spec:template:spec:containers:- image: registry.cn-hangzhou.aliyuncs.com/knative-sample/eventing-sources-cmd-event_display:bf45b3eb1e7fc4cb63d6a5a6416cf696295484a7662e0cf9ccdf5c080542c21d接下來創建KafkaSource
apiVersion: sources.eventing.knative.dev/v1alpha1 kind: KafkaSource metadata:name: alikafka-source spec:consumerGroup: demo-consumer# Broker URL. Replace this with the URLs for your kafka cluster,# which is in the format of my-cluster-kafka-bootstrap.my-kafka-namespace:9092.bootstrapServers: 192.168.0.6x:9092,192.168.0.7x:9092,192.168.0.8x:9092topics: demosink:apiVersion: serving.knative.dev/v1alpha1kind: Servicename: event-display說明:
- bootstrapServers: Kafka VPC訪問地址
- consumerGroup: 設置消費組
- topics:設置Topic
創建完成之后,我們可以查看對應的實例已經運行:
[root@iZ2zeae8wzyq0ypgjowzq2Z ~]# kubectl get pods NAME READY STATUS RESTARTS AGE alikafka-source-k22vz-db44cc7f8-879pj 1/1 Running 0 8h驗證
在Kafka 控制臺,選擇 topic 發送消息,注意這里的消息格式必須是 json:
我們可以看到已經接收到了發送過來的 Kafka 消息:
[root@iZ2zeae8wzyq0ypgjowzq2Z ~]# kubectl logs event-display-zl6m5-deployment-6bf9596b4f-8psx4 user-container? CloudEvent: valid Context Attributes,SpecVersion: 0.2Type: dev.knative.kafka.eventSource: /apis/v1/namespaces/default/kafkasources/alikafka-source#demoID: partition:7/offset:1Time: 2019-10-18T08:50:32.492ZContentType: application/jsonExtensions: key: demo Transport Context,URI: /Host: event-display.default.svc.cluster.localMethod: POST Data,{"key": "test"}
原文鏈接
本文為云棲社區原創內容,未經允許不得轉載。
總結
以上是生活随笔為你收集整理的Knative 实战:基于阿里云 Kafka 实现消息推送的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Serverless 实战 —— 快速搭
- 下一篇: 阿里云高级技术专家张毅萍:我眼中的边缘计