Kafka Connect 是一個(gè)可以在Kafka與其他系統(tǒng)之間提供可靠的、易于擴(kuò)展的數(shù)據(jù)流處理工具。使用它能夠使得數(shù)據(jù)進(jìn)出Kafka變得很簡(jiǎn)單。Kafka Connect有如下特性:
·是一個(gè)通用的構(gòu)造kafka connector的框架
·有單機(jī)、分布式兩種模式。開發(fā)時(shí)建議使用單機(jī)模式,生產(chǎn)環(huán)境下使用分布式模式。
·提供restful的管理connector的API。
·自動(dòng)化的offset管理。Kafka Connect自動(dòng)的管理offset提交。
·分布式、可擴(kuò)展。采用與concumer group中對(duì)partition rebalance同樣的機(jī)制來(lái)管理在worker group中的connector、task。
·流/批處理的集成。
接下來(lái)會(huì)對(duì)Kafka Connect做一個(gè)全面的分析,來(lái)幫助了解上述特性。
- 1、Kafka Connect 組件說(shuō)明
- 2、Rebalance
-
延伸閱讀
- ssh框架 2016-09-30
- 阿里移動(dòng)安全 [無(wú)線安全]玩轉(zhuǎn)無(wú)線電——不安全的藍(lán)牙鎖 2017-07-26
- 消息隊(duì)列NetMQ 原理分析4-Socket、Session、Option和Pipe 2024-03-26
- Selective Search for Object Recognition 論文筆記【圖片目標(biāo)分割】 2017-07-26
- 詞向量-LRWE模型-更好地識(shí)別反義詞同義詞 2017-07-26
- 從棧不平衡問(wèn)題 理解 calling convention 2017-07-26
- php imagemagick 處理 圖片剪切、壓縮、合并、插入文本、背景色透明 2017-07-26
- Swift實(shí)現(xiàn)JSON轉(zhuǎn)Model - HandyJSON使用講解 2017-07-26
- 阿里移動(dòng)安全 Android端惡意鎖屏勒索應(yīng)用分析 2017-07-26
- 集合結(jié)合數(shù)據(jù)結(jié)構(gòu)來(lái)看看(二) 2017-07-26