亚洲视频二区_亚洲欧洲日本天天堂在线观看_日韩一区二区在线观看_中文字幕不卡一区

公告:魔扣目錄網為廣大站長提供免費收錄網站服務,提交前請做好本站友鏈:【 網站目錄:http://www.430618.com 】, 免友鏈快審服務(50元/站),

點擊這里在線咨詢客服
新站提交
  • 網站:51998
  • 待審:31
  • 小程序:12
  • 文章:1030137
  • 會員:747

Flink是什么?

Flink是一個框架,是一個用于有限(bounded)或者無限(unbounded)數據流上進行有狀態計算的分布式處理引擎。

處理框架

漫談Flink

Flink的軟件棧如圖一所示,其核心是distributed dataflow engine用于執行數據流處理程序。Flink運行時程序是一個通過有狀態的算子連接的數據流的有向無環圖(DAG),對上提供有限數據流的DataSet API和無限數據流的DataStream API。

漫談Flink

如圖二所示,Flink集群包含三類角色,client、JobManager和TaskManager。client將數據處理程序轉換為DAG圖并提交到JobManager。JobManager協調程序的執行,并跟蹤每一個算子的狀態以實現故障恢復。TaskManager從JobManager處接收需要部署的Task,負責具體數據處理程序的執行,一個TaskManager執行一個或者多個算子處理數據流,并將狀態上報至JobManager。

這里的算子就是一個獨立數據處理程序,常用的有map、flatmap、keyBY、sum、Apply、reduce、window等。其中,map和flatMap的區別是map是一對一的映射,既一個輸入對應一個輸出。faltMap是一對多映射,一個輸入對應0個或者多個輸出。

通過上述論述,Flink程序的實質就是用多個算子組合在一起形成一個有向無環圖,理解了這一點flink的程序就不難理解了。下面有個簡單的例子:

簡單示例

漫談Flink

Time

在Flink中定義了三種時間概念,分別是Event Time,Ingestion Time和Processing Time。

Processing Time顧名思義就是處理收到事件的系統時間,由于它不需要要數據流和處理機器間的時間協調,所以具備最低的延遲。但是,在分布式和異步的環境下,Processing Time不能提供確定性,因為它容易受到事件到達Flink系統的速度、事件在Flink系統內操作流動的速度以及中斷的影響。

Event Time是事件發生時間,一般指的是數據本身攜帶的時間戳。Event Time 程序必須指定如何生成 Event Time 水印,這是表示 Event Time 進度的機制。理想的情況是,無論事件什么時候到達或者其怎么排序,最后處理Event Time將產生完全一致和確定的結果。但是,實際上除非事件按照已知順序(按照事件的時間)到達,否則處理 Event Time 時將會因為要等待一些無序事件而產生延遲。由于Flink程序只能等待一段有限的時間,因此就難以保證處理Event Time將產生完全一致和確定的結果。

Ingestion Time是事件進入flink系統的時間。Ingestion Time 程序無法處理任何無序事件或延遲數據,但程序不必指定如何生成水印。在 Flink 中,Ingestion Time 與 Event Time 非常相似,但 Ingestion Time 具有自動分配時間戳和自動生成水印功能。

三個時間之間的關系通過一張圖可以形象的顯示出來:

漫談Flink

參考

Apache Flink: Stream and Batch Processing in a Single Engine

https://ci.apache.org/projects/flink/flink-docs-stable/dev/event_time.html

https://segmentfault.com/a/1190000017874211

分享到:
標簽:Flink
用戶無頭像

網友整理

注冊時間:

網站:5 個   小程序:0 個  文章:12 篇

  • 51998

    網站

  • 12

    小程序

  • 1030137

    文章

  • 747

    會員

趕快注冊賬號,推廣您的網站吧!
最新入駐小程序

數獨大挑戰2018-06-03

數獨一種數學游戲,玩家需要根據9

答題星2018-06-03

您可以通過答題星輕松地創建試卷

全階人生考試2018-06-03

各種考試題,題庫,初中,高中,大學四六

運動步數有氧達人2018-06-03

記錄運動步數,積累氧氣值。還可偷

每日養生app2018-06-03

每日養生,天天健康

體育訓練成績評定2018-06-03

通用課目體育訓練成績評定