亚洲视频二区_亚洲欧洲日本天天堂在线观看_日韩一区二区在线观看_中文字幕不卡一区

公告:魔扣目錄網為廣大站長提供免費收錄網站服務,提交前請做好本站友鏈:【 網站目錄:http://www.430618.com 】, 免友鏈快審服務(50元/站),

點擊這里在線咨詢客服
新站提交
  • 網站:51998
  • 待審:31
  • 小程序:12
  • 文章:1030137
  • 會員:747

在hive任務中number of reducers的探討

 

關于在hive任務中number of reducers的探討

1.在默認情況下(set mapreduce.job.reduces=-1),實際運行計算過程中reducer的數量會由所讀取文件的大小來決定。文件默認大小是256M,即每256M對應一個reduce。比如當文件大小為1G時,會啟用4個reducer處理數據;當文件大小為400M時,會啟用2個reducer來處理。

2.在進行分區或者sort by 操作時,需要設置mapreduce.job.reduces的數量,此時實際啟用的reducer的個數等于設置值。

3.1 在進行分桶操作的情況下,當 set mapreduce.job.reduces=-1或0時,此時實際啟用rediucer的數量會等于桶的個數i。

3.2在進行分桶操作的情況下,當桶的個數是i時,并且0< set mapreduce.job.reduces<=i時,啟用reducer的數量正好是i的因數。在i相鄰的兩個因數之間,啟用reducer的個數是不變的。詳見下表:

當i為偶數時:

在hive任務中number of reducers的探討

 

當i為奇數時:

在hive任務中number of reducers的探討

 

了解更多大數據相關技術內容歡迎關注尚硅谷教育!

分享到:
標簽:hive
用戶無頭像

網友整理

注冊時間:

網站:5 個   小程序:0 個  文章:12 篇

  • 51998

    網站

  • 12

    小程序

  • 1030137

    文章

  • 747

    會員

趕快注冊賬號,推廣您的網站吧!
最新入駐小程序

數獨大挑戰2018-06-03

數獨一種數學游戲,玩家需要根據9

答題星2018-06-03

您可以通過答題星輕松地創建試卷

全階人生考試2018-06-03

各種考試題,題庫,初中,高中,大學四六

運動步數有氧達人2018-06-03

記錄運動步數,積累氧氣值。還可偷

每日養生app2018-06-03

每日養生,天天健康

體育訓練成績評定2018-06-03

通用課目體育訓練成績評定