storm搭建

来源:https://www.cnblogs.com/asura7969/archive/2018/01/19/8318985.html
-Advertisement-
Play Games

Storm安裝 1、啟動zookeeper集群 2、上傳解壓storm包 3、進入解壓包,配置conf目錄下的storm.yaml文件 a) 這裡配置zookeeper節點,可以用ip或者功能變數名稱 b) 配置nimbus.host作為主節點名 1、將解壓的storm包分發到各個節點 2、scp -r a ...


 

Storm安裝

1、啟動zookeeper集群

2、上傳解壓storm

3、進入解壓包配置conf目錄下的storm.yaml文件

a) 這裡配置zookeeper節點,可以用ip或者功能變數名稱

 

b) 配置nimbus.host作為主節點名

 

1、將解壓的storm包分發到各個節點

2、scp -r apache-storm-0.9.4 root@slave2:/opt/sxt/soft/

3、進去安裝目錄新建一個log目錄

4、啟動

a) 啟動nimbus,./bin/storm nimbus >> logs/nimbus.out 2>&1 &

b) 在各個從節點啟動supervisor,./bin/storm supervisor >> logs/supervisor.out 2>&1 &

c) 啟動storm ui ,./bin/storm ui >> logs/ui.out 2>&1 &

訪問主節點的8080埠能看到界面

 

Storm的配置文件各個選項及釋義

配置選項名稱

配置選項作用

topology.max.task.parallelism

每個Topology運行時最大的executor數目

topology.workers

每個Topology運行時的worker的預設數目,若在代碼中設置,則此選項值被覆蓋

storm.zookeeper.servers

zookeeper集群的節點列表

storm.local.dir

Storm用於存儲jar包和臨時文件的本地存儲目錄

storm.zookeeper.root

Stormzookeeper集群中的根目錄,預設是“/”

ui.port

Storm集群的UI地址埠號,預設是8080

nimbus.host:

Nimbus節點的host

supervisor.slots.ports

Supervisor節點的worker占位槽,集群中的所有Topology公用這些槽位數,即使提交時設置了較大數值的槽位數,系統也會按照當前集群中實際剩餘的槽位數來進行分配,當所有的槽位數都分配完時,新提交的Topology只能等待,系統會一直監測是否有空餘的槽位空出來,如果有,就再次給新提交的Topology分配

supervisor.worker.timeout.secs

Worker的超時時間,單位為秒,超時後,Storm認為當前worker進程死掉,會重新分配其運行著的task任務

drpc.servers

在使用drpc服務時,drpc server的伺服器列表

drpc.port

在使用drpc服務時,drpc server的服務埠

Storm分組策略

(1)ShuffleGrouping:隨機分組,隨機分發Stream中的tuple,保證每個Bolt的Task接收Tuple數量大致一致;
(2)FieldsGrouping:按照欄位分組,保證相同欄位的Tuple分配到同一個Task中;
(3)AllGrouping:廣播發送,每一個Task都會受到所有的Tuple;
(4)GlobalGrouping:全局分組,所有的Tuple都發送到同一個Task中,此時一般將當前Component的併發數目設置為1;
(5)NonGrouping:不分組,和ShuffleGrouping類似,當前Task的執行會和它的被訂閱者在同一個線程中執行;
(6)DirectGrouping:直接分組,直接指定由某個Task來執行Tuple的處理,而且,此時必須有emitDirect方法來發送;
(7)localOrShuffleGrouping:和ShuffleGrouping類似,若Bolt有多個Task在同一個進程中,Tuple會隨機發給這些Task。

 

 

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • #################匿名許可權控制############### anonymous_enable=YES #是否啟用匿名用戶no_anon_password=YES #匿名用戶login時不詢問口令下麵這四個主要語句控制這文件和文件夾的上傳、下載、創建、刪除和重命名。anon_uplo ...
  • Vi Vim進入編輯後退出 ...
  • linux連接mysql /usr/local/mysql/bin/mysql -uroot -p 輸入密碼出現Access denied for user 'root'@'localhost'(using password: YES)錯誤。 解決辦法: 1.先停止mysql 服務 2.進入mysq ...
  • 一:到mysql官網下載最新的mysql包 mysql-5.7.21-linux-glibc2.12-x86_64 https://dev.mysql.com/downloads/mysql/ 二:在linux /usr/local/中解壓mysql壓縮包 改名為mysql 三:創建用戶組mysql ...
  • 在上一章,裁剪uboot以及分區後,本章主要使uboot支持yaffs以及製作補丁 1. 修改uboot支持yaffs 首先,每個命令都會對應一個文件,比如nand命令對應的common/cmd_nand.c 而我們使用nand命令時,便會進入do_nand()函數,位於common/cmd_nan ...
  • 天蒼蒼,野茫茫,終於把oracle安裝成功了,來來訪問下資料庫,訪問失敗,咋回事,這是個啥錯誤 心裡是不是在怨恨,小編你耍我呢。no,no,no,小編如此善良的人怎麼會坑人呢,下麵小編就來講講安裝以後的步驟。 首先如果需要別人訪問你的資料庫,你要配置以下信息,還記得上一篇小編讓你記住oracle數據 ...
  • hadoop的核心組件:hdfs(分散式文件系統)、mapreduce(分散式計算框架)、Hive(基於hadoop的數據倉庫)、HBase(分散式列存資料庫)、Zookeeper(分散式協作服務)、Sqoop(數據同步工具)和Flume(日誌手機工具) hdfs(分散式文件系統): 由client ...
  • 事務是一個程式執行單元,它訪問且可能更新不同的數據項。事務對於實現資料庫中的數據更新是很關鍵的,只有這樣才能保證併發執行與各種故障不會導致資料庫處於不一致狀態。一、事務具有ACID特性:即原子性、一致性、隔離性和持久性原子性保證事務的所有影響在資料庫中要麼全部反映出來,要麼根本不反映。發生故障後數據 ...
一周排行
    -Advertisement-
    Play Games
  • 1. 說明 /* Performs operations on System.String instances that contain file or directory path information. These operations are performed in a cross-pla ...
  • 視頻地址:【WebApi+Vue3從0到1搭建《許可權管理系統》系列視頻:搭建JWT系統鑒權-嗶哩嗶哩】 https://b23.tv/R6cOcDO qq群:801913255 一、在appsettings.json中設置鑒權屬性 /*jwt鑒權*/ "JwtSetting": { "Issuer" ...
  • 引言 集成測試可在包含應用支持基礎結構(如資料庫、文件系統和網路)的級別上確保應用組件功能正常。 ASP.NET Core 通過將單元測試框架與測試 Web 主機和記憶體中測試伺服器結合使用來支持集成測試。 簡介 集成測試與單元測試相比,能夠在更廣泛的級別上評估應用的組件,確認多個組件一起工作以生成預 ...
  • 在.NET Emit編程中,我們探討了運算操作指令的重要性和應用。這些指令包括各種數學運算、位操作和比較操作,能夠在動態生成的代碼中實現對數據的處理和操作。通過這些指令,開發人員可以靈活地進行算術運算、邏輯運算和比較操作,從而實現各種複雜的演算法和邏輯......本篇之後,將進入第七部分:實戰項目 ...
  • 前言 多表頭表格是一個常見的業務需求,然而WPF中卻沒有預設實現這個功能,得益於WPF強大的控制項模板設計,我們可以通過修改控制項模板的方式自己實現它。 一、需求分析 下圖為一個典型的統計表格,統計1-12月的數據。 此時我們有一個需求,需要將月份按季度劃分,以便能夠直觀地看到季度統計數據,以下為該需求 ...
  • 如何將 ASP.NET Core MVC 項目的視圖分離到另一個項目 在當下這個年代 SPA 已是主流,人們早已忘記了 MVC 以及 Razor 的故事。但是在某些場景下 SSR 還是有意想不到效果。比如某些靜態頁面,比如追求首屏載入速度的時候。最近在項目中回歸傳統效果還是不錯。 有的時候我們希望將 ...
  • System.AggregateException: 發生一個或多個錯誤。 > Microsoft.WebTools.Shared.Exceptions.WebToolsException: 生成失敗。檢查輸出視窗瞭解更多詳細信息。 內部異常堆棧跟蹤的結尾 > (內部異常 #0) Microsoft ...
  • 引言 在上一章節我們實戰了在Asp.Net Core中的項目實戰,這一章節講解一下如何測試Asp.Net Core的中間件。 TestServer 還記得我們在集成測試中提供的TestServer嗎? TestServer 是由 Microsoft.AspNetCore.TestHost 包提供的。 ...
  • 在發現結果為真的WHEN子句時,CASE表達式的真假值判斷會終止,剩餘的WHEN子句會被忽略: CASE WHEN col_1 IN ('a', 'b') THEN '第一' WHEN col_1 IN ('a') THEN '第二' ELSE '其他' END 註意: 統一各分支返回的數據類型. ...
  • 在C#編程世界中,語法的精妙之處往往體現在那些看似微小卻極具影響力的符號與結構之中。其中,“_ =” 這一組合突然出現還真不知道什麼意思。本文將深入剖析“_ =” 的含義、工作原理及其在實際編程中的廣泛應用,揭示其作為C#語法奇兵的重要角色。 一、下劃線 _:神秘的棄元符號 下劃線 _ 在C#中並非 ...