Hadoop2.7.7 centos7 完全分散式 配置與問題隨記

来源:https://www.cnblogs.com/G-Aurora/archive/2020/07/04/13235764.html
-Advertisement-
Play Games

Hadoop2.7.7 centos7 完全分散式 配置與問題隨記 這裡是當初在三個ECS節點上搭建hadoop+zookeeper+hbase+solr的主要步驟,文章內容未經過潤色,請參考的同學搭配其他博客一同使用,並記得根據實際情況調整相關參數。 0.prepare jdk,推薦1.8 關閉防 ...


Hadoop2.7.7 centos7 完全分散式 配置與問題隨記

這裡是當初在三個ECS節點上搭建hadoop+zookeeper+hbase+solr的主要步驟,文章內容未經過潤色,請參考的同學搭配其他博客一同使用,並記得根據實際情況調整相關參數。

 

0.prepare

jdk,推薦1.8

關閉防火牆

開放ECS安全組

 三台機器之間的免密登陸ssh

ip映射:【question1】hadoop啟動時出現報錯java.net.BindException: Cannot assign requested address

說明ip映射沒有配置正確,正確的方式是在每一個節點上,都執行"內外外"的配置方式,即將本機與本機的內網ip對應,其他機器設置為外網ip

下麵的文件要在每個節點上都修改

 

1. vi /etc/profile

1. vi /etc/profile
/opt/hadoop/hadoop-2.7.7

export HADOOP_HOME=/opt/hadoop/hadoop-2.7.7 
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
export HADOOP_OPTS="-Djava.library.path=$HADOOP_HOME/lib"
export PATH=.:${JAVA_HOME}/bin:${HADOOP_HOME}/bin:$PATH

#使環境變數生效
souce /etc/profile
#檢驗
hadoop version

 

2. vi /.../hadoop-2.7.7/etc/hadoop/core-site.xml

<configuration>

<property>
	<name>fs.defaultFS</name>
		<value>hdfs://Gwj:8020</value>
	<description>定義預設的文件系統主機和埠</description>
</property>

<property>
	<name>io.file.buffer.size</name>
		<value>4096</value>
	<description>流文件的緩衝區為4K</description>
</property>

<property>
	<name>hadoop.tmp.dir</name>
		<value>file:/opt/hadoop/hadoop-2.7.7/tempdata</value>
	<description>A base for other temporary directories.</description>
</property>

</configuration>

 

3. vi /.../hadoop-2.7.7/etc/hadoop/hdfs-site.xml

<configuration>

    <property>
        <name>dfs.replication</name>
        <value>2</value>
    </property>
	
    <property>
        <name>dfs.namenode.name.dir</name>
        <value>/opt/hadoop/hadoop-2.7.7/dfs/name</value>
    </property>
	
    <property>
        <name>dfs.datanode.data.dir</name>
        <value>/opt/hadoop/hadoop-2.7.7/dfs/data</value>
    </property>

    <property>
        <name>dfs.webhdfs.enabled</name>
        <value>true</value>
    </property>
	
    <!--後增,如果想讓solr索引存放到hdfs中,則還須添加下麵兩個屬性-->
        <property>
            <name>dfs.webhdfs.enabled</name>
            <value>true</value>
        </property>
        <property>
            <name>dfs.permissions.enabled</name>
            <value>false</value>
        </property>
        
        <!--【question2】SecondayNameNode預設與NameNode在同一臺節點上,在實際生產過程中有安全隱患。解決方法:加入如下配置信息,指定NameNode和SecondaryNameNode節點位置-->
    	<property>
        	<name>dfs.http.address</name>
        	<value>Gwj:50070</value>
    	</property>
	
    	<property>
        	<name>dfs.namenode.secondary.http-address</name>
        	<value>Ssj:50090</value>
    	</property>
</configuration>

 

4. vi /.../hadoop-2.7.7/etc/hadoop/mapred-site.xml

<configuration>

    <property>
        <name>mapreduce.framework.name</name>
        <value>local</value>
    </property>
    
    <!-- 指定mapreduce jobhistory地址 -->
    <property>
        <name>mapreduce.jobhistory.address</name>
        <value>0.0.0.0:10020</value>
    </property>
    
    <!-- 任務歷史伺服器的web地址 -->
    <property>
        <name>mapreduce.jobhistory.webapp.address</name>
        <value>0.0.0.0:19888</value>
    </property>
	
</configuration>

 

5. vi /.../hadoop-2.7.7/etc/hadoop/yarn-site.xml

<configuration>
	
	<property>
        <name>yarn.resourcemanager.hostname</name>
        <value>Gwj</value>
        <description>指定resourcemanager所在的hostname</description>
	</property>
	
	<property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
        <description>NodeManager上運行的附屬服務。需配置成mapreduce_shuffle,才可運行MapReduce程式 </description>
	</property>

</configuration>

 

6.vi /.../hadoop-2.7.7/etc/hadoop/slaves

老版本是slaves文件,3.0.3 用 workers 文件代替 slaves 文件

將localhost刪掉,加入dataNode節點的主機名
[root@Gwj ~]# cat /opt/hadoop/hadoop-2.7.7/etc/hadoop/slaves 
Ssj
Pyf

 

7.首次使用進行格式化

hdfs namenode -format

 

8.啟動

/.../hadoop-2.7.7/sbin/start/start-all.sh
	
	hdfs
		/.../hadoop-2.7.7/sbin/start/start-dfs.sh
		
	Yarn
		/.../hadoop-2.7.7/sbin/start/start-yarn.sh
		
#start可替換為stop、status

 

9.檢驗

使用jps檢驗
hadoop
	hdfs
		Master---NameNode (SecondaryNameNode)
		Slave---DataNode
	Yarn
		Master---ResourceManager 
		Slave---NodeManager

或者使用 “Master ip+50070”

 

---以下的yarn未設置,註意<configuration>!!!

	<property>
        <name>yarn.resourcemanager.address</name>
        <value>${yarn.resourcemanager.hostname}:8032</value>
	</property>
	
	<property>
        <description>The address of the scheduler interface.</description>
        <name>yarn.resourcemanager.scheduler.address</name>
        <value>${yarn.resourcemanager.hostname}:8030</value>
	</property>
	
	<property>
        <description>The http address of the RM web application.</description>
        <name>yarn.resourcemanager.webapp.address</name>
        <value>${yarn.resourcemanager.hostname}:8088</value>
	</property>
	
	<property>
        <description>The https adddress of the RM web application.</description>
        <name>yarn.resourcemanager.webapp.https.address</name>
        <value>${yarn.resourcemanager.hostname}:8090</value>
	</property>
	
	<property>
        <name>yarn.resourcemanager.resource-tracker.address</name>
        <value>${yarn.resourcemanager.hostname}:8031</value>
	</property>
	
	<property>
        <description>The address of the RM admin interface.</description>
        <name>yarn.resourcemanager.admin.address</name>
        <value>${yarn.resourcemanager.hostname}:8033</value>
	</property>
	
	<property>
        <name>yarn.scheduler.maximum-allocation-mb</name>
        <value>2048</value>
        <discription>每個節點可用記憶體,單位MB,預設8182MB,根據阿裡雲ECS性能配置為2048MB</discription>
	</property>

	<property>
        <name>yarn.nodemanager.vmem-pmem-ratio</name>
        <value>2.1</value>
	</property>
	
	<property>
        <name>yarn.nodemanager.resource.memory-mb</name>
        <value>2048</value>
	</property>
	
	<property>
        <name>yarn.nodemanager.vmem-check-enabled</name>
        <value>false</value>
	</property>

</configuration>

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 在i.MXRT所有Flash下載演算法里,痞子衡認為Segger J-Link版的Flash下載演算法是最應該掌握的,畢竟Segger提供了完善的軟體工具支持(Jlink commander、J-Flash、Ozone),既可獨立使用,也可嵌入其他MCU開發環境中使用(實際上它與Keil演算法文件是相容的... ...
  • 最近發現了一個好玩,有趣的終端連接工具mobaxterm。Linux下有很多終端工具例如CRT,Xshell,但小伙伴就有疑問問什麼要用mobaxterm, 主要是mobaxterm是開源的免費的(其他都是收費的)。 廢話不多說我們立即進入正題。 下載與安裝。 0.打開你的瀏覽器:用CV大法進入官網 ...
  • 冒泡排序: 演算法重覆走訪要排序的數列,一次比較兩個元素,如果它們順序錯誤就交換它們的位置,這樣最大的數就到了最後,重覆操作即可得到有序數列。 冒泡排序演算法運行: 1. 比較相鄰的元素。如果第一個比第二個大,就交換他們兩個。 2. 對每一對相鄰元素作同樣的工作,從開始第一對到結尾的最後一對。在這一點, ...
  • 以下內容,來自網路資料整理和個人安裝使用結果。後續會持續更新 ...
  • 由於一些原因,我重新安裝了系統並把之前的鏡像與虛擬機刪除了,現在又全新安裝一次CenOS6.7,順便查缺補漏,帶領各位讀者一起安裝。 (本文適合小白/新人,大佬們請忽略),帶有可選步驟的可以忽略,1-20是VMware軟體的設置,系統的安裝從21-45條開始,剩餘部分是後續配置建議。如發現問題或有疑 ...
  • ver: 1.0 博客:https://www.cnblogs.com/Rohn 本文介紹了Shell常用的結構化語句。 數組 數組(Array)是若幹數據的集合,其中的每一份數據都稱為元素(Element)。 Bash只支持一維數組(不支持多維數組),初始化時不需要定義數組大小,理論上可以存放無限 ...
  • hbase2.1.9 centos7 完全分散式 搭建隨記 這裡是當初在三個ECS節點上搭建hadoop+zookeeper+hbase+solr的主要步驟,文章內容未經過潤色,請參考的同學搭配其他博客一同使用,並記得根據實際情況調整相關參數 1. 指定位置解壓 2. vi /etc/profile ...
  • zookeeper3.5.5 centos7 完全分散式 搭建隨記 這裡是當初在三個ECS節點上搭建hadoop+zookeeper+hbase+solr的主要步驟,文章內容未經過潤色,請參考的同學搭配其他博客一同使用,並記得根據實際情況調整相關參數 0.prepare 準備奇數台已經配置好jdk的 ...
一周排行
    -Advertisement-
    Play Games
  • 基於.NET Framework 4.8 開發的深度學習模型部署測試平臺,提供了YOLO框架的主流系列模型,包括YOLOv8~v9,以及其系列下的Det、Seg、Pose、Obb、Cls等應用場景,同時支持圖像與視頻檢測。模型部署引擎使用的是OpenVINO™、TensorRT、ONNX runti... ...
  • 十年沉澱,重啟開發之路 十年前,我沉浸在開發的海洋中,每日與代碼為伍,與演算法共舞。那時的我,滿懷激情,對技術的追求近乎狂熱。然而,隨著歲月的流逝,生活的忙碌逐漸占據了我的大部分時間,讓我無暇顧及技術的沉澱與積累。 十年間,我經歷了職業生涯的起伏和變遷。從初出茅廬的菜鳥到逐漸嶄露頭角的開發者,我見證了 ...
  • C# 是一種簡單、現代、面向對象和類型安全的編程語言。.NET 是由 Microsoft 創建的開發平臺,平臺包含了語言規範、工具、運行,支持開發各種應用,如Web、移動、桌面等。.NET框架有多個實現,如.NET Framework、.NET Core(及後續的.NET 5+版本),以及社區版本M... ...
  • 前言 本文介紹瞭如何使用三菱提供的MX Component插件實現對三菱PLC軟元件數據的讀寫,記錄了使用電腦模擬,模擬PLC,直至完成測試的詳細流程,並重點介紹了在這個過程中的易錯點,供參考。 用到的軟體: 1. PLC開發編程環境GX Works2,GX Works2下載鏈接 https:// ...
  • 前言 整理這個官方翻譯的系列,原因是網上大部分的 tomcat 版本比較舊,此版本為 v11 最新的版本。 開源項目 從零手寫實現 tomcat minicat 別稱【嗅虎】心有猛虎,輕嗅薔薇。 系列文章 web server apache tomcat11-01-官方文檔入門介紹 web serv ...
  • 1、jQuery介紹 jQuery是什麼 jQuery是一個快速、簡潔的JavaScript框架,是繼Prototype之後又一個優秀的JavaScript代碼庫(或JavaScript框架)。jQuery設計的宗旨是“write Less,Do More”,即倡導寫更少的代碼,做更多的事情。它封裝 ...
  • 前言 之前的文章把js引擎(aardio封裝庫) 微軟開源的js引擎(ChakraCore))寫好了,這篇文章整點js代碼來測一下bug。測試網站:https://fanyi.youdao.com/index.html#/ 逆向思路 逆向思路可以看有道翻譯js逆向(MD5加密,AES加密)附完整源碼 ...
  • 引言 現代的操作系統(Windows,Linux,Mac OS)等都可以同時打開多個軟體(任務),這些軟體在我們的感知上是同時運行的,例如我們可以一邊瀏覽網頁,一邊聽音樂。而CPU執行代碼同一時間只能執行一條,但即使我們的電腦是單核CPU也可以同時運行多個任務,如下圖所示,這是因為我們的 CPU 的 ...
  • 掌握使用Python進行文本英文統計的基本方法,並瞭解如何進一步優化和擴展這些方法,以應對更複雜的文本分析任務。 ...
  • 背景 Redis多數據源常見的場景: 分區數據處理:當數據量增長時,單個Redis實例可能無法處理所有的數據。通過使用多個Redis數據源,可以將數據分區存儲在不同的實例中,使得數據處理更加高效。 多租戶應用程式:對於多租戶應用程式,每個租戶可以擁有自己的Redis數據源,以確保數據隔離和安全性。 ...