Hadoop 2.6.3動(dòng)態(tài)增加/刪除DataNode節(jié)點(diǎn)

假設(shè)集群操作系統(tǒng)均為：CentOS 6.7 x64

Hadoop版本為：2.6.3

一、動(dòng)態(tài)增加DataNode

1、準(zhǔn)備新的DataNode節(jié)點(diǎn)機(jī)器，配置SSH互信，可以直接復(fù)制已有DataNode中.ssh目錄中的authorized_keys和id_rsa

2、復(fù)制Hadoop運(yùn)行目錄、hdfs目錄及tmp目錄至新的DataNode

3、在新DataNode上啟動(dòng)hadoop

..sbin/hadoop-daemon.sh start datanode..sbin/yarn-daemon.sh start datanode
4、在NameNode上刷新節(jié)點(diǎn)
..bin/hdfs dfsadmin -refreshNodes..sbin/start-balancer.sh
5、為方便下次啟動(dòng)，可以將新DataNode的域名和ip加入/etc/hosts中
 
二、動(dòng)態(tài)刪除DataNode
1、配置NameNode的hdfs-site.xml，適當(dāng)減小dfs.replication副本數(shù)，增加dfs.hosts.exclude配置
 <PRoperty>    <name>dfs.hosts.exclude</name>    <value>/usr/local/hadoop2/etc/hadoop/excludes</value>  </property>
2、在對(duì)應(yīng)路徑（/etc/hadoop/）下新建excludes文件，并寫(xiě)入待刪除DataNode的ip或域名
3、在NameNode上刷新所有DataNode
..bin/hdfs dfsadmin -refreshNodes..sbin/start-balancer.sh
4、此時(shí)，可以在web檢測(cè)界面（ip:50070）上可以觀(guān)測(cè)到DataNode逐漸變?yōu)镈ead。