Hadoop2.7.5HA集群搭建

发表于 | 更新于 | 分类于 | 评论数： | 阅读次数：

hadoop HA原理概述

为什么会有 hadoop HA 机制呢？

  1. HA：High Available，高可用
    在Hadoop 2.0之前,在HDFS 集群中NameNode 存在单点故障 (SPOF：A Single Point of Failure)。对于只有一个 NameNode 的集群，如果 NameNode 机器出现故障(比如宕机或是软件、硬件升级)，那么整个集群将无法使用，直到 NameNode 重新启动。
  2. 那如何解决呢？HDFS 的 HA 功能通过配置 Active/Standby 两个 NameNodes 实现在集群中对 NameNode 的热备来解决上述问题。如果出现故障，如机器崩溃或机器需要升级维护，这时可通过此种方式将 NameNode 很快的切换到另外一台机器。
  3. 在一个典型的 HDFS(HA) 集群中，使用两台单独的机器配置为 NameNodes 。在任何时间点，确保 NameNodes 中只有一个处于 Active 状态，其他的处在 Standby 状态。其中ActiveNameNode 负责集群中的所有客户端操作，StandbyNameNode 仅仅充当备机，保证一旦 ActiveNameNode 出现问题能够快速切换。
  4. 为了能够实时同步 Active 和 Standby 两个 NameNode 的元数据信息（实际上 editlog），需提供一个共享存储系统，可以是 NFS、QJM（Quorum Journal Manager）或者 Zookeeper，ActiveNamenode 将数据写入共享存储系统，而 Standby 监听该系统，一旦发现有新数据写入，则读取这些数据，并加载到自己内存中，以保证自己内存状态与 Active NameNode 保持基本一致，如此这般，在紧急情况下 standby 便可快速切为 active namenode。为了实现快速切换，Standby 节点获取集群的最新文件块信息也是很有必要的。为了实现这一目标，DataNode 需要配置 NameNodes 的位置，并同时给他们发送文件块信息以及心跳检测。

这里写图片描述

SecondaryNameNode 和 Standby Namenode 的区别？

在1.x版本中，SecondaryNameNode将fsimage跟edits进行合并，生成新的fsimage文件用http post传回NameNode节点。SecondaryNameNode不能做NameNode的备份。
在hadoop 2.x版本中才引入StandbyNameNode，从journalNode上拷贝的。StandbyNameNode是可以做namenode的备份。

Hadoop2的高可用并取代SecondaryNamenode
在hadoop2实际生产环境中，为什么还需要SecondeNamenode
secondary namenode和namenode的区别

集群规划

描述：hadoop HA 集群的搭建依赖于 zookeeper，所以选取三台当做 zookeeper 集群我总共准备了四台主机，分别是 hadoop02，hadoop03，hadoop04，hadoop05其中 hadoop02 和 hadoop03 做 namenode 的主备切换，hadoop04 和 hadoop05 做resourcemanager 的主备切换

这里写图片描述

这里写图片描述

集群服务器准备

1、 修改主机名
2、 修改 IP 地址
3、 添加主机名和 IP 映射
4、 添加普通用户 hadoop 用户并配置 sudoer 权限
5、 设置系统启动级别
6、 关闭防火墙/关闭 Selinux
7、 安装 JDK
两种准备方式：
1、 每个节点都单独设置，这样比较麻烦。线上环境可以编写脚本实现
2、 虚拟机环境可是在做完以上 7 步之后，就进行克隆
3、 然后接着再给你的集群配置 SSH 免密登陆和搭建时间同步服务
8、 配置 SSH 免密登录
9、 同步服务器时间

集群安装

1、安装 Zookeeper 集群（略）
2、 安装 hadoop 集群

修改配置文件：

core-site.xml :

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
<configuration>
	<!-- 指定hdfs的nameservice为myha01 -->
	<property>
		<name>fs.defaultFS</name>
		<value>hdfs://myha01/</value>
	</property>

	<!-- 指定hadoop临时目录 -->
	<property>
		<name>hadoop.tmp.dir</name>
		<value>/home/hadoop/data1/hadoopdata/</value>
	</property>

	<!-- 指定zookeeper地址 -->
	<property>
		<name>ha.zookeeper.quorum</name>
		<value>hadoop01:2181,hadoop02:2181,hadoop03:2181,hadoop04:2181,hadoop05:2181</value>
	</property>

	<!-- hadoop链接zookeeper的超时时长设置 -->
	<property>
		<name>ha.zookeeper.session-timeout.ms</name>
		<value>1000</value>
		<description>ms</description>
	</property>
</configuration>

hdfs-site.xml:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
<configuration>

	<!-- 指定副本数-->
	<property>
		<name>dfs.replication</name>
		<value>2</value>
	</property>
	
	<!-- 配置namenode和datanode的工作目录-数据存储目录-->
	<property>
		<name>dfs.namenode.name.dir</name>
		<value>/home/hadoop/data1/hadoopdata/dfs/name</value>
	</property>
	
	<property>
		<name>dfs.datanode.data.dir</name>
		<value>/home/hadoop/data1/hadoopdata/dfs/data</value>
	</property>
	
	<!-- 启用webhdfs-->
	<property>
		<name>dfs.webhdfs.enabled</name>
		<value>true</value>
	</property>
	
	<!--指定hdfs的nameservice为myha01，需要和core-site.xml中的保持一致 
	     		dfs.ha.namenodes.[nameservice id]为在nameservice中的每一个NameNode设置唯一标示符。 
		配置一个逗号分隔的NameNode ID列表。这将是被DataNode识别为所有的NameNode。 
		例如，如果使用"myha01"作为nameservice ID，并且使用"nn1"和"nn2"作为NameNodes标示符 
	-->
	
	<property>
		<name>dfs.nameservices</name>
		<value>myha01</value>
	</property>
	
	<!-- myha01下面有两个NameNode,分别是nn1,nn2-->
	<property>
		<name>dfs.ha.namenodes.myha01</name>
		<value>nn1,nn2</value>
	</property>
	
	<!-- nn1的RPC通信地址-->
	<property>
		<name>dfs.namenode.rpc-address.myha01.nn1</name>
		<value>hadoop01:9000</value>
	</property>
	
	<!-- nn1的http通信地址-->
	<property>
		<name>dfs.namenode.http-address.myha01.nn1</name>
		<value>hadoop01:50070</value>
	</property>
	
	<!-- nn2的RPC通信地址-->
	<property>
		<name>dfs.namenode.rpc-address.myha01.nn2</name>
		<value>hadoop02:9000</value>
	</property>
	
	<!-- nn2的http通信地址 -->
	<property>
		<name>dfs.namenode.http-address.myha01.nn2</name>
		<value>hadoop02:50070</value>
	</property>
	
	<!-- 指定NameNode的edits元数据的共享存储位置。也就是JournalNode列表 
			该url的配置格式：qjournal://host1:port1;host2:port2;host3:port3/journalId 
	journalId推荐使用nameservice，默认端口号是：8485 -->
	<property>
		<name>dfs.namenode.shared.edits.dir</name>
		<value>qjournal://hadoop02:8485;hadoop03:8485;hadoop04:8485/myha01</value>
	</property>
	
	<!-- 指定JournalNode在本地磁盘存放数据的位置-->
	<property>
		<name>dfs.journalnode.edits.dir</name>
		<value>/home/hadoop/data1/journaldata</value>
	</property>
	
	<!-- 开启NameNode失败自动切换-->
	<property>
		<name>dfs.ha.automatic-failover.enabled</name>
		<value>true</value>
	</property>
	
	<!-- 配置失败自动切换实现方式-->
	<property>
		<name>dfs.client.failover.proxy.provider.myha01</name>
		<value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
	</property>
	
	<!-- 配置隔离机制方法，多个机制用换行分割，即每个机制暂用一行-->
	<property>
		<name>dfs.ha.fencing.methods</name>
		<value>
			sshfence
			shell(/bin/true)
		</value>
	</property>
	
	<!-- 使用sshfence隔离机制时需要ssh免密登陆-->
	<property>
		<name>dfs.ha.fencing.ssh.private-key-files</name>
		<value>/home/hadoop/.ssh/id_rsa</value>
	</property>
	
	<!-- 配置sshfence隔离机制赶超时间-->
	<property>
		<name>dfs.ha.fencing.ssh.connect-timeout</name>
		<value>30000</value>
	</property>
	
	<property>
		<name>ha.failover-controller.cli-check.rpc-timeout.ms</name>
		<value>60000</value>
	</property>
</configuration>

mapred-site.xml:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
<configuration>
	<!--指定mr框架为yarn方式-->
	<property>
		<name>mapreduce.framework.name</name>
		<value>yarn</value>
	</property>
	
	<!--指定mapreduce jobhistory-->
	<property>
		<name>mapreduce.jobhistory.address</name>
		<value>hadoop01:10020</value>
	</property>
	
	<!--任务历史服务器的web地址-->
	<property>
		<name>mapreduce.jobhistory.webapp.address</name>
		<value>hadoop01:19888</value>
	</property>
</configuration>

yarn-site.xml

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
<configuration>

	<!-- 开启RM高可用-->
	<property>
		<name>yarn.resourcemanager.ha.enabled</name>
		<value>true</value>
	</property>
	
	<!-- 指定RM的cluster id-->
	<property>
		<name>yarn.resourcemanager.cluster-id</name>
		<value>yrc</value>
	</property>
	
	<!-- 指定RM的名字-->
	<property>
		<name>yarn.resourcemanager.ha.rm-ids</name>
		<value>rm1,rm2</value>
	</property>
	
	<!--分别指定RM的地址-->
	<property>
		<name>yarn.resourcemanager.hostname.rm1</name>
		<value>hadoop03</value>
	</property>
	
	<property>
		<name>yarn.resourcemanager.hostname.rm2</name>
		<value>hadoop04</value>
	</property>
	
	<!-- 指定zk集群地址-->
	<property>
		<name>yarn.resourcemanager.zk-address</name>
		<value>hadoop01:2181,hadoop02:2181,hadoop03:2181,hadoop04:2181,hadoop05:2181</value>
	</property>
	
	<property>
		<name>yarn.nodemanager.aux-services</name>
		<value>mapreduce_shuffle</value>
	</property>
	
	<property>
		<name>yarn.log-aggregation-enable</name>
		<value>true</value>
	</property>
	
	<property>
		<name>yarn.log-aggregation.retain-seconds</name>
		<value>86400</value>
	</property>
	
	<!--启用自动恢复-->
	<property>
		<name>yarn.resourcemanager.recovery.enabled</name>
		<value>true</value>
	</property>
	
	<!-- 制定resourcemanager的状态信息存储在zookeeper集群上 -->
	<property>
		<name>yarn.resourcemanager.store.class</name>
		<value>org.apache.hadoop.yarn.server.resourcemanager.recovery.ZKRMStateStore</value>
	</property>

</configuration>

hadoop-env.sh: 修改JAVA_HOME
slaves文件：修改映射

#注意：配置文件是最容易出错的地方，建议复制，不建议手写，容易出错。格式化namenode之后，如果出错了，建议删除临时文件日志目录，每台机器都要删除，重新格式化，注意顺序步骤。

如果DFSZKFailoverController自动死掉，则有可能是因为以下配置问题：
错误配置，会导致DFSZKFailoverController死掉：
这里写图片描述
正确写法，注意sshfence不能换行：
这里写图片描述

分发安装包到其他机器

1
2
3
4
scp -r hadoop-2.7.5 hadoop@hadoop02:$PWD
scp -r hadoop-2.7.5 hadoop@hadoop03:$PWD
scp -r hadoop-2.7.5 hadoop@hadoop04:$PWD
scp -r hadoop-2.7.5 hadoop@hadoop05:$PWD

并分别配置环境变量

vi ~/.bashrc
添加两行：
export HADOOP_HOME=/home/hadoop/apps/hadoop-2.6.5
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
保存退出

集群初始化操作：（注意：严格按照以下步骤执行）

1、 先启动 zookeeper 集群
启动：zkServer.sh start
检查启动是否正常：zkServer.sh status
2、 分别在每个 zookeeper（也就是规划的三个 journalnode 节点，不一定跟 zookeeper
节点一样）节点上启动 journalnode 进程

1
2
3
4
5
[hadoop@hadoop01 ~]$ hadoop-daemon.sh start journalnode
[hadoop@hadoop02 ~]$ hadoop-daemon.sh start journalnode
[hadoop@hadoop03 ~]$ hadoop-daemon.sh start journalnode
[hadoop@hadoop04 ~]$ hadoop-daemon.sh start journalnode
[hadoop@hadoop05 ~]$ hadoop-daemon.sh start journalnode

然后用 jps 命令查看是否各个 datanode 节点上都启动了 journalnode 进程
如果报错，根据错误提示改进
3、在第一个 namenode 上执行格式化操作
然后会在 core-site.xml 中配置的临时目录中生成一些集群的信息
把他拷贝的第二个 namenode 的相同目录下

1
2
<name>hadoop.tmp.dir</name>
<value>/home/hadoop/data/hadoopdata/</value>

这个目录下，千万记住：两个 namenode 节点该目录中的数据结构是一致的
[hadoop@hadoop02 ~]$ scp -r ~/data/hadoopdata/ hadoop03:~/data
或者也可以在另一个 namenode 上执行：hadoop namenode -bootstrapStandby

1
[hadoop@hadoop02 ~]$ hadoop namenode -format

4、格式化 ZKFC

1
[hadoop@hadoop02 ~]$ hdfs zkfc -formatZK

在第一台机器上即可
5、启动 HDFS

1
[hadoop@hadoop02 ~]$ start-dfs.sh

查看各节点进程是否启动正常：依次为 2345 四台机器的进程

最终效果：

访问 web 页面 http://hadoop01:50070
http://hadoop02:50070
访问 web 页面 http://hadoop02:50070
这里写图片描述
这里写图片描述
这里写图片描述

启动 YARN

[hadoop@hadoop04 ~]$ start-yarn.sh
在主备 resourcemanager 中随便选择一台进行启动，正常启动之后，检查各节点的进程：
若备用节点的 resourcemanager 没有启动起来，则手动启动起来

1
[hadoop@hadoop04 ~]$ yarn-daemon.sh start resourcemanager

访问页面：http://hadoop03:8088
这里写图片描述
访问页面：http://hadoop04:8088 自动跳转至hadoop03机器
这里写图片描述

查看各主节点的状态

HDFS:
hdfs haadmin -getServiceState nn1
hdfs haadmin -getServiceState nn2
这里写图片描述
YARN:
yarn rmadmin -getServiceState rm1
yarn rmadmin -getServiceState rm2
这里写图片描述

启动 mapreduce 任务历史服务器

1
[hadoop@hadoop01 ~]$ mr-jobhistory-daemon.sh start historyserver

按照配置文件配置的历史服务器的 web 访问地址去访问：
http://hadoop01:19888
这里写图片描述

集群启动测试

1、干掉 active namenode， 看看集群有什么变化
干掉active namenode，standby namenode瞬间转为active状态；重新启动刚才那台干掉的节点后，该节点变为standby 状态。
2、在上传文件的时候干掉 active namenode， 看看有什么变化
会报错，但是可以上传成功。
3、干掉 active resourcemanager， 看看集群有什么变化
hadoop03上的yarn节点就不能访问，hadoop05上的yarn节点可以正常访问。
4、在执行任务的时候干掉 active resourcemanager，看看集群
执行wordcount程序，执行的时候，在hadoop03节点上杀死ResourceManager，最终能够成功执行。

0%