about云开发

 找回密码
 立即注册

QQ登录

只需一步,快速开始

扫一扫,访问微社区

查看: 136495|回复: 19

Cloudera Manager 5 和 CDH5 本地(离线)安装指南

[复制链接]

495

主题

389

听众

217

收听

版主

Rank: 7Rank: 7Rank: 7

积分
5504
发表于 2014-9-9 15:11:40 | 显示全部楼层 |阅读模式
本帖最后由 pig2 于 2014-9-9 16:04 编辑

问题导读
1.Cloudera Manager5、CDH5安装需要哪些准备?
2.下载Cloudera Manager5后,如何配置离线安装?
3.如何下载CDH5离线包及如何安装CDH5?







系统环境
  • 4台联想R510服务器,其中master节点4核心、8GB,其它节点双核心、4GB。
  • 网卡:100M。
  • 共有硬盘6TB。
  • 网络环境内网。
  • Centos6.5 x64(安装系统时尽量把开发包安装齐全,另master节点需要Mysql可以在安装系统时勾选)。

准备工作卸载系统自带OPEN-JDK(所有节点)
安装好的Centos系统有时会自动安装OpenJdk,用命令java -version查看:
  1. java version "1.6.0"
  2. OpenJDK Runtime Environment (build 1.6.0-b09)
  3. OpenJDK 64-Bit Server VM (build 1.6.0-b09, mixed mode)
复制代码

如有上述显示,说明系统里已经有OpenJdk,执行以下命令查看系统中有哪些OpenJdk相关包:
  1. rpm -qa | grep java
复制代码

其中有如下包必须卸载,根据系统版本不同,各个包版本号会有所差异: java-1.5.0-gcj-1.5.0.0-29.1.el6.x86_64 java-1.6.0-openjdk-1.6.0.0-1.66.1.13.0.el6.x86_64 java-1.6.0-openjdk-devel-1.6.0.0-1.66.1.13.0.el6.x86_64 执行以下命令,卸载:

  1. rpm -e --nodeps java-1.5.0-gcj-1.5.0.0-29.1.el6.x86_64
  2. rpm -e --nodeps java-1.6.0-openjdk-1.6.0.0-1.66.1.13.0.el6.x86_64
  3. rpm -e --nodeps java-1.6.0-openjdk-devel-1.6.0.0-1.66.1.13.0.el6.x86_64
复制代码


安装JDK(所有节点)
从官方网站上下载rpm包,本次使用版本1.7.0_55-b13(CDH5可能支持1.7之前的版本,具体情况未经测试),执行命令:
  1. rpm -ivh jdk-7u55-linux-x64.rpm
复制代码

由于是rpm包并不需要我们来配置环境变量,我们只需要配置一个全局的JAVA_HOME变量即可,执行命令:
  1. echo "JAVA_HOME=/usr/java/latest/" >> /etc/environment
复制代码

执行命令,查看Jdk是否安装正确
  1. java -version
  2. javac -version
复制代码

修改主机名
修改/etc/sysconfig/network文件:
  1. NETWORKING=yes
  2. HOSTNAME=master.hadoop
  3. NETWORKING_IPV6=no
  4. GATEWAY=192.168.64.1
复制代码

其中HOSTNAME与主机名一致。主机名如果跟系统安装时不一致请执行hostname命令让其立即生效,否则会影响各节点互相访问。修改/etc/hosts文件,添加:
  1. 192.168.1.101 master.hadoop
  2. 192.168.1.102 datanode1
  3. 192.168.1.103 datanode2
  4. 192.168.1.104 datanode3
复制代码

执行命令:
  1. service network restart
复制代码

打通SSH(所有节点)
这里master节点和其他datanode节点会略有区别。 首先说有节点均执行如下命令,遇到提示一路回车即可:
  1. ssh-keygen -t rsa
复制代码

然后在主节点执行以下命令:
  1. cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
复制代码

scp文件到所有datenode节点:
  1. scp ~/.ssh/authorized_keys root@datanode1:~/.ssh/
复制代码

然后输入密码即可,以后再到其他机器就不需要密码额。

关闭防火墙(所有节点)
防火墙会引起hadoop相关组件通讯的各种异常。 防火墙:
  1. service iptables stop (临时关闭)
  2. chkconfig iptables off (重启后生效)
复制代码

SELINUX:
  1. setenforce 0 (临时生效)
复制代码

修改/etc/selinux/config 下的 SELINUX=disabled (重启后生效)。


安装NTP服务(所有节点)
集群中所有主机必须保持时间同步,如果时间相差较大会引起各种问题。 具体思路如下:
  • master节点作为ntp服务器与外界对时中心同步时间,随后对所有datanode节点提供时间同步服务。
  • 所有datanode节点以master节点为基础同步时间。
所有节点安装相关组件:ntp与ntpdate。按顺序安装即可,完成后,配置开机启动:
  1. chkconfig ntpd on
复制代码

检查是否设置成功:
  1. chkconfig --list ntpd
复制代码

其中2-5为on状态就代表成功。

配置内网NTP服务器(master节点)
在配置之前,先使用ntpdate手动同步一下时间,免得本机与对时中心时间差距太大,使得ntpd不能正常同步。这里选用65.55.56.206作为对时中心。
  1. ntdate -u 65.55.56.206
复制代码

ntp服务只有一个配置文件,配置好了就OK。 这里只给出有用的配置,不需要的配置都用#注掉,这里就不在给出:
  1. driftfile /var/lib/ntp/drift
  2. restrict 127.0.0.1
  3. restrict -6 ::1
  4. restrict default nomodify notrap
  5. server 65.55.56.206 prefer
  6. includefile /etc/ntp/crypto/pw
  7. keys /etc/ntp/keys
复制代码

配置文件完成,保存退出,启动服务,执行如下命令:

  1. service ntpd start
  2. chkconfig ntpd on (设置开机启动)
复制代码

检查是否成功,用ntpstart命令查看同步状态,出现以下状态代表启动成功:
  1. synchronised to NTP server () at stratum 2
  2. time correct to within 74 ms
  3. polling server every 128 s
复制代码

如果出现异常请等待几分钟,一般等待5-10分钟才能同步。
配置ntp客户端(所有datanode节点)
  1. driftfile /var/lib/ntp/drift
  2. restrict 127.0.0.1
  3. restrict -6 ::1
  4. restrict default kod nomodify notrap nopeer noquery
  5. restrict -6 default kod nomodify notrap nopeer noquery
  6. server 192.168.1.101
  7. includefile /etc/ntp/crypto/pw
  8. keys /etc/ntp/keys
复制代码

ok保存退出,请求服务器前,请先使用ntpdate手动同步一下时间:
  1. ntdate -u 192.168.1.101 (内网ntp服务器)
复制代码

这里可能出现同步失败的情况,请不要着急,一般是本地的ntp服务器还没有正常启动,一般需要等待5-10分钟才可以正常同步。启动服务:
  1. service ntpd start
  2. chkconfig ntpd on
复制代码

因为是连接内网,这次启动等待的时间会比master节点快一些,但是也需要耐心等待一会儿。

Mysql配置(master节点)
只需要配置master节点的Mysql即可。(这里不再介绍如何安装Mysql) 将mysql设置为开机启动:
  1. chkconfig mysqld on
复制代码

本次安装需要创建如下数据库(不包括Cloudera Manager的数据库,Cloudera Manager数据库有相关脚本创建,后面会有说明)
  1. --hive数据库
  2. create database hive DEFAULT CHARSET utf8 COLLATE utf8_general_ci
  3. --集群监控数据库
  4. create database amon DEFAULT CHARSET utf8 COLLATE utf8_general_ci
  5. --hue数据库
  6. create database hue DEFAULT CHARSET utf8 COLLATE utf8_general_ci
复制代码

以上数据库,可能会根据安装组件的不同略有差别。 给用户授权(这里密码设为hadoop)
  1. grant all on *.* to root@"%" Identified by "hadoop";
复制代码

正式开工
安装Cloudera Manager 5(cm5)
下载地址http://archive-primary.cloudera.com/cm5/cm/5/,根据自己的系统选择相应的版本,本次安装选用的是cloudera-manager-el6-cm5.0.0_x86_64.tar.gz。下载完成后只上传到master节点即可。然后解压到/opt目录下,不能解压到其他地方,因为cdh5的源会默认在/opt/cloudera/parcel-repo寻找,怎么制作cdh5的本地源文件会在之后介绍。给所有节点添加cloudera-scm用户:
  1. useradd --system --home=/opt/cm-5.0.0/run/cloudera-scm-server --no-createhome --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm
复制代码

修改/opt/cm-5.0.0/etc/cloudera-scm-agent/config.ini 下面的serer_host
  1. server_host=master.hadoop
复制代码

为Cloudera Manager 5建立数据库:
  1. /opt/cm-5.0.0/share/cmf/schema/scm_prepare_database.sh mysql cm -hlocalhost -uroot -phadoop --scm-host localhost scm scm scm
复制代码

格式是:scm_prepare_database.sh 数据库类型  数据库 服务器 用户名 密码  –scm-host  Cloudera_Manager_Server所在的机器,后面那三个不知道代表什么,直接照抄官网的了。 因为我们用的是Mysql数据库,所以我们需要下载Mysql的JDBC驱动,本次从官网上下载最新稳定版:mysql-connector-java-5.1.30.tar.gz,解压之后找到mysql-connector-java-5.1.30-bin.jar放到/opt/cm-5.0.0/share/cmf/lib/目录下。 开启Cloudera Manager 5 Server端:
  1. /opt/cm-5.0.0/etc/init.d/cloudera-scm-server start
复制代码

注意server首次启动不要立即关闭或重启,因为首次启动会自动创建相关表以及数据,如果因为特殊原因中途退出,请先删除所有表以及数据之后再次启动,否则将会出现启动不成功的情况。 开启Cloudera Manager 5 Agents端。 先scp /opt/cm-5.0.0到所有datanode节点上,然后在每台机器上开启Agents端:
  1. scp -r  /opt/cm-5.0.0 root@datanode1:/opt/cm-5.0.0
复制代码

等待拷贝成功,在所有datanode节点上启动:(注意必须以管理员权限启动
  1. sudo /opt/cm-5.0.0/etc/init.d/cloudera-scm-agent start
复制代码

浏览器启动Cloudera Manager 5 控制台(默认端口号是7180),启动成功就会看到登陆页面。


安装CDH5
先下载到本地http://archive-primary.cloudera.com/cdh5/parcels/5.0.0/,这里需要下载两样东西,首先是与自己系统版本相对应的parcel包,然后是manifest.json文件。下载完成后将这两个文件放到master节点的/opt/cloudera/parcel-repo下(目录在安装Cloudera Manager 5时已经生成),注意目录一个字都不能错,接下来打开manifest.json文件,里面是json格式的配置,我们需要的就是与我们系统版本相对应的hash码,因为我们用的是Centos6.5,所以找到如下位置:

无标题-300x35.png

在这个大括号的最下面找到“hash”所对应的值。

无标题2.png


将“hash”的值复制下来,然后创建一个文件,文件名与你的parel包名一致,并加上.sha后缀:

无标题3.png

这样你的目录下将有这3个文件,将“hash”的值复制到新建的sha文件中,并保存,好了,我们的本地源制作完成了。这样基本大功告成了,再之后的操作就是控制台按照步骤安装即可。

打开http://192.168.1.101:7180,登陆控制台,默认账户和密码都是admin,安装时选择免费版,之后由于cm5对中文的支持很强大,按照提示安装即可,如果系统配置有什么问题在安装过程中会有提示,根据提示给系统安装组件就可以了。

如果在安装时选择了安装Hive,可能会遇到安装失败的问题,查看一下日志发现时安装Hive时需要安装JDBC驱动,所以同样我们将Mysql的驱动包拷贝到/opt/cloudera/parcels/CDH-5.0.0-1.cdh5.0.0.p0.47/lib/hive/lib/目录下,之后再继续安装就不会遇到问题了。





欢迎加入about云群425860289432264021 ,云计算爱好者群,关注about云腾讯认证空间

0

主题

7

听众

8

收听

中级会员

Rank: 3Rank: 3

积分
492
发表于 2016-5-4 10:52:35 | 显示全部楼层
gavinyi 发表于 2015-11-27 09:06
**** 作者被禁止或删除 内容自动屏蔽 ****

同问,而且我的agent是启动不了的,显示无法创建pidfile(Unable to create the pidfile.),不明白是怎么回事。。
回复 支持 1 反对 0

使用道具 举报

0

主题

3

听众

0

收听

注册会员

Rank: 2

积分
67
发表于 2014-9-30 11:46:37 | 显示全部楼层
看得清楚明了,,,,

0

主题

0

听众

0

收听

新手上路

Rank: 1

积分
17
发表于 2015-11-27 09:06:59 | 显示全部楼层
agents 要在master.hadoop机器上运行吗?

0

主题

4

听众

0

收听

注册会员

Rank: 2

积分
156
发表于 2015-12-1 14:35:55 | 显示全部楼层
文中的 "useradd --system --home=/opt/cm-5.0.0/run/cloudera-scm-server --no-createhome --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm
复制代码"
其中  --no-createhome命令是错误的,正确的为 --no-create-home

0

主题

4

听众

0

收听

注册会员

Rank: 2

积分
156
发表于 2015-12-4 18:06:07 | 显示全部楼层
补充几点:
如果直接新建个.sha的文件,把manifest.json最后一行的hash值拷贝进去,直接验证验证失败,这样cm会直接从远程下载parcel包,而不是使用本地下载好的parcel。
解决办法直接把*.sh1文件复制一份,再加入manifest.json的hash值,这样才能hash验证通过,使用本地下载好的parcel包。
注意,*.sh1文件也要在下载parcel包时下载好。
mysql数据库最好跟cm主节点在一个节点上,否则会出现无远程权限的问题。

0

主题

4

听众

0

收听

注册会员

Rank: 2

积分
156
发表于 2015-12-7 15:40:41 | 显示全部楼层
注意:
文中步骤:内网NTP服务器(master节点)步骤,命令ntdate -u 65.55.56.206错误。正确的应该为ntpdate -u 65.55.56.206

0

主题

8

听众

8

收听

注册会员

Rank: 2

积分
128
发表于 2016-3-12 06:20:17 | 显示全部楼层
之前一直用apache的。现在改cdh。赞啊

0

主题

2

听众

0

收听

新手上路

Rank: 1

积分
39
发表于 2016-3-19 15:31:56 | 显示全部楼层
想请教下楼主,我是按你的步骤来的,在集群设置那个界面时,hive服务总是无法创建hive metabase database,而且也没有日志。这个怎么解决。

0

主题

0

听众

0

收听

新手上路

Rank: 1

积分
25
发表于 2016-4-15 23:23:57 | 显示全部楼层
安装较新的CDH5.6.0时,配置好本地源后安装,发现会去连接https://archive.cloudera.com/ 而不是去连http://archive.cloudera.com/ 由于本地架设的是http服务器,所以会造成安装失败。有遇到相同问题的吗?

0

主题

2

听众

0

收听

注册会员

Rank: 2

积分
72
发表于 2016-5-3 12:58:24 | 显示全部楼层
gavinyi 发表于 2015-11-27 09:06
**** 作者被禁止或删除 内容自动屏蔽 ****

需要的,我就是这样干的
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /4 下一条

QQ|小黑屋|about云开发-学问论坛|社区 ( 京ICP备12023829号

GMT+8, 2019-4-21 16:36 , Processed in 0.512101 second(s), 41 queries , Gzip On.

Powered by Discuz! X3.2 Licensed

快速回复 返回顶部 返回列表