大数据平台搭建------CM 和CDH安装

一、安装说明

      CM是由cloudera公司提供的大数据组件自动部署和监控管理工具，相应的和CDH是cloudera公司在开源的hadoop社区版的基础上做了商业化的封装的大数据平台。

       采用离线安装模式，虽然在线安装比较简单，但是速度感人，原因大家都懂，这里我使用的各软件版本信息为：
操作系统：CentOS6.8
CDH版本：5.7.1：CDH-5.7.1-1.cdh5.7.1.p0.11-el5.parcel.sha
                           CDH-5.7.1-1.cdh5.7.1.p0.11-el6.parcel
                           manifest.json

二 、系统环境部署

2.1 在所有节点上部署网络环境

vim /etc/hosts

**注意127.0.0.1对应的node2要删掉，否则后面mysql的登录会有问题

2.2 关闭防火墙和SELINUX

关闭防火墙	暂时关闭	service iptables stop
永久关闭	chkconfig iptables off
关闭SELINUX	临时关闭	setenforce 0
永久关闭	vim /etc/selinux/config    修改SELINUX=enforcing 改为 SELINUX=disabled

2.3 安装JDK（这部就不多BB了）

2.4 设置时间同步

所有节点安装NTP	yum install ntp
配置开机自动启动	chkconfig ntpd on
检查是否开启成功	chkconfig --list ntpd（2-5为on则开启成功）
设置同步	ntpdate -u ntp.sjtu.edu.cn

**遇到问题noserver suitable for synchronization found
**解决方案：cmd里输入nslookup cn.pool.ntp.org，找到ping的通的IP，将这个IP地址替换到ntpdata -u后面

2.5 配置本地yum源或者第三方yum源

将xxxx.repo拷贝到各台机器的/etc/yum.repo.d下(这里的repo是公司自己部署的，我就直接拿过来用了)
清理元数据缓存	yum clean all
重新建立元数据缓存	yum makecache

2.6 在管理节点上安装mysql

安装mysql的yum源	rpm -ivh http://repo.mysql.com/yum/mysql-5.5-community/el/6/x86_64/mysql-community-release-el6-5.noarch.rpm
修改安装好的yum源	vim /etc/yum.repos.d/mysql-community.repo    将5.5的enabled改为1,5.6的enabled改为0
安装mysql	yum install mysql-server
添加自启动 启动mysql 修改root密码 进入mysql	chkconfig mysqld on service mysqld start mysqladmin -u root password '123456' mysql -uroot -p123456

2.7 在mysql中创建相关库并授权

建库

mysql> create database amon default character set utf8 ; mysql> create database rman default character set utf8; mysql> create database metastore default character set utf8; mysql> create database sentry default character set utf8; mysql> create database hue default character set utf8; mysql> create database nav default character set utf8; mysql> create database navms default character set utf8; mysql> create database oozie default character set utf8;

授权

mysql> grant all privileges on amon.* to 'amon'@'192.168.%' identified by 'amon'; mysql> grant all privileges on hue.* to 'hue'@'192.168.%' identified by 'hue'; mysql> grant all privileges on rman.* to 'rman'@'192.168.%' identified by 'rman'; mysql> grant all privileges on metastore.* to 'hive'@'192.168.%' identified by 'hive'; mysql> grant all privileges on sentry.* to 'sentry'@'192.168.%' identified by 'sentry'; mysql> grant all privileges on nav.* to 'nav'@'192.168.%' identified by 'nav'; mysql> grant all privileges on navms.* to 'navms'@'192.168.%' identified by 'navms'; mysql> grant all privileges on oozie.* to 'oozie'@'192.168.%' identified by 'oozie'; mysql> flush privileges;

2.8 添加cmadmin用户（可选）

各台机器上添加cmadmin用户	groupadd cmadmin useradd cmadmin -g cmadmin passwd cmadmin（cmadmin123.）
分别添加sudo权限	visudo    cmadmin  ALL=(ALL)     ALL
4000 切换到cmadmin用户	su cmadmin

2.9 配置SSH免密钥登录（可选）

Ssh免秘钥设置
注意调整/etc/hosts.all中的sshd访问权限，增加cm server的ip
sshd:192.168.8.20#cloudera manager server's ip
切换到cmadmin用户，执行下面命令

所有机器	ssh-keygen -t rsa
管理端	ssh-keygen -t rsa cat ~/.ssh/id_rsa.pub  >> ~/.ssh/authorized_keys chmod 600 .ssh/authorized_keys scp -P 20022 ~/.ssh/authorized_keys  cmadmin@tk-dat-hadoop179:~/.ssh/（根据具体ip变化）

三、Cloudera Manager安装

3.1 安装CM

sudo yum install cloudera-manager-daemons cloudera-manager-server --enablerepo=jjmatch //这里的repo是刚才配置的本地yum源

3.2 创建临时初始化cloudera manager server数据库的账号

（node2替换为主机名）

mysql -uroot -p123456     grant all privileges on *.* to 'temp'@'node2' identified by 'temp' with grant option;     grant all privileges on *.* to scm@'node2' identified by scm with grant option;

3.3 初始化Manage server的数据库配置

/usr/share/cmf/schema/scm_prepare_database.sh mysql -h node2 -utemp -ptemp --scm-host node2 scm scm scm

*****问题1：提示找不到JAVA_HOME
故障原因：CM server找不到javahome
解决方案:将/usr/share/cmf/schema/scm_prepare_database.sh打开，在对应java版本的java_home_candidates里加上本机的java_home位置



*****问题2：mysql一直提示Accessdenied for user 'root'@'node2
故障原因：hosts文件中的地址解析和mysql有冲突
解决办法：删除host文件中主机名对应的IP，重装mysql或在其他机器上安装mysql。

成功界面

3.4 启动cloudera manager server服务

sudo service cloudera-scm-server start

3.5 Cloudera manager agent安装（所有节点）：

yum  -y install cloudera-manager-agent cloudera-manager-daemons

3.6 准备parcels（parcels是cm能识别的cdh安装包）：

1、从网上下载相关parcels至manager机器上的parcels目录（默认是/opt/cloudera/parcel-repo）
2、打开manifest.json文件，找到"parcelName":"CDH-5.7.1-1.cdh5.7.1.p0.11-el6.parcel"对应的hash值（e24f56882ecdcf6837636abc8298c629c0f9d109），并将它复制下来，将CDH-5.4.3-1.cdh5.4.3.p0.6-el6.parcel.sha1　重命名为
CDH-5.4.3-1.cdh5.4.3.p0.6-el6.parcel.sha

mv CDH-5.4.3-1.cdh5.4.3.p0.6-el6.parcel.sha1 CDH-5.4.3-1.cdh5.4.3.p0.6-el6.parcel.sha

3、然后打开CDH-5.7.1-1.cdh5.7.1.p0.11-el6.parcel，把复制的hash值替换掉里面的值，正常情况下这个文件里的hash值是一致的。这样，本地源制作就完成了。
*****问题1：web页面找不到我所下载版本parcel包
故障原因：1、parcel包与parcel.sha1包对应的文件名不一样，一个是el5,一个是el6
                2、没看清楚安装文档，直接将mainfest.json中最末尾的hash值复制到parcel.sha中，应该是找到版本对应的hash值

四、通过CM安装CDH

4.1 登录控制台，找到对应的主机和parcel安装包

    开始登陆clouderamanager管理控制台http://192.168.159.11:7180（cloudera manager server所在主机ip：7180）
    初始账号：amdin  密码：admin，选择Express版本，指定主机的时候，输入自己的机器的网段192.168.159.[11-13]。



  选择自己提前下载好的parcel包对应的版本。   



*****问题1：在本页面中找不到“当前管理的主机”的Tab栏，
故障原因：没有在agent中配置server的主机名
解决办法：在/etc/cloudera-scm-agent/config.ini中配置CM的主机名，此处改成node2.

4.2 正式开始安装CDH

JDK安装	不勾选，使用我们之前安装好的jdk，点击继续
单用户模式	不勾选，点击继续
SSH凭据	为系统提供ssh密码，点击继续

*****问题1：node4无法接收Agent发出的检测信号，
故障原因：node4上的hosts文件中的127.0.0.1对应的node4没有删除
解决办法：删除hosts文件中对应的node4



点击继续



*****问题1：检查器在node[3-4]上未启动
故障原因：clouderamanager 不会自动去系统环境变量里寻找jdk，而会用自己的bigtop管理jdk
解决办法：修改/usr/lib64/cmf/service/common/cloudera-config.sh中对应版本的jdk_candidates,添加自己安装的jdk
*****注意：路径前有斜杠，千万不要漏掉！千万不要漏掉！千万不要漏掉！之前漏掉了一次，排查了好久



****问题2：Cloudera建议将 /proc/sys/vm/swappiness 设置为 0

# vi /etc/sysctl.conf    vm.swappiness = 0

 *****问题3：已启用“透明大页面

echo never > /sys/kernel/mm/transparent_hugepage/enabled echo never > /sys/kernel/mm/transparent_hugepage/defrag（暂时生效） vim /etc/rc.local（将上面两行添加进来，永久生效）

4.2 选择组件

注意zookeeper至少三台，其他设置保持默认即可，一路下一步

五、添加其他大数据组件

5.1 选择要添加的组件

5.2 分配角色

六、总结

    一个如此简单的平台部署工作，对于我这个新手来说却折腾了大半天，一些常用的linux命令也不熟悉，各个文件的默认安装目录也不知道，什么事都要问百度，CDH和CM解决了大规模的集群的部署工作，简化了无数的手工操作，简直是中小公司快速部署大数据集群的福音，官方文档也十分详尽，里面有数不清的宝藏，大家有空可以多去看看，就当练习英语了都可以。但是CDH被诟病的地方也是其中各个组件的版本绑定太厉害，对于定制化开发需求很大的公司来说，是一个不能忍受的弊端。