CDH5.2离线安装

1、CDH5.2离线安装行软数据组CDH5.2离线安装版本历史日期版本描述作者2014-11-231.0CDH5.2离线安装耿雷雨目录安装要求41.1操作系统41.2 JDK版本41.3 浏览器41.4 数据库41.5 存储51.6 网络51.7 用户权限5安装环境准备62.1基础环境62.2 介质下载62.3配置本地YUM62.4 配置java环境72.5 配置主机信息82.6 SSH互信配置92.7 防火墙配置92.8 SELinux 配置92.9 时钟同步配置10安装113.1 安装CM113.2 安装CDH11常见问题204.1 SWAP设置问题204.2 hive驱动问题204.3 HD

2、FS格式化问题204.4 Var目录权限问题214.5 时钟同步问题214.6 Sqoop问题224.7 Sqoop import 权限问题224.8 SSH问题224.9 重新配置Hbase时无法启动Hmaster224.10 用户和组找不到224.11 Request to the Host Monitor failed234.12 安装CM完成后前台页面无法访问23安装要求1.1操作系统l RHEL-compatible systemsRed Hat Enterprise Linux and CentOS 5.7, 64-bit Red Hat Enterprise Linux and

3、CentOS 6.4, 64-bit Red Hat Enterprise Linux and CentOS 6.4 in SE Linux Mode Red Hat Enterprise Linux and CentOS 6.5, 64-bit Oracle Enterprise Linux 5.6 (UEK R2), 64-bitOracle Enterprise Linux 6.4 (UEK R2), 64-bitOracle Enterprise Linux 6.5 (UEK R2, UEK R3), 64-bitl SLES SUSE Linux Enterprise Server

4、11, 64-bit. Service Pack 2 or later is required for CDH 5, and Service Pack1 or later is required for CDH 4.The SUSE Linux Enterprise Software Development Kit 11 SP1 is required on hosts running the Cloudera Manager Agents.l Debian Wheezy (7.0 and 7.1), Squeeze (6.0) (deprecated), 64-bitl Ubuntu Tru

5、sty (14.04), Precise (12.04), Lucid (10.04) (deprecated), 64-bitNote： Debian Squeeze and Ubuntu Lucid are supported only for CDH 4.Using the same version of the same operating system on all cluster hosts is strongly recommended.CDH 5 provides only 64-bit packages1.2 JDK版本Cloudera Manager 支持JDK1.7.0_

6、67和JDK 1.6.0_311.3 浏览器l Firefox 11 or laterl Google Chromel Internet Explorer 9 or laterl Safari 5 or later1.4 数据库l MySQL - 5.0, 5.1, 5.5, and 5.6l Oracle 11gR2l PostgreSQL - 8.4, 9.1, 9.2, and 9.31.5 存储l Cloudera Manager Server /var目录5GB /usr目录500MBl Cloudera Management ServiceHost Monitor and Serv

7、ice Monitor databases存储在/var目录下，该目录需确保至少20GB可用空间。1.6 网络l /etc/hosts文件中需要包含所有节点的主机和IP信息l 不能使用大写的主机名l 不能包含重复的IP地址l IPv6必须禁用1.7 用户权限安装过程全程使用root用户安装环境准备2.1基础环境操作系统Centos6.5CMCloudera Manager 5.2CDHCDH5.22.2 介质下载Cloudera manager installerhttp:/archive-Cloudera managerhttp:/archive-CDH Parcel包http:/archi

8、ve- Cloudera Release源http:/archive-到以上网址下载对应版本和操作系统的安装包，其中parcel需下载CDH-5.2.0-1.cdh5.2.0.p0.36-el6.parcel和manifest.json两个文件。介质列表如下：Cloudera manager installercloudera-manager-installer.binCloudera managercloudera-manager-el6-cm5.2.0_x86_64.tar.gzCDH Parcel包manifest.json CDH-5.2.0-1.cdh5.2.0.p0.36-el6.

9、parcelCloudera Release源cm5.2.0-centos6.tar.gz2.3配置本地YUM2.3.1 配置OS本地YUM1 现在镜像文件package中找到httpd包 安装httpd服务1. 拷贝光盘镜像到本地(略)2. 创建软连接ln s /opt/centos_6.5_dvd1 /var/www/html/cent1_yumln s /opt/centos_6.5_dvd2 /var/www/html/cent2_yum3. 启动http服务service httpd start打开浏览器输入/cent1_yum/ ，http:/10.

10、124.3.8/cent2_yum/ 能访问到即可。4. 创建repo文件备份移动/etc/yum.repos.d/目录下的文件，新建Centos.repo文件。vi Centos.repo Centos-6.5name=Centos-6.5baseurl=/cent1_yum/ /cent2_yum/gpgcheck=0enable=12.3.2 配置CDH本地YUM1. 解压介质到本地tar zxvf cm5.2.0-centos6.tar.gzchmod -R ugo+rX /opt/cloudera/cm2. 创建软连接l

11、n -s /opt/cloudera/cm /var/www/html/cm_yum3. 验证/cm_yum/能访问即可 4. 创建repo文件vi CDH5.repocloudera-cdh5name=cloudera-cdh5baseurl=/cm_yum/5.2.0/gpgcheck=0enable=1thinkbig1Ggty20112.4 配置java环境2.4.1卸载系统自带JDKrpm -qa|grep openjdkrpm -e -nodeps java-1.7.0-openjdk-devel-5-2

12、.4.3.3.el6.x86_64rpm -e -nodeps java-1.6.0-openjdk--3.0.el6.x86_64rpm -e -nodeps java-1.6.0-openjdk-devel--3.0.el6.x86_64rpm -e -nodeps java-1.7.0-openjdk-5-.el6.x86_642.4.2安装javarpm -ivh jdk-7u67-linux-x64.rpm2.4.3配置环境变量vi profile（文件末尾添加）# java # #JAVA_HO

13、ME=/usr/java/jdk1.7.0_67PATH=$PATH:$JAVA_HOME/binCLASSPATH=.:$JAVA_HOME/lib/jt.jar:$JAVA_HOME/lib/tools.jarexport JAVA_HOME PATH CLASSPATH即时生效 source /etc/profile2.5 配置主机信息2.5.1配置主机名vi /etc/sysconfig/networkhostname 主机名重启后生效2.5.2配置hostvi /etc/hosts8重启网络服务service network restart2.6 SSH互信配置生成公匙文件ssh-k

14、eygen -t rsa（所有节点）整合公匙文件（master）ssh master cat /.ssh/id_rsa.pub >> /.ssh/authorized_keysssh slave1 cat /.ssh/id_rsa.pub >> /.ssh/authorized_keysssh slave2 cat /.ssh/id_rsa.pub >> /.ssh/authorized_keyschmod 600 /.ssh/authorized_keys分发整合后的公匙文件到各个节点（master）scp /.ssh/authorized_keys sl

15、ave1:/.ssh/scp /.ssh/authorized_keys slave2:/.ssh/测试互信（所有节点）不需要输入密码即配置成功ssh masterssh slave1ssh slave22.7 防火墙配置service iptables stop(临时关闭)chkconfig iptables off（永久关闭 重启后生效）2.8 SELinux 配置setenforce 0(临时生效)vi /etc/selinux/config（重启生效）2.9 时钟同步配置2.9.1设置NTP服务开机启动chkconfig ntpd onchkconfig -list ntpd（2-5为

16、on即成功）2.9.2配置主节点vi /etc/ntp.conf一下为用到的配置，没用到的全部注释掉driftfile /var/lib/ntp/driftrestrict default nomodify notraprestrict restrict -6 :1server 53 preferserver 01includefile /etc/ntp/crypto/pwkeys /etc/ntp/keys保存后重启服务service ntpd restart查看同步状态watch ntpd p手动同步 ntpdate u ip2

17、.9.3配置子节点vi /etc/ntp.confserver 定时同步服务器时钟crontab e* */1 * * * ntpdate -u >> /home/hadoop/ntpdate.log安装3.1 安装CMCM可以使用oracle，mysql，postgresql作为数据库服务器。使用oracle和mysql时，需要用户自己安装数据库。这里使用postgresql数据库，CM的yum源中包含这个数据库。使用本地源安装CM，-skip_repo_package=1表示使用本地yum源。./cloudera-manager-in

18、staller.bin -skip_repo_package=1安装成功后服务会自动启动，同时提供访问6:7180/，进入cm的管理端页面。到此CM安装完成。CM管理常用命令：DB启动：service cloudera-scm-server-db startCM启动service cloudera-scm-server startservice cloudera-scm-agent start3.2 安装CDH3.2.1配置CDH数据包1. 将下载的CDH-5.2.0-1.cdh5.2.0.p0.36-el6.parcel和manifest.json两个文件

19、拷贝到/opt/cloudera/parcel-repo目录下。打开manifest.json文件，找到对应版本和系统的hash码，将“hash”的值复制下来，然后创建一个文件，文件名与你的parel包名一致，并加上.sha后缀。2. 访问地址：:7180/cmf/home，进入菜单中的【管理】-【设置】-【Parcel】配置页面，修改Parcel的更新频率为5分钟（等5分钟可以刷新到parcel包文件），如下图3. 重启cloudera managerservice cloudera-scm-server restart3.2.1安装1. 选择版本，这里选择f

20、ree版2. 指定加入集群的机器3. 选择parcel并使用自定义repository4. 安装JDK，不选则使用我们自己配置的JDK5. SSH配置6. 安装各节点的agent服务7. 安装parcels8. 环境验证9. 选择安装哪些服务，这里选择第二个组合10. 配置各节点的角色11. 配置hive和amon数据库12. 安装并启动集群常见问题4.1 SWAP设置问题echo 0 > /proc/sys/vm/swappinessvi /proc/sys/vm/swappinesssysctl -w vm.swappiness=0(所有节点)4.2 hive驱动问题创建hive m

21、etastore找不到JDBC驱动，一般使用oracl或者mysql时会遇到这个问题，在/opt/cloudera/parcels/CDH-5.2.0-1.cdh5.2.0.p0.36/lib/hive/lib/目录下放入对应数据库的驱动包即可。4.3 HDFS格式化问题在CM中重新配置HDFS时会遇到不能格式化namenode，datanode的问题，到/data/dfs目录下删除该目录下的所有文件即可。4.4 Var目录权限问题在安装过程中遇到权限相关问题，不能盲目给用户增大权限。/var目录权限不能为777或者775权限，否则在重启部分服务的时候会启动不了。这时需要参考其他节点的var目

22、录权限，将其更改为相同。4.5 时钟同步问题时钟同步出问题的时候，CM上很多服务会飘红。解决办法如下：查看各节点的NTP服务状态service ntpd status手动同步ntpd u 时钟服务器IP查看时钟偏差ntpdc -c loopinfo4.6 Sqoop问题使用Sqoop前需要将对应数据库的jar包放入sqoop对应lib目录下。目录一般为：/opt/cloudera/parcels/CDH-5.2.0-1.cdh5.2.0.p0.36/lib/sqoop/lib/4.7 Sqoop import 权限问题Sqoop import向HDFS中导入数据报权限不够错误。检查当前使用的用

23、户为root，到hue中发现目录权限只有用户读写执行权限没有组和其他的读写执行权限。这里是因为HDFS文件系统权限不足导致。解决办法如下：使用HDFS超级管理员用户登录系统(安装时自动创建的用户不清楚密码，通过root用户切换过去)su hdfs更改目录权限hadoop fs -chmod -R o+w /hadoop fs -chmod -R g+w /4.8 SSH问题安装过程中发现不能新建SSH连接，但是服务器能PING通，而且老的SSH连接依然可操作。这时不能直接重启服务器，重启后也同样连不上SSH。解决办法如下：修改/etc/ssh/sshd_configMaxStartups 默认设置是 10:30:100，将其改大，1000:30:10000重启sshd service sshd restart通过/etc/init.d/sshd start和/etc/rc.d/init.d/sshd restart命令启动时报权限相关错误，通过service sshd restart命令可以正常启动。4.9 重新配置Hbase时无法启动Hmaster在CM中删除Hbase重新配置，启动时主节点Hmaster无法启动，报错：master: .B