您的位置：首页 > 运维架构

蓝的成长记——追逐DBA（14）：难忘的“云”端，起步的hadoop部署

2015-03-04 01:56 190 查看

原创作品，出自 “深蓝的blog” 博客，欢迎转载，转载时请务必注明出处，否则追究版权法律责任。

深蓝的blog：/article/1375350.html

【简介】

个人在oracle路上的成长记录，其中以蓝自喻，分享成长中的情感、眼界与技术的变化与成长。敏感信息均以其它形式去掉，不会泄露任何企业机密，纯为技术分享。

创作灵感源于对自己的自省和记录。若能对刚刚起步的库友起到些许的帮助或共鸣，欣慰不已。

欢迎拍砖，如有关技术细节表述有错误之处，请您留言或邮件（hyldba@163.com）指明，不胜感激。

【前言】

这是一部个人记录的成长杂记，既然步入到oracle的这片蓝海，免不了一路的奔波与不断的考验。借由此杂记与库友们分享蓝的成长历程。

不知何时起对蓝有了一种说不出来的痴迷，痴迷其广博，痴迷其深邃，痴迷于近在咫尺却又遥不可及。

而又说不清从何时起，注视于oracle的红色耀眼，照亮出眼前的一道光，未知与迷惑在自己的脚下开始初露些许人生的充实与青春的回馈。

在追逐于DBA梦想的道路上步步前行。

篇章一：忘不掉的地平线，云端初探

没有目标的人走到哪里都感觉是在流浪，反之，确立目标，漂泊中亦会感受到靠近梦想的充实。

——深蓝

2014年追忆于淄博
安静怡然，按计而施，
平台改造，云端的初探，
简单的问题，经验的代价。

初来淄博，便被这里的宁祥所折服，没有庸碌的人群，没有嘈杂的争吵，有着一份慢节奏的生活态度与泰然处之的生活原则。

这次的任务还算比较简单，是把WAS应用服务迁移到云平台上的一台服务器中。根据之前的实施经验，还算顺利。但是对于“云”这个概念，我是完全不了解。就在完成了本职工作的同时，与另外一家开发公司的开发人员交流过程中，让我第一次接触到了hadoop的有关知识。虽说有点迷茫，有点忙乱，听起来的云，有那么点悬乎~~真像描述的那样，轻飘飘，似乎难以触及。
迷糊归迷糊，但还是有了些收获，知道了几个名词，了解了什么是“云战略部署”。
说到“云”，它所实现的目标，有了第一次的认识，简要总结如下四点：
1、共享资源，集中分散的硬件资源，提高软件资源利用率、硬件资源利用率；
2、共享数据，数据集中存储，提高信息共享、统计分析、数据深度挖掘能力；
3、共享服务，计算超大数据、超强计算、超大存储能力；
4、共享应用，基于云平台开发升级应用系统。
接下来是另一个任务，济南的迁移任务。带着尚留余温的“云”思绪，踏上了前往济南的大巴。
济南的任务，依旧是向云平台迁移。但这次并没有更多的了解到“云”，留下了些许的遗憾，作为一个纯纯的看客，匆匆而去。

篇章二：有幸触碰分布式，学习hadoop实施

拥抱大数据，拥抱分布式数据库。

——深蓝

在年轻的IT行业里，oracle出现在这个时代里，因为时代赋予了其使命。未来围绕数据发展的技术或许会翻天覆地，正如我们眼前的hadoop，我们可能无法预见。但在这一切来临之前，我们要尽快跟上这波“大数据”的助推剂。未来的数据形态必然遵循历史的发展脉络，发展始于理论，但最终必然落地于实用性。另一方面，相信对于技术开发而言，终究有一天会被完善而又高效的技术所“大一统”，那个时候，想必也正是IT领域真正进入到鼎盛期的标志。而伴随其中数据库技术，相信也会由硝烟弥漫的技术纷争归于平静，呈现给我们一种清晰、明确、高效的后台数据架构。

对于未来，我们无从把握，只能立足于现在，厚积薄发。

由于公司系统针对hadoop的开发改造，比较幸运的，第一次接触到了hadoop。接下来就简单捋顺下搭建思路，对于犯下的错误做一个简单总结。

具体的部署细节，这里暂时不做列举，只列出搭建的大致思路，希望可以对hadoop的部署有一个初步的认识：

1、安装CentOS 6.4操作系统（64bit）；
2、配置网络，远程连接操作系统
3、安装JDK
4、修改主机名并配置host文件（多节点IP解析）
5、关闭防火墙
6、关闭SElinux
7、配置J***A_HOME
8、配置yum源
9、添加云用户
10、安装云管理控制台
11、通过管理控制台安装nameNode节点（主节点）
12、通过管理控制台安装dataNode节点（分布式多节点）

看看这样的流程下来，能否感觉到，好像“云”并不是那样神秘和难以捉摸。但在这一路安装流程下，还是犯了几个低级的错误，做个简单总结：

第一道坎：HTTP服务

错误认识的yum配置

在部署hadoop时需要配置yum源来完成后续的安装。对于熟悉linux的老鸟来说，yum源配置是非常简单的。但我这次犯得错误来自于对于yum配置理解不全面。在以往，使用yum是安装oracle时配置yum工具安装需要的包。使用的是“file:///cdrom1”这种以file作为开头的路径文件。这样当然简单，只需要把光盘挂载到cdrom1目录下即可。而这次从研发那里拿来的repo源文件中使用到的是“http://...”这种路径。这个其实也不难，需要搭建一个http服务器，然后在hosts解析文件中映射http服务器的IP地址即可。

这里使用apache搭建http服务器，网站上下载如下文件：

一路点击下一步，到达如下配置界面，进行本机配置。

安装结束时，会弹出cmd错误提示框，按esc退出即可，弹出错误是因为http服务器默认端口80被计算机其它设备所占用的原因。安装完成后在配置文件修改端口号即可。

如下图，安装完成后无法启动apache服务。

找到配置文件，用编辑器打开，如下图：

将端口号由80改为8080，如下图：

修改后，再次启动apache服务即可，如下图：

浏览器中输入http服务器地址，出现下图即为安装成功（这里验证本地服务器所以输入localhost即可，远程时输入IP地址），如下图：

这时，只需要把默认路径下的文件替换为yum源所指向的文件即可。

例如这样：

试着访问一下就可以看到效果，如下图：

以上是在win7下操作，建议使用win2008进行配置http服务器，并且配置使其使用80端口。

配置http服务器后，就可以在yum源中配置诸如“http://”格式的路径地址了，例如：

baseurl = http://archive.cloudera.com/cloudera-hadoop/search/redhat/6/x86_64/search/1.1.0/，其中需要把archive.cloudera.com添加到hosts文件中，如下：

vi /etc/hosts

192.168.56.1  archive.cloudera.com

第二道坎： cloudera管理控制台安装错误——http路径不正确

这是在配置完yum源后，执行安装cloudera控制台的bin文件时，报错如下：

根据上图提示，查看报错日志，如下：
[root@master opt]# cat /var/log/cloudera-manager-installer/3.install-cloudera-manager-server.log

Loaded plugins: fastestmirror, refresh-packagekit, security

Loading mirror speeds from cached hostfile

Setting up Install Process

Resolving Dependencies

--> Running transaction check

---> Package cloudera-manager-server.x86_64 0:4.8.0-1.cm480.p0.50.el6 will be installed

--> Processing Dependency: cloudera-manager-daemons = 4.8.0 for package: cloudera-manager-server-4.8.0-1.cm480.p0.50.el6.x86_64

--> Running transaction check

---> Package cloudera-manager-daemons.x86_64 0:4.8.0-1.cm480.p0.50.el6 will be installed

--> Finished Dependency Resolution

Dependencies Resolved

================================================================================

 Package                  Arch   Version                 Repository        Size

================================================================================

Installing:

 cloudera-manager-server  x86_64 4.8.0-1.cm480.p0.50.el6 cloudera-manager 7.7 k

Installing for dependencies:

 cloudera-manager-daemons x86_64 4.8.0-1.cm480.p0.50.el6 cloudera-manager 147 M

Transaction Summary

================================================================================

Install       2 Package(s)

Total download size: 147 M

Installed size: 201 M

Downloading Packages:
 http://archive.cloudera.com/cm4/redhat/6/x86_64/cm/4.8.0/RPMS/x86_64/cloudera-manager-daemons-4.8.0-1.cm480.p0.50.el6.x86_64.rpm: [Errno -1] Package does not match intended download. Suggestion: run yum --enablerepo=cloudera-manager clean metadata

Trying other mirror.
 http://archive.cloudera.com/cm4/redhat/6/x86_64/cm/4.8.0/RPMS/x86_64/cloudera-manager-server-4.8.0-1.cm480.p0.50.el6.x86_64.rpm: [Errno -1] Package does not match intended download. Suggestion: run yum --enablerepo=cloudera-manager clean metadata

Trying other mirror.

Error Downloading Packages:

  cloudera-manager-daemons-4.8.0-1.cm480.p0.50.el6.x86_64: failure: RPMS/x86_64/cloudera-manager-daemons-4.8.0-1.cm480.p0.50.el6.x86_64.rpm from cloudera-manager: [Errno 256] No more mirrors to try.

  cloudera-manager-server-4.8.0-1.cm480.p0.50.el6.x86_64: failure: RPMS/x86_64/cloudera-manager-server-4.8.0-1.cm480.p0.50.el6.x86_64.rpm from cloudera-manager: [Errno 256] No more mirrors to try.

解决：
（1）、最后将问题锁定在目录上，如下： http://archive.cloudera.com/cm4/redhat/6/x86_64/cm/4.8.0/RPMS/x86_64/ cloudera-manager-server-4.8.0-1.cm480.p0.50.el6.x86_64.rpm
（2）、到http服务器查看发现路径，如下： http://archive.cloudera.com/cm4/redhat/6/x86_64/cm/4.8.0/RPMS/ cloudera-manager-server-4.8.0-1.cm480.p0.50.el6.x86_64.rpm
对比（1）、（2）可以发现，在http服务器中缺少了第二个x86_64目录，于是到http服务器中添加x86_64目录。
再次执行，不再报此错误。

补充：
对于http服务器中，在添加目录时，如果某访问目录中存在引导的“索引文件（html目录文件）”，如下图，需要将其删除，否则将无法创建新的目录。

补充完毕。

第三道坎：cloudera管理控制台安装错误——缺少postgresql包

当解决了路径问题后，再次执行安装cloudera的bin文件时，又一次报错了，如下：

提示查看日志文件，于是再一次查看配置文件，如下：
[root@master opt]# cat /var/log/cloudera-manager-installer/4.install-cloudera-manager-server-db.log

Loaded plugins: fastestmirror, refresh-packagekit, security

Loading mirror speeds from cached hostfile

Setting up Install Process

Resolving Dependencies

--> Running transaction check

---> Package cloudera-manager-server-db.x86_64 0:4.8.0-1.cm480.p0.50.el6 will be installed

--> Processing Dependency: postgresql-server >= 8.0 for package: cloudera-manager-server-db-4.8.0-1.cm480.p0.50.el6.x86_64

--> Finished Dependency Resolution

Error: Package: cloudera-manager-server-db-4.8.0-1.cm480.p0.50.el6.x86_64 (cloudera-manager)

           Requires: postgresql-server >= 8.0
You could try using --skip-broken to work around the problem
You could try running: rpm -Va --nofiles –nodigest

解决：
查看日志发现，提示安装需要postgresql-server在8.0以上版本，于是使用yum方式（postgresql-server包存在依赖关系，需要使用yum安装）进行安装。如下操作：
[root@master yum.repos.d]# yum install -y postgresql-server*

Loaded plugins: fastestmirror, refresh-packagekit, security

Loading mirror speeds from cached hostfile

Setting up Install Process

Resolving Dependencies

--> Running transaction check

---> Package postgresql-server.x86_64 0:8.4.13-1.el6_3 will be installed

--> Finished Dependency Resolution

Dependencies Resolved

================================================================================================================

 Package                         Arch                 Version                         Repository           Size

================================================================================================================

Installing:

 postgresql-server               x86_64               8.4.13-1.el6_3                  debug               3.4 M

Transaction Summary

================================================================================================================

Install       1 Package(s)

Total download size: 3.4 M

Installed size: 14 M

Downloading Packages:

Running rpm_check_debug

Running Transaction Test

Transaction Test Succeeded

Running Transaction

Warning: RPMDB altered outside of yum.

  Installing : postgresql-server-8.4.13-1.el6_3.x86_64                                                      1/1 

  Verifying  : postgresql-server-8.4.13-1.el6_3.x86_64                                                      1/1 

Installed:

  postgresql-server.x86_64 0:8.4.13-1.el6_3                                                                     

Complete!

至此，经过了三次周折后，终于管理控制台顺利安装完成。
接下来完成配置（步骤略），最后完成hadoop配置后，进入到了管理界面，如下图所示：

内容来自用户分享和网络整理，不保证内容的准确性，如有侵权内容，可联系管理员处理

标签：

相关文章推荐

新的分享