hadoop hbase centos虚拟机搭建分布式系统
2011-03-22 12:04
423 查看
最近在学hadoop hbase,在虚拟机上模拟搭建了分布式系统,E文不好,实现起来着实费力哦。废话不多说了,进入正文.
1、ip设置:设定好三台机器的hosts保证相同
matser:192.168.9.77
slave1:192.168.9.51
slave2:192.168.9.53
2、用户设置 以下所有操作都是以hadoop用户登录进行造作
useradd hadoop
passwd hadoop
3、制作SSH免密码登录
在每台机器上先制作本机登录ssh免密码,保证通过ssh登录不需要密码,
su hadoop
ssh-keygen -t rsa,然后一路回车,密钥就制作好了。
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
chmod 644 authorized_keys
验证ssh登录
ssh localhost
将公钥发送到远程主机
cat ~/.ssh/id_rsa.pub | ssh hadoop@slave1 'cat - >> ~/.ssh/authorized_keys'
cat ~/.ssh/id_rsa.pub | ssh hadoop@slvae2 'cat - >> ~/.ssh/authorized_keys'
验证
ssh slave1,ssh slave2
4、下载hadoop hbase ,注意版本匹配问题,我用的 hadoop-0.20.2 hbase-0.20.6
将下载来的文件放在hadoop用户根目录下解压
tar zvxf ~/hadoop-0.20.2.tar.gz
tar zvxf ~/hbase-0.20.6.tar.gz
mv hadoop-0.20.2 hadoop
mv hbase-0.20.6 hbase
5、 配置hadoop hbase,本着方便维护,升级的原则,将配置文件提出来放在hadoop-config hbase-config文件夹下.这样以后升级就不用重新配置了.
cd ~
mkdir hadoop-config
mkdir hbase-config
cp ~/hadoop/conf/* ~/hadoop-config
cp ~/hbase/conf/* ~/hbase-config
安装JDK 配置JAVA_HOME CLASSPATH
vi ~/.bash_profile
在最后加入
JAVA_HOME=/usr/java/default
CLASSPATH=$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib
PATH=$PATH:$HOME/bin:$JAVA_HOME/bin
export JAVA_HOME CLASSPATH PATH
vi ~/.bashrc
在最后加入
export HADOOP_CONF_DIR=/home/hadoop/hadoop-config
export HBASE_CONF_DIR=/home/hadoop/hbase-config
编辑hadoop-config内的文件 和hbase-config内的文件,这个待续
最后还有 记得将hbase/hbase-0.20.6.jar,hbase/lib/zookeeper-3.2.2.jar,hbase-config/hbase-default.xml, hbase-config/hbase-site.xml 拷贝至hadoop-config文件夹下,否则hbase不能启动.
1、ip设置:设定好三台机器的hosts保证相同
matser:192.168.9.77
slave1:192.168.9.51
slave2:192.168.9.53
2、用户设置 以下所有操作都是以hadoop用户登录进行造作
useradd hadoop
passwd hadoop
3、制作SSH免密码登录
在每台机器上先制作本机登录ssh免密码,保证通过ssh登录不需要密码,
su hadoop
ssh-keygen -t rsa,然后一路回车,密钥就制作好了。
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
chmod 644 authorized_keys
验证ssh登录
ssh localhost
将公钥发送到远程主机
cat ~/.ssh/id_rsa.pub | ssh hadoop@slave1 'cat - >> ~/.ssh/authorized_keys'
cat ~/.ssh/id_rsa.pub | ssh hadoop@slvae2 'cat - >> ~/.ssh/authorized_keys'
验证
ssh slave1,ssh slave2
4、下载hadoop hbase ,注意版本匹配问题,我用的 hadoop-0.20.2 hbase-0.20.6
将下载来的文件放在hadoop用户根目录下解压
tar zvxf ~/hadoop-0.20.2.tar.gz
tar zvxf ~/hbase-0.20.6.tar.gz
mv hadoop-0.20.2 hadoop
mv hbase-0.20.6 hbase
5、 配置hadoop hbase,本着方便维护,升级的原则,将配置文件提出来放在hadoop-config hbase-config文件夹下.这样以后升级就不用重新配置了.
cd ~
mkdir hadoop-config
mkdir hbase-config
cp ~/hadoop/conf/* ~/hadoop-config
cp ~/hbase/conf/* ~/hbase-config
安装JDK 配置JAVA_HOME CLASSPATH
vi ~/.bash_profile
在最后加入
JAVA_HOME=/usr/java/default
CLASSPATH=$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib
PATH=$PATH:$HOME/bin:$JAVA_HOME/bin
export JAVA_HOME CLASSPATH PATH
vi ~/.bashrc
在最后加入
export HADOOP_CONF_DIR=/home/hadoop/hadoop-config
export HBASE_CONF_DIR=/home/hadoop/hbase-config
编辑hadoop-config内的文件 和hbase-config内的文件,这个待续
最后还有 记得将hbase/hbase-0.20.6.jar,hbase/lib/zookeeper-3.2.2.jar,hbase-config/hbase-default.xml, hbase-config/hbase-site.xml 拷贝至hadoop-config文件夹下,否则hbase不能启动.
相关文章推荐
- 用虚拟机在centOS系统搭建hadoop分布式集群(updating...)
- VMware12使用三台虚拟机Ubuntu16.04系统搭建hadoop-2.7.1+hbase-1.2.4(完全分布式)
- 详解VMware12使用三台虚拟机Ubuntu16.04系统搭建hadoop-2.7.1+hbase-1.2.4(完全分布式)
- hadoop-1.1.0 rpm + centos 6.3 64虚拟机 + JDK7 搭建分布式集群
- 在oracle Virtual Box 虚拟机中搭建hadoop1.2.1完全分布式环境
- 虚拟机下CentOS-6.4搭建Hadoop1.1.2完全分布式集群
- hadoop2.7.1在vmware上3台centos7虚拟机上的完全分布式集群搭建
- hadoop环境搭建和在本地用虚拟机模拟分布式集群的搭建
- Hadoop分布式文件存储系统HDFS高可用HA搭建(何志雄)
- Hadoop 2.7.3 完全分布式集群系统搭建
- 虚拟机安装的三台Ubuntu系统下搭建Hadoop过程记录
- hadoop异常:虚拟机上搭建分布式集群org.apache.hadoop.ipc.Client: Retrying connect to server
- Mac系统下,Hadoop 2.6.2 + ZooKeeper 3.4.6 + HBase 1.1.5 完全分布式环境搭建
- 本地虚拟机通过hadoop和spark搭建分布式环境
- 详细Ubuntu系统下搭建Hadoop完全分布式
- 关于hadoop2.4.1伪分布式系统的搭建
- 搭建Hadoop环境(在winodws环境下用虚拟机虚拟两个ubuntu系统进行搭建)
- hadoop分布式集群搭建=两次的总结--包括挂载文件系统
- Linux系统搭建完全分布式Hadoop集群
- Hadoop学习历程(五、真正的分布式系统搭建)