您的位置:首页 > 大数据

大数据Hadoop的分布架构ZooKeeper实战,甲骨文总监整理!

2018-04-02 19:54 435 查看
今天小编给大家分享的是现今Oracle高级技术总监的课堂笔记:大数据Hadoop的HA高可用架构集群+分布架构ZooKeeper实战应用,这个课堂笔记需要有一些基础。

(1)Hadoop的体系结构(2)Spark的体系结构3、HA:high avaibility高可用性 ----> 解决大数据的单点故障问题===========================================一、大数据架构的单点故障问题1、什么是单点故障?就是当主节点宕机后,会造成整个集群无法继续使用2、对大家的要求:画图二、什么是ZooKeeper(动物园管理员)1、相当于是一个“数据库”三、实战:HDFS的HA实现1、搭建ZooKeeper集群准备:所有节点(1)关闭防火墙systemctl stop firewalld.servicesystemctl disable firewalld.service(2)设置主机名 vi /etc/hosts192.168.157.12 bigdata12192.168.157.13 bigdata13192.168.157.14 bigdata14(3)安装JDK目录: /root/trainingtar -zxvf jdk-8u144-linux-x64.tar.gz -C ~/training/设置环境变量vi ~/.bash_profileJAVA_HOME=/root/training/jdk1.8.0_144export JAVA_HOMEPATH=$JAVA_HOME/bin:$PATHexport PATH生效环境变量 source ~/.bash_profile(4)配置免密码登录(不对称加密)ssh-keygen -t rsassh-copy-id -i .ssh/id_rsa.pub root@bigdata12ssh-copy-id -i .ssh/id_rsa.pub root@bigdata13ssh-copy-id -i .ssh/id_rsa.pub root@bigdata142、搭建ZooKeeper集群(1)首先在bigdata12上搭建(*) tar -zxvf zookeeper-3.4.10.tar.gz -C ~/training/设置ZK的环境变量 vi ~/.bash_profileZOOKEEPER_HOME=/root/training/zookeeper-3.4.10export ZOOKEEPER_HOMEPATH=$ZOOKEEPER_HOME/bin:$PATHexport PATH(*) 修改配置文件: conf/zoo.cfg数据的保存路径dataDir=/root/training/zookeeper-3.4.10/tmp一共有三台机器2888:通信端口3888:选举端口server.1=bigdata12:2888:3888server.2=bigdata13:2888:3888server.3=bigdata14:2888:3888(*) 在/root/training/zookeeper-3.4.10/tmp创建一个文件: myid(2)把bigdata12上的zk复制到其他节点上scp -r zookeeper-3.4.10/ root@bigdata13:/root/trainingscp -r zookeeper-3.4.10/ root@bigdata14:/root/training(3)修改各自的myid(4)在每台机器上,启动ZKzkServer.sh start/status(5)演示Demo(*)选举机制(*)数据同步3、使用4台机器来搭建

大数据、Python学习资料分享群:596471005,我自己整理的一份最新的适合2018年学习的大数据开发和零基础入门教程已经上传
到群文件。欢迎初学和进阶中的小伙伴。也可以关注我。
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签:  大数据 Hadoop
相关文章推荐