[Linux] Nutch 2.3.1+ Hbase + Hadoop + Solr 单机指南（三）

这是本指南的第三篇，本熊做这个的初衷就是刷刷小Y的好感度，但直到完成还是迷迷糊糊的。对于本熊而言读女人心简直堪比读算法导论，虽然两个都不太读得懂。本熊这段时间看到过关于交友平台的机器人的纪录片，让机器算法来搭讪自己潜在的伴侣，这是个很浪漫有趣的想法，会有人喜欢上这个像dull dull dull 的人类的机器人吗? I’m curious

纯初学者说明模式

本章节主讲实现本地模式

Hbase的安装配置

Hbase的简单语句

相对应的Hadoop配置

SSH免密码登录

0.路径说明

本熊假设Hadoop的主目录为HadoopPath，Hbase的主目录为HbasePath

以下是本熊的解压位置：

HadoopPath的值就是

/usr/Dzy/hadoop-2.5.2

HbasePath的值就是

/usr/Dzy/hbase-0.98.8-hadoop2

NutchPath的值就是

/usr/Dzy/apache-nutch-2.3.1

各位可以按照自己的路径进行设置，本熊再次只为说明方便

1.Hbase安装与配置

1.1 Hbase配置修改

本熊只配置所需的最低设定了，各位可以参照官方文档尝试更多的有趣的设置

在HbasePath下，在

/conf

下修改hbase-env.sh，添加以下设置

export JAVA_HOME=/usr/jdk/

在相同目录下修改hbase-site.xml，在

<configuration></configuration>

标签中添加以下设置

<property>
<name>hbase.rootdir</name>
<value>hdfs://localhost:9000/hbase</value>
</property>
<property>
<name>hbase.cluster.distributed</name>
<value>true</value>
</property>

因为采用的是hdfs，

hbase.rootdir

代表hbase的主目录在hdfs的位置，

hbase.cluster.distributed

代表hbase的启动模式是本机还是集群

1.2 Hbase启动与简单查询

在HbasePath目录下，启动终端输入

bash ./bin/start-hbase.sh

开启Hbase的服务，此时在浏览器输入以下网址 http://localhost:60010/master-status 可以看见Hbase的homepage



这里可以看见Hbase数据库中所有的表和信息，除此之外还有一种 方式在终端内实现查看（适用于非图形界面的系统）

在HbasePath目录下，在终端输入

./bin/hbase shell

启动Hbase的Shell模式，如下图



可以实用简单的指令实现查询

list

查看Hbase数据库内所有的表

scan 'Table'

查看Hbase数据库内名为Table表的内容

以上是使用Nutch的Hbase的简单的基础语法和配置

2.Hadoop安装与配置

在HadoopPath下

/etc/hadoop

目录中的修改core-site.xml内在

<configuration></configuration>

标签中添加以下设置

<property>
<name>fs.default.name</name>
<value>hdfs://localhost:9000</value>
</property>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>/usr/tmp</value>
</property>

这三个属性分别是hdfs的主机位置，再连接的次数与hadoop缓存存放位置

在相同目录下，将 mapred-site.xml.template 在当前目录复制黏贴，并重命名为mapred-site.xml 在

<configuration></configuration>

标签中添加以下设置

<property>
<name>mapred.job.tracker</name>
<value>localhost:9001</value>
</property>

此处代表执行map phase的tracker的主机，因为是本地伪集群，故写成这样

3.SSH免密码登录

采用ssh策略的原因为了hadoop中zookeeper的管理便利，我们所知远程访问主机采取的多为 用户名+密码 的模式，往往因为权限问题导致错误，本熊发现ssh策略就可以很好的回避这点

开启终端，输入以下指令，安装ssh

sudo  apt-get install openssh-server

在终端，输入以下指令，开启ssh服务

service sshd restart

输入以下命令，制作ssh密钥上传到本机

ssh-keygen  -t  dsa -P '' -f  ~/.ssh/id_dsa

cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys

可以用以下命令检测是否成功，成功的话会显示系统版本及登录时间

ssh localhost

4.Hadoop的启动

启动Hadoop

在HadoopPath下，在终端输入以下命令，执行namenode初始化

bin/hadoop  namenode -format

在终端输入下面的命令，成功后可以下图

bash ./sbin/start-all.sh

我们可以清楚的看出hadoop的执行过程，dfs与yarn，hadoop成功启动

有兴趣的看官们，本熊强烈推荐可以去试试hadoop自带的WordCount程序来体验一把hadoop，具体的部分可以参照hadoop官网的说明，十分有助于理解hadoop的工作机制哦

第三期完

写到现在突然发现本熊和小Y，一个缺智商，一个缺情商。形象的说宅若久时天然呆,呆到深处自然萌 又宅又呆的小Y看来只有走仓鼠的蠢萌路线了，本熊表示很心痛。玩笑话就说到这里，本熊又宅又呆已有二十余载，突悟还是要学学年轻人该有的生活方式，不知道各位的年轻时是如何打发自己的，本熊也想学学

(。・д・。)      (　・ˍ・)　(・ˍ・*)　    (・－・。)

往期内容

[Linux] Nutch 2.3.1+ Hbase + Hadoop + Solr 单机指南（一）

[Linux] Nutch 2.3.1+ Hbase + Hadoop + Solr 单机指南（二）

[Linux] Nutch 2.3.1+ Hbase + Hadoop + Solr 单机指南（三）

[Linux] Nutch 2.3.1+ Hbase + Hadoop + Solr 单机指南（四）