您的位置:首页 > 其它

spark 操作 hbase

2015-01-12 18:15 169 查看
添加hbase 的jar 包,在{SPARK_HOME}/conf/spark-env.sh 中添加<span style="white-space:pre">	</span>
<span style="white-space:pre"></span><pre name="code" class="plain">export SPARK_CLASSPATH=/usr/local/hbase/hbase-0.96.2-hadoop2/lib/*
spark 操作 hbase 跟 java 操作hbase 一样一样的。
import org.apache.spark._import org.apache.spark.rdd.NewHadoopRDDimport org.apache.hadoop.conf.Configuration;import org.apache.hadoop.hbase.HBaseConfiguration;import org.apache.hadoop.hbase.mapreduce.TableInputFormatimport org.apache.hadoop.hbase.client.HBaseAdminval configuration = HBaseConfiguration.create();configuration.set("hbase.zookeeper.property.clientPort", "2181");configuration.set("hbase.zookeeper.quorum", "ubuntu3,ubuntu1,ubuntu2");configuration.set("hbase.master", "ubuntu1:60000");  //设置hbase masterconfiguration.addResource("/usr/local/hbase/hbase-0.96.2-hadoop2/conf/hbase-site.xml")configuration.set(TableInputFormat.INPUT_TABLE, "person")val hadmin = new HBaseAdmin(configuration);val hrdd=sc.newAPIHadoopRDD(configuration,classOf[TableInputFormat],classOf[org.apache.hadoop.hbase.io.ImmutableBytesWritable],classOf[org.apache.hadoop.hbase.client.Result])hrdd.count 
</pre><pre name="code" class="java">
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: