您的位置:首页 > 其它

Trafodion 安装之HBase配置优化

2017-06-27 10:21 169 查看
Trafodion安装后,建议对HBase的配置参数做一些调整,如TimeOut相关,这些参数的调整可以减少甚至避免某些因为超时而导致的错误。

Trafodion的安装脚本中已经做了部分HBase的配置调整,但可能不够全面,本文列出相关需要调整的参数,帮助大家在下次需要相关因为配置不当导致错误的时候可以做为借鉴。

参数推荐值
hbase.master.distributed.log.splittingfalse
hbase.coprocessor.region.classesorg.apache.hadoop.hbase.coprocessor.transactional.TrxRegionObserver, org.apache.hadoop.hbase.coprocessor.transactional.TrxRegionEndpoint, org.apache.hadoop.hbase.coprocessor.AggregateImplementation
hbase.hregion.implorg.apache.hadoop.hbase.regionserver.transactional.TransactionalRegion
hbase.regionserver.region.split.policyorg.apache.hadoop.hbase.regionserver.ConstantSizeRegionSplitPolicy 备注: 这个设置将会导致region只会在达到文件最大限制时才会自动分裂。
hbase.snapshot.enabledtrue
hbase.regionserver.region.transactional.hlogfalse
hbase.regionserver.region.transactional.tlogtrue
hdfs.namenode.java.heapsize 仅对CDH适用1073741824 (1GB)
hdfs.secondary.namenode.java.heapsize 仅对CDH适用1073741824 (1GB)
hbase.rpc.timeout10分钟,默认60秒,对于大表需要调高值,需保持和hbase.client.scanner.timeout.peroid一样。调高值会减少超时相关的错误,譬如 OutOfOrderNextException。
hbase.client.scanner.timeout.period10分钟,默认60秒,可以减少大表count(*)或update statistics的超时问题
hbase.snapshot.master.timeoutMillis10分钟,默认60秒,当使用Bulk Loader或与HBase快照相关的超时问题需要调高值
hbase.snapshot.region.timeout10分钟,与上述相同
hbase.hregion.max.filesize107374182400 bytes(100GB),默认10G,增加到100G会减少HBase表的HStoreFiles数目,也会减少因为split造成的影响
hbase.hstore.blockingStoreFiles10
hbase.regionserver.handler.count此设置需要与mxosrvr的并发会话数匹配,默认值是10
Region Server Java Heap Size小型集群(16G),推荐2GB;中型集群(64G),推荐8GB;大型集群(>=128G),推荐16GB
hbase.regionserver.thread.compaction.small磁盘数的一半
hbase.regionserver.thread.compaction.large磁盘数的一半
除了HBase的配置调整,对HDFS配置可能也需要一些调整,主要包括Namenode和Datanode的Heap Size,如下

HDFS参数推荐值备注
Datanode Java Heap Size2GB大型配置中应用,如内存>=128G
Namenode Java Heap Size2GB大型配置中应用,如内存>=128G
Secondary Namenode Java Heap Size2GB大型配置中应用,如内存>=128G
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: