【apache-hive-1.2.1】hive中reduce的个数
2016-01-25 00:00
393 查看
hive> select count(1) from serde_regex; Automatically selecting local only mode for query Query ID = hadoop_20160125101917_ab5615a4-e6f1-47e3-9e97-6795c3268cea Total jobs = 1 Launching Job 1 out of 1 Number of reduce tasks determined at compile time: 1 In order to change the average load for a reducer (in bytes): set hive.exec.reducers.bytes.per.reducer=<number> In order to limit the maximum number of reducers: set hive.exec.reducers.max=<number> In order to set a constant number of reducers: set mapreduce.job.reduces=<number>
计算的公式: reduce个数 = InputFileSize / bytes per reducer
有三个参数
hive.exec.reducers.bytes.per.reducer 控制一个reducer能处理多少input。 default 256M
hive> set hive.exec.reducers.bytes.per.reducer; hive.exec.reducers.bytes.per.reducer=256000000
hive.exec.reducers.max 控制最大的reducer数量。如果input / bytes per reduce > max 会启动该参数设定的值,
hive> set hive.exec.reducers.max; hive.exec.reducers.max=1009
mapreduce.reduce.tasks 这个参数指定了,那么不会进行计算了,都会使用这个参数进行计算,
hive> set mapreduce.reduce.tasks; mapred.reduce.tasks=-1
相关文章推荐
- 【apache-hive-1.2.1】local mr
- 源码编译lamp apache启动脚本
- LAMP(Linux+Apache+MySQL+PHP)安装
- 基于Windows的Apache+Git服务器搭建
- 分布式文件存储FastDFS(四)配置fastdfs-apache-module
- Ubuntu apache 虚拟主机配置
- Apache服务器-使用.htaccess实现图片防盗链方法
- Apache 配置屏蔽某些请求头
- macosx下apache的默认用户为daemon
- Apache Commons 工具类介绍及简单使用
- Linux+apache2.4+php5.6环境搭建
- APACHE服务器500错误解决方法
- php.ini+apache配置(持续更新)
- Apache+PHP+MySQL三部曲之:Apache2.4安装详解 - 20160123最新更新
- 在自己机器上实现apache的多域名
- 在自己机器上实现apache的多域名
- apache 安装[转]
- Apache Spark探秘:三种分布式部署方式比较
- Eclipse使用Maven插件创建Web项目时出错:Could not resolve archetype org.apache.maven.archetypes
- Apache HBase 2015年发展回顾与未来展望