MapReduce的Job性能调优
2013-11-06 21:03
211 查看
最近在学习如何对Job的性能调优,大概主要有以下几点:
一、通过combiner来减少网络流量
二、map与reduce的数量
三、减少小文件的输入
四、调整拉取map结果的线程数
五、使用压缩
六、重用JVM
七、尽量让reduce merge发生在内存
八、根据猜测执行来运行
九、代码重构与算法重写
十、设置noatime
默认情况下,linux会把文件访问的时间atime做记录,不过一般情况下我们是不需要这些访问时间的,因此,我们可以使用noatime和nodiratime来减少对I/O的写操作!
这里先列一个框架先,等有空了再一一补上!!!
一、通过combiner来减少网络流量
二、map与reduce的数量
三、减少小文件的输入
四、调整拉取map结果的线程数
五、使用压缩
六、重用JVM
七、尽量让reduce merge发生在内存
八、根据猜测执行来运行
九、代码重构与算法重写
十、设置noatime
默认情况下,linux会把文件访问的时间atime做记录,不过一般情况下我们是不需要这些访问时间的,因此,我们可以使用noatime和nodiratime来减少对I/O的写操作!
这里先列一个框架先,等有空了再一一补上!!!
相关文章推荐
- php获取客户端ip get_client_ip()
- 网络扫描技术揭秘读书笔记3-TCP/UDP端口扫描器设计原理
- SCOM2012功能测试(8)—创建端口监视
- Fedora9安装中文输入法
- mingw的安装
- 博文开始,梦想启航
- 实验8
- HDU-1540 Tunnel Warfare
- 守卫者的挑战-(概率dp)Poetize系列
- 网站压力测试工具,不用安装,在线进行【强烈推荐】
- 策略模式+反射
- 老徐FrankXuLei受邀为 @IGT中国研发中心 讲授《WCF分布式开发与SOA架构设计》课程
- 学习opencv----.../opencv/cxcore/inclue/cxtype.h
- ISO8583报文工具类(组装和解析报文)
- hdu 3395 Special Fish(费用流//KM匹配)
- 黑马程序员——java基础之数组与集合之间的点点滴滴
- 红黑树(RBTree)之删除结点图解
- ps调整图片大小,像素大小
- E. Vasya and Beautiful Arrays
- MyEclipse8.5 默认工作空间的设置