MapReduce 优化(三)效率跟稳定性参数
2018-02-08 16:24
302 查看
效率跟稳定性参数
mapreduce.map.speculative: 是否为 Map Task 打开推测执行机制,默认为 true, 如果为 true,则可以并行执行一些 Map 任务的多个实例。mapreduce.reduce.speculative: 是否为 Reduce Task 打开推测执行机制,默认为 true
mapreduce.input.fileinputformat.split.minsize: FileInputFormat做切片时最小切片大小,默认 1。
mapreduce.input.fileinputformat.split.maxsize: FileInputFormat做切片时最大切片大小
推测执行机制(Speculative Execution):它根据一定的法则推测出“拖后腿”的任务,并为这样的任务启动一个备份任务,让该任务与原始任务同时处理同一份数据,并最终选用最先成功运行完成任务的计算结果作为最终结果。
喜欢就点赞评论+关注吧
感谢阅读,希望能帮助到大家,谢谢大家的支持!
相关文章推荐
- hadoop中mapreduce参数优化
- hadoop mapreduce 参数优化
- MapReduce优化----基本参数的设定
- hadoop的IO和MapReduce优化参数
- MapReduce 优化(一)资源相关参数
- Mapreduce和Yarn概念,参数优化,作用,原理,MapReduce计数器 Counter,MapReduce 多job串联之ControlledJob(来自学习资料)
- hadoop作业调优参数整理及原理(整个mapreduce运行流程都讲的清楚,一步一步优化)
- 我对C++核心类库TAttributeSet在稳定性和效率优化上提出的comment
- Distributed System: MapReduce 可调参数与优化方向
- hadoop mapreduce 端参数优化
- Distributed System: MapReduce 可调参数与优化方向
- hadoop作业调优参数整理及原理(整个mapreduce运行流程都讲的清楚,一步一步优化)
- Distributed System: MapReduce 可调参数与优化方向
- MapReduce优化----参数的解释以及设置
- hadoop参数优化,Mapreduce程序优化,减少运算时间
- Distributed System: MapReduce 可调参数与优化方向
- hadoop的IO和MapReduce优化参数
- Distributed System: MapReduce 可调参数与优化方向
- MapReduce 优化(二)容错相关参数
- Distributed System: MapReduce 可调参数与优化方向