您的位置:首页 > 其它

MapReduce 优化(三)效率跟稳定性参数

2018-02-08 16:24 302 查看

效率跟稳定性参数

mapreduce.map.speculative: 是否为 Map Task 打开推测执行机制,默认为 true, 如果为 true,则可以并行执行一些 Map 任务的多个实例。

mapreduce.reduce.speculative: 是否为 Reduce Task 打开推测执行机制,默认为 true

mapreduce.input.fileinputformat.split.minsize: FileInputFormat做切片时最小切片大小,默认 1。

mapreduce.input.fileinputformat.split.maxsize: FileInputFormat做切片时最大切片大小

推测执行机制(Speculative Execution):它根据一定的法则推测出“拖后腿”的任务,并为这样的任务启动一个备份任务,让该任务与原始任务同时处理同一份数据,并最终选用最先成功运行完成任务的计算结果作为最终结果。

喜欢就点赞评论+关注吧



感谢阅读,希望能帮助到大家,谢谢大家的支持!
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签:  mapreduce 优化