fair调度器slot的配置
2014-05-04 21:39
274 查看
slot,它是资源基本单位。每个TaskTracker上配有一定的map slot(通过参数mapred.tasktracker.map.tasks.maximum配置)和reduce slot(通过参数mapred.tasktracker.reduce.tasks.maximum配置),分别用于运行map task和reduce task。
比如一个TaskTracker上配有5个map slot和5个reduce slot,则说明该节点上最多可以同时运行5个map task和5个reduce task。具体每个节点上配置几个slot,完全是你根据节点的资源配置决定。比如一个节点是8核40G内存,你可以设置10个map
slot和4个reduce slot(通常而言,map slot与reduce slot总数是核数的1~2倍,但还要考虑具体应用,比如你的作业全是大内存的,可能要考虑内存够不够用)。
TaskTracker周期性通过心跳向JobTracker汇报自己的状态,包括:空闲slot数,task运行情况,磁盘使用情况等,JobTracker收到心跳信息后,会按照一定的策略为该节点分配一个或者多个task。
对于Fair Scheduler而言,可通过参数mapred.fairscheduler.assignmultiple配置是否一次分配多个task。 通常而言,对于每个心跳,JobTracker最多为对应TaskTracker分配一个task,但你可通过将该参数设置为true以让它一次分配尽可能多的task。
比如一个TaskTracker上配有5个map slot和5个reduce slot,则说明该节点上最多可以同时运行5个map task和5个reduce task。具体每个节点上配置几个slot,完全是你根据节点的资源配置决定。比如一个节点是8核40G内存,你可以设置10个map
slot和4个reduce slot(通常而言,map slot与reduce slot总数是核数的1~2倍,但还要考虑具体应用,比如你的作业全是大内存的,可能要考虑内存够不够用)。
TaskTracker周期性通过心跳向JobTracker汇报自己的状态,包括:空闲slot数,task运行情况,磁盘使用情况等,JobTracker收到心跳信息后,会按照一定的策略为该节点分配一个或者多个task。
对于Fair Scheduler而言,可通过参数mapred.fairscheduler.assignmultiple配置是否一次分配多个task。 通常而言,对于每个心跳,JobTracker最多为对应TaskTracker分配一个task,但你可通过将该参数设置为true以让它一次分配尽可能多的task。
相关文章推荐
- hdu2473Junk-Mail Filter
- uva10494 - If We Were a Child Again
- weblogic管理1——创建 和 删除一个domain
- leetcode第一刷_Submission Details
- hdu 4720 Naive and Silly Muggles(几何)
- HDU 4720 Naive and Silly Muggles(几何)
- Thunder bird 不能使用gmail邮箱发送邮件 stml 报错
- Launch failed,Binary not found
- 人工智能(二)--基于规则的专家系统
- RAID类型及软RAID的组建
- Failed to receive access token原因
- Mairadb Galera iptables配置,需要开启的端口号
- Aizu 2325 Mysterious Maze
- Aizu 2325 Mysterious Maze
- $_SERVER['SERVER_SUBDOMAIN'],自定义$_SERVER变量
- usaco 4.2.1 Drainage Ditches
- [杭电]A + B Again
- grails的criteria和hql查询
- VS20013 多重继承类,重载CStatic的OnPaint崩溃
- kamailio,asteisk,realtime 实现负载均衡(集群)完整配置笔记