您的位置:首页 > 运维架构

hadoop job运行问题解决

2014-02-14 15:22 357 查看
问题现象:
job提交后总是在本地机器运行,不能提交到hadoop job tracker,在
http://192.168.1.130:50030/jobtracker.jsp,不能看到运行中的job。
在控制台输出中出现:
14/02/15 00:04:20 INFO mapred.LocalJobRunner: reduce > sort
原因分析:
第一次尝试:
将原来使用的默认new Configuration()替换为从配置文件得到,使用以下类
public class ConfigurationUtil {
private static Configuration conf = null;
public static final String USER_DIR = System.getProperty("user.dir");
public static final String FILE_SEPARATOR = System
.getProperty("file.separator");

public static Configuration getConf() {
if (conf == null) {
conf = new Configuration();
String pathCore = USER_DIR + FILE_SEPARATOR + "config.xml";
System.out.println(pathCore);
conf.addResource(new Path(pathCore));
// String hostIp = "192.168.1.130";
// conf.set("hadoop.job.ugi", "hadoop");
// conf.set("hadoop.job.user", "hadoop");
// conf.set("mapred.job.tracker", hostIp + ":9001");
// conf.set("fs.default.name", "hdfs://namenode.meritit.com:9000");
// conf.set("mapred.map.tasks", "2");
}
return conf;
}

public static void main(String args[]) {
System.out.println(getConf().get("hadoop.job.user"));
}
}
完成后问题解决!
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: 
相关文章推荐