hdfs常用的端口配置
2016-03-10 09:44
405 查看
常用的端口配置
1、 HDFS端口
2、 MR端口
3 其它端口
3、三个缺省配置参考文件说明
3.1 core-default.html
3.2 hdfs-default.html/mapred-default.html
1、 HDFS端口
参数 | 描述 | 默认 | 配置文件 | 例子值 |
fs.default.name namenode | namenode RPC交互端口 | 8020 | core-site.xml | hdfs://master:8020/ |
dfs.http.address | NameNode web管理端口 | 50070 | hdfs- site.xml | 0.0.0.0:50070 |
dfs.datanode.address | datanode 控制端口 | 50010 | hdfs -site.xml | 0.0.0.0:50010 |
dfs.datanode.ipc.address | datanode的RPC服务器地址和端口 | 50020 | hdfs-site.xml | 0.0.0.0:50020 |
dfs.datanode.http.address | datanode的HTTP服务器和端口 | 50075 | hdfs-site.xml | 0.0.0.0:50075 |
参数 | 描述 | 默认 | 配置文件 | 例子值 |
mapred.job.tracker | job-tracker交互端口 | 8021 | mapred-site.xml | hdfs://master:8021/ |
job | tracker的web管理端口 | 50030 | mapred-site.xml | 0.0.0.0:50030 |
mapred.task.tracker.http.address | task-tracker的HTTP端口 | 50060 | mapred-site.xml | 0.0.0.0:50060 |
参数 | 描述 | 默认 | 配置文件 | 例子值 |
dfs.secondary.http.address | secondary NameNode web管理端口 | 50090 | hdfs-site.xml | 0.0.0.0:50090 |
3.1 core-default.html
参数名 | 参数值 | 参数说明 |
hadoop.tmp.dir | /tmp/hadoop-${user.name} | 临时目录设定 |
hadoop.native.lib | true | 使用本地hadoop库标识。 |
io.file.buffer.size | 4096 | 流文件的缓冲区为4K |
fs.default.name | file:/// | 缺省的文件URI标识设定。 |
参数名 | 参数值 | 参数说明 |
dfs.namenode.logging.level | info | 输出日志类型 |
dfs.secondary.http.address | 0.0.0.0:50090 | 备份名称节点的http协议访问地址与端口 |
dfs.datanode.handler.count | 3 | 数据节点的服务连接处理线程数 |
dfs.name.dir | ${hadoop.tmp.dir}/dfs/name | 存贮在本地的名字节点数据镜象的目录,作为名字节点的冗余备份 |
dfs.data.dir | ${hadoop.tmp.dir}/dfs/data | 数据节点的块本地存放目录 |
mapred.local.dir | ${hadoop.tmp.dir}/mapred/local | MR的中介数据文件存放目录 |
mapred.system.dir | ${hadoop.tmp.dir}/mapred/system | MR的控制文件存放目录 |
mapred.temp.dir | ${hadoop.tmp.dir}/mapred/temp | MR临时共享文件存放区 |
mapred.map.tasks | 2 | 每个作业缺省的map任务数为2 |
mapred.reduce.tasks | 1 | 每个作业缺省的reduce任务数为1 |
相关文章推荐
- HDFS缓存集中管理特性:Centralized Cache Management
- HDFS下载文件报错!
- HDFS源码分析之DataXceiver
- HDFS源码分析之DataXceiverServer
- HDFS-HA的搭建
- HDFS路径问题
- Kafka+Storm+HDFS整合实践
- spark将计算结果写入到hdfs的两种方法
- hadoop搭建
- HDFS的API操作
- hdfs简介(一)
- HDFS小文件问题及解决方案
- hdfs 查看文件分布所属块
- hadoop2.7.2 HA搭建
- hadoop2.7.2 联邦配置文件
- hdfs脚本介绍
- HDFS原理分析(一)—— 基本概念
- 值得一提:关于 HDFS 的 file size 和 block size
- HIVE系列(5)HIVE 数据源文件 本地文件、hdfs文件加载,hql 统计电商tb 每年订单最畅销商品
- MPP VS HADOOP场景分析