hadoop配置文件配置项定义
0. 版本
0.19.2
1. hadoop cluster组成
1.1. HDFS
1.1.1 Name Node (1台)
1.1.2 Secondary Name Node (1台, 可选)
1.1.3 Data Node (若干台)
1.2. MR
1.2.1 Master [JobTracker] (1台)
1.2.2 Slave [TaskTracker] (若干台)
2. 配置文件
2.1 hadoop-default.xml
hadoop集群的默认配置, 通常不需要修改这个配置文件.
2.2 hadoop-site.xml
hadoop集群里面的机器个性化配置文件, 通常在这里指定机器的个性化配置.
3. 配置项
3.1 fs.default.name
定义: Name Node的URI
描述: hdfs://hostname/
3.2 mapred.job.tracker
定义: JobTracker的地址
描述: hostname:port
3.3 dfs.name.dir
定义: Name Node 保存元数据和事务日志的本地目录
描述: 逗号分隔的目录列表用于指定多份数据的冗余备份.
3.4 dfs.data.dir
定义: Data Node 保存块文件的本地目录
描述: 逗号分隔的目录列表指定这些目录用于保存块文件.
3.5 mapred.system.dir
定义: HDFS上MapReduce保存系统文件的目录.
描述:
3.6 mapred.local.dir
定义: 保存MapReduce临时文件的本地目录
描述: 逗号分隔的目录列表用于指定多个目录同时做为临时数据空间
3.7 mapred.tasktracker.{map|reduce}.tasks.maximum
定义: TaskTracker上最多能够同时运行的map/reduce task数目.
描述: 默认map/reduce task数目各为2.
3.8 dfs.hosts/dfs.hosts.exclude
定义: Data Node白名单/黑名单文件
描述:
3.9 mapred.hosts/mapred.hosts.exclude
定义: MapReduce白名单/黑名单文件
描述:
3.10 mapred.queue.names
定义: 队列名
描述: hadoop MapReduce系统默认有一个"default"的Job队列(pool).
3.11 dfs.block.size
定义： hdfs默认块大小
描述： 默认是128M
3.12 dfs.namenode.handler.count
定义： namenode同时和datanode通信的线程数
描述：
3.13 mapred.reduce.parallel.copies
定义： reducer同时从mapper上拉取的文件数
描述：
3.14 mapred.child.java.opts
定义： child jvm的堆大小
描述：
3.15 fs.inmemory.size.mb
定义： reducer在合并map输出数据使用的内存空间
描述： 默认使用200M
3.16 io.sort.factor
定义： 排序因子。同时合并的数据流的数量
描述：
3.17 io.sort.mb
定义： 排序使用的最大内存
描述：
3.18 io.file.buffer.size
定义： 读写文件的缓冲区大小
描述：
3.19 mapred.job.tracker.handler.count
定义： jobtracker同时与tasktracker通信的线程数
描述：
3.20 tasktracker.http.threads
定义： tasktracker开http服务的线程数。用于reduce拉取map输出数据。
描述：
《待续》
阅读(2177) | 评论(1) | 转发(1) |
