您的位置:首页 > 编程语言 > Python开发

python hadoop 在streaming中获取文件名的方法 (参考java )适用: MRjob

2013-11-06 11:46 405 查看
在hadoop的开发中,经常要根据streaming中不同的文件名做不同的处理,需要获取文件名。

1,hadoop上在java开发可用:

FileSplit fileSplit = (FileSplit)reporter.getInputSplit();
String fileName = fileSplit.getPath().getName();

来获取文件名称。

,2,同样python开发时,可以用:

来获取文件名:

import os

os.environ["map_input_file"]

这里的 map_input_file 相当于map.input.file

参考:

http://stackoverflow.com/questions/11434850/how-to-get-the-name-of-input-file-in-mrjob/11437781#11437781
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: