您的位置:首页 > 运维架构

使用Hadoop Streaming

2015-08-02 09:52 218 查看
hadoop大家都了解的,不再细说。之前用java写过MR程序,对Hadoop streaming了解不多,Hadoop streaming是和Hadoop一起发布的实用程序,它允许用户创建和执行使用任何程序或者脚本编写的map或者reduce的mapreduce jobs,实际工作中看到不少同学用python、shell、Perl等编写Hadoop streaming程序(开发效率确实高)。在运行 Hadoop streaming时需要设置一些参数,这些参数的设置对程序运行起着重要的作用。互联网时代,上网搜下确实有很多有关Hadoop streaming使用的案例、讲解,因此不在这多此一举,索性把感觉有用的资料列举一下:

1,首先当然是Hadoop官网上的文档了:

https://hadoop.apache.org/docs/r1.2.1/streaming.html (英文)

http://hadoop.apache.org/docs/r1.0.4/cn/streaming.html (中文)

2,其它资料

http://dongxicheng.org/mapreduce/hadoop-streaming-programming/

http://blog.sina.com.cn/s/blog_61c463090100pj2y.html

http://www.cnblogs.com/joyeecheung/p/3841952.html
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: