使用Hadoop Streaming
2015-08-02 09:52
218 查看
hadoop大家都了解的,不再细说。之前用java写过MR程序,对Hadoop streaming了解不多,Hadoop streaming是和Hadoop一起发布的实用程序,它允许用户创建和执行使用任何程序或者脚本编写的map或者reduce的mapreduce jobs,实际工作中看到不少同学用python、shell、Perl等编写Hadoop streaming程序(开发效率确实高)。在运行 Hadoop streaming时需要设置一些参数,这些参数的设置对程序运行起着重要的作用。互联网时代,上网搜下确实有很多有关Hadoop streaming使用的案例、讲解,因此不在这多此一举,索性把感觉有用的资料列举一下:
1,首先当然是Hadoop官网上的文档了:
https://hadoop.apache.org/docs/r1.2.1/streaming.html (英文)
http://hadoop.apache.org/docs/r1.0.4/cn/streaming.html (中文)
2,其它资料
http://dongxicheng.org/mapreduce/hadoop-streaming-programming/
http://blog.sina.com.cn/s/blog_61c463090100pj2y.html
http://www.cnblogs.com/joyeecheung/p/3841952.html
1,首先当然是Hadoop官网上的文档了:
https://hadoop.apache.org/docs/r1.2.1/streaming.html (英文)
http://hadoop.apache.org/docs/r1.0.4/cn/streaming.html (中文)
2,其它资料
http://dongxicheng.org/mapreduce/hadoop-streaming-programming/
http://blog.sina.com.cn/s/blog_61c463090100pj2y.html
http://www.cnblogs.com/joyeecheung/p/3841952.html
相关文章推荐
- dlopen 方式调用 Linux 的动态链接库
- Linux 下动态链接库 *.so(生成、调用)
- LAMP网站架构方案分析
- hdu 5336 XYZ and Drops
- Nginx切割日志管理简单说明
- 阿里云如何添加多个网站 for Linux(绑定域名)
- 移植好uboot和基于initramfs根文件系统Linux内核的开发板的启动过程
- opencv+vs2008实现canny边缘检测与hough变换检测直线并用红线在原图标出直线
- hadoop fs -mkdir testdata错误 提示No such file or directory
- yarn架构-概述
- docker中建立私有git服务器[gitlab]
- linux下gtk+一个将字符串大写化的小示例
- linux下gtk+一个将字符串大写化的小示例
- linux下gtk+一个将字符串大写化的小示例
- Linux 初体验之基础篇
- 加快网站访问速度
- Linux命令小技巧
- hadoop伪分布式配置及遇到的问题
- APACHE2.X 禁止服务器IP直接访问
- saltstack自动部署apache实例