Hadoop任务即将可以运行在Docker容器中
2014-09-07 11:36
267 查看
作者 马德奎 发布于
2014年9月3日 |
近日,Gigaom高级编辑Derrick Harris发表了一篇文章,题为《Hadoop任务即将可以简单又安全地运行在Docker容器中》。文章开头写到,Hadoop初创企业Altiscale将把Docker变成运行Hadoop任务的一个合适环境作为自己的使命,而且已经接近完成。现在,其中最大一项待解决的问题是网络安全。
Raymie Stata是前雅虎CTO,同时也是Artiscale这家Hadoop即服务初创企业的创始成员之一。他和另一位工程师Dinesh
Subhraveti向Harris介绍了他们的这项工作。
据Stata介绍,他们正与Docker社区紧密合作,推动Docker与YARN集成。他认为,这对任何需要应对多租户Hadoop环境的企业而言都很重要。Docker不仅可以提供一种快速、标准的方法向YARN部署应用程序,还可以实现应用程序之间的隔离。这在安全和性能方面都很重要。下面是Docker容器运行应用程序的示意图:
不过,Subhraveti指出,在实现Docker与YARN的集成之前,需要完成一项重大的改进,就是将用户命名空间引入Docker,从而确保具有root级权限的应用程序不会危害主机,使它不安全或者降低其它容器的性能。这项工作可能要到今年年底才能完成,到那时候,Hadoop用户应该就能够在YARN上运行Docker容器,并且不用担心安全问题了。
最近一段时间,关于Docker的讨论比较多。对Docker感兴趣的读者,可以阅读一下Gigaom前段时间发表的另一篇文章《Docker如何抓住开源的理想时机成为云端的宠儿》。
2014年9月3日 |
近日,Gigaom高级编辑Derrick Harris发表了一篇文章,题为《Hadoop任务即将可以简单又安全地运行在Docker容器中》。文章开头写到,Hadoop初创企业Altiscale将把Docker变成运行Hadoop任务的一个合适环境作为自己的使命,而且已经接近完成。现在,其中最大一项待解决的问题是网络安全。
Raymie Stata是前雅虎CTO,同时也是Artiscale这家Hadoop即服务初创企业的创始成员之一。他和另一位工程师Dinesh
Subhraveti向Harris介绍了他们的这项工作。
据Stata介绍,他们正与Docker社区紧密合作,推动Docker与YARN集成。他认为,这对任何需要应对多租户Hadoop环境的企业而言都很重要。Docker不仅可以提供一种快速、标准的方法向YARN部署应用程序,还可以实现应用程序之间的隔离。这在安全和性能方面都很重要。下面是Docker容器运行应用程序的示意图:
不过,Subhraveti指出,在实现Docker与YARN的集成之前,需要完成一项重大的改进,就是将用户命名空间引入Docker,从而确保具有root级权限的应用程序不会危害主机,使它不安全或者降低其它容器的性能。这项工作可能要到今年年底才能完成,到那时候,Hadoop用户应该就能够在YARN上运行Docker容器,并且不用担心安全问题了。
最近一段时间,关于Docker的讨论比较多。对Docker感兴趣的读者,可以阅读一下Gigaom前段时间发表的另一篇文章《Docker如何抓住开源的理想时机成为云端的宠儿》。
相关文章推荐
- hadoop运行任务时出现网络链接异常
- 将eclipse下编译的class文件打包成hadoop集群可以运行的jar包的过程
- hadoop如何处理长时间运行不完成的map/reduce 任务?
- hadoop节点运行的reduce和map任务数
- windows eclipse远程连接hadoop集群并提交任务运行
- at 命令来安排命令、脚本或程序在指定的日期和时间运行。您也可以使用此命令查看现有的计划任务。
- 【问题】spark运行python写的mapreduce任务,hadoop平台报错,java.net.ConnectException: 连接超时
- 解决Hadoop运行jar包时MapReduce任务启动前OutOfMemoryError:Java heap space问题
- hadoop运行任务
- 运行中hadoop任务修改/kill
- Hadoop web项目使用Ajax监控MapReduce任务运行情况
- hadoop任务运行源代码深究
- hadoop的jar命令运行任务方法
- Hadoop运行mapreduce任务过程中报错:Error: Java heap space问题解决
- hadoop运行原理之Job运行(五) 任务调度
- hadoop学习笔记(5)-运行任务(Job)小结:第三方jar包、hadoop jar命令
- hadoop任务运行报错记录
- 【Hadoop】MapReduce笔记(一):MapReduce作业运行过程、任务执行
- hadoop 0.20.2 cdh3u6 运行单节点任务卡死,但不报错,问题分析。
- hadoop本地任务运行过程报临时文件找不到问题排查