【转】Singularity:基于Apache Mesos构建的服务部署和作业调度平台
2015-10-15 22:45
726 查看
Singularity是一个在云基础设施中部署和运行服务和计划作业的平台,同时也是HubSpot PaaS的核心组件。它能够高效地管理底层进程的生命周期,并有效地利用集群资源。它可以作为持续部署基础设施的基本组成部分,而且是微服务部署的理想选择。它不仅能够管理数以百计的服务器上运行着的数以千计的进程,而且还提供了如下开箱即用的特性:
丰富的REST API,既有用于部署的,也有用于获取活动部署和历史部署信息的;
Web应用客户端(Singularity UI)使用上述API向用户提供所有可获得信息的友好视图;
部署失败时自动回滚;
服务本身或者服务器故障时自动实现服务的故障转移;
自动暂停反复失败的服务;
进程和服务端点级别的健康检查;
多实例服务的负载均衡;
日志循环和归档;
针对每个服务实例的资源限制和资源隔离,并能杀死超过限制的实例;
“机架(Rack)”/可用区域识别。
在Apache Mesos的术语中,使用Mesos API在集群中调度任务的Mesos应用程序称为框架。Singularity就是一个Apache Mesos框架,它作为一个任务调度器运行在Mesos集群之上,如下图所示:
从中可以看出,Singularity在一个框架中融合了长期运行任务的调度功能和批处理作业的调度功能,可以支持开发人员需要每天部署的许多常见进程类型,包括:
Web服务:长期运行的进程;
工作进程:长期运行的进程,类似Web服务,但不暴露API,比如Queue Consumer就是一种常见的工作进程类型;
计划作业:周期性运行的任务;
按需执行的进程:需要手动执行的进程。
Mesos框架有两个主要组件:调度器组件和执行器组件,前者注册到Mesos主进程用于分配资源,后者由Mesos从属进程在集群从节点上启动并运行框架任务。Mesos主进程决定为每个框架分配多少资源,框架调度器选取提供的部分资源用于运行所需的任务。Mesos从属进程并不直接运行任务,而是委派给合适的执行器来运行。Singularity实现了这两个基本的框架组件,并且还提供了日志查看器、S3上传器、执行器清理、OOM进程清除、Singularity UI、Singularity Java Client等组件。
此外,借助请求对象和部署对象,Singularity在Mesos任务之上提供了一个面向部署的层。其中,请求对象定义一个可部署项,而部署对象定义一个可部署项的执行参数。要想了解所有Singularity端点及相应请求和响应对象的完整描述,请查看Singularity API参考。
最后,对Singularity感兴趣的读者可以查看针对测试和开发的本地安装文档以及Singularity部署示例,以了解更多的细节。还有一点不得不提一下,就是Singularity的路线上图上有支持Docker容器部署一项。
丰富的REST API,既有用于部署的,也有用于获取活动部署和历史部署信息的;
Web应用客户端(Singularity UI)使用上述API向用户提供所有可获得信息的友好视图;
部署失败时自动回滚;
服务本身或者服务器故障时自动实现服务的故障转移;
自动暂停反复失败的服务;
进程和服务端点级别的健康检查;
多实例服务的负载均衡;
日志循环和归档;
针对每个服务实例的资源限制和资源隔离,并能杀死超过限制的实例;
“机架(Rack)”/可用区域识别。
在Apache Mesos的术语中,使用Mesos API在集群中调度任务的Mesos应用程序称为框架。Singularity就是一个Apache Mesos框架,它作为一个任务调度器运行在Mesos集群之上,如下图所示:
从中可以看出,Singularity在一个框架中融合了长期运行任务的调度功能和批处理作业的调度功能,可以支持开发人员需要每天部署的许多常见进程类型,包括:
Web服务:长期运行的进程;
工作进程:长期运行的进程,类似Web服务,但不暴露API,比如Queue Consumer就是一种常见的工作进程类型;
计划作业:周期性运行的任务;
按需执行的进程:需要手动执行的进程。
Mesos框架有两个主要组件:调度器组件和执行器组件,前者注册到Mesos主进程用于分配资源,后者由Mesos从属进程在集群从节点上启动并运行框架任务。Mesos主进程决定为每个框架分配多少资源,框架调度器选取提供的部分资源用于运行所需的任务。Mesos从属进程并不直接运行任务,而是委派给合适的执行器来运行。Singularity实现了这两个基本的框架组件,并且还提供了日志查看器、S3上传器、执行器清理、OOM进程清除、Singularity UI、Singularity Java Client等组件。
此外,借助请求对象和部署对象,Singularity在Mesos任务之上提供了一个面向部署的层。其中,请求对象定义一个可部署项,而部署对象定义一个可部署项的执行参数。要想了解所有Singularity端点及相应请求和响应对象的完整描述,请查看Singularity API参考。
最后,对Singularity感兴趣的读者可以查看针对测试和开发的本地安装文档以及Singularity部署示例,以了解更多的细节。还有一点不得不提一下,就是Singularity的路线上图上有支持Docker容器部署一项。
相关文章推荐
- 基于Mesos和Docker的分布式计算平台
- Apache Mesos make errors
- 安装mesos,报错:cannot find libsasl2【解决】
- 在MacOs上配置Mesos+Zookeeper
- 在CentOs7上配置Mesos+Zookeeper
- Mesos实战总结
- 大数据:通过Mesos、Docker和Go,使用300行代码创建一个分布式系统
- 优秀开源组合:助你快速研发
- Mesosphere Cluster on CentOS7 (zookeeper+mesos+marathon)
- prometheus+grafana+docker 监控tomcat jvm
- mesos+docker+marathon
- Mesos+Marathon docker 集群管理
- Centos7安装Mesos
- 在使用mesos framework中遇到的一个问题
- mesos安装
- Apache Mesos 官方文档 V1.0
- zookeeper+mesos+marathon+docker里面的一些小功能实现
- 基于mesos环境安装chronos
- centos7中mesos+zookeeper+marathon安装部署全过程
- 如何利用Mesos持久化存储方案部署ArangoDB 集群