DevOps实践-打造自服务持续交付 -下
2017-09-02 14:07
411 查看
非常感谢您继续阅读下半部分,如果您还没有阅读上半部分,建议先去阅读以获取更多的上下文。上半部分主要讲DevOps转型的动机、策略和方法,本部分将会为大家带来更多DevOps转型的落地策略和实践。
我们来看看我们给持续交付流水线赋予了哪些能力:
站在交付团队的视角,我们决定将基础设施构建,流水线构建,部署等活动都代码化,与应用代码放在同一个代码仓库中。
交付团队都通过提高自己代码到仓库后,通过持续集成工具创建流水线。
接着会自动出发构建,静态检查,测试覆盖率校测,代码规范验证等任务,最终输出构建产物并将构建产物推送到仓库。
然后会根据交付团队对基础设施和环境的定义去到当前要部署的网络环境中去创建或更改虚拟机、网络、存储方式等
最后,当基础设施创建成功以后,就会去仓库下载指定版本的构建产物进行最终的部署活动。
但需要注意的是:
为了持续优化交付流程,我们对开发的许多活动进行的数据收集和分析,以报表的形式去分析展示代码提交频率,系统和代码的质量情况,缺陷和构建情况等,帮组团队找到自己的瓶颈或问题。
帮助团队能够实时监控自己应用的运行状态,设计和查看不同纬度的日志总汇等
那我们来看看通过什么技术可以实现这样持续交付流程:
我们选择了一种轻量级、低耦合的技术组合Ansible+Jenkins+AWS. 我认为其核心是Ansible。
下面我们来看看Ansible可以帮助我们做些什么:
创建和更改AWS中的资源
自动化部署和基础设施测试
建立开发与平台团队之间的沟通体系
考虑到基于yaml语法的Ansible配置简洁且易读,所有我们选择直接用它作为提供给交付团队的公有DSL模板,利用Ansible Playbook的模块化思想将开发团队的职责和平台退队的职责很清晰的分离,平台团队关注Ansible提供给交付团队的服务是否满足需求和DSL模板是否易用,而交付团队只用关注如何基于公有DSL去定制自己的基础设施,环境依赖和部署等。
于此同时也满足了很多开发对于Ansible和AWS的情趣和热情,更使得之后在交付团队落地变得更容易。
接下来通过一个实例来看看:
(点击放大图像)
左边是Platform团队的仓库,这个仓库里面包含了创建基础设施、环境配置和部署的实现。
右边是交付团队的仓库,其中deployment目录下,是公有的DSL模板,其中有不同环境的配置和创建基础设施,部署应用的DSL。
那他们是怎么样相互知晓、相互配合的呢?
(点击放大图像)
他们会在持续集成流水线中被动态组合到一起:
在创建基础设施和部署的时候会去分别拉取基础设施代码库和应用代码库。
此时应用代码为调用入库,公有基础设施为功能框架库,两者配合,完场环境的创建和应用部署。
在做微服务的团队,接受度非常高,能够快速上手,而且甚至有团队因为自身的一些需求,自己去写一些Ansible模块,让后向我们发起pull request。
当然,我们在推广这套流程的过程中发现,一些实践能够帮助我们更快速落地:
DevOps团队的成员由各交付团队和原运维团队组成,这样的组成方式,能够保证团队的视角可以关注到整个持续交付过程的每个环节
交付团队成员与DevOps团队成员定期轮岗制,DevOps小组中的文化(如自动化优先)可以蔓延开,让交付团队更快适应
结对、Showcase和培训,主要目的是知识的传递,让更多地团队逐步采用新的交付模式,得到更多改进中的反馈。
提供给交付团队的自服务代码仓库对每个人开放,交付团队被授权优化、新增基础设施,让DevOps文化和职责落地到交付流程中
现在来看,集中式、审批式、被动响应请求的中央运维团队不再是整个交付流程中依赖和瓶颈,以基本转向带自服务化、审查式、主动优化的去中心化交付团队:
(点击放大图像)
我们通过技术驱动改进,让团队之间的合作方式发生了巨大改变,开发与运维之间的那到墙也渐渐消失,以前被动响应请求中央运维团队逐步被平台团队所替代,平台团队中一部分人会负责基础设施平台的发展,负责公有云与企业内部系统的对接、完善安全、灾备、提供基础设施的自服务机制,另一部分人会为产品团队提供可定制的工作、平台、并未产品团队赋能。这时交付团队开始管理自己的环境、维护流水线、负责生产环境变更。
在推广和落地自服务持续交付流程的过程中,我们也遇到了很多遗留系统和复杂部署应用的交付团队,他们无法直接对接这套交付流程。
例如有一个40-50人的团队,它是基于AEM开发整个公司所有的前端门户,AEM是Adobe公司的CMS系统,其安装和部署很复杂,以前都是通过手工安装和拷贝的方式进行部署,而且他们在开发-》测试-》部署阶段可能会动态扩张多套环境来支持,且每次代码变更的提交都会对对已经安装的AEM进行修改、配置、重启等操作。
整个开发和测试流程都很复杂,而且效率很低,出现问题和故障的风险也很大,如果我们直接利用Ansible把AEM的安装和部署过程都自动化,由于AEM本身部署的复杂性,可以预见以后这部分更新和维护的工作还是很难交由交付团队自治。所以我们第一步要做的就是为其设计新的持续交付流水线,然后在这个流程中去定义和识别两个团队的职责和关注中心,最后再通过打造高效的自服务使整个交付流程得到改进。
首先我们根据校服团队提交变更的平率,从低到高依次定义了三条持续集成流水线(如下图):
创建和测试基础设施资源
配置基础设施资源和环境
部署应用程
(点击放大图像)
因为AEM安装和更新的很复杂,所以我们引入了镜像技术。基础设施和基础设施配置两条流水线的产物为一个image,应用流水线在部署阶段会去检查是否存在新的环境镜像,如果存在,就会基于快速创建一个新的AEM环境,然后进行应用代码的部署。
通过新的自动化持续交付流水线大大加速了AEM团队的开发和测试速度,也使得整个环境更加可控和易维护。对于交付团队来说,他们可以自己去维护包括基础设施、环境变更和应用部署等全生命周期交付活动。对于Platform团队来说,只用去考虑镜像的生命周期管理,如果去优化镜像的创建速度等,这些可以帮助到更多其它团队解决类似问题的领域。对于这种特殊情况,我们尽管引入很多与大多数团队不同的交付流程和技术,但所有的工作和优化都是基于之前打造的自服务持续交付流程,协议和工具平台之上的,保证了不同的交付团队与Platform的配合方式的一致性。
(点击放大图像)
所有好的实践都必须考虑规模化的问题,如果无法大规模的被接受和落地,再好的实践也没用。对于咱们这个转型的过程,我也给出一个套路:(如下图)
(点击放大图像)
有了套路,接下来总结一下应用这个套路,进行DevOps转型过程中的一些经验和思考:
易用的通用DSL模板设计,提供交付与Platform团队统一的DSL模板(build and update anything)。
构建通用持续交付流水框架,提供给交付团队定制化流水线的能力,使流水线主要关注点始终在产品成功的交付。
以技术驱动DevOps文化大面积传播,让Platform团队成员走入交付团队,协作改进、知识传递,确保实践落地。
将一切自动化、自服务化。交付团队应该被授权优化、新增基础设施服务,让DevOps能力和职责在交付团队落地生根。
最后,我提取了5点对我们来说非常重要的策略或是推进方法:
小步快跑,在有大方向的基础上,需要讲每一步改变都设计得足够小,这样才能足够快的区改进。
交付团队赋能,给每个人都留一扇门,在他意识到要做些事情的时候,可以很快付诸行动。
逐步用基础设施自服务化替代运维部门的审批流程。
建立持续反馈和改进机制。
以DevOps团队为杠杆,撬动更大范围自服务交付。
非常感谢您的耐心阅读,希望我们的文章能够带给你哪怕一点点启示。
四.实践过程
下图是我们为团队设计的持续交付流水线,目的是让Platform团队和交付团队之间的触点都能够嵌入到流水线中,并以基础设施即代码的来沟通,通过自动化的方式实现开发与运维的连接。我们来看看我们给持续交付流水线赋予了哪些能力:
站在交付团队的视角,我们决定将基础设施构建,流水线构建,部署等活动都代码化,与应用代码放在同一个代码仓库中。
交付团队都通过提高自己代码到仓库后,通过持续集成工具创建流水线。
接着会自动出发构建,静态检查,测试覆盖率校测,代码规范验证等任务,最终输出构建产物并将构建产物推送到仓库。
然后会根据交付团队对基础设施和环境的定义去到当前要部署的网络环境中去创建或更改虚拟机、网络、存储方式等
最后,当基础设施创建成功以后,就会去仓库下载指定版本的构建产物进行最终的部署活动。
但需要注意的是:
为了持续优化交付流程,我们对开发的许多活动进行的数据收集和分析,以报表的形式去分析展示代码提交频率,系统和代码的质量情况,缺陷和构建情况等,帮组团队找到自己的瓶颈或问题。
帮助团队能够实时监控自己应用的运行状态,设计和查看不同纬度的日志总汇等
那我们来看看通过什么技术可以实现这样持续交付流程:
我们选择了一种轻量级、低耦合的技术组合Ansible+Jenkins+AWS. 我认为其核心是Ansible。
下面我们来看看Ansible可以帮助我们做些什么:
创建和更改AWS中的资源
自动化部署和基础设施测试
建立开发与平台团队之间的沟通体系
考虑到基于yaml语法的Ansible配置简洁且易读,所有我们选择直接用它作为提供给交付团队的公有DSL模板,利用Ansible Playbook的模块化思想将开发团队的职责和平台退队的职责很清晰的分离,平台团队关注Ansible提供给交付团队的服务是否满足需求和DSL模板是否易用,而交付团队只用关注如何基于公有DSL去定制自己的基础设施,环境依赖和部署等。
于此同时也满足了很多开发对于Ansible和AWS的情趣和热情,更使得之后在交付团队落地变得更容易。
接下来通过一个实例来看看:
(点击放大图像)
左边是Platform团队的仓库,这个仓库里面包含了创建基础设施、环境配置和部署的实现。
右边是交付团队的仓库,其中deployment目录下,是公有的DSL模板,其中有不同环境的配置和创建基础设施,部署应用的DSL。
那他们是怎么样相互知晓、相互配合的呢?
(点击放大图像)
他们会在持续集成流水线中被动态组合到一起:
在创建基础设施和部署的时候会去分别拉取基础设施代码库和应用代码库。
此时应用代码为调用入库,公有基础设施为功能框架库,两者配合,完场环境的创建和应用部署。
在做微服务的团队,接受度非常高,能够快速上手,而且甚至有团队因为自身的一些需求,自己去写一些Ansible模块,让后向我们发起pull request。
当然,我们在推广这套流程的过程中发现,一些实践能够帮助我们更快速落地:
DevOps团队的成员由各交付团队和原运维团队组成,这样的组成方式,能够保证团队的视角可以关注到整个持续交付过程的每个环节
交付团队成员与DevOps团队成员定期轮岗制,DevOps小组中的文化(如自动化优先)可以蔓延开,让交付团队更快适应
结对、Showcase和培训,主要目的是知识的传递,让更多地团队逐步采用新的交付模式,得到更多改进中的反馈。
提供给交付团队的自服务代码仓库对每个人开放,交付团队被授权优化、新增基础设施,让DevOps文化和职责落地到交付流程中
现在来看,集中式、审批式、被动响应请求的中央运维团队不再是整个交付流程中依赖和瓶颈,以基本转向带自服务化、审查式、主动优化的去中心化交付团队:
(点击放大图像)
我们通过技术驱动改进,让团队之间的合作方式发生了巨大改变,开发与运维之间的那到墙也渐渐消失,以前被动响应请求中央运维团队逐步被平台团队所替代,平台团队中一部分人会负责基础设施平台的发展,负责公有云与企业内部系统的对接、完善安全、灾备、提供基础设施的自服务机制,另一部分人会为产品团队提供可定制的工作、平台、并未产品团队赋能。这时交付团队开始管理自己的环境、维护流水线、负责生产环境变更。
在推广和落地自服务持续交付流程的过程中,我们也遇到了很多遗留系统和复杂部署应用的交付团队,他们无法直接对接这套交付流程。
例如有一个40-50人的团队,它是基于AEM开发整个公司所有的前端门户,AEM是Adobe公司的CMS系统,其安装和部署很复杂,以前都是通过手工安装和拷贝的方式进行部署,而且他们在开发-》测试-》部署阶段可能会动态扩张多套环境来支持,且每次代码变更的提交都会对对已经安装的AEM进行修改、配置、重启等操作。
整个开发和测试流程都很复杂,而且效率很低,出现问题和故障的风险也很大,如果我们直接利用Ansible把AEM的安装和部署过程都自动化,由于AEM本身部署的复杂性,可以预见以后这部分更新和维护的工作还是很难交由交付团队自治。所以我们第一步要做的就是为其设计新的持续交付流水线,然后在这个流程中去定义和识别两个团队的职责和关注中心,最后再通过打造高效的自服务使整个交付流程得到改进。
首先我们根据校服团队提交变更的平率,从低到高依次定义了三条持续集成流水线(如下图):
创建和测试基础设施资源
配置基础设施资源和环境
部署应用程
(点击放大图像)
因为AEM安装和更新的很复杂,所以我们引入了镜像技术。基础设施和基础设施配置两条流水线的产物为一个image,应用流水线在部署阶段会去检查是否存在新的环境镜像,如果存在,就会基于快速创建一个新的AEM环境,然后进行应用代码的部署。
通过新的自动化持续交付流水线大大加速了AEM团队的开发和测试速度,也使得整个环境更加可控和易维护。对于交付团队来说,他们可以自己去维护包括基础设施、环境变更和应用部署等全生命周期交付活动。对于Platform团队来说,只用去考虑镜像的生命周期管理,如果去优化镜像的创建速度等,这些可以帮助到更多其它团队解决类似问题的领域。对于这种特殊情况,我们尽管引入很多与大多数团队不同的交付流程和技术,但所有的工作和优化都是基于之前打造的自服务持续交付流程,协议和工具平台之上的,保证了不同的交付团队与Platform的配合方式的一致性。
五.实践启示
通过在大量交付团队落地基于自服务的持续交付流程,我们更加清晰了两种团队的职责:(点击放大图像)
所有好的实践都必须考虑规模化的问题,如果无法大规模的被接受和落地,再好的实践也没用。对于咱们这个转型的过程,我也给出一个套路:(如下图)
(点击放大图像)
有了套路,接下来总结一下应用这个套路,进行DevOps转型过程中的一些经验和思考:
易用的通用DSL模板设计,提供交付与Platform团队统一的DSL模板(build and update anything)。
构建通用持续交付流水框架,提供给交付团队定制化流水线的能力,使流水线主要关注点始终在产品成功的交付。
以技术驱动DevOps文化大面积传播,让Platform团队成员走入交付团队,协作改进、知识传递,确保实践落地。
将一切自动化、自服务化。交付团队应该被授权优化、新增基础设施服务,让DevOps能力和职责在交付团队落地生根。
最后,我提取了5点对我们来说非常重要的策略或是推进方法:
小步快跑,在有大方向的基础上,需要讲每一步改变都设计得足够小,这样才能足够快的区改进。
交付团队赋能,给每个人都留一扇门,在他意识到要做些事情的时候,可以很快付诸行动。
逐步用基础设施自服务化替代运维部门的审批流程。
建立持续反馈和改进机制。
以DevOps团队为杠杆,撬动更大范围自服务交付。
非常感谢您的耐心阅读,希望我们的文章能够带给你哪怕一点点启示。
相关文章推荐
- DevOps实践-打造自服务持续交付-上
- 联想企业网盘:SaaS服务集群化持续交付实践
- DevOps 实战:百度持续交付体系与最佳实践大解密(多图)
- 【案例】思科的5人DevOps 团队是如何打造千万工件级别,5中心持续交付平台的?
- devops [持续交付实践] 开篇:持续集成&持续交付综述
- 打造真正的One Team,持续快速交付价值——阿里文娱广告团队敏捷实践
- devops [持续交付实践] 基于 sonarqube 的代码检查平台实现
- 产品经理人的持续交付和DevOps实践
- 如何让GIS公有云持续部署、高效交付?来看SuperMap Online的DevOps实践!
- 打造DevOps持续交付高速公路
- 产品迭代发布如何更快速?阿里持续集成与持续交付实践之路全解析
- 构建DevOps落地的自动化持续交付流水线的工具链
- 关于《在Windows与.NET平台上的持续交付实践》的问答录
- 基于容器服务的持续集成与云端交付(二)- 多维度打磨交付能力
- 基于Docker持续交付平台建设的实践
- Android Studio 集成 TFS,实现安卓移动开发的持续集成和交付(DevOps)
- 来自京东、宅急送对微服务编排、API网关、持续集成的实践分享(下)
- 持续交付之应用标准化模型与实践
- Docker学习总结(14)——从代码到上线, 云端Docker化持续交付实践
- Docker学习总结(7)——云端基于Docker的微服务与持续交付实践