大型复杂软件产品持续集成的实践与反思

　　持续集成作为一种敏捷软件开发实践，已经被越来越多的开发者所接受。持续集成倡导开发团队频繁地进行系统集成——通常一天一次到数次，每次集成都能被自动编译和测试验证，从而能在最短的时间内发现问题，缩短开发周期，提高软件质量。

　　笔者面对的是具有十多年开发维护历史的5个相互依赖产品，每个产品均超过百万行代码的复杂系统。集成本身涉及很多烦琐的手工操作，很难实现过程自动化。在实施过程中，受困于软件系统的历史遗留问题，而通常市面上的持续集成工具又不能满足系统的需求，让我们不得不着手开发自己的集成系统。经过近一年的持续努力，终于完成了系统集成的自动化，将集成频度从数周甚至数月集成提高到日集成，大大提高了生产效率。

　　集成的困境

　　OSS系统是我们一个具有十多年生命历程的复杂系统，多年来一直处于不断的开发和维护中，子产品的数目和系统的代码量也随着时间日益增长，集成的周期、发布周期也随之逐渐增长。OSS系统包含有5个需要集成的产品：ComLIB 、DB-Com、Data Broker、DataGen、DataAgent，每个产品均有上百万行源代码和庞大的测试用例，产品可以单独构建，但运行时有相互依赖关系。OSS产品栈如图1所示，上层产品对下层产品具有依赖，部分产品栈亦可以组成一个应用系统，如DataGen+CommonLib可以组成一个应用系统，DataBroker+ DBCom+CommonLib也可以组成一个应用系统。

　　图1 OSS产品栈

　　同时，OSS的每个产品又包含不同的发布单元，用于运行于不同功能服务器上：Control Server、SITE、PAP、Workstation、Application Server和不同的操作系统环境中，产品在不同的服务器上安装单元如表1所示。

　　表1 OSS产品在不同服务器上的安装单元

　　传统手工集成需要完成如下事情：

　　1.从代码库取出产品栈中每个产品需要集成的代码;

　　2.在Build server上对每个产品进行编译，单元测试(每个产品编译需要2~3小时，单元测试需要4~5小时);

　　3.在Package server上对编译好的产品进行打包(每个产品打包需要约1小时);

　　4.在Lab中卸载旧的产品;

　　5.在不同的服务器上(Control Server、Site、Workstation、APP Server)安装产品中相应的产品的相应部件，需要按照产品依赖关系进行安装 (2~3小时);

　　6.检查每个产品的每个部件在Lab环境中的安装情况，确认安装成功;

　　7.运行功能测试脚本做回归测试(10~12小时);

　　8.检查测试结果(3小时);

　　9.对系统进行卸载测试，检查卸载结果 (1~2小时)。

　　如果在此过程中，一旦遇到问题，则需要花费更长的时间。如此昂贵的集成代价使得OSS系统通常数周甚至更长的时间才艰难地进行一次集成。而自动化还要解决多产品、多平台、多种安装和运行环境、多个操作需要人工干预的难题。

　　集成目标

　　持续集成需与自动化结合才能发挥其威力，为给OSS系统瘦身，我们设定了如下自动化持续集成目标：

　　1.在集成服务器上配置cron job，每天晚上进行集成，第二天早上发布结果;

　　2.在集成服务器上配置集成方案，指定所需要的产品栈或子栈，指定所需产品的版本或分支，指定需要进行卸载、安装测试，功能测试的Lab以及Lab里的服务器;

　　3.只需修改少量参数配置，即可以实现不同的持续集成方案。

　　自动化实现

　　通过一系列自动化工具的开发和整合，我们逐步完成了多产品编译、测试、安装、卸载、功能测试等一系列步骤的自动化操作，为了缩短集成时间，我们广泛地采用并行工作，在编译、测试、安装、卸载等多个环节均采用并行，最后实现了成熟的集成系统。

　　1.自动化构建+并行编译

　　首先完成5个产品统一的Daily build。对5个产品采用统一的编译、单元测试、打包接口，利用不同的编译服务器对5个产品同时进行编译，对同一产品的不同编译单元，也采用负荷分担的方式分发到多台服务器上进行并行编译、并行单元测试、并行打包，并对编译、单元测试结果进行统一管理。

　　2.自动化监视

　　通过监视编译、打包、测试过程的输出和进程状态等对编译、打包、测试过程进行监控，发现诸如NFS错误或者编译系统故障之类非代码错误及时取消并重启操作，确保Daily build不会因为编译服务器等异常发生中断。

　　3.自动部署安装

　　利用脚本工具打包好的系统进行自动并行安装，免除手动安装的烦琐操作。当所有待安装的产品都编译、打包完毕后，利用脚本工具将集成后的系统并行安装到多个Lab(每个Lab由一套不同机器的设备组成，包含Control Server、Site、WorkStation、Application Server)，对于同一Lab中的不同机器亦进行并行部署，并对安装日志进行统一管理。

　　4.自动功能测试

　　卸载、安装操作成功后，即对选用的测试用例进行测试，测试用例经过精心挑选，根据功能分为不同的核心单元，周一到周五只运行核心的测试用例，周末时间再运行所有的用例。用例无法在一个Lab一个晚上运行时，则将用例分布配置在多个Lab里面，并行运行。

　　5.结果汇报及存档

　　定点(如早上9:00)对前一天晚上进行的所有操作进行汇报，包括不同产品的编译、打包、测试，不同Lab上不同服务器的卸载、安装结果，不同Lab上功能测试用例通过情况等信息自动以邮件的方式通知开发和测试人员，并将结果存档方便随时查看，对其中的关键数据如测试用例通过率等写于数据库，便于跟踪分析。

　　自动测试统计结果如图2所示。

　　图2 自动测试统计结果

　　6.流程整合和协作

　　流程1~2、5发生在编译服务器群上，流程3~4发生在运行环境Lab群上，需要将1~5流程集成自动化，并且流程间需要相互协作。我们采取集中控制的方式，将1~5所需要脚本工具和配置文件集中放置，这样便于管理和维护，其他服务器通过NFS共享访问脚本工具和配置文件，只需要在其他服务器上配置相关的cron job，便能相互协作起来。协作流程如图3所示。

原文转自：http://www.ltesting.net