一种正规的性能调优方法：基于等待的调优

　　企业java应用的性能调优是一项艰巨的、有时甚至是徒劳的任务，这是由现代应用的复杂性和缺少正规的调优方法导致的。现代企业应用与十年前的应用相比差距很大，如今这些应用支持多输入、多输出、复杂的框架和业务处理引擎。而十年之前，基于web的企业应用只是通过网络浏览器获得输入信息，然后与数据库或者遗留系统交互进行后台处理，最后把输出结果返回给浏览器(HTML)。现在，输入信息可以来自HTML浏览器、富客户端、移动设备或者网络服务，它可以跨越运行在不同架构下的servlets或者门户容器，这反过来又可能调用企业bean，外部web服务或者把处理委托给业务规则引擎。每一个这样的组件都可能与内容管理系统、缓存层、众多数据库和遗留系统交互。输出的信息通常以独立于展现层的形式保存，随后转化为HTML、XML、WML或者其他任意客户端需要的格式。现代应用比过去包含更多移动部分和“黑盒子”，这对性能调优提出了巨大的挑战。

　　相关厂商内容

　　大型网站数据库架构演变：沃趣科技CEO陈栋

　　优化您的数据库与时间，实现更高性能

　　《白帽子讲Web安全》，“道哥的黑板报”，吴翰清：重新定义WAF

　　虚拟化技术自动化测试环境部署：EMC高级软件工程师邵育亮

　　持续集成与持续交付专家乔梁：近十年实战项目案例之深度剖析

　　相关赞助商

　　QCon全球软件开发大会2013，北京国际会议中心，4月25~27日,最后报名中详情请点击!

　　除了复杂性提高，性能调优技术其艺术性要大于科学性，还因为大多数性能调优指南都侧重于性能指标，有时晦涩难懂，也可能影响用户体验。本文尝试把性能调优活动变成一种“科学”范畴内的行为，提供了一种可重用的关注用户体验的方法，利用“等待点”(也就是应用中引起某请求等待的部分)分析应用架构。总之，基于等待的调优方法允许性能工程师们通过优化用户体验快速实现可度量的性能提高。

　　性能调优过程

　　在详细介绍基于等待调优和等待点分析方法之前，本节首先对有效的性能调优过程做一个概述。性能调优可以简单的概括为四步：

　　负载测试

　　容器调优

　　应用调优

　　迭代

　　像大多数计算机科学一样，性能调优是一个迭代的过程。首先，创建一个合适的负载测试，其中包含了均衡的、具有代表性的服务请求，这都是容器调优实践可以满足的。随着容器被不断调优和测试压力的增大，应用程序的瓶颈逐渐显现出来。随着应用的瓶颈被定位和解决，应用行为会发生变化，这就要求容器再次调优。在容器和应用之间的迭代过程会一直进行到性能到达可以接受的条件(或者直到项目已经到期必须发布时)。

　　负载测试方法

　　启动一个性能调优实践的先决条件是创建一整套合适的负载测试集合。每一个负载测试必须满足以下两点：

　　代表性，必须体现最终用户的业务场景(或期望的场景)

　　均衡性，必须符合最终用户不同行为的比例分配

　　也就是说，负载必须能够按照最终用户的实际操作比例来模拟用户动作。为了说明均衡最终用户动作的重要性，请看下面这个例子：在保险索赔部门，员工执行以下操作：

　　用户上午八点登陆系统。

　　上午每人平均处理五个索赔请求。

　　大约80%的用户忘记在吃饭之前注销账号，导致session过期。

　　午饭后，用户重新登录系统。

　　下午每人平均处理五个索赔申请。

　　下班之前生成两个报告。

　　80%的用户回家前注销账号。

　　这个例子是一个真实应用的简化版，但是它足够在这些服务请求建立一个平衡。这个场景展现的均衡是：两次登陆，十次索赔处理，两次报告和一次注销。

　　如果负载生成器把压力均匀分布在不同的服务请求上又会怎么样呢?在本例中，用户登陆和注销功能会接收与处理与理赔请求相同的负载。如果是1000个并发用户，登陆功能会很快崩溃，导致企业投资建立一个能够处理这种负载的登陆组件，而实际上这种负载根本不会发生。更糟糕的是，本例中由于最大的瓶颈看似存在于登陆功能上，所以调优的努力会侧重该功能，而忽视索赔处理功能。总之，一个非均衡的负载可能导致调优过程错误的关注于支持那些绝不会发生的负载的组件，而不是那些真正需要调优的部分!

　　判断一个负载对于应用是均衡的和代表性的标准，对于测试一个已存在的应用(或者一个新版本)还是一个全新的应用是不同的。

　　已存在应用

　　已存在应用跟一个全新应用相比，一个明显的优点是：真实的用户行为可以在实际生产环境中观察获得。根据请求的本质和它们如何被应用定义，可以通过两个选择定义最终用户行为：

　　访问日志

　　最终用户体验监视器

　　对于大多数基于web的应用来说，访问日志提供了足够的资源分析服务请求的本质和它们的均衡关系。Web服务器可以配置成抓取最终用户请求信息并存储在一 个日志文件中，称之为“访问日志”(因为该文件通常命名为“access.log”)。使用访问日志定位用户行为的关键是应用交互需要能够通过不同的 URI来区分。例如，如果之前例子的动作采用类似“/login.do”、“/processClaim.do”、“/logout.do”的URI，那 么我们可以非常容易的在访问日志中发现这些行为并确定它们的比例。更进一步，通过最频繁的URI来排序访问日志可以快速发现占比例前n%的的若干请求，这 个“n”%应该在80%左右。

　　访问日志是文本文件，可以手动检查(不是一个很有效率的任务)，可以通过编程解析，也可以通过工具来分析。对此有很多商业解决方案，不过Quest Software有一个产品Funnel Web Analyzer，虽然多年以前已经终止开发，但是由于其很受欢迎的命令，公司就作为将其作为自由软件重新发布。Funnel Web Analyzer可以分析大多数访问日志并显示用于创建合适负载测试的信息。

　　一些应用不像上面提到的那样简单，其用户交互无法很容易的通过一个URI来定位。例如，考虑一个包含前端控制器servlet的应用，该servlet接受一个XML有效信息——并且其业务处理逻辑就存在于该信息中。在本例中，需要另外的工具来侦测其有效信息以判断其符合哪个业务场景。这可以通过使用 servlet过滤器或者一个称为最终用户体验监视器的硬件设备来完成。

原文转自：http://www.infoq.com/cn/articles/Wait-Based-Tuning-Steven-Haines