Java性能优化权威指南

　　

　　本书由曾任职于Oracle/Sun的性能优化专家编写，系统而详细地讲解了性能优化的各个方面，帮助你学习Java虚拟机的基本原理、掌握一些监控Java程序性能的工具，从而快速找到程序中的性能瓶颈，并有效改善程序的运行性能。
　　Java性能优化的任何问题，都可以从本书中找到答案！

　　《Java性能优化专业指南》是Java应用性能调优的圣经，内容通俗易懂，介绍了大量的监控和测量工具，涉及各种硬件架构和操作系统。涵盖了如何构建实验、解释结果以及如何采取行动等技巧。

　　“本书是Java性能优化的圣经！如果你是一个细节控，那么这本书正适合你。”
　　——James Gosling，Java之父
　　
　　“《Java性能优化专业指南》是Java应用性能优化的必备参考书。它由Oracle/Sun的性能优化专家编写，系统而详细地讲解了性能优化的各个方面，从底层的操作系统及JVM的原理与监控工具，到性能测试技巧，再到上层应用框架优化。如果有Java性能优化的疑问，请先从本书开始寻找答案，无论新手老手都能从中收益。”
　　——莫枢，JVM开发工程师，Azul Systems
　　
　　“要对Java程序做性能优化，不仅要对应用的代码实现有足够的了解，还需要对更底层的OS、JVM有较深的了解。这本书介绍了Java程序员也需要掌握的OS、JVM层面的很多知识，更吸引人的是这本书的作者结合自己的经验，为大家总结了一些性能优化的模式，例如CPU利用率高的时候需要怎么进行优化，这些模式让人受益匪浅，相信读过后能对大家日常工作中做性能优化提供不小的帮助。”
　　——林昊，阿里巴巴技术专家
　　
　　“长期以来，一些人对Java存在一种偏见，认为Java程序存在运行性能低下的缺点。本书由浅入深地介绍了对于Java程序进行性能优化的各种工具和方法，帮助你学习Java虚拟机的基本原理、掌握一些监控Java程序性能的工具，从而快速找到程序中的性能瓶颈，并有效改善程序的运行性能。读过本书，人们将能够消除对Java程序性能的偏见，让Java真正展现出强大魅力。”
　　——李凡希，阿里巴巴资深研发工程师
　　
　　“性能优化是一门非常实战性的技术，本书正是这样一本非常具有实战指导意义的作品。该书涵盖了Java应用、Web应用、EJB等若干不同场景下的性能分析、监控、优化的上佳实践和工具，具有相当的广度，同时该书也绝不是工具和数据的堆砌，书中对很多底层细节有着深入和细致的介绍和分析，比如GC、JIT等JVM的基本原理，都体现了作者的技术深度。通读本书能让你更好地理解Java，并洞察和解决潜在的性能问题。”
　　——邹飞，Google资深软件工程师、技术经理

第1章　策略、方法和方法论　　
1.1 　性能问题的现状　　
1.2 　性能分析的两种方法：自顶向下和自底向上　　
1.2.1 　自顶向下　　
1.2.2 　自底向上　　
1.3 　选择正确的平台并评估系统性能　　
1.3.1 　选择正确的CPU架构　　
1.3.2 　评估系统性能　　
1.4 　参考资料　　

第2章　操作系统性能监控　　
2.1 　定义　　
2.2 　CPU使用率　　
2.2.1 　监控CPU使用率：Windows　　
2.2.2 　监控CPU使用率：Windows typeperf　　
2.2.3 　监控CPU使用率：Linux　　
2.2.4 　监控CPU使用率：Solaris　　
2.2.5 　命令行监控CPU使用率：Linux和Solaris　　
2.3 　CPU调度程序运行队列　　
2.3.1 　监控CPU调度程序运行队列：Windows　　
2.3.2 　监控CPU调度程序运行队列：Solaris　　
2.3.3 　监控CPU调度程序运行队列：Linux　　
2.4 　内存使用率　　
2.4.1 　监控内存利用率：Windows　　
2.4.2 　监控内存使用率：Solaris　　
2.4.3 　监控内存使用率：Linux　　
2.4.4 　监控锁竞争：Solaris　　
2.4.5 　监控锁竞争：Linux　　
2.4.6 　监控锁竞争：Windows　　
2.4.7 　隔离竞争锁　　
2.4.8 　监控抢占式上下文切换　　
2.4.9 　监控线程迁移　　
2.5 　网络I/O使用率　　
2.5.1 　监控网络I/O使用率：Solaris　　
2.5.2 　监控网络I/O使用率：Linux　　
2.5.3 　监控网络I/O使用率：Windows　　
2.5.4 　应用性能改进的考虑　　
2.6 　磁盘I/O使用率　　
2.7 　其他命令行工具　　
2.8 　监控CPU使用率：SPARC T系列系统　　
2.9 　参考资料　　

第3章　JVM概览　　
3.1 　HotSpot VM的基本架构　　
3.2 　HotSpot VM运行时　　
3.2.1 　命令行选项　　
3.2.2 　VM生命周期　　
3.2.3 　VM类加载　　
3.2.4 　字节码验证　　
3.2.5 　类数据共享　　
3.2.6 　解释器　　
3.2.7 　异常处理　　
3.2.8 　同步　　
3.2.9 　线程管理　　
3.2.10 　C++堆管理　　
3.2.11 　Java本地接口　　
3.2.12 　VM致命错误处理　　
3.3 　HotSpot VM垃圾收集器　　
3.3.1 　分代垃圾收集　　
3.3.2 　新生代　　
3.3.3 　快速内存分配　　
3.3.4 　垃圾收集器　　
3.3.5 　Serial收集器　　
3.3.6 　Parallel收集器：吞吐量为先！　　
3.3.7　　Mostly-Concurrent收集器：低延迟为先！　　
3.3.8　　Garbage-First收集器：CMS替代者　　
3.3.9 　垃圾收集器比较　　
3.3.10 　应用程序对垃圾收集器的影响　　
3.3.11 　简单回顾收集器历史　　
3.4 　HotSpot VM JIT编译器　　
3.4.1 　类型继承关系分析　　
3.4.2 　编译策略　　
3.4.3 　逆优化　　
3.4.4 　Client JIT编译器概览　　
3.4.5 　Server JIT编译器概览　　
3.4.6 　静态单赋值--程序依赖图　　
3.4.7 　未来增强展望　　
3.5 　HotSpot VM自适应调优　　
3.5.1 　Java 1.4.2的默认值　　
3.5.2 　Java 5自动优化的默认值　　
3.5.3 　Java 6 Update 18更新后的默认优化值　　
3.5.4 　自适应Java堆调整　　
3.5.5 　超越自动优化　　
3.6 　参考资料　　

第4章　JVM性能监控　　
4.1 　定义　　
4.2 　垃圾收集　　
4.2.1 　重要的垃圾收集数据　　
4.2.2 　垃圾收集报告　　
4.2.3 　垃圾收集数据的离线分析　　
4.2.4 　图形化工具　　
4.3 　JIT编译器　　
4.4 　类加载　　
4.5 　Java应用监控　　
4.6 　参考资料　　

第5章　Java应用性能分析　　
5.1 　术语　　
5.1.1 　通用性能分析术语　　
5.1.2 　Oracle Solaris Studio Performance Analyzer术语　　
5.1.3 　NetBeans Profiler术语　　
5.2 　Oracle Solaris Studio Performance Analyzer　　
5.2.1 　支持平台　　
5.2.2 　下载/安装Oracle Solaris Studio Performance Analyzer　　
5.2.3 　使用Oracle Solaris Studio Performance Analyzer 抓取性能数据　　
5.2.4 　查看性能数据　　
5.2.5 　数据表示　　
5.2.6 　过滤性能数据　　
5.2.7 　命令行工具er_print　　
5.3 　NetBeans Profiler　　
5.3.1 　支持平台　　
5.3.2 　下载安装NetBeans Profiler　　
5.3.3 　开始方法分析会话　　
5.3.4 　Controls子面板　　
5.3.5 　Status子面板　　
5.3.6 　Profiling Results子面板　　
5.3.7 　Saved Snapshots子面板　　
5.3.8 　View子面板　　
5.3.9 　Basic Telemetry子面板　　
5.3.10 　查看动态结果　　
5.3.11 　对结果进行快照　　
5.3.12 　启动内存分析会话　　
5.3.13 　查看实时结果　　
5.3.14 　对结果进行快照　　
5.3.15 　定位内存泄漏　　
5.3.16 　分析堆转储　　
5.4 　参考资料　　

第6章　Java应用性能分析技巧　　
6.1 　性能优化机会　　
6.2 　系统或内核态CPU使用　　
6.3 　锁竞争　　
6.4 　Volatile的使用　　
6.5 　调整数据结构的大小　　
6.5.1 　StringBuilder或StringBuffer大小的调整　　
6.5.2 　Java Collection类大小调整　　
6.6 　增加并行性　　
6.7 　过高的CPU使用率　　
6.8 　其他有用的分析提示　　
6.9 　参考资料　　

第7章　JVM性能调优入门　　
7.1 　方法　　
7.1.1 　假设条件　　
7.1.2 　测试基础设施需求　　
7.2 　应用程序的系统需求　　
7.2.1 　可用性　　
7.2.2 　可管理性　　
7.2.3 　吞吐量　　
7.2.4 　延迟及响应性　　
7.2.5 　内存占用　　
7.2.6 　启动时间　　
7.3 　对系统需求分级　　
7.4 　选择JVM部署模式　　
7.4.1 　单JVM部署模式　　
7.4.2 　多JVM部署模式　　
7.4.3 　通用建议　　
7.5 　选择JVM运行模式　　
7.5.1 　Client模式或Server模式　　
7.5.2 　32位/64位 JVM　　
7.5.3 　垃圾收集器　　
7.6 　垃圾收集调优基础　　
7.6.1 　性能属性　　
7.6.2 　原则　　
7.6.3 　命令行选项及GC日志　　
7.7 　确定内存占用　　
7.7.1 　约束　　
7.7.2 　HotSpot VM堆的布局　　
7.7.3 　堆大小调优着眼点　　
7.7.4 　计算活跃数据大小　　
7.7.5 　初始堆空间大小配置　　
7.7.6 　其他考量因素　　
7.8 　调优延迟/响应性　　
7.8.1 　输入　　
7.8.2 　优化新生代的大小　　
7.8.3 　优化老年代的大小　　
7.8.4 　为CMS调优延迟　　
7.8.5 　Survivor空间介绍　　
7.8.6 　解析晋升阈值　　
7.8.7 　监控晋升阈值　　
7.8.8 　调整Survivor空间的容量　　
7.8.9 　显式的垃圾收集　　
7.8.10 　并发永久代垃圾收集　　
7.8.11 　调优CMS停顿时间　　
7.8.12 　下一步　　
7.9 　应用程序吞吐量调优　　
7.9.1 　CMS吞吐量调优　　
7.9.2 　Throughput收集器调优　　
7.9.3 　Survivor空间调优　　
7.9.4 　调优并行垃圾收集线程　　
7.9.5 　在NUMA系统上部署　　
7.9.6 　下一步　　
7.10 　极端示例　　
7.11 　其他性能命令行选项　　
7.11.1 　实验性（最近最大）优化　　
7.11.2 　逃逸分析　　
7.11.3 　偏向锁　　
7.11.4 　大页面支持　　
7.12 　参考资料　　

第8章　Java应用的基准测试　　
8.1 　基准测试所面临的挑战　　
8.1.1 　基准测试的预热阶段　　
8.1.2 　垃圾收集　　
8.1.3 　使用Java Time接口　　
8.1.4 　剔除无效代码　　
8.1.5 　内联　　
8.1.6 　逆优化　　
8.1.7 　创建微基准测试的注意事项　　
8.2 　实验设计　　
8.3 　使用统计方法　　
8.3.1 　计算均值　　
8.3.2 　计算标准差　　
8.3.3 　计算置信区间　　
8.3.4 　使用假设测试　　
8.3.5 　使用统计方法的注意事项　　
8.4 　参考文献　　
8.5 　参考资料　　

第9章　多层应用的基准测试　　
9.1 　基准测试难题　　
9.2 　企业级应用基准测试的考量　　
9.2.1 　定义被测系统　　
9.2.2 　制定微基准测试　　
9.2.3 　定义用户交互模型　　
9.2.4 　定义性能指标　　
9.2.5 　扩展基准测试　　
9.2.6 　用利特尔法则验证　　
9.2.7 　思考时间　　
9.2.8 　扩展性分析　　
9.2.9 　运行基准测试　　
9.3 　应用服务器监控　　
9.3.1 　GlassFish监控　　
9.3.2 　监控子系统　　
9.3.3 　Solaris　　
9.3.4 　Linux　　
9.3.5 　Windows　　
9.3.6 　外部系统的性能　　
9.3.7 　磁盘I/O　　
9.3.8 　监控和调优资源池　　
9.4 　企业级应用性能分析　　
9.5 　参考资料　　

第10章　Web应用的性能调优　　
10.1 　Web应用的基准测试　　
10.2 　Web容器的组件　　
10.2.1 　HTTP连接器　　
10.2.2 　Servlet引擎　　
10.3 　Web容器的监控和性能调优　　
10.3.1 　容器的开发和生产模式　　
10.3.2 　安全管理器　　
10.3.3 　JVM调优　　
10.3.4 　HTTP服务和Web容器　　
10.3.5 　HTTP监听器　　
10.4 　最佳实践　　
10.4.1 　Servlet和JSP最佳实践　　
10.4.2 　内容缓存　　
10.4.3 　会话持久化　　
10.4.4 　HTTP服务器文件缓存　　
10.5 　参考资料　　

第11章　Web Service的性能　　
11.1 　XML的性能　　
11.1.1 　XML处理的生命周期　　
11.1.2 　解析/解编组　　
11.1.3 　访问　　
11.1.4 　修改　　
11.1.5 　序列化/编组　　
11.2 　验证　　
11.3 　解析外部实体　　
11.4 　XML文档的局部处理　　
11.5 　选择合适的API　　
11.6 　JAX-WS参考实现栈　　
11.7 　Web Service基准测试　　
11.8 　影响Web Service性能的因素　　
11.8.1 　消息大小的影响　　
11.8.2 　不同Schema类型的性能特征　　
11.8.3 　终端服务器的实现　　
11.8.4 　处理程序的性能　　
11.9 　最佳性能实践　　
11.9.1 　二进制负载的处理　　
11.9.2 　处理XML文档　　
11.9.3 　使用MTOM发送XML文档　　
11.9.4 　使用Provider接口　　
11.9.5 　快速信息集　　
11.9.6 　HTTP压缩　　
11.9.7 　Web Service客户端的性能　　
11.10 　参考资料　　

第12章　Java持久化及Enterprise Java Bean的性能　　
12.1 　EJB编程模型　　
12.2 　Java持久化API及其参考实现　　
12.3 　监控及调优EJB容器　　
12.3.1 　线程池　　
12.3.2 　Bean池和缓存　　
12.3.3 　EclipseLink会话缓存　　
12.4 　事务隔离级　　
12.5 　Enterprise Java Bean的最佳实践　　
12.5.1 　简要说明使用的EJB基准测试　　
12.5.2 　EJB 2.1　　
12.5.3 　EJB 3.0　　
12.6 　Java持久化最佳实践　　
12.6.1 　JPA查询语言中的查询　　
12.6.2 　查询结果缓存　　
12.6.3 　FetchType　　
12.6.4 　连接池　　
12.6.5 　批量更新　　
12.6.6 　选择正确的数据库锁策略　　
12.6.7 　不带事务的读取　　
12.6.8 　继承　　
12.7 　参考资料　　
附录A 　重要的HotSpot VM选项　　
附录B 　性能分析技巧示例源代码　　
B.1 　锁竞争实现1　　
B.2 　锁竞争实现2　　
B.3 　锁竞争实现3　　
B.4 　锁竞争实现4　　
B.5 　锁竞争实现5　　
B.6 　调整容量变化1　　
B.7 　调整容量变化2　　
B.8 　增加并发性的单线程实现　　
B.9 　增加并发性的多线程实现

2.4.6监控锁竞争：Windows
与Solaris和Linux相比，Windows的内建工具难以监控Java锁竞争。Windows的性能计数器（包括Performance Monitor和typeperf）可以监控上下文切换，但无法区分让步和抢占式上下文切换。Windows上监控Java锁竞争，通常需要外部工具，例如Intel VTune或AMD CodeAnalyst。这些工具既可以监控其他性能统计数据和CPU性能计数器，也能分析Java锁。
2.4.7隔离竞争锁
在Java源代码中追查竞争锁历来都是难题。要想找到Java应用中的竞争锁，通常是定期转储线程，查找那些可能在多个线程中因共享锁而被阻塞的线程。这个过程的示例详见第4章。
Oracle Solaris Studio Performance Analyzer可以在Linux和Solaris上使用，是本书作者用过最好的隔离和报告Java锁竞争的工具之一。第5章详细介绍如何用Performance Analyzer查找Java应用中的竞争锁，示例详见第6章。
其他性能分析工具也可以找出Windows上的竞争锁。功能和Oracle Solaris Studio PerformanceAnalyzer相近的还有Intel VTune和AMD CodeAnalyst。
2.4.8监控抢占式上下文切换
前文提到了抢占式上下文切换以及它与让步式上下文切换之间的不同，不过没有详细解释。让步式上下文切换是指执行线程主动释放CPU，抢占式上下文切换是指线程因为分配的时间片用尽而被迫放弃CPU或者被其他优先级更高的线程所抢占。Solaris上mpstat的icsw列可以查看抢占式上下文切换。

　　欢迎翻开这本Java性能调优指南！
　　本书主要为Java SE和Java EE应用的性能调优提供建议。具体来说包括以下几方面：性能监控、性能分析、Java HotSpot VM（以下简称HotSpot VM）调优、高效的基准测试以及Java EE应用的性能调优。虽然近些年出版过几本Java性能方面的书，但覆盖面像本书这样广的并不多见。本书的主题涵盖了诸如现代Java虚拟机的内部运作机制、垃圾收集的调优、Java EE应用的性能调优以及如何编写卓有成效的基准测试。
　　通读本书后，读者可以深入了解Java性能调优的许多主题。读者也可以把本书作为参考，对于感兴趣的主题，直接跳到相应章节寻找答案。
　　对于Java性能调优的新手或者自认为初学的读者来说，最好先读前4章，然后可依据自己的Java性能调优问题，进一步阅读特定的主题或章节，这样收获最大。对于有经验的读者，他们知道基本的性能调优方法，了解HotSpot VM内部的基本原理，还会使用一些工具监控操作系统和JVM的性能，因此可以直接跳到与手头性能调优问题相关的章节，这样的效果更好。不过，即便是掌握Java性能调优高级技巧的读者，也仍然能从前4章中受益。
　　纵览本书，没有一招鲜式的性能调优秘笈或包罗万象的性能百科，能让你摇身一变成为老练的Java性能调优专家。相当数量的Java性能问题还需要专门的知识技能才能解决。性能调优在很大程度上是一门艺术。解决的Java性能问题越多，技艺才会越精湛。Java性能调优技术仍在不断演变中，5年前最普遍的Java性能问题，现在已经不是大家最关心的问题了。现代JVM持续演进，内建了更为成熟的优化技术、运行时技术和垃圾收集器。与此同时，底层的硬件平台和操作系统也在演化。本书包含了至编写时为止的最新内容，阅读和理解这些内容可以大大增强读者的Java性能调优能力，为调优艺术的登堂入室奠定基础。有了坚实的基础，性能调优的功力就会像日新月异的硬件平台、操作系统和JVM一样突飞猛进。
　　下面简单介绍一下各章的主要内容。
　　第1章“策略、方法和方法论”，介绍了Java性能调优实践中的各种方法、策略和方法论，并对传统软件开发过程提出了改进建议，即在软件开发中应该提前考虑软件应用的性能和可扩展性。
　　第2章“操作系统性能监控”讨论了操作系统的性能监控，介绍了操作系统中重要的监控统计信息，以及如何用工具监控这些统计信息。本章涉及的操作系统包括Windows、Linux及Oracle Solaris。在其他基于Unix的系统（例如Mac OS X）上监控性能统计信息时，可使用与Linux或Oracle Solaris相同或类似的命令。
　　第3章“JVM概览”，高屋建瓴地介绍了HotSpot VM，描述了现代Java虚拟机架构和运转的基本概念，并为后续的诸多章节奠定了基础。本章没有覆盖所有的Java性能调优问题，也没有提供Java性能问题所需的全部背景知识。但对于绝大多数与现代Java虚拟机内部机制密切相关的性能问题，本章提供了足够多的背景知识。结合第7章的内容，有助于你领会如何进行HotSpot VM调优，本章也有助于理解第8、9章的主题，即如何编写高效的基准测试。
　　第4章“JVM性能监控”，顾名思义，涵盖了JVM性能监控的相关内容，介绍了重点需要监控的JVM统计数据，以及监控这些统计数据的工具。本章最后指出，这些工具扩展之后可以一并监控JVM和Java应用的统计数据。
　　第5章“Java应用性能分析”与第6章“Java应用性能分析技巧”讲述性能分析。这两章可看成第2章和第4章性能监控的补充。性能监控通常用来考察是否存在性能问题，或者为定位性能问题提供线索，告诉人们问题是出在操作系统、JVM、Java应用程序还是其他地方。一旦发现性能问题，并进一步通过性能监控定位之后，通常就能进行性能分析了。第5章介绍分析Java方法和Java堆（内存）的基本技术，还推荐了一些免费工具来说明这几种性能分析技术背后所蕴藏的概念。本章提及的工具并不是性能分析仅有的手段，还有许多商业或者免费的工具也能提供类似的功能，其中一些工具的功能甚至超出了第5章涉及的技术范围。第6章提供了一些技巧，用来识别一些常见的性能分析模式，这些模式指示了一些特定类型的性能问题。本章所列的经验和技巧并不完整，却是作者在多年Java性能调优过程中经常碰到的。附录B中包含了第6章大部分示例的源代码。
　　第7章“JVM性能调优入门”，涵盖了HotSpot VM性能调优的诸多方面，包括启动、内存占用、响应时间/延迟以及吞吐量。第7章介绍了调优的一系列步骤，包括选择哪个JIT编译器，选用何种垃圾收集器，怎样调整Java堆，以及如何改动应用程序以符合干系人设定的性能目标。对于大多数读者来说，第7章可能是本书中最有用和最值得参考的章节。
　　第8章“Java应用的基准测试”和第9章“多层应用的基准测试”，探讨如何编写高效的基准测试。通常来说，基准测试是通过应用程序的功能子集来衡量Java应用的性能。这两章还将展示创建高效Java基准测试的艺术。第8章涵盖了与编写高效基准测试相关的较通用的主题，例如探讨现代JVM的一些优化方法，还介绍了如何在基准测试中运用统计方法以增强基准测试的准确性。第9章则重点关注如何编写高效的Java EE基准测试。
　　有些读者对Java EE应用的性能调优特别感兴趣，第10章“Web应用的性能调优”、第11章“Web Service的性能”及第12章“Java持久化和Enterprise Java Bean的性能”，分别着重介绍了Web应用、Web Service、持久化及Enterprise Java Bean的性能分析。这3章会深入分析Java EE应用中常遇到的性能问题，并为常见的Java EE性能问题提供建议或解决方案。
　　本书还有两个附录。附录A“重要的HotSpot VM选项”列举了本书所用到的HotSpot VM选项和其他重要的HotSpot VM性能调优选项，并描述了每个选项的含义，对何时可以使用这些选项给出了建议。附录B“性能分析技巧示例源代码”包含了第6章示例的源代码，涉及减少锁竞争、调整Java 集合（Collection）的初始容量以及增加并行性。