阅读文章

中国最有钱的国营王筱惠高中第一章 免费 美团对 Java 新一代垃圾回收器 ZGC 的探索与实践

[ 来源:http://fanatraditionalsteam.com | 作者:网友 | 时间:2020-08-12

GIAC 全球互联网架构大会 2020 将于 8 月 14 - 15 日在深圳举行,本届 GIAC 议题共设置有 24 个专题,大会包含进化中的Java(出品人: 杨晓峰)以及 架构演进(出品人: 郝学武)等专题,对大会感兴趣的同学,点击阅读原文查看 GIAC 详细日程。

</ dependency>

案例四:服务启动后,运行时间越长,单次GC时间越长,重启后恢复

阻塞内存分配请求触发:当垃圾来不及回收,垃圾将堆占满时,会导致部分线程阻塞。我们应当避免出现这种触发方式。日志中关键字是“Allocation Stall”。

CMS与G1停顿时间瓶颈

兼容性风险:Java程序JAR包依赖很多,升级JDK版本后程序是否能运行起来。例如我们的服务是从JDK 7升级到JDK 11,需要解决较多JAR包不兼容的问题。

Object o = obj.FieldA // 从堆中读取引用,需要加入屏障

Object p = o // 无需加入屏障,因为不是从堆中读取引用

基于固定时间间隔:通过ZCollectionInterval控制,适合应对突增流量场景。流量平稳变化时,自适应算法可能在堆使用率达到95%以上才触发GC。流量突增时,自适应算法触发的时机可能会过晚,导致部分线程阻塞。我们通过调整此参数解决流量突增场景的问题,比如定时活动、秒杀等场景。日志中关键字是“Timer”。

-XX: UnlockDiagnosticVMOptions -XX:-ZProactive

</ dependency>

读屏障示例:

GC时,初始转移:日志中Pause Relocate Start。

作者简介

| 读屏障是JVM向应用代码插入一小段代码的技术。当应用线程从堆中读取对象引用时,就会执行这段代码。需要注意的是,仅“从堆中读取对象引用”才会触发这段代码。

升级JDK 11不仅仅是升级自己项目的JDK版本,还需要编译、发布部署、运行、监控、性能内存分析工具等项目支持。美团内部的实践:

ZGC仅支持64位系统,它把64位虚拟地址空间划分为多个子空间,如下图所示:

-Xms10G -Xmx10G

ZGC只有三个STW阶段: 初始标记, 再标记, 初始转移。其中,初始标记和初始转移分别都只需要扫描所有GC Roots,其处理时间和GC Roots的数量成正比,一般情况耗时非常短;再标记阶段STW时间很短,最多1ms,超过1ms则再次进入并发标记阶段。即,ZGC几乎所有暂停都只依赖于GC Roots集合大小,停顿时间不会随着堆的大小或者活跃对象的大小而增加。与ZGC对比,G1的转移阶段完全STW的,且停顿时间随存活对象的大小增加而增加。

< artifactId> netty-all </ artifactId>

性能内存分析:线上遇到性能问题时,还需要借助Profiling工具,美团的性能诊断优化平台Scalpel已支持JDK 11的性能内存分析。如果你的公司没有相关工具,推荐使用JProfier。

案例三:单次GC停顿时间30ms,与预期停顿10ms左右有较大差距

< version> 4.12 </ version>

预热规则:服务刚启动时出现,一般不需要关注。日志中关键字是“Warmup”。

预热规则:服务刚启动时出现,一般不需要关注。日志中关键字是“Warmup”。

解决组件兼容性

复制阶段停顿分析

安全点:所有线程进入到安全点后才能进行GC,ZGC定期进入安全点判断是否需要GC。先进入安全点的线程需要等待后进入安全点的线程直到所有线程挂起。

并发标记阶段:并发标记阶段是指从GC Roots开始对堆中对象进行可达性分析,找出存活对象。该阶段是并发的,即应用线程和GC线程可以同时活动。并发标记耗时相对长很多,但因为不是STW,所以我们不太关心该阶段耗时的长短。

这里主要指升级所需要的人力成本。此项相对比较成熟,根据新技术的使用手册判断改动点。跟做其他项目区别不大,不再具体细说。

标记阶段,即从GC Roots集合开始,标记活跃对象;

评估风险

延迟降低

理解ZGC日志

G1的混合回收过程可以分为标记阶段、清理阶段和复制阶段。

-XX: UnlockExperimentalVMOptions -XX: UseZGC

< version> 4.1.39.Final </ version>

GC之痛:介绍实际业务中遇到的GC痛点,并分析CMS收集器和G1收集器停顿时间瓶颈;

-XX: UnlockDiagnosticVMOptions -XX:-ZProactive:是否启用主动回收,默认开启,这里的配置表示关闭。

调优基础知识

ZGC有多种GC触发机制,总结如下:

< dependency>

总结

外部触发:代码中显式调用System.gc触发。日志中关键字是“System.gc”。

从实际案例聊聊Java应用的GC优化

解决方法:增大-XX:ConcGCThreads,加快并发标记和回收速度。ConcGCThreads默认值是核数的1/8,8核机器,默认值是1。该参数影响系统吞吐,如果GC间隔时间大于GC周期,不建议调整该参数。

在我们的实践中,两周时间完成线上部署,达到安全稳定运行的状态。后续持续迭代3个月,根据业务场景对ZGC进行了更契合的优化适配。

参考文献

< groupId> com.sankuai.inf </ groupId>

主动触发规则:类似于固定间隔规则,但时间间隔不固定,是ZGC自行算出来的时机,我们的服务因为已经加了基于固定时间间隔的触发机制,所以通过-ZProactive参数将该功能关闭,以免GC频繁,影响服务可用性。日志中关键字是“Proactive”。

线上运行 & 全量部署:要求线上机器已安装JDK 11,有3种方式:

< groupId> javax.validation </ groupId>

TP999:下降12~142ms,下降幅度18%~74%。

对吞吐量优先的场景,ZGC可能并不适合。例如,Zeus某离线集群原先使用CMS,升级ZGC后,系统吞吐量明显降低。究其原因有二:第一,ZGC是单代垃圾回收器,而CMS是分代垃圾回收器。单代垃圾回收器每次处理的对象更多,更耗费CPU资源;第二,ZGC使用读屏障中国最有钱的国营王筱惠高中第一章 免费,读屏障操作需耗费额外的计算资源。

2. 熟悉分布式系统和架构中国最有钱的国营王筱惠高中第一章 免费,对高性能、高可用架构的最佳实践以及设计原则有理解。

与上述地址空间划分相对应中国最有钱的国营王筱惠高中第一章 免费,ZGC实际仅使用64位地址空间的第0~41位中国最有钱的国营王筱惠高中第一章 免费,而第42~45位存储元数据中国最有钱的国营王筱惠高中第一章 免费,第47~63位固定为0。

< groupId> junit </ groupId>

</ dependency>

初始标记阶段: 初始标记阶段是指从GC Roots出发标记全部直接子节点的过程中国最有钱的国营王筱惠高中第一章 免费,该阶段是STW的。由于GC Roots数量不多中国最有钱的国营王筱惠高中第一章 免费,通常该阶段耗时非常短。

注意:该日志过滤了进入安全点的信息。正常情况中国最有钱的国营王筱惠高中第一章 免费,在一次GC过程中还穿插着进入安全点的操作。

欢迎发送简历至:sunny.fang@dianping.com。邮件主题请注明(城市-美团技术团队公众号)

Zeus在升级JDK 11 ZGC中中国最有钱的国营王筱惠高中第一章 免费,通过将风险和问题分类中国最有钱的国营王筱惠高中第一章 免费,然后各个击破中国最有钱的国营王筱惠高中第一章 免费,最终顺利实现了升级目标中国最有钱的国营王筱惠高中第一章 免费,GC停顿也几乎不再影响系统可用性。

调优案例

在介绍ZGC之前中国最有钱的国营王筱惠高中第一章 免费,首先回顾一下CMS和G1的GC过程以及停顿时间的瓶颈。CMS新生代的Young GC、G1和ZGC都基于标记-复制算法中国最有钱的国营王筱惠高中第一章 免费,但算法具体实现的不同就导致了巨大的性能差异。

6. 具备大规模、高吞吐量的系统开发实践经验。

从两个源OpenJDK和OracleJDK下载JDK 11中国最有钱的国营王筱惠高中第一章 免费,二个版本的JDK主要区别是长时期的免费和付费,短期内都免费。注意JDK 11版本中的ZGC不支持Mac OS系统,在Mac OS系统上使用JDK 11只能用其他垃圾回收器,如G1。

全并发的ZGC

我们在实战过程中共发现了6种使程序停顿的场景,分别如下:

o.dosomething // 无需加入屏障,因为不是从堆中读取引用

本地测试环境安装

| TP(Top Percentile)是一项衡量系统延迟的指标:TP999表示99.9%请求都能被响应的最小耗时;TP99表示99%请求都能被响应的最小耗时。

ZGC关键技术

ZGC垃圾回收周期如下图所示:

升级ZGC效果

并发标记阶段:并发标记阶段是指从GC Roots开始对堆中对象进行可达性分析,找出存活对象。该阶段是并发的,即应用线程和GC线程可以同时活动。并发标记耗时相对长很多,但因为不是STW,所以我们不太关心该阶段耗时的长短。

< version> 1.2.1 </ version>

< dependency>

分析:GC触发及时,但内存标记和回收速度过慢,引起内存分配阻塞,导致停顿。

在生产环境升级JDK 11,使用ZGC,大家最关心的可能不是效果怎么样,而是这个新版本用的人少,网上实践也少,靠不靠谱,稳不稳定。其次是升级成本会不会很大,万一不成功岂不是白白浪费时间。所以,在使用新技术前,首先要做的是评估收益、成本和风险。

重要参数配置样例:

很多低延迟高可用Java服务的系统可用性经常受GC停顿的困扰。GC停顿指垃圾回收期间STW(Stop The World),当STW时,所有应用线程停止活动,等待GC停顿结束。

内存分配阻塞:当内存不足时线程会阻塞等待GC完成,关键字是"Allocation Stall"。

-XX:ReservedCodeCacheSize -XX:InitialCodeCacheSize: 设置CodeCache的大小, JIT编译的代码都放在CodeCache中,一般服务64m或128m就已经足够。我们的服务因为有一定特殊性,所以设置的较大,后面会详细介绍。

初始化:ZGC初始化之后,整个内存空间的地址视图被设置为Remapped。程序正常运行,在内存中分配对象,满足一定条件后垃圾回收启动,此时进入标记阶段。

日志信息:平均1秒GC一次,两次GC之间几乎没有间隔。

GC时,初始标记:日志中Pause Mark Start。

通过手写脚本给存量虚拟机安装JDK 11:不推荐,业务同学过多参与到运维当中。

ZGC不是“银弹”,需要根据服务的具体特点进行调优。网络上能搜索到实战经验较少,调优理论需自行摸索,我们在此阶段也耗费了不少时间,最终才达到理想的性能。本文的一个目的是列举一些使用ZGC时常见的问题,帮助大家使用ZGC提高服务可用性。

以美团风控服务为例,部分上游业务要求风控服务65ms内返回结果,并且可用性要达到99.99%。但因为GC停顿,我们未能达到上述可用性目标。当时使用的是CMS垃圾回收器,单次Young GC 40ms,一分钟10次,接口平均响应时间30ms。通过计算可知,有( 40ms 30ms ) * 10次 / 60000ms = 1.12%的请求的响应时间会增加0 ~ 40ms不等,其中30ms * 10次 / 60000ms = 0.5%的请求响应时间会增加40ms。

ZGC( The Z Garbage Collector)是JDK 11中推出的一款低延迟垃圾回收器,它的设计目标包括:

ZGC中读屏障的代码作用:在对象标记和转移过程中,用于确定对象的引用地址是否满足条件,并作出相应动作。

岗位职责:

超低延迟(TP999 < 20ms)和高延迟(TP999 > 200ms)服务收益不大,原因是这些服务的响应时间瓶颈不是GC,而是外部依赖的性能。

inti = obj.FieldB //无需加入屏障,因为不是对象引用

标记-复制算法应用在CMS新生代(ParNew是CMS默认的新生代垃圾回收器)和G1垃圾回收器中。标记-复制算法可以分为三个阶段:

我们维护的服务名叫Zeus,它是美团的规则平台,常用于风控场景中的规则管理。规则运行是基于开源的表达式执行引擎Aviator。Aviator内部将每一条表达式转化成Java的一个类,通过调用该类的接口实现表达式逻辑。

GC之痛

招聘信息

GC时,初始标记:日志中Pause Mark Start。

着色指针和读屏障技术不仅应用在并发转移阶段,还应用在并发标记阶段:将对象设置为已标记,传统的垃圾回收器需要进行一次内存访问,并将对象存活信息放在对象头中;而在ZGC中,只需要设置指针地址的第42~45位即可,并且因为是寄存器访问,所以速度比访问内存更快。

< groupId> javax.annotation </ groupId>

G1的Young GC和CMS的Young GC,其标记-复制全过程STW,这里不再详细阐述。

分析:dump内存文件,发现系统中有上万个ClassLoader实例。我们知道ClassLoader属于GC Roots一部分,且ZGC停顿时间与GC Roots成正比,GC Roots数量越大,停顿时间越久。再进一步分析,ClassLoader的类名表明,这些ClassLoader均由Aviator组件生成。分析Aviator源码,发现Aviator对每一个表达式新生成类时,会创建一个ClassLoader,这导致了ClassLoader数量巨大的问题。在更高Aviator版本中,该问题已经被修复,即仅创建一个ClassLoader为所有表达式生成类。

ZGC原理

生产环境安装

< version> 2.0.1.Final </ version>

值得一提的是,我们并不是在所有这些问题都解决后才全量部署所有集群。即使开始有各种各样的毛刺,但计算后发现,有各种问题的ZGC也比之前的CMS对服务可用性影响小。所以从开始准备使用ZGC到全量部署,大概用了2周的时间。在之后的3个月时间里,我们边做业务需求,边跟进这些问题,最终逐个解决了上述问题,从而使ZGC在各个集群上达到了一个更好表现。

在Zeus服务不同集群中,ZGC在低延迟(TP999 < 200ms)场景中收益较大:

当应用程序创建对象时,首先在堆空间申请一个虚拟地址,但该虚拟地址并不会映射到真正的物理地址。ZGC同时会为该对象在M0、M1和Remapped地址空间分别申请一个虚拟地址,且这三个虚拟地址对应同一个物理地址,但这三个空间在同一时间有且只有一个空间有效。ZGC之所以设置三个虚拟地址空间,是因为它使用“空间换时间”思想,去降低GC停顿时间。“空间换时间”中的空间是虚拟空间,而不是真正的物理空间。后续章节将详细介绍这三个空间的切换过程。

-XX:ConcGCThreads=2 -XX:ParallelGCThreads=6

ZGC调优实践

王伟,美团信息安全技术专家。

其中,[0~4TB) 对应Java堆,[4TB ~ 8TB) 称为M0地址空间,[8TB ~ 12TB) 称为M1地址空间,[12TB ~ 16TB) 预留未使用,[16TB ~ 20TB) 称为Remapped空间。

ZGC将对象存活信息存储在42~45位中,这与传统的垃圾回收并将对象存活信息放在对象头中完全不同。

标记阶段,即从GC Roots集合开始,标记活跃对象;

王东,美团信息安全资深工程师。

JDK 11已经出来两年,常见的依赖组件都有兼容性版本。但是,如果是公司内部提供的公司级组件,可能会不兼容JDK 11,需要推动相关组件进行升级。如果对方升级较为困难,可以考虑拆分功能,将依赖这些组件的功能单独部署,继续使用低版本JDK。随着JDK 11的卓越性能被大家悉知,相信会有更多团队会用JDK 11解决GC问题,使用者越多,各个组件升级的动力也会越大。

原标题:美团对 Java 新一代垃圾回收器 ZGC 的探索与实践

ZGC官网

< groupId> commons-lang </ groupId>

2. 独立完成较复杂的系统分析、设计,并主导完成详细设计和编码的任务,确保项目的进度和质量。

日志信息:对比出现性能毛刺时间点的GC日志和业务日志,发现JVM停顿了较长时间,且停顿时GC日志中有大量的“Allocation Stall”日志。

< dependency>

ZGC调优实践:重点分享对ZGC调优的理解,并分析若干个实际调优案例;

日志中内容较多,关键点已用红线标出,含义较好理解,更详细的解释大家可以自行在网上查阅资料。

升级JDK 11

并发标记阶段:第一次进入标记阶段时视图为M0,如果对象被GC标记线程或者应用线程访问过,那么就将对象的地址视图从Remapped调整为M0。所以,在标记阶段结束之后,对象的地址要么是M0视图,要么是Remapped。如果对象的地址是M0视图,那么说明对象是活跃的;如果对象的地址是Remapped视图,说明对象是不活跃的。

< groupId> org.projectlombok </ groupId>

与CMS中的ParNew和G1类似,ZGC也采用标记-复制算法,不过ZGC对该算法做了重大改进:ZGC在标记、转移和重定位阶段几乎都是并发的,这是ZGC实现停顿时间小于10ms目标的最关键原因。

看完文章的你,如果内心燃起了想与笔者一起共事的冲动,不要犹豫,直接把简历砸过来!团队正在寻同道中人,详细岗位介绍如下,欢迎大家踊跃自荐、推荐!

4. 对技术有激情,喜欢钻研,能快速接受和掌握新技术,有较强的独立、主动的学习能力,良好的沟通表达能力和团队协作能力。

经过分类后,每类风险的应对转化成了常见的测试问题,不再属于未知风险。风险是指不确定的事情,如果不确定的事情都能转化成可确定的事情,意味着风险已消除。

< artifactId> commons-lang3 </ artifactId>

a. 一些类被删除:比如“sun.misc.BASE64Encoder”,找到替换类java.util.Base64即可。

从设计目标来看,我们知道ZGC适用于大内存低延迟服务的内存管理和回收。本文主要介绍ZGC在低延时场景中的应用和卓越表现,文章内容主要分为四部分:

< groupId> org.apache.commons </ groupId>

< artifactId> hibernate-validator-parent </ artifactId>

解决方法:JIT有一些参数配置可以调整JIT编译的条件,但对于我们的问题都不太适用。我们最终通过业务优化解决,删除不需要执行的Aviator表达式,从而避免了大量Aviator方法进入CodeCache中。

从实际案例聊聊Java应用的GC优化

| 着色指针是一种将信息存储在指针中的技术。

转移阶段,即把活跃对象复制到新的内存地址上;

如何使用新技术

相比于CMS和G1的GC触发机制,ZGC的GC触发机制有很大不同。ZGC的核心特点是并发,GC过程中一直有新的对象产生。如何保证在GC完成之前,新产生的对象不会将堆占满,是ZGC参数调优的第一大目标。因为在ZGC中,当垃圾来不及回收将堆占满时,会导致正在运行的线程停顿,持续时间可能长达秒级之久。

功能风险:运行起来后,是否会有一些组件逻辑变更,影响现有功能的逻辑。

</ dependency>

-XX:ConcGCThreads:并发回收垃圾的线程。默认是总核数的12.5%,8核CPU默认是1。调大后GC变快,但会占用程序运行时的CPU资源,吞吐会受到影响。

ZGC调优实践:重点分享对ZGC调优的理解,并分析若干个实际调优案例;

案例一:秒杀活动中流量突增,出现性能毛刺

附录

ZGC原理:分析ZGC停顿时间比G1或CMS更短的本质原因,以及背后的技术原理;

GC时,再标记:日志中Pause Mark End。

b. 组件依赖版本不兼容JDK 11问题:找到对应依赖组件,搜索最新版本,一般都支持JDK 11。

基于分配速率的自适应算法:最主要的GC触发方式,其算法原理可简单描述为”ZGC根据近期的对象分配速率以及GC时间,计算出当内存占用达到什么阈值时触发下一次GC”。自适应算法的详细理论可参考彭成寒《新一代垃圾回收器ZGC设计与实现》一书中的内容。通过ZAllocationSpikeTolerance参数控制阈值大小,该参数默认2,数值越大,越早的触发GC。我们通过调整此参数解决了一些问题。日志中关键字是“Allocation Rate”。

监控指标:主要是GC的时间和频率,我们通过美团的CAT监控系统支持ZGC数据的收集(CAT已开源)。

< groupId> org.hibernate.validator </ groupId>

dump线程、内存:比如jstack、jmap命令。

ZGC官网

ZGC通过着色指针和读屏障技术,解决了转移过程中准确访问对象的问题,实现了并发转移。大致原理描述如下:并发转移中“并发”意味着GC线程在转移对象的过程中,应用线程也在不停地访问对象。假设对象发生转移,但对象地址未及时更新,那么应用线程可能访问到旧地址,从而造成错误。而在ZGC中,应用线程访问对象将触发“读屏障”,如果发现对象被移动了,那么“读屏障”会把读出来的指针更新到对象的新地址上,这样应用线程始终访问的都是对象的新地址。那么,JVM是如何判断对象被移动过呢?就是利用对象引用的地址,即着色指针。下面介绍着色指针和读屏障技术细节。

1. 负责开发高并发高可用低延时的风控系统 ,对现有产品和系统进行改进和优化。从业务和技术出发,实现面向未来的系统规划、设计和落地。

</ dependency>

dump线程、内存:比如jstack、jmap命令。

GC日志中每一行都注明了GC过程中的信息,关键信息如下:

3. 精通微服务、一致性等分布式技术;对互联网常用技术有深入的了解,对开源产品本身有过开发经验者。

Zeus服务内的规则数量超过万条,且每台机器每天的请求量几百万。这些客观条件导致Aviator生成的类和方法会产生很多的ClassLoader和CodeCache,这些在使用ZGC时都成为过GC的性能瓶颈。接下来介绍两类调优案例。

清理阶段停顿分析

一次完整的GC过程,需要注意的点已在图中标出。

基于分配速率的自适应算法:最主要的GC触发方式,其算法原理可简单描述为”ZGC根据近期的对象分配速率以及GC时间,计算出当内存占用达到什么阈值时触发下一次GC”。自适应算法的详细理论可参考彭成寒《新一代垃圾回收器ZGC设计与实现》一书中的内容。通过ZAllocationSpikeTolerance参数控制阈值大小,该参数默认2,数值越大,越早的触发GC。我们通过调整此参数解决了一些问题。日志中关键字是“Allocation Rate”。

< dependency>

< artifactId> lombok </ artifactId>

对于JDK这种世界关注的程序,大版本升级所引入的新技术一般已经在理论上经过验证。我们要做的事情就是确定当前系统的瓶颈是否是新版本JDK可解决的问题,切忌问题未诊断清楚就采取措施。评估完收益之后再评估成本和风险,收益过大或者过小,其他两项影响权重就会小很多。

接下来详细介绍ZGC一次垃圾回收周期中地址视图的切换过程:

< artifactId> junit </ artifactId>

理解ZGC触发时机

GC Roots 数量大,单次GC停顿时间长

初始化:ZGC初始化之后,整个内存空间的地址视图被设置为Remapped。程序正常运行,在内存中分配对象,满足一定条件后垃圾回收启动,此时进入标记阶段。

<Load barrier>

任职要求:

GC时,再标记:日志中Pause Mark End。

标记阶段停顿分析

资深Java工程师(风控方向)

-XX: UnlockExperimentalVMOptions -XX: UseZGC:启用ZGC的配置。

< version> 2.6 </ version>

< dependency>

初始标记阶段: 初始标记阶段是指从GC Roots出发标记全部直接子节点的过程,该阶段是STW的。由于GC Roots数量不多,通常该阶段耗时非常短。

3. 在团队中完成Code Review任务,确保相关代码的有效性和正确性,并能够通过Code Review提供相关性能以及稳定性的建议。

TP999:下降12~142ms,下降幅度18%~74%。

< dependency>

ZGC并发处理演示

< artifactId> validation-api </ artifactId>

案例二:压测时,流量逐渐增大到一定程度后,出现性能毛刺

转移阶段,即把活跃对象复制到新的内存地址上;

< dependency>

新申请默认安装JDK 11的虚拟机:试用JDK 11时可用这种方式;全量部署时,如果新申请机器数量过多,可能没有足够机器资源。

选择JDK 11,是因为在JDK 11中首次支持ZGC,而且JDK 11属于长期支持(Long Term Support,LTS)版本,至少会被维护三年,普通版本(如JDK 12、JDK 13和JDK 14)只有6个月的维护周期,不建议使用。

< dependency>

验证功能正确性

以我们服务在生产环境中ZGC参数配置为例,说明各个参数的作用:

彭成寒.《新一代垃圾回收器ZGC设计与实现》. 机械工业出版社, 2019.

< version> 6.0.16.Final </ version>

编译打包:美团发布系统支持选择JDK 11进行编译打包。

功能风险:运行起来后,是否会有一些组件逻辑变更,影响现有功能的逻辑。

其实,在标记阶段存在两个地址视图M0和M1,上面的过程显示只用了一个地址视图。之所以设计成两个,是为了区别前一次标记和当前标记。即第二次进入并发标记阶段后,地址视图调整为M1,而非M0。

-XX:ZCollectionInterval=120 -XX:ZAllocationSpikeTolerance=5

内存分配阻塞,系统停顿可达到秒级

以本文开头提到的案例为例,假设GC次数不变(10次/分钟),且单次GC时间从40ms降低10ms。通过计算,一分钟内有100/60000 = 0.17%的时间在进行GC,且期间所有请求仅停顿10ms,GC期间影响的请求数和因GC增加的延迟都有所减少。

</ dependency>

彭成寒.《新一代垃圾回收器ZGC设计与实现》. 机械工业出版社, 2019.

-Xlog:safepoint,classhisto*=trace,age*,gc*=info:file=/opt/logs/logs/gc-%t.log:time,tid,tags:filecount=5,filesize=50m

GC时,初始转移:日志中Pause Relocate Start。

分析:这种案例多出现在“自适应算法”为主要GC触发机制的场景中。ZGC是一款并发的垃圾回收器,GC线程和应用线程同时活动,在GC过程中,还会产生新的对象。GC完成之前,新产生的对象将堆占满,那么应用线程可能因为申请内存失败而导致线程阻塞。当秒杀活动开始,大量请求打入系统,但自适应算法计算的GC触发间隔较长,导致GC触发不及时,引起了内存分配阻塞,导致停顿。

2. 编译成功后,启动运行,此时仍有可能组件依赖版本问题,按照编译时的方式处理即可。

-Xlog:设置GC日志中的内容、格式、位置以及每个日志的大小。

读屏障

升级JDK的风险可以分为三类:

四个STW过程中,初始标记因为只标记GC Roots,耗时较短。再标记因为对象数少,耗时也较短。清理阶段因为内存分区数量少,耗时也较短。转移阶段要处理所有存活的对象,耗时会较长。因此,G1停顿时间的瓶颈主要是标记-复制中的转移阶段STW。为什么转移阶段不能和标记阶段一样并发执行呢?主要是G1未能解决转移过程中准确定位对象地址的问题。

安全点:所有线程进入到安全点后才能进行GC,ZGC定期进入安全点判断是否需要GC。先进入安全点的线程需要等待后进入安全点的线程直到所有线程挂起。

工作城市:北京、上海

技术原创及架构实践文章,欢迎通过公众号菜单「联系我们」进行投稿。

停顿时间不超过10ms; 停顿时间不会随着堆的大小,或者活跃对象的大小而增加; 支持8MB~4TB级别的堆( 未来支持16TB )。 升级ZGC效果 :展示在生产环境应用ZGC取得的效果。 展开全文 重定位阶段,因为转移导致对象的地址发生了变化,在重定位阶段,所有指向对象旧地址的指针都要调整到对象新的地址上。 再标记阶段 :重新标记那些在并发标记阶段发生变化的对象。该阶段是STW的。 清理阶段清点出有存活对象的分区和没有存活对象的分区,该阶段不会清理垃圾对象,也不会执行存活对象的复制。该阶段是STW的。 复制算法中的转移阶段需要分配新内存和复制对象的成员变量。转移阶段是STW的,其中内存分配通常耗时非常短,但对象成员变量的复制耗时有可能较长,这是因为复制耗时与存活对象数量与对象复杂度成正比。对象越复杂,复制耗时越长。 并发转移阶段 :标记结束后就进入转移阶段,此时地址视图再次被设置为Remapped。如果对象被GC转移线程或者应用线程访问过,那么就将对象的地址视图从M0调整为Remapped。 元数据分配触发 :元数据区不足时导致,一般不需要关注。日志中关键字是“Metadata GC Threshold”。 Start :开始GC,并标明的GC触发的原因。上图中触发原因是自适应算法。 Phase-Pause Mark Start :初始标记,会STW。 Phase-Pause Mark End :再次标记,会STW。 Phase-Pause Relocate Start :初始转移,会STW。 Heap信息 :记录了GC过程中Mark、Relocate前后的堆大小变化状况。High和Low记录了其中的最大值和最小值,我们一般关注High中Used的值,如果达到100%,在GC过程中一定存在内存分配不足的情况,需要调整GC的触发时机,更早或者更快地进行GC。 GC信息统计 :可以定时的打印垃圾收集信息,观察10秒内、10分钟内、10个小时内,从启动到现在的所有统计信息。利用这些统计信息,可以排查定位一些异常点。 TP99 :下降5~28ms,下降幅度10%~47%。 Java Hotspot G1 GC的一些关键技术 性能风险 :功能如果没有问题,性能是否稳定,能稳定的在线上运行。

通过完备的单测、集成和回归测试,保证功能正确性。

内存分配阻塞:当内存不足时线程会阻塞等待GC完成,关键字是"Allocation Stall"。

5. 具备系统调试、性能调优等技能,对疑难技术问题具备较强的排查能力;有强烈的责任心和使命感。

可见,GC停顿对响应时间的影响较大。为了降低GC停顿对系统可用性的影响,我们从降低单次GC时间和降低GC频率两个角度出发进行了调优,还测试过G1垃圾回收器,但这三项措施均未能降低GC对服务可用性的影响。

最后推荐大家升级ZGC,Zeus系统因为业务特点,遇到了较多问题,而风控其他团队在升级时都非常顺利。

升级所修改的依赖:

解决方法:

理解ZGC重要配置参数

< version> 1.3.2 </ version>

解决方法:升级Aviator组件版本,避免生成多余的ClassLoader。

兼容性风险:Java程序JAR包依赖很多,升级JDK版本后程序是否能运行起来。例如我们的服务是从JDK 7升级到JDK 11,需要解决较多JAR包不兼容的问题。

GC之痛:介绍实际业务中遇到的GC痛点,并分析CMS收集器和G1收集器停顿时间瓶颈;

我们的项目包含二十多万行代码,需要从JDK 7升级到JDK 11,依赖组件众多。虽然看起来升级会比较复杂,但实际只花了两天时间即解决了兼容性问题。具体过程如下:

着色指针

1. 扎实的Java编程基础,良好的编程素养,对代码美感有追求。

< artifactId> patriot-sdk </ artifactId>

下面以G1为例,通过G1中标记-复制算法过程(G1的Young GC和Mixed GC均采用该算法),分析G1停顿耗时的主要瓶颈。G1垃圾回收周期如下图所示:

</ dependency>

1. 编译,需要修改pom文件中的build配置,根据报错作修改,主要有两类:

ZGC原理:分析ZGC停顿时间比G1或CMS更短的本质原因,以及背后的技术原理;

基于固定时间间隔:通过ZCollectionInterval控制,适合应对突增流量场景。流量平稳变化时,自适应算法可能在堆使用率达到95%以上才触发GC。流量突增时,自适应算法触发的时机可能会过晚,导致部分线程阻塞。我们通过调整此参数解决流量突增场景的问题,比如定时活动、秒杀等场景。日志中关键字是“Timer”。

理解ZGC停顿原因

日志信息:观察ZGC日志信息统计,“Pause Roots CodeCache”的耗时会随着服务运行时间逐渐增长。

-XX:ReservedCodeCacheSize=256m -XX:InitialCodeCacheSize=256m

日志信息:观察ZGC日志信息统计,“Pause Roots ClassLoaderDataGraph”一项耗时较长。

< groupId> io.netty </ groupId>

4. 技术预研和技术难点攻关,保障系统可用性、稳定性、和可扩展性。

外部触发:代码中显式调用System.gc触发。日志中关键字是“System.gc”。

-XX:ZCollectionInterval:ZGC发生的最小时间间隔,单位秒。

-Xms -Xmx:堆的最大内存和最小内存,这里都设置为10G,程序的堆内存将保持10G不变。

-XX:ZAllocationSpikeTolerance:ZGC触发自适应算法的修正系数,默认2,数值越大,越早的触发ZGC。

阻塞内存分配请求触发:当垃圾来不及回收,垃圾将堆占满时,会导致部分线程阻塞。我们应当避免出现这种触发方式。日志中关键字是“Allocation Stall”。

< dependency>

</ dependency>

</ dependency>

主动触发规则:类似于固定间隔规则,但时间间隔不固定,是ZGC自行算出来的时机,我们的服务因为已经加了基于固定时间间隔的触发机制,所以通过-ZProactive参数将该功能关闭,以免GC频繁,影响服务可用性。日志中关键字是“Proactive”。

< artifactId> commons-lang </ artifactId>

< version> 3.9 </ version>

评估成本

< artifactId> javax.annotation-api </ artifactId>

< version> 1.18.4 </ version>

评估收益

并发标记阶段:第一次进入标记阶段时视图为M0,如果对象被GC标记线程或者应用线程访问过,那么就将对象的地址视图从Remapped调整为M0。所以,在标记阶段结束之后,对象的地址要么是M0视图,要么是Remapped。如果对象的地址是M0视图,那么说明对象是活跃的;如果对象的地址是Remapped视图,说明对象是不活跃的。

开启”基于固定时间间隔“的GC触发机制:-XX:ZCollectionInterval。比如调整为5秒,甚至更短。

吞吐下降

分析:CodeCache空间用于存放Java热点代码的JIT编译结果,而CodeCache也属于GC Roots一部分。通过添加-XX: PrintCodeCacheOnCompilation参数,打印CodeCache中的被优化的方法,发现大量的Aviator表达式代码。定位到根本原因,每个表达式都是一个类中一个方法。随着运行时间越长,执行次数增加,这些方法会被JIT优化编译进入到Code Cache中,导致CodeCache越来越大。

ZGC作为下一代垃圾回收器,性能非常优秀。ZGC垃圾回收过程几乎全部是并发,实际STW停顿时间极短,不到10ms。这得益于其采用的着色指针和读屏障技术。

-XX:ParallelGCThreads:STW阶段使用线程数,默认是总核数的60%。

---------- END ----------

原标题:发现子宫肌瘤怎么办?专家:没那么恐怖!

原标题:这些合肥人瞒着我们过着宫崎骏笔下の夏天!

据外媒报道,因福特110亿美元重组计划未能让华尔街以及投资人感到满意,该公司CEO兼总裁韩恺特(Jim Hackett)突然宣布退休。

原标题:HELLO你是哪片小茶叶?姐姐今天就来过过“绿”

原标题:凭演渣男走红的可不止李泽锋,还有他们四位,最后一位亲妈都嫌弃

原标题:杨紫放低身段接女配?郭麒麟嫌弃蔡徐坤?江疏影不被认可?赵小棠资源凉凉?张若昀蓝盈莹?

原标题:难熬的三伏天,坚持自己烧菜做饭是一种怎么样的感受?

原标题:你和“别人家”的社区,只差了...

原标题:被传下调营收预期、大幅裁员,印度5G没有华为能走多远

原标题:孩子总说眼干 该咋挑选眼药水

原标题:仅仅少看了一会儿电视,孩子之间真的有这么大差距吗?

自瑞幸咖啡被爆财务造假之后,一线城市咖啡市场发生了较大变化。以北京为例,有瑞幸员工向媒体透露,2020年瑞幸咖啡将关闭1/5的北京门店,约80家。而这被一些品牌视作自身的发展机遇,开始布局北京市场。

原标题:同仁堂健康开始卖咖啡了 32元一杯的枸杞拿铁香不香?

原标题:生活小贴士 | 凉席暴晒后再使用;养绿植可降低室内温度;熬夜后最好有午睡

原标题:谁才是真正好用的积分运营软件

相关文章
  • 中国最有钱的国营王筱惠

    近年来,麦迪娜在娱乐圈发展可算是越来越好了,如今麦迪娜爱情事业双丰收,而且还生下了一个可爱的儿子,可算是人生赢家了,近日,...

  • 中国最有钱的国营王筱惠

    一看才发现原来《巴啦啦小魔仙》不仅有电视剧, 严莉莉的扮演者叫刘美含, 并于同年获得韩国MAMA Mnet亚洲音乐大奖最佳新人奖。 也是《...

  • 中国最有钱的国营王筱惠

    该部门将由Facebook数字加密货币项目“Libra”联合创始人大卫·马库斯(David Marcus)领导。与此同时,马库斯将继续领导Facebook数字钱包服务“...

  • 中国最有钱的国营王筱惠

    晒旗袍 轩子巨2兔原来非常受到粉丝们的欢迎,但是随着平台最近严打擦边球等不良影响,轩子巨2兔已经停播一段时间了,还不知道什么时...

  • 中国最有钱的国营王筱惠

    除了滑板之外,情感、社会现象、政治问题等,也都是Lupe创作的主题。比如为失去父亲的孩子而创作的《He say She say》,在《Little Weapon》中...

中国最有钱的国营王筱惠高中第一章 免费

回到顶部
友情链接

Powered by 中国最有钱的国营 @2018 RSS地图 html地图