Java与C++之间有一堵由内存动态分配和垃圾收集技术所围成的“高墙”,墙外面的人想进去,墙里面的人却想出来。

2.1 概述

https://blog.csdn.net/q5706503/article/details/84640762

对于从事C、C++程序开发的开发人员来说,在内存管理领域,他们既是拥有最高权力的“皇帝”又是从事最基础工作的“劳动人民"一既拥有每一 个对象的“所有权”,又担负着每一个对象生命开始到终结的维护责任。对于Java程序员来说,在虚拟机自动内存管理机制的帮助下,不再需要为每一个new操作去写配对的de/free代码,不容易出现内存泄漏和内存溢出问题,由虛拟机管理内存这一切看起来都很美好。不过,也正是因为Java程序员把内存控制的权力交给了Java虚拟机,一旦出现内存泄漏和溢出方面的问题,如果不了解虚拟机是怎样使用内存的,那么排查错误将会成为一项异常艰难的工作。

本章是第二部分的第1章,笔者将从概念上介绍Java虚拟机内存的各个区域,讲解这些区域的作用、服务对象以及其中可能产生的问题,这是翻越虚拟机内存管理这堵围墙的第一步。

2.2运行时数据区域

Java虚拟机在执行Java程序的过程中会把它所管理的内存划分为若千个不同的数据区域。这些区域都有各自的用途,以及创建和销毁的时间,有的区域随着虚拟机进程的启动而存在,有些区域则依赖用户线程的启动和结束而建立和销毁。根据《Java 虚拟机规范(Java SE 7版》的规定,Java 虚拟机所管理的内存将会包括以下几个运行时数据区域,如图2-1所示。

2.2.1程序计数器

程序计数器(Program Counter Register)是一块较小的内存空间,它可以看作是当前线程所执行的字节码的行号指示器。在虚拟机的概念模型里( 仅是概念模型,各种虚拟机可能会通过一些更高效的方式去实现),字节码解释器工作时就是通过改变这个计数器的值来选取下一条需要执行的字节码指令,分支、循环、跳转、异常处理、线程恢复等基础功能都需要依赖这个计数器来完成。
由于Java虚拟机的多线程是通过线程轮流切换并分配处理器执行时间的方式来实现的,在任何一个确定的时刻,一个处理器(对于多核处理器来说是一个内核) 都只会执行一条线程中的指令。因此,为了线程切换后能恢复到正确的执行位置,每条线程都需要有一个独立的程序计数器,各条线程之间计数器互不影响,独立存储,我们称这类内存区域为“线程私有”的内存。如果线程正在执行的是-个Java方法,这个计数器记录的是正在执行的虚拟机字节码指令的地址;如果正在执行的是Native方法,这个计数器值则为空(Undefined)。 此内存区域是唯一一个在 Java虚拟机规范中没有规定任何OutOfMemoryError情况的区域。

2.2.2 Java 虚拟机栈

与程序计数器-样, Java虚拟机栈(Java Virtual Machine Stacks)也是线程私有的,它的生命周期与线程相同。虚拟机栈描述的是Java方法执行的内存模型:每个方法在执行的同时都会创建一个栈帧(Stack Frame9)用于存储局部变量表、操作数栈、动态链接、方法出口等信息。每一个方法从调用直至执行完成的过程,就对应着一个栈帧在虚拟机栈中人栈到出栈的过程。 

经常有人把Java内存区分为堆内存(Heap)和栈内存(Stack), 这种分法比较粗糙,Java内存区域的划分实际上远比这复杂。这种划分方式的流行只能说明大多数程序员最关注的、与对象内存分配关系最密切的内存区域是这两块。其中所指的“堆”笔者在后面会专门讲述,而所指的“栈”就是现在讲的虚拟机栈,或者说是虚拟机栈中局部变量表部分。
局部变量表存放了编译期可知的各种基本数据类型(boolean、 byte、 char、 short、 int、float、long、 double)、 对象引用(reference 类型,它不等同于对象本身,可能是一个指向对象起始地址的引用指针,也可能是指向一个代表对象的句柄或其他与此对象相关的位置)和returnAddress类型(指向了一条字节码指令的地址)。
其中64位长度的long和double类型的数据会占用2个局部变量空间(Slot), 其余的数据类型只占用1个。局部变量表所需的内存空间在编译期间完成分配,当进入一个方法时,,这个方法需要在帧中分配多大的局部变量空间是完全确定的,在方法运行期间不会改变局部变量表的大小。

在Java虚拟机规范中,对这个区域规定了两种异常状况:如果线程请求的栈深度大于虚拟机所允许的深度,将抛出StackOverflowError异常;如果虚拟机栈可以动态扩展(当前大部分的Java虚拟机都可动态扩展,只不过Java虚拟机规范中也允许固定长度的虚拟机栈),如果扩展时无法申请到足够的内存,就会抛出OutOfMemoryError异常。

2.2.3本 地方法栈

本地方法栈(Native Method Stack)与虚拟机栈所发挥的作用是非常相似的,它们之间的区别不过是虚拟机栈为虚拟机执行Java方法(也就是字节码)服务,而本地方法栈则为虚拟机使用到的Native方法服务。在虚拟机规范中对本地方法栈中方法使用的语言、使用方式与数据结构并没有强制规定,因此具体的虚拟机可以自由实现它。甚至有的虚拟机(譬如Sun HotSpot虚拟机)直接就把本地方法栈和虚拟机栈合二为一。与虚拟机栈一样, 本地方法栈区域也会抛出StackOverflowError和OutOfMemoryError异常。

2.2.4 Java堆

对于大多数应用来说,Java 堆(Java Heap)是Java虚拟机所管理的内存中最大的一块。Java堆是被所有线程共享的一块内存区域,在虚拟机启动时创建。此内存区域的唯- - 目的就是存放对象实例,几乎所有的对象实例都在这里分配内存。这一点在Java虚拟机规范中的描述是:所有的对象实例以及数组都要在堆上分配e,但是随着JIT编译器的发展与逃逸分析技术逐渐成熟,栈上分配、标量替换优化技术将会导致一些微妙的变化发生,所有的对象都分配在堆上也渐渐变得不是那么“绝对”了。Java堆是垃圾收集器管理的主要区域,因此很多时候也被称做“GC堆”(Garbage Collected Heap,幸好国内没翻译成“垃圾堆”)。从内存回收的角度来看,由于现在收集器基本都采用分代收集算法,所以Java堆中还可以细分为:新生代和老年代:再细致一点的有Eden空间、From Survivor空间、To Survivor空间等。从内存分配的角度来看,线程共享的Java堆中可能划分出多个线程私有的分配缓冲区(Thread Local Allocation Buffer, TLAB)。不过无论如何划分,都与存放内容无关,无论哪个区域,存储的都仍然是对象实例,进一步划分的目的是为了更好地回收内存,或者更快地分配内存。在本章中,我们仅仅针对内存区域的作用进行讨论,Java 堆中的上述各个区域的分配、回收等细节将是第3章的主题。

根据Java虚拟机规范的规定,Java 堆可以处于物理上不连续的内存空间中,只要逻辑上是连续的即可,就像我们的磁盘空间- -样。在实现时,既可以实现成固定大小的,也可以是可扩展的,不过当前主流的虚拟机都是按照可扩展来实现的(通过-Xmx和-Xms控制)。如果在堆中没有内存完成实例分配,并且堆也无法再扩展时,将会抛出OutOfMemoryError异常。

2.2.5方法区

方法区(MethodArea)与Java堆一样, 是各个线程共享的内存区域,它用于存储已被虚拟机加载的类信息、常量、静态变量、即时编译器编译后的代码等数据。虽然Java虚拟机_规范把方法区描述为堆的一个逻辑部分,但是它却有一个别名叫做Non-Heap (非堆),目的应该是与Java堆区分开来。

对于习惯在HotSpot虚拟机上开发、部署程序的开发者来说,很多人都更愿意把方法区称为“永久代”(Permanent Generation),本质上两者并不等价,仅仅是因为HotSpot虚拟机的设计团队选择把GC分代收集扩展至方法区,或者说使用永久代来实现方法区而已,这样HotSpot的垃圾收集器可以像管理Java堆一样管理这部分内存,能够省去专门为方法区编写内存管理代码的工作。对于其他虚拟机(如BEA JRockit、IBM J9等)来说是不存在永久代的概念的。原则上,如何实现方法区属于虚拟机实现细节,不受虚拟机规范约束,但使用永久代来实现方法区,现在看来并不是一个好主意,因为这样更容易遇到内存溢出问题(永久代有-XX:MaxPermSize的上限,J9 和JRockit只要没有触碰到进程可用内存的上限,例如32位系统中的4GB,就不会出现问题),而且有极少数方法(例如String.intern())会因这个原因导致不同虚拟机下有不同的表现。因此,对于HotSpot虚拟机,根据官方发布的路线图信息,现在也有放弃永久代并逐步改为采用Native Memory来实现方法区的规划了e,在目前已经发布的JDK 1.7 的HotSpot中,已经把原本放在永久代的字符串常量池移出。

Java虚拟机规范对方法区的限制非常宽松,除了和Java堆一样不需要连续的内存和可以选择固定大小或者可扩展外,还可以选择不实现垃圾收集。相对而言,垃圾收集行为在这个区域是比较少出现的,但并非数据进人了方法区就如永久代的名字-样“永久”存在了。这区域的内存回收目标主要是针对常量池的回收和对类型的卸载,一般来说,这个区域的回收“成绩"比较难以令人满意,尤其是类型的卸载,条件相当苛刻,但是这部分区域的回收确实是必要的。在Sun公司的BUG列表中,曾出现过的若干个严重的BUG就是由于低版本的HotSpot虛拟机对此区域未完全回收而导致内存泄漏。根据Java虚拟机规范的规定,当方法区无法满足内存分配需求时,将抛出OutOfMemoryError异常。

2.2.6运行时常量池

运行时常量池(Runtime Constant Pool)是方法区的一部分。Class 文件中除了有类的版本、字段、方法、接口等描述信息外,还有一项信息是常量池(Constant Pool Table),用于存放编译期生成的各种字面量和符号引用,这部分内容将在类加载后进人方法区的运行时常量池中存放。Java虚拟机对Class文件每一部分 (自然也包括常量池)的格式都有严格规定,每一个字节用于存储哪种数据都必须符合规范上的要求才会被虚拟机认可、装载和执行,但对于运行时常量池,Java虚拟机规范没有做任何细节的要求,不同的提供商实现的虚拟机可以按照自己的需要来实现这个内存区域。不过,一般来说, 除了保存Class文件中描述的符号引用外,还会把翻译出来的直接引用也存储在运行时常量池中。运行时常量池相对于Class文件常量池的另外一个重要特征是具备动态性,Java语言并不要求常量一定只有编译期才能产生,也就是并非预置人Class文件中常量池的内容才能进人方法区运行时常量池,运行期间也可能将新的常量放人池中,这种特性被开发人员利用得比较多的便是String类的intern() 方法。既然运行时常量池是方法区的一部分,自然受到方法区内存的限制,当常量池无法再申请到内存时会抛出OutOfMemoryError异常。

2.2.7直 接内存

直接内存(DirectMemory)并不是虚拟机运行时数据区的一部分,也不是Java虚拟机规范中定义的内存区域。但是这部分内存也被频繁地使用,而且也可能导致OutOfMemoryError异常出现,所以我们放到这里一起讲解。在JDK 1.4 中新加入了NIO (New Input/Output)类,引入了一种基于通道(Channel) 与缓冲区(Buffer) 的I/O方式,它可以使用Native函数库直接分配堆外内存,然后通过一个存储在Java堆中的DirectByteBuffer对象作为这块内存的引用进行操作。这样能在一些场景中显著提高性能,因为避免了在Java堆和Native堆中来回复制数据。显然,本机直接内存的分配不会受到Java堆大小的限制,但是,既然是内存,肯定还是:
会受到本机总内存(包括RAM以及SWAP区或者分页文件)大小以及处理器寻址空间的限制。服务器管理员在配置虚拟机参数时,会根据实际内存设置-Xmx等参数信息,但经常忽略直接内存,使得各个内存区域总和大于物理内存限制(包括物理的和操作系统级的限制),从而导致动态扩展时出现OutOfMemoryError异常。

2.3HotSpot虛拟机对象探秘

介绍完Java虚拟机的运行时数据区之后,我们大致知道了虚拟机内存的概况,读者了解了内存中放了些什么后,也许就会想更进一步了解这些虚拟机内存中的数据的其他细节,譬如它们是如何创建、如何布局以及如何访问的。对于这样涉及细节的问题,必须把讨论范围限定在具体的虚拟机和集中在某-一个内存区域上才有意义。基于实用优先的原则,笔者以常用的虚拟机HotSpot和常用的内存区域Java堆为例,深人探讨HotSpot虚拟机在Java堆中对象分配、布局和访问的全过程。

2.3.1对象的创建

Java是一门面向对象的编程语言,在Java程序运行过程中无时无刻都有对象被创建出来。在语言层面上,创建对象(例如克隆、反序列化)通常仅仅是一个 new关键字而已,而在虚拟机中,对象(文中讨论的对象限于普通Java对象,不包括数组和Class对象等)的创建又是怎样-个过程呢?虚拟机遇到一条new指令时,首先将去检查这个指令的参数是否能在常量池中定位到一个类的符号引用,并且检查这个符号引用代表的类是否已被加载、解析和初始化过。如果没有,那必须先执行相应的类加载过程,本书第7章将探讨这部分内容的细节。

在类加载检查通过后,接下来虚拟机将为新生对象分配内存。对象所需内存的大小在类加载完成后便可完全确定(如何确定将在2.3.2节中介绍),为对象分配空间的任务等同于把一块确定大小的内存从Java堆中划分出来。假设Java堆中内存是绝对规整的,所有用过的内存都放在一边, 空闲的内存放在另一边,中间放着一个指针作为分 界点的指示器,那所分配内存就仅仅是把那个指针向空闲空间那边挪动一段与对象大小相等的距离,这种分配方式称为“指针碰撞”(BumpthePointer)。如果Java堆中的内存并不是规整的,已使用的内存和空闲的内存相互交错,那就没有办法简单地进行指针碰撞了,虛拟机就必须维护-一个列表,记录上哪些内存块是可用的,在分配的时候从列表中找到一块足够大的空间划分给对象实例,并更新列表上的记录,这种分配方式称为“空闲列表”(Free List)。选择哪种分配方式由Java堆是否规整决定,而Java堆是否规整又由所采用的垃圾收集器是否带有压缩整理功能决定。因此,在使用Serial、ParNew 等带Compact过程的收集器时,系统采用的分配算法是指针碰撞,而使用CMS这种基于Mark Sweep算法的收集器时,通常采用空闲列表。除如何划分可用空间之外,还有另外一个需要考虑的问题是对象创建在虛拟机中是非常频繁的行为,即使是仅仅修改一个指针所指向的位置,在并发情况下也并不是线程安全的,可能出现正在给对象A分配内存,指针还没来得及修改,对象B又同时使用了原来的指针来分配内存的情况。解决这个问题有两种方案,一种 是对分配内存空间的动作进行同步处理一实际 上虚拟机采用CAS配上失败重试的方式保证更新操作的原子性:另-种是把内存分配的动作按照线程划分在不同的空间之中进行,!即每个线程在Java堆中预先分配-小块内存,称为本地线程分配缓冲(Thread Local Allocation Buffer, TLAB)。 哪个线程要分配内存,就在哪个线程的TLAB上分配,只有TLAB用完并分配新的FLAB时,才需要同步锁定。虚拟机是否使用TLAB,可以通过-XX:+/-UseTLAB参数来设定。内存分配完成后,虚拟机需要将分配到的内存空间都初始化为零值(不包括对象头),如果使用TLAB,这一工作过程也可以提前至TLAB分配时进行。这一步操作保证了对象的实例字段在Java 代码中可以不赋初始值就直接使用,程序能访问到这些字段的数据类型所对应的零值。接下来,虚拟机要对对象进行必要的设置,例如这个对象是哪个类的实例、如何才能找到类的元数据信息、对象的哈希码、对象的GC分代年龄等信息。这些信息存放在对象的对象头(Object Header)之中。根据虚拟机当前的运行状态的不同,如是否启用偏向锁等,对象头会有不同的设置方式。关于对象头的具体内容,稍后再做详细介绍。在上面工作都完成之后,从虚拟机的视角来看,一个新的对象已经产生了,但从Java程序的视角来看,对象创建术刚刚开始一<init> 方法还没有执行,所有的字段都还为零。所以,一般来说(由字节码中是否跟随invokespecial指令所决定),执行new指令之后会接着执行<init>方法,把对象按照程序员的意愿进行初始化,这样一个真正可用的对象才算完全产生出来。
下面的代码清单2=1是HotSpot虚拟机bytecodeInterpreter.cpp中的代码片段(这个解释器实现很少有机会实际使用,因为大部分平台,上都使用模板解释器;当代码通过JIT编译器执行时差异就更大了。不过,这段代码用于了解HotSpot的运作过程是没有什么问题的)。

代码清单2-1 HotSpot 解释器的代码片段
//确保常量池中存放的是已解释的类

if (!constants->tag_at(index).is_unresolved_klass()) {
	//断言确保是klassOop和instanceKlassOop (这部分下一节介绍)
	oop entry = (klassOop) *constants->obj_at_addr(index) ; 
	assert (entry->is_klass(), "Should be resolved klass") ;
	klassOop k_entry = (klassOop) entry;
	assert(k_entry->klass_part()->OoP_is_instance(), "Should be instanceKlass");
	instanceKlass* ik= (instanceKlass*) k_entry->klass_part();
	//确保对象所属类型已经经过初始化阶段
	if ( ik->is_initfalized() && ik->can_be_fastpath_allocated() ){
		//取对象长度
		size_t obj_size = ik->size_helper();
		oop result = NULL;
		//记录是否需要将对象所有字段置零值
		bool need_zero = !ZeroTLAB;
		//是否在TLAB中分配对象
		if (UseTLAB) {
			result = (oop) THREAD->tlab().allocate (obj_size) ;
		}
		if (result==NULL) {
		need_zero = true;
		//1直接在eden中分配对象
		retry:
		HeapWord* compare_to = *Universe::heap()->top_addr() ;
		HeapWord* new_top = compare_to + obj_size;
		/* cmpxchg是x86中的CAS指令,这里是一个C++方法,通过CAS方式分配空间,如果并发失败,
		转到retry中重试,直至成功分配为止*/
			if (new_top <= *Universe::heap()->end_addr()) {
				if (Atomic::cmpxchg_ptr(new_top, Universe: :heap()->top_addr(), compare_to) != compare_to) {
					goto retry;
				}
				result = (oop) compare_to;
			}
		}
		if (result != NULL) {
			//如果需要,则为对象初始化零值
			if (need_zero ) {
				HeapWord* to_zero = (HeapWord*) result + sizeof (oopDesc) / oopSize;
				obj_size = sizeof (oopDesc) / oopSize;
				if(obj_size>0){
				memset (to_zero, 0,obj_size * HeapWordSize) ;
				}
			}
			//根据是否启用偏向锁来设置对象头信息
			if (UseBiasedLocking) {
				result->set_mark (ik->prototype_header()) ;
			} else {
				result->set_mark (markOopDesc::prototype() ;
			}
			result->set_klass_gap(0) ;
			result->set_klass(k_entry) ;
			//将对象引用入栈,继续执行下一条指令
			SET_STACK_OBJECT (result,0) ;
			UPDATE PC_AND_TOS_AND_CONTINUE(3, 1) ;
		}
		
	}
}

 

2.3.2对象的内存布局

在HotSpot虚拟机中,对象在内存中存储的布局可以分为3块区域:对象头( Header)、实例数据(Instance Data)和对齐填充( Padding).HotSpot虛拟机的对象头包括两部分信息,第一部分用于存储对象自身的运行时数据,如哈希码(HashCode)、 GC分代年龄、锁状态标志、线程持有的锁、偏向线程ID、偏向时间戳等,这部分数据的长度在32位和64位的虚拟机(未开启压缩指针)中分别为32bit和64bit,官方称它为“Mark Word"。对象需要存储的运行时数据很多,其实已经超出了32位、64位Bitmap结构所能记录的限度,但是对象头信息是与对象自身定义的数据无关的额外存储成本,考虑到虛拟机的空间效率,MarkWord被设计成一个非固定的数据结构以便在极小的空间内存储尽量多的信息,它会根据对象的状态复用自己的存储空间。例如:在32位的HotSpot虚拟机中,如果对象处于未被锁定的状态下,那么Mark Word的32bit空间中的25bit用于存储对象哈希码,4bit 用于存储对象分代年龄,2bit 用于存储锁标志位,1bit 固定为0,而在其他状态(轻量级锁定、重量级锁定、GC标记、可偏向)下对象的存储内容见表2-1

对象头的另外- - 部分是类型指针,即对象指向它的类元数据的指针,虚拟机通过这个指针来确定这个对象是哪个类的实例。并不是所有的虚拟机实现都必须在对象数据上保留类型指针,换句话说,查找对象的元数据信息并不一一定要经过对象本身,这点将在2.3.3节讨论。另外,如果对象是-一个Java数组,那在对象头中还必须有一块用于记录数组长度的数据,因为虚拟机可以通过普通Java对象的元数据信息确定Java对象的大小,但是从数组的元数据中却无法确定数组的大小。 

代码清单2-2为HotSpot虛拟机markOop.cpp中的代码(注释)片段,它描述了32bit下Mark Word的存储状态。

接下来的实例数据部分是对象真正存储的有效信息,也是在程序代码中所定义的各种类型的字段内容。无论是从父类继承下来的,还是在子类中定义的,都需要记录起来。这部分的存储顺序会受到虚拟机分配策略参数(FieldsAllocationStyle)和字段在Java源码中定义顺序的影响。HotSpot 虚拟机默认的分配策略为longs/doubles、ints、 shorts/chars、 bytes/booleans、oops (Ordinary Object Pointers),从分配策略中可以看出,相同宽度的字段总是被分配到- -起。在满足这个前提条件的情况下,在父类中定义的变量会出现在子类之前。如果CompactFields参数值为true (默认为true),那么子类之中较窄的变量也可能会插人到父类
变量的空隙之中。第三部分对齐填充并不是必然存在的,也没有特别的含义,它仅仅起着占位符的作用。由于HotSpot VM的自动内存管理系统要求对象起始地址必须是8字节的整数倍,换句话说,就是对象的大小必须是8字节的整数倍。而对象头部分正好是8字节的倍数(1 倍或者2倍),因此,当对象实例数据部分没有对齐时,就需要通过对齐填充来补全。

2.3.3对象的访问定位

建立对象是为了使用对象,我们的Java程序需要通过栈上的reference数据来操作堆上的具体对象。由于reference类型在Java虚拟机规范中只规定了一个指向对象的引用,并没有定义这个引用应该通过何种方式去定位、访问堆中的对象的具体位置,所以对象访问方式也是取决于虚拟机实现而定的。目前主流的访问方式有使用句柄和直接指针两种。如果使用句柄访问的话,那么Java堆中将会划分出一块内存来作为句柄池,reference中存储的就是对象的句柄地址,而句柄中包含了对象实例数据与类型数据各自的具体地址信息,如图2-2所示。

如果使用直接指针访问,那么Java堆对象的布局中就必须考虑如何放置访问类型数据的相关信息,而reference中存储的直接就是对象地址,如图2-3所示。 

 这两种对象访问方式各有优势,使用句柄来访问的最大好处就是reference中存储的是稳定的句柄地址,在对象被移动(垃圾收集时移动对象是非常普遍的行为)时只会改变句柄中的实例数据指针,而reference本身不需要修改。使用直接指针访问方式的最大好处就是速度更快,它节省了一次指针定位的时间开销,由于对象的访问在Java中非常频繁,因此这类开销积少成多后也是--项非常可观的执行成本。就本书讨论的主要虚拟机Sun HotSpot 而言,它是使用第二种方式进行对象访问的,但从整个软件开发的范围来看,各种语言和框架使用句柄来访问的情况也十分常见。

2.4实战: OutOfMtemoryError 异常

在Java虚拟机规范的描述中,除了百 程序计数器外,虚拟机内存的其他几个运行时区域都有发生OutOfMemoryError (下文称OOM)异常的可能,本节将通过若干实例来验证异常发生的场景(代码清单2-3~代码清单2-9的几段简单代码),并且会初步介绍几个与内存相关的最基本的虚拟机参数。本节内容的目的有两个:第-一,通过代码验证Java虚拟机规范中描述的各个运行时区域
存储的内容;第二,希望读者在工作中遇到实际的内存溢出异常时,能根据异常的信息快速判断是哪个区域的内存溢出,知道伟么样的代码可能会导致这些区域内存溢出,以及出现这些异常后该如何处理。下文代码的开头都注释了执行时所需要设置的虚拟机启动参数(注释中“VM Args"后面跟着的参数),这些参数对实验的结果有直接影响,读者调试代码的时候千万不要忽略。如果读者使用控制台命令来执行程序,那直接跟在Java命令之后书写就可以。如果读者使用Eclipse IDE,则可以参考图2-4在Debug/Run页签中的设置。

下文的代码都是基于Sun公司的HotSpot虚拟机运行的,对于不同公司的不同版本的虚拟机,参数和程序运行的结果可能会有所差别。

2.4.1 Java 堆溢出

Java堆用于存储对象实例,只要不断地创建对象,并且保证GC Roots 到对象之间有可达路径来避免垃圾回收机制清除这些对象,那么在对象数量到达最大堆的容量限制后就会产生内存溢出异常。代码清单2-3中代码限制Java堆的大小为20MB,不可扩展(将堆的最小值-Xms参数与最大值_Xmx参数设置为- -样即可避免堆自动扩展),通过参数-X:+HeapDumpOnOutOfMemoryEror可
以让虚拟机在出现内存溢出异常时Dump出当前的内存堆转储快照以便事后进行分析。

 

Java堆内存的OutOfMemoryError异常是实际应用中最常见的内存溢出异常情况。出现Java堆内存 溢出时,异常堆栈信息“java.lang.OutOfMemoryError”会跟随进一步提示“Java heap space”。
要解决这个内存区域的异常,常规的处理方法是首先通过内存映像分析工具(如Eclipse Memory Analyzer)对Dump出来的堆转储快照进行分析。第一步首先应确认内存中导致OOM的对象是否是必 要的,也就是要先分清楚到底是出现了内存泄漏(Memory Leak)还是内存溢出(Memory Overflow)。图2-5显示了使用Eclipse Memory Analyzer打开的堆转储快照文件。


如果是内存泄漏,可进一步通过工具查看泄漏对象到GC Roots的引用链,找到泄漏对象是通过怎 样的引用路径、与哪些GC Roots相关联,才导致垃圾收集器无法回收它们,根据泄漏对象的类型信息 以及它到GC Roots引用链的信息,一般可以比较准确地定位到这些对象创建的位置,进而找出产生内 存泄漏的代码的具体位置。

如果不是内存泄漏,换句话说就是内存中的对象确实都是必须存活的,那就应当检查Java虚拟机 的堆参数(-Xmx与-Xms)设置,与机器的内存对比,看看是否还有向上调整的空间。再从代码上检查 是否存在某些对象生命周期过长、持有状态时间过长、存储结构设计不合理等情况,尽量减少程序运 行期的内存消耗。
以上是处理Java堆内存问题的简略思路,处理这些问题所需要的知识、工具与经验是后面三章的 主题,后面我们将会针对具体的虚拟机实现、具体的垃圾收集器和具体的案例来进行分析,这里就先 暂不展开。
 

2.4.2 虚拟机栈和本地方法栈溢出

由于HotSpot虚拟机中并不区分虚拟机栈和本地方法栈,因此对于HotSpot来说,-Xoss参数(设置 本地方法栈大小)虽然存在,但实际上是没有任何效果的,栈容量只能由-Xss参数来设定。关于虚拟 机栈和本地方法栈,在《Java虚拟机规范》中描述了两种异常:
1)如果线程请求的栈深度大于虚拟机所允许的最大深度,将抛出StackOverflowError异常。
2)如果虚拟机的栈内存允许动态扩展,当扩展栈容量无法申请到足够的内存时,将抛出 OutOfMemoryError异常。
《Java虚拟机规范》明确允许Java虚拟机实现自行选择是否支持栈的动态扩展,而HotSpot虚拟机 的选择是不支持扩展,所以除非在创建线程申请内存时就因无法获得足够内存而出现 OutOfMemoryError异常,否则在线程运行时是不会因为扩展而导致内存溢出的,只会因为栈容量无法 容纳新的栈帧而导致StackOverflowError异常。
为了验证这点,我们可以做两个实验,先将实验范围限制在单线程中操作,尝试下面两种行为是 否能让HotSpot虚拟机产生OutOfMemoryError异常:
·使用-Xss参数减少栈内存容量。
结果:抛出StackOverflowError异常,异常出现时输出的堆栈深度相应缩小。
·定义了大量的本地变量,增大此方法帧中本地变量表的长度。
结果:抛出StackOverflowError异常,异常出现时输出的堆栈深度相应缩小。
首先,对第一种情况进行测试,具体如代码清单2-4所示。
代码清单2-4 虚拟机栈和本地方法栈测试(作为第1点测试程序)

/**
* VM Args: -Xss128k
* @author zzm
*/
public class JavaVMStackSOF {
	private int stackLength = 1;
	public void stackLeak() {
		stackLength++ ;
		stackLeak () ;
	}
	public static void main (String[] args) throws Throwable {
		JavaVMStackSOF oom = new JavaVMStackSOF() ;
		try {
			oom. stackLeak() ;
		} catch (Throwable e) {
			System. out.println("stack length:" + oom. stackLength) ;
			throw e ;
		}
	}
	
}

对于不同版本的Java虚拟机和不同的操作系统,栈容量最小值可能会有所限制,这主要取决于操 作系统内存分页大小。譬如上述方法中的参数-Xss128k可以正常用于32位Windows系统下的JDK 6,但 是如果用于64位Windows系统下的JDK 11,则会提示栈容量最小不能低于180K,而在Linux下这个值则 可能是228K,如果低于这个最小限制,HotSpot虚拟器启动时会给出如下提示:

 我们继续验证第二种情况,这次代码就显得有些“丑陋”了,为了多占局部变量表空间,笔者不得 不定义一长串变量,具体如代码清单2-5所示。
代码清单2-5 虚拟机栈和本地方法栈测试(作为第2点测试程序)

/**
* Qauthor zzm
*/
public class JavaVMStackSOF {
	private static int stackLength = 0;
	public static void test () {
	long unused1,   unused2,  unused3,   unused4,  unused5, 
		 unused6,   unused7,  unused8,   unused9,  unused10,
		 unused11,  unused12, unused13,  unused14, unused15,
		 unused16,  unused17, unused18,  unused19, unused20,
		 unused21,  unused22, unused23,  unused24, unused25,
		 unused26,  unused27, unused28,  unused29, unused30,
		 unused31,  unused32, unused33,  unused34, unused35,
		 unused36,  unused37, unused38,  unused39, unused40,
		 unused41,  unused42, unused43,  unused44, unused45,
		 unused46,  unused47, unused48,  unused49, unused50,
		 unused51,  unused52, unused53,  unused54, unused55,
		 unused56,  unused57, unused58,  unused59, unused60,
		 unused61,  unused62, unused63,  unused64, unused65,
		 unused66,  unused67, unused68,  unused69, unused70,
		 unused71,  unused72, unused73,  unused74, unused75,
		 unused76,  unused77, unused78,  unused79, unused80,
		 unused81,  unused82, unused83,  unused84, unused85,
		 unused86,  unused87, unused88,  unused89, unused90,
		 unused91,  unused92, unused93,  unused94, unused95,
		 unused96,  unused97, unused98,  unused99, unused100;
		 stackLength ++;
		 test() ;
		 unused1 = unused2 = unused3 = unused4 = unused5 =
		 unused6 = unused7 = unused8 = unused9 = unused10 =
		 unused11 = unused12 = unused13 = unused14 = unused15 =
		 unused16 = unused17 = unused18 = unused19 = unused20 =
		 unused21 = unused22 = unused23 = unused24 = unused25 =
		 unused26 = unused27 = unused28 = unused29 = unused30 =       
		 unused31 = unused32 = unused33 = unused34 = unused35 =       
		 unused36 = unused37 = unused38 = unused39 = unused40 =        
		 unused41 = unused42 = unused43 = unused44 = unused45 =        
		 unused46 = unused47 = unused48 = unused49 = unused50 =        
		 unused51 = unused52 = unused53 = unused54 = unused55 =        
		 unused56 = unused57 = unused58 = unused59 = unused60 =        
		 unused61 = unused62 = unused63 = unused64 = unused65 =        
		 unused66 = unused67 = unused68 = unused69 = unused70 =        
		 unused71 = unused72 = unused73 = unused74 = unused75 =        
		 unused76 = unused77 = unused78 = unused79 = unused80 =        
		 unused81 = unused82 = unused83 = unused84 = unused85 =        
		 unused86 = unused87 = unused88 = unused89 = unused90 =       
		 unused91 = unused92 = unused93 = unused94 = unused95 =        
		 unused96 = unused97 = unused98 = unused99 = unused100 = 0; 
		  
	}    
	public static void main(String[] args) { 
		 try {            
			test();        
		}catch (Error e){ 
			System.out.println("stack length:" + stackLength);            
			throw e;       
		}    
	} 	
}

 运行结果:

stack length:5675 Exception in thread "main" java.lang.StackOverflowError    
at org.fenixsoft.oom. JavaVMStackSOF.leak(JavaVMStackSOF.java:27)    
at org.fenixsoft.oom. JavaVMStackSOF.leak(JavaVMStackSOF.java:28)    
at org.fenixsoft.oom. JavaVMStackSOF.leak(JavaVMStackSOF.java:28) ……后续异常堆栈信息省略

实验结果表明:无论是由于栈帧太大还是虚拟机栈容量太小,当新的栈帧内存无法分配的时候, HotSpot虚拟机抛出的都是StackOverflowError异常。可是如果在允许动态扩展栈容量大小的虚拟机 上,相同代码则会导致不一样的情况。譬如远古时代的Classic虚拟机,这款虚拟机可以支持动态扩展 栈内存的容量,在Windows上的JDK 1.0.2运行代码清单2-5的话(如果这时候要调整栈容量就应该改 用-oss参数了),得到的结果是:

stack length:3716 java.lang.OutOfMemoryError    
at org.fenixsoft.oom. JavaVMStackSOF.leak(JavaVMStackSOF.java:27)    
at org.fenixsoft.oom. JavaVMStackSOF.leak(JavaVMStackSOF.java:28)    
at org.fenixsoft.oom. JavaVMStackSOF.leak(JavaVMStackSOF.java:28) ……后续异常堆栈信息省略

可见相同的代码在Classic虚拟机中成功产生了OutOfMemoryError而不是StackOver-flowError异 常。如果测试时不限于单线程,通过不断建立线程的方式,在HotSpot上也是可以产生内存溢出异常 的,具体如代码清单2-6所示。但是这样产生的内存溢出异常和栈空间是否足够并不存在任何直接的关 系,主要取决于操作系统本身的内存使用状态。甚至可以说,在这种情况下,给每个线程的栈分配的 内存越大,反而越容易产生内存溢出异常。
原因其实不难理解,操作系统分配给每个进程的内存是有限制的,譬如32位Windows的单个进程 最大内存限制为2GB。HotSpot虚拟机提供了参数可以控制Java堆和方法区这两部分的内存的最大值,

那剩余的内存即为2GB(操作系统限制)减去最大堆容量,再减去最大方法区容量,由于程序计数器 消耗内存很小,可以忽略掉,如果把直接内存和虚拟机进程本身耗费的内存也去掉的话,剩下的内存 就由虚拟机栈和本地方法栈来分配了。因此为每个线程分配到的栈内存越大,可以建立的线程数量自 然就越少,建立线程时就越容易把剩下的内存耗尽,代码清单2-6演示了这种情况。
代码清单2-6 创建线程导致内存溢出异常
 

/** * VM Args:-Xss2M 
*(这时候不妨设大些,请在32位系统下运行) 
* @author zzm */ 
public class JavaVMStackOOM {    
	private void dontStop() {        
		while (true) {       
		}    
	}   
	 public void stackLeakByThread() {      
		 while (true) {           
			 Thread thread = new Thread(new Runnable() {               
				 @Override              
				 public void run() {  
					dontStop();                
				 }            
			});            
			thread.start();        
		}   
	}    
	public static void main(String[] args) throws Throwable { 
		 JavaVMStackOOM oom = new JavaVMStackOOM();       
		 oom.stackLeakByThread();    
	} 
}

注意 重点提示一下,如果读者要尝试运行上面这段代码,记得要先保存当前的工作,由于在 Windows平台的虚拟机中,Java的线程是映射到操作系统的内核线程上[1],无限制地创建线程会对操 作系统带来很大压力,上述代码执行时有很高的风险,可能会由于创建线程数量过多而导致操作系统 假死。

出现StackOverflowError异常时,会有明确错误堆栈可供分析,相对而言比较容易定位到问题所 在。如果使用HotSpot虚拟机默认参数,栈深度在大多数情况下(因为每个方法压入栈的帧大小并不是 一样的,所以只能说大多数情况下)到达1000~2000是完全没有问题,对于正常的方法调用(包括不能 做尾递归优化的递归调用),这个深度应该完全够用了。但是,如果是建立过多线程导致的内存溢 出,在不能减少线程数量或者更换64位虚拟机的情况下,就只能通过减少最大堆和减少栈容量来换取 更多的线程。这种通过“减少内存”的手段来解决内存溢出的方式,如果没有这方面处理经验,一般比 较难以想到,这一点读者需要在开发32位系统的多线程应用时注意。也是由于这种问题较为隐蔽,从 JDK 7起,以上提示信息中“unable to create native thread”后面,虚拟机会特别注明原因可能是“possibly out of memory or process/resource limits reached”。

2.4.3 方法区和运行时常量池溢出

由于运行时常量池是方法区的一部分,所以这两个区域的溢出测试可以放到一起进行。前面曾经 提到HotSpot从JDK 7开始逐步“去永久代”的计划,并在JDK 8中完全使用元空间来代替永久代的背景 故事,在此我们就以测试代码来观察一下,使用“永久代”还是“元空间”来实现方法区,对程序有什么 实际的影响。
String::intern()是一个本地方法,它的作用是如果字符串常量池中已经包含一个等于此String对象的 字符串,则返回代表池中这个字符串的String对象的引用;否则,会将此String对象包含的字符串添加 到常量池中,并且返回此String对象的引用。在JDK 6或更早之前的HotSpot虚拟机中,常量池都是分配 在永久代中,我们可以通过-XX:PermSize和-XX:MaxPermSize限制永久代的大小,即可间接限制其 中常量池的容量,具体实现如代码清单2-7所示,请读者测试时首先以JDK 6来运行代码

代码清单2-7 运行时常量池导致的内存溢出异常

/** 
* VM Args:-XX:PermSize=6M 
*          -XX:MaxPermSize=6M 
* @author zzm */ 
public class RuntimeConstantPoolOOM {   
	 public static void main(String[] args) { 
		 // 使用Set保持着常量池引用,避免Full GC回收常量池行为        
		 Set<String> set = new HashSet<String>();      
		 // 在short范围内足以让6MB的PermSize产生OOM了       
		 short i = 0;       
		 while (true) {      
		    set.add(String.valueOf(i++).intern());        
		 }   
	  }
}


 从运行结果中可以看到,运行时常量池溢出时,在OutOfMemoryError异常后面跟随的提示信息 是“PermGen space”,说明运行时常量池的确是属于方法区(即JDK 6的HotSpot虚拟机中的永久代)的 一部分。
而使用JDK 7或更高版本的JDK来运行这段程序并不会得到相同的结果,无论是在JDK 7中继续使 用-XX:MaxPermSize参数或者在JDK 8及以上版本使用-XX:MaxMeta-spaceSize参数把方法区容量同 样限制在6MB,也都不会重现JDK 6中的溢出异常,循环将一直进行下去,永不停歇[1]。出现这种变 化,是因为自JDK 7起,原本存放在永久代的字符串常量池被移至Java堆之中,所以在JDK 7及以上版 本,限制方法区的容量对该测试用例来说是毫无意义的。这时候使用-Xmx参数限制最大堆到6MB就能 够看到以下两种运行结果之一,具体取决于哪里的对象分配时产生了溢出:

关于这个字符串常量池的实现在哪里出现问题,还可以引申出一些更有意思的影响,具体见代码 清单2-8所示。
代码清单2-8 String.intern()返回引用的测试

public class RuntimeConstantPoolOOM {   
	public static void main(String[] args) {     
		String str1 = new StringBuilder("计算机").append("软件").toString();      
		System.out.println(str1.intern() == str1);       
		String str2 = new StringBuilder("ja").append("va").toString();      
		System.out.println(str2.intern() == str2);   
	} 
}

 这段代码在JDK 6中运行,会得到两个false,而在JDK 7中运行,会得到一个true和一个false。产 生差异的原因是,在JDK 6中,intern()方法会把首次遇到的字符串实例复制到永久代的字符串常量池 中存储,返回的也是永久代里面这个字符串实例的引用,而由StringBuilder创建的字符串对象实例在 Java堆上,所以必然不可能是同一个引用,结果将返回false。
而JDK 7(以及部分其他虚拟机,例如JRockit)的intern()方法实现就不需要再拷贝字符串的实例 到永久代了,既然字符串常量池已经移到Java堆中,那只需要在常量池里记录一下首次出现的实例引 用即可,因此intern()返回的引用和由StringBuilder创建的那个字符串实例就是同一个。而对str2比较返 回false,这是因为“java”[2]这个字符串在执行String-Builder.toString()之前就已经出现过了,字符串常量 池中已经有它的引用,不符合intern()方法要求“首次遇到”的原则,“计算机软件”这个字符串则是首次 出现的,因此结果返回true。
我们再来看看方法区的其他部分的内容,方法区的主要职责是用于存放类型的相关信息,如类 名、访问修饰符、常量池、字段描述、方法描述等。对于这部分区域的测试,基本的思路是运行时产 生大量的类去填满方法区,直到溢出为止。虽然直接使用Java SE API也可以动态产生类(如反射时的 GeneratedConstructorAccessor和动态代理等),但在本次实验中操作起来比较麻烦。在代码清单2-8里 笔者借助了CGLib[3]直接操作字节码运行时生成了大量的动态类。
值得特别注意的是,我们在这个例子中模拟的场景并非纯粹是一个实验,类似这样的代码确实可 能会出现在实际应用中:当前的很多主流框架,如Spring、Hibernate对类进行增强时,都会使用到 CGLib这类字节码技术,当增强的类越多,就需要越大的方法区以保证动态生成的新类型可以载入内存。另外,很多运行于Java虚拟机上的动态语言(例如Groovy等)通常都会持续创建新类型来支撑语 言的动态性,随着这类动态语言的流行,与代码清单2-9相似的溢出场景也越来越容易遇到。


代码清单2-9 借助CGLib使得方法区出现内存溢出异常

方法区溢出也是一种常见的内存溢出异常,一个类如果要被垃圾收集器回收,要达成的条件是比 较苛刻的。在经常运行时生成大量动态类的应用场景里,就应该特别关注这些类的回收状况。这类场 景除了之前提到的程序使用了CGLib字节码增强和动态语言外,常见的还有:大量JSP或动态产生JSP 文件的应用(JSP第一次运行时需要编译为Java类)、基于OSGi的应用(即使是同一个类文件,被不同 的加载器加载也会视为不同的类)等。
在JDK 8以后,永久代便完全退出了历史舞台,元空间作为其替代者登场。在默认设置下,前面 列举的那些正常的动态创建新类型的测试用例已经很难再迫使虚拟机产生方法区的溢出异常了。不过 为了让使用者有预防实际应用里出现类似于代码清单2-9那样的破坏性的操作,HotSpot还是提供了一 些参数作为元空间的防御措施,主要包括:
·-XX:MaxMetaspaceSize:设置元空间最大值,默认是-1,即不限制,或者说只受限于本地内存 大小。
·-XX:MetaspaceSize:指定元空间的初始空间大小,以字节为单位,达到该值就会触发垃圾收集 进行类型卸载,同时收集器会对该值进行调整:如果释放了大量的空间,就适当降低该值;如果释放 了很少的空间,那么在不超过-XX:MaxMetaspaceSize(如果设置了的话)的情况下,适当提高该值。
·-XX:MinMetaspaceFreeRatio:作用是在垃圾收集之后控制最小的元空间剩余容量的百分比,可 减少因为元空间不足导致的垃圾收集的频率。类似的还有-XX:Max-MetaspaceFreeRatio,用于控制最 大的元空间剩余容量的百分比。 

[1] 正常情况下是永不停歇的,如果机器内存紧张到连几MB的Java堆都挤不出来的这种极端情况就不 讨论了。 [2] 它是在加载sun.misc.Version这个类的时候进入常量池的。本书第2版并未解释java这个字符串此前是 哪里出现的,所以被批评“挖坑不填了”(无奈地摊手)。如读者感兴趣是如何找出来的,可参考RednaxelaFX的知乎回答(https://www.zhihu.com/question/51102308/answer/124441115)。 [3] CGLib开源项目:http://cglib.sourceforge.net/。

2.4.4 本机直接内存溢出

直接内存(Direct Memory)的容量大小可通过-XX:MaxDirectMemorySize参数来指定,如果不 去指定,则默认与Java堆最大值(由-Xmx指定)一致,代码清单2-10越过了DirectByteBuffer类直接通 过反射获取Unsafe实例进行内存分配(Unsafe类的getUnsafe()方法指定只有引导类加载器才会返回实 例,体现了设计者希望只有虚拟机标准类库里面的类才能使用Unsafe的功能,在JDK 10时才将Unsafe 的部分功能通过VarHandle开放给外部使用),因为虽然使用DirectByteBuffer分配内存也会抛出内存溢 出异常,但它抛出异常时并没有真正向操作系统申请分配内存,而是通过计算得知内存无法分配就会 在代码里手动抛出溢出异常,真正申请分配内存的方法是Unsafe::allocateMemory()。

代码清单2-10 使用unsafe分配本机内存

 

 由直接内存导致的内存溢出,一个明显的特征是在Heap Dump文件中不会看见有什么明显的异常 情况,如果读者发现内存溢出之后产生的Dump文件很小,而程序中又直接或间接使用了 DirectMemory(典型的间接使用就是NIO),那就可以考虑重点检查一下直接内存方面的原因了。

2.5 本章小结

到此为止,我们明白了虚拟机里面的内存是如何划分的,哪部分区域、什么样的代码和操作可能 导致内存溢出异常。虽然Java有垃圾收集机制,但内存溢出异常离我们并不遥远,本章只是讲解了各 个区域出现内存溢出异常的原因,下一章将详细讲解Java垃圾收集机制为了避免出现内存溢出异常都 做了哪些努力。

Logo

华为开发者空间,是为全球开发者打造的专属开发空间,汇聚了华为优质开发资源及工具,致力于让每一位开发者拥有一台云主机,基于华为根生态开发、创新。

更多推荐