JAVA反序列化的简单探究
JAVA反序列化的简单探究
本文主要是探究，在反序列化过程中是怎么调用到readObject、readResolve、readExternal方法的问题
新建一个需要被序列化的类ObjectA，写入readResolve和readObject方法：
package com.yy.serialize.readResolve;
import java.io.IOException;
import java.io.Serializable;
public class ObjectA implements Serializable {
private ObjectA() {
}
private static final ObjectA objectA = new ObjectA();
public static ObjectA getInstance() {
return objectA;
}
private Object readResolve() {
System.out.println("执行了readResolve方法");
return objectA;
}
private void readObject(java.io.ObjectInputStream in) throws IOException, ClassNotFoundException {
//执行默认的readObject()方法
in.defaultReadObject();
System.out.println("执行了readObject方法");
}
}
另一个类ObjectB则写入了readExternal方法：
package com.yy.serialize.readResolve;
import java.io.Externalizable;
import java.io.IOException;
import java.io.ObjectInput;
import java.io.ObjectOutput;
public class ObjectB implements Externalizable {
@Override
public void writeExternal(ObjectOutput out) throws IOException {
System.out.println("执行了writeExternal");
}
@Override
public void readExternal(ObjectInput in) throws IOException, ClassNotFoundException {
System.out.println("执行了readExternal");
}
}
测试类：
package com.yy.serialize.readResolve;
import java.io.*;
public class SerializeDemo {
public static void main(String[] args) throws Exception {
ObjectA objectA = ObjectA.getInstance();
ObjectB objectB = new ObjectB();
// 序列化
FileOutputStream fos = new FileOutputStream("a.txt");
ObjectOutputStream oos = new ObjectOutputStream(fos);
oos.writeObject(objectA);
oos.flush();
// 反序列化
FileInputStream fis = new FileInputStream("a.txt");
ObjectInputStream ois = new ObjectInputStream(fis);
ois.readObject();
}
}
运行测试类生成a.txt文件后，可以使用SerializationDumper查看字节流的数据：
这里有两个关键的标识
TC_OBJECT：标记后面的数据为Object对象
TC_CLASSDESC：类描述符标识，表示一个类中的所有信息
TC_CLASSDESC - 0x72
className
Length - 36 - 0x00 24
Value - com.yy.serialize.readResolve.ObjectA - 0x636f6d2e79792e73657269616c697a652e726561645265736f6c76652e4f626a65637441
serialVersionUID - 0xee 44 c6 e6 0d b3 64 b5
newHandle 0x00 7e 00 00
classDescFlags - 0x02 - SC_SERIALIZABLE
fieldCount - 0 - 0x00 00
classAnnotations
TC_ENDBLOCKDATA - 0x78
superClassDesc
TC_NULL - 0x70
调用分析
在ois.readObject下个断点
进入ObjectInputStream#readObject方法，看到其调用了readObject0
跟进readObject0，在此函数中，根据了tc值来进行switch，此时的tc值为TC_OBJECT，也就是0x73十进制数115
在case TC_OBJECT中，调用了readOrdinaryObject
跟进readOrdinaryObject中，发现调用了readClassDesc方法，并把值赋给了desc
跟进readClassDesc，此方法用来分发处理字节流中TC_CLASSDESC的方法，用switch来选择需要处理的方法
tc的值就是TC_CLASSDESC的值0x72，转成10进制就是114，然后进入switch判断后转到case TC_CLASSDESC:
跟进readNonProxyDesc方法，调用了resolveClass方法后，把值赋给了cl
继续跟进resolveClass后，发现使用了Class.forName来创建了ObjectA对象，然后把创建的对象进行return返回
回到readNonProxyDesc，此时cl值变成了ObjectA对象，然后把cl对象传入了initNonProxy，并且赋值给了desc
最后readNonProxyDesc方法返回了desc的值
返回的desc的值赋给了调用处readClassDesc的descriptor，然后又进行了返回
最后回到了readOrdinaryObject方法中
在这里先总结下这几个方法分别做了什么操作
总结下上面的流程顺序为：
readOrdinaryObject -》 readClassDesc -》 readNonProxyDesc -》 readResolve方法
readClassDesc ：分发用于处理字节流中TC_CLASSDESC的方法，用switch来选择需要处理的方法
readNonProxyDesc ：真正用来处理字节流中的TC_CLASSDESC方法，会调用resolveClass进行创建反序列化的对象
resolveClass：是用Class.forName来创建ObjectA对象的地方，在这里可以做一个检查校验，用于反序列化拦截。weblogic中补丁拦截就是在此进行的
到这里三个方法都讲了用途后，还剩最后一个readOrdinaryObject 了
readOrdinaryObject
这里的readOrdinaryObject就是真正操作调用序列化类中，readObject、readResolve、readExternal方法的地方
接着上面debug，拿到了desc的值后往下走，做了一个判断desc.isExternalizable，如果序列化的接口是Externalizable类型，就进入readExternalData，否则进入readSerialData
此处的ObjectA对象接口类型是Serializable，所以进入了readSerialData方法
最后readSerialData方法中用了反射进行调用反序列化对象的readObject方法
回到readOrdinaryObject，接下来就是调用readResolve方法的地方了
用if进行判断，为true则用反射调用反序列化对象的readResolve方法
引用一张xz上师傅文章的流程图：
https://xz.aliyun.com/t/8443#toc-2
总结
方法调用的流程顺序：
readOrdinaryObject -》 readClassDesc -》 readNonProxyDesc -》 readResolve方法
readClassDesc ：分发用于处理字节流中TC_CLASSDESC的方法，用switch来选择需要处理的方法
readNonProxyDesc ：真正用来处理字节流中的TC_CLASSDESC方法，会调用resolveClass进行创建反序列化的对象
resolveClass：是用Class.forName来创建ObjectA对象的地方，在这里可以做一个检查校验，用于反序列化拦截。weblogic中补丁拦截就是在此进行的
readOrdinaryObject：用于调用序列化类中，readObject、readResolve、readExternal的方法
