托管对象本质-第四部分-字段布局
托管对象本质-第四部分-字段布局
原文地址:https://devblogs.microsoft.com/premier-developer/managed-object-internals-part-4-fields-layout/
原文作者:Sergey
译文作者:杰哥很忙
目录
托管对象本质1-布局
托管对象本质2-对象头布局和锁成本
托管对象本质3-托管数组结构
托管对象本质4-字段布局
在最近的博客文章中,我们讨论了CLR中对象布局的不可见部分:
这次我们将重点讨论实例本身的布局,特别是实例字段在内存中的布局。
目前还没有关于字段布局的官方文档,因为CLR作者保留了在将来更改它的权利。但是,如果您有兴趣或者正在开发一个需要高性能的应用程序,那么了解布局可能会有帮助。
我们如何检查布局?我们可以在Visual Studio中查看原始内存或在SOS调试扩展中使用!dumpobj
命令。这些方法单调乏味,因此我们将尝试编写一个工具,在运行时打印对象布局。
如果您对工具的实现细节不感兴趣,可以跳到在运行时检查值类型布局部分。
在运行时获取字段偏移量
我们不会使用非托管代码或分析API,而是使用LdFlda
指令的强大功能。此IL指令返回给定类型字段的地址。不幸的是,这条指令没有在C#语言中公开,所以我们需要编写一些代码来解决这个限制。
在剖析C#中的new()约束时,我们已经做了类似的工作。我们将使用必要的IL指令生成一个动态方法。
该方法应执行以下操作:
- 创建数组用来存储所有字段地址。
- 枚举对象的每个FieldInfo,通过调用LdFlda指令获取偏移量。
- 将LdFlda指令的结果转换为long并将结果存储在数组中。
- 返回数组。
private static Func<object, long[]> GenerateFieldOffsetInspectionFunction(FieldInfo[] fields) { var method = new DynamicMethod( name: "GetFieldOffsets", returnType: typeof(long[]), parameterTypes: new[] { typeof(object) }, m: typeof(InspectorHelper).Module, skipVisibility: true); ILGenerator ilGen = method.GetILGenerator(); // Declaring local variable of type long[] ilGen.DeclareLocal(typeof(long[])); // Loading array size onto evaluation stack ilGen.Emit(OpCodes.Ldc_I4, fields.Length); // Creating an array and storing it into the local ilGen.Emit(OpCodes.Newarr, typeof(long)); ilGen.Emit(OpCodes.Stloc_0); for (int i = 0; i < fields.Length; i++) { // Loading the local with an array ilGen.Emit(OpCodes.Ldloc_0); // Loading an index of the array where we're going to store the element ilGen.Emit(OpCodes.Ldc_I4, i); // Loading object instance onto evaluation stack ilGen.Emit(OpCodes.Ldarg_0); // Getting the address for a given field ilGen.Emit(OpCodes.Ldflda, fields[i]); // Converting field offset to long ilGen.Emit(OpCodes.Conv_I8); // Storing the offset in the array ilGen.Emit(OpCodes.Stelem_I8); } ilGen.Emit(OpCodes.Ldloc_0); ilGen.Emit(OpCodes.Ret); return (Func<object, long[]>)method.CreateDelegate(typeof(Func<object, long[]>)); }
我们可以创建一个帮助函数用来提供给定的每个字段的偏移量。
public static (FieldInfo fieldInfo, int offset)[] GetFieldOffsets(Type t) { var fields = t.GetFields(BindingFlags.Public | BindingFlags.Instance | BindingFlags.NonPublic); Func<object, long[]> fieldOffsetInspector = GenerateFieldOffsetInspectionFunction(fields); var instance = CreateInstance(t); var addresses = fieldOffsetInspector(instance); if (addresses.Length == 0) { return Array.Empty<(FieldInfo, int)>(); } var baseLine = addresses.Min(); // Converting field addresses to offsets using the first field as a baseline return fields .Select((field, index) => (field: field, offset: (int)(addresses[index] - baseLine))) .OrderBy(tuple => tuple.offset) .ToArray(); }
函数非常简单,有一个警告:LdFlda 指令需要计算堆栈上的对象实例。对于值类型和具有默认构造函数的引用类型,解决方案是不难的:可以直接使用Activator.CreateInstance(Type)
。但是,如果想要检查没有默认构造函数的类,该怎么办?
在这种情况下我们可以使用不常使用的通用工厂,调用FormatterServices.GetUninitializedObject(Type)。
译者补充: FormatterServices.GetUninitializedObject方法不会调用默认构造函数,所有字段都保持默认值。
private static object CreateInstance(Type t) { return t.IsValueType ? Activator.CreateInstance(t) : FormatterServices.GetUninitializedObject(t); }
让我们来测试一下 GetFieldOffsets
获取下面类型的布局。
class ByteAndInt { public byte b; public int n; } Console.WriteLine( string.Join("\r\n", InspectorHelper.GetFieldOffsets(typeof(ByteAndInt)) .Select(tpl => $"Field {tpl.fieldInfo.Name}: starts at offset {tpl.offset}")) );
输出是:
Field n: starts at offset 0 Field b: starts at offset 4
有意思,但是做的还不够。我们可以检查每个字段的偏移量,但是知道每个字段的大小来理解布局的空间利用率,了解每个实例有多少空闲空间会很有用。
计算类型实例的大小
同样,没有"官方"方法来获取对象实例的大小。sizeof 运算符仅适用于没有引用类型字段的基元类型和用户定义结构。Marshal.SizeOf 返回非托管内存中的对象的大小,并不满足我们的需求。
我们将分别计算值类型和对象的实例大小。为了计算结构的大小,我们将依赖于 CLR 本身。我们会创建一个包含两个字段的简单泛型类型:第一个字段是泛型类型字段,第二个字段用于获取第一个字段的大小。
struct SizeComputer<T> { public T dummyField; public int offset; } public static int GetSizeOfValueTypeInstance(Type type) { Debug.Assert(type.IsValueType); var generatedType = typeof(SizeComputer<>).MakeGenericType(type); // The offset of the second field is the size of the 'type' var fieldsOffsets = GetFieldOffsets(generatedType); return fieldsOffsets[1].offset; }
为了得到引用类型实例的大小,我们将使用另一个技巧:我们获取最大字段偏移量,然后将该字段的大小和该数字四舍五入到指针大小边界。我们已经知道如何计算值类型的大小,并且我们知道引用类型的每个字段都占用 4 或 8 个字节(具体取决于平台)。因此,我们获得了所需的一切信息:
public static int GetSizeOfReferenceTypeInstance(Type type) { Debug.Assert(!type.IsValueType); var fields = GetFieldOffsets(type); if (fields.Length == 0) { // Special case: the size of an empty class is 1 Ptr size return IntPtr.Size; } // The size of the reference type is computed in the following way: // MaxFieldOffset + SizeOfThatField // and round that number to closest point size boundary var maxValue = fields.MaxBy(tpl => tpl.offset); int sizeCandidate = maxValue.offset + GetFieldSize(maxValue.fieldInfo.FieldType); // Rounding the size to the nearest ptr-size boundary int roundTo = IntPtr.Size - 1; return (sizeCandidate + roundTo) & (~roundTo); } public static int GetFieldSize(Type t) { if (t.IsValueType) { return GetSizeOfValueTypeInstance(t); } return IntPtr.Size; }
我们有足够的信息在运行时获取任何类型实例的正确布局信息。
在运行时检查值类型布局
我们从值类型开始,并检查以下结构:
public struct NotAlignedStruct { public byte m_byte1; public int m_int; public byte m_byte2; public short m_short; }
调用TypeLayout.Print<NotAlignedStruct>()
结果如下:
Size: 12. Paddings: 4 (%33 of empty space) |================================| | 0: Byte m_byte1 (1 byte) | |--------------------------------| | 1-3: padding (3 bytes) | |--------------------------------| | 4-7: Int32 m_int (4 bytes) | |--------------------------------| | 8: Byte m_byte2 (1 byte) | |--------------------------------| | 9: padding (1 byte) | |--------------------------------| | 10-11: Int16 m_short (2 bytes) | |================================|
默认情况下,用户定义的结构具有sequential
布局,Pack 等于 0。下面是 CLR 遵循的规则:
字段必须与自身大小的字段(1、2、4、8 等、字节)或比它小的字段的类型的对齐方式对齐。由于默认的类型对齐方式是以最大元素的大小对齐(大于或等于所有其他字段长度),这通常意味着字段按其大小对齐。例如,即使类型中的最大字段是 64 位(8 字节)整数,或者 Pack 字段设置为 8,byte
字段在 1 字节边界上对齐,Int16
字段在 2 字节边界上对齐,Int32
字段在 4 字节边界上对齐。
译者补充:当较大字段排列在较小字段之后时,会进行对内对齐,以最大基元元素的大小填齐使得内存对齐。
在上面的情况,4个字节对齐会有比较合理的开销。我们可以将 Pack 更改为 1,但由于未对齐的内存操作,性能可能会下降。相反,我们可以使用LayoutKind.Auto
来允许 CLR 自动寻找最佳布局:
译者补充:内存对齐的方式主要有2个作用:一是为了跨平台。并不是所有的硬件平台都能访问任意地址上的任意数据的;某些硬件平台只能在某些地址处取某些特定类型的数据,否则抛出硬件异常。二是内存对齐可以提高性能,原因在于,为了访问未对齐的内存,处理器需要作两次内存访问;而对齐的内存访问仅需要一次访问。
[StructLayout(LayoutKind.Auto)] public struct NotAlignedStructWithAutoLayout { public byte m_byte1; public int m_int; public byte m_byte2; public short m_short; }
Size: 8. Paddings: 0 (%0 of empty space) |================================| | 0-3: Int32 m_int (4 bytes) | |--------------------------------| | 4-5: Int16 m_short (2 bytes) | |--------------------------------| | 6: Byte m_byte1 (1 byte) | |--------------------------------| | 7: Byte m_byte2 (1 byte) | |================================|
记住,只有当类型中没有"指针"时,才可能同时使用值类型和引用类型的顺序布局。如果结构或类至少有一个引用类型的字段,则布局将自动更改为 LayoutKind.Auto
。
在运行时检查引用类型布局
引用类型的布局和值类型的布局之间存在两个主要差异。首先,每个对象实例都有一个对象头和方法表指针。其次,对象的默认布局是自动的(Auto)的,而不是顺序的(sequential)的。与值类型类似,顺序布局仅适用于没有任何引用类型的类。
方法 TypeLayout.PrintLayout<T>(bool recursively = true)
采用一个参数,允许打印嵌套类型。
public class ClassWithNestedCustomStruct { public byte b; public NotAlignedStruct sp1; }
Size: 40. Paddings: 11 (%27 of empty space) |========================================| | Object Header (8 bytes) | |----------------------------------------| | Method Table Ptr (8 bytes) | |========================================| | 0: Byte b (1 byte) | |----------------------------------------| | 1-7: padding (7 bytes) | |----------------------------------------| | 8-19: NotAlignedStruct sp1 (12 bytes) | | |================================| | | | 0: Byte m_byte1 (1 byte) | | | |--------------------------------| | | | 1-3: padding (3 bytes) | | | |--------------------------------| | | | 4-7: Int32 m_int (4 bytes) | | | |--------------------------------| | | | 8: Byte m_byte2 (1 byte) | | | |--------------------------------| | | | 9: padding (1 byte) | | | |--------------------------------| | | | 10-11: Int16 m_short (2 bytes) | | | |================================| | |----------------------------------------| | 20-23: padding (4 bytes) | |========================================|
结构包装的成本
尽管类型布局非常简单,但我发现了一个有趣的特性。
我最近正在调查项目中的一个内存问题,我注意到一些奇怪的现象:托管对象的所有字段的总和都高于实例的大小。我大致知道 CLR 如何布置字段的规则,所以我感到困惑。我已经开始研究这个工具来理解这个问题。
我已经将问题缩小到以下情况:
internal struct ByteWrapper { public byte b; } internal class ClassWithByteWrappers { public ByteWrapper bw1; public ByteWrapper bw2; public ByteWrapper bw3; }
--- Automatic Layout --- --- Sequential Layout --- Size: 24 bytes. Paddings: 21 bytes Size: 8 bytes. Paddings: 5 bytes (%87 of empty space) (%62 of empty space) |=================================| |=================================| | Object Header (8 bytes) | | Object Header (8 bytes) | |---------------------------------| |---------------------------------| | Method Table Ptr (8 bytes) | | Method Table Ptr (8 bytes) | |=================================| |=================================| | 0: ByteWrapper bw1 (1 byte) | | 0: ByteWrapper bw1 (1 byte) | |---------------------------------| |---------------------------------| | 1-7: padding (7 bytes) | | 1: ByteWrapper bw2 (1 byte) | |---------------------------------| |---------------------------------| | 8: ByteWrapper bw2 (1 byte) | | 2: ByteWrapper bw3 (1 byte) | |---------------------------------| |---------------------------------| | 9-15: padding (7 bytes) | | 3-7: padding (5 bytes) | |---------------------------------| |=================================| | 16: ByteWrapper bw3 (1 byte) | |---------------------------------| | 17-23: padding (7 bytes) | |=================================|
即使 ByteWrapper
的大小为 1 字节,CLR 在指针边界上对齐每个字段! 如果类型布局是LayoutKind.Auto
CLR 将填充每个自定义值类型字段! 这意味着,如果你有多个结构,仅包装一个 int 或 byte类型,而且它们广泛用于数百万个对象,那么由于填充的现象,可能会有明显的内存开销。
默认包大小为4或8,根据平台而定。
参考文档
- StructLayout特性
- Compiling C# Code Into Memory and Executing It with Roslyn
- StructLayoutAttribute.Pack
- 有助于在运行时查看 CLR 类型的内部结构的工具
微信扫一扫二维码关注订阅号杰哥技术分享
出处:https://www.cnblogs.com/Jack-Blog/p/12259258.html
作者:杰哥很忙
本文使用「CC BY 4.0」创作共享协议。欢迎转载,请在明显位置给出出处及链接。
【推荐】还在用 ECharts 开发大屏?试试这款永久免费的开源 BI 工具!
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 从二进制到误差:逐行拆解C语言浮点运算中的4008175468544之谜
· .NET制作智能桌面机器人:结合BotSharp智能体框架开发语音交互
· 软件产品开发中常见的10个问题及处理方法
· .NET 原生驾驭 AI 新基建实战系列:向量数据库的应用与畅想
· 从问题排查到源码分析:ActiveMQ消费端频繁日志刷屏的秘密
· Windows桌面应用自动更新解决方案SharpUpdater5发布
· 我的家庭实验室服务器集群硬件清单
· C# 13 中的新增功能实操
· Supergateway:MCP服务器的远程调试与集成工具
· Vue3封装支持Base64导出的电子签名组件