Windows下使用Gflags检查内存越界
环境:windows xp. vs2005
Gflags可用于查找内存越界的问题。
访问一块申请的内存时，当访问的地址超过申请的范围时，就发生了内存越界的问题。
编写测试程序MemoryOverflow.exe。在程序中，Fun函数使用new申请了16个字节的内存，因此p[0]~p[15]都是可访问的合法地址。
1 #include <iostream> 2 using namespace std; 3 4 int Fun() 5 { 6 char *p = new char[16]; 7 memset(p, 0x00, 16*sizeof(char)); 8 9 p[0] = 1; //合法改写 10 p[15] = 2; //合法改写 11 p[16] = 3; //越界，delete可检查出来 12 p[17] = 4; //越界，delete可检查出来 13 p[18] = 5; //越界，delete可检查出来 14 p[19] = 6; //越界，delete可检查出来 15 p[20] = 7; //越界，Gflags可检查出来 16 17 delete p; 18 p = NULL; 19 20 return 0; 21 } 22 23 int main() 24 { 25 Fun(); 26 27 return 0; 28 }
在VS2005Debug模式下，每次使用new申请一块内存时，会多出36个字节，其中32个字节在P的前面，4个字节在p的后面。后面4个字节保护区以0xFD进行填充。如果p后面的4个字节被改写掉，则在delete时会校验失败。
发生内存越界时，一般不会有异常发生，而是可能在后面的代码中发生异常。Gflags能在发生内存越界时，就立即提示出来。
Gflags会在用户申请的内存后面分配一个保护区（一般是一个虚拟页，写保护属性），一旦发生内存越界，就会触发中断，定位发生内存越界的代码行。
在命令行中输入指令：Gflags.exe /p /enable MemoryOverflow.exe /full /unaligned //非对齐方式完全启用page heap
使用VS2005调试MemoryOverflow.exe，当执行到 p[20] = 7; 时，就会提示内存越界了。
