环境:windows xp. vs2005
Gflags可用于查找内存越界的问题。
访问一块申请的内存时,当访问的地址超过申请的范围时,就发生了内存越界的问题。
编写测试程序MemoryOverflow.exe。在程序中,Fun函数使用new申请了16个字节的内存,因此p[0]~p[15]都是可访问的合法地址。
#include <iostream>
using namespace std; int Fun()
{
char *p = new char[];
memset(p, 0x00, *sizeof(char)); p[] = ; //合法改写
p[] = ; //合法改写
p[] = ; //越界,delete可检查出来
p[] = ; //越界,delete可检查出来
p[] = ; //越界,delete可检查出来
p[] = ; //越界,delete可检查出来
p[] = ; //越界,Gflags可检查出来 delete p;
p = NULL; return ;
} int main()
{
Fun(); return ;
}
在VS2005Debug模式下,每次使用new申请一块内存时,会多出36个字节,其中32个字节在P的前面,4个字节在p的后面。后面4个字节保护区以0xFD进行填充。如果p后面的4个字节被改写掉,则在delete时会校验失败。
发生内存越界时,一般不会有异常发生,而是可能在后面的代码中发生异常。Gflags能在发生内存越界时,就立即提示出来。
Gflags会在用户申请的内存后面分配一个保护区(一般是一个虚拟页,写保护属性),一旦发生内存越界,就会触发中断,定位发生内存越界的代码行。
在命令行中输入指令:Gflags.exe /p /enable MemoryOverflow.exe /full /unaligned //非对齐方式完全启用page heap
使用VS2005调试MemoryOverflow.exe,当执行到 p[20] = 7; 时,就会提示内存越界了。