qgx2009

qgx2009

关注
发信
关注(28)粉丝(399)

Redis内存管理的基石zmallc.c源码解读

先总结：
1、zmalloc的原理是每次分配内存时都多分配一个sizeof(size_t)大小的空间用来记录本次分配的内存大小，相应的释放内存时也需要是否多分配的那块内存。
2、用一个全局变量用来记录分配的总内存大小，这样malloc时增加该值，free时减该值。

下面是转载：

Redis现在的版本可以支持使用tcmalloc或者是jemalloc或是apple的malloc，或者是Redis自己的zmalloc。zmalloc对内存的分配管理是线程安全的(static size_t used_memory = 0;变量用来记录已经使用的内存空间的大小)，而且分配的内存必须要求是以sizeof(long)对齐的。

zmalloc.hzmalloc.c

分析

宏变量说明：

  • PREFIX_SIZE：在实际分配的内存之前用于记录分配的内存的大小，和在实际的C中的malloc的内存数据结构类似，但是可能C是根据具体的环境不同的。
  • HAVE_MALLOC_SIZE：表明是否使用的是其他的malloc实现,这些malloc的实现中就可以有相关的函数可以直接获得所分配的内存的大小，如果没有的话则根据zmalloc的实现是实际分配的size+PREFIX_SIZE。
  • #ifndef HAVE_MALLOC_SIZE
  • size_t zmalloc_size(void *ptr);
  • #endif

其他

zmalloc除了提供标准的zamlloc，zcalloc，zrealloc，zfree功能之外还提供了dump内存数据到字符串的函数zstrdup，获得已经使用的内存总量的zmalloc_used_memory函数以及设置内存溢出处理函数的zmalloc_set_oom_handler。同时还提供了用于获得系统中的RSS，即程序所占用的实际的物理内存大小。

另一篇转载，主要是源码分析：
转自：https://blog.csdn.net/guodongxiaren/article/details/44747719

当我第一次阅读了这个文件的源码的时候，我笑了，忽然想起前几周阿里电话二面的时候，问到了自定义内存管理函数并处理8字节对齐问题。当时无言以对，在面试官无数次的提示下才答了出来，结果显而易见，挂掉了二面。而这份源码中函数zmalloc()和zfree()的设计思路和实现原理，正是面试官想要的答案。


源码结构
zmalloc.c文件的内容如下：


主要函数


zmalloc()
zfree()
zcalloc()
zrelloc()
zstrdup()
字长与字节对齐
        CPU一次性能读取数据的二进制位数称为字长，也就是我们通常所说的32位系统（字长4个字节）、64位系统（字长8个字节）的由来。所谓的8字节对齐，就是指变量的起始地址是8的倍数。比如程序运行时（CPU）在读取long型数据的时候，只需要一个总线周期，时间更短，如果不是8字节对齐的则需要两个总线周期才能读完数据。
        本文中我提到的8字节对齐是针对64位系统而言的，如果是32位系统那么就是4字节对齐。实际上Redis源码中的字节对齐是软编码，而非硬编码。里面多用sizeof(long)或sizeof(size_t)来表示。size_t（gcc中其值为long unsigned int）和long的长度是一样的，long的长度就是计算机的字长。这样在未来的系统中如果字长（long的大小）不是8个字节了，该段代码依然能保证相应代码可用。


zmalloc
        辅助的函数：
malloc()
zmalloc_oom_handler【函数指针】
zmalloc_default_oom()【被上面的函数指针所指向】
update_zmalloc_stat_alloc()【宏函数】
update_zmalloc_stat_add()【宏函数】
zmalloc()和malloc()有相同的函数接口（参数，返回值）。 
zmalloc()源码

点击(此处)折叠或打开

  1. void *zmalloc(size_t size) {
  2.     void *ptr = malloc(size+PREFIX_SIZE);
  3.  
  4.     if (!ptr) zmalloc_oom_handler(size);
  5. #ifdef HAVE_MALLOC_SIZE
  6.     update_zmalloc_stat_alloc(zmalloc_size(ptr));
  7.     return ptr;
  8. #else
  9.     *((size_t*)ptr) = size;
  10.     update_zmalloc_stat_alloc(size+PREFIX_SIZE);
  11.     return (char*)ptr+PREFIX_SIZE;
  12. #endif
  13. }


        参数size是我们需要分配的内存大小。实际上我们调用malloc实际分配的大小是size+PREFIX_SIZE。PREFIX_SIZE是一个条件编译的宏，不同的平台有不同的结果，在Linux中其值是sizeof(size_t)，所以我们多分配了一个字长(8个字节)的空间（后面代码可以看到多分配8个字节的目的是用于储存size的值）。
        如果ptr指针为NULL（内存分配失败），调用zmalloc_oom_handler（size）。该函数实际上是一个函数指针指向函数zmalloc_default_oom，其主要功能就是打印错误信息并终止程序。
// oom是out of memory（内存不足）的意思

点击(此处)折叠或打开

  1. static void zmalloc_default_oom(size_t size) {
  2.     fprintf(stderr, "zmalloc: Out of memory trying to allocate %zu bytes\n",
  3.         size);
  4.     fflush(stderr);
  5.     abort();
  6. }


接下来是宏的条件编译，我们聚焦在#else的部分。
    *((size_t*)ptr) = size;
    update_zmalloc_stat_alloc(size+PREFIX_SIZE);
    return (char*)ptr+PREFIX_SIZE;
第一行就是在已分配空间的第一个字长（前8个字节）处存储需要分配的字节大小（size）。
第二行调用了update_zmalloc_stat_alloc()【宏函数】，它的功能是更新全局变量used_memory（已分配内存的大小）的值（源码解读见下一节）。
第三行返回的（char *）ptr+PREFIX_SIZE。就是将已分配内存的起始地址向右偏移PREFIX_SIZE * sizeof(char)的长度（即8个字节），此时得到的新指针指向的内存空间的大小就等于size了。
接下来，分析一下update_zmalloc_stat_alloc的源码
update_zmalloc_stat_alloc源码

点击(此处)折叠或打开

  1. #define update_zmalloc_stat_alloc(__n) do { \
  2.     size_t _n = (__n); \
  3.     if (_n&(sizeof(long)-1)) _n += sizeof(long)-(_n&(sizeof(long)-1)); \
  4.     if (zmalloc_thread_safe) { \
  5.         update_zmalloc_stat_add(_n); \
  6.     } else { \
  7.         used_memory += _n; \
  8.     } \
  9. } while(0)


这个宏函数最外圈有一个do{...}while(0)循环看似毫无意义，实际上大有深意。这部分内容不是本文讨论的重点，这里不再赘述。具体请看网上的这篇文章 http://www.spongeliu.com/415.html。
        因为 sizeof(long) = 8 【64位系统中】，所以上面的第一个if语句，可以等价于以下代码：
     if(_n&7) _n += 8 - (_n&7);
         这段代码就是判断分配的内存空间的大小是不是8的倍数。如果内存大小不是8的倍数，就加上相应的偏移量使之变成8的倍数。_n&7 在功能上等价于 _n%8，不过位操作的效率显然更高。
        malloc()本身能够保证所分配的内存是8字节对齐的：如果你要分配的内存不是8的倍数，那么malloc就会多分配一点，来凑成8的倍数。所以update_zmalloc_stat_alloc函数（或者说zmalloc()相对malloc()而言）真正要实现的功能并不是进行8字节对齐（malloc已经保证了），它的真正目的是使变量used_memory精确的维护实际已分配内存的大小。       
        第2个if的条件是一个整型变量zmalloc_thread_safe。顾名思义，它的值表示操作是否是线程安全的，如果不是线程安全的（else），就给变量used_memory加上n。used_memory是zmalloc.c文件中定义的全局静态变量，表示已分配内存的大小。如果是内存安全的就使用update_zmalloc_stat_add来给used_memory加上n。
        update_zmalloc_stat_add也是一个宏函数（Redis效率之高，速度之快，这些宏函数可谓功不可没）。它也是一个条件编译的宏，依据不同的宏有不同的定义，这里我们来看一下#else后面的定义的源码【zmalloc.c有多处条件编译的宏，为了把精力都集中在内存管理的实现算法上，这里我只关注Linux平台下使用glibc的malloc的情况】。

点击(此处)折叠或打开

  1. #define update_zmalloc_stat_add(__n) do { \
  2.     pthread_mutex_lock(&used_memory_mutex); \
  3.     used_memory += (__n); \
  4.     pthread_mutex_unlock(&used_memory_mutex); \
  5. } while(0)


        pthread_mutex_lock()和pthread_mutex_unlock()使用互斥锁（mutex）来实现线程同步，前者表示加锁，后者表示解锁，它们是POSIX定义的线程同步函数。当加锁以后它后面的代码在多线程同时执行这段代码的时候就只会执行一次，也就是实现了线程安全。
zfree
        zfree()和free()有相同的编程接口，它负责清除zmalloc()分配的空间。
辅助函数:
free()
update_zmalloc_free()【宏函数】
update_zmalloc_sub()【宏函数】
zmalloc_size()
zfree()源码

点击(此处)折叠或打开

  1. void zfree(void *ptr) {
  2. #ifndef HAVE_MALLOC_SIZE
  3.     void *realptr;
  4.     size_t oldsize;
  5. #endif
  6.  
  7.     if (ptr == NULL) return;
  8. #ifdef HAVE_MALLOC_SIZE
  9.     update_zmalloc_stat_free(zmalloc_size(ptr));
  10.     free(ptr);
  11. #else
  12.     realptr = (char*)ptr-PREFIX_SIZE;
  13.     oldsize = *((size_t*)realptr);
  14.     update_zmalloc_stat_free(oldsize+PREFIX_SIZE);
  15.     free(realptr);
  16. #endif
  17. }


重点关注#else后面的代码
realptr = (char *)ptr - PREFIX_SIZE;
表示的是ptr指针向前偏移8个字节的长度，即回退到最初malloc返回的地址，这里称为realptr。然后
 oldsize = *((size_t*)realptr);
先进行类型转换再取指针所指向的值。通过zmalloc()函数的分析，可知这里存储着我们最初需要分配的内存大小（zmalloc中的size），这里赋值个oldsize
update_zmalloc_stat_free(oldsize+PREFIX_SIZE);
update_zmalloc_stat_free()也是一个宏函数，和zmalloc中update_zmalloc_stat_alloc()大致相同，唯一不同之处是前者在给变量used_memory减去分配的空间，而后者是加上该空间大小。
最后free(realptr)，清除空间
update_zmalloc_free源码

点击(此处)折叠或打开

  1. #define update_zmalloc_stat_free(__n) do { \
  2.     size_t _n = (__n); \
  3.     if (_n&(sizeof(long)-1)) _n += sizeof(long)-(_n&(sizeof(long)-1)); \
  4.     if (zmalloc_thread_safe) { \
  5.         update_zmalloc_stat_sub(_n); \
  6.     } else { \
  7.         used_memory -= _n; \
  8.     } \
  9. } while(0)


其中的函数update_zmalloc_sub与zmalloc()中的update_zmalloc_add相对应，但功能相反，提供线程安全地used_memory减法操作。

点击(此处)折叠或打开

  1. #define update_zmalloc_stat_sub(__n) do { \
  2.     pthread_mutex_lock(&used_memory_mutex); \
  3.     used_memory -= (__n); \
  4.     pthread_mutex_unlock(&used_memory_mutex); \
  5. } while(0)


zcalloc
        zcalloc()的实现基于calloc()，但是两者编程接口不同。看一下对比：
void *calloc(size_t nmemb, size_t size);
void *zcalloc(size_t size);
calloc()的功能是也是分配内存空间，与malloc()的不同之处有两点：
它分配的空间大小是 size * nmemb。比如calloc(10,sizoef(char)); // 分配10个字节
calloc()会对分配的空间做初始化工作（初始化为0），而malloc()不会
辅助函数
calloc()
update_zmalloc_stat_alloc()【宏函数】
update_zmalloc_stat_add()【宏函数】
zcalloc()源码

点击(此处)折叠或打开

  1. void *zcalloc(size_t size) {
  2.     void *ptr = calloc(1, size+PREFIX_SIZE);
  3.  
  4.     if (!ptr) zmalloc_oom_handler(size);
  5. #ifdef HAVE_MALLOC_SIZE
  6.     update_zmalloc_stat_alloc(zmalloc_size(ptr));
  7.     return ptr;
  8. #else
  9.     *((size_t*)ptr) = size;
  10.     update_zmalloc_stat_alloc(size+PREFIX_SIZE);
  11.     return (char*)ptr+PREFIX_SIZE;
  12. #endif
  13. }


        zcalloc()中没有calloc()的第一个函数nmemb。因为它每次调用calloc(),其第一个参数都是1。也就是说zcalloc()功能是每次分配 size+PREFIX_SIZE 的空间，并初始化。
其余代码的分析和zmalloc()相同，也就是说：
        zcalloc()和zmalloc()具有相同的编程接口，实现功能基本相同，唯一不同之处是zcalloc()会做初始化工作，而zmalloc()不会。
zrealloc
        zrealloc()和realloc()具有相同的编程接口：
void *realloc (void *ptr, size_t size);
void *zrealloc(void *ptr, size_t size);
        realloc()要完成的功能是给首地址ptr的内存空间，重新分配大小。如果失败了，则在其它位置新建一块大小为size字节的空间，将原先的数据复制到新的内存空间，并返回这段内存首地址【原内存会被系统自然释放】。
        zrealloc()要完成的功能也类似。
辅助函数：
zmalloc()
zmalloc_size()
realloc()
zmalloc_oom_handler【函数指针】
update_zmalloc_stat_free()【宏函数】
update_zmalloc_stat_alloc()【宏函数】
zrealloc()源码

点击(此处)折叠或打开

  1. void *zrealloc(void *ptr, size_t size) {
  2. #ifndef HAVE_MALLOC_SIZE
  3.     void *realptr;
  4. #endif
  5.     size_t oldsize;
  6.     void *newptr;
  7.  
  8.     if (ptr == NULL) return zmalloc(size);
  9. #ifdef HAVE_MALLOC_SIZE
  10.     oldsize = zmalloc_size(ptr);
  11.     newptr = realloc(ptr,size);
  12.     if (!newptr) zmalloc_oom_handler(size);
  13.  
  14.     update_zmalloc_stat_free(oldsize);
  15.     update_zmalloc_stat_alloc(zmalloc_size(newptr));
  16.     return newptr;
  17. #else
  18.     realptr = (char*)ptr-PREFIX_SIZE;
  19.     oldsize = *((size_t*)realptr);
  20.     newptr = realloc(realptr,size+PREFIX_SIZE);
  21.     if (!newptr) zmalloc_oom_handler(size);
  22.  
  23.     *((size_t*)newptr) = size;
  24.     update_zmalloc_stat_free(oldsize);
  25.     update_zmalloc_stat_alloc(size);
  26.     return (char*)newptr+PREFIX_SIZE;
  27. #endif
  28. }


经过前面关于zmalloc()和zfree()的源码解读，相信您一定能够很轻松地读懂zrealloc()的源码，这里我就不赘述了。
zstrdup
        从这个函数名中，很容易发现它是string duplicate的缩写，即字符串复制。它的代码比较简单。先看一下声明：
char *zstrdup(const char *s);
功能描述：复制字符串s的内容，到新的内存空间，构造新的字符串【堆区】。并将这段新的字符串地址返回。
zstrdup源码

点击(此处)折叠或打开

  1. char *zstrdup(const char *s) {
  2.     size_t l = strlen(s)+1;
  3.     char *p = zmalloc(l);
  4.  
  5.     memcpy(p,s,l);
  6.     return p;
  7. }


首先，先获得字符串s的长度，新闻strlen()函数是不统计'\0'的，所以最后要加1。
然后调用zmalloc()来分配足够的空间，首地址为p。
调用memcpy来完成复制。
然后返回p。
简单介绍一下memcpy
memcpy
        这是标准C【ANSI C】中用于内存复制的函数，在头文件中（gcc）。声明如下：
void *memcpy(void *dest, const void *src, size_t n);
dest即目的地址，src是源地址。n是要复制的字节数。


09-22 05:26
Powered by LMLPHP ©2024 qgx2009 0.093986