skynet源码分析4:actor生命周期管理

skynet是基于多线程的,每个actor都会被单独的线程调度,且每个actor可以杀死其它actor,给其它actor发送消息,创建actor,也就是一个actor可能被多个线程持有,那么就会面临三个问题:

  1. 一个actor被同时使用时,如何安全释放。
  2. actor被释放后,外部使用时如何检测该actor已经无效了,以便流程能继续。
  3. 若信箱里的消息具有请求回应语义,那么如果通知消息源。

框架使用的是handle映射与引用计数的手法,对外暴露sc(skynet_context)的handle,而不是指针。这个模块实现在/skynet-src/skynet_handle.c中,来分析一下其具体原理,从头文件的接口入手:

skynet_handle.h

 1 #ifndef SKYNET_CONTEXT_HANDLE_H
 2 #define SKYNET_CONTEXT_HANDLE_H
 3 
 4 #include <stdint.h>
 5 
 6 // reserve high 8 bits for remote id
 7 #define HANDLE_MASK 0xffffff
 8 #define HANDLE_REMOTE_SHIFT 24
 9 
10 struct skynet_context;
11 
12 uint32_t skynet_handle_register(struct skynet_context *);
13 int skynet_handle_retire(uint32_t handle);
14 struct skynet_context * skynet_handle_grab(uint32_t handle);
15 void skynet_handle_retireall();
16 
17 uint32_t skynet_handle_findname(const char * name);
18 const char * skynet_handle_namehandle(uint32_t handle, const char *name);
19 
20 void skynet_handle_init(int harbor);
21 
22 #endif

handle是一个uint32_t的整数,高8位表示远程节点(这是框架自带的集群设施,后面的分析都会无视该部分,一来它不是框架核心,二来这个集群设施已经不被推荐使用)。

先来看看它内部的数据结构:

#define DEFAULT_SLOT_SIZE 4
#define MAX_SLOT_SIZE 0x40000000

struct handle_name {
    char * name;
    uint32_t handle;
};

struct handle_storage {
    struct rwlock lock;

    uint32_t harbor;
    uint32_t handle_index;
    int slot_size;
    struct skynet_context ** slot;
    
    int name_cap;
    int name_count;
    struct handle_name *name;
};

static struct handle_storage *H = NULL;

看上去就一个sc的数组,看不出什么,看其它的方法吧,skynet_handle_register:

 1 uint32_t
 2 skynet_handle_register(struct skynet_context *ctx) {
 3     struct handle_storage *s = H;
 4 
 5     rwlock_wlock(&s->lock);
 6     
 7     for (;;) {
 8         int i;
 9         for (i=0;i<s->slot_size;i++) {
10             uint32_t handle = (i+s->handle_index) & HANDLE_MASK;
11             int hash = handle & (s->slot_size-1);
12             if (s->slot[hash] == NULL) {
13                 s->slot[hash] = ctx;
14                 s->handle_index = handle + 1;
15 
16                 rwlock_wunlock(&s->lock);
17 
18                 handle |= s->harbor;
19                 return handle;
20             }
21         }
22         assert((s->slot_size*2 - 1) <= HANDLE_MASK);
23         struct skynet_context ** new_slot = skynet_malloc(s->slot_size * 2 * sizeof(struct skynet_context *));
24         memset(new_slot, 0, s->slot_size * 2 * sizeof(struct skynet_context *));
25         for (i=0;i<s->slot_size;i++) {
26             int hash = skynet_context_handle(s->slot[i]) & (s->slot_size * 2 - 1);
27             assert(new_slot[hash] == NULL);
28             new_slot[hash] = s->slot[i];
29         }
30         skynet_free(s->slot);
31         s->slot = new_slot;
32         s->slot_size *= 2;
33     }
34 }

这个方法是添加一个sc的handle映射。

从代码看,是一种hash映射,用读写锁来保证线程安全。9-21行是哈希值的选取过程,就是一个自增长的整数,每计算一次就加1,用handle_index做计数器,用取模来映射到sc数组上。用二次探测法来解决冲突,第9行循环保证冲突探测会覆盖整个数组。

到22行,就说明数组满了,此时会成倍扩展原数组,将handle在新数组上重新取模映射一遍。这种hash的规则有两点好处:1、hash值不会重复.2、查找过程是真正O(1)的.

从第22行和handle_index的修改处,可以知道这个函数基于两个前提:1、数组大小不会超过0xffffff.2、handle_index没有处理溢出的情况,可能为0,也就是假定不会溢出。个人觉得handle_index还是处理一下溢出的情况较好,如果大于0xffffff,就设为1。

再来看看skynet_handle_grab:

 1 struct skynet_context * 
 2 skynet_handle_grab(uint32_t handle) {
 3     struct handle_storage *s = H;
 4     struct skynet_context * result = NULL;
 5 
 6     rwlock_rlock(&s->lock);
 7 
 8     uint32_t hash = handle & (s->slot_size-1);
 9     struct skynet_context * ctx = s->slot[hash];
10     if (ctx && skynet_context_handle(ctx) == handle) {
11         result = ctx;
12         skynet_context_grab(result);
13     }
14 
15     rwlock_runlock(&s->lock);
16 
17     return result;
18 }

这个函数作用是根据handle查找对应的sc,handle无效就返回NULL.上的是读锁,查找过程很简单,将handle取模,然后判断索引处的元素的handle是否一致。引用计数保存在sc里,并没有在本模块中,其实应该放在本模块中更为纯粹,sc里只需要知道如何释放自己就行了。查找成功会增加sc的计数(skynet_context_grab)。

再来看看skynet_handle_retire:

 1 int
 2 skynet_handle_retire(uint32_t handle) {
 3     int ret = 0;
 4     struct handle_storage *s = H;
 5 
 6     rwlock_wlock(&s->lock);
 7 
 8     uint32_t hash = handle & (s->slot_size-1);
 9     struct skynet_context * ctx = s->slot[hash];
10 
11     if (ctx != NULL && skynet_context_handle(ctx) == handle) {
12         s->slot[hash] = NULL;
13         ret = 1;
14         int i;
15         int j=0, n=s->name_count;
16         for (i=0; i<n; ++i) {
17             if (s->name[i].handle == handle) {
18                 skynet_free(s->name[i].name);
19                 continue;
20             } else if (i!=j) {
21                 s->name[j] = s->name[i];
22             }
23             ++j;
24         }
25         s->name_count = j;
26     } else {
27         ctx = NULL;
28     }
29 
30     rwlock_wunlock(&s->lock);
31 
32     if (ctx) {
33         // release ctx may call skynet_handle_* , so wunlock first.
34         skynet_context_release(ctx);
35     }
36 
37     return ret;
38 }

这个函数的作用是解除handle映射,而不是递减引用计数。

具体实现有两步:1、清空handle对应的槽,调用skynet_context_release.2、如果有注册命名,删除对应的节点。

其实将释放sc的控制放在本模块会更好。

其余的方法就是handle命名的支持,名称映射保存在数组中,按字典序排序,查找时用二分查找法。

现在可以看sc生命周期具体的场景了,看两个地方就行了:

  1. 消息调度处,skynet_context_message_dispatch函数里.
  2. sc的对外接口,主要是skynet_command.

在skynet_context_message_dispatch里可以看到(/skynet-src/skynet_server.c的285行):

struct skynet_context * ctx = skynet_handle_grab(handle);
    if (ctx == NULL) {
        struct drop_t d = { handle };
        skynet_mq_release(q, drop_message, &d);
        return skynet_globalmq_pop();
    }

通过skynet_handle_grab做了sc无效的检测,也就解决了开头提出的问题2。sc其它的对外接口也做了这样的判断。

那么剩下就是问题1,安全释放的问题。来看sc的对外释放接口,cmd_exit,cmd_kill,调的都是handle_exit:

 1 static void
 2 handle_exit(struct skynet_context * context, uint32_t handle) {
 3     if (handle == 0) {
 4         handle = context->handle;
 5         skynet_error(context, "KILL self");
 6     } else {
 7         skynet_error(context, "KILL :%0x", handle);
 8     }
 9     if (G_NODE.monitor_exit) {
10         skynet_send(context,  handle, G_NODE.monitor_exit, PTYPE_CLIENT, 0, NULL, 0);
11     }
12     skynet_handle_retire(handle);
13 }

这个函数最终调的skynet_handle_retire,它解除handle映射后调的是skynet_context_release。

来看看skynet_context_release:

 1 static void 
 2 delete_context(struct skynet_context *ctx) {
 3     if (ctx->logfile) {
 4         fclose(ctx->logfile);
 5     }
 6     skynet_module_instance_release(ctx->mod, ctx->instance);
 7     skynet_mq_mark_release(ctx->queue);
 8     CHECKCALLING_DESTROY(ctx)
 9     skynet_free(ctx);
10     context_dec();
11 }
12 
13 struct skynet_context * 
14 skynet_context_release(struct skynet_context *ctx) {
15     if (ATOM_DEC(&ctx->ref) == 0) {
16         delete_context(ctx);
17         return NULL;
18     }
19     return ctx;
20 }

引用计数为0后就会释放sc,那么问题1是这样来保证的:

调用handle_exit后会有两种情况:

1、其它逻辑流已经获取了sc,那么引用计数一定大于0,此时不会释放sc,当最后一个逻辑流递减引用计数时才会释放,是安全的。

2、sc被释放,其它逻辑流开始skynet_handle_grab,因为handle映射已经解除,所有查找无效,逻辑流可以知晓这一情况作出判断,是安全的。

sc释放时,没有释放信箱(message_queue),仅调用了skynet_mq_mark_release设置了释放标志,那它在哪里释放的呢?先来想想这样一个情况,如果sc释放了,信箱没被释放,那么skynet_handle_grab就会查找失败,而信箱还会在1级队列中,那么释放的地方只可能在skynet_context_message_dispatch里,回过头来看看它,就是在判断sc无效的分支里,调用了skynet_mq_release释放的信箱。

为什么信箱要独立出来分释放,而不和sc一起释放?因为sc是通过引用计数释放的,释放时机不明确,可能在任意一个逻辑流中,那么消息调度中是否应该将它压回1级队列就无法判断了,所以要独立出来。

只剩问题3的解决了,这只需要看信箱释放时是如何处理消息的就行了,在/skynet-src/skynet_server.c的drop_message里:

static void
drop_message(struct skynet_message *msg, void *ud) {
    struct drop_t *d = ud;
    skynet_free(msg->data);
    uint32_t source = d->handle;
    assert(source);
    // report error to the message source
    skynet_send(NULL, source, msg->source, PTYPE_ERROR, 0, NULL, 0);
}

通过向消息源发送一条PTYPE_ERROR来解决,这样期望收到回应的sc就有机会结束这条挂起的流程了。不过有个疑问,为什么回应时不带上session,难道要消息源自己查找信箱么?这点再消息分发的时候再看吧。

 


 

如果没有gc,那么在多线程编程中,如何安全释放资源是一定会面临的问题。通常将它独立到另外的模块中解决,有两种常用的方法:

  1.  本文的handle映射和引用计数。c++中通常用智能指针,通过析构、拷贝构造函数自动来加减引用计数做强制保证。个人觉得前者更为灵活。
  2. 释放时只打上标记,以一定频率定时回收资源。

ps:还是gc好,写代码时没有心里负担。

posted @ 2016-09-17 21:57  watercold  阅读(1620)  评论(6编辑  收藏  举报