q4m是基于mysql存储引擎的轻量级消息队列,通过扩展SQL语法来操作消息队列,使用简单,容易上手,开发人员基本不用再进行学习和熟悉。Q4M支持多发送方,多接收方,接收方相互不影响,php项目中异步信息机制可以使用q4m。

1,安装q4m,这个不细讲;

2,q4m学习,参考以下文档http://blog.csdn.net/tianjing_1983/article/details/7418833

一、概述

1. Q4M模型

是基于MySQL存储引擎的轻量级消息队列,通过扩展SQL语法来操作消息队列,使用简单,容易上手,开发人员基本不用再进行学习和熟悉。

Q4M支持多发送方,多接收方,接收方相互不影响,支持可靠获取,支持多队列,宕机后数据可恢复,可用SQL方便查看队列状态,实测单队列单线程的入队性能上限为7405QPS (单消息10b),出队列性能上限在9375QPS,单队列50线程的入队列性能上限为81632QPS,出队列性能上限为62500QPS。

2. 属主状态(OWNER MODE)说明

为了保证可靠获取,Q4M引入了属主状态(OWNER MODE)和无属主状态(NON-OWNER MODE)概念,此为Q4M最大的特性。当消息出队列后,则该消息先进入属主状态(OWNER MODE),即该消息只对属主所在线程可见,对其它线程不可见。

通过调用queue_wait()取消息出队并进入属主状态,每次获取消息最多不超过一条(队列为空返回零条),调用queue_end()结束属主状态,并删除已出队消息;调用queue_abort(),放弃属主状态,已出队消息重新回收到队列中;若在属主状态中连接中断,则已出队消息重新回收到队列中;若连续调用queue_wait(),则会自动删除上次出队消息并获取下一条信息,即可理解为在第两次queue_wait()前自动执行了queue_end()。详细可见下文示例。

3. 使用限制及注意点

Ø 没有主键或索引支持;

Ø 不支持AUTO_INCREMENT自增列,默认按插入顺序排序;

Ø 不支持update,可支持insert和delete;

Ø 属主状态(owner mode)的消息获取超时时间默认为60秒,注意此为获取时间,不是消息使用时间。如队列为空时,queue_wait()会等待直至超时后返回;

Ø 若连接异常断开,消息自动回收到队列中,因此建议将MYSQL 参数interactive_timeout、 wait_timeout调短到10分钟以内,连接超时断开后可自动回收消息;

Ø 一条消息上限为512MB,表上限为2^63 bytes,即1048576 TB;

Ø 内存不足时可能会导致MySQL Crash;

Ø 若压缩数据时宕机,内存中的消息可能会丢失;

Ø 不支持主从复制,可通过搭建多套Q4M进行容灾

二.使用示例

1. 创建队列

一个表就是一个队列,每一行记录是一条消息。若需创建一队列,只需建一queue引擎的table即可,若需要多队列,则创建多个表即可。

MySQL> CREATE TABLE my_queue (v1 int not null, v2 varchar(255)) ENGINE=queue;

  

2. 消息入队

只需用正常的sql语法insert记录即可将消息添加到队列。

MySQL>

INSERT INTO my_queue (v1, v2) VALUES (1, "Tian");

INSERT INTO my_queue (v1, v2) VALUES (2, "Jing");

INSERT INTO my_queue (v1, v2) VALUES (3, "1983");

INSERT INTO my_queue (v1, v2) VALUES (4, "IN");

INSERT INTO my_queue (v1, v2) VALUES (5, "GANJI");

INSERT INTO my_queue (v1, v2) VALUES (6, "HAPPY");

MySQL> select * from my_queue;

+----+-------+

| v1 | v2    |

+----+-------+

|  1 | Tian    |

|  2 | Jing   |

|  3 | 1983  |

|  4 | IN    |

|  5 | GANJI |

|  6 | HAPPY |

+----+-------+

6 rows in set (0.00 sec)

  

3. 消息出队

调用queue_wait()使消息出队,获取的消息进入属主状态(可见1.2解释),在本线程内,只能查到已出队消息。

MySQL>SELECT * FROM my_queue WHERE queue_wait('my_queue');

+----+------+

| v1 | v2   |

+----+------+

|  1 | Tian   |

+----+------+

1 row in set (0.00 sec)

MySQL>SELECT * FROM my_queue;

+----+------+

| v1 | v2   |

+----+------+

|  1 | Tian   |

+----+------+

1 row in set (0.00 sec)

  调用queue_end()结束属主状态,自动删除上次出队的消息。这时select * 可查到队列中所有消息了。

MySQL>select queue_end();

+-------------+

| queue_end() |

+-------------+

|           1 |

+-------------+

1 row in set (0.00 sec)

MySQL>SELECT * FROM my_queue;

+----+-------+

| v1 | v2    |

+----+-------+

|  2 | Jing   |

|  3 | 1983  |

|  4 | IN    |

|  5 | GANJI |

|  6 | HAPPY |

+----+-------+

5 rows in set (0.00 sec)

  若调用queue_abort()则放弃属主状态,已出队消息自动回收到原队列中。

MySQL>SELECT * FROM my_queue WHERE queue_wait('my_queue');

+----+------+

| v1 | v2   |

+----+------+

|  1 | Tian   |

+----+------+

1 row in set (0.00 sec)

MySQL>SELECT * FROM my_queue ;

+----+------+

| v1 | v2   |

+----+------+

|  1 | Tian   |

+----+------+

1 row in set (0.00 sec)

MySQL>select queue_abort();

+---------------+

| queue_abort() |

+---------------+

|             1 |

+---------------+

1 row in set (0.00 sec)

MySQL>SELECT * FROM my_queue ;

+----+-------+

| v1 | v2    |

+----+-------+

|  1 | Tian    |   # queue_abort()该消息重新回收到队列中

|  2 | Jing  |

|  3 | 1983  |

|  4 | IN    |

|  5 | GANJI |

|  6 | HAPPY |

+----+-------+

6 rows in set (0.00 sec)

 若连续调用queue_wait(),则会自动删除上次出队消息并获取下一条信息,即可理解为在第两次queue_wait()前自动执行了queue_end()

MySQL>SELECT * FROM my_queue WHERE queue_wait('my_queue');

+----+------+

| v1 | v2   |

+----+------+

|  1 | Tian   |

+----+------+

1 row in set (0.00 sec)

MySQL>SELECT * FROM my_queue WHERE queue_wait('my_queue');

+----+------+

| v1 | v2   |

+----+------+

|  2 | Jing  |

+----+------+

1 row in set (0.02 sec)

MySQL>SELECT * FROM my_queue WHERE queue_wait('my_queue');

+----+------+

| v1 | v2   |

+----+------+

|  3 | 1983 |

+----+------+

1 row in set (0.01 sec)

MySQL>select queue_end();

+-------------+

| queue_end() |

+-------------+

|           1 |

+-------------+

1 row in set (0.00 sec)

MySQL>SELECT * FROM my_queue ;  #前三条消息都已被取出

+----+-------+

| v1 | v2    |

+----+-------+

|  4 | IN    |

|  5 | GANJI |

|  6 | HAPPY |

+----+-------+

3 rows in set (0.00 sec)

  

4. 按条件进行消息出队

Q4M也支持按某条件获取消息并出队,使用方法为queue_wait('table:col>N'):

MySQL>SELECT * FROM my_queue ;

+----+-------+

| v1 | v2    |

+----+-------+

|  1 | Tian    |

|  2 | Jing  |

|  3 | 1983  |

|  4 | IN    |

|  5 | GANJI |

|  6 | HAPPY |

+----+-------+

6 rows in set (0.00 sec)

MySQL>SELECT * FROM my_queue WHERE queue_wait('my_queue:v1>=5');

+----+-------+

| v1 | v2    |

+----+-------+

|  5 | GANJI |    #取出的值为v1>=5的第一条消息

+----+-------+

1 row in set (0.01 sec)

  目前Q4M支持如下运算符:

- ~ ()

* div % mod

+ -

<< >>

&

|

= != <= < >= >

not

&& and

xor

|| or

  

5. 消息出队的伪代码实现

如下是消息出队的伪代码实现:

while (true) {

   rows := SELECT * FROM my_queue

     WHERE queue_wait('my_queue');     # 消息出队并进入属主状态

  if (count(rows) != 0)                # 如果有消息,则

    handle_row(rows[0]);               # 进行消息处理

  SELECT queue_end();                  # 结束属主状态

}

  

 

04-29 00:34