PHP实现异步任务

在实际的应用开发中经常都会碰到碰到一些相对比较耗时的任务需要处理,而用户也不能等到这些耗时的任务结束后才收到响应,这个时候异步任务就派上用场了。这篇文章主要介绍实时异步任务和定时异步任务的具体实现。这些实现都是基于我们现有平台业务做出的选择,不一定是最优的实现,但是可以作为学习和参考。

实时的异步任务

  1. 大部分平台都会有发送短信,发送邮件,发送微信通知的业务(经常还有批量发送),这类业务因为是走网络接口,耗时是非常不确定的,而且这类业务不是一定要同步去完成,通过异步去完成然后设置成功标识,通知前端任务已经完成就可以了。
  2. 之前做了一些微博类的产品,碰到大V发微博,这时可以通过异步任务将这条微博逐步发送给所有的粉丝。

定时的异步任务

  1. 主要就是统计类的任务,比如一些数据报表生成,阶段性运营数据报表生成。
  2. 我们平台提现业务,我们也是定时获取一下提现的数据然后给相应的客户做提现操作。

实时的异步任务的实现

我们的短信发送使用的基于Redis的php-resqueue,主要是考虑Redis用得比较多,而且php-resqueue相对比较简单,比较容易部署运用。

  1. 项目地址:https://github.com/chrisboulton/php-resque
  2. 将相应的配置和类库移植到平台的框架中,方便调用
  3. 通过supervisor进行守护,同时通过配置"numprocs"开启多进程。
 [program:queue]
 command=/usr/local/php/bin/php -f /var/www/html/Service/Crontab/startQueue.php
autostart=true
autorestart=true
startsecs=3
redirect_stderr=true
stdout_logfile=/alidata/log/supervisor/queue.log
numprocs=10
process_name=%(program_name)s_%(process_num)02d

还有一些平台上面的核销后续处理业务是通过swoole的task来实现的,用起来也是比较方便的。主要考虑到我们核销的tcp部分的业务是通过swoole的worker来实现的,然后后续的异步任务就通过task来实现了。

  1. 项目地址:http://www.swoole.com/ (异步任务)
  2. TCP服务器有通过crontab的脚本进行每分钟的健康检测,如果发现进程挂了会进行重启。
  3. 其中有一个坑就是 "task操作的次数必须小于onTask处理速度,如果投递容量超过处理能力,task会塞满缓存区,导致worker进程发生阻塞。worker进程将无法接收新的请求"(官方文档的说明),实际测试是开启两个task进程,当积压的任务达到1000多的时候,worker进程就发生阻塞了。

定时的异步任务的实现

这部分任务基本就是通过Linux下面的Crontab来实现的,通过Crontab比较简单和文档,但是其中也存在一些问题:配置散落到各个服务器的crontab配置文件中,对于团队的项目来说管理起来比较麻烦;对于具体的任务进程不能进行管理。

如果没有要求秒级定时器,使用的是jobby,整体来说还是不错的。

  1. 项目地址:https://github.com/jobbyphp/jobby
  2. 如果任务执行失败,会发送邮件提醒
  3. 有对配置做了一些修改,添加了ip的配置,这样任务可以指定哪台服务器执行

如果是要求秒级定时器,我们使用的是基于swoole定时器实现的swoole-crontab

  1. 项目地址:https://github.com/osgochina/swoole-crontab
  2. 通过supervisor进行守护,同时有配置最多同时应许几个进程运行
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,718评论 6 492
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,683评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 158,207评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,755评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,862评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,050评论 1 291
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,136评论 3 410
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,882评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,330评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,651评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,789评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,477评论 4 333
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,135评论 3 317
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,864评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,099评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,598评论 2 362
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,697评论 2 351

推荐阅读更多精彩内容

  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,638评论 18 139
  • swoole 中的swerver,一个异步服务器程序,支持TCP、UDP、UnixSocket 3种协议,仅需要设...
    小小小胡阅读 712评论 0 0
  • Android 自定义View的各种姿势1 Activity的显示之ViewRootImpl详解 Activity...
    passiontim阅读 171,860评论 25 707
  • 原文:子曰:“温故而知新,可以为师矣。” 此篇论为学。 孔子讲:“温习已学的,可以获得新知,这样的话,可以为师了。...
    哈皮波阅读 1,300评论 0 1