任务调度工具XXL-JOB容器化部署和实践

背景

项目中有使用到定时任务,目前通过springMVC结合quartz的方式实现,缺点是操作繁琐,监控不足,如定时任务调整需要修改配置,仅少量任务支持失败重试,日志和执行进度监控复杂,需要查询查询机器日志获取,其他还有不支持分布式执行。

基于上面的缺陷,调研定时任务调度组件,了解到xxl-job是国内较为成熟的定时任务管理工具,它支持注册中心,任务时间自定义调整,分片执行,超时重试等多种功能。包括美团点评,平安,浪潮,联想,京东等一众公司都有在使用。

部署过程

为简单起见,测试环境使用docker部署方式,版本固定为2.3.0

docker-compose

参考官网文档,编写docker-compose,其中数据库和xxl-job-admin一起部署。

#docker-compose.yml
version: '3.9'

services:
  xxl-job-admin:
    image: xuxueli/xxl-job-admin:2.3.0
    container_name: xxl-job-admin
    depends_on:
      - job-db
    ports:
      - "8077:8077"
    links:
      - job-db
    volumes:
      - ./data/logs:/data/applogs
      - ./data/xxl-job/:/xxl-job
    environment:
      - SPRING_DATASOURCE_URL=jdbc:mysql://job-db:3306/xxl_job?serverTimezone=UTC&characterEncoding=utf8&autoReconnect=true&serverTimezone=Asia/Shanghai
      - SPRING_DATASOURCE_USERNAME=root
      - SPRING_DATASOURCE_PASSWORD=
      - SERVER_PORT=8077

  job-db:
    image: mysql:5.7
    container_name: job-db
    environment:
      TZ: Asia/Shanghai
      MYSQL_ALLOW_EMPTY_PASSWORD: 'yes'
    depends_on:
      - job-dbdata
    ports:
      - "13306:3306"
    volumes:
      - ./sql:/docker-entrypoint-initdb.d
    volumes_from:
      - job-dbdata

  job-dbdata:
    image: alpine:latest
    container_name: job-dbdata
    volumes:
      - /var/lib/mysql

数据库脚本

https://github.com/xuxueli/xxl-job/tree/master/doc/db 获取

启动

docker-compose up -d 

在/data/applogs/xxl-job/查看日志或使用  docker-compose logs

结果

使用admin账号登录,默认密码是123456,地址是http://127.0.0.1:8077/xxl-job-admin,以下是运行样例

首页

image.png

任务管理

image.png

编辑任务

image.png

执行日志

image.png

用户管理

image.png

执行器使用

使用bean的方式接入Job

注册执行器

在后台添加执行器APPNAME,选择自动注册,后续启动的执行器将自动注册的任务管理中心

docker启动需要做映射,因为admin也会访问执行器,如调用触发执行接口10.80.242.135:9999/run ,因此本地访问可能会受限。

自动注册默认端口是9999。

添加依赖和编写执行器

依赖参考


<dependency>
    <groupId>com.xuxueli</groupId>
    <artifactId>xxl-job-core</artifactId>
    <version>2.3.0</version>
</dependency>

配置bean


import com.xxl.job.core.executor.impl.XxlJobSpringExecutor;
import lombok.extern.slf4j.Slf4j;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.boot.SpringBootConfiguration;
import org.springframework.context.annotation.Bean;

@Slf4j
@SpringBootConfiguration
public class XxlJobConfiguration {

    @Value("${xxl-job.admin.addresses:''}")
    private String adminAddresses;

    @Value("${xxl-job.executor.appname:''}")
    private String appname;

    @Bean
    public XxlJobSpringExecutor xxlJobExecutor() {
        log.info(">>>>>>>>>>> xxl-job config init.");
        XxlJobSpringExecutor xxlJobSpringExecutor = new XxlJobSpringExecutor();
        xxlJobSpringExecutor.setAdminAddresses(adminAddresses);
        xxlJobSpringExecutor.setAppname(appname);
        return xxlJobSpringExecutor;
    }
}

配置参数


xxl-job:
  admin:
    addresses: 'http://127.0.0.1:8080/xxl-job-admin/'
  executor:
    appname: 'my-app'

执行handler,实际执行任务

这里使用了类型方式,继承IHandler实现,可以使用方法注解,参考文档:https://www.xuxueli.com/xxl-job/#1.4%20%E5%8F%91%E5%B1%95


@Slf4j
@Component
public class TestJobHandler extends IJobHandler {

    @PostConstruct
    public void init() {
        XxlJobExecutor.registJobHandler("testJobHandler", this);
    }

    @Override
    public void execute() throws Exception {
        XxlJobHelper.log(">>>>>> log start @{}", System.currentTimeMillis());
        log.info(">>>>>>>> running ...");
        XxlJobHelper.log(">>>>>> log end @{}", System.currentTimeMillis());
    }
}

执行结果

失败

image.png

成功

截屏2022-10-23 22.58.21.png

注意事项

  1. 因为xxl-job-admin会把日志存入数据库,所以在使用中,执行器的日志要防止大量写入,特别执行较大数据量的任务。

参考资料

  1. https://www.xuxueli.com/xxl-job/#%E3%80%8A%E5%88%86%E5%B8%83%E5%BC%8F%E4%BB%BB%E5%8A%A1%E8%B0%83%E5%BA%A6%E5%B9%B3%E5%8F%B0XXL-JOB%E3%80%8B
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 218,122评论 6 505
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,070评论 3 395
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 164,491评论 0 354
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,636评论 1 293
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,676评论 6 392
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,541评论 1 305
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,292评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,211评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,655评论 1 314
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,846评论 3 336
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,965评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,684评论 5 347
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,295评论 3 329
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,894评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,012评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,126评论 3 370
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,914评论 2 355