多机部署之定时任务完整方案-copy

1.场景描述

老项目需要多机部署,项目中有几十个定时任务,一旦多机部署,定时任务就会重复执行,固定ip与错开时间方案都存在较大弊端,最终采用的方案是:AOP+排他锁的方式,软件老王已验证通过,介绍下,有需要的朋友可以参考下。

2.解决方案

软件老王基本方案是采用:AOP+排他锁的方式。

(1)目前老项目有几十个定时任务,采用AOP的方式,可以保证代码的无侵入(即使简单的微侵入,例如增加几行代码,测试验证的工作量也会比较大的)。
(2)采用排他锁的方式,保证批处理的高可用,不重复执行。

2.1 AOP编程

Aop的概念就不说了,就是面向切面编程,通俗点就是统一处理一类问题,比如日志、请求鉴权等,刚开始不确定是否可行,系统中的批处理是使用spring注解的方式@Scheduled进行批处理,采用aop对注解@Scheduled进行编程,统一拦截批处理,代码如下:

/**
 * 软件老王-AOP处理类
 */
@Aspect
@Component
public class ScheduledAspect {
    @Autowired
    ScheduleService scheduleService ;

    @Pointcut( "@annotation(org.springframework.scheduling.annotation.Scheduled)")
    public void scheduled() {
    }
    @Around("scheduled()")
    public Object scheduled(ProceedingJoinPoint pjd) {
        Object result = null;
        String taskName = pjd.getSignature().getName();
        try {
            if (scheduleService.isInvoke(taskName)){
                return result;
            }
            result = pjd.proceed();
            scheduleService.end(taskName);
        } catch (Throwable e) {
            throw new RuntimeException(e);
        }
        return result;
    }
}

说明:

(1)面向标签编程

  @Pointcut( "@annotation(org.springframework.scheduling.annotation.Scheduled)")

这样注解会拦截标签@Scheduled。

(2)使用aop的环绕标签 @Around("scheduled()")

@before标签拿不到执行完成状态,需要使用环绕标签@@Around,在标签中可以拿到执行完成后状态,以便放开锁。

 result = pjd.proceed();

(3)结合排他锁使用

   @Autowired
    ScheduleService scheduleService ;

2.2 排他锁

排他锁,简单来说就是通过数据库总的标志位+版版号进行的控制.

软件老王的代码如下,:

/**
 * 软件老王-排他锁服务类
 */
@Service
public class ScheduleService {
    @Autowired
    ScheduleClusterMapper scheduleClusterMapper;

    public boolean isInvoke(String taskName) {
        boolean isValid = false;
        try {
            ScheduleCluster carIndexEntity = scheduleClusterMapper.selectByTaskName(taskName);
            int execute = carIndexEntity.getExecute();
            String ip = InetAddress.getLocalHost().getHostAddress();
            long currentTimeMillis = System.currentTimeMillis();
            long time = carIndexEntity.getUpdatedate().getTime();
            if (execute == 0) {
                isValid = start(taskName, carIndexEntity.getVersion(), ip);
            }
        } catch (UnknownHostException e) {
            e.printStackTrace();
        }
        return isValid;
    }
    //执行锁机制,软件老王
    public boolean start(String taskName, int version, String ip) {
        ScheduleCluster scheduleCluster = new ScheduleCluster();
        scheduleCluster.setVersion(version);
        scheduleCluster.setExecuteIp(ip);
        scheduleCluster.setUpdatedate(DateUtil.getCurrentTime());
        scheduleCluster.setTaskName(taskName);
        scheduleCluster.setExecute(1);
        int count = scheduleClusterMapper.updateByTaskName(scheduleCluster);
        if (count > 0) {
            return true;
        }
        return false;
    }
    //执行解锁机制,软件老王
    public void end(String taskName) {
        ScheduleCluster scheduleCluster = new ScheduleCluster();
        scheduleCluster.setUpdatedate(DateUtil.getCurrentTime());
        scheduleCluster.setTaskName(taskName);
        scheduleCluster.setExecute(0);
        scheduleClusterMapper.updateNormalByTaskName(scheduleCluster);
    }
}

说明:

大的原理是在where条件后带上版本号,在update中更新version+1,这样通过影响数据库的影响条数,来判断是否拿到锁。

(1)主类中调用start方法,该方法是更新批处理状态,软件老王这里设置了一个小点,在updateByTaskName的mybatis方法中,有个version+1的更新;

(2)end方法放在更新完成后,释放锁。

(3)其实还有一个点,可以考虑下,需要有个机制,比如出现异常情况,刚好批处理执行中,重启服务了等,下次批处理执行前,假如锁还未释放,代码中增加释放锁的机制。

2.3 数据库相关

(1)数据库表设计

(2)mybatis相关方法

(1)第一个是start对应方法,执行锁和version增加。

 <update id="updateByTaskName" parameterType="com.yutong.dmp.entity.ScheduleCluster">
    update t_schedule_cluster
    <set>
        <if test="executeIp != null">
            execute_ip = #{executeIp,jdbcType=VARCHAR},
        </if>
        <if test="version != null">
            version = #{version,jdbcType=INTEGER} + 1,
        </if>
        <if test="execute != null">
            execute = #{execute,jdbcType=INTEGER},
        </if>
        <if test="status != null">
            status = #{status,jdbcType=VARCHAR},
        </if>
        <if test="createby != null">
            createby = #{createby,jdbcType=VARCHAR},
        </if>
        <if test="createdate != null">
            createdate = #{createdate,jdbcType=TIMESTAMP},
        </if>
        <if test="updateby != null">
            updateby = #{updateby,jdbcType=VARCHAR},
        </if>
        <if test="updatedate != null">
            updatedate = #{updatedate,jdbcType=TIMESTAMP},
        </if>
    </set>
    where task_name = #{taskName,jdbcType=VARCHAR}
    and version = #{version,jdbcType=INTEGER}
    and status ='1'
  </update>

(2)第二个是释放锁,更改excute为0。

<update id="updateNormalByTaskName" parameterType="com.yutong.dmp.entity.ScheduleCluster">
    update t_schedule_cluster
    <set>
        <if test="executeIp != null">
            execute_ip = #{executeIp,jdbcType=VARCHAR},
        </if>
        <if test="version != null">
            version = #{version,jdbcType=INTEGER},
        </if>
        <if test="execute != null">
            execute = #{execute,jdbcType=INTEGER},
        </if>
        <if test="status != null">
            status = #{status,jdbcType=VARCHAR},
        </if>
        <if test="createby != null">
            createby = #{createby,jdbcType=VARCHAR},
        </if>
        <if test="createdate != null">
            createdate = #{createdate,jdbcType=TIMESTAMP},
        </if>
        <if test="updateby != null">
            updateby = #{updateby,jdbcType=VARCHAR},
        </if>
        <if test="updatedate != null">
            updatedate = #{updatedate,jdbcType=TIMESTAMP},
        </if>
    </set>
    where task_name = #{taskName,jdbcType=VARCHAR}
    and status ='1'
</update>

I’m 「软件老王」,如果觉得还可以的话,关注下呗,后续更新秒知!欢迎讨论区、同名公众号留言交流!

1、Oracle

思路:Insert表内容时,主键重复,无法插入

范围:适用于执行频率低的定时任务

方法:新建一张任务执行表,每次执行定时任务之前先insert该表。

比如:每天执行一次批处理操作。主键可以设置为批处理name+日期(年月日)。集群服务器可能会同时去insert该表,而只有一台服务器能插入成功,则只让这一台服务器执行该批处理任务。

2、Redis

范围:适用于执行频率高的定时任务

有如下两种思路方法:

思路1:采用的是redis中list的push和pop操作。因为Redis是单线程,所有命令依次执行,所以不会出现多台服务器同时访问的情况。

方法:系统初始化时,向Redis中lpush一个list(key,1),作为标识Flag。每台服务器执行批处理之前,先去rpop该list,只有获取到该标识的服务器才能执行批处理任务,执行完毕后再lpush回一个list(key,1)。

比如:执行任务前先执行rpopRedisFlag,任务完成后执行lpushRedisFlag.

public class AutoJobActDis extends QuartzJobBean {

@Override
protected void executeInternal(JobExecutionContext arg0) throws JobExecutionException {
if (rpopRedisFlag("AUTO_JOB_ACTDIS")) {
this.executeJob(this);
lpushRedisFlag("AUTO_JOB_ACTDIS");
}
}
/**
* 从缓存中取得Flag,获取定时任务执行权限
*
* @param redisKey
* @return
*/
public boolean rpopRedisFlag(String redisKey) {
String redisValue = redisService.rpopRedisList(redisKey);
if (StringUtil.isEmpty(redisValue)) {
return false;
} else {
return true;
}
}

/**
* 缓存中增加Flag
*
* @param redisKey
*/
public void lpushRedisFlag(String redisKey) {
redisService.lpushRedisList(redisKey, "1");
}


public class RedisService {
/**
* 存储Redis队列,顺序存储
* @param key redis键名
* @param value 键值
*/
public void lpushRedisList(String key, String value) {
Jedis jedis = null;
try {
jedis = jedisClient.getClient();
jedis.lpush(key, value);
} catch (Exception e) {
logger.error(e.getMessage(), e);
} finally {
if (jedis != null) {
jedis.close();
}
}
}

/**
* 移除并获取列表最后一个元素
* @param key
* @return
*/
public String rpopRedisList(String key) {
Jedis jedis = null;
try {
jedis = jedisClient.getClient();
return jedis.rpop(key);
} catch (Exception e) {
logger.error(e.getMessage(), e);
} finally {
if (jedis != null) {
jedis.close();
}
}
return null;
}

思路2:采用的是redis中String的incr和expire操作。因为Redis是单线程,所有命令依次执行,所以不会出现多台服务器同时访问的情况。

语法:INCR key  将 key 中储存的数字值增一。

    Redis Incr 命令将 key 中储存的数字值增一。

    如果 key 不存在,那么 key 的值会先被初始化为 0 ,然后再执行 INCR 操作。

    如果值包含错误的类型,或字符串类型的值不能表示为数字,那么返回一个错误。

    本操作的值限制在 64 位(bit)有符号数字表示之内。

EXPIRE key seconds  为给定 key 设置过期时间。

    Redis Expire 命令用于设置 key 的过期时间。key 过期后将不再可用。

方法:每台服务器执行批处理之前,先去incr一个固定key,只有返回值等于1的服务器才能执行批处理任务,然后将该key值设置过期时间。

比如:

jedis = jedisTool.getJedis();
if(jedis.incr(PRE_AGAIN_REDIS+batchId)!=1) {
logger.info("其他机器已经重跑");
return ;
} else {
jedis.expire(PRE_AGAIN_REDIS+batchId, 60);//设置60s过期
}
 
————————————————
版权声明:本文为CSDN博主「Java小农」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
原文链接:https://blog.csdn.net/wyongan1128/article/details/81208725

原文地址:https://www.cnblogs.com/hanease/p/14515280.html