搜文章
推荐 原创 视频 Java开发 iOS开发 前端开发 JavaScript开发 Android开发 PHP开发 数据库 开发工具 Python开发 Kotlin开发 Ruby开发 .NET开发 服务器运维 开放平台 架构师 大数据 云计算 人工智能 开发语言 其它开发
Lambda在线 > 小菜亦牛 > 分布式系统中接口的幂等性

分布式系统中接口的幂等性

小菜亦牛 2019-11-08

业务场景

公司有个借贷的项目,具体业务类似于阿里的蚂蚁借呗,用户在平台上借款,然后规定一个到期时间,在该时间内用户需将借款还清并收取一定的手续费,如果规定时间逾期未还上,则会产生滞纳金。

用户发起借款因此会产生一笔借款订单,用户可通过支付宝或在系统中绑定银行卡到期自动扣款等方式进行还款。还款流程都走支付系统,因此用户还款是否逾期以及逾期天数、逾期费等都通过系统来计算。

分布式系统中接口的幂等性

但是在做订单系统的时候,遇到这样一个业务场景,由于业务原因允许用户通过线下支付宝还款,即我们提供一个公司官方的支付宝二维码,用户扫码还款,然后财务不定期的去拉取该支付宝账户下的还款清单并生成规范化的Excel表格录入到支付系统。

支付系统将这些支付信息生成对应的支付订单并落库,同时针对每笔还款记录生产一个消息信息到消息系统,消息的消费者就是订单系统。订单系统接受到消息后去结算当前用户的金额清算:先还本金,本金还清再还滞纳金,都还清则该笔订单结清并提升可借贷额度,……。整个流程大致如下:

分布式系统中接口的幂等性

从上面的流程描述可以知道,相当于原来线上的支付现在转移到线下进行,这会产生一个问题:支付结算的不及时。例如用户的订单在今天19-05-27到期,但是用户在19-05-26还清,财务在19-05-27甚至更晚的时候从支付宝拉取清单录入支付系统。这样就造成了实际上用户是未逾期还清借款而我们这边却记录的是用户未还清且产生了滞纳金。

当然以上的是业务范畴的问题,我们今天要说的是支付系统发送消息到订单系统的环节中的一个问题。大家都知道为了避免消息丢失或者订单系统处理异常或者网络问题等问题,我们设计消息系统的时候都需要考虑消息持久化和消息的失败重试机制。

分布式系统中接口的幂等性

对于重试机制,假如订单系统消费了消息,但是由于网络等问题消息系统未收到反馈是否已成功处理。这时消息系统会根据配置的规则隔段时间就 retry 一次。你 retry 一次没错,是为了保证系统的处理正常性,但是如果这时网络恢复正常,我第一次收到的消息成功处理了,这时我又收到了一条消息,如果没有做一些防护措施,会产生如下情况:用户付款一次但是订单系统计算了两次,这样会造成财务账单异常对不上账的情况发生。那就可能用户笑呵呵老板哭兮兮了。

接口幂等性

为了防止上述情况的发生,我们需要提供一个防护措施,对于同一笔支付信息如果我其中某一次处理成功了,我虽然又接收到了消息,但是这时我不处理了,即保证接口的 幂等性。

维基百科上的定义:

幂等(idempotent、idempotence)是一个数学与计算机学概念,常见于抽象代数中。

在编程中一个幂等操作的特点是其任意多次执行所产生的影响均与一次执行的影响相同。幂等函数,或幂等方法,是指可以使用相同参数重复执行,并能获得相同结果的函数。这些函数不会影响系统状态,也不用担心重复执行会对系统造成改变。例如,“setTrue()”函数就是一个幂等函数,无论多次执行,其结果都是一样的,更复杂的操作幂等保证是利用唯一交易号(流水号)实现.

任意多次执行所产生的影响均与一次执行的影响相同,这是幂等性的核心特点。其实在我们编程中主要操作就是CURD,其中读取(Retrieve)操作和删除(Delete)操作是天然幂等的,受影响的就是创建(Create)、更新(Update)。

对于一些业务场景影响比较大的,接口的幂等性是个必须要考虑的问题,例如金钱的交易方面的接口。否则一个错误的、考虑不周的接口可能会给公司带来巨额的金钱损失,那么背锅的肯定是程序员自己了。

幂等性实现方式

对于和web端交互的接口,我们可以在前端拦截一部分,例如防止表单重复提交,按钮置灰、隐藏、不可点击等方式。

但是前端做控制实际效益不是很高,懂点技术的都会模拟请求调用你的服务,所以安全的策略还是需要从后端的接口层来做。

那么后端要实现分布式接口的幂等性有哪些策略方式呢?主要可以从以下几个方面来考虑实现:

数据库去重表

往去重表里插入数据的时候,利用数据库的唯一索引特性,保证唯一的逻辑。唯一序列号可以是一个字段,例如订单的订单号,也可以是多字段的唯一性组合。例如设计如下的数据库表。

CREATE TABLE `t_idempotent` ( `id` int(11) NOT NULL COMMENT 'ID', `serial_no` varchar(255) NOT NULL COMMENT '唯一序列号', `source_type` varchar(255) DEFAULT NULL COMMENT '资源类型', `status` int(4) DEFAULT NULL COMMENT '状态', `remark` varchar(255) DEFAULT NULL COMMENT '备注', `create_by` bigint(20) DEFAULT NULL COMMENT '创建人', `create_time` datetime DEFAULT NULL COMMENT '创建时间', `modify_by` bigint(20) DEFAULT NULL COMMENT '修改人', `modify_time` datetime DEFAULT NULL COMMENT '修改时间', PRIMARY KEY (`id`,`serial_no`)) ENGINE=InnoDB DEFAULT CHARSET=utf8 COMMENT='幂等性校验表';

看几个关键性字段,serial_no:唯一序列号的值,在这里我设置的是通过注解@IdempotentKey来标识请求对象中的字段,通过对他们Md5加密获取对应的值。

public class PaymentOrderReq {
/** * 支付宝流水号 */ @IdempotentKey(order=1) private String alipayNo;
/** * 支付订单ID */ @IdempotentKey(order=2) private String paymentOrderNo;
/** * 支付金额 */ private Long amount;}

因为支付宝流水号和订单号在系统中是唯一的,所以唯一序列号可由他们组合 Md5 生成,具体的生成方式如下:

private void getIdempotentKeys(Object keySource, Idempotent idempotent) { TreeMap<Integer, Object> keyMap = new TreeMap<Integer, Object>(); for (Field field : keySource.getClass().getDeclaredFields()) { if (field.isAnnotationPresent(IdempotentKey.class)) { try { field.setAccessible(true); keyMap.put(field.getAnnotation(IdempotentKey.class).order(), field.get(keySource)); } catch (IllegalArgumentException | IllegalAccessException e) { logger.error("", e); return; } } } generateIdempotentKey(idempotent, keyMap.values().toArray());}

生成幂等Key

private void generateIdempotentKey(Idempotent idempotent, Object... keyObj) { if (keyObj.length == 0) { logger.info("idempotentkey is empty,{}", keyObj); return; } StringBuilder sb = new StringBuilder(); for (Object key : keyObj) { sb.append(key.toString()).append("|"); } idempotent.setRemark(sb.toString()); idempotent.setSerialNo(Md5Util.md5(sb.toString())); }

一切准备就绪,则可对外提供幂等性校验的接口方法,接口方法为:

public <T> void idempotentCheck(IdempotentTypeEnum idempotentType, T keyObj) throws IdempotentException { Idempotent idempotent = new Idempotent(); getIdempotentKeys(keyObj, idempotentEvent); if (StringUtils.isBlank(idempotentEvent.getSerialNo())) { throw new ServiceException("fail to get idempotentkey"); } idempotentEvent.setSourceType(idempotentType.name()); try { idempotentMapper.saveIdempotent(idempotent); } catch (DuplicateKeyException e) { logger.error("idempotent check fail", e); throw new IdempotentException(idempotentEvent); }}

当然这个接口的方法具体在项目中合理的使用就看项目要求了,可以通过@Autowire注解注入到需要使用的地方,但是缺点就是每个地方都需要调用。我个人推荐的是自定义一个注解,在需要幂等性保证的接口上加上该注解,然后通过拦截器方法拦截使用。这样简单便不会造成代码侵入和污染。

另外,使用数据库防重表的方式它有个严重的缺点,那就是系统容错性不高,如果幂等表所在的数据库连接异常或所在的服务器异常,则会导致整个系统幂等性校验出问题。如果做数据库备份来防止这种情况,有需要额外忙碌一通了啊。

Redis实现

上面介绍过防重表的设计方式和伪代码,也说过它的一个很明显的缺点。所以我们另外介绍一个Redis的实现方式。

Redis实现的方式就是将唯一序列号作为Key,唯一序列号的生成方式和上面介绍的防重表的一样,value可以是你想填的任何信息。唯一序列号也可以是一个字段,例如订单的订单号,也可以是多字段的唯一性组合。具体校验流程如下图所示,实现代码也很简单这里就不写了。

分布式系统中接口的幂等性

由于企业如果考虑在项目中使用 Redis,因为大部分会拿它作为缓存来使用,那么一般都会是集群的方式出现,至少肯定也会部署两台Redis服务器。所以我们使用Redis来实现接口的幂等性是最适合不过的了。

end

编程|技术

原创|分享

扫码|关注

我在这里等你哟!



版权声明:本站内容全部来自于腾讯微信公众号,属第三方自助推荐收录。《分布式系统中接口的幂等性》的版权归原作者「小菜亦牛」所有,文章言论观点不代表Lambda在线的观点, Lambda在线不承担任何法律责任。如需删除可联系QQ:516101458

文章来源: 阅读原文

相关阅读

关注小菜亦牛微信公众号

小菜亦牛微信公众号:gh_8c197e1287c8

小菜亦牛

手机扫描上方二维码即可关注小菜亦牛微信公众号

小菜亦牛最新文章

精品公众号随机推荐