一致性概述
在分布式系统中,可以理解为多个节点中数据的值相同.
强一致性:这种一致性级别是最符合用户直觉的,它要求系统写入什么,读出来的就是什么,用户体验好,但往往对系统的性能影响很大.
弱一致性:这种一致性级别约束了系统在写入成功后,不承诺立即可以读到写入的值,也不承诺多久以后数据能够达到一致,但会尽可能地保证到某个时间级别(比如秒级别)后,数据能够达到一致状态.
最终一致性:最终一致性是弱一致性的一个特例,系统会保证在一定时间内,能够达到一个数据一致的状态.将最终一致性单独提出来,是因为它是弱一致性中非常推崇的一致性模型,也是业界在大型分布式系统的数据一致性上比较推崇的模型.
缓存的模式
缓存可以提升性能,缓解数据库压力,但使用缓存也会导致数据不一致性的问题.我们是如何使用缓存呢,有三种经典的缓存模式:
Cache-Aside Pattern Read-Through/Write through Write behind
Cache-Aside Pattern
Cache-Aside Pattern,即旁路缓存模式,它的提出是为了尽可能地解决缓存与数据库的数据不一致问题.
Cache-Aside Pattern读流程
Cache-Aside Pattern读请求流程如下:
读的时候,先读缓存,缓存命中的话,直接返回数据.
缓存没有命中的话,就去读数据库,从数据库取出数据,放入缓存后,同时返回响应.
Cache-Aside Pattern写流程
更新的时候,先更新数据库,然后再删除缓存.
Read/Write Through模式中,服务端把缓存作为主要数据存储.应用程序跟数据库缓存交互,都是通过抽象缓存层完成的.
Read-Through
Read-Through的简要流程如下:
从缓存读取数据,读到直接返回如果读取不到的话,从数据库加载,写入缓存后,再返回响应.
这个简要流程是不是跟Cache-Aside很像,其实Read-Through就是多了一层Cache-Provider,流程如下:
Write-Through
Write-Through模式下,当发生写请求时,由缓存抽象层完成数据源和缓存数据的更新,流程如下:
Write behind(异步缓存写入)
Write behind跟Read-Through/Write-Through有相似的地方,都是Cache Provider来负责缓存和数据库的读写.两者的不同:Read/Write Through是同步更新缓存和数据的,Write Behind则是只更新缓存,不直接更新数据库,通过批量异步的方式来更新数据库.
这种方式下,缓存和数据库的一致性不强,对一致性要求高的系统要谨慎使用.但是它适合频繁写的场景,mysql的innodb buffer pool机制就使用到这种模式.
数据的处理
操作缓存时,是删除缓存呢,还是更新缓存呢.
一般场景,我们使用Cache-Aside模式.有人可能会问,Cache-Aside在写入请求时,为什么是删除缓存而不是更新缓存呢.
我们先来看个例子:
线程A先发起一个写操作,第一步先更新数据库.
线程B再发起一个写操作,第二步更新了数据库
由于网络等原因,线程B先更新了缓存,线程A后更新缓存.
这时候,缓存保存的是A的数据(老数据),数据库保存的是B的数据(新数据),数据不一致了,脏数据出现.如果是删除缓存取代更新缓存则不会出现这个脏数据问题.
更新缓存相对于删除缓存,还有两点劣势:
如果你写入的缓存值,是经过复杂计算才得到的话,更新缓存频率高的话,就浪费性能啦.
在写数据库场景多,读数据场景少的情况下,数据很多时候还没被读取到,又被更新了,浪费了性能(实际上,写多的场景,用缓存不很划算)
双写情况下,先操作数据库还是先操作缓存呢.
Cache-Aside缓存模式中,在写入请求时,为什么是先操作数据库呢,而不是先操作缓存呢.
假设有A,B两个请求,请求A做更新操作,请求B做查询读取操作.
线程a发起一个写操作,第一步del cache
线程b发起一个读操作,cache miss
线程b继续读db,读出来个老数据
然后线程b把老数据设置入cache
线程a写入db最新的数据
此时就有问题,缓存和数据库的数据不一致.缓存保存老数据,数据库保存新数据.因此,Cache-Aside缓存模式,选择了先操作数据库而不是先操作缓存.
缓存延时双删
先删除缓存,再更新数据库.采用缓存延时双删策略.
先删除缓存再更新数据库休眠一会(比如1秒),再次删除缓存.
这个休眠一会,一般多久呢,都是1秒.
休眠时间=读业务逻辑数据的耗时+几百毫秒.为了确保读请求结束,写请求可以删除读请求可能带来的缓存脏数据.
延时双删的方案的思路是,为了避免更新数据库时,其他线程从缓存中读取不到数据,就在更新完数据库后,再sleep一段时间,然后再次删除缓存.sleep的时间要对业务读写缓存的时间做出评估,sleep时间大于读写缓存的时间即可.
流程如下:
线程1删除缓存,然后去更新数据库.
线程2来读缓存,发现缓存已经被删除,所以直接从数据库中读取,这时候由于线程1还没有更新完成,所以读到的是旧值,然后把旧值写入缓存.
线程1,根据估算的时间sleep,由于sleep的时间大于线程2读数据+写缓存的时间,所以缓存被再次删除.
如果还有其他线程来读取缓存的话,就会再次从数据库中读取到最新值.
删除缓存重试机制
不管是延时双删还是Cache-Aside的先操作数据库再删除缓存,如果第二步的删除缓存失败,删除失败会导致脏数据.
删除失败就多删除几次,保证删除缓存成功,所以可以引入删除缓存重试机制.
写请求更新数据库
缓存因为某些原因,删除失败
把删除失败的key放到消息队列,
消费消息队列的消息,获取要删除的key
重试删除缓存操作
读取biglog异步删除缓存
重试删除缓存机制还可以通过数据库的binlog来异步淘汰key.
以mysql为例,可以使用阿里的canal将binlog日志采集发送到MQ队列里面,然后通过ACK机制确认处理这条更新消息,删除缓存,保证数据缓存一致性.
通用解决方案
建议优先使用删除缓存重试机制,即更新数据库,再次进行删除缓存.
如果删除缓存失败,那么可以在程序中重试删除,可以将删除缓存的数据扔到消息队列中删除,或者可以使用binlog异步删除,或者可以使用延迟双删.上面四种方案做再次删除确认,如果依旧删除失败.那么就按照缓存的失效时间让缓存自动失效.
在程序中重试几次删除,删除失败,按照失效时间自动失效.
删除的数据扔到消息队列,存在延迟,业务能否接受.
使用binlog异步删除,解除和业务的耦合.
使用延迟双删,其中睡眠时间和并发量是思考关键,导致接口性能不高,影响接口吞吐量.高并发场景不建议使用该策略.