正确理解MySQL的MVCC及实现原理
来源:https://blog.csdn.net/SnailMann/article
/details/94724197
!首先声明,MySQL 的测试环境是 5.7
MVCC是MySQL实现RC(读已提交)、RR(可重复读)隔离级别的原理之一。
前提概要
什么是 MVCC
什么是当前读和快照读?
当前读,快照读和 MVCC 的关系
MVCC 实现原理
隐式字段
undo日志
Read View
整体流程
MVCC 相关问题
RR 是如何在 RC 级的基础上解决不可重复读的?
RC, RR 级别下的 InnoDB 快照读有什么不同?
前提概要
什么是 MVCC ?
MVCC
,全称 Multi-Version Concurrency Control
,即多版本并发控制。MVCC 是一种并发控制的方法,一般在数据库管理系统中,实现对数据库的并发访问,在编程语言中实现事务内存。
MVCC 在 MySQL InnoDB 中的实现主要是为了提高数据库并发性能,用来处理读-写冲突,做到不加锁来读写冲突。
什么是当前读和快照读?
在学习 MVCC 之前,先了解一下什么是 MySQL InnoDB 下的当前读和快照读?
当前读
像 select lock in share mode (共享锁), select for update; update; insert; delete (排他锁)这些操作都是一种当前读,为什么叫当前读?就是它读取当前数据库最新的数据,并且保证其他并发事务不能修改当前数据,会对读取的数据进行加锁
快照读
普通的select读就是快照读,即不加锁的非阻塞读;快照读的实现是基于多版本并发控制,即 MVCC ,可以认为 MVCC 是行锁的一个变种,但它在很多情况下,避免了加锁操作,降低了开销;既然是基于多版本,即快照读可能读到的并不一定是数据的最新版本,而有可能是之前的历史版本
说白了 MVCC 就是为了实现读-写冲突不加锁,而这个读指的就是快照读
, 读的是某一时刻的数据
当前读,快照读和MVCC的关系
MVCC 多版本并发控制是 「一个数据的多个版本,读是一个版本,写时另一个版本」 的概念,只是一个抽象概念,并非实现
因为 MVCC 只是一个抽象概念,要实现这么一个概念,MySQL 就需要提供具体的功能去实现它,「快照读就是 MySQL 实现 MVCC 理想模型的其中一个非阻塞读功能」。而相对而言,当前读就是悲观锁的具体功能实现
要说地再细致一些,快照读本身也是一个抽象概念,再深入研究。MVCC 模型在 MySQL 中的具体实现则是由 3 个隐式字段,undo 日志 ,Read View 等去完成的,具体可以看下面的 MVCC 实现原理
MVCC 能解决什么问题,好处是?
数据库并发场景有三种,分别为:
读-读
:没有冲突,不需要并发控制读-写
:有线程安全问题,可能会造成事务隔离性问题,可能遇到脏读,幻读,不可重复读写-写
:有线程安全问题,可能会存在更新丢失问题,比如第一类更新丢失,第二类更新丢失
MVCC 带来的好处是?
多版本并发控制(MVCC)是一种用来解决读-写冲突的无锁并发控制,也就是为事务分配单向增长的时间戳,为每个修改保存一个版本,版本与事务时间戳关联,读操作只读该事务开始前的数据库的快照。所以 MVCC 可以为数据库解决以下问题
在并发读写数据库时,可以做到在读操作时不用阻塞写操作,写操作也不用阻塞读操作,提高了数据库并发读写的性能
同时还可以解决脏读,幻读,不可重复读等事务隔离问题,但不能解决更新丢失问题
小结一下咯
简而言之,MVCC 就是用来解决不通过加锁的形式去解决读-写冲突问题,所以在数据库中,因为有了 MVCC,所以我们可以形成两个组合:
MVCC + 悲观锁
MVCC解决读写冲突,悲观锁解决写写冲突MVCC + 乐观锁
MVCC 解决读写冲突,乐观锁解决写写冲突
这种组合的方式就可以最大程度的提高数据库并发性能,并解决读写冲突,和写写冲突导致的问题
MVCC 的实现原理
它的实现原理主要是依赖记录中的 3个隐式字段
,undo日志
,Read View
来实现的。所以我们先来看看这个三个 point 的概念
隐式字段
每行记录除了我们自定义的字段外,还有数据库隐式定义的 DB_TRX_ID
, DB_ROLL_PTR
, DB_ROW_ID
等字段
DB_TRX_ID
6 byte,最近修改(修改/插入
)事务 ID:记录创建这条记录/最后一次修改该记录的事务 IDDB_ROLL_PTR
7 byte,回滚指针,指向这条记录的上一个版本(存储于 rollback segment 里DB_ROW_ID
6 byte,隐含的自增 ID(隐藏主键),如果数据表没有主键,InnoDB 会自动以DB_ROW_ID
产生一个聚簇索引实际还有一个删除 flag 隐藏字段, 记录被更新或删除并不代表真的删除,而是删除 flag 变了
如上图,DB_ROW_ID
是数据库默认为该行记录生成的唯一隐式主键,DB_TRX_ID
是当前操作该记录的事务 ID ,而 DB_ROLL_PTR
是一个回滚指针,用于配合 undo日志,指向上一个旧版本
undo日志
undo log 主要分为两种:
insert undo log
代表事务在
insert
新记录时产生的undo log
, 只在事务回滚时需要,并且在事务提交后可以被立即丢弃update undo log
事务在进行update
或delete
时产生的undo log
; 不仅在事务回滚时需要,在快照读时也需要;所以不能随便删除,只有在快速读或事务回滚不涉及该日志时,对应的日志才会被purge
线程统一清除
对 MVCC 有帮助的实质是 update undo log
,undo log
实际上就是存在 rollback segment
中旧记录链,它的执行流程如下:
一、 比如一个有个事务插入 persion 表插入了一条新记录,记录如下,name
为 Jerry , age
为 24 岁,隐式主键
是 1,事务 ID
和回滚指针
,我们假设为 NULL
二、 现在来了一个事务 1
对该记录的 name
做出了修改,改为 Tom
在
事务 1
修改该行(记录)数据时,数据库会先对该行加排他锁
然后把该行数据拷贝到
undo log
中,作为旧记录,即在undo log
中有当前行的拷贝副本拷贝完毕后,修改该行
name
为Tom,并且修改隐藏字段的事务 ID 为当前事务 1
的 ID, 我们默认从1
开始,之后递增,回滚指针指向拷贝到undo log
的副本记录,即表示我的上一个版本就是它事务提交后,释放锁
三、 又来了个事务 2
修改person 表
的同一个记录,将age
修改为 30 岁
在
事务2
修改该行数据时,数据库也先为该行加锁然后把该行数据拷贝到
undo log
中,作为旧记录,发现该行记录已经有undo log
了,那么最新的旧数据作为链表的表头,插在该行记录的undo log
最前面修改该行
age
为 30 岁,并且修改隐藏字段的事务 ID 为当前事务 2
的 ID, 那就是2
,回滚指针指向刚刚拷贝到undo log
的副本记录事务提交,释放锁
从上面,我们就可以看出,不同事务或者相同事务的对同一记录的修改,会导致该记录的undo log成为一条记录版本线性表,既链表,undo log 的链首就是最新的旧记录,链尾就是最早的旧记录(当然就像之前说的该 undo log 的节点可能是会 purge 线程清除掉,向图中的第一条 insert undo log,其实在事务提交之后可能就被删除丢失了,不过这里为了演示,所以还放在这里)
Read View 读视图
什么是 Read View?说白了 Read View 就是事务进行快照读操作的时候生产的读视图 (Read View),在该事务执行的快照读的那一刻,会生成数据库系统当前的一个快照,记录并维护系统当前活跃事务的 ID (当每个事务开启时,都会被分配一个 ID , 这个 ID 是递增的,所以最新的事务,ID 值越大)
所以我们知道 Read View
主要是用来做可见性判断的, 即当我们某个事务执行快照读的时候,对该记录创建一个 Read View
读视图,把它比作条件用来判断当前事务能够看到哪个版本的数据,既可能是当前最新的数据,也有可能是该行记录的undo log
里面的某个版本的数据。
Read View遵循一个可见性算法,主要是将要被修改的数据
的最新记录中的 DB_TRX_ID
(即当前事务 ID )取出来,与系统当前其他活跃事务的 ID 去对比(由 Read View 维护),如果 DB_TRX_ID
跟 Read View 的属性做了某些比较,不符合可见性,那就通过 DB_ROLL_PTR
回滚指针去取出 Undo Log 中的 DB_TRX_ID
再比较,即遍历链表的 DB_TRX_ID
(从链首到链尾,即从最近的一次修改查起),直到找到满足特定条件的 DB_TRX_ID
, 那么这个 DB_TRX_ID所在的旧记录就是当前事务能看见的最新老版本
源码图,如上,它是一段 MySQL 判断可见性的一段源码,即 changes_visible
方法(不完全哈,但能看出大致逻辑),该方法展示了我们拿 DB_TRX_ID 去跟 Read View 某些属性进行怎么样的比较
在展示之前,我先简化一下 Read View,我们可以把 Read View 简单的理解成有几个重要的字段
m_ids
:表示在生成ReadView
时当前系统中活跃的读写事务的事务id
列表。min_trx_id
:表示在生成ReadView
时当前系统中活跃的读写事务中最小的事务id
,也就是m_ids
中的最小值。max_trx_id
:表示生成ReadView
时系统中应该分配给下一个事务的id
值。注意max_trx_id并不是m_ids中的最大值,事务id是递增分配的。比方说现在有id为1,2,3这三个事务,之后id为3的事务提交了。那么一个新的读事务在生成ReadView时,m_ids就包括1和2,min_trx_id的值就是1,max_trx_id的值就是4。creator_trx_id
:表示生成该ReadView
的事务的事务id
。
比较过程
DB_TRX_ID
属性值与ReadView
中的creator_trx_id
值相同,意味着当前事务在访问它自己修改过的记录,所以该版本可以被当前事务访问。DB_TRX_ID
属性值小于ReadView
中的min_trx_id
值,表明生成该版本的事务在当前事务生成ReadView
前已经提交,所以该版本可以被当前事务访问。DB_TRX_ID
属性值大于或等于ReadView
中的max_trx_id
值,表明生成该版本的事务在当前事务生成ReadView
后才开启,所以该版本不可以被当前事务访问。DB_TRX_ID
属性值在ReadView
的min_trx_id
和max_trx_id
之间,那就需要判断一下DB_TRX_ID
属性值是不是在m_ids
列表中,如果在,说明创建ReadView
时生成该版本的事务还
整体流程
我们在了解了 隐式字段
,undo log
, 以及 Read View
的概念之后,就可以来看看 MVCC 实现的整体流程是怎么样了
整体的流程是怎么样的呢?我们可以模拟一下
当
事务 2
对某行数据执行了快照读
,数据库为该行数据生成一个Read View
读视图,假设当前事务 ID 为2
,此时还有事务1
和事务3
在活跃中,事务 4
在事务 2
快照读前一刻提交更新了,所以 Read View 记录了系统当前活跃事务 1,3 的 ID,维护在一个列表上,假设我们称为trx_list
Read View 不仅仅会通过一个列表
trx_list
来维护事务 2
执行快照读
那刻系统正活跃的事务 ID 列表,还会有两个属性up_limit_id
( trx_list 列表中事务 ID 最小的 ID ),low_limit_id
( 快照读时刻系统尚未分配的下一个事务 ID ,也就是目前已出现过的事务ID的最大值 + 1 ) 。所以在这里例子中up_limit_id
就是1,low_limit_id
就是 4 + 1 = 5,trx_list 集合的值是 1, 3,Read View
如下图我们的例子中,只有
事务 4
修改过该行记录,并在事务 2
执行快照读
前,就提交了事务,所以当前该行当前数据的undo log
如下图所示;我们的事务 2 在快照读该行记录的时候,就会拿该行记录的DB_TRX_ID
去跟up_limit_id
,low_limit_id
和活跃事务 ID 列表( trx_list )
进行比较,判断当前事务 2
能看到该记录的版本是哪个。所以先拿该记录
DB_TRX_ID
字段记录的事务 ID4
去跟Read View
的up_limit_id
比较,看4
是否小于up_limit_id
( 1 ),所以不符合条件,继续判断4
是否大于等于low_limit_id
( 5 ),也不符合条件,最后判断4
是否处于trx_list
中的活跃事务, 最后发现事务 ID 为4
的事务不在当前活跃事务列表中, 符合可见性条件,所以事务 4
修改后提交的最新结果对事务 2
快照读时是可见的,所以事务 2
能读到的最新数据记录是事务4
所提交的版本,而事务4提交的版本也是全局角度上最新的版本也正是 Read View 生成时机的不同,从而造成 RC , RR 级别下快照读的结果的不同
MVCC 相关问题
RR 是如何在 RC 级的基础上解决不可重复读的?
当前读和快照读在 RR 级别下的区别:
表1:
在上表的顺序下,事务 B 的在事务 A 提交修改后的快照读是旧版本数据,而当前读是实时新数据 400
表2:
而在表 2
这里的顺序中,事务 B 在事务 A 提交后的快照读和当前读都是实时的新数据 400,这是为什么呢?
这里与上表的唯一区别仅仅是
表 1
的事务 B 在事务 A 修改金额前快照读
过一次金额数据,而表 2
的事务B在事务A修改金额前没有进行过快照读。
所以我们知道事务中快照读的结果是非常依赖该事务首次出现快照读的地方,即某个事务中首次出现快照读的地方非常关键,它有决定该事务后续快照读结果的能力
我们这里测试的是更新
,同时删除
和更新
也是一样的,如果事务B的快照读是在事务A操作之后进行的,事务B的快照读也是能读取到最新的数据的
RC , RR 级别下的 InnoDB 快照读有什么不同?
正是 Read View
生成时机的不同,从而造成 RC , RR 级别下快照读的结果的不同
在 RR 级别下的某个事务的对某条记录的第一次快照读会创建一个快照及 Read View, 将当前系统活跃的其他事务记录起来,此后在调用快照读的时候,还是使用的是同一个 Read View,所以只要当前事务在其他事务提交更新之前使用过快照读,那么之后的快照读使用的都是同一个 Read View,所以对之后的修改不可见;
即 RR 级别下,快照读生成 Read View 时,Read View 会记录此时所有其他活动事务的快照,这些事务的修改对于当前事务都是不可见的。而早于Read View创建的事务所做的修改均是可见
而在 RC 级别下的,事务中,每次快照读都会新生成一个快照和 Read View , 这就是我们在 RC 级别下的事务中可以看到别的事务提交的更新的原因
总之在 RC 隔离级别下,是每个快照读都会生成并获取最新的 Read View;而在 RR 隔离级别下,则是同一个事务中的第一个快照读才会创建 Read View, 之后的快照读获取的都是同一个 Read View。
本文到此结束。