oracle pga，从Oracle到PostgreSQL：一文掌握Checkpoint重要概念-技術動態-匯編語言學習筆記

oracle pga，从Oracle到PostgreSQL：一文掌握Checkpoint重要概念

2023-09-22 阅读 21 评论 0

摘要：墨墨导读：Checkpoint是数据库中重要的概念，无论在Oracle，MySQL这个概念，它主要功能是在检查点时刻，脏数据全部刷新到磁盘，以实现数据的一致性和完整性。PostgreSQL为什么要设计Checkpoint呢？跟Oracle一样，其主要目的

墨墨导读：Checkpoint是数据库中重要的概念，无论在Oracle，MySQL这个概念，它主要功能是在检查点时刻，脏数据全部刷新到磁盘，以实现数据的一致性和完整性。PostgreSQL为什么要设计Checkpoint呢？跟Oracle一样，其主要目的是缩短崩溃恢复时间。PostgreSQL在崩溃恢复时会以最近的Checkpoint为基础，不断应用这之后的WAL日志。下面我们就从Oracle的角度去学习下PostgreSQL的Checkpoint。

PG检查点进程

Oracle的checkpoint进程是由单独的ckpt进程负责的，PostgreSQL也一样，有专门的checkpoint进程checkpointer，它由postmaster负责创建。作为postmaster的子进程而存在，为几大重要的后台进程之一。

从下图中，可知postmaster进程号为1962。checkpoint的进程号为1965，其父进程号为1962，即为

640?wx_fmt=png

Kill检查点进程可以如下图可以看到，其他进程也跟着checkoint进程重启了。有点类似于系统被初始化后。可见此进程对数据一致保护的重要性。

640?wx_fmt=png

PG检查点的类型

在xlog.h文件中，有如下代码对checkpoint进行了相应的分类：

/* These directly affect the behavior of CreateCheckPoint and subsidiaries */	
#define CHECKPOINT_IS_SHUTDOWN  0x0001  /* Checkpoint is for shutdown */	
#define CHECKPOINT_END_OF_RECOVERY      0x0002  /* Like shutdown checkpoint, but	* issued at end of WAL recovery */	#define CHECKPOINT_IMMEDIATE    0x0004  /* Do it without delays */	
#define CHECKPOINT_FORCE                0x0008  /* Force even if no activity */	
#define CHECKPOINT_FLUSH_ALL    0x0010  /* Flush all pages, including those	* belonging to unlogged tables */	
/* These are important to RequestCheckpoint */	
#define CHECKPOINT_WAIT                 0x0020  /* Wait for completion */	
/* These indicate the cause of a checkpoint request */	
#define CHECKPOINT_CAUSE_XLOG   0x0040  /* XLOG consumption */	
#define CHECKPOINT_CAUSE_TIME   0x0080  /* Elapsed time */

CHECKPOINT_IS_SHUTDOWN(shutdown检查点)：在PG实例shutdown时做的检点
CHECKPOINT_END_OF_RECOVERY(recovery end检查点): 在recovery 结束阶段做的检查点，类似于shutdown检查点，只不过在WAL恢复结束时发起。
CHECKPOINT_IMMEDIATE(immediate检查点)：不仅仅创建检查点，而且会马上做。这类请求一般在比较紧急的情况下，需要马上获取数据库一致状态的情况下。
CHECKPOINT_FORCE(force检查点)：即使没有xlog变更，也会做。请求这类检查点，往往只是想得到最近的checkpoint location而已。
CHECKPOINT_FLUSH_ALL(flush检查点): 当发起flush 所有pages时发起，包括那些不logging的表
CHECKPOINT_WAIT (wait检查点)：检查点不会马上做，但会一直等待，直到检查点完成。往往比较重要的一些操作，但不是非常紧急的，可以请求该类检查点。尤其是一些DDL操作，对数据一致性要求高于响应时间。
CHECKPOINT_CAUSE_XLOG(xlog检查点)：由xlog的消耗引起，产生新xlog文件。
CHECKPOINT_CAUSE_TIME (time检查点)：由时间elapse引起。

从上可知，PostgreSQL的checkpoint类型也很丰富，但是它比oracle的类型少些，比如增量checkpoint.

Checkpoint触发条件

以下几种情况会触发数据库操作系统做检查点操作：

oracle pga，

1) 超级用户（其他用户不可）执行checkpoint命令

2) 数据库shutdown

3) 数据库recovery完成

4) WAL日志量达到了触发checkpoint阈值

5) 周期性地进行checkpoint

oracle type is record？

6) 需要刷新所有脏页

checkpoint调优

如何设置调优checkpoint，设置正确的参数呢？首先我们要先了解PostgreSQL数据的同步机制。

PostgreSQL数据的同步机制

640?wx_fmt=png

图1. 数据同步机制

整个同步机制如上图1所示。数据库的后台进程在执行用户事务时，发生的数据更改是先写入缓冲池中，对应PostgreSQL就是shared buffers。PostgreSQL的缓冲池一般设置为总内存的1/4左右，缓冲池里面的这些数据更改，在事务提交时，是无需同步写入到磁盘的。因为在事务提交时，会先写入WAL日志，有了WAL日志，就可以在异常情况下将数据恢复，保障数据安全，因此数据本身是否在提交时写入磁盘就没那么重要了。PostgreSQL是只是在需要的时候，例如脏页较多时、或一定时间间隔后，才将数据写回磁盘。

脏页处理的过程分为几个步骤。首先是由background writer将shared buffers里面的被更改过的页面（即脏页），通过调用write写入操作系统page cache。在函数BgBufferSync可以看到，PostgreSQL的background writer进程，会根据LRU链表，扫描shared buffers（实际上是每次扫描一部分），如果发现脏页，就调用系统调用write。可以通过设置bgwriter_delay参数，来控制background writer每次扫描之间的时间间隔。background writer在对一个页面调用write后，会将该页面对应的文件（实际上是表的segement，每个表可能有多个segment，对应多个物理文件）记录到共享内存的数组CheckpointerShmem->requests中，调用顺序如下：

BackgroundWriterMain -> BgBufferSync -> SyncOneBuffer -> FlushBuffer -> smgrwrite->	
mdwrite-> dirty_segment-> register-> ForwardFsyncRequest

这些request最终会被checkpointer进程读取，放入pendingOpsTable，而真正将脏页回写到磁盘的操作，是由checkpointer进程完成的。checkpointer每次也会调用smgrwrite，把所有的shared buffers脏页（即还没有被background writer清理过得脏页）写入操作系统的page cache，并存入pendingOpsTable。这样pendingOpsTable存放了所有write过的脏页，包括之前background writer已经处理的脏页。随后PostgreSQL的checkpointer进程会根据pedingOpsTable的记录，进行脏页回写操作（注意每次调用fysnc，都会sync数据表的一个文件，文件中所有脏页都会写入磁盘），调用顺序如下：

CheckPointGuts->CheckPointBuffers->->mdsync->pg_fsync->fsync

如果checkpointer做磁盘写入的频率过高，则每次可能只写入很少的数据。我们知道，磁盘对于顺序写入批量数据比随机写的效率要高的多，每次写入很少数据，就造成大量随机写；而如果我们放慢checkpoint的频率，多个随机页面就有可能组成一次顺序批量写入，效率大大提高。另外，checkpoint会进行fsync操作，大量的fsync可能造成系统IO阻塞，降低系统稳定性，因此checkpoint不能过于频繁。但checkpoint的间隔也不能无限制放大。因为如果出现系统宕机，在进行恢复时，需要从上一次checkpoint的时间点开始恢复，如果checkpoint间隔过长，会造成恢复时间缓慢，降低可用性。

相关参数配置

checkpoint_warning

如果检查点触发的频率小于30s，则log日志中会提醒你增加max_wal_size。