Redis 持久化

Redis 持久化

Redis 提供了两种不同的持久化方法来将数据存储到硬盘里面。一种方法叫快照(snapshotting),它可以将存在于某一时刻的所有数据都写入硬盘里面。另一种方法叫只追加文件(append-only file,AOF),它会在执行写命令时,将被执行的写命令复制到硬盘里面。这两种持久化方式可以同时使用,也可以单独使用,甚至都不使用。

快照持久化

Redis 可以通过创建快照来获得存储在内存里面的数据在某个时间点上的副本。

创建快照的办法有以下几种。

  • 客户端通过发送 BGSAVE 命令来创建一个快照。Redis 会调用 fork 来创建一个子进程,然后子进程负责将快照写入硬盘,而父进程则继续处理命令请求。
  • 客户端还可以发送 SAVE 命令来创建一个快照,接到命令的 Redis 在快照创建完毕之前将不再响应任何其它命令。
  • 如果设置了 save 配置,比如 save 60 10000,那么从 Redis 最近一次创建快照之后算起,当 “60 秒之内有 10000 次写入” 这个条件被满足时,Redis 就会自动触发 BGSAVE 命令。如果设置了多个 save 配置选项,那么当任意一个配置的条件被满足时,就会触发一次 BGSAVE 命令。
  • 当 Redis 通过 SHUTDOWN 命令接收到关闭服务器的请求时,或者接收到标准 TERM 信号时,会执行一个 SAVE 命令,并在命令执行完毕之后关闭。
  • 当一个 Redis 连接另一个 Redis,并向对方发送 SYNC 命令开始一次复制操作的时候,那么主服务器会执行 BGSAVE 命令。

在只使用快照持久化来保存数据时,一定要记住:如果系统真的发生崩溃,用户将丢失最近一次快照之后更改的所有数据。因此,快照持久化只适用于那些即使丢失一部分数据也不会造成问题的程序,而不能接受这种数据损失的程序则可以使用 AOF 持久化。

AOF 持久化

简单来说,AOF 持久化会将被执行的写命令写到 AOF 文件的末尾,以此来记录数据发生的变化。因此,Redis 只要从头到尾重新执行一次 AOF 文件包含的所有写命令,就可以恢复 AOF 文件所记录的数据集。AOF 可以通过设置 appendonly yes 配置选项来打开。

appendonly 选项及同步频率

  • always 每个 Redis 写命令都要同步写入硬盘。这样做会严重降低速度。
  • everysec 每秒执行一次同步,显式地将多个写命令同步到硬盘。
  • no 让操作系统来决定应该何时进行同步。

文件同步

在向硬盘写入文件时,至少会发生 3 件事。当调用 file.write() 方法(或者其他编程语言里面的类似操作)对文件进行写入时,写入的内容首先会被存储到缓冲区,然后操作系统会在将来的某个时候将缓冲区存储的内容写入硬盘,而数据只有在被写入硬盘之后,才算是真正地保存到了硬盘里面。用户可以通过调用 file.flush() 方法来请求操作系统尽快地将缓冲区存储地数据写入硬盘里,但具体何时执行写入操作仍然由操作系统决定。除此之外,用户还可以命令操作系统将文件同步(fsync)到硬盘,同步操作会一直阻塞直到指定的文件被写入硬盘为止。

警告 固态硬盘和 appendfsync always

使用固体硬盘的用户请谨慎使用 appendfsync always 选项,因为这个选项让 Redis 每次只写入一个命令,而不是像其他选项那样一次写入多个命令,这种不断写入少量数据的做法有可能会引发严重的写入放大(write amplification)问题,在某些情况下甚至会将固体硬盘的寿命从原来的几年降低为几个月。

重写/压缩 AOF 文件

为了解决 AOF 文件不断增大的问题,用户可以发送 BGREWRITEAOF 命令,这个命令会通过移除 AOF 文件中的冗余命令来重写文件。BGREWRITEAOF 的工作原理和 BGSAVE 创建快照的工作原理非常相似,会创建一个子进程,然后由子进程负责对 AOF 文件进行重写。

AOF 持久化也可以通过设置 auto-aof-rewrite-percentage 和 auto-aof-rewrite-min-size 选项来自动执行 BGREWRITEAOF。

Redis 复制的启动过程

表 1 从服务器连接主服务器时的步骤

步骤 主服务器操作 从服务器操作
1 等待命令 连接主服务器,发送 SYNC 命令
2 开始执行 BGSAVE,并使用缓冲区记录 BGSAVE 之后执行的所有写命令 根据配置来决定是继续使用现有的数据来处理客户端的命令,还是向发送请求的客户端返回错误
3 BGSAVE 执行完毕,向从服务器发送快照文件,并在发送期间继续使用缓冲区记录被执行的写命令 丢弃所有旧数据,开始载入主服务器发来的快照文件
4 快照文件发送完毕,开始向从服务器发送存储在缓冲区里面的写命令 完成对快照文件的解释操作,开始接受命令请求
5 缓冲区存储的写命令发送完毕。从现在开始,每执行一个写命令,就向从服务器发送相同的写命令 执行主服务器发来的所有存储在缓冲区里面的写命令。并从现在开始,接收并执行主服务器传来的每个写命令

警告

从服务器在进行同步,会清空自己的所有数据 从服务器在于主服务器进行初始连接时,数据库中原有的所有数据都将丢失,并被替换成主服务器发来的数据。

Redis 不支持主主复制(master-master replication) 被相互设置为主服务器的两个 Redis 实例只会持续地占用大量资源并且持续不断地尝试与对方进行通信,根据客户端连接的服务器不同,客户端的请求可能会得到不一致的数据,或者得不到数据。

多个从服务器

表 2 当有新的从服务器连接主服务器时,有时可以重用已有的快照文件

当有新的从服务器连接主服务器时 主服务器操作
表 1 中步骤 3 尚未执行 所有从服务器会接收到相同的快照文件和相同的缓冲区写命令
表 1 中步骤 3 正在执行或者已经执行完毕 当主服务器与较早进行连接的从服务器执行完复制所需的 5 个步骤之后,主服务器会与新连接的从服务器执行一次新的复制流程

主从链

当读请求的重要性明显高于写请求的重要性,并且读请求的数量远远超出一台服务器可以处理的范围时,用户就需要添加新的从服务器来处理读请求。随着负载不断上升,主服务器可能会无法快速地更新所有从服务器,或者因为重新连接和重新同步从服务器而导致系统超载。为了缓解这个问题,用户可以创建一个由 Redis 主从节点(master/slave node)组成的中间层来分担服务器的复制工作,如果下图所示。

image

因为 Redis 的主服务器和从服务器并没有特别不同的地方,所以从服务器也可以拥有自己的从服务器,并形成主从链(master/slave chaining)。


上一篇
使用 Docker Compose 搭建一个 MySQL 主从服务 使用 Docker Compose 搭建一个 MySQL 主从服务
使用 Docker Compose 搭建一个 MySQL 主从服务安装 Docker for Mac先安装 Docker for Mac 准备好文件docker-compose.ymlversion: '3' services: mys
2018-12-13
下一篇
Nginx 进程和信号 Nginx 进程和信号
Nginx 进程和信号进程结构一般来说 Nginx 有一个父进程 Master,和一个或多个子进程。 子进程分两类,一种是 Worker 进程,另一种是 Cache 相关的进程。 Cache 在多个 Worker 间共享使用。同时被进程 C
2018-12-02