Percona Backup for MongoDB(PBM)备份恢复简介
概述
Percona Backup for MongoDB(PBM)是一个针对MongoDB副本集和分片的一致性备份开源工具，它支持逻辑备份、物理备份、增量备份以及选择性备份和恢复等特性，并且支持Point-in-Time恢复到指定时间点。
但非常可惜的是物理备份相关功能目前仅适用于Percona Server for MongoDB的分支，因此下面主要围绕逻辑备份与Point-in-Time来展开，MongoDB Community版本要求4.0及以上。
已知限制
只支持逻辑备份恢复
不支持分片集合
不支持批量指定namespace
不支持Multi-collection事务
不能备份恢复本地数据库中的系统集合
时间点恢复需要通过完全备份来作为基础
架构
pbm-agent
tpbm-agent是用于执行备份、恢复，删除和其它操作的进程，它必须运行在集群的每个mongod实例上。包括副本集中的secondary节点以及分片集群中的config副本集。
所有pbm-agent都会监视PBM Control集合的更新，当PBM CLI对PBM Control集合产生更新时，将会在每个副本集上选择一个secondary上的pbm-agent执行操作，如果没有响应则会选择Primary上的pbm-agent执行操作。
被选中的pbm-agent将会加锁，避免同时触发备份和恢复等互斥操作。操作完成后将会释放锁，并更新PBM Control集合
PBM CLI
PBM CLI是一个操作PBM的命令行工具，它使用PBM Control集合与pbm-agent进程通信。通过更新和读取操作、日志等相应的PBM Control集合来启动和监视备份和恢复操作。同时，它也将PBM配置信息保存在PBM Control集合中。
PBM Control collections
PBM Control collections是存储配置数据和备份状态的特殊集合，分片环境存放在config副本集的admin数据库中，副本集则保存在自身的admin数据库中。主要包含以下集合：
admin.pbmBackups：备份的日志和状态
admin.pbmAgents：pbm-agent的运行状态
admin.pbmConfig：PBM的配置信息
admin.pbmCmd：用于定义和触发操作
admin.pbmLock：pbm-agent同步锁
admin.pbmLockOp：用于协调不互斥的操作，如执行备份、删除备份等
admin.pbmLog：存储pbm-agent的日志信息
admin.pbmOpLog：存储操作ID
admin.pbmPITRChunks：存储point-in-time恢复的oplog块
admin.pbmPITRState：存储point-in-time恢复增量备份的状态
admin.pbmRestores：存储还原历史记录和状态
admin.pbmStatus：记录PBM备份状态
remote backup storge远程备份存储是保存备份文件的位置，可以是S3存储，也可以是Filesystem。通过pbm list命令可以查看备份集。备份文件名称都是以UTC备份开始时间作为前缀，每个备份都有一个元数据文件。对于备份中的每个副本集：
有一个mongodump格式的压缩归档文件，它是集合的转储
覆盖备份时间的oplog的BSON文件转储
安装配置
下载PBM
1 | # wget https://downloads.percona.com/downloads/percona-backup-mongodb/percona-backup-mongodb-2.0.3/binary/tarball/percona-backup-mongodb-2.0.3-x86_64.tar.gz |
解压PBM
1 | # tar -xvf percona-backup-mongodb-2.0.3-x86_64.tar.gz |
配置环境变量
1 2 | # echo "export PATH=$PATH:/usr/local/percona-backup-mongodb-2.0.3-x86_64" >> /etc/profile # source /etc/profile |
在副本集上创建PBM用户，如果是分片环境，则每个shard以及config都需要创建
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 | # create pbm role shard1:PRIMARY> db.getSiblingDB("admin").createRole({ "role": "pbmAnyAction", "privileges": [ { "resource": { "anyResource": true }, "actions": [ "anyAction" ] } ], "roles": [] }); # create pbm user shard1:PRIMARY> db.getSiblingDB("admin").createUser({user: "pbmuser", "pwd": "secretpwd", "roles" : [ { "db" : "admin", "role" : "readWrite", "collection": "" }, { "db" : "admin", "role" : "backup" }, { "db" : "admin", "role" : "clusterMonitor" }, { "db" : "admin", "role" : "restore" }, { "db" : "admin", "role" : "pbmAnyAction" } ] }); |
配置remote backup storge，除mongos外，每个节点都需要存在对应的备份目录
1 2 3 4 5 6 | cat > /etc/pbm_config.yaml <<EOF storage: type: filesystem filesystem: path: /data/backup EOF |
将配置写入到数据库中，分片集群需要填写config的地址
1 | pbm config --file /etc/pbm_config.yaml --mongodb-uri "mongodb://pbmuser:secretpwd@10.186.65.37:27018,10.186.65.66:27018,10.186.65.68:27018/?replicaSet=config" |
启动每个节点对应的pbm-agent
1 | nohup pbm-agent --mongodb-uri "mongodb://pbmuser:secretpwd@10.186.65.37:27017" > /var/log/pbm-agent-27017.log 2>&1 & |
为了后续方便，不用每次输入--mongodb-uri，可以把PBM_MONGODB_URI设置到环境变量中
1 2 | # echo 'export PBM_MONGODB_URI="mongodb://pbmuser:secretpwd@10.186.65.37:27018,10.186.65.66:27018,10.186.65.68:27018/?replicaSet=config"' >> /etc/profile # source /etc/profile |
全量备份
全备支持物理备份和逻辑备份，通过--type指定，可选项有physical和logical两种。因MongoDB社区版不支持物理备份，就只围绕逻辑备份来展开。
全量备份即对整个集群除mongos以外进行完整的备份，只需要执行一次，就能完成整个集群的备份。备份命令如下：
1 | pbm backup --type=logical --mongodb-uri "mongodb://pbmuser:secretpwd@10.186.65.37:27018,10.186.65.66:27018,10.186.65.68:27018/?replicaSet=config" |
备份压缩
pbm支持备份压缩，目前的算法有gzip、zstd、snappy、lz4，通过--compression选项指定。同时能指定对应的压缩级别，通过--compression-level选项指定。不同算法的压缩级别如下所示：
| 压缩算法 | 压缩级别 | 默认 |
|---|---|---|
| ztsd | 1-4 | 2 |
| snappy | NULL | NULL |
| lz4 | 1-16 | 1 |
| gzip or pgzip | -1,0,1,9 | -1 |
优先级
负责备份的pbm-agent默认会在从节点中随机选出，规定时间内从节点没有响应，则在主节点进行备份。现在可以通过指定每个节点的备份优先级来控制备份节点选择，避免在一个机器承载多个实例的情况下备份集中在同一台服务器导致IO性能不足。在配置文件中加入下列配置
1 2 3 4 5 | backup: priority: "10.186.65.37:27017": 2 "10.186.65.37:27018": 1 "10.186.65.68:27017": 2 |
不在配置文件中的节点优先级默认为1，如果没有设置任何优先级，下列类型的节点则优先被选中
隐藏节点：优先级为2
secondary节点：优先级为1
Primary节点：优先级为0.5
备份管理
查看pbm状态
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 | pbm status --mongodb-uri Cluster: ======== shard3: - shard3/10.186.65.68:27017 [P]: pbm-agent v2.0.3 OK shard1: - shard1/10.186.65.37:27017 [P]: pbm-agent v2.0.3 OK shard2: - shard2/10.186.65.66:27017 [P]: pbm-agent v2.0.3 OK config: - config/10.186.65.37:27018 [P]: pbm-agent v2.0.3 OK - config/10.186.65.66:27018 [S]: pbm-agent v2.0.3 OK - config/10.186.65.68:27018 [S]: pbm-agent v2.0.3 OK PITR incremental backup: ======================== Status [OFF] Currently running: ================== (none) Backups: ======== FS /data/backup Snapshots: 2023-02-22T07:18:40Z 4.66MB <logical> [restore_to_time: 2023-02-22T07:18:45Z] |
备份完成后，可以通过pbm list查看所有备份集，也可以通过pbm describe-backup查看备份的具体信息
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 | # pbm list Backup snapshots: 2023-02-22T07:18:40Z <logical> [restore_to_time: 2023-02-22T07:18:45Z] # pbm describe-backup 2023-02-22T07:18:40Z name: "2023-02-22T07:18:40Z" opid: 63f5c1d0a6375c868415cac4 type: logical last_write_time: "2023-02-22T07:18:45Z" last_transition_time: "2023-02-22T07:18:59Z" mongodb_version: 4.0.28 pbm_version: 2.0.3 status: done size_h: 4.7 MiB replsets: - name: shard2 status: done last_write_time: "2023-02-22T07:18:44Z" last_transition_time: "2023-02-22T07:18:55Z" - name: shard3 status: done last_write_time: "2023-02-22T07:18:44Z" last_transition_time: "2023-02-22T07:18:59Z" - name: shard1 status: done last_write_time: "2023-02-22T07:18:44Z" last_transition_time: "2023-02-22T07:18:57Z" - name: config status: done last_write_time: "2023-02-22T07:18:45Z" last_transition_time: "2023-02-22T07:18:48Z" configsvr: true |
查看备份日志可以使用pbm logs进行查看，有下列选项可选：
-t：查看最后N行记录
-e：查看所有备份或指定备份
-n：指定节点或副本集
-s：按日志级别进行过滤，从低到高依次是D(debug)、I(Info)、W(Warning)、E(Error)、F(Fatal)
-o：以文本或JSON格式显示日志信息
-i：指定操作ID
1 2 3 4 5 | # 查看特定备份的日志 pbm logs --tail=200 --event=backup/2023-02-22T07:18:40Z # 查看副本集shard1的日志 pbm logs -n shard1 -s E |
如果正在运行任务想要终止，可以使用pbm canal-backup取消
1 | pbm cancel-backup |
删除快照备份可以使用pbm delete-backup，默认删除前会进行二次确认，指定--force选项可以直接删除。删除oplog chunk可以执行pbm delete-pitr
1 | pbm delete-backup --force 2023-02-22T07:18:40Z |
如果想要删除指定时间之前的备份，可以设置--older-than参数，传递下列格式的时间戳
%Y-%M-%DT%H:%M:%S (e.g. 2020-04-20T13:13:20)
%Y-%M-%D (e.g. 2020-04-20)
增量备份
Point-in-Time Recovery可以将数据还原到指定时间点，期间会从备份快照中恢复数据库，并重放oplog到指定时间点。Point-in-Time Recovery是v1.3.0加入的，需要手动启用pitr.enabled参数
1 | pbm config --set pitr.enabled=true |
在启用Point-in-Time Recovery之后，pbm-agent会定期保存oplog chunk，一个chunk包含10分钟跨度的oplog事件，如果禁用时间点恢复或因备份快照操作的开始而中断，则时间可能会更短。oplog保存在远程存储的pbmPitr子目录中，chunk的名称反映了开始时间和结束时间
如果想要调整时间跨度，可以配置pitr.oplogSpanMin
1 | pbm config --set pitr.oplogSpanMin=5 |
oplog备份也支持压缩，可以配置pitr.compression
