GreenPlum备份恢复工具之gpbackup和gprestore

0    447    3

Tags:

👉 本文共约20362个字,系统预计阅读时间或需77分钟。

简介及总结

有关gpbackup和gprestore有如下总结点,其它请参考:https://www.dbaup.com/greenplumshujukudebeifenhehuifu.html

1、gpbackup和gprestore是一个逻辑备份工具

2、gpbackup和gprestore是可以并行备份的工具

3、gpbackup和gprestore支持增量备份和压缩备份等功能,增量备份只对AO表起作用

4、gpbackup和gprestore是GreenPlum官方提供的备份恢复工具

5、默认情况下,gpbackup仅在Greenplum数据库master数据目录中存储备份的对象元数据文件和DDL文件。 Greenplum数据库节点使用COPY … ON SEGMENT命令将备份表的数据存储在位于每个节点的backups目录中的压缩CSV数据文件中。

6、需要额外进行安装,默认安装包不带该工具

7、工具是基于Golang写的

8、gpbackup 的必选参数只有 --dbname每次只能备份一个数据库,其他参数均为可选参数,有些参数之间是存在互斥关系的,建议命令:

9、一般备份要比恢复快很多,所以恢复的时候一定要加上--jobs或--copy-queue-size参数。这2个参数在数据库有特大表存在的时候,对整个备份进度影响不大,但恢复的时候会有很大提升。另外,并发度不能太高(配置8、12、16即可),否则也影响整体的效率。 这2个参数在备份效率方面并没有差很多。

10、gpbackup在每个独立的表级别使用ACCESS SHARE锁,而不是在pg_class catalog表里加EXCLUSIVE锁。 这使得你可以在backup期间执行任意查询和DML语句,但是如CREATE,ALTER,DROP和TRUNCATE操作,则这些操作会被阻塞。可以考虑通过--exclude-table-file=/home/gpadmin/exclude_tb.txt--include-schema=public--exclude-schema=tmp等参数排除掉不需要的表或schema,但是建表语句也会处于排队状态,删表语句会处于阻塞状态,影响还是比较大的,不过这些可能和版本有一定的关系,我测试的不同版本情况不太一样,在生产环境上还是要慎重。

11、若不指定备份路径--backup-dir参数,则备份文件会保存在 $MASTER_DATA_DIRECTORY/backups/YYYYMMDD/YYYYMMDDhhmmss/ 路径下

12、若还原的集群和备份的集群的segment个数不一样,则还原时需要添加--resize-cluster参数,该参数仅在gpbackup 1.30.5后才生效。

Invoke this option to enable restoring data to a cluster that has a different number of segments than the cluster from which the data was backed up.

In order to enable the --resize-cluster feature you must take backups using gpbackup 1.30.5 or later.

13、若源集群和目标集群的segment数不一致,则分为如下情况:
1、源<目标 ,则备份文件需要拷贝到至少和源一样的segment上
2、源>目标,不能恢复,报错Expected to find 4 file(s) on segment 2 on host sdw1, but found 6 instead.(目前未解决)

14、gpbackup_manager可以列出历史备份信息,这些信息存储在$MASTER_DATA_DIRECTORY/gpbackup_history.db的SQLite的数据库文件中。所以,若要清空历史备份信息,则直接删除文件rm -rf $MASTER_DATA_DIRECTORY/gpbackup_history.db即可。 只有当GreenPlum数据库正常运行时,才可以使用gpbackup_manager工具。

15、若源端和目标端的数据库大版本或小版本不一致,也可以使用gpbackup和gprestore进行备份和还原,但是要保证源端和目标端的gpbackup和gprestore的版本是一样的。例如从GP6备份,还原到GP7上经测试也可以。 若生产上使用,还需进一步详细测试。

16、若使用--single-data-file --copy-queue-size 8参数进行备份,4个节点,16个segment实例,备份1T数据量大约需要1小时

17、gprestore过程是先创建表,再copy导入数据,最后再创建索引。

18、备份时的会话查询:

19、该工具在系统内部采用SSH连接执行各项操作任务。在大型Greenplum集群、云部署或每台主机部署了大量的 segment实例时,可能会遇到超过主机最大授权连接数限制的情况。此时需要考虑更新SSH配置参数MaxStartups 以提高该限制。

20、gpbackup的--exclude-table-file和--include-table-file参数不能添加数据库名,示例如下:

21、增量备份参数--incremental,需要与--leaf-partition-data参数同时使用,并且在创建基础全量备份时,也必须带有--leaf-partition-data参数,否则增量备份找不到基础备份会报错退出。另外增量备份只对AO表有效,Heap表每次都会进行全量备份。

增量恢复时需要添加参数: --data-only --incremental

21、官方文档:

https://docs.vmware.com/en/VMware-Greenplum-Backup-and-Restore/1.30/greenplum-backup-and-restore/backup-restore.html

22、异地备份到S3存储,建议使用新用户gpbk进行备份,配置PGUSER参数和pg_hba.conf文件即可:

脚本:

23、异地备份到sshfs文件系统,建议使用新用户gpbk进行备份,配置PGUSER参数和pg_hba.conf文件即可:

安装gpbackup和gprestore

安装参考:

https://docs.vmware.com/en/VMware-Tanzu-Greenplum-Backup-and-Restore/1.27/tanzu-greenplum-backup-and-restore/GUID-backup-restore-install.html

https://docs.vmware.com/en/VMware-Greenplum-Backup-and-Restore/1.30/greenplum-backup-and-restore/backup-restore-install.html

下载

下载地址(最新版1.30.5):

注意:

1、官网下载比GitHub多gpbackup_ddboost_plugin、gpbackup_s3_plugin和gpbackup_manager这几个文件,且目录稍有不同。

2、建议使用官网的工具。

安装

需要安装在所有的master、standby master和所有segment主机上:

使用gpadmin用户在master节点执行即可:

示例:

gppkg安装

在GP数据库启动的情况下安装:

命令帮助

gpbackup帮助命令

从上面各个参数的详细解释中,大家也可以得出一个总结,gpbackup 的必选参数只有 --dbname,其他参数均为可选参数,有些参数之间是存在互斥关系的,大家在使用过程中一定要注意。

gprestore帮助命令

gpbackup_manager帮助命令

参考:https://docs.vmware.com/en/VMware-Greenplum-Backup-and-Restore/1.30/greenplum-backup-and-restore/utility_guide-ref-gpbackup_manager.html

  • gpbackup_manager可以列出历史备份信息,这些信息存储在$MASTER_DATA_DIRECTORY/gpbackup_history.db的SQLite的数据库文件中。所以,若要清空历史备份信息,则直接删除文件rm -rf $MASTER_DATA_DIRECTORY/gpbackup_history.db即可。

  • 只有当GreenPlum数据库正常运行时,才可以使用gpbackup_manager工具。

  • 只有官方下载的工具才带有该工具。

  • Greenplum Database must be running to use the gpbackup_manager utility.

  • Backup history is saved on the Greenplum Database coordinator host in the database $MASTER_DATA_DIRECTORY/gpbackup_history.db.

使用示例

gpbackup

常规备份,只指定--dbname参数

实验总结:

如果只指定数据库名称,会将这个数据库的所有对象都进行备份,例如:元数据、表数据、资源队列、资源组、角色等。

元数据存储在Master节点的$MASTER_DATA_DIRECTORY/backups/YYYYMMDD/YYYYMMDDhhmmss/目录下,会生成4个文件,其中:config.yaml 记录gpbackup 运行时的参数配置项;report记录备份下来的数据库对象信息,主要是对象数量;toc.yaml 记录元数据之间的依赖关系;metadata.sql 记录表结构DDL的详细信息。

Master节点生成的四个文件(standby master无数据):

生产表数据存储在segment实例的backups目录下,比如我这边/opt/greenplum/data/primary/gpseg0/backups/20230303/20230303121616

默认情况下,每个表生成一个单独的gzip压缩文件,通过pg_class中的oid作为后缀来做表关联对应。segment节点不存储任何生产表数据之外的数据。

解压打开其中一个表文件看一下,里面是csv内容:

如果你想解压x.txt.gz到x.txt,同时保留x.txt.gz,你可以输入:gunzip -c x.txt.gz > x.txt

指定--backup-dir参数进行备份

实验语句:

示例:

实验总结:

指定--backup-dir的操作可以将备份统一到一个固定的目录,这就要求所有服务器上必须都存在--backup-dir后面指定的这个目录,比如我这里的目录是/home/gpadmin/bk。这个适合公司对备份目录有固定要求,或者必须放置到共享存储中的场景,通过定义统一的目录,就可以把所有的备份数据都放在我们可以获知的任意位置(当然管理员用户必须具有目录的访问权限)。

Master节点上的信息展示如下,文件还是那些文件,只不过目录不同了。

Segment节点上的信息展示如下,可以看到是通过segment名字进行区别,所以不要担心在共享存储中会出现覆盖的问题。

指定--data-only参数只备份数据

实验语句:

实验总结:

如果指定了--data-only,Master节点将不会导出创建数据库对象的DDL语句,这个场景只适合于数据临时导出操作,没有表结构,如果恢复的时候数据库中没有表,也无法实现恢复。个人感觉这种场景不太多,毕竟备份一下DDL也不浪费多少时间。

Master节点中查看metadata.sql文件,没有信息,*Segment节点,显然只有表数据

指定--jobs参数进行并行备份

实验语句:

实验总结:

指定了--jobs=2参数以后,理论上在各个节点上备份时,会同时启动两个事务分别备份2个表,我们可以通过数据库的日志进行甄别,如下可以看到,四条日志中,前两条是上一次备份的日志,没开并行,可以看出时间是顺序的;后两条是本次开启2个并行的备份操作,可以看到基本是同一时间发起的:

指定--single-data-file参数将segment数据备份成单个文件

实验语句:

实验总结:

在上面的实验中,我首先把--jobs=2和--single-data-file参数同时使用,大家可以发现已经出现报错了,因为不支持这两个参数同时使用。下面第二个命令将并发参数去掉后,可以正常备份,这个参数会影响到segment节点把所有的表数据都备份到同一个文件中,如下查看单个segment备份目录下的文件可以看出:

指定--incremental参数进行增量备份

增量备份只对AO表起作用

实验总结:

增量备份参数--incremental,需要与--leaf-partition-data参数同时使用,并且在创建基础全量备份时,也必须带有该参数,否则增量备份找不到基础备份会报错退出。另外增量备份只对AO表有效,Heap表每次都会进行全量备份。

gprestore

如果要使用 gprestore 进行数据库恢复,那就要求您必须已经使用 gpbackup 进行了数据库备份,恢复时通过指定 --timestamp 参数把备份集传给 gprestore。如果您指定的是一个增量备份的时间戳,那这个增量备份的 base 全量备份及其他增量文件必须均存在,恢复时会校验备份集合的完整性,防止恢复出错。

在恢复数据时,默认情况下会将数据恢复到 gpbackup 备份的数据库中,如果该数据库已经不存在了,需要通过指定 --create-db 参数来自动创建数据库;如果数据库存在但是模式不存在,也会自动创建模式,如果模式已经存在,则会告警提示并继续恢复数据;如果数据库中同名的表已经存在,则恢复会失败并立刻停止。

常规恢复,只指定 --timestamp 参数

如果要进行 数据恢复,请指定备份数据集的时间戳,这些时间戳可以从备份目录的文件夹目录名称获取,只指定一个时间戳时,如果无论您指定的是全量备份还是增量备份的时间戳,都能正常恢复,指定全量备份时,只恢复全量部分; 指定增量备份时间戳时,会恢复改增量及其以前的增量和全量数据。

指定 --create-db 参数,自动创建数据库

实验总结:

--create-db 参数可以帮助我们自动创建数据库,所以我们如果想做全库恢复并且担心数据重复,最好把数据库整个删掉然后直接用该参数执行恢复,这样最省事了。

指定 --truncate-table 参数,恢复前把表清空

由于 --truncate-table 参数是用来清空表的,也就是说表必须是存在的,如果表必须存在,那我们就不需要再恢复 metadata 表结构,此时也就要求我们在使用 --truncate-table 时必须配合 --data-only 一起使用,否则会报错,下面的实验语句,我做了三次,分别实验了:

  1. 只带有 --truncate-table 参数;
  2. --truncate-table 参数和 --data-only 参数配合使用;
  3. --truncate-table 参数和第一个小实验中提示的 --include-table or --include-table-file 参数配合使用(实验报错),因为使用了 --include-table or --include-table-file 参数时,必须配合 --data-only 参数一起使用。

实验总结:

--truncate-table 参数只有和 --data-only 参数一起使用时才会有效,主要是为了防止数据恢复时存在重复的问题。

指定 --redirect-schema 参数,恢复到指定的模式

实验总结:

该实验展示了如何将 public 模式下的所有表恢复到 s1 模式下。您也可以将不同模式下的两个表的数据恢复到另外一个模式下的同一个表,但是这要求我们配合如下参数一起使用:--redirect-schema=s2 --include-table=public.tao --include-table=s1.tao --data-only 。

指定 --on-error-continue 参数,遇到问题并继续

慎用!!!

指定 --redirect-db 参数,恢复到特定数据库

--redirect-db 参数可以将 gpbackup 原来备份的数据库数据恢复到新的数据库中,该参数指定的数据库可以存在也可以不存在,如果数据库不存在,就必须配合 --create-db 参数一起使用。

实验总结:

在一些实验环境下,可以通过该参数从备份快速创建测试数据库,而不必担心对原来的数据库产生什么影响。如果目标数据库不存在,可以配合 --create-db 参数自动创建数据库。

备份恢复操作的状态码

为了方便大家在程序中调用 gpbackup/gprestore 命令后进行成功与否的判断,两个命令执行完成后,均会返回状态码,状态码几其代表的意义如下:

  • 0 - 备份 / 恢复成功,没有错误

  • 1 - 备份 / 恢复成功,没有 fatal 错误

  • 2 - 备份 / 恢复失败,带有 fatal 错误

邮件告警配置

gpbackup 和 gprestore 操作完成后,可以进行邮件告警,如果您想使用该功能,那就需要提前在 $HOME 目录或 $GPHOME/bin/ 目录下创建好发送邮件用的服务器信息配置,如果二者都做了配置,那会以 $HOME 目录下的文件为准。

编写配置文件 gp_email_contacts.yaml

文件格式如下,在创建 YAML 的时候,要保证 YAML 的格式正确:

gpbackup

创建一个可以给gprestore工具使用的Greenplum数据库备份。

概要

描述

gpbackup工具用来备份数据库的内容到元数据文件集合和数据文件集合,这些文件可以被 gprestore工具用来恢复数据库。当备份数据库时,可以通过指定表级别和模式级别选项来 备份某些特定的表。例如,可以通过组合模式级别和表级别选项来备份模式下的所有表,并排除某一张单独的表。

默认情况下,gpbackup备份指定数据库的对象和Greenplum数据库系统全局对象。可以通过 gprestore工具指定可选参数--with-globals来恢复全局对象。更多 信息请见备份或还原中包含的对象

gpbackup默认将Greenplum数据库备份对象元数据文件和DDL文件存储在Master数据目录下。 Greenplum Segment使用COPY … ON SEGMENT命令将数据备份为压缩CSV数据文件,并 存储在每个Segment的数据目录下。更多信息请见理解备份文件

可以通过指定--backup-dir选项将Master和Segment主机上的数据备份到一个绝对 路径下。可以通过指定其他选项来过滤备份集合来排除或包含指定的表。

可以通过指定 --incremental选项来启动增量备份。增量备份在追加优化表或 表分区上的变化数据小于未发生变化的数据时有效。有关增量备份的详细信息,请见使用gpbackup和gprestore创建增量备份

指定--jobs选项(1 job),Greenplum数据库Master主机上的每个 gpbackup操作都会启动一个单独的事务。COPY … ON SEGMENT命令在每个Segment主机上并行执行备份任务。备份进程会在备份的每张表 上唤起ACCESS SHARE锁。在表锁处理过程中,数据库处于静止状态。

当备份操作完成后,gpbackup会返回状态码。详情请见 返回码

gpexpand正在初始化新segments时,gpbackup工具不能 运行。集群扩展完成后,在扩展之前创建的备份不能被gprestore使用。

gpbackup可以在备份操作完成后发送Email状态通知。客户可以在配置文件中 创建工具发送和接收服务器信息。详情请见配置邮件通知

Note: 该工具在系统内部采用SSH连接执行各项操作任务。在大型Greenplum集群、云部署或每台主机部署了大量的 segment实例时,可能会遇到超过主机最大授权连接数限制的情况。此时需要考虑更新SSH配置参数MaxStartups 以提高该限制。更多关于SSH配置的选项,请参考您的Linux分发版的SSH文档。

选项

--dbname database_name

必须。指定要备份的数据库。

--backup-dir directory

可选。复制所有备份文件(元数据文件和数据文件)到指定路径。必须指定directory 为绝对路径(不能是相对路径)。如果不提供该选项,元数据文件会保存在Greenplum Master主机的 $MASTER_DATA_DIRECTORY/backups/YYYYMMDD/YYYYMMDDhhmmss/ 路径下。Segment主机的CSV数据文件保存在/backups/YYYYMMDD/YYYYMMDDhhmmss/ 路径下。当指定该选项时,文件会被复制到备份目录的子路径下。

该选项不能和--plugin-config一起使用。

--compression-level level

可选。指定用来压缩数据文件的gzip压缩级别(从1到9)。默认为1。注意,gpbackup 默认使用压缩。

--data-only

可选。仅将表数据备份到CSV文件,不备份用来重建表和其他数据库对象的元数据文件。

--debug

可选。显示操作期间的调试信息。

--exclude-schema schema_name

可选。指定要被排除备份的模式名。该参数可以指定多次以排除多个模式。该选项不能与 --include-schema一起使用,也不能与表过滤选项例如: --include-table一起使用。更多信息请见过滤备份或恢复的内容

--exclude-table schema.table

可选。指定要排除在备份中的表。被排除的表必须为格式. 。如果表或模式名使用了任何非小写字母、数字或下划线,必须用双引号包裹名字。该选项可以指定多次。 该选项不能与--exclude-schema或--include-table同时使用。

该选项不能和--leaf-partition-data组合使用。虽然您可以指定子分区名字,但是 gpbackup会忽略分区名称。

更多信息详见过滤备份或恢复的内容

--exclude-table-file file_name

可选。指定一个包含需要排除在备份之外的列表文件。每行必须指定一个单独的表,格式为 .。文件不能包含多余的行。 如果表或模式名使用了任何非小写字母、数字或下划线,必须用双引号包裹名字。该选项可以指定多次。 该选项不能与--exclude-schema或--include-table同时使用。

该选项不能和--leaf-partition-data组合使用。虽然您可以在--exclude-table-file 中指定子分区名字,但是gpbackup会忽略分区名称。

更多信息请见过滤备份或恢复的内容

--include-schema schema_name

可选。指定要包含在备份中的数据库模式名。可以多次指定该参数来包含多个备份模式。如果指定该选项, 任何不包含在--include-schema中的模式都不会放在备份集中。该选项不能与选项 --exclude-schema、--include-table或 --include-table-file一起使用。更多详情请见过滤备份或恢复的内容

--include-table schema.table

可选。指定一个要包含在备份中的表。该表的格式必须为.。 如果表或模式名使用了任何非小写字母、数字或下划线,必须用双引号包裹名字。有关模式和表名中支持的 字符信息详情,请见模式和表名中的模式和表名部分。

该选项可以指定多次。该选项不能和模式筛选选项--include-schema或--exclude-table-file等 一起使用。

客户也可以指定序列或视图的名字。

如果指定该选项,该工具不会自动备份依赖对象。客户必须指定相关依赖对象。例如,如果备份了视图, 客户必须备份试图所用的表。如果备份表用到了一个序列,客户必须也备份相关的序列。

可以在表名处通过指定--leaf-partition-data选项来指定表子分区名字, 仅备份指定的分区。当指定子分区备份时,子分区数据和分区表的元数据信息都会被备份。

更多信息请见过滤备份或恢复的内容

--include-table-file file_name

可选。指定一个备份时需要的表名列表文件。文件中的每行必须定义为单独的表名,格式为: .。该文件不能包含多余的列。 有关模式和表名中支持的 字符信息详情,请见模式和表名中的模式和表名部分。

任何没有列在文件中的表都会被排除在备份集以外。该选项不能与模式过滤选项--include-schema 或--exclude-table-file等一起使用。

该选项也可以指定序列和视图名称。

如果指定该选项,该工具不会自动备份依赖对象。客户必须指定相关依赖对象。例如,如果备份了视图, 客户必须备份试图所用的表。如果备份表用到了一个序列,客户必须也备份相关的序列。

可以在表名处通过指定--leaf-partition-data选项来指定表子分区名字, 仅备份指定的分区。当指定子分区备份时,子分区数据和分区表的元数据信息都会被备份。

更多信息请见过滤备份或恢复的内容

--incremental

指定该选项可以增加一个增量备份到增量备份集中。一个备份集包括一个全量备份和一个或多个增量备份。 该备份集合必须是连续性的,以保证在恢复时是可用的。

默认情况下,gpbackup会找出最近的备份。如果该备份是全备份,工具会创建一个 备份集合。如果备份为增量备份,工具会将备份增加到已经存在的备份集。增量备份被增加到备份集的最后 。可以通过指定--from-timestamp来覆盖默认的行为。

标签:

Avatar photo

小麦苗

学习或考证,均可联系麦老师,请加微信db_bao或QQ646634621

您可能还喜欢...

发表回复