合 阿里数据同步工具Otter和Canal简介
Tags: MySQL高可用双主主从复制数据同步Otter跨机房阿里Canal
otter
- otter GitHub介绍:https://github.com/alibaba/otter
otter是阿里巴巴分布式数据库同步系统(解决中美异地机房),目前最新版本是2019年9月2日发布的v4.2.18。
otter是阿里开源的一个分布式数据库同步系统,尤其是在跨机房数据库同步方面,有很强大的功能。它是基于数据库增量日志解析,实时将数据同步到本机房或跨机房的mysql/oracle数据库。
otter官方文档:https://github.com/alibaba/otter/wiki/Introduction
otter项目背景
阿里巴巴B2B公司,因为业务的特性,卖家主要集中在国内,买家主要集中在国外,所以衍生出了杭州和美国异地机房的需求,同时为了提升用户体验,整个机房的架构为双A,两边均可写,由此诞生了otter这样一个产品。
otter第一版本可追溯到04~05年,此次外部开源的版本为第4版,开发时间从2011年7月份一直持续到现在,目前阿里巴巴B2B内部的本地/异地机房的同步需求基本全上了otter4。
目前同步规模:
- 同步数据量6亿
- 文件同步1.5TB(2000w张图片)
- 涉及200+个数据库实例之间的同步
- 80+台机器的集群规模
项目介绍
名称:otter ['ɒtə(r)]
译意: 水獭,数据搬运工
语言: 纯java开发
定位: 基于数据库增量日志解析,准实时同步到本机房或异地机房的mysql/oracle数据库. 一个分布式数据库同步系统.
工作原理
原理描述:
基于Canal开源产品,获取数据库增量日志数据。 什么是Canal, 请点击
典型管理系统架构,manager(web管理)+node(工作节点)
本人提供Oracle(OCP、OCM)、MySQL(OCP)、PostgreSQL(PGCA、PGCE、PGCM)等数据库的培训和考证业务,私聊QQ646634621或微信db_bao,谢谢!