文件名称:
MySQL 开源数据传输中间件 dtle
开发工具:
文件大小: 1mb
下载次数: 0
上传时间: 2019-01-12
详细说明:爱可生此次开源DTLE,是真诚为社区提供MySQL生态圈里一个可持续发展的工具,并希望与社区再次达成双赢,解决数据传输中间件的核心问题。
DTLE的设计特点
分布式架构:DTLE在数据传输这个基本场景上,使用了成熟的分布式任务调度架构,可以便捷地在集群中配置大量的数据传输任务,提供断点续传/故障转移等分布式系统的重要特性
灵活的网络适配能力:DTLE可适配复杂的网络架构,提供跨数据中心的数据通道功能和公有云间的数据通道功能
多场景适配:DTLE通过组合多个原子任务,可适配复杂的数据传输场景
关于开源 MySQL 数据传输中间件DTLE更多技术细节我们后期会持续输出,版本更新MySQL Replication
功能不足
按库、表筛选
·数据落地,开销较大
灵活性较弱
应用场景多为高可用
核心场景
场景
需求
异地多活实时同步,双向复制,链路压缩、加密、限速,跨网络边际,可靠性
数据汇聚&
按库、表、行、简单表达式等方式筛选
分发
数据订阅
CDC日志解析, to Kafka
在线数据
迁移
异构DB间,同构DB间,全量+增量同步、数据一致性校验
云间同步
支持主流公有云厂商 RDS for MySQL
设计原则
·易用性
易于部署、易于使用
可靠性
无单点风险、故障自愈、数据一致性
心DTLE
DTLE(Data- Transformation-e)是上海爱可生贡献开源社区的CDC工具.具备以下特点:
·多种数据传输模式:支持链路压缩,攴持同构和舁构传输,支持跨网络边际的传输
多种数据处理模式:支持库/表/行级别数据过潓
多种数据通道模式:支持多对多的数据传输、支持回环传输
·多种源/标端:支持MySαL-MySαL的数据传输,支持 MySQL- Kafka的数据传输
集群模式部署
提供可靠的元数据存储
●可进行自动任务分配
●支持自动故障转移
https:/github.com/actiontech/dtle
力口
uped and compressed
nais messaging
ctle agent 1
dale agent 2
src task
dest task
data dumper
MTS manager
d b2
dummy slave
SQL applier
where filter
user client
dte manager
controlling
Http Request
failure detection
vew agents
add/view/remove job
集群机制
Manager
Manager节点
Follower
Follower
3节点Rafi主&同步元数据
Raft
分发任
Leader
Agent节点
任务推送
心跳上报
上报心跳
Worker
Worker
Worker
处理任务
拓扑结构
1-1复制
1:1同步
Source MySQL
Target MySQL
n-1汇聚
Source MySOL 1
Target MySQL
1汇聚
1-n拆分
部分数据
1:n拆分
Source MySQL
Target Mys
其他数据
Target MySQL 2
拓扑结构
跨网络边际的1-1复制
同步(带压缩限速)O}-0O
跨网络边际的多个复制通道
n:n同步(带压缩限速)
Source MySOL 1
Target MySoL 1 I
arget My SQL 2
I Source MySQL 2
双向同步
跨数据中心的双向复割
Source My SOL
dte
Target MySQL
(系统自动生成,下载前可以参看下载内容)
下载文件列表
相关说明
- 本站资源为会员上传分享交流与学习,如有侵犯您的权益,请联系我们删除.
- 本站是交换下载平台,提供交流渠道,下载内容来自于网络,除下载问题外,其它问题请自行百度。
- 本站已设置防盗链,请勿用迅雷、QQ旋风等多线程下载软件下载资源,下载后用WinRAR最新版进行解压.
- 如果您发现内容无法下载,请稍后再次尝试;或者到消费记录里找到下载记录反馈给我们.
- 下载后发现下载的内容跟说明不相乎,请到消费记录里找到下载记录反馈给我们,经确认后退回积分.
- 如下载前有疑问,可以通过点击"提供者"的名字,查看对方的联系方式,联系对方咨询.