基于GO语言的 高性能MYSQL 增量同步工具 MysqlToAll

gitstliu · · 1938 次点击 · · 开始浏览    
这是一个创建于 的文章,其中的信息可能已经有所发展或是发生改变。

开源地址 https://github.com/gitstliu/MysqlToAll # MysqlToAll 将mysql数据以指定的格式同步到redis、redis-cluster、kafka、es、本地文件系统的工具 高性能 # 配置方法 ## canalconfigs ``` xxx.toml canal配置文件 xxx.pos binlog解析位置文件 ``` ## config ``` config.toml 输出源配置文件 ``` <img src="https://github.com/gitstliu/MysqlToAll/blob/master/diss_config_ch.png" alt="具体用法" align=center /> # 性能测试数据 测试机4C 8G #### 场景:混合渠道-同时向redis、redis-cluster、kafka、es、本地文件串行写入。双数据库同步(两个mysql主同时同步binlog) ``` 条数:1百万条binlog 批次:1000 资源使用情况 CPU: 250% 内存:3% 开始时间:55:48 结束时间:58:46 总耗时:178秒 ``` #### 场景:单一渠道-redis。单数据库同步 ``` 条数:1百万条binlog 批次:1000 资源使用情况 CPU: 230% 内存:0.5% 开始时间:12:04 结束时间:12:31 总耗时:27秒 ``` #### 场景:单一渠道-redis-cluster。单数据库同步 ``` 条数:1百万条binlog 批次:1000 资源使用情况 CPU: 230% 内存:0.5% 开始时间:27:37 结束时间:27:58 总耗时:21秒 ``` #### 场景:单一渠道-elasticsearch。单数据库同步 ``` 条数:1百万条binlog 批次:1000 资源使用情况 CPU: 90% 内存:0.5% 开始时间:33:42 结束时间:34:44 总耗时:62秒 ``` #### 场景:单一渠道-kafka。单数据库同步 ``` 条数:1百万条binlog 批次:1000 资源使用情况 CPU: 230% 内存:1% 开始时间:38:29 结束时间:38:53 总耗时:24秒 ``` #### 场景:单一渠道-本地文件。单数据库同步 ``` 条数:1百万条binlog 批次:1000 资源使用情况 CPU: 280% 内存:0.5% 开始时间:41:48 结束时间:42:26 总耗时:38秒 ```

有疑问加站长微信联系(非本文作者))

入群交流(和以上内容无关):加入Go大咖交流群,或添加微信:liuxiaoyan-s 备注:入群;或加QQ群:701969077

1938 次点击  
加入收藏 微博
暂无回复
添加一条新回复 (您需要 登录 后才能回复 没有账号 ?)
  • 请尽量让自己的回复能够对别人有帮助
  • 支持 Markdown 格式, **粗体**、~~删除线~~、`单行代码`
  • 支持 @ 本站用户;支持表情(输入 : 提示),见 Emoji cheat sheet
  • 图片支持拖拽、截图粘贴等方式上传