【MySQL】数据平滑迁移方案思考

2022-05-06 14:37:08 浏览数 (1)

文章目录
  • 数据迁移方案
    • 两个方案的bug
    • 数据校验工具

数据迁移方案

这个想一下redis是怎么把数据做持久化的,思路就有了:快照 追加日志。

注意点: 1、在完成数据迁移之前,上游业务依然是访问旧数据库的。 2、研发一个数据迁移工具,进行离线数据迁移。 3、不断刷新“追加日志” 4、写一个数据校验脚本。将新旧库数据进行比对,直到追平。 5、在架构的时候就应该考虑到有一天要迁移,所以这时候就可以平滑迁移了。比方说:使用虚ip的方式。

还有一种方案,是用 双写 的方式。好像在哪里见过,不知道是不是redis恢复数据的时候。

数据完成迁移之前,上游应用业务依旧通过旧的服务访问数据。

注意点: 1、对旧库的修改,在新库上进行相同的修改操作,称之为双写。 2、如果修改时新库没有对应数据,则:

代码语言:javascript复制
a、对于 insert,早晚会insert的。
b、对于 delete,那之后也不会被写入新库。
c、对于 update,后面写入的时候就是新值了。

这个方案就是说要一条一条的写进去,没有前面直接一个快照来的爽,不过快照有拖尾性。

3、切库之前要进行数据校验。

两个方案的bug

方案一:建议在夜深人静的时候做,可以尽快追平。 方案二:如果碰巧刷写某条数据的时候在update,会造成数据不一致。

数据校验工具

其实我个人认为那个数据校验工具才叫麻烦。因为不论哪个方案,新旧库都存在修改数据的可能性,所以建议放在夜深人静的时候做。

其次,要求数据是有序的呀,但是数据库的数据量又大,可以采用MapReduce的方式加快整合速度。这可不是个小工具啊!!!

0 人点赞