mysql数据库的无缝迁移(百度技术沙龙开放空间环境讨论主题)
[文章作者:孙立 链接:http://www.cnblogs.com/sunli/ 更新时间:2010-09-12]
昨天(9月11号)参加了infoq和百度共同举办的技术沙龙《MySQL性能优化及空间数据库开发实践》,百度的刘斌分享的内容相信对目前正欲使用ssd来提升mysql性能的朋友非常有帮助,同时,个人觉得ssd在其他数据存储上也有很大的空间。颜勋讲的空间数据库方面的,我平时没有怎么接触过,不过看起来应该也是非常不错,应该对做地理信息的朋友很有帮助。最后的open space环境有两个小组讨论了一些问题,但是最后没有什么答案,正好我有些类似的经验,所以也就分享了下。
mysql数据库的无缝迁移问题?
问:在平时的开始过程中,由于经常“需求理解,架构设计,需求变更”等多种原因,导致系统运行一段时间后,数据库的表结构需要变更,如何实现尽量短的停机,实现无缝的迁移?
我开玩笑说,最好的解决办法就是不迁移。不迁移肯定最好,这要依赖于非常好的设计,在前期架构设计的时候能够考虑到需求可能的变更,数据库设计也可以根据业务来进行一定程度的抽象。这可能有点太理想,不过迁移数据,始终是个不可避免的问题。下面说下一般的迁移方案。
定点停机迁移
就像那位朋友说的,在一个月黑风高的夜晚,停掉应用,用事先写好的迁移程序,把mysql 数据库数据迁移到新结构的mysql数据库中。完成后,切换应用。最大的缺点就是随着数据量的增加停机时间会变得非常长。
mysql binlog方案
mysql的迁移可以考虑mysql的主从复制 replication的特性,解析binlog日志出来,然后根据新的业务特点设计的数据库结构,把数据写入到新的数据库,运行迁移过程不需要停机。在数据迁移基本上完成的时候,停掉前段应用,等待迁移全部完成,切换应用到新库。停机时间非常短,只需要几乎1-2分钟或者更少。
触发器方案
备份老的mysql数据表结构到新的mysql数据库,在新库创建新的表结构,更改老的数据库表,创建触发器,让数据的写入的时候同时写入到的心的mysql表。dump老的mysql的数据,导入到新的mysql,这是新的mysql表结构的表应该已经有相应的数据了。然后开启主从复制,让其达到跟主库数据一致。切换应用,迁移到的方案。停机时间非常短,只需要几乎1-2分钟或者更少。
mysql udf方案
mysql的udf允许你开发自己的函数集成到mysql中,这样你可以很方便的在数据写入的时候同时写到的其他地方。缺点是开发成本大,需要对mysql udf有了解。也可以用现成的memcached_functions_mysql和lib_mysqludf_json来实现,你就不需要编写udf函数了,只需要实现一个memcached的服务端来接受数据,然后解析json到新的数据库就OK了。memcached协议非常简单,自己实现起来也很容易。这种方案的迁移时间也会非常短。
中间件方案
这种方案必须要你的应用连接数据使用了类似中间层的方案,你只需要在中间层增加同时往新库写数据就OK了。这种方案的依赖比较大,相信小一点的公司可能都没有条件。
总结:要实现无缝迁移,成本和难度肯定会增加,这需要结合你的业务需要来具体实施。迁移方案需要进行充分的测试,以及考虑出错的回滚方案。
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 周边上新:园子的第一款马克杯温暖上架
· Open-Sora 2.0 重磅开源!
· 分享 3 个 .NET 开源的文件压缩处理库,助力快速实现文件压缩解压功能!
· Ollama——大语言模型本地部署的极速利器
· [AI/GPT/综述] AI Agent的设计模式综述