数据迁移是指一次性的从数据源中全量抽取数据加载到目的数据库中,一般主要用于系统升级替换时将数据从老系统迁移到新系统中。
数据同步是指周期性的从数据源中抽取变化数据加载到目的数据库中,保证源和目标数据的一致性,典型的应用场景如系统升级时为使新老系统安全过渡,需要从新系统中同步数据到老系统中以降低新系统故障时数据恢复的难度。
DMETL 系统内内置了各种增量抽取模块(包含了触发器增量、影子表增量、物化视图日志增量、数据对比增量和日志解析增量)可以能够捕获数据表上的变化数据,并将其转换为目标系统的数据格式。DMETL 的断点续传等功能保证了迁移与同步的高容错性。DMETL 每个节点的内部都可以设置分区并行化,通过设置并行度和表中关键字段的分区操作,提高数据迁移与同步的效率。并且 DMETL 支持一对多以及双向同步且源和目标可以是如文件、数据库、WebService 等多种数据源,能够满足各种系统数据迁移与同步的需求。