开云Kaiyun官方网站数据库的数据校验方法、装置及设备与流程
发布时间:2024-07-09 05:12:09

  kaiyun官方下载kaiyun官方下载1、目前,随着互联网技术的发展,传统集中式数据库已逐步遇到瓶颈,尤其是金融、电信行业的数据库正逐步迁移到具有高并发、低延时特征的分布式数据库,此时数据迁移后如何校验数据的准确性尤为重要。

  2、现有的数据库校验方法进行数据库的数据校验时,通常是利用校验软件从源端和目的端数据库中分别获取校验表(即数据库表)的记录数,以对记录数进行校验,校验结果为记录数一致时,获取源端主键值和主键所在行32位循环冗余校验(cyclicredundancycheck,crc)值,以源端主键值为带入条件,依次从目的端数据库获取对应的主键行的crc32值并于源端主键行crc32值进行校验,若校验比对正常,则抛出两表数据一致,否则抛出校验结果不一致。然而,现有的数据库校验方法在进行数据库的数据校验时需要针对每一行数据一行一行进行校验,即需要针对每一个数据库表中的每一行数据进行校验,数据校验速度慢,对于金融、电信等数据量较大的行业,无法满足较短校验时间的需求。

  1、本申请提供了一种数据库的数据校验方法、装置及设备,以通过对源集合和目标集合进行哈希校验,进而快速确定数据校验结果,提升整体的校验速度,能够在较短时间内完成数据迁移前后的准确性校验,解决了现有的数据库数据校验方法只能针对每一行数据一行一行进行校验所导致的问题。

  5、依据所述哈希校验信息,按照预设的校验规则进行校验处理,得到所述待校验集合信息对应的数据校验结果。

  10、可选的,所述数据库包含源端数据库和目的端数据库,所述依据所述数据库的校验表信息进行分割处理,得到行集合信息,包括:

  13、若所述记录数校验结果为记录数校验一致结果,则按照预设的抽取方式分别对所述源校验表和所述目标校验表进行字段抽取,得到源字段行信息和目标字段行信息;

  15、可选的,所述分别基于所述源字段行信息和所述目标字段行信息进行分割,得到所述行集合信息,包括:

  16、基于所述源字段行信息,按照预设的深度配置信息对所述源校验表进行分割,得到至少一个源行集合信息;

  17、基于所述目标字段行信息,按照预设的深度配置信息对所述目标校验表进行分割,得到至少一个目标行集合信息;

  19、可选的,所述依据所述源集合信息和所述目标集合信息进行哈希校验,得到哈希校验信息,包括:

  20、从所述源集合信息中提取源标识信息和源哈希信息,并从所述目标集合信息中提取目标标识信息和目标哈希信息;

  21、针对所述源标识信息和所述目标标识信息,判断所述源哈希信息与所述目标哈希信息是否相匹配;

  22、若所述源哈希信息与所述目标哈希信息相匹配,则确定哈希校验成功,将哈希校验成功信息确定为所述哈希校验信息;

  23开云Kaiyun官方网站、若所述源哈希信息与所述目标哈希信息不匹配,则确定哈希校验失败,将哈希校验失败信息确定为所述哈希校验信息。

  24、可选的,所述依据所述哈希校验信息,按照预设的校验规则进行校验处理,得到所述待校验集合信息对应的数据校验结果,包括:

  25、若所述哈希校验信息为哈希校验失败信息,则按照预设的校验规则对所述源集合信息和所述目标集合信息进行迭代校验,得到异常行集合,并记录迭代次数;

  27、若所述迭代次数达到预设的迭代次数阈值,则基于所述异常行集合进行循环冗余校验,得到所述数据校验结果。

  28、可选的,所述按照预设的校验规则对所述源集合信息和所述目标集合信息进行迭代校验,得到异常行集合,包括:

  29、按照预设的校验规则分别对所述源集合信息和所述目标集合信息进行重新划分,得到所述源集合信息对应的源划分集合信息和所述目标集合信息对应的目标划分集合信息;

  31、若所述源划分集合信息和所述目标划分集合信息不匹配,则基于所述源划分集合信息和/或所述目标划分集合信息,确定异常行集合。

  33、若所述哈希校验信息为哈希校验成功信息,则基于所述哈希校验成功信息,将数据校验成功结果确定为所述数据校验结果。

  35、待校验集合信息获取模块,用于获取数据库的待校验集合信息,所述待校验集合信息包含源集合信息和目标集合信息;

  36、哈希校验模块,用于依据所述源集合信息和所述目标集合信息进行哈希校验,得到哈希校验信息;

  37、校验处理模块,用于依据所述哈希校验信息,按照预设的校验规则进行校验处理,得到所述待校验集合信息对应的数据校验结果。

  38、第三方面,本申请提供了一种电子设备,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;

  40、处理器,用于执行存储器上所存放的程序时,实现如第一方面任一项实施例所述的数据库的数据校验方法的步骤。

  41、综上,本申请实施例通过获取数据库的待校验集合信息,待校验集合信息包含源集合信息和目标集合信息,依据源集合信息和目标集合信息进行哈希校验,得到哈希校验信息,依据哈希校验信息,按照预设的校验规则进行校验处理,得到待校验集合信息对应的数据校验结果,通过对源集合和目标集合进行哈希校验,进而快速确定数据校验结果,提升整体的校验速度,能够在较短时间内完成数据迁移后的准确性校验,解决了现有的数据库数据校验方法只能针对每一行数据一行一行进行校验所导致的问题。

  3.根据权利要求2所述的方法,其特征在于,所述数据库包含源端数据库和目的端数据库,所述依据所述数据库的校验表信息进行分割处理,得到行集合信息,包括:

  4.根据权利要求3所述的方法,其特征在于,所述分别基于所述源字段行信息和所述目标字段行信息进行分割,得到所述行集合信息,包括:

  5.根据权利要求1所述的方法,其特征在于,所述依据所述源集合信息和所述目标集合信息进行哈希校验,得到哈希校验信息,包括:

  6.根据权利要求5所述的方法,其特征在于,所述依据所述哈希校验信息,按照预设的校验规则进行校验处理,得到所述待校验集合信息对应的数据校验结果,包括:

  7.根据权利要求6所述的方法,其特征在于,所述按照预设的校验规则对所述源集合信息和所述目标集合信息进行迭代校验,得到异常行集合,包括:

  10.一种电子设备,其特征在于,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;

  本申请涉及一种数据库的数据校验方法、装置及设备,涉及数据库技术领域,该方法包括:获取数据库的待校验集合信息,待校验集合信息包含源集合信息和目标集合信息,依据源集合信息和目标集合信息进行哈希校验,得到哈希校验信息,依据哈希校验信息,按照预设的校验规则进行校验处理,得到待校验集合信息对应的数据校验结果,通过对源集合和目标集合进行哈希校验,进而快速确定数据校验结果,提升整体的校验速度,能够在较短时间内完成数据迁移前后的准确性校验。

  1.计算机视觉 2.无线.计算机仿线.网络安全;物联网安全 、大数据安全 2.安全态势感知、舆情分析和控制 3.区块链及应用