《数据虚拟化:商务智能系统的数据架构与管理》一 1.7 数据虚拟化的技术优势

简介: 本节书摘来自华章出版社《数据虚拟化:商务智能系统的数据架构与管理》一 书中的第1章,第1.7节,作者:[荷]里克 F. 范德兰斯(Rick F. van der Lans),更多章节内容可以访问云栖社区“华章计算机”公众号查看。

1.7 数据虚拟化的技术优势

在大多数情况下,直接获取一个数据存储区对于数据使用者来说是很容易的。例如,如果访问SQL数据库中的一个表,数据使用者提供用户ID和密码,数据库的名称,以及一些其他的技术详细信息,它就可以立即通过SQL语句访问数据。这同样适用于数据使用者需要访问XML文档或电子表格的情形。
如果访问数据存储如此容易,那么为什么还需要数据虚拟化呢?用数据虚拟化层提供大量的技术优势,这些优势分成了三个组。如果使用者仅仅访问一个数据存储,那么可以应用第一组的优势:
数据库语言和API转换:也许数据存储库提供的数据库语言和API对数据使用者来说是不理想的,或许不是他们支持的语言。也许数据库服务器通过JDBC API来支持SQL,但数据使用者更喜欢使用MDX、XQuery、CQL语言或一组Java类。数据虚拟化层可以将数据存储支持的语言和API转换为对消费者便利的语言和API。
数据存储独立性:很多SQL数据库服务器支持SQL标准,意味着它们都实现了类似的SQL语言。但是,差异仍然存在。如果需要,数据虚拟化可以隐藏这些差异,可以用另一个服务器来代替当前的数据库服务器。如果正在使用的数据库服务器太贵、太慢,或者不够安全,那么这就是必要的。也可能是非基于SQL(non-SQL-based)的数据存储需要替换为基于SQL(SQL-based)的数据存储。再者,如果数据虚拟化得当,这将不是困难。数据虚拟化使数据使用者独立于特定的数据存储技术,使数据使用者更加方便。在恰当的时间使用恰当的数据存储技术将会让工作变得更加容易。
最小数据存储干扰:数据使用者可能对它访问的数据存储产生干扰(或工作承载竞争)。它的查询可能是资源密集型,以至于其他数据使用者的体验性能退化。大多数数据虚拟化产品提供缓存机制。如果开启此机制,数据虚拟化层将保存数据存储中数据的一个副本并管理它。这样,数据使用者将访问缓存中的数据而不是数据存储中的数据,因此最小化了对源数据存储的干扰。
总结来说,数据虚拟化简化了应用程序开发,因为它减少了以正确方法和格式访问必要数据所需的代码量(如图1-4所示)。

8ae3c60d543154002a39aa64f8fcb146eba09b20

第二组优势与元数据规范有关,例如表格结构、转换和清洗操作、聚合,等等。当使用数据虚拟化时,元数据规范只需要实现一次,且没有必要把它们复制给多个数据使用者。换句话说,数据使用者共享和重复使用这些规范。
简化表格结构:数据存储中实现的表格结构可能是复杂的,这使得数据使用者访问数据变得困难。复杂的表格结构导致检索数据的查询变得复杂,也使应用程序的开发变得复杂。使用数据虚拟化可以定义一个从复杂表结构到更简单适用的表结构的转换。这是通过元数据规范完成的,元数据规范仅定义一次,且可以被多个数据使用者使用。这个更简单的结构简化了应用程序的开发和维护。
集中式数据转换:数据存储中的特殊数据值可能有一些不适合使用者的格式。假设所有使用者都喜欢以纯数字处理电话号码,而不是区号和用户号以破折号分隔开的形式。数据虚拟化层可以实现这一转换,并且所有的数据使用者都可以使用。这些转换规范被视作元数据规范。
集中式数据清洗:数据存储中的一些数据值可能是不正确的。假设一个表格中的Gender一列包含三种不同的值来指代Female,这种情况下,所有的访问这些数据值的使用者都不得不加上转换这些错误值为正确值的代码。如果这个转换在数据虚拟化层进行,并且只向数据使用者显示正确的值,这将会更好。这个解决方案比将数据清洗规则复制给所有数据使用者的方案好。
如果很多数据使用者使用相同的数据虚拟化层,它们共享相同的元数据规则(如图1-5所示)。这简化了应用程序开发,并且带来更一致的应用行为和更一致的结果。

screenshot

第三组优势涉及集成来自多个数据存储的数据。
统一的数据访问:不同的数据存储可能使用不同的存储格式。例如,有些数据可能存储在非处理SQL的数据库中;有些在Excel电子表格中;有些在索引顺序文件中;有些在NoSQL数据库中,如Hadoop和MongoDB;有些在比SQL支持更多其他数据库语言的数据库中;有些在XML文件中;有些甚至隐藏在基于HTML的网页中。数据虚拟化层可以提供一个统一的API和数据库语言去访问所有这些不同的存储格式,因此简化了数据使用者的数据访问。它们仅需要支持一种语言和一种API。
集中式数据集成:如果多个数据使用者访问多个数据存储,每一个数据使用者都得包含负责集成这些数据存储的代码。这样的结果就是很多数据集成方案在数据使用者上重复叠加(如图1-6所示)。数据虚拟化层集中了这些集成代码,并且所有的数据使用者共享集成代码。
一致的报告结果:如果每个数据使用者都用它自己的集成方案,就很难保证数据以相同的方式和规则集成。如果这个难以保证,就会导致数据使用者收到不同的和不一致的结果。如果所有的集成方案由数据虚拟化层实现,那么就增加了结果一致的可能性。

screenshot

高效分布式数据访问:当集成来自多个数据存储的数据时,一个总是被提起的性能问题是这个集成是在哪里及怎样进行的:是所有的数据首先都被运到数据使用者处然后再进行集成,还是数据从一个数据存储转移到另一个数据存储?其他数据存储进行集成,还是使用一些其他的处理策略?开发者不需要考虑诸如此类的问题。因此这个任务由数据虚拟化层来完成。
所有这些优势阻止了数据集成的元数据规范在多个数据使用者上重复叠加(见图1-6)。如图1-7所示,应用数据虚拟化集中了这些规范。

screenshot

相关文章
|
1月前
|
设计模式 前端开发 测试技术
Flutter 项目架构技术指南
探讨Flutter项目代码组织架构的关键方面和建议。了解设计原则SOLID、Clean Architecture,以及架构模式MVC、MVP、MVVM,如何有机结合使用,打造优秀的应用架构。
Flutter 项目架构技术指南
|
1月前
|
算法 数据挖掘 调度
隐语实训营-第3讲:详解隐私计算框架的架构和技术要点
主要介绍隐语的隐私计算架构,并对每个模块进行拆解、分析,以期望不同使用者找到适合自己的模块,快速入手。
48 4
|
1月前
|
Kubernetes 开发者 Docker
基于容器技术的微服务架构
基于容器技术的微服务架构
33 0
|
1月前
|
运维 网络协议 安全
长连接网关技术专题(十):百度基于Go的千万级统一长连接服务架构实践
本文将介绍百度基于golang实现的统一长连接服务,从统一长连接功能实现和性能优化等角度,描述了其在设计、开发和维护过程中面临的问题和挑战,并重点介绍了解决相关问题和挑战的方案和实践经验。
84 1
|
1月前
|
监控 负载均衡 安全
构建高效微服务架构的五大核心技术实践
【2月更文挑战第14天】 在当今软件开发领域,微服务架构已成为构建复杂系统的首选模式。它通过将大型单体应用拆分成一系列小型、自治的服务来提高可维护性和扩展性。本文深入探讨了构建高效微服务架构的五大核心技术实践,包括服务拆分策略、API网关设计、服务发现与注册、熔断机制以及分布式追踪与监控。文章不仅分享了实践中的经验教训,还提供了实施这些技术时的具体建议和最佳实践。
28 1
|
2月前
|
传感器 数据可视化 搜索推荐
瓴羊Quick BI助力深圳光明环境水务公司举办水务数据应用大会暨第二届“光环杯”BI应用大赛
瓴羊Quick BI助力深圳光明环境水务公司举办水务数据应用大会暨第二届“光环杯”BI应用大赛
|
1月前
|
分布式计算 算法 调度
课3-详解隐私计算框架的架构和技术要点
隐语架构涵盖产品、算法、计算、资源和硬件五层,旨在实现互联互通和跨域管控。产品层包括SecretPad等,简化用户和集成商体验。算法层涉及PSI/PIR、SCQL和联邦学习,提供隐私保护的数据分析和学习。计算层如RayFed、SPU、HEU等,支持分布式计算和密态处理。资源层的KUSCIA用于跨机构任务编排,硬件层涉及FPGA等加速器。互联互通支持黑盒和白盒模式,确保不同平台协作。跨域管控则强调数据流转控制,保护数据权益。
|
1月前
|
存储 前端开发 BI
基于云计算技术的B/S架构智能云HIS系统源码 集挂号、处方、收费、取药、病历于一体
云HIS是针对中小医院机构、乡镇卫生室推出的一套基于云端的云HIS服务平台,借助云HIS,将医院业务流程化,大大提高医院的服务效率和服务质量,为客户提供医院一体化的信息解决方案。云HIS主要功能:包含门诊收费管理,住院收费管理,门诊医生工作站,住院医生工作站,住院护士工作站,辅助检查科室管理,药房药品管理,药库药品管理,报表查询。满足诊所、中小医院业务中看诊、收费、发药、药库管理、经营分析等多环节的工作需要。
45 4
|
28天前
|
设计模式 安全 Java
【分布式技术专题】「Tomcat技术专题」 探索Tomcat技术架构设计模式的奥秘(Server和Service组件原理分析)
【分布式技术专题】「Tomcat技术专题」 探索Tomcat技术架构设计模式的奥秘(Server和Service组件原理分析)
32 0
|
1月前
|
机器学习/深度学习 算法 安全
隐私计算训练营第三讲-详解隐私计算的架构和技术要点
SecretFlow 是一个隐私保护的统一框架,用于数据分析和机器学习,支持MPC、HE、TEE等隐私计算技术。它提供设备抽象、计算图表示和基于图的ML/DL能力,适应数据水平、垂直和混合分割场景。产品层包括SecretPad(快速体验核心能力)和SecretNote(开发工具)。算法层涉及PSI、PIR、数据分析和联邦学习(水平、垂直、混合)。此外,SecretFlow还有YACL密码库和Kusica任务调度框架,Kusica提供轻量化部署、跨域通信和统一API接口。
50 0

热门文章

最新文章