主数据与大数据的结合才能提升数据效益

本文涉及的产品
数据管理 DMS,安全协同 3个实例 3个月
推荐场景:
学生管理系统数据库
简介:

当越来越多的企业采用大数据技术、云计算以及社交媒体来发现客户需求、拓展业务时,他们需要主数据管理(MDM)来追随这些大趋势,从数据中萃取更大的业务价值,进而优化品牌管理,拓展市场新渠道,打造企业核心竞争力。行之有效的主数据管理不仅能够提升企业的数据质量,更可以和大数据技术紧密结合。

主数据是企业核心业务实体

主数据是企业运营中担当着关键角色的核心业务实体,它们是系统间的共享数据(例如客户、产品、供应商、账户和组织部门相关数据),分散地存在于企业的各业务系统中,也是企业内部能够跨业务、跨系统重复使用的高价值数据。需要注意的是,主数据并不是企业内所有的业务数据,而是有必要在各个系统间共享的数据才是主数据。比如大部分的交易数据、账单数据等都不是主数据。涵盖资源、产品、事件、客户、财务、账户、员工、合作伙伴等,用于描述核心业务实体的数据才是主数据。因此,对主数据的识别,要把握主数据作为业务运作核心的本质。

其实,在没有建主数据系统的时候,主数据就早已存在,只是它存在的形式和存在的地点是不合理的。主数据管理可以帮助企业从分散的业务系统中整合最核心的、最需要共享的数据,对这些不同来源、不同格式的数据进行集中清洗和匹配,然后以服务的方式把统一的、完整的、准确的、具有权威性的主数据,分发给全企业范围内需要使用这些数据的系统或应用。

企业做主数据管理最主要的就是要解决主数据在各系统之间的一致性问题,让企业拥有统一的主数据访问接口,拥有集中的且内容丰富和干净的数据中心,能够为各业务部门提供一致、完整的共享信息平台,为业务流程和经营决策提供了一个可靠的支撑载体。当然,主数据管理也可以作为一个企业的数据标准,强化对各业务系统的共性数据实体和模型的管理,避免出现大的业务概念不一致,降低应用孤岛、数据孤岛出现的几率,从根本上保证系统之间能实现数据的较好共享,增强了各系统在企业层面的互动,从而提高企业运营效益,提高数据质量,更好地为企业信息集成做好铺垫。

如果从产品角度来谈主数据,更多是如何去实现产品的创新。我们以制造企业为例,他们会因一个产品从研发、生产到市场销售各个阶段命名不一致,造成整个产品信息的不一致。这时候,从管理角度、从产品快速上市角度都会带来很大的混淆,所以必须确保产品从整个生命周期保持它的信息一致性。同时,也使构建新产品的时候更有针对性,清楚哪些市场空白可以填补,哪些可以衍生出新产品,这对于整个企业的运作都有依据价值。

主数据与大数据相得益彰

主数据和大数据的核心都是数据,但它们的关注角度有所不同:大数据关注于数据的量和数据的类型,而主数据则更关注于数据的质量。主数据和大数据的范畴也不是一成不变的,比如在微博上说的一句话是大数据范畴,这种社交类信息一般不会纳入到主数据中,但也有可能随着时间的推移、技术的进步以及成本的降低,在不久后归入到主数据范畴内。

主数据侧重于数据的组织,而大数据则提供了更多的原材料。举个例子,现在不管是产品销售还是服务推广,都强调的一个前提是以客户为中心,保险公司若要推销一种保单,会关注客户和潜在客户在这个保单群里的言论,这些都是大数据,而具体到究竟是哪个客户发表的言论则属于主数据的范畴。所以说,企业要获得更好数据应用效果和价值,应以主数据为中心、为筋脉,通过主数据把各类散乱的大数据有效串联起来。同时,大数据也是主数据的一个重要补充,两者的结合可以达到很好的效果。

主数据平台就像一个八爪鱼,它以主数据为中心,跟各个内、外部系统建立联系。主数据管理不仅要整合业务系统中高价值数据,还要将外围更广泛的数据整合到主数据周围来。大数据常以非结构化形式存在,甚至不在企业内部,那么如何去结合呢?Informatica大中国区首席产品顾问但彬认为,企业需要一套产品使企业能够利用高效、低成本的计算架构实现:在大数据中快速解决个体识别问题,比如客户识别;在数据集分区不可行的情况下,高效完成大批量数据,避免重复化;以更佳的成本效益方式加强社交媒体分析,并将碎片化的个体拼接为完整的个体,以实现有实际意义的交互分析。

现在,人们不用把照片和视频之类的大数据拿到主数据平台上,通过两个系统的整合依然知道在哪里能找到这个客户相关的视频信息,这种系统集成的需求会越来越广泛。与以往传统的只是集成企业最核心系统不同,会慢慢膨胀得越来越大,内容越来越丰富,而且系统之间整合的形式也趋于多样化,这也是近年来新的发展趋势。提升企业数据的整合和管理能力,将数据集成扩展到社交媒体数据、网络日志、传感器设备数据、文档、电子邮件、其他无编码格式的多结构化或非结构化数据,能够显著减少浪费在垃圾资料的时间,有效降低大数据开发、维护成本。

主数据管理是一个持续建设的过程

虽然企业清楚主数据的价值,但往往不知从何下手,如何实施。经常有客户手中有一笔钱会突然提出要做主数据,希望上线一套主数据管理系统,但却只给一个月的项目实施时间。可以说,这是一个非常不合理的时间安排,一个月可能对客户需求都了解不透彻,更别提设计平台,以及平台与各业务系统的整合问题。

企业采用主数据方案最重要的不是技术准备,而是业务准备,企业在上马主数据项目时,首先要想清楚项目所要达到的目的、目标和愿景,能给企业的业务带来什么好处。在拥有业务驱动力后,企业要做的第二件事就是明确自己的痛点,因为主数据问题很难一次性解决,要有优先级,分期分批地执行。最后,则考虑必须做哪些具体的任务,如何实现主数据管理。

主数据问题很难一次性解决,因而造成项目复杂度高、工期长、耗费大的问题,建设前期对于企业来说感知不明显,容易遭到质疑。因此建议企业采取渐进的方式来建设,先基础、后深化,先局部、后覆盖,这样让企业逐步感受到主数据带来的益处。第一期项目可以从小规模入手(比如选择一个业务领域),一个业务领域成功会带动更多业务领域参与,前期的成功会成为后续实施的推升动力。

为保证企业能够有条不紊地实施项目,建议企业根据规划方法论,分阶段、分步骤开展工作。但彬告诉记者,目前Informatica MDM产品解决方案把主数据生命周期划分为9个阶段:访、发现、建模、清洗、识别、解决、关联、治理以及交付。而且这是一个循环往复的过程,当有新的主数据出现或经过几大阶段治理后的主数据仍未达到质量要求时,主数据管理都会进入下一轮循环。数据治理的过程贯穿于整个生命周期,体现了主数据对于数据质量的管控作用。

越来越多中国企业的CIO们也已经看到了主数据管理平台为企业带来的管理效率的提升、运营风险的降低以及节省IT成本等效益,并将其逐渐提上企业信息化建设的日程。

原文发布时间为:2015年01月27日
本文来自云栖社区合作伙伴至顶网,了解相关信息可以关注至顶网。
相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
目录
相关文章
|
3天前
|
分布式计算 大数据 BI
MaxCompute产品使用合集之MaxCompute项目的数据是否可以被接入到阿里云的Quick BI中
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
3天前
|
SQL 分布式计算 大数据
MaxCompute产品使用合集之怎样可以将大数据计算MaxCompute表的数据可以导出为本地文件
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
3天前
|
分布式计算 DataWorks 关系型数据库
MaxCompute产品使用合集之可以使用什么方法将MySQL的数据实时同步到MaxCompute
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
3天前
|
分布式计算 DataWorks 数据库
DataWorks操作报错合集之DataWorks使用数据集成整库全增量同步oceanbase数据到odps的时候,遇到报错,该怎么处理
DataWorks是阿里云提供的一站式大数据开发与治理平台,支持数据集成、数据开发、数据服务、数据质量管理、数据安全管理等全流程数据处理。在使用DataWorks过程中,可能会遇到各种操作报错。以下是一些常见的报错情况及其可能的原因和解决方法。
25 0
|
3天前
|
分布式计算 DataWorks 关系型数据库
DataWorks产品使用合集之在 DataWorks 中,使用Oracle作为数据源进行数据映射和查询,如何更改数据源为MaxCompute或其他类型
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
31 1
|
3天前
|
分布式计算 DataWorks 调度
DataWorks产品使用合集之在DataWorks中,查看ODPS表的OSS对象如何解决
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
29 1
|
3天前
|
分布式计算 DataWorks MaxCompute
DataWorks产品使用合集之在DataWorks中,将数据集成功能将AnalyticDB for MySQL中的数据实时同步到MaxCompute中如何解决
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
26 0
|
3天前
|
分布式计算 DataWorks 关系型数据库
DataWorks产品使用合集之在DataWorks中,MaxCompute创建外部表,MaxCompute和DataWorks的数据一直保持一致如何解决
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
21 0
DataWorks产品使用合集之在DataWorks中,MaxCompute创建外部表,MaxCompute和DataWorks的数据一直保持一致如何解决
|
3天前
|
分布式计算 DataWorks 安全
DataWorks产品使用合集之在DataWorks中,从Elasticsearch同步数据到ODPS时同步_id字段的如何解决
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
25 0
|
3天前
|
分布式计算 DataWorks Java
DataWorks操作报错合集之dataworks 同步es数据到maxcompute 遇到报错:获取表列信息失败如何解决
DataWorks是阿里云提供的一站式大数据开发与治理平台,支持数据集成、数据开发、数据服务、数据质量管理、数据安全管理等全流程数据处理。在使用DataWorks过程中,可能会遇到各种操作报错。以下是一些常见的报错情况及其可能的原因和解决方法。
25 0

热门文章

最新文章