基于DataWorks的大数据一站式开发及数据治理
基于DataWorks的大数据一站式开发及<em>数据</em>治理
概述 基于Dataworks做大数据一站式开发,包含数据实时采集到kafka通过实时计算对数据进行ETL写入HDFS,使用Hive进行数据分析。通过Dataworks进行数据治理,数据地图查看数据信息和血缘关系,数据质量监控异常和报警。 适用场景  日志采集、处理及分析  日志使用Flink实时写入HDFS  日志数据实时ETL  日志HIVE分析  基于dataworks一站式开发  数据治理 方案优势  大数据一站式开发,完善的数据治理能力。  性能优越:高吞吐,高扩展性。  安全稳定:Exactly-Once,故障自动恢复,资源隔离。  简单易用:SQL语言,在线开发,全面支持UDX。  功能强大:支持SQL进行实时及离线数据清洗、数据分析、数据同步、异构数据源计算等Data Lake相关功能 ,以及各种流式及静态数据源关联查询。
详情请查看 www.aliyun.com/product/emapreduce DataWorks: 基于 MaxCompute/EMR/MC-Hologres等大数据计算引擎,为客户提 供专业高效、安全可靠的一站式大数据开发与治理平台,自带阿里巴巴数据中台 与数据治理最佳实践,赋能各行业数字化转型。每天阿里巴巴集团内部有数万名 数据/算法工程师正在使用 DataWorks,承担集团 ...
来自: 最佳实践 相关产品:块存储,云服务器ECS,E-MapReduce,DataWorks,实时计算,云速搭
数字化旅游服务平台小程序解决方案
数字化旅游服务平台小程序解决方案以小程序为载体,以智能管理后台为依托,重构“吃住行游购娱” 旅行场景,为游客提供“游前-游中-游后”的一站式旅游服务,为景区提供“服务-营销-管理”三大体系升级,提高景区获客能力和运营效率。
支持快速对接阿里生态的多种应用能力,包括蚂蚁巢大数据、芝麻信用风控、阿里人脸支付、飞猪票务、高德地图底层地图、蚂蚁金服AI客服、支付宝支付等.快速接入多种阿里生态应用能力.依托小程序具备的先天流量优势,打造小程序流量矩阵,基于旅游场景设计的票务二级分销、会员系统、电子年卡、优惠券、景区联动、地图派券等...
来自: 解决方案
新版产品集合页
基于丰富的产品,将计算、存储、网络、数据库、大数据、人工智能等最新产品技术与场景深度融合,为开发者打造稳定可靠的云基础设施以及云原生的开发环境。
云原生应用组装平台 BizWorks基于阿里巴巴中台实践的研发运营一体化数字平台,提供客户业务中台建模设计、开发运维、运营治理的端到端能力。机器人流程自动化 RPA通过模拟人的界面操作,自动完成跨系统、跨平台重复有规律的工作流任务,成倍提升人工效率。云渲染面向云游戏、元宇宙等场景的高性价比图形计算服务,提供大...
来自: 云产品
EMR本地盘实例大规模数据集测试
场景描述 阿里云为了满足大数据场景下的存储需求,在云 上推出了本地盘D1机型,这个系列提供了本地 盘而非云盘作为存储,提高了磁盘的吞吐能力, 发挥Hadoop的就近计算优势。阿里云EMR 产品针对本地盘机型,推出了一整套的自动化运 维方案,帮助用户方便可靠地使用本地盘机型, 不需要关注整个运维过程同时数据的高可靠和 服务的高可用。 解决问题 1.云盘多份冗余数据导致成本高 2.磁盘吞吐量不高 3.节点的高可靠分布问题 4.本地盘与节点的故障监控问题 5.数据迁移时自动决策问题 6.自动故障节点迁移与数据平衡问题 产品列表 EMR(E-MapReduce) 本地盘 VPC
阿里 云 EMR产品针对本地盘机型,推出了一整套 的自动化运维方案,帮助用户方便可靠地使用 本地盘机型,不需要关注整个运维过程同时 的高可靠和服务的高可用。解决问题 1.云盘多份冗余数据导致成本高 2.磁盘吞吐量不高 3.节点的高可靠分布问题 4.本地盘与节点的故障监控问题 5.数据迁移时自动决策问题 6.自动故障节点...
来自: 最佳实践 | 相关产品:块存储,云服务器ECS,E-MapReduce
云Clickhouse冷热数据分层存储
云Clickhouse冷热<em>数据</em>分层存储
基于云ClickHouse可以给电商、游戏、互联网以及其他行业提供高性能、高稳定性、低维护成本、高性价比的实时数据分析、精准营销、业务运营、业务分析、业务预警、业务营销、数仓加速等场景化方案,本实践会向客户提供数据库低维护成本、数据库链路构建、冷热分层存储、快熟分析等操作实践。 解决问题 1. 维护成本低不用建设维护体系,稳定性高,数据倾斜自动均衡。 2. 完善的数据同步链路,可以平滑将业务库、大数据、日志服务的数据同步到Clickhouse,降低研发成本。 3. 平滑升级版本,业务中断小。 冷热分层后透明读取,帮客户节约整体数据存储成本。
云 ClickHouse冷热数据分层存储最佳实践 技术架构 场景描述 基于云 ClickHouse可以给电商、游戏、互联网以及其他行业提供高性能、高稳定 性、低维护成本、高性价比的实时数据分 析、精准营销、业务运营、业务分析、业 务预警、业务营销、数仓加速等场景化 ,本实践会向客户提供数据库低维护成 本、数据库链路构建、冷热...
来自: 最佳实践 | 相关产品:云数据库RDS MySQL 版,数据传输,日志服务(SLS),云数据库 ClickHouse
异地双活场景下的数据双向同步
异地双活场景下的<em>数据</em>双向同步
概述 随着客户业务规模的扩大,对系统高可用性要求越来越高,越来越多用户采用异地双活/多活架构,多活架构往往涉及业务侧做单元化改造,本方案仅模拟用户已做单元化改造后的数据双向同步,数据库采用双主架构,本地写本地读,同时又保证双库的数据一致性,为业务增加可用性和灵活性。 适用场景 数据库双向同步 数据库全局ID不冲突 双活架构的数据库建设问题 技术架构 本实践方案基于如下图所示的技术架构和主要流程编写操作步骤: 方案优势 DTS双向同步,采用独立模块避免数据同步占用系统资源。 奇偶ID涉及,避免数据冲突。 DTS多种处理冲突的方式供业务选择。 安全:原生的多租户系统,以项目进行隔离,所有计算任务在安全沙箱中运行。
随着客户业务规模的扩大,对系统高可用性要求越 数据库双向同步 来越高,越来越多用户采用异地双活/多活架构,多 数据库全局 ID不冲突 活架构往往涉及业务侧做单元化改造,本方案仅模 双活架构的数据库建设问题 拟用户已做单元化改造后的数据双向同步,数据库 采用双主架构,本地写本地读,同时又保证双库的 一致性,为...
来自: 最佳实践 | 相关产品:云数据库RDS MySQL 版,负载均衡 SLB,容器服务 ACK,数据传输,云企业网,容器镜像服务 ACR,云解析DNS
云原生大数据计算服务MaxCompute
阿里云云原生大数据计算服务MaxCompute是面向分析的企业级云数仓,作为一体化大数据智能计算平台ODPS的大规模批量计算引擎,MaxCompute以 Serverless 架构提供快速、全托管的在线数据仓库服务,使您经济高效的分析处理海量数据,进行敏捷的业务洞察。
政企数据中台建设解决方案.新零售全渠道营销解决方案.教育数据中台解决方案.传媒大数据解决方案.查看更多>.精选最佳实践.最佳实践团队.基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测最佳实践.最佳实践团队.大数据近实时数据投递MaxCompute 最佳实践.最佳实践团队.基于MaxCompute的大数据BI分析最佳实践.查看更多>....
来自: 云产品
新金融人故事-阿里云
金融行业解决方案市场应用案例分享,聆听金融人“数字化转型“路上的那些事儿
阿里云提供保险企业完整数据中台方案,包含数据中台内容建设、数据资产管理、数据智能研发、数据消费、数据服务、数据实验室等组成部分.保险数据中台解决方案.计算资源可随访问量或定时伸缩,提供弹性计算能力的同时降低计算/存储成本、行情数据通过阿里云骨干网络分发,可降低访问延时,增加访问稳定性.证券行情上云解决...
来自: 解决方案
DataWorks
大数据开发治理平台 DataWorks基于MaxCompute/EMR/MC-Hologres等大数据计算引擎,为客户提供专业高效、安全可靠的一站式大数据开发与治理平台。每天阿里巴巴集团内部有数万名数据/算法工程师正在使用DataWorks,承担集团99%数据业务构建。
新零售数据中台建设.业务多维分析.业务数据化,全域数据中台构建数智底座.数据业务化,数据综合治理驱动业务增长.实时计算Flink.推荐搭配使用.互联网进入下半场,流量的精细化运营成为大部分企业的挑战,通过DataWorks+PAI构建白盒化智能推荐解决方案,提高点击转化效果.电商/资讯/广告/视频/社交等推荐业务.推荐模型训练...
来自: 云产品
基于MaxCompute的大数据BI分析
基于MaxCompute的大数据BI分析
场景描述 本文以电商行业为例,将业务数据和日志数据使用 MaxCompute做ETL之后,同步到ADB进行实时 分析,之后通过QuickBI进行快速可视化展示。 解决问题 1.互联网行业、电商、游戏行业等网站、App、 小程序应用内BI分析场景。 2.可扩展到各类网站BI分析场景使用。 产品列表 1.MaxCompute 2.分析型数据MySQL版 3.日志服务SLS 4.QuickBI 5.云服务器ECS 6.RDSMySQL版
文档版本:20211213 1 基于 MaxCompute的大数据 BI分析 最佳实践概述 方案优势 以 Hologres+QuickBI快速实时数据分析的核心能力为切入点,将客户的业务 、日志数据引导至阿里云的日志服务和分析性数据库。融合阿里云的日志服务 SLS 的生态,增强用户体验(如无缝对接 Flink、Elasticsearch、RDS、Hologres、EMR、dataV ...
来自: 最佳实践 | 相关产品:日志服务(SLS),大数据计算服务 MaxCompute,云原生数据仓库AnalyticDB My,Quick BI,云速搭CADT
专有云企业版
阿里云专有云企业版是面向政企客户的全栈云平台,可一键式弹性扩展至公共云,提供不同应用场景需求下的混合云方案,支撑企业级核心应用平滑上云。
企业版可以应对企业数据孤岛、大规模数据难以治理、数据开发和运维成本高等痛点,提供全栈大数据方案,如数据中台、城市大脑等,基于阿里巴巴10年大数据建设最佳实践,广泛应用于城市大脑、数字政府、电力、金融、新零售、智能制造等领域,赋能政府、企业快速完成数字化转型.数据计算、处理分析较同类开源产品提升倍;...
来自: 云产品
BizWorks
Bizworks是阿里云基于中台实践研发运营的一体化数字平台,提供客户业务中台建模设计、开发运维、构建治理的端到端能力,普遍适用于中大型企业/组织构建中台业务并期望实现对中台IT资产的持续治理场景。
业务中台解决方案.针对大型集团企业业务服务全局复用困难、中心化部署运维治理成本高等问题,BizWorks 支持将通用业务统建为应用组件进行全国分发,各子公司可选择所需的应用进行安装使用。可统一采集通用业务应用的全国使用数据,对服务能力进行统一的监控、度量与管控.企业系统建设过程中的各类有价值资产的沉淀.统一资产...
来自: 云产品
Hive数仓迁移到阿里云EMR
自<em>建</em>Hive数仓迁移到阿里云EMR
场景描述 客户在IDC或者公有云环境自建Hadoop集群构 建数据仓库和分析系统,购买阿里云EMR集群之 后,涉及到将数据仓库和Hive元数据的数据库迁 移上云。目前主流Hive数据仓库迁移场景为1.x 版本迁移到阿里云EMR(Hive2.x版本),涉及到 数据订正更新步骤。 解决的问题 Hive数据仓库的数据迁移方案 Hive元数据库的迁移方案 Hive跨版本迁移后的数据订正 产品列表 E-MapReduce,VPC,ECS,OSS,VPN网关。
Hive数据仓库跨版本迁移到阿里云 EMR 场景描述 解决的问题 客户在IDC或者公有云环境自Hadoop集群构建 Hive数据仓库的数据迁移方案 数据仓库和分析系统,购买阿里云 EMR集群之后,Hive元数据库的迁移方案 涉及到将数据仓库和Hive元数据的数据库迁移上 Hive跨版本迁移后的数据订正 云。目前主流 Hive数据仓库迁移场景...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,VPN网关,E-MapReduce,云速搭
阿里云电力配网虚拟调度员新品发布
阿里云将前沿技术与电力业务场景深度结合,推出系列数据智能产品。虚拟配网调度员,依托NLP、知识图谱和语音交互技术,为配网生产指挥提供辅助,大幅缩短一线配网作业等待时间,助力电网检修工作减负增效。
挖掘电力海量数据中潜在的规律和价值,结合多种人工智能算法模型,对企业进行精准电力负荷预测.精准电力负荷预测解决方案.通过智能配网智慧生产指挥AI应用建设,强化配电运行过程管控,提升人机协同效率.虚拟配网调度员解决方案.以知识图谱形式进行碎片化入库管理,为故障抢修人员提供秒级故障研判、处置和相似案例推送的...
来自: 解决方案
多账号下企业分账
多账号下企业分账
场景描述 财务分账,是根据企业的成本中心,将云上资源的成本划分到给各个项目组/业务部门;助力企业快速梳理云上成本结构,搭建复杂组织架构下的成本关系,便捷地进行财务和云上成本的管理。 大型企业或集团公司,由于组织架构复杂,业务复杂等原因,通常拥有多个阿里云账号来管理规模庞大的云上资源。针对云上资源,如何建立有效的分账方案,是财务关注的重要问题。 解决问题 解决CIO/CTO最关心的云上IT治理,IT成本核算等问题。 弄清楚企业内各部门成本及云上IT成本结构。 让CIO/CTO准确地掌握云上资源成本情况,清楚业务与成本的关系。 让采购/运维轻松搞定每月的IT成本汇报。
提供用户在云上 使用开源技术建设数据仓库、离线批处理、在线流式处理、即时查询、机器学习等 场景下的大数据解决方案。详见:https://www.aliyun.com/product/emapreduce 云架构设计工具 CADT:是一款为上云应用提供自助式云架构管理的产品,显著 地降低应用云上管理的难度和时间成本。本产品提供丰富的预制应用架构模板,...
来自: 最佳实践 | 相关产品:资源管理,配置审计,云速搭CADT
阿里云安全
面向全球用户提供安全防护的云计算安全-阿里云安全
普适性:适用于各行业的数据中台能力构建.完整性:事前、事中和事后全周期能力覆盖.可落地:基于客户实际落地案例的最佳实践.数据安全中心.数据安全解决方案.本方案基于零信任安全框架的指导思想和原则进行设计,通过零信任架构对访问主体向企业资源的请求进行安全验证,使得默认不可信的访问请求在经过身份、设备、网络和...
来自: 云产品
专属钉钉
阿里云专属钉钉是针对企业协同场景的移动办公平台。提供了强大的APP自定义能力,满足金融级别的信息安全要求,提供钉钉核心能力的专属openAPI。企业可以轻松打造自己的即时沟通工具及统一业务平台,完成组织、协同、业务的在线化和移动化。
钉钉开放平台支持小程序和H5微应用两种类型的应用开发,企业可以非常轻松通过自应用接入自己的业务系统并整合到钉钉工作上.用企业自己的元素替换原来的UI,为企业打造自己的钉钉.支持混合云架构,应用数据分离。通过公共云为应用提供弹性扩展能力,通过数据本地化确保数据所有权和安全性.作为钉钉企业版,开放更多API,...
来自: 云产品
云迁移中心
云迁移中心,为应用程序上阿里云提供迁云成本分析,网络拓扑图自动生成,一站式应用程序迁移监控,同时支持IDC和他云环境,加速和简化应用迁移。
大数据上云与数据中台建设.针对于企业用户多个站点容灾的需求,用户需要复制一部分数据到一个新站点。云迁移中心可以快速调研出用户在源站点的资源列表,按照业务维度展示两个站点间的迁移与同步链路。让用户真正实现高效、快捷、可管理、可监测的站过程.提供快速调研手段,快速获取源端资源列表,并且感知架构信息.提供...
来自: 云产品
金融分布式架构SOFAStack
阿里云金融分布式架构SOFAStack为金融用户提供全栈式的基础架构能力,是集项目管理、微服务开发、发布部署、监控运维、容灾高可用等全栈式解决方案,助力客户应用轻松转型分布式架构,保证风险安全的同时帮助业务需求敏捷迭代,支撑金融业务创新,开发人员学习成本最多可降低92%、应用开发效率可最多提升80%、运维人力成本最多可节省90%
提供大数据和人工智能的中台能力建设,支持分布式金融核心系统的异地多活架构.分布式技术能力.专有网络VPC.云服务器ECS.负载均衡SLB.推荐搭配使用.互联网金融中台.以强大的业务中台为支撑,支持产品快速组合创新.蚂蚁金服自主研发的金融级分布式架构平台,专注为金融用户提供全栈式的基础架构能力 保证风险安全的同时帮助...
来自: 云产品
< 1 2 3 4 ... 20 >
共有20页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用