数据湖构建 Data Lake Formation
数据湖构建服务是阿里云上数据湖架构中的核心部分,助力用户构建数据湖系统。支持多数据源实时入湖,实现湖上元数据统一管理,提供企业级权限控制,无缝对接多种计算引擎,打破孤岛,洞察业务价值
用户过亿的某在线教育平台.用户希望课件素材、应用日志、学习采样等数据能够集中存储,统一管理。用户也希望能够对不同类型数据提供课件播放、离线分析、机器学习,实现在线教育不同场景的应用.数据湖构建完美适配数据存储OSS,同时对接大量计算引擎,满足用户不同的分析需求.在线教育数据湖实践.在线教育数据湖实践.亚洲...
来自: 云产品
云原生企业级数据湖解决方案
云原生企业级数据湖解决方案,数据湖解决方案,无缝对接多种计算分析平台,数据湖中的数据可以直接进行数据分析、处理。
阿里云数据湖存储与计算解耦合的架构特点为Yeahmobi提供了丰富灵活且高性价比的灵活处理模式,OSS可支持丰富的计算引擎,通过结合使用EMR和DLA等,轻松支持Yeahmobi每天20TB新增日志量、每天超100亿次的请求以及每小时3000万数据清洗.客户视频-易点天下.易点天下数据湖实践.通过阿里云数据湖解决方案支撑了加和ReachMax...
来自: 解决方案
利用交互式分析(Hologres)进行数据查询
利用交互式分析(Hologres)进行<em>数据</em>查询
场景描述:随着收集数据的方式不断丰富,企业信息化 程度越来越高,企业掌握的数据量呈TB、 PB或EB级别增长。同时,数据中台的快 速推进,使数据应用主要为数据支撑、用户 画像、实时圈人及广告精准投放等核心业务 服务。高可靠和低延时地数据服务成为企业 数字化转型的关键。 Hologres致力于低成本和高性能地大规模 计算型存储和强大的查询能力,为您提供海 量数据的实时数据仓库解决方案和实时交 互式查询服务。 解决问题 1.加速查询MaxCompute数据 2.快速搭建实时数据仓库 3.无缝对接主流BI工具 产品列表 MaxCompute Hologres 实时计算Flink 专有网络VPC DataWorks DataV
Hologres常见使用场景 联邦分析实时数据和离线数据 业务数据分为冷数据和热数据,冷数据存储在离线数据仓库MaxCompute中,热 存储在Hologres中。Hologres可以联邦分析实时数据和离线数据,对接BI分析 工具,快速响应简单查询与复杂查询的业务需求。图1.联邦分析架构图 实时数据仓库 实时写入业务数据至实时计算,使用...
来自: 最佳实践 | 相关产品:大数据计算服务 MaxCompute,DataV数据可视化,实时计算,Hologres,云速搭CADT
游戏数据运营融合分析
游戏<em>数据</em>运营融合分析
场景描述 1.游戏行业有结构化和非结构化数据融合分 析需求的客户。 2.游戏行业有数据实时分析需求的客户,无法 接受T+1延迟。 3.对数据成本有一定诉求的客户,希望物尽其 用尽量优化成本。 4.其他行业有类似需求的客户。 方案优势/解决问题 1.秒级实时分析:依托ADB计算密集型实例, 秒级监控DAU等数据,为广告投放效果提 供有力的在线决策支撑。 2.高效数据融合分析:打通结构化和非结构化 数据,支撑产品体验分析;广告买量投放效 果实时(分钟级)分析,渠道的评估更准确。 3.低成本:DLA融合冷数据分析+ADB存储密 集型温数据分析+ADB计算密集型热数据分 析,在满足各种分析场景需求的同时,有效 地降低的客户的总体使用成本。 4.学习成本低:DLA和ADB兼容标准SQL语 法,无需额外学习其他技术。 产品列表 专有网络VPC、负载均衡SLB、NAT网关、弹性公网IP 云服务器ECS、日志服务SLS、对象存储OSS 数据库RDSMySQL、数据传输服务DTS、数据管理DMS 分析型数据库MySQL版ADS 数据湖分析DLA、QuickBI
南靖,云魁,阿谈 创建 云帅,洵,逸疏 V1.1 2020-03-31 筱晖 明中,翟冉 文档优化 V1.2 2020-08-13 明中-修复部分表述问 题 V2.0 2021-02-24 七凌-全版更新、构建 脚本更新、关键 产品功能 文档版本:20210224 I 游戏数据运营融合分析 前言 前言 概述 本实践基于众多游戏客户落地的实际方案抽象而成,是阿里云众多产品...
来自: 最佳实践 | 相关产品:云数据库RDS MySQL 版,对象存储 OSS,云原生数据仓库AnalyticDB My,数据湖分析,Quick BI
电商网站数据埋点及分析
电商网站<em>数据</em>埋点及分析
场景描述 数据埋点是数据产品经理、数据运营以及数据分 析师,基于业务需求(例如:CPC点击付费广 告中统计每一个广告位的点击次数),产品需求 (例如:推荐系统中推荐商品的曝光次数以及点 击的人数)对用户行为的每一个事件对应的位置 进行开发埋点,并通过SDK上报埋点的数据结 果,记录数据汇总后进行分析,推动产品优化或 指导运营。 解决问题 1.电商网站广告位效果统计分析 2.电网网站推荐商品曝光、点击、购买等行为统 计分析 3.电商网站用户分布分析 4.电商网站页面热点图分析等 产品列表 日志服务SLS Dataworks 云服务器ECS 云数据库RDS版 负载均衡SLB 专有网络VPC
名词解释 日志服务 SLS:行业领先的日志大数据解决方案,一站式提供数据收集、清洗、分析、可视化和告警功能。全面提升海量日志处理能力,实时挖掘数据价值,智能 助力研发/运维/运营/安全等场景。更多信息,请参见日志服务简介 https://www.aliyun.com/product/sls 专有网络 VPC:Virtual Private Cloud,简称 VPC,是基于...
来自: 最佳实践 | 相关产品:云服务器ECS,云数据库RDS MySQL 版,日志服务(SLS),DataWorks,云速搭CADT
云原生数据仓库AnalyticDB PostgreSQL版
阿里云MPP架构的云原生数据仓库,可提供PB级海量数据在线/离线分析服务,是面向各行各业的有竞争力的数仓方案,真正做到“人人可用的数据分析服务”。
通过支持数仓建设和行为日志的数据采集,入库,清洗,分析和洞察的全链路,对游戏内重点行为事件进行提取并结构化用户信息,订单信息,运营推广等主要维度数据资产,通过关联分析,甄别关键链路并打造实时可视化运营工具;可整体构建完善的游戏运营平台.离线生成的海量日志加载并利用AnalyticDB的海量数据处理能力进行高效...
来自: 云产品
DTS数据同步集成MaxCompute数仓
DTS<em>数据</em>同步集成MaxCompute数仓
场景描述 本文Step by Step介绍了通过数据传输服务 DTS实现从云数据库RDS到MaxCompute的 数据同步集成,并介绍如何使用DTS和 MaxCompute数仓联合实现数据ETL幂等和数 据生命周期快速回溯。 解决问题 1.实现大数据实时同步集成。 2.实现数据ETL幂等。 3.实现数据生命周期快速回溯。 产品列表 MaxCompute 数据传输服务DTS DataWorks 云数据库RDS MySQL 版
数据抽取不幂等或容错率低,如凌晨 0:00启动的 ETL任务因为各种原因(数据库 HA切换、网络抖动或 MAXC写入失败等)失败后,再次抽取无法获取 0:00时的 状态。2.针对不规范设计表,如没有 create_time/update_time的历史遗留表,传统 ETL需 全量抽取。3.实时性差,抽取数据+重试任务往往需要 1-3小时。另外数据库的数据...
来自: 最佳实践 | 相关产品:专有网络 VPC,云数据库RDS MySQL 版,数据传输,DataWorks,大数据计算服务 MaxCompute
云原生数据湖分析DLA
阿里云云原生数据湖分析是新一代大数据解决方案,采取计算与存储完全分离的架构,支持对象存储(OSS)、RDS(MySQL等)、NoSQL(MongoDB等)数据源的消息实时归档建仓,提供Presto和Spark引擎,满足在线交互式查询、流处理、批处理、机器学习等诉求。内置大量优化+弹性,比开源自建集群最高降低50%+的成本,最快可1分钟级拉起300个计算节点,快速满足业务资源要求。
支持直接通过SQL语句分析OSS等十种源数据,大幅提升数据查询分析能力,助力业务发展.云原生数据湖分析(DLA)产品退市公告.云原生数据湖分析(DLA)产品退市公告.Serverless Presto版本解决如下场景业务挑战:快速搭建报表,例如QuickBI加速,友盟返还数据分析;支持轻量级的ETL,简单利用SQL就可以实现快速的清洗.在开源...
来自: 云产品
新版产品集合页
基于丰富的产品,将计算、存储、网络、数据库、大数据、人工智能等最新产品技术与场景深度融合,为开发者打造稳定可靠的云基础设施以及云原生的开发环境。
存储数据服务日志服务 SLS行业领先的日志大数据解决方案,一站式提供数据收集、清洗、分析、可视化和告警功能。云备份 Cloud Backup简单易用、敏捷高效、安全可靠的公共云数据管理服务,可为阿里云、本地机房内的多种数据类型提供备份、容灾保护以及策略化归档管理。智能媒体管理 IMM场景化封装数据智能分析管理工具,可为...
来自: 云产品
大模型服务平台百炼
大模型服务平台是阿里云基于通义大模型等多种大模型的一站式大模型开发平台。提供完整的模型训练工具和开发套件,结合企业专属数据和API,帮企业构建大模型应用
网络安全攻击防护:企业专属大模型提供多种攻击防护手段,包括DDos攻击,CC攻击,流量清洗,网络洪峰防护,用户行为伪造防护,数据爬取防护,web漏洞利用防护,未授权流量防护。SSL加密:在传输层对网络链接进行SSL加密,提升通信数据安全和完整性。网络安全限制:同区日常/预发/生产三网VPC隔离,网络安全组策略管理,网关...
来自: 云产品
云数据库 SelectDB 版
阿里云数据库 SelectDB 是现代化实时数据仓库 SelectDB 在阿里云上的全托管服务,内核基于业界领先的开源分析型数据库 Apache Doris 研发,由阿里云和飞轮科技联合打造。阿里云数据库 SelectDB 聚焦于满足企业级大数据分析需求,广泛应用于实时报表分析、即席多维分析、日志检索分析、数据联邦与查询加速等场景,致力于为客户提供极致性能、简单易用的数据分析服务。
简化统一开发体验基于 SelectDB 的湖仓互通、轻量级 ELT 能力,无缝完成数据源到数仓的数据同步、清洗过程,无需依赖 Spark 和 Flink。使用 SelectDB 作为统一查询网关,无需进行多系统切换及 SQL 方言兼容处理。极速数据分析基于 SelectDB 领先的查询分析引擎,结合数据缓存、统计信息收集等,SelectDB 分析性能可达 ...
来自: 云产品
云数据库 RDS MySQL 版
阿里云云数据库RDS MySQL是一种稳定可靠、可弹性伸缩的在线MySQL数据库服务, 提供了高可用、高可靠、高安全、易运维等一站式的数据库解决方案,帮助您免除MySQL运维的烦恼。
高效数据同步数据传输服务DTS的数据同步和数据订阅功能结合云数据库RDS MySQL,可保障数据链路的全面同步,同时兼顾数据安全、异地容灾等高级需求。相关产品云数据库 RDS MySQL本产品数据管理 DMS数据传输服务 DTS云服务器 ECS专有网络 VPC负载均衡 SLB一键部署RDS MySQL 基础版全新升级RDS MySQL 基础版全新升级,推出超高...
来自: 云产品
大数据workshop
大数据workshop
大数据workshop
在 HoloWeb控制台,选择 SQL编辑器,然后点击新增 SQL窗口,选择对应的 库,编辑填写相应的 DDL建表语句(默认数据表的属性是列存模式,列存模式更 适合 OLAP数据分析,数据表的行存模式更适合高 QPS点查询场景)。1.首先创建 ads_province_info表。文档版本:20210628(发布日期)42 阿里云最佳实践大数据 WorkShop ...
来自: 最佳实践 | 相关产品:块存储,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,弹性公网IP,数据传输,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,实时计算,数据总线,Quick BI,Hologres
阿里云最佳实践离线大数据workshop
阿里云最佳实践离线大数据workshop
本最佳实践,首先搭建一个简化的电商 demo 系统,然后为此 demo 系统构建一套离 线大数据分析系统。 实践目标 1. 学习搭建一个离线大数据分析系统,学习从数据采集到数据存储和业务分析的业 务流程。 2. 整个离线大数据分析系统全部基于阿里云产品进行搭建,学习掌运用各个服务组 件及各个组件之间如何联动。 背景知识要求 熟练掌握 SQL 语法 对大数据体系系统知识有一定的了解
MaxCompute向用户提供了完善的数据导入方 案以及多种经典的分布式计算模型,能够更快速的解决用户海量数据计算问题,有 效 降 低 企 业 成 本,并 保 障 安 全。详 见:https://help.aliyun.com/product/27797.html  Dataworks:DataWorks基于MaxCompute/EMR/MC-Hologres等大数据计算引 文档版本:20210802(发布...
来自: 最佳实践 | 相关产品:云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,日志服务(SLS),大数据计算服务 MaxCompute,DataV数据可视化,数据总线,Quick BI,云速搭
金融专属大数据workshop
金融专属大数据workshop
实践目标 学习搭建一个实时数据仓库,掌握数据采集、存储、计算、输出、展示等整个业务流程。 整个实时数据仓库系统全部基于阿里云产品进行架构搭建,用户可以掌握并学会运用各个服务组件及各个组件之间如何联动。 理解阿里云原生实时离线一体数仓解决方案架构以及掌握交付落地的实践使用方法。 前置知识要求 熟练掌握SQL语法 对大数据体系系统知识有一定的了解
在HoloWeb控制台,选择SQL编辑器,然后点击新增SQL窗口,选择对应的 库,编辑填写相应的DDL建表语句(默认数据表的属性是列存模式,列存模式更 适合OLAP数据分析,数据表的行存模式更适合高QPS点查询场景)。1.首先创建ads_province_info表。文档版本:20210803(发布日期)39阿里云最佳实践金融大数据WorkShop 最佳...
来自: 最佳实践 | 相关产品:块存储,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,弹性公网IP,数据传输,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,实时计算,数据总线,Quick BI,Hologres
智能推荐
智能推荐AIRec基于阿里巴巴领先的大数据和人工智能技术,以及在电商、内容、直播、社交等领域的业务沉淀,阿里云为企业开发者提供了行业版SaaS推荐云产品、全链路推荐系统解决方案、工程引擎与组件等多种服务。
清洗规范化用户、物品数据;明确推荐页面业务逻辑;前置准备工作.根据行业数据规范清洗3种数据;初始化行业模板,调试推荐接口;场景运营策略、算法参数调优;满足企业根据推荐系统算法模型、工程架构的设计原理,实现各个链路与板块的明确拆分。可根据业务特点及效果诉求,灵活开发推荐场景,并结合推荐方案实施多组在线...
来自: 云产品
企业Web应用全托管解决方案
企业Web应用全托管解决方案,帮助用户实现分布式应用托管服务,解决多应用部署资源消耗大,弹性扩容要求高等业务面临的问题。大幅降低运维和开发部署难度。提升企业应用和互联网应用的效率。
函数计算支持丰富的事件源,事件触发机制可以通过几行代码和简单的配置对数据进行实时处理,比如对 OSS zip 包进行解压,对 SLS 日志或 OTS 数据进行清洗,对 MNS 消息进行自定义消费等.实时数据处理.实时数据处理.新零售、电商类、远程教育、互娱等行业往往有一些不可预期的突发流量高峰,该方案提供了精准容量+秒级弹性+...
来自: 解决方案
基于Flink的资讯场景实时数仓
基于Flink的资讯场景实时数仓
场景描述 本实践针对资讯聚合类业务场景,Step by Step介绍 如何搭建实时数仓。 解决问题 1.如何搭建实时数仓。 2.通过实时计算Flink实现实时ETL和数据流。 3.通过实时计算Flink实现实时数据分析。 4.通过实时计算Flink实现事件触发。 产品列表 实时计算 专有网络VPC 云数据库RDSMySQL版 分析型数据库MySQL版 消息队列Kafka 对象存储OSS NAT网关 DataV数据可视化
3.数据加工:消息队列收到的原始数据,往往存在格式不齐或内容不全,需要经过 据清洗(ETL)之后,才能更好的被下游业务使用。而整个 ETL过程,是实时数 仓架构设计上非常重要的一环,该环节要做到延时小,成本低,可扩展性好,业务 指标计算准确。在系统选型上,推荐使用实时计算 Flink对数据进行处理,因为 Flink具有...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,NAT网关,云原生数据仓库AnalyticDB My,云速搭CADT
物联网边缘计算
阿里云物联网边缘计算是一种部署在本地近场环境、以高性能计算机为载体、且与云端协同的一体化计算服务,满足企业(客户)对边缘(近场)计算资源的远程管理、数据处理、分析决策、智能化诉求。
通过传感设备采集燃气、用水、电力等能源数据,运用相应算法清洗关键业务数据,并通过深度学习,为能源管控提供关键决策模型.支持用电负荷和能源消耗的预测.支持用电负载和功率的动态调节.推荐搭配使用.综合能源管理场景.解决能源设备使用的监控和管理需求.在一些半开放场所,例如宿舍楼、营业厅等,不适合装闸机的场所,...
来自: 云产品
函数计算FC
阿里云函数计算(Function Compute)是一个事件驱动的全托管计算服务。通过函数计算,您无需管理服务器等基础设施,只需编写代码并上传。函数计算会为您准备好计算资源,以弹性、可靠的方式运行您的代码。更棒的是,您只需要为代码实际运行消耗的资源付费,代码未运行则不产生费用。
函数计算支持丰富的事件源,事件触发机制可以通过几行代码和简单的配置对数据进行实时处理,比如对 OSS zip 包进行解压、对 SLS 日志或 OTS 数据进行清洗、对 MNS 消息进行自定义消费等.函数计算支持丰富的事件源类型,只需要简单的配置就可以对事件源数据进行处理.与多种事件源高度集成,配置简单.可以根据业务场景的不同...
来自: 云产品
< 1 2 3 4 ... 7 >
共有7页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用