阿里云最佳实践离线大数据workshop
阿里云最佳实践离线大数据workshop
本最佳实践,首先搭建一个简化的电商 demo 系统,然后为此 demo 系统构建一套离 线大数据分析系统。 实践目标 1. 学习搭建一个离线大数据分析系统,学习从数据采集到数据存储和业务分析的业 务流程。 2. 整个离线大数据分析系统全部基于阿里云产品进行搭建,学习掌运用各个服务组 件及各个组件之间如何联动。 背景知识要求 熟练掌握 SQL 语法 对大数据体系系统知识有一定的了解
一站式提供数据采集、加工、分析、告警可 视化与投递功能,全面提升研发、运维、运营和安全等场景数字化能力。详见:https://www.aliyun.com/product/sls  DataHub:数据总线(DataHub)服务是阿里云提供的流式数据(StreamingData)服 务,它提供流式数据的发布(Publish)和订阅(Subscribe)的功能,让您可以轻松构 建基于流式...
来自: 最佳实践 相关产品:云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,日志服务(SLS),大数据计算服务 MaxCompute,DataV数据可视化,数据总线,Quick BI,云速搭
云网络
阿里云云网络为企业提供了完善的云上网络、跨地域网络、混合云网络产品体系和可满足不同场景的网络解决方案。经过多年的自主研发,洛神云网络平台,具备了超大规模、超高性能、弹性开放能力,服务百万用户,连续多年支撑双11。
大润发选择阿里云开启数字化转型之路,在门店上云部分,大润发使用智能接入网关SAG,满足传统商超业务、淘鲜达业务系统的线路备份,实现业务系统稳定高可靠.大润发CTO陈俞安:门店系统上云之路.KK采用阿里云云原生SD-WAN组网方案,通过在每家门店部署SAG智能接入网关,通过阿里云控制台进行统一管理,快速构建跨地域互联...
来自: 云产品
基于ECI+FaaS构建游戏战斗结算服
基于ECI+FaaS构建游戏战斗结算服
在游戏行业的很多SLG游戏作品中,为了防止客户端作弊,在每局战斗之后,在客户端预判玩家胜利的情况下,需要服务端来进行战斗数据的结算,从而确定玩家是不是真正的胜利。战斗结算是强CPU密集型,结算系统每日需要大量的计算力,尤其是开服或者活动期间忽然涌入的大量玩家,导致需要的计算量瞬间几倍增长,同时需要结算系统保持稳定的延时来保证玩家的用户体验。 1. ECI支持500台实例30S弹出,快速解决业务模块扩容压力。FaaS毫秒级伸缩扩容,化解算力瓶颈,平滑解决暴增调用请求。 2. 降低成本:ECI每天弹性运行8小时,与6代同规格包月相比节省成本40%+,FaaS按需付费,即开即用,节省预留资源消耗。 3. 免运维:FaaS和ECI都是全托管免运维的服务,客户专注业务开发即可。 4. 模块公共化:减轻游戏逻辑服的压力,结算需求复用到类似需求的游戏。
弹性计算实例关键指标 关键指标 六代增强型 七代高主频 vcpu核心 80vcpu 192vcpu 频率 2.5/3.2Ghz 3.3/3.8Ghz 最高网络 25G*2 50G*2 最高 PPS能力 2400 万 PPS 2400万 PPS 高效云盘 云盘规格 SSD云盘 ESSD云盘 ESSD云盘 最高存储 IO 48 万 IOPS 60万 IOPS 最大并 Session(万)200 400 MTU(最大传输单元)1500 8600 ...
来自: 最佳实践 | 相关产品:容器服务 ACK,函数计算,弹性容器实例 ECI
EMR集群安全认证和授权管理 
EMR集群安全认证和授权管理 
场景描述 阿里云EMR服务Kafka和Hadoop安全集群使 用Kerberos进行用户安全认证,通过Apache Ranger服务进行访问授权管理。本最佳实践中以 Apache Web服务器日志为例,演示基于Kafka 和Hadoop的生态组件构建日志大数据仓库,并 介绍在整个数据流程中,如何通过Kerberos和 Ranger进行认证和授权的相关配置。 解决问题 1.创建基于Kerberos的EMR Kafka和 Hadoop集群。 2.EMR服务的Kafka和Hadoop集群中 Kerberos相关配置和使用方法。 3.Ranger中添加Kafka、HDFS、Hive和 Hbase服务和访问策略。 4.Flume中和Kafka、HDFS相关的安全配 置。 产品列表:E-MapReduce、专有网络VPC、云服务器ECS、云数据库RDS版
的生态组件构建日志大数据仓库,并介绍在整个 3.Ranger中添加 Kafka、HDFS、Hive和 据流程中,如何通过 Kerberos和 Ranger进行认证 Hbase服务和访问策略。和授权的相关配置。4.Flume中和 Kafka、HDFS相关的安全配 置。产品列表:E-MapReduce、专有网络 VPC、云服务 最佳实践频道 阿里云最佳实践分享群 器 ECS、云数据库 ...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,E-MapReduce
数据安全解决方案
数据是企业的核心资产,如何保护企业的云上数据,是每个企业管理者都应当重视的课题。在云平台提供更为安全便捷的数据保护能力的同时,阿里云根据自身多年的经验积累,结合大量云上客户的最佳实践,提供了一套完整的数据安全解决方案,帮助企业提升云上数据风险防御能力,实现企业核心及敏感数据安全可控。
数据不再单纯存储在数据库中,各类数据仓库、中台和非结构文件、缓存都在企业中扮演着重要角色。分散数据的统一治理和权责定义,对企业提出了要求.数据资产盘点、权责明确与分类分级标准.数据安全风险评估是企业信息系统建设的根基,从多个维度进行安全评估可以达到“事半功倍”的效果。在分析的过程中结合数据生命周期各...
来自: 解决方案
基于Flink的资讯场景实时数仓
基于Flink的资讯场景实时数仓
场景描述 本实践针对资讯聚合类业务场景,Step by Step介绍 如何搭建实时数仓。 解决问题 1.如何搭建实时数仓。 2.通过实时计算Flink实现实时ETL和数据流。 3.通过实时计算Flink实现实时数据分析。 4.通过实时计算Flink实现事件触发。 产品列表 实时计算 专有网络VPC 云数据库RDSMySQL版 分析型数据库MySQL版 消息队列Kafka 对象存储OSS NAT网关 DataV数据可视化
而整个 ETL过程,是实时 架构设计上非常重要的一环,该环节要做到延时小,成本低,可扩展性好,业务 指标计算准确。在系统选型上,推荐使用实时计算 Flink对数据进行处理,因为 Flink具有强大的 数据处理能力,低延时,高吞吐,能够保证业务产出。文档版本:20220223(发布日期)5 基于 Flink的资讯场景实时数仓 实时...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,NAT网关,云原生数据仓库AnalyticDB My,云速搭CADT
混合云自有K8S弹性使用ECI
混合云自有K8S弹性使用ECI
场景描述 本文介绍线下IDC与云端通过专线构建混合云架构,自有K8S利用虚拟节点弹性调用ECI承载业务高峰期资源需求的最佳实践。 解决问题 混合云环境下,自有K8S集群注册至ACK,实现云端纳管。纳管K8S集群部署Virtual Node,使集群具备ECI资源调度能力。在以上环境中部署Web及离线作业应用,并使用ECI资源作为弹性资源池满足业务波峰需求。 产品列表 云服务器ECS 云架构设计工具CADT 专有网络VPC 访问控制RAM 云企业网CEN 弹性容器实例ECI Nat网关NAT 容器镜像服务ACR 负载均衡SLB 容器服务Kubernetes版ACK 弹性公网IPEIP
注:实际当扩展 WordPress Pod实例时,需要使用统一的持久存储来保证 据一致性。本例中重点介绍 ECI的资源使用,故此处简化略去。步骤6 完成以上修改后,在 namespace blog下创建 WordPress应用。文档版本:20210520 49 混合云 IDC自有 K8S弹性使用 ECI ECI使用示例 步骤7 创建完成后,点击返回箭头确认应用状态。文档...
来自: 最佳实践 | 相关产品:块存储,专有网络 VPC,云服务器ECS,负载均衡 SLB,容器服务 ACK,访问控制,NAT网关,云企业网,容器镜像服务 ACR,弹性容器实例 ECI
数字化旅游服务平台小程序解决方案
数字化旅游服务平台小程序解决方案以小程序为载体,以智能管理后台为依托,重构“吃住行游购娱” 旅行场景,为游客提供“游前-游中-游后”的一站式旅游服务,为景区提供“服务-营销-管理”三大体系升级,提高景区获客能力和运营效率。
赋能河南实现全省旅游服务智慧化、形象统一化、旅游数字化,实现全域资源有机整合,自上而下推动当地旅游高质量发展.为打造“数智文旅城市”,完善湖州旅游大数据建设,推出“云游湖州”小程序矩阵。发行全域旅游一卡通,打通“一键呼叫”旅游服务,以文旅消费平台为依托,为游客提供一站式消费服务,全面推动湖州全域旅游...
来自: 解决方案
知位-停车空间数字化解决方案
知位-停车空间数字化解决方案通过停车场数字化建设,降低人力管理成本,提高停车场整体运营效率,为车主提供便捷舒适的停车体验。
面向停车场经营主体提供全面、规范的停车场管理功能,实现实时联网与停车场数字化管理,打造“无人收费+全流程诱导”的停车场运营管理新模式,解决停车场行业管理效率低、车场分散、信息化水平低、跑冒滴漏、维保成本高、人员成本高等问题.以相机为核心的嵌入式停车场解决方案,超强稳定性,支持断网脱机计费.极简系统架构...
来自: 解决方案
房地产数字化营销售楼解决方案
阿里云联合支付宝以及生态合作伙伴,整合阿里体系内的广告资源实现精准引流,给房地产企业提供的一个端到端的轻量级线上售楼处,帮助客户实现精准圈客、线上转化和快速锁客的解决方案,同时也可实现应对疫情对行业的影响,为复工复产提供充足蓄客能力。
房地产数字化营销售楼解决方案.库存共享\\u00A0.基于支付宝线上线下融合的精准客户触达。独家支付宝标签,投放人群精准圈选,阿里巴巴营销体系全域闭环,结合丰富的线下场景标签,让营销更精准.高效圈客引流.低成本免开发.24小时线上售楼处,详解楼盘信息。VR实景看房、线上顾问实时沟通等功能给客户沉浸式体验,让客户...
来自: 解决方案
云原生数据仓库AnalyticDB MySQL数据仓库
阿里云云原生数据仓库AnalyticDB MySQL版(简称AnalyticDB)是融合数据库、大数据技术于一体的云原生企业级数据仓库平台。云原生数据仓库AnalyticDB MySQL版支持数据实时写入和同步更新、实时计算和实时服务,可用于构建企业级报表系统、数据仓库和数据服务引擎。
通过简单几步配置即可将RDS、PolarDB 或者日志服务中某个日志中的数据快速同步到云原生数据仓库AnalyticDB MySQL版集群中.将RDS和PolarDB的多个数据库实例一键配置DTS同步链路.数据库数据接入.配置SLS数据同步链路,将日志数据快速接入.日志数据接入.PolarDB MySQL数据免费接入、多表增量更新物化视图、UDF、Multi-...
来自: 云产品
云效制品仓库 Packages
云效制品仓库 Packages提供Maven私有仓库、Npm私有仓库、通用制品仓库等企业级私有制品仓库服务,用于maven、npm等软件包和依赖管理。
提供企业级精细化仓库权限管理能力,确保企业构建物安全可靠.企业级权限管理.了解云效产品基本功能.缩短学习路径快速进阶.了解免费试用服务条款.体验 AI 编码,领键盘、鼠标、双肩包等.体验 AI 编码,领键盘、鼠标、双肩包等.<云效DevOps产品.不限容量、免费使用.云效DevOps.提供maven私有仓库、npm私有仓库、通用制品仓库...
来自: 云产品
云上大数据仓库解决方案
阿里云云原生大数据仓库,包含离线实时一体化数仓和实时数仓解决方案,为企业提供一站式云上智能开发、调度、服务、质量、安全的全链路服务。
基于云上提供的近乎无限计算和存储资源,结合云原生数据仓库 MaxCompute、实时计算 Flink 版、实时数仓 Hologres 以及数据开发与治理 DataWorks,打造一体的新一代数据仓库架构,同时满足离线和实时分析需求.云原生数据仓库:资源弹性伸缩,计算存储分离.实时离线一体:一份数据同时支持离线ETL+实时分析+在线服务的多种...
来自: 解决方案
云效Maven公共仓库-阿里云
云效,新型企业级一站式协同研发平台,源于阿里巴巴多年先进的管理理念和工程实践,提供从“需求->编码->测试->发布->运维->运营”端到端的协同服务和研发工具支撑。云效将战略规划、敏捷研发、持续集成、持续交付、DevOps等理念引入银行、保险、民航等大型企业和互联网初创企业,支持公有云、专有云和混合云的协同研发,助力企业产品快速创新迭代和研发效能升级。
支持maven、helm等私服务.支持maven、helm等私服务.租户隔离,安全可靠.租户隔离,安全可靠.构建服务结合.与云效构建服务完美结合,自动配置构建时配置,内置相应制品操作组件等.视频操作演示.立即开启服务>.查看云效相关文档.了解如何快速使用云效公有云服务.更多问题交流讨论F&Q.了解免费试用服务条款.提供对maven ...
来自: 云产品
云速搭部署ADB应用最佳实践
云速搭部署ADB应用最佳实践
本实践通过云速搭实现一个云原生数据仓库AnalyticDB MySQL版的产品实例。
已开通以下服务:ᅳ 专有网络 VPC ᅳ 云速搭 CADT ᅳ 云原生数据仓库 ADB 文档版本:20211115 2 云速搭部署ADB应用 产品介绍 产品介绍 云速搭 CADT:是一款为上云应用提供自助式云架构管理的产品,显著地降低应 用云上管理的难度和时间成本。本产品提供丰富的预制应用架构模板,同时也支 持自助拖拽方式定义应用云上架构;...
来自: 最佳实践 | 相关产品:专有网络 VPC,云原生数据仓库AnalyticDB My,云速搭CADT
在线教育流量洪峰
在线教育流量洪峰
1. 通过Tair缓存的性能增强型解决高并发读的性能问题,通过持久内存型解决大并发写性能及数据可靠性问题。 2. PolarDB作为主数据库保存业务的交易数据,通过弹性能力和并发SQL解决性能瓶颈。 3. ADB+QuickBI提供的数据仓库方案通过分时弹性能力和实时业务展现能力。
阿里云最佳实践分享群 最佳实践频道 产品列表 专有网络 VPC 分布式缓存 Tair 云原生数据库 PolarDB 分析型数据仓库 ADB 如二维码过期,数据可视分析平台 QuickBI 请搜索群号:31852400 弹性计算 ECS 云服务器 ECS(产品名称)文档模板(手册名称)/文档版本信息 阿里云 在线教育流量洪峰 最佳实践 文档版本:20210120...
来自: 最佳实践 | 相关产品:云数据库 Redis 版,云数据库PolarDB,云原生数据仓库AnalyticDB My,Quick BI
基于MaxCompute的大数据BI分析
基于MaxCompute的大数据BI分析
场景描述 本文以电商行业为例,将业务数据和日志数据使用 MaxCompute做ETL之后,同步到ADB进行实时 分析,之后通过QuickBI进行快速可视化展示。 解决问题 1.互联网行业、电商、游戏行业等网站、App、 小程序应用内BI分析场景。 2.可扩展到各类网站BI分析场景使用。 产品列表 1.MaxCompute 2.分析型数据MySQL版 3.日志服务SLS 4.QuickBI 5.云服务器ECS 6.RDSMySQL版
基于 MaxCompute的大数据 BI分析 最佳实践 场景描述 业务架构 本文以电商行业为例,将业务数据和日志数据使用 MaxCompute做 ETL之后,同步到 Hologres进行实时分 析,之后通过 Quick BI进行快速可视展示。解决问题 1.互联网行业、电商、游戏行业等网站、App、小程 序应用内 BI分析场景。2.可扩展到各类网站 BI分析场景...
来自: 最佳实践 | 相关产品:日志服务(SLS),大数据计算服务 MaxCompute,云原生数据仓库AnalyticDB My,Quick BI,云速搭CADT
游戏数据运营融合分析
游戏数据运营融合分析
场景描述 1.游戏行业有结构化和非结构化数据融合分 析需求的客户。 2.游戏行业有数据实时分析需求的客户,无法 接受T+1延迟。 3.对数据成本有一定诉求的客户,希望物尽其 用尽量优化成本。 4.其他行业有类似需求的客户。 方案优势/解决问题 1.秒级实时分析:依托ADB计算密集型实例, 秒级监控DAU等数据,为广告投放效果提 供有力的在线决策支撑。 2.高效数据融合分析:打通结构化和非结构化 数据,支撑产品体验分析;广告买量投放效 果实时(分钟级)分析,渠道的评估更准确。 3.低成本:DLA融合冷数据分析+ADB存储密 集型温数据分析+ADB计算密集型热数据分 析,在满足各种分析场景需求的同时,有效 地降低的客户的总体使用成本。 4.学习成本低:DLA和ADB兼容标准SQL语 法,无需额外学习其他技术。 产品列表 专有网络VPC、负载均衡SLB、NAT网关、弹性公网IP 云服务器ECS、日志服务SLS、对象存储OSS 数据库RDSMySQL、数据传输服务DTS、数据管理DMS 分析型数据库MySQL版ADS 数据湖分析DLA、QuickBI
游戏行业有结构和非结构数据融 合分析需求的客户。2.游戏行业有数据实时分析需求的客 户,无法接受 T+1延迟。3.对数据成本有一定诉求的客户,希望 物尽其用尽量优化成本。4.其他行业有类似需求的客户。方案优势/解决问题 1.秒级实时分析:依托 ADB计算密集型 实例,秒级监控 DAU等数据,为广告 投放效果提供有力的在线...
来自: 最佳实践 | 相关产品:云数据库RDS MySQL 版,对象存储 OSS,云原生数据仓库AnalyticDB My,数据湖分析,Quick BI
< 1 2 3 4 >
共有4页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用