基于Flink+ClickHouse构建实时游戏数据分析
基于Flink+ClickHouse构建实时游戏<em>数据分析</em>
在互联网、游戏行业中,常常需要对用户行为日志进行分析,通过数据挖掘,来更好地支持业务运营,比如用户轨迹,热力图,登录行为分析,实时业务大屏等。当业务数据量达到千亿规模时,常常导致分析不实时,平均响应时间长达10分钟,影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据,实现秒级响应的实时用户行为分析,并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析,得到用户特征和画像,实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓,对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能,千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高,支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用,免运维,全球多Region部署,快速支持新游戏开服。 Flink+ClickHouse+QuickBI
结论:云数据库 ClickHouse更加适合海量数据分析型业务、大宽表聚合查询分析 Hash对齐 Join场景、实时日志分析场景等等 文档版本:20201224 6 基于 Flink+ClickHouse构建实时游戏数据分析 架构设计 2.架构设计 2.1.架构 本实践主要以流处理为主线,搭建实验环境,构建在线用户行为分析平台:2.2.核心模块 游戏服...
来自: 最佳实践 相关产品:云服务器ECS,弹性公网IP,实时计算,Quick BI,消息队列 Kafka 版,云数据库 ClickHouse
数据迁移上云
<em>数据</em>迁移上云
随着越来越多的企业选择将业务系统上云,各种类型的数据如何便捷、平滑的迁移上 云,成了用户上云较为关注的点;业务上云后,因为业务或者其他方面调整等因素, 也存在如跨区域,跨账号等数据迁移的场景。针对以上需求,阿里云上提供了较为丰 富的工具(如ossimport)、服务(在线迁移服务),旨在能够帮助客户便捷进行数据迁 移。 本文通过云架构设计工具CADT来快速创建云上基础资源,并以杭州区域来模拟线 下IDC(或友商),深圳区域模拟阿里云云上资源。通过云上的工具命令、服务来提 供常见数据迁移场景的最佳实践。
使用在线迁移服务,节省您 部署迁移工具的时间,另外图形化的界面也更方便您将第三方数据轻松迁移至阿里云 对象存储 OSS,也可以在对象存储 OSS 之间进行灵活的数据迁移。本最佳实践以 IDC的 FTP服务器的文件迁移至 OSS作为测试场景。其中杭州 ECS 安装 FTP服务,模拟 IDC的 FTP服务器。在线迁移需注意以下问题:(1)线...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,文件存储NAS,云企业网,云速搭CADT
数据可视化DataV
数据可视化DataV是阿里云一款数据可视化应用搭建工具,旨让更多的人看到数据可视化的魅力,帮助非专业的工程师通过图形化的界面轻松搭建专业水准的可视化应用,满足您会议展览、业务监控、风险预警、地理信息分析等多种业务的展示需求。
数据可视化DataV是阿里云数据可视化应用搭建平台,旨让更多的人看到数据可视化的魅力,帮助非专业的工程师通过图形化的界面轻松搭建专业水准的可视化应用,满足您会议展览、业务监控、风险预警、地理信息分析等多种业务的展示需求.在线客服咨询.DataV数据可视化.9.9元即享专业版超长1个月试用.DataV新品「可视分析创作间」...
来自: 云产品
利用交互式分析(Hologres)进行数据查询
利用交互式<em>分析</em>(Hologres)进行<em>数据</em>查询
场景描述:随着收集数据的方式不断丰富,企业信息化 程度越来越高,企业掌握的数据量呈TB、 PB或EB级别增长。同时,数据中台的快 速推进,使数据应用主要为数据支撑、用户 画像、实时圈人及广告精准投放等核心业务 服务。高可靠和低延时地数据服务成为企业 数字化转型的关键。 Hologres致力于低成本和高性能地大规模 计算型存储和强大的查询能力,为您提供海 量数据的实时数据仓库解决方案和实时交 互式查询服务。 解决问题 1.加速查询MaxCompute数据 2.快速搭建实时数据仓库 3.无缝对接主流BI工具 产品列表 MaxCompute Hologres 实时计算Flink 专有网络VPC DataWorks DataV
实时分析架构 加速查询MaxCompute离线数据 写入业务数据至离线数据仓库MaxCompute,通过Hologres直接加速查询或导入 至Hologres查询,并对接BI分析工具,实现实时分析离线数据。典型应用场景如 下:实时查询MaxCompute离线数据。分析MaxCompute离线数据报表。输出MaxCompute离线数据的在线应用,例如RESTfulAPI...
来自: 最佳实践 | 相关产品:大数据计算服务 MaxCompute,DataV数据可视化,实时计算,Hologres,云速搭CADT
互联网电商行业离线大数据分析
互联网电商行业离线大<em>数据分析</em>
电商网站销售数据通过大数据分析后将业务指标数据在大屏幕上展示,如销售指标、客户指标、销售排名、订单地区分布等。大屏上销售数据可视化动态展示,效果震撼,触控大屏支持用户自助查询数据,极大地增强数据的可读性。
互联网电商行业离线大数据分析 最佳实践 业务架构 场景描述 本实践介绍了使用阿里云MaxCompute、数据库(RDS)、DataWorks等产品实现电商网站离线数据分 分析后的业务指标数据实时在大屏展示。通过完整 的实践Demo为例,提供从电商网站搭建,数据从RDS 同步到MaxCompute、再到DataWorks进行数据分析,最后在大屏上展示...
来自: 最佳实践 | 相关产品:云服务器ECS,云数据库RDS MySQL 版,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,API网关,云速搭CADT
数据管理DMS
数据管理DMS是基于阿里巴巴集团十余年的数据库服务平台的云版本,提供免安装、免运维、即开即用、多种数据库类型与多种环境统一的web数据库管理终端;可以为企业用户快速复制搭建与阿里集团同等安全、高效、规范的数据库DevOps研发流程解决方案。
通过图形化/向导式的开发模式、智能预警及自主诊断修复等能力,降低企业数据价值挖掘门槛.提供覆盖数据全生命周期的DataOps,内置阿里巴巴大规模时间的数据流转管控体系。保障数据安全的同时,提升企业研发效率.了解各管控模式功能差异>.变更稳定功能仅稳定变更和安全协同模式支持,数据安全和研发高效功能仅安全协同模式...
来自: 云产品
新版产品集合页
基于丰富的产品,将计算、存储、网络、数据库、大数据、人工智能等最新产品技术与场景深度融合,为开发者打造稳定可靠的云基础设施以及云原生的开发环境。
图计算服务 GraphCompute新一代一站式图数据管理和分析平台,可帮助您轻松构建海量关系数据的图应用服务。数据湖开源大数据平台 E-MapReduce免费试用云原生开源大数据平台,为客户提供简单易集成的 Hadoop、Hive、Spark、StarRocks、Presto 等开源大数据计算和存储引擎数据湖构建 Data Lake Formation作为云原生数据湖架构...
来自: 云产品
对象存储 OSS
阿里云对象存储 OSS(Object Storage Service)是一款海量、安全、低成本、高可靠的云备份服务,提供最高可达 99.995 % 的服务可用性。多种存储类型供选择,全面优化存储成本。
解决问题:数据孤岛林立不同业务部门由于数据规模、数据类型不同而出现不同的数据孤岛,难以从统一位置访问和管理所有数据数据无法实现有效共享。解决问题:数据存储成本高传统存储方案中不同类型数据往往需要不同的存储系统,同时,数据缺乏有效的生命周期管理策略,导致数据存储成本高。解决问题:数据分析难,安全性低...
来自: 云产品
VMware on 弹性裸金属
VMware on 弹性裸金属
场景描述 传统企业将VMware迁移到阿里云弹性裸 金属,利用云计算平台提供的弹性基础设 施,降低部分运维成本和学习成本,使用其 擅长的技术工具专注自身业务,实现线下业 务平滑迁移上云。 解决问题 1.VMware业务平滑迁移上云 2.集成云产品能力增强业务创新 3.降低混合云成本和复杂度 4.增强系统可用性 产品列表 EBM神龙 ECS NAS OSS ENI NAT EIP
(具体操作请参见4.1.2章节)步骤2 将鼠标放置在左侧导航栏已创建的vCenterServer上,打开右键带单,并选择新建 中心。文档版本:20191121 63 VMwareon弹性裸金属 安装和部署VMware 步骤3 在新建数据中心对话框中,输入数据中心名称,并单击确定。示例中使用Datacenter 作为数据中心名称。4.1.4.添加ESXI主机 步骤1 ...
来自: 最佳实践 | 相关产品:云服务器ECS,弹性公网IP,文件存储NAS,NAT网关,弹性裸金属服务器(神龙)
实时数仓Hologres
Hologres(原交互式分析)是一站式实时数据仓库引擎,支持海量数据实时写入、实时更新、实时分析,支持标准SQL(兼容PostgreSQL协议),支持PB级数据多维分析(OLAP)与自助分析(Ad Hoc),支持高并发低延迟的在线数据服务(Serving),与MaxCompute、Flink、DataWorks深度融合,提供离在线一体化全栈数仓解决方案。
与DataWorks深度集成,提供图形化、智能化、一站式的数仓搭建和交互式分析服务工具,支持数据资产、数据血缘、数据实时同步、数据服务等企业级能力.达摩院Proxima向量检索.与机器学习平台PAI紧密结合,内置达摩院Proxima向量检索插件,支持在线实时特征存储、实时召回、向量检索.兼容PostgreSQL生态,与大数据计算引擎及...
来自: 云产品
游戏系统和业务运维及分析解决方案
游戏系统和业务运维及分析解决方案,通过阿里云日志服务 SLS、对象存储 OSS 等产品,帮助客户构建简单、易用、性能高、成本低的运维及分析平台,满足基础系统运维和业务运维等游戏运维场景需求,同时提供日志数据分析能力,实现故障预警、提高问题排查速度、提高风险识别安全等级等能力,保障游戏业务安全稳定运行。
通过大数据分析结合机器学习重新定义智能运维,通过智能告警、异常检测等功能让运维数据分析更加智能,可以快速实现异常游戏数据分析、游戏平台故障根因分析等智能数据分析能力.智能运维数据分析平台.针对游戏行业运维场景,通过阿里云日志服务 SLS、对象存储 OSS 等产品,帮助客户构建简单、易用、性能高、成本低的运维及...
来自: 解决方案
高速自由流收费稽核解决方案
阿里云高速自由流收费稽核解决方案,助力高速公路由传统模式走向云端一体化模式转型,实现不停车自由通行,业务管理的实时审计、让每辆车的每个行程每笔费用都不遗漏。
通过视频结构化,多模型融合和二次身份挖掘,“以搜车”,百亿级超大规模图像实时检索技术,关键视觉算法全自研,丰富的场景化,逐层递进,实现车辆的无死角分析查询.AI 稽核,车过留痕,无所遁.通过“云边”部署新模式,支撑本地业务的实时智能化处理与执行,在边缘节点处实现了对数据的过滤和分析,极大缩短了设备...
来自: 解决方案
Serverless图片分类和身份证过滤
Serverless图片分类和身份证过滤
场景描述 场景一:大型图库智能管理通过深度学习算法,自动识别图像中的常见的场景,客户可以基于函数计算对接智能媒体管理的图像识别功能,轻松实现图片的自动管理和分组,完成大型图像库的智能管理。 场景二:身份证图片过滤 通过扫描存储在OSSbucket中的图片,通 过智能媒体管理进行身份证识别,找到海量图片中的身份证图片,对敏感信息进行处理。 解决问题 1.通过无服务器计算实现图片处理自动化 2.OSS触发器的使用 3.使用函数计算调用阿里云的AIP或SDK 产品列表 函数计算 智能媒体管理IMM 对象存储OSS
为云上文档、图片数据,提 供一站式数据处理、分析、检索等管控体验。针对不同的业务场景,封装整合完整 的处理能力,让数据快速流转。更多信息,请参见 IMM 简介(https://www.aliyun.com/product/imm)。对象存储 OSS:是阿里云提供的海量、安全、低成本、高可靠的云存储服务。您 可以在任何应用、任何时间、任何地点存储...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算,智能媒体管理
高速公路智慧运营解决方案
阿里云高速公路智慧运营解决方案一套为高速公路管理处打造的智能化运营平台。助力高速公路集团进行数智化转型。
利用先进的视频图像、图形学处理技术和深度学习算法,实现对城市视觉数据的接入、计算、分析、索引和挖掘,赋能交通等各个行业场景.城市视觉智能引擎.致力于批量结构化数据的存储和计算,提供快速、完全托管的PB级数据仓库解决方案及分析建模服务,使您可以经济并高效的分析处理海量数据.大数据计算服务.根据您提交的需求,...
来自: 解决方案
云解析PrivateZone
云解析PrivateZone是基于阿里云专有网络VPC环境的内网域名解析和管理服务。能够在自定义的一个或多个VPC中快速构建DNS系统,实现不同VPC的完全数据隔离,更安全。
提供解析时延、解析请求量、解析命中缓存率、热点域名、热点请求来源等各个维度的数据分析,为业务优化解析设置提供数据参考.解析日志转存 SLS.直接将解析日志转存到自己的 SLS 日志库中(前提是必须开通流量分析功能).提供端到端、全链路、可视化的流量分析服务,完整还原从收到域名解析请求、域名解析过程、最终返回 DNS ...
来自: 云产品
DataWorks
大数据开发治理平台 DataWorks基于MaxCompute/EMR/MC-Hologres等大数据计算引擎,为客户提供专业高效、安全可靠的一站式大数据开发与治理平台。每天阿里巴巴集团内部有数万名数据/算法工程师正在使用DataWorks,承担集团99%数据业务构建。
全方位覆盖大数据平台的数据存储、数据集成、数据管理与治理、数据开发、数据处理及分析数据服务、高可用、平台管理、系统运维、数据安全等能力.先进级!阿里云通过信通院数据平台整体解决方案最高等级评测.阿里云一体化大数据智能计算平台ODPS(Open Data Platform and Service)入选世界互联网领先科技成果,10余年来...
来自: 云产品
大数据workshop
大数据workshop
大数据workshop
详见:https://www.aliyun.com/product/ecs DataHub:数据总线(DataHub)服务是阿里云提供的流式数据(Streaming Data)服务,它提供流式数据的发布(Publish)和订阅(Subscribe)的功能,让您可以轻 松 构 建 基 于 流 式 和 应 用。详见:https://www.aliyun.com/product/datahub 实时计算 Flink 版:实时计算 ...
来自: 最佳实践 | 相关产品:块存储,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,弹性公网IP,数据传输,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,实时计算,数据总线,Quick BI,Hologres
金融专属大数据workshop
金融专属大数据workshop
实践目标 学习搭建一个实时数据仓库,掌握数据采集、存储、计算、输出、展示等整个业务流程。 整个实时数据仓库系统全部基于阿里云产品进行架构搭建,用户可以掌握并学会运用各个服务组件及各个组件之间如何联动。 理解阿里云原生实时离线一体数仓解决方案架构以及掌握交付落地的实践使用方法。 前置知识要求 熟练掌握SQL语法 对大数据体系系统知识有一定的了解
MaxCompute 交互式分析(Hologres)是为大数据设计的实时交互式 分析产品,它与MaxCompute无缝打通,支持数据实时写入,支持PB级数据进 行高并发、低延时的分析处理,兼容PostgreSQL协议,可以使用您最熟悉的BI 工具对海量数据进行自助的多维分析透视和业务探索,同时也支持超高QPS点查 能 力,满 足 、服 务 一...
来自: 最佳实践 | 相关产品:块存储,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,弹性公网IP,数据传输,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,实时计算,数据总线,Quick BI,Hologres
基于Flink的资讯场景实时数仓
基于Flink的资讯场景实时数仓
场景描述 本实践针对资讯聚合类业务场景,Step by Step介绍 如何搭建实时数仓。 解决问题 1.如何搭建实时数仓。 2.通过实时计算Flink实现实时ETL和数据流。 3.通过实时计算Flink实现实时数据分析。 4.通过实时计算Flink实现事件触发。 产品列表 实时计算 专有网络VPC 云数据库RDSMySQL版 分析型数据库MySQL版 消息队列Kafka 对象存储OSS NAT网关 DataV数据可视化
另一部分需要将数据写入 OLAP系统,经过多维 给业务方使用。5.数据挖掘:从历史中预测未来一直是人类的梦想,对公司来说,能对未来趋势作出 正确的判断才能基业长青。机器学习就是通过历史数据对未来进行预测的一种手 段,可以使数据发挥最大的作用。6.业务系统:经过处理的数据,可直接服务于相关业务方,如运营、决策...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,NAT网关,云原生数据仓库AnalyticDB My,云速搭CADT
云呼叫中心
阿里云呼叫中心(Cloud Call Center)是阿里云推出的企业级智能联络中心类产品,为客户提供灵活的坐席扩展能力、高性能的分布式服务以及丰富的OpenAPI能力,搭配智能排队路由、可视化IVR以及阿里云智能客服产品体系,轻松搭建智能化的联络中心服务。
能帮助企业提升服务质量、监控舆情风险、优化服务策略,典型应用场景有智能客服质检、销售机会分析等,无缝嵌入智能呼叫中心.智能对话分析.基于语音识别和合成,机器学习和自然语言理解等技术,在智能呼叫中心中IVR中预置导航模块,在传统的热线电话中加入了语音业务自助办理/语音问答功能,可有效的处理常规业务场景,大幅...
来自: 云产品
< 1 2 3 4 ... 6 >
共有6页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用