基于Flink+ClickHouse构建实时游戏数据分析
基于Flink+ClickHouse构建实时游戏<em>数据</em>分析
在互联网、游戏行业中,常常需要对用户行为日志进行分析,通过数据挖掘,来更好地支持业务运营,比如用户轨迹,热力图,登录行为分析,实时业务大屏等。当业务数据量达到千亿规模时,常常导致分析不实时,平均响应时间长达10分钟,影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据,实现秒级响应的实时用户行为分析,并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析,得到用户特征和画像,实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓,对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能,千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高,支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用,免运维,全球多Region部署,快速支持新游戏开服。 Flink+ClickHouse+QuickBI
文档版本:20201224 65 基于 Flink+ClickHouse构建实时游戏数据分析 数据可视化 步骤3 在单击左侧导航栏中的数据源>云数据库/获取数据或者通过新建数据源。文档版本:20201224 66 基于 Flink+ClickHouse构建实时游戏数据分析 数据可视化 步骤4 在添加数据源页面云数据库页签下,单击 ClickHouse。步骤5 在添加 ClickHouse...
来自: 最佳实践 相关产品:云服务器ECS,弹性公网IP,实时计算,Quick BI,消息队列 Kafka 版,云数据库 ClickHouse
利用交互式分析(Hologres)进行数据查询
利用交互式分析(Hologres)进行<em>数据</em>查询
场景描述:随着收集数据的方式不断丰富,企业信息化 程度越来越高,企业掌握的数据量呈TB、 PB或EB级别增长。同时,数据中台的快 速推进,使数据应用主要为数据支撑、用户 画像、实时圈人及广告精准投放等核心业务 服务。高可靠和低延时地数据服务成为企业 数字化转型的关键。 Hologres致力于低成本和高性能地大规模 计算型存储和强大的查询能力,为您提供海 量数据的实时数据仓库解决方案和实时交 互式查询服务。 解决问题 1.加速查询MaxCompute数据 2.快速搭建实时数据仓库 3.无缝对接主流BI工具 产品列表 MaxCompute Hologres 实时计算Flink 专有网络VPC DataWorks DataV
Hologres常见使用场景 联邦分析实时数据和离线数据 业务数据分为冷数据和热数据,冷数据存储在离线数据仓库MaxCompute中,热 存储在Hologres中。Hologres可以联邦分析实时数据和离线数据,对接BI分析 工具,快速响应简单查询与复杂查询的业务需求。图1.联邦分析架构图 实时数据仓库 实时写入业务数据至实时计算,使用...
来自: 最佳实践 | 相关产品:大数据计算服务 MaxCompute,DataV数据可视化,实时计算,Hologres,云速搭CADT
新版产品集合页
基于丰富的产品,将计算、存储、网络、数据库、大数据、人工智能等最新产品技术与场景深度融合,为开发者打造稳定可靠的云基础设施以及云原生的开发环境。
NoSQL数据库云数据库 Redis 免费试用全托管、兼容Redis协议的内存数据库,包含Redis社区和Tair(又称为Redis 企业)。云原生内存数据库 Tair阿里云自研数据库,兼容 Redis 的同时提供更多数据结构和企业级能力,包括全球多活、任意时间点恢复和透明加密等。云原生多模数据库 Lindorm具备海量宽表数据和时序数据等多模...
来自: 云产品
自建Hadoop迁移MaxCompute
自建Hadoop迁移MaxCompute
场景描述 客户基于ECS、IDC自建或在友商云平台自建了大数 据集群,为了降低企业大数据计算平台的成本,提高 大数据应用开发效率,更有效保障数据安全,把大数 据集群的数据、作业、调度任务以及业务数据库整体 迁移到MaxCompute和其他云产品。 解决的问题 自建Hadoop集群搬迁到MaxCompute 自建Hbase集群搬迁到云Hbase 自建Kafka或应用数据准实时同步到 MaxCompute 自建Azkaban任务迁移到Dataworks任务 产品列表 MaxCompute,Dataworks、云数据库Hbase版、Datahub、VPC,ECS。
启动 Hbase历史数据迁移 步骤1 进入历史数据迁移界面 步骤2 创建 Hbase迁移任务 文档版本:20210723 36 自建Hadoop迁移MaxCompute Hbase表数据迁移到云数据库 Hbase 步骤3 查看迁移进程 文档版本:20210723 37 自建Hadoop迁移MaxCompute Hbase表数据迁移到云数据库 Hbase 4.4.启动 Hbase实时数据同步 如果如要进行一段...
来自: 最佳实践 | 相关产品:云服务器ECS,DataWorks,大数据计算服务 MaxCompute,云数据库 HBase 版,数据总线,云速搭
媒体处理MPS
阿里云媒体处理(ApsaraVideo for Media Processing,原MTS)是一种多媒体数据处理服务。它以经济、弹性和高可扩展的转换方法,将多媒体数据转码成适合在全平台播放的格式。并基于海量数据深度学习,对媒体的内容、文字、语音、场景多模态分析,实现智能审核、内容理解、智能编辑。
云数据库RDS.负载均衡SLB.推荐搭配使用.快速搭建您专属的教学平台.满足传统广电视频技术规范要求的转码服务。倍速转码功能可提供更高转码效率。丰富院线大片优化处理经验提供更佳画质更流畅播放体验.多种上传方式,满足不同的视频上传需求场景.高速稳定的并行转码系统。转码任务规模无缝扩展.提供Web播放器及iOS、Android...
来自: 云产品
自建数据库迁移到云数据库
本方案介绍如何将网站的自建数据库迁移至云数据库 RDS,解决您随着业务增长可能会面临的数据库运维难题。数据库采用高可用架构,支持跨可用区容灾,给业务带来数据安全、可用性、性能和成本方面收益。方案提供了快速体验教程,模拟了数据库迁移所需的工作,帮助您快速上手。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云备案控制台方案导读背景RDS 解决的问题如何迁移到 RDS迁移前后对比优惠购买自建数据库迁移到云数据库本方案介绍如何将网站的自建数据库迁移至云数据库 RDS,解决您随着业务增长可能会面临的数据库运维难题。数据库采用高可用架构,支持跨可用区容灾,...
来自: 解决方案
SLS数据入湖Kafka最佳实践
SLS<em>数据</em>入湖Kafka最佳实践
应用和数据分散在多云或混合云,在面对多云/混合云这样大的趋势下,数据无法进行统一的聚合、分析处理和导出等,本方案给出了在多云/混合云场景下,构建通过标准的Kafka协议和托管服务,SLS可以连接Kafka数据入湖导入,然后进行统一的海量数据的集中存储、智能转储、聚合分析查询等。
SLS 数据入湖 Kafka 最佳实践 业务架构 场景描述 应用和数据分散在多云或混合,在面对多云/混合这样大的趋势下,数据无法进行统一的 聚合、分析处理和导出等,本方案给出了在多 /混合场景下,构建通过标准的Kafka协议 和托管服务,SLS可以连接Kafka数据入湖导 入,然后进行统一的海量数据的集中存储、智 能转储、...
来自: 最佳实践 | 相关产品:云服务器ECS,日志服务(SLS),Serverless 应用引擎,消息队列 Kafka 版
通过ES兼容接口方式使用Kibana访问SLS数据
通过ES兼容接口方式使用Kibana访问SLS<em>数据</em>
自建ELK日志系统的客户迁移到阿里云日志服务SLS后,对SLS查询分析语法不太熟悉的客户,可以继续沿用原有的查询分析习惯,在不改变使用方式习惯的情况下,通过Elasticsearch兼容接口的方式使用Kibana访问SLS。
产品列表  专有网络VPC  服务器ECS  容器服务Kubernetes  日志服务SLS  阿里交换机 最佳实践频道 最佳实践分享群 SLS交流群  阿里安全组  弹性公网IP  NAT网关通过ES兼容接口方式使用 Kibana访问SLS数据 最佳实践 文档版本:20240418(发布日期)基于MSE原生网关同城多活最佳实践 文档版本信息 ...
来自: 最佳实践 | 相关产品:云服务器ECS,容器服务 ACK,日志服务(SLS)
基于函数计算FC实现阿里Kafka消息内容控制MongoDB DML操作
基于函数计算FC实现阿里<em>云</em>Kafka消息内容控制MongoDB DML操作
在大数据ETL场景,将Kafka中的消息流转到其他下游服务是很常见的场景,除了常规的消息流转外,很多场景还需要基于消息体内容做判断,然后决定下游服务做何种操作。 该方案实现了通过Kafka中消息Key的内容来判断应该对MongoDB做增、删、改的哪种DML操作。 当Kafka收到消息后,会自动触发函数计算中的函数,接收到消息,对消息内容做判断,然后再操作MongoDB。用户可以对提供的默认函数代码做修改,来满足更复杂的逻辑。 整体方案通过CADT可以一键拉起依赖的产品,并完成了大多数的配置,用户只需要到函数计算和MongoDB控制台做少量配置即可。
l 阿里云安全组 解决问题•实现根据 Kafka 消息的具体内容判断,该对 l 阿里云函数计算(FC)MongoDB 做哪种 DML 操作,并且用户可以自行 扩展函数计算中函数的逻辑,实现自己的业务场 l 阿里云云数据库 MongoDB 景。函数计算具有完善的日志系统、容错机制。可 l 阿里云云消息队列 Kafka 以清晰的看到对每条消息的处理...
来自: 最佳实践 | 相关产品:函数计算,消息队列 Kafka 版,云数据库 MongoDB版
原生企业级数据
基于对象存储 OSS 构建的数据湖,可对接多种数据输入方式,存储任何规模的结构化、半结构化、非结构化数据,打破数据湖孤岛。
产品解决方案文档与社区权益中心定价市场合作伙伴支持与服务了解阿里备案控制台原生企业级数据湖方案介绍方案优势应用场景方案部署方案权益原生企业级数据湖基于对象存储 OSS 构建的数据湖,可对接多种数据输入方式,存储任何规模的结构化、半结构化、非结构化数据,打破数据湖孤岛。无缝对接多种数据分析产品,对...
来自: 解决方案
云数据库 RDS MySQL
阿里云云数据库RDS MySQL是一种稳定可靠、可弹性伸缩的在线MySQL数据库服务, 提供了高可用、高可靠、高安全、易运维等一站式的数据库解决方案,帮助您免除MySQL运维的烦恼。
云数据库 RDS MySQL 将 MySQL 的部署、运维、弹性、安全等特性封装起来,对外提供一个数据库实例,相比于传统的自建数据库云数据库服务经济高效、安全可靠,使开发者能专注于核心业务开发。具体有一下几方面的优点。首先阿里云 RDS 服务的可用性和数据可靠性都高达99.9%,而如果是传统的自购服务器来搭建数据库服务,...
来自: 云产品
云数据库 SelectDB
阿里云数据库 SelectDB 是现代化实时数据仓库 SelectDB 在阿里云上的全托管服务,内核基于业界领先的开源分析型数据库 Apache Doris 研发,由阿里云和飞轮科技联合打造。阿里云数据库 SelectDB 聚焦于满足企业级大数据分析需求,广泛应用于实时报表分析、即席多维分析、日志检索分析、数据联邦与查询加速等场景,致力于为客户提供极致性能、简单易用的数据分析服务。
相关产品云数据库 SelectDB 版本产品云数据库 RDS MySQL 版云消息队列 Kafka 版数据传输服务DTS实时计算Flink版在线咨询即席多维分析传统解决方案面临的挑战包括:计算分析过程复杂,难以快速响应查询;表结构不灵活,不适应灵活的业务变化;数据发生变化时,原有数据无法实时更新。基于 SelectDB 建设多维数据分析平台,可...
来自: 云产品
ECS 数据备份与保护
随着企业核心业务规模不断扩大,需要根据业务需求对生产环境中的关键数据进行定期备份。
产品解决方案文档与社区权益中心定价市场合作伙伴支持与服务了解阿里备案控制台ECS 数据备份与保护方案介绍方案优势应用场景方案部署ECS 数据备份与保护随着企业核心业务规模不断扩大,需要根据业务需求对生产环境中的关键数据进行定期备份,在发生误操作、病毒感染、或攻击等情况时,能够快速从已有的快照恢复到某个...
来自: 解决方案
企业级灾备与数据管理
本方案以备份 ECS 文件为例,介绍如何部署一个简单的云灾备环境,以满足常见的数据保护需求。
产品解决方案文档与社区权益中心定价市场合作伙伴支持与服务了解阿里备案控制台企业级灾备与数据管理方案介绍方案优势应用场景方案部署方案权益企业级灾备与数据管理备份 Cloud Backup 为企业数据安全提供了全方位的灾备、冷热数据统一管理能力,全面覆盖公共、混合以及本地 IDC 生产环境,帮助用户减少因...
来自: 解决方案
云数据库产品总览(瑶池)
阿里云提供完善的数据库解决方案,多款数据库产品,满足99%的业务场景,荣获Gartner、信通院等国内外多项认证。轻松满足高可靠、高可用性、高性能等数据库需求;运维工作量大幅减少,让企业一站式享受数据上云及分布式架构的技术红利!
并基于阿里云数据库数据管理工具DMS构建了一套面向金融企业级的数据安全管控平台.依托Redis缓存,PolarDB 分布式水平/垂直拆分,支持并行计算,解决高并发、存储容量、在线计算的扩展性难题;借助于DTS的实时同步能力,让数据流动起来,借助PolarDB MySQL,AnalyticDB的大数据处理能力,决策报表从分钟级别降低至秒级....
来自: 云产品
云数据库ClickHouse
云数据库ClickHouse 是阿里云提供的分布式实时分析型列式数据库服务。具有高性能、开箱即用、企业特性支持。广泛应用于流量分析、广告营销分析、行为分析、人群划分、客户画像、敏捷BI、数据集市、网络监控、分布式服务和链路监控等业务场景。
云数据库 ClickHouse 社区兼容包年包月系列价格下调.快速入门 Clickhouse 数据库训练营,赢取学习福利!ClickHouse 创始人:融合数据库该“卷”的还是性能和速度.阿里云 ClickHouse 企业云原生 ClickHouse 技术揭秘.云数据库 ClickHouse 企业技术白皮书重磅发布.从 MySQL,Kafka,SLS,OSS,Spark,Flink 数据接入.QuickBI...
来自: 云产品
混合云数据库统一管理
混合<em>云数据库</em>统一管理
本最佳实践描述在混合云场景下,用户利用数据库网关将IDC自建数据库和云上RDS实例统一管理。通过DMS管理云上RDS实例和IDC自建数据库,并通过DTS实现IDC数据库和云上RDS的数据同步, DBS将数据备份到云上
其中杭州部署 MySQL数据库和数据库网关,上海部署 PgSQL 据库。注意:上述模板中“自建 MySQL”和“自建 PgSQL”已经和公网 IP绑定,在部署完 数据库软件后,可以解绑公网 IP。模拟仅有内网 IP的数据库服务器。步骤3 部署所有资源。单击部署资源,单击下一步,直到完成资源部署。文档版本:20201224(发布日期)8 混合...
来自: 最佳实践 | 相关产品:数据传输,数据管理
云数据库RDS SQL Server
阿里云SQL Server数据库已含微软License,支持复杂的SQL查询,性能优秀,对基于Windows平台.NET架构的应用程序具有完美的支持,广泛应用于新零售、医疗、房地产等行业。
云数据库RDS PostgreSQL版.推荐搭配使用.通用:DMS跨数据库查询.各种关联查询.查看全部日志.云数据库RDS SQL Server 版企业集群版Alwayson架构,支持一写多读模式,可支持弹性添加多个只读节点,分摊读性能压力;内置数据库自治服务节约50%数据库运维成本,将更多精力集中在SQL上线把关和业务查询逻辑优化等.某房地产公司....
来自: 云产品
云数据库 RDS MariaDB
云数据库 MariaDB 版是全球流行的开源数据库,支持包括 MySQL InnoDB 等多种存储引擎,为不同需求的用户提供灵活的选择。
云数据库 RDS MariaDB 是全球流行的开源数据库,支持包括 MySQL InnoDB 等多种存储引擎,为不同需求的用户提供灵活的选择.RDS学习路径.云数据库 RDS MariaDB .更多产品与服务.数据强一致性保证,满足金融级可靠性要求。能搭建事前、事中、事后三层数据安全防护网,提供双机热备、同城、异地三中心部署架构,充分满足...
来自: 云产品
云数据库RDS PostgreSQL
云数据库RDS PostgreSQL 版完全兼容开源PostgreSQL,基于云原生架构,软硬协同优化,提供稳定可靠、高性价比的数据库服务。通过丰富的插件拓展,支撑各领域场景化业务,如自研Ganos多维多模时空引擎及开源PostGIS地理信息引擎、向量引擎、时序引擎等百余款插件。
基于对象存储OSS外部表将冷数据保存到存储并可与分析型数据库PostgreSQL版交互.无限空间扩展.原生数据仓库 ADB.服务器 ECS.对象存储 OSS.推荐搭配产品.企业PostgreSQL标配.核心业务数据库.解决数据流转和实时OLAP问题,使海量数据的复杂查询、统计业务可以更快、更好的落地和实现.采用PostgreSQL分区表+pg_pathman...
来自: 云产品
< 1 2 3 4 ... 8 >
共有8页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用