基于Flink+ClickHouse构建实时游戏数据分析
基于Flink+ClickHouse构建实时游戏<em>数据</em>分析
在互联网、游戏行业中,常常需要对用户行为日志进行分析,通过数据挖掘,来更好地支持业务运营,比如用户轨迹,热力图,登录行为分析,实时业务大屏等。当业务数据量达到千亿规模时,常常导致分析不实时,平均响应时间长达10分钟,影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据,实现秒级响应的实时用户行为分析,并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析,得到用户特征和画像,实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓,对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能,千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高,支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用,免运维,全球多Region部署,快速支持新游戏开服。 Flink+ClickHouse+QuickBI
本实践介绍如何快速收集海量用户行为 ,实现秒级响应的实时用户行为分析,并 通过实时流计算、云数据库 ClickHouse等 技术进行深入挖掘和分析,得到用户特征和 画像,实现个性化系统推荐服务。产品列表 最佳实践频道 阿里云最佳实践分享群 专有网络 VPC 弹性公网 IP EIP 云服务器 ECS 消息队列 Kafka版 云数据库 ...
来自: 最佳实践 相关产品:云服务器ECS,弹性公网IP,实时计算,Quick BI,消息队列 Kafka 版,云数据库 ClickHouse
本地数据中心基于SMB/NFS协议访问对象存储最佳实践
本地<em>数据</em>中心基于SMB/NFS协议访问对象存储最佳实践
1. 云存储扩容和迁移 集成智能缓存算法,自动识别冷热数据,将热数据保留在本地缓存,保证数据访问体验,无感知的将海量云存储数据接入本地数据中心,拓展存储空间。同时在云端 保留全量数据(冷+热)保证数据的一致性 2.云容灾 随着云计算的普及,越来越多的用户把自己的业务放到了云上。但是随着业务的发展,如何提高业务的可靠性和连续性,跨云容灾是一个比较热门的话题。借助云存 储网关对虚拟化的全面支持,可以轻松应对各种第三方云厂商对接阿里云的数据容灾。 3. 多地数据共享和分发 通过多个异地部署的文件网关实例,对接同一个阿里云OSS Bucket,可以实现快速的异地文件共享和分发,非常适合多个分支机构之间互相同步和共享数据。 4. 适配传统应用 有很多用户在云上的业务是新老业务的结合,老业务是从数据中心迁移过来的使用的是标准的存储协议,例如: NFS/SMB/iSCSI。新的应用往往采用比较新的技 术,支持对象访问的协议。如何沟通两种业务之间的数据是一个比较麻烦的事情,云存储网关正好起到一个桥梁的作用,可以便捷的沟通新旧业务,进行数据交换。 5. 替代 ossfs 和 ossftp ossfs 和 ossftp 都是基于文件协议的开源工具,用户可以通过它们直接上传文件到OSS。但是这两个开源文件都不建议在生产环境使用(POSIX 兼容度低),同时挂 载在用户的客户端需要额外的配置和缓存资源,对于多个客户端的情况安装配置繁琐。通过文件网关的服务可以完美替代 ossfs 和 ossftp。通过创建文件网关,用 户只需要执行简单的挂载(NFS)和映射(Windows SMB)就可以像使用本地文件系统一样使用 OSS。
1.外部交换机:虚拟机可以访问物理网络,能与外部网络上的服务端和客户端进行 。相同 Hyper-V服务器上的虚拟机可以相互通信。本质是虚拟交换机绑定到物 理网卡,通过桥接的方式使得虚拟机看起来像真实物理机一样。此功能依赖宿主机 支持 ICS(Internet Connection Sharing)服务。因为阿里云裸金属服务器禁用了 ...
来自: 最佳实践 | 相关产品:对象存储 OSS,云存储网关
云速搭构建规模云手机压测集群
云速搭构建<em>大</em>规模云手机压测集群
在互联网游戏行业新游发行前、金融行业的基金或券商APP在大版本更新前,均需要将APP部署到大规模测试环境中进行压测,确保大规模并发场景下对APP本身可靠性和后台业务系统的稳定性及资源准备情况做好验证。 本实践设计一个游戏压测场景,在阿里云的多地域快速部署共一万台云手机,每台云手机之间网络可互通,每台云手机通过阿里云提供的NAT网关可访问互联网。
云速搭构建规模云手机压测集群 最佳实践 实现架构 场景描述 在互联网游戏行业新游发行前、金融行业的基 金或券商 APP在版本更新前,均需要将 APP 部署到规模测试环境中进行压测,确保规 模并发场景下对 APP本身可靠性和后台业务 系统的稳定性及资源准备情况做好验证。应用范围 互联网游戏新游戏压测,版本更新前...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,弹性公网IP,NAT网关,云企业网,云速搭CADT,弹性云手机
智能商业分析 Quick BI
瓴羊智能商业分析 Quick BI 是阿里云用户臻选的数据可视化工具,大幅提升数据分析和报表开发效率,一站式满足企业各种场景的数据分析和决策的诉求。
应用已购模块支持查看及应用所有模块电子表格不支持单独购买支持数据大屏不支持单独购买赠送基础容量,可按需增购数据应用企业门户不支持支持支持订阅推送(邮件)不支持支持支持自助取不支持(普通导出支持最高1万行)不支持(普通导出支持最高1万行)支持(大数据量导出支持最高100万行)监控告警不支持不支持支持数据源...
来自: 云产品
异地双活场景下的数据双向同步
异地双活场景下的<em>数据</em>双向同步
概述 随着客户业务规模的扩大,对系统高可用性要求越来越高,越来越多用户采用异地双活/多活架构,多活架构往往涉及业务侧做单元化改造,本方案仅模拟用户已做单元化改造后的数据双向同步,数据库采用双主架构,本地写本地读,同时又保证双库的数据一致性,为业务增加可用性和灵活性。 适用场景 数据库双向同步 数据库全局ID不冲突 双活架构的数据库建设问题 技术架构 本实践方案基于如下图所示的技术架构和主要流程编写操作步骤: 方案优势 DTS双向同步,采用独立模块避免数据同步占用系统资源。 奇偶ID涉及,避免数据冲突。 DTS多种处理冲突的方式供业务选择。 安全:原生的多租户系统,以项目进行隔离,所有计算任务在安全沙箱中运行。
随着客户业务规模的扩大,对系统高可用性要求越 数据库双向同步 来越高,越来越多用户采用异地双活/多活架构,多 数据库全局 ID不冲突 活架构往往涉及业务侧做单元化改造,本方案仅模 双活架构的数据库建设问题 拟用户已做单元化改造后的数据双向同步,数据库 采用双主架构,本地写本地读,同时又保证双库的 一致性,为...
来自: 最佳实践 | 相关产品:云数据库RDS MySQL 版,负载均衡 SLB,容器服务 ACK,数据传输,云企业网,容器镜像服务 ACR,云解析DNS
新版产品集合页
基于丰富的产品,将计算、存储、网络、数据库、大数据、人工智能等最新产品技术与场景深度融合,为开发者打造稳定可靠的云基础设施以及云原生的开发环境。
实时计算 Flink 版阿里云基于 Apache Flink 构建的企业级、高性能实时大数据处理系统,完全兼容开源 Flink API,提供丰富的企业级增值功能。检索分析服务 Elasticsearch版免费试用兼容开源 Elasticsearch 的功能,以及 Security、Machine Learning、Graph、APM 等商业功能,致力于数据分析、数据搜索等场景服务。图计算服务...
来自: 云产品
对象存储 OSS
阿里云对象存储 OSS(Object Storage Service)是一款海量、安全、低成本、高可靠的云备份服务,提供最高可达 99.995 % 的服务可用性。多种存储类型供选择,全面优化存储成本。
Clouder 认证存储应用与数据管理2023.04.20产品简介对象存储 OSS 是一款具有行业领先的安全、稳定、高性价比、高性能的云存储服务,可以帮助各行业的客户在互联网应用、大数据分析、机器学习、数据归档等各种使用场景存储任意数量的数据,以及进行任意位置的访问,同时通过丰富的数据处理能力更便捷地使用数据。对象存储 ...
来自: 云产品
云数据库 RDS MySQL 版
阿里云云数据库RDS MySQL是一种稳定可靠、可弹性伸缩的在线MySQL数据库服务, 提供了高可用、高可靠、高安全、易运维等一站式的数据库解决方案,帮助您免除MySQL运维的烦恼。
RDS MySQL 版基于阿里巴巴的 MySQL 源码分支,经过双十一高并发、大数据量的考验,拥有优良的性能。RDS MySQL 支持实例管理、账号管理、数据库管理、备份恢复、白名单、透明数据加密以及数据迁移等基本功能,还支持读写分离、SQL 审计、多可用区集群等高级功能。云数据库 RDS MySQL 版原理架构基础版、高可用版、集群版适用...
来自: 云产品
视频直播
阿里云视频直播服务(ApsaraVideo Live)是基于领先的内容接入与分发网络和大规模分布式实时流媒体转码技术打造的直播平台,提供便捷接入、高清流畅、低延迟、高并发的音视频云高清直播直播服务。
查看视频云场景推荐,帮助您更好了解产品搭配,快速选购产品产品优势全链路覆盖多渠道、全链路服务支持方案提供从推流、视频处理、内容分发到播放的全套解决方案,提供上下行码率自适应、窄带高清转码、截图、录制、视频审核、时移、数据监控、云导播、超低延时直播、实时日志、视频流管理等功能和服务。全球布局全球战略,...
来自: 云产品
海量共享设备安全高效运维
针对设备规模大、地理分布广泛、业务实时性要求高的共享设备,提供安全高效的设备管理运维。本方案基于阿里云物联网平台,搭配物联网卡的上网能力,由IoT安全运营中心为设备提供全方位的安全防护,保障共享设备的高可用接入和安全高效运维。
一站式管理提供一站式设备接入、消息通信、监控运维、数据流转、数据服务等能力,轻松应对千万级设备的管理,大幅提升运维效率,降低人力成本。高安全性实时感知物联网安全风险,自动处置安全威胁和阻断恶意连接,为海量共享设备提供全方位的安全防护能力。应用场景海量设备运维我们的解决方案不仅支持千万级设备接入,并且...
来自: 解决方案
通过PAI-灵骏分布式训练和部署Llama 2模型
以 Meta 最新开源的大语言模型 Llama2 为例,通过PAI-灵骏完成了大语言模型的高效分布式训练、三阶段指令微调、模型离线推理验证以及在线服务部署等完整的开发链路。
支持多种AI角色管理,算力资源管理运维的企业级AI平台集群管理通过控制台页面或 OpenAPI 即可快速的进行集群的创建、扩容和缩容操作,可视化展示、关联诊断分析工具实现方便的性能调优及快速的问题溯源训练效率、性价比提升模型训练只需简单配置即可自动分布式并发执行,优化的计算、网络、通信和存储架构提高资源利用率...
来自: 解决方案
EMR集群安全认证和授权管理 
EMR集群安全认证和授权管理 
场景描述 阿里云EMR服务Kafka和Hadoop安全集群使 用Kerberos进行用户安全认证,通过Apache Ranger服务进行访问授权管理。本最佳实践中以 Apache Web服务器日志为例,演示基于Kafka 和Hadoop的生态组件构建日志大数据仓库,并 介绍在整个数据流程中,如何通过Kerberos和 Ranger进行认证和授权的相关配置。 解决问题 1.创建基于Kerberos的EMR Kafka和 Hadoop集群。 2.EMR服务的Kafka和Hadoop集群中 Kerberos相关配置和使用方法。 3.Ranger中添加Kafka、HDFS、Hive和 Hbase服务和访问策略。 4.Flume中和Kafka、HDFS相关的安全配 置。 产品列表:E-MapReduce、专有网络VPC、云服务器ECS、云数据库RDS版
提供 用户在云上使用开源技术建设数据仓库、离线批处理、在线流式处理、即时查询、机 器 学 习 等 场 景 下 的 解 决 方 案。详 情 请 查 看 www.aliyun.com/product/emapreduce Kerberos:Kerberos是一种网络身份验证协议,它旨在通过使用密钥加密为客户 端/服务器应用程序提供强身份验证。它提供了网络上的身份...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,E-MapReduce
一体化电力大数据平台解决方案
一体化电力大数据平台解决方案基于阿里云专有云平台和数据中台,构建一站式电力云和大数据平台,满足泛在电力物联网对数据中台的建设需求,通过大数据分析挖掘,赋能电网营销、运检、设备等各个业务领域,促进数据创新应用的快速落地。
基于阿里云专有云平台和数据中台,构建一站式电力云和大数据平台,满足泛在电力物联网对数据中台的建设需求,通过大数据分析挖掘,赋能电网营销、运检、设备等各个业务领域,促进数据创新应用的快速落地.提供多样化的数据质量检验方式,提高数据时效性.规范化数据服务方式,形成统一规范的基于主题的数据服务 体系,满足...
来自: 解决方案
游戏业务分区合服
游戏业务分区合服
概述 为了提高游戏玩家的体验,并提高留存率,增强付费率.除了游戏本身的内容趣味性外, 改善用户访问加速体验,并对游戏数据分区合服是很常见的业务运营场景. 本方案适用于: 1游戏业务运营,对多个分区数据库进行合并,增加付费用户积极性的需求. 2游戏业务加速,中心化部署的网络加速需求. 方案优势 1便捷数据迁移. 2内网安全传输 3加速远端用户访问质量体验 4快速应对上层业务运营的技术实现操作. 产品列表 网络产品:VPCSLBNAT网关CEN共享带宽包EIP全球加速GA 计算产品:ECS 数据库产品:RDSDTS 存储产品:OSS 云解析
DTS 提供了数据迁移、实时数据 Data 订阅及数据实时同步等多种数据传输能力,可实现 DTS Transmission 不停服数据迁移、数据异地灾备、异地多活(单元 Service 化)、跨境数据同步、实时数据仓库、查询报表分 流、缓存更新、异步消息通知等多种业务应用场景,助您构建高安全、可扩展、高可用的数据架构。阿里云关系型数据库...
来自: 最佳实践 | 相关产品:云数据库RDS MySQL 版,对象存储 OSS,数据传输,NAT网关,云企业网
互联网医疗安全等保合规解决方案
互联网医疗安全等保合规解决方案依据国家相关法律法规及行业规范,为线上医疗服务提供方、医药电商平台、医疗信息化服务商等提供安全风险识别,定级和差距评估,安全加固支持,安全等保实施一站式服务,助力企业完成快速、高效、合规、安全的等保安全认证。
在安全等保测评过程中,阿里云用户无需关注物理、网络、通信等基础安全防护,只需关注涉及应用安全配置及业务数据保护的相关技术指标即可,极节约人力和经费成本.高效合规,测评任务减负.联合各地多家咨询和测评机构,定级、备案、建设整改、等级测评、监督检查各个流程无缝对接,实现一站式合规.一站式服务,化繁为简....
来自: 解决方案
传统企业业务上云基础安全防护
传统企业业务上云基础安全防护
场景描述 越来越多的企业客户选择把自己的生产系统部 署在公共云平台上,以满足自身业务的发展及弹 性扩缩容、稳定性等方面的需求。如何在公共云 上构建基本的网络安全、主机安全、入侵检测、 运维审计等方案,是企业首选的最佳实践。 解决问题 1.服务器安全、应用安全 2.网络安全、数据安全 3.安全审计、安全管理 产品列表 云安全中心 Web应用防火墙 云防火墙 SSL证书 数据库审计 堡垒机
 数据库审计:智能解析数据库通信流量,细粒度审计数据库访问行为,帮助企业 文档版本:20220210 III传统企业业务上云基础安全防护 前言 精准识别、记录云上数据安全威胁,为云端数据库提供全方位的安全、诊断及维 护能力。文档版本:20220210 IV传统企业业务上云基础安全防护 目录 目录.文档版本信息 I.法律声明 II 前言...
来自: 最佳实践 | 相关产品:云安全中心,Web应用防火墙,数据库审计,堡垒机,云防火墙,云速搭CADT
短信服务
阿里云短信服务(Short Message Service-SMS)支持国际和国内短信验证码、短信通知和营销推广短信,国内短信支持三网合一专属通道,支持发送助手及API/SDK接口,按成功收费,免运维,秒级触达,服务范围覆盖全球200多个国家和地区。
通信授权服务,提供用户授权数据实时存证、查询和管理能力.号码认证服务.基于基础运营商通信网络能力的互联网产品,企业客户可以通过集成号码隐私保护能力,为其平台用户提供隐私通话服务,同时可以通过录音来对其服务质量进行分析,提升产品安全性及平台价值.号码隐私保护.号码百科是阿里云为用户提供号码信息服务的能力。...
来自: 云产品
远程监考解决方案
远程监考解决方案,助力疫情期间学校、培训机构、企事业单位通过远程视频监考的方式,为全球各地学生按计划取得所学学分、学历认证提供了技术支撑。
多频道隔离技术,降低音视频通信大面积故障风险,同时支持720P,1080P 高清画质,提供优质体验.多频道隔离,降低故障风险.监考老师利用在线考试系统中多分屏方式,对多个考生多机位远程监考,并可通过实时音视频通话进行线上考试操作培训,提醒考生注意事项.支持监考老师、考生的每一路音视频实时录制,或将多路音视频进行...
来自: 解决方案
< 1 2 3 4 ... 12 >
共有12页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用