基于Flink+ClickHouse构建实时游戏数据分析
在互联网、游戏行业中，常常需要对用户行为日志进行分析，通过数据挖掘，来更好地支持业务运营，比如用户轨迹，热力图，登录行为分析，实时业务大屏等。当业务数据量达到千亿规模时，常常导致分析不实时，平均响应时间长达10分钟，影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据，实现秒级响应的实时用户行为分析，并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析，得到用户特征和画像，实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓，对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能，千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高，支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用，免运维，全球多Region部署，快速支持新游戏开服。 Flink+ClickHouse+QuickBI
关键技术选型 1.1.ClickHouse vs Presto 面对海量的数据，我们如何进行数据库的选项，这里对比了开源的两种常见分析性数 据库。ClickHouse对数据采用有序存储的方式，其核心思想是充分利用了磁盘批量顺序读写 的性能要远远高于随机读写的特征，并且结合 LSM tree的设计进一步进行优化，使得 写性能达到最优（可达到 200MB/S...
利用交互式分析(Hologres)进行数据查询
场景描述：随着收集数据的方式不断丰富，企业信息化 程度越来越高，企业掌握的数据量呈TB、 PB或EB级别增长。同时，数据中台的快 速推进，使数据应用主要为数据支撑、用户 画像、实时圈人及广告精准投放等核心业务 服务。高可靠和低延时地数据服务成为企业 数字化转型的关键。 Hologres致力于低成本和高性能地大规模 计算型存储和强大的查询能力，为您提供海 量数据的实时数据仓库解决方案和实时交 互式查询服务。 解决问题 1.加速查询MaxCompute数据 2.快速搭建实时数据仓库 3.无缝对接主流BI工具 产品列表 MaxCompute Hologres 实时计算Flink 专有网络VPC DataWorks DataV
MaxCompute致力于批量结构化数 据的存储和计算，提供海量数据仓库的解决方案及分析建模服务。由于单台服务器的处理能力有限，海量数据的分析需要分布式的计算模型。分布式的 计算模型对数据分析人员要求较高且不易维护。数据分析人员不仅需要了解业务需求，同时还需要熟悉底层分布式计算模型。MaxCompute为您提供完善的数据...
EMR集群安全认证和授权管理
场景描述 阿里云EMR服务Kafka和Hadoop安全集群使 用Kerberos进行用户安全认证，通过Apache Ranger服务进行访问授权管理。本最佳实践中以 Apache Web服务器日志为例，演示基于Kafka 和Hadoop的生态组件构建日志大数据仓库，并 介绍在整个数据流程中，如何通过Kerberos和 Ranger进行认证和授权的相关配置。 解决问题 1.创建基于Kerberos的EMR Kafka和 Hadoop集群。 2.EMR服务的Kafka和Hadoop集群中 Kerberos相关配置和使用方法。 3.Ranger中添加Kafka、HDFS、Hive和 Hbase服务和访问策略。 4.Flume中和Kafka、HDFS相关的安全配 置。 产品列表：E-MapReduce、专有网络VPC、云服务器ECS、云数据库RDS版
详见：https://web.mit.edu/kerberos/krb5-1.4/krb5-1.4.1/doc/krb5- admin/domain_realm.html [capaths]为了执行直接（非分层）跨领域身份验证，需要一个数据库来构造领域 之间的 身份 验 证路径，本节用于定 义该 数 据库。详见：https://web.mit.edu/kerberos/krb5-1.4/krb5-1.4.1/doc/krb5-admin/capaths.html 文档版本...
低代码电商直播间解决方案
低代码电商直播间解决方案,基于阿里云云原生、音视频、AI 智能算法和网络等先进技术，通过低代码方式接入，帮助企业快速完成在自有 APP、小程序、网站等平台的私域电商直播间的搭建。其易接入且强扩展的特性，既可以满足企业定制需求，又可以降低时间成本，快速验证直播卖货商业模式。
基于分析型数据库MySQL版构建的OLAP数据库解决方案，给企业提供PB级实时数据仓库能力，可以毫秒级针对万亿级数据进行即时的多维分析透视和业务探索.MySQL 数据库垂直拆分.通过DRDS分布式数据库解决方案的垂直拆分能力，客户可以获得RDS MySQL的分布式查询能力以及垂直拆分库的管理能力。支持多个RDS MySQL的统一访问入口.唐...
来自：
解决方案
渗透测试|阿里云安全
阿里云渗透测试团队以攻击者思维，模拟黑客对业务系统进行一次全面深入的安全测试，帮助企业挖掘出正常业务流程中的安全缺陷和漏洞。助力企业先于黑客发现安全风险，防患于未然。
1元体验简单易用的MySQL数据仓库，毫秒级海量数据多维分析！MySQL数据库+Quick BI数据可视化分析最佳实践.云数据库专属集群重磅发布.MySQL 三节点企业版发布通用型规格.MySQL 支持高可用版升级到三节点企业版.40A_活动与推广.谢赟辉,靖鑫,也树.产品售卖通用模板，可支持自定义.40A_【标题】产品售卖.旧商品卡片，建议使用「...
来自：
云产品
自建Hadoop迁移MaxCompute
场景描述 客户基于ECS、IDC自建或在友商云平台自建了大数 据集群，为了降低企业大数据计算平台的成本，提高 大数据应用开发效率，更有效保障数据安全，把大数 据集群的数据、作业、调度任务以及业务数据库整体 迁移到MaxCompute和其他云产品。 解决的问题 自建Hadoop集群搬迁到MaxCompute 自建Hbase集群搬迁到云Hbase 自建Kafka或应用数据准实时同步到 MaxCompute 自建Azkaban任务迁移到Dataworks任务 产品列表 MaxCompute，Dataworks、云数据库Hbase版、Datahub、VPC，ECS。
exit 1.11.Hive操作 步骤1 master节点执行下列命令初始化 Hive元数据库 schematool-dbType mysql-initSchema-verbose 步骤2 启动 MetaStore服务 nohup hive-service metastore&步骤3 创建 Hive数据仓库 hive create database log_data_warehouse;use log_data_warehouse;步骤4 创建表：CREATE TABLE apache_logs(ipaddr ...
MaxCompute湖仓一体方案
场景描述 自建数据湖与云数仓的融合解决方案，将 MaxCompute与自建的Hive集群做数据打 通，通过存储共享，元数据镜像等方式，解 决传统模式下的存储冗余，计算资源弹性能 力弱的痛点。可大幅度增强系统的资源弹 性，解决业务高峰期计算资源不足的问题。 方案优势 1.业务无侵入性：现有业务无需改造。 2.性能优化：MaxCompute在SQL上做 了大量优化与能力沉淀，可提高SQL 运行性能，降低计算成本。 3.灵活管理：元数据实时同步，无需额外 管理数据同步任务。 4.资源弹性：利用MaxCompute计算池 弹性进行海量数据计算。 解决问题 1.增强业务高峰期的资源弹性。 2.优化自建数据湖的数据治理能力。 3.减少跨平台数据处理的存储冗余。 产品列表 专有网络VPC 云服务器ECS 访问控制RAM 运维编排OOS MaxCompute（原ODPS） 云企业网CEN
湖仓一体 兼具数据湖的灵活性与数据仓库的成长性。方案优势 1.业务无侵入性：现有业务无需改造。2.性能优化：MaxCompute在 SQL上做 了大量优化与能力沉淀，可提高 SQL 运行性能，降低计算成本。3.灵活管理：元数据实时同步，无需额外 管理数据同步任务。4.资源弹性：利用 MaxCompute计算池 产品列表 弹性进行海量数据计算。...
阿里云最佳实践离线大数据workshop
本最佳实践，首先搭建一个简化的电商 demo 系统，然后为此 demo 系统构建一套离 线大数据分析系统。 实践目标 1. 学习搭建一个离线大数据分析系统，学习从数据采集到数据存储和业务分析的业 务流程。 2. 整个离线大数据分析系统全部基于阿里云产品进行搭建，学习掌运用各个服务组 件及各个组件之间如何联动。 背景知识要求 熟练掌握 SQL 语法 对大数据体系系统知识有一定的了解
MaxCompute向用户提供了完善的数据导入方 案以及多种经典的分布式计算模型，能够更快速的解决用户海量数据计算问题，有 效 降 低 企 业 成 本，并 保 障 数 据 安 全。详 见：https://help.aliyun.com/product/27797.html Dataworks：DataWorks基于MaxCompute/EMR/MC-Hologres等大数据计算引 文档版本：20210802（发布...
来自：
最佳实践
相关产品：云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,日志服务（SLS）,大数据计算服务 MaxCompute,DataV数据可视化,数据总线,Quick BI,云速搭
CDH迁移升级CDP最佳实践
当前 CDH 免费版停止下载，终止服务，针对需要企业版服务能力并且CDH 升级过程对业务影响较小的客户，通过安装新的 CDP 集群，将现有数据拷贝至新集群，然后将新集群切换为生产集群，升级过程没有数据丢失风险，停机时间较短，适合大部分互联网客户升级使用。
构造 Impala测试数据 由于 Impala不支持 date类型数据，所以讲原始 date数据转化为 varchar类型的数 据。Alter table call_center change column cc_rec_start_date cc_rec_start_date varchar(10);Alter table call_center change column cc_rec_end_date cc_rec_end_date varchar(10);Alter table date_dim change column...
金融专属大数据workshop
实践目标 学习搭建一个实时数据仓库，掌握数据采集、存储、计算、输出、展示等整个业务流程。 整个实时数据仓库系统全部基于阿里云产品进行架构搭建，用户可以掌握并学会运用各个服务组件及各个组件之间如何联动。 理解阿里云原生实时离线一体数仓解决方案架构以及掌握交付落地的实践使用方法。 前置知识要求 熟练掌握SQL语法 对大数据体系系统知识有一定的了解
在HoloWeb控制台，选择SQL编辑器，然后点击新增SQL窗口，选择对应的数 据库，编辑填写相应的DDL建表语句（默认数据表的属性是列存模式，列存模式更 适合OLAP数据分析，数据表的行存模式更适合高QPS点查询场景）。1.首先创建ads_province_info表。文档版本：20210803（发布日期）39阿里云最佳实践金融大数据WorkShop 最佳...
来自：
最佳实践
相关产品：块存储,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,弹性公网IP,数据传输,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,实时计算,数据总线,Quick BI,Hologres
自建K8S集群迁移ACK弹性裸金属集群
场景描述 在微服务化改造之后，企业在享受K8S带来应 用管理的便利的同时，存在硬件性能不足，本 地扩展性差，容器容灾难，K8S管理复杂等问 题。 解决问题 1.增强K8S扩展性：如何通过弹性裸金属服务 器的强劲硬件性能，实现云端资源急速扩 展，从容应对应用访问压力大的问题。 2.如何简化云端K8S运维：通过阿里云容器服 务（ACK）实现敏捷开发和部署落地，加速 企业业务迭代。 3.如何综合考虑迁移和容灾：如何整合云上和 云下容器资源实现遇到故障时可以通过健 康检查实现自动容灾。 4.如何不改应用上云：如何实现应用上云数据 库连接零修改。 5.数据库上云及回退：如何实现上云回退； 产品列表 ACK/ECS/SLB/NAT网关/弹性裸金属服务器/DTS/RDS MySQL
Pod 网络 CIDR：172.20.0.0/16-Service CIDR：172.21.0.0/20-命名空间：bp_30-镜像仓库：地域-华东 容器镜像仓 1（杭州）库-仓库名称：magento-类型：公开-代码源：本地仓库。机型：通过 ECS模拟 RDS：实际迁移过程-规格：ecs.c6.xlarge（4C/8G）-区域：华东 1（杭州）中建议 RDS配-数量：1-数据库类型：置和线下 IDC-主机...
渗透测试服务
阿里云渗透测试（Penetration Test）是一种黑盒安全测试方法，安全专家通过模拟真实黑客的技术手段对目标进行漏洞检测，突破系统的安全防护手段，深入评估漏洞可能造成的实际影响。帮助企业挖掘出正常业务流程中的隐藏的安全缺陷和漏洞，并提出修复建议。
1元体验简单易用的MySQL数据仓库，毫秒级海量数据多维分析！MySQL数据库+Quick BI数据可视化分析最佳实践.云数据库专属集群重磅发布.MySQL 三节点企业版发布通用型规格.MySQL 支持高可用版升级到三节点企业版.谢赟辉,靖鑫,也树.旧商品卡片，建议使用「轻量商品卡片」.通用icon文字列表.长期实战钻研一线企业安全环境下的...
来自：
云产品
基于ECI+FaaS构建游戏战斗结算服
在游戏行业的很多SLG游戏作品中，为了防止客户端作弊，在每局战斗之后，在客户端预判玩家胜利的情况下，需要服务端来进行战斗数据的结算，从而确定玩家是不是真正的胜利。战斗结算是强CPU密集型，结算系统每日需要大量的计算力，尤其是开服或者活动期间忽然涌入的大量玩家，导致需要的计算量瞬间几倍增长，同时需要结算系统保持稳定的延时来保证玩家的用户体验。 1. ECI支持500台实例30S弹出，快速解决业务模块扩容压力。FaaS毫秒级伸缩扩容，化解算力瓶颈，平滑解决暴增调用请求。 2. 降低成本：ECI每天弹性运行8小时，与6代同规格包月相比节省成本40%+，FaaS按需付费，即开即用，节省预留资源消耗。 3. 免运维：FaaS和ECI都是全托管免运维的服务，客户专注业务开发即可。 4. 模块公共化：减轻游戏逻辑服的压力，结算需求复用到类似需求的游戏。
游戏数据库服务器可以采用与游戏 服务器 1：1的配比关系，也可以采用多区共用的部署方式。二、集群部署方式：通过负载均衡及网关服务器将原多台逻辑服务器组建成大服，同服可以承载更多 玩家在线，有助于打造玩家生态。通过网关服务器实现玩家请求调度及连接状态监测。战场服务器对计算性能及负载能力相对要求更高，可以...
云原生数据仓库 AnalyticDB 选型与定价
阿里云云原生数据仓库AnalyticDB提供包年包月、按量付费两种计费方式，并伴有节省计划和资源包（存储包、计算包）等形式，您可以根据自身需求灵活选择和组合使用。了解AnalyticDB定价策略，持续管控和优化成本。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云AI 助理备案控制台云原生数据仓库AnalyticDB云原生数据仓库AnalyticDB云原生数据仓库AnalyticDB MySQL版云原生数据仓库 AnalyticDB PostgreSQL 版产品概述产品功能选型与定价入门与试用技术解决方案相关资源控制台文档联系我们立即购买选型与定价秒级...
来自：
云产品
云原生数据仓库 AnalyticDB 入门与试用
快速上手阿里云云原生数据库AnalyticDB，了解其强大性能和秒级弹性，立即开始免费试用AnalyticDB，享受业内领先的数据库解决方案，轻松管理和优化您的数据资源。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云AI 助理备案控制台云原生数据仓库AnalyticDB云原生数据仓库AnalyticDB云原生数据仓库AnalyticDB MySQL版云原生数据仓库 AnalyticDB PostgreSQL 版产品概述产品功能选型与定价入门与试用技术解决方案相关资源控制台文档联系我们立即购买入门与试用秒级...
来自：
云产品
云原生数据仓库 AnalyticDB 相关资源
阿里云云原生数据仓库AnalyticDB提供详细的产品文档，面向开发者提供全方位的API服务和SDK资源。有免费的实验课程和解决方案体验馆，帮助您快速上手AnalyticDB。在阿里云瑶池数据库社区，您可以和更多开发者交流。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云AI 助理备案控制台云原生数据仓库AnalyticDB云原生数据仓库AnalyticDB云原生数据仓库AnalyticDB MySQL版云原生数据仓库 AnalyticDB PostgreSQL 版产品概述产品功能选型与定价入门与试用技术解决方案相关资源控制台文档联系我们立即购买相关资源秒级...
来自：
云产品
云原生数据仓库 AnalyticDB 产品功能
阿里云云原生数据仓库AnalyticDB提供数据库生态兼容、高性价比和极致分析性能，具有稳定可靠、弹性扩展等性能特征，帮助企业打造全场景覆盖的一站式数据分析平台。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云AI 助理备案控制台云原生数据仓库AnalyticDB云原生数据仓库AnalyticDB云原生数据仓库AnalyticDB MySQL版云原生数据仓库 AnalyticDB PostgreSQL 版产品概述产品功能选型与定价入门与试用技术解决方案相关资源控制台文档联系我们立即购买产品功能秒级...
来自：
云产品
- 产品推荐
- 这些文档可能帮助您