基于Flink+ClickHouse构建实时游戏数据分析
在互联网、游戏行业中，常常需要对用户行为日志进行分析，通过数据挖掘，来更好地支持业务运营，比如用户轨迹，热力图，登录行为分析，实时业务大屏等。当业务数据量达到千亿规模时，常常导致分析不实时，平均响应时间长达10分钟，影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据，实现秒级响应的实时用户行为分析，并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析，得到用户特征和画像，实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓，对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能，千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高，支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用，免运维，全球多Region部署，快速支持新游戏开服。 Flink+ClickHouse+QuickBI
关键技术选型 1.1.ClickHouse vs Presto 面对海量的数据，我们如何进行数据库的选项，这里对比了开源的两种常见分析性数 据库。ClickHouse对数据采用有序存储的方式，其核心思想是充分利用了磁盘批量顺序读写 的性能要远远高于随机读写的特征，并且结合 LSM tree的设计进一步进行优化，使得 写性能达到最优（可达到 200MB/S...
游戏数据运营融合分析
场景描述 1.游戏行业有结构化和非结构化数据融合分 析需求的客户。 2.游戏行业有数据实时分析需求的客户，无法 接受T+1延迟。 3.对数据成本有一定诉求的客户，希望物尽其 用尽量优化成本。 4.其他行业有类似需求的客户。 方案优势/解决问题 1.秒级实时分析：依托ADB计算密集型实例， 秒级监控DAU等数据，为广告投放效果提 供有力的在线决策支撑。 2.高效数据融合分析：打通结构化和非结构化 数据，支撑产品体验分析；广告买量投放效 果实时（分钟级）分析，渠道的评估更准确。 3.低成本：DLA融合冷数据分析+ADB存储密 集型温数据分析+ADB计算密集型热数据分 析，在满足各种分析场景需求的同时，有效 地降低的客户的总体使用成本。 4.学习成本低：DLA和ADB兼容标准SQL语 法，无需额外学习其他技术。 产品列表 专有网络VPC、负载均衡SLB、NAT网关、弹性公网IP 云服务器ECS、日志服务SLS、对象存储OSS 数据库RDSMySQL、数据传输服务DTS、数据管理DMS 分析型数据库MySQL版ADS 数据湖分析DLA、QuickBI
本例 列举后端应用日志分析场景，通过 Logtail从多台 ECS服务器中将海量的日志 数据汇聚到 SLS中，通过 SLS再将数据投递到 OSS中，用较低的成本存放 海量的日志数据。2.热数据分析阶段：应用访问数据库，写入数据。通过这些数据我们可以做天维 度跨度的实时数据分析。本例构造两张业务表，其中用户登录表通过存储过程 模拟...
云上持续审计合规最佳实践
本方案是面向云上资源的操作审计和配置审 计，提供的最佳实践。适用于企业型客户。通过最佳实践帮助客户在本场景下更好的使用 阿里云，涉及到配置审计、操作审计、函数计算、SLS、OSS 等服务的实践操作。 解决问题 企业会面临外部对企业云上信息系统的合规要求，如等保2.0法规要求。 同时当云上资源达到一定规模时，在内部会制定合规管控的基线，满足自身管理效率和安全合规的需 求。 包括记录云上资源管理的操作日志、资源配置变更日志，还需依赖云平台提供的持续监控和自动告警能力，实现合规性的自主监管。
文档日期：20210726 70 云上持续审计合规最佳实践 操作审计 选择杭州新建日志库来存放告警信息。步骤2 按照需求配置告警：填写告警规则名称、检查频率、触发条件、行动策略等属性。在告警中心中确认和调整行动策略 步骤1 进入告警页面，可以看到我们刚才创建的告警规则。单击打开告警中心。文档日期：20210726 71 云上持续...
混合云存储构建VMware虚拟化平台
场景描述 本文以混合云存储阵列SA2600系统为例，介绍如 何在混合云存储环境下部署VMware虚拟化平台， 以及混合云环境下虚拟机的部署、扩容、云备份等功 能演示。 解决问题 1.如何使用混合云存储部署VMware虚拟化平台。 2.存储阵列在混合云环境下的使用，比如虚拟机部 署、扩容、云备份等。 产品列表 1.混合云存储阵列 2.对象存储OSS
高效：自动云分层，热数据存放在本地存储空间，确保了数据的高速访问，冷数 据放在云端，充分利用公共云存储的海量空间。云缓存功能确保当数据存放在云 端的时候，也能利用本地存储空间的缓存功能，为应用提供快速响应。 可靠：阿里云混合云存储阵列采用了全冗余的硬件设计，支持数据加密，集成 AD/LDAP，支持ACL，...
自建数据库迁移到云数据库
本方案介绍如何将网站的自建数据库迁移至云数据库 RDS，解决您随着业务增长可能会面临的数据库运维难题。数据库采用高可用架构，支持跨可用区容灾，给业务带来数据安全、可用性、性能和成本方面收益。方案提供了快速体验教程，模拟了数据库迁移所需的工作，帮助您快速上手。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云备案控制台方案导读背景RDS 解决的问题如何迁移到 RDS迁移前后对比优惠购买自建数据库迁移到云数据库本方案介绍如何将网站的自建数据库迁移至云数据库 RDS，解决您随着业务增长可能会面临的数据库运维难题。数据库采用高可用架构，支持跨可用区容灾，...
来自：
解决方案
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
在大数据ETL场景，将Kafka中的消息流转到其他下游服务是很常见的场景，除了常规的消息流转外，很多场景还需要基于消息体内容做判断，然后决定下游服务做何种操作。 该方案实现了通过Kafka中消息Key的内容来判断应该对MongoDB做增、删、改的哪种DML操作。 当Kafka收到消息后，会自动触发函数计算中的函数，接收到消息，对消息内容做判断，然后再操作MongoDB。用户可以对提供的默认函数代码做修改，来满足更复杂的逻辑。 整体方案通过CADT可以一键拉起依赖的产品，并完成了大多数的配置，用户只需要到函数计算和MongoDB控制台做少量配置即可。
25 文档版本：20240304 基于函数计算 FC 实现阿里云 Kafka 消息内容控制 MongoDB DML 操作 场景验证 这里数据库名 kafkaToMongoDB 查询 中的数据 2.4.MongoDB 步骤1 双击新建的库，可以看到默认的 test 集合，通过 db.test.find().limit(20);命令可以查询 该集合的数据，可以看到目前该集合中是没有任何数据的。26 文档版本...
云数据库 SelectDB 版
阿里云数据库 SelectDB 是现代化实时数据仓库 SelectDB 在阿里云上的全托管服务，内核基于业界领先的开源分析型数据库 Apache Doris 研发，由阿里云和飞轮科技联合打造。阿里云数据库 SelectDB 聚焦于满足企业级大数据分析需求，广泛应用于实时报表分析、即席多维分析、日志检索分析、数据联邦与查询加速等场景，致力于为客户提供极致性能、简单易用的数据分析服务。
SelectDB 版实例中2023.08.20开发参考如何通过对象存储OSS导入数据至云数据库 SelectDB 版实例中2023.08.20开发参考如何通过INSERT INTO导入数据至云数据库 SelectDB 版实例中2023.08.20产品简介云数据库 SelectDB 版是基于 Apache Doris 研发的新一代云原生实时数仓服务。SelectDB 具有云原生存算分离、实时极速、融合统一...
来自：
云产品
云数据库 RDS MySQL 版
阿里云云数据库RDS MySQL是一种稳定可靠、可弹性伸缩的在线MySQL数据库服务, 提供了高可用、高可靠、高安全、易运维等一站式的数据库解决方案，帮助您免除MySQL运维的烦恼。
黑客脚本入侵完全可以通过网络通信的安全手段，如：VPC、安全组、白名单、SSL 加密访问等方案来拦截，同时还可启用数据存储加密 TDE 技术，通过密文数据存储防止黑客拖库你认为一个优秀的数据库，最重要的特质是什么？1.一款优秀的数据库应该具备以下特点:可靠性：保证数据安全，防止数据丢失或损坏，并可以恢复。可扩展性...
来自：
云产品
跨账号资源全局视图及搜索
当客户在阿里云上使用了多个云账号时，跨账号的资源查看和管理将会变得复杂。资源中心为您提供跨账号、跨产品、跨地域的资源统一视图及资源搜索能力。
当前客户可在资源中心中使用账号、地域、产品、资源类型、资源ID、资源名称、资源标签、资源组作为查询条件，直接搜索快速查找定位到告警的资源，节省人力成本提升效率。一个界面全局查看和盘点资源企业在云上使用多种云资源，多地域部署，资源可能分布在不同的云账号内。多账号、多产品、多地域的资源结构给用户在资源管理...
来自：
解决方案
数据库和应用迁移 ADAM
数据库和应用迁移 Advanced Database & Application Migration（以下简称 ADAM）是一款把数据库和应用迁移到阿里云（公共云或专有云）的产品，支持 Oracle、Teradata、Db2 的异构迁移上云。ADAM 全面评估上云可行性、成本和云存储选型，内置实施协助、数据迁移、应用迁移等工具，确保可靠、快速、低成本上云。
查看全部日志.查看 ADAM 产品相关文档.如何使用我们的产品.更多问题交流讨论 F&Q.运行环境信息采集、数据去重、数据脱敏.收集并汇总 Oracle 数据库信息，包含：环境信息、对象信息、...例如，之前只使用 RDS MySQL 版数据库，现在还需要用 MaxCompute 存放历史数据，用 AnalyticDB MySQL 版存放分析型数据.云上 IT 系统迁移.
来自：
云产品
Oracle数据库一键上云解决方案
Oracle数据库一键上云解决方案—基于阿里巴巴多年最佳实践，通过POLARDB for Oracle+ADAM+DTS核心产品组合，提供从Oracle数据库与应用架构发现、评估改造、迁移实施及专家服务全链路支持，最大限度降低用户Oracle数据库和应用迁移/上云的风险、难度及实施周期。
通过科学评估到目标库的迁移兼容性，改造工作量，匹配规格，风险SQL等关键要素，ADAM能帮助企业最大程度降低Oracle数据库和应用迁移的风险、技术难度和实施周期.Oracle迁移方案评估.Oracle迁移方案评估.ADAM评估生成的智能迁移计划，联合ADAM认证迁移工具（阿里云DTS、DSG for ADAM等），帮助最大程度降低Oracle数据库在...
来自：
解决方案
阿里云数据库快速搭建疫情分析系统最佳实践
疫情态势分析和防控任务迫在眉睫，如果快速搭建高效的疫情态势分析系统是众多部门和单位的难题，阿里云polardb for PG+Ganos解决方案可在极短时间内完成分析系统搭建，有效助力疫情防。 方案优势： 1、性能优越：Ganos作为自研的时空数据库引擎，相比postgis性能更优秀。 2、安全稳定：故障自动切换自愈，资源隔离，多副本存储。 3、简单易用：开箱即用，兼容postgresql，打通quickbi快速搭建数据分析展示。 4、功能强大：相比postgis在时空模型上做了较多扩充，支持几何模型，栅格模型，网络模型，时空轨迹模型，点云模型，拓扑网络模型。
阿里云数据库快速搭建疫情分析系统 最佳实践 业务架构 场景描述 疫情降临，疫情态势分析和防控任务迫在眉 睫，如果快速搭建高效的疫情态势分析系统 第三方 GIS数据接入 是众多部门和单位的难题，阿里云 RDS PG+Ganos解决方案可在极短时间内完成 分析系统搭建，有效助力疫情防控。GIS数据管理平台 方案优势 1.快速搭建，快速...
弹性裸金属自建ORACLE数据库双机
场景描述 1.客户业务系统选型ORACLE数据库且不愿做 业务改造：由于历史原因，客户业务系统只支持 ORACLE数据库，客户没有技术/时间去做技术栈 改造。 2.高性能：希望拥有比虚拟机更高的性能和稳定 性，以保障数据库高性能，支撑高并发的业务系 统。 3.高可用：追求数据库服务的高可用，在某一台数 据库服务器宕机时快速切换备机，实现对业务应 用的最小影响。 4.数据安全性：极端情况下能找回数据，数据备份 和恢复更方便。
验证文档内容 文档版本：20220207 I 弹性裸金属自建 ORACLE数据库双机 前言 前言 概述 本实践演示基于弹性裸金属的云上 ORACLE双机搭建最佳实践，通过 DG实现两个 可用区实例数据同步，配合 TAF技术，在主库宕机时将应用连接切换到备库，保障数 据库高可用性。应用范围 第三方云平台或线下 IDC需要使用阿里云日志服务生态。...
基于MyBase构建自主可控数据库和高弹性应用实践
一些企业级客户上云前，会重点关心数据库是否自主可控，包括云资源独享、自主可运维、获取OS 权限等特点，同时又要兼顾数据库合规性、安全性和高性能的要求；并力求在业务弹性下合理利用云产品降低数据和应用成本，弹性地支持业务。本实践为此类用户提供相关实践参考。
云数据库专属集群为 客户独享云资源更加安全，用户既享受到云数据库服务的便捷灵活，又满足企业 对 数 据 库 合 规 性、安 全 性 和 高 性 能 的 要 求。详见：https://www.aliyun.com/product/apsaradb/cddc 堡垒机：集中管理资产权限，全程记录操作数据，实时还原运维场景，助力企业用 户构建云上统一、安全、高效运维...
数据库异地灾备
场景描述 适用于不满足于单地域，对数据可靠性 （RPO）和服务可用性（RTO）要求更高 的，希望防范断电、断网等机房故障，抵 御地震、台风等自然灾害，具备异地容灾 备份恢复能力的客户业务场景。 解决问题 1.实时备份，RPO达到秒级 2.表级恢复，故障恢复时间大大缩短 3.长期归档，自动管理备份生命周期 4.异地灾备，构建数据库灾备中心 产品列表 专有网络VPC 云服务器ECS 弹性公网IP（EIP） 负载均衡SLB 云数据库RDSMySQL 数据库备份服务DBS 对象存储服务OSS 数据湖分析服务DLA 数据管理服务DMS 数据传输服务DTS
更新上海热备数据库用户 wp_admin为只读权限 为保证数据一致性，在热备场景中，只保留深圳生产中心的数据库用户对数据库有写 权限。步骤1 回到上海热备数据库控制台页面，修改数据库用户 wp_admin 对 wordpress库权限为 只读。文档版本：20220207 53 数据库异地灾备 配置异地热备环境 文档版本：20220207 54 数据库异地灾备...
数据库自动扩缩容和自动SQL优化
方案使用数据库自治服务DAS实现RDS MySQL数据库的自动扩缩容和自动SQL优化，将基于人工的手动式运维转变为基于智能的主动式持续优化，具有数据库运维成本低，服务稳定性高的优势。
查看详情自建数据库迁移到云数据库本方案介绍如何将网站的自建数据库迁移至云数据库 RDS，解决您随着业务增长可能会面临的数据库运维难题。数据库采用高可用架构，支持跨可用区容灾，给业务带来数据安全、可用性、性能和成本方面收益。方案提供了快速体验教程，模拟了数据库迁移所需的工作，帮助您快速上手。查看详情技术...
来自：
解决方案
基于Flink的资讯场景实时数仓
场景描述 本实践针对资讯聚合类业务场景，Step by Step介绍 如何搭建实时数仓。 解决问题 1.如何搭建实时数仓。 2.通过实时计算Flink实现实时ETL和数据流。 3.通过实时计算Flink实现实时数据分析。 4.通过实时计算Flink实现事件触发。 产品列表 实时计算 专有网络VPC 云数据库RDSMySQL版 分析型数据库MySQL版 消息队列Kafka 对象存储OSS NAT网关 DataV数据可视化
实时计算 Flink独享模式可开放 UDF/UDAF/UDTF接口，为用户提供更强大的数 据处理能力。文档版本：20220223（发布日期）1 基于 Flink的资讯场景实时数仓 前置条件 前置条件 在进行本文操作前，您需要完成以下准备工作：注册阿里云账号，并完成实名认证。您可以登录阿里云控制台，并前往实名认证页 面（account.console....
云速搭部署云数据库专属集群Mybase
通过云速搭设计一个Mybase专属集群部署架构包含AliSQL及Tair
MyBase不仅能保 障客户独享云资源更加安全、享受到云数据库服务的便捷灵活，同时还满足企业 对 数 据 库 合 规 性、安 全 性 和 高 性 能 的 要 求。详见:https://www.aliyun.com/product/apsaradb/cddc 文档版本：20220207 3 云速搭部署云数据库专属集群Mybase 云速搭架构设计入门 云速搭架构设计入门 方案架构 通过云速搭...
- 产品推荐
- 这些文档可能帮助您