基于Flink+ClickHouse构建实时游戏数据分析
在互联网、游戏行业中，常常需要对用户行为日志进行分析，通过数据挖掘，来更好地支持业务运营，比如用户轨迹，热力图，登录行为分析，实时业务大屏等。当业务数据量达到千亿规模时，常常导致分析不实时，平均响应时间长达10分钟，影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据，实现秒级响应的实时用户行为分析，并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析，得到用户特征和画像，实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓，对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能，千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高，支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用，免运维，全球多Region部署，快速支持新游戏开服。 Flink+ClickHouse+QuickBI
关键技术选型 1.1.ClickHouse vs Presto 面对海量的数据，我们如何进行数据库的选项，这里对比了开源的两种常见分析性数 据库。ClickHouse对数据采用有序存储的方式，其核心思想是充分利用了磁盘批量顺序读写 的性能要远远高于随机读写的特征，并且结合 LSM tree的设计进一步进行优化，使得 写性能达到最优（可达到 200MB/S...
办公安全平台SASE
阿里云办公安全平台（Security Access Service Edge）依托阿里云海量的边缘节点，将安全能力延伸至用户边缘，为企业分支机构/门店、远程移动办公场景的访问互联网及云上服务流量提供就近接入的安全防护能力。
阿里云SSL证书一直致力于为企业提供更全面的网站安全能力及解决方案，目前已有数十万用户选择我们的证书进行 网站HTTPS加密及网站安全的综合解决方案.更多产品与服务.默认色值为#fafafa,添加后将覆盖默认色值.办公安全平台SASE基于云+网+边+端的一体化架构体系，将“安全+网络”能力无缝融合，实现了对企业云下办公资产安全...
来自：
云产品
自建Hadoop迁移MaxCompute
场景描述 客户基于ECS、IDC自建或在友商云平台自建了大数 据集群，为了降低企业大数据计算平台的成本，提高 大数据应用开发效率，更有效保障数据安全，把大数 据集群的数据、作业、调度任务以及业务数据库整体 迁移到MaxCompute和其他云产品。 解决的问题 自建Hadoop集群搬迁到MaxCompute 自建Hbase集群搬迁到云Hbase 自建Kafka或应用数据准实时同步到 MaxCompute 自建Azkaban任务迁移到Dataworks任务 产品列表 MaxCompute，Dataworks、云数据库Hbase版、Datahub、VPC，ECS。
执行结果如下图所示：文档版本：20210723 59 自建Hadoop迁移MaxCompute Azkaban定时任务迁移和改造 步骤3 创建 ODPS SQL执行任务，在业务流程中，添加 ODPS SQL节点：文档版本：20210723 60 自建Hadoop迁移MaxCompute Azkaban定时任务迁移和改造 步骤4 将目前已有的两个节点连接起来，使得这两个任务节点具有上下游的依赖...
利用交互式分析(Hologres)进行数据查询
场景描述：随着收集数据的方式不断丰富，企业信息化 程度越来越高，企业掌握的数据量呈TB、 PB或EB级别增长。同时，数据中台的快 速推进，使数据应用主要为数据支撑、用户 画像、实时圈人及广告精准投放等核心业务 服务。高可靠和低延时地数据服务成为企业 数字化转型的关键。 Hologres致力于低成本和高性能地大规模 计算型存储和强大的查询能力，为您提供海 量数据的实时数据仓库解决方案和实时交 互式查询服务。 解决问题 1.加速查询MaxCompute数据 2.快速搭建实时数据仓库 3.无缝对接主流BI工具 产品列表 MaxCompute Hologres 实时计算Flink 专有网络VPC DataWorks DataV
同时，数 据中台的快速推进，使数据应用主要为数据支撑、用户画 像、实时圈人及广告精准投放等核心业务服务。高可靠和 低延时地数据服务成为企业数字化转型的关键。Hologres致力于低成本和高性能地大规模计算型存储和 强大的查询能力，为您提供海量数据的实时数据仓库解决 方案和实时交互式查询服务。解决问题 1.加速查询...
媒体处理MPS
阿里云媒体处理（ApsaraVideo for Media Processing，原MTS）是一种多媒体数据处理服务。它以经济、弹性和高可扩展的转换方法，将多媒体数据转码成适合在全平台播放的格式。并基于海量数据深度学习，对媒体的内容、文字、语音、场景多模态分析，实现智能审核、内容理解、智能编辑。
让已有的节目源更清晰、色彩更生动、音质更动听，提供业界独有的VIP视听体验.对视频截取指定时间、指定尺寸的JPG图片，支持单张截图、多张截图、平均截图。支持拼接生成雪碧图，通过一次请求雪碧图可获取多张图片的信息，实现大幅降低图片请求数量，提高客户端性能.通过对视频内容的理解并结合画面美学，选取展现较好的关键...
来自：
云产品
自建数据库迁移到云数据库
本方案介绍如何将网站的自建数据库迁移至云数据库 RDS，解决您随着业务增长可能会面临的数据库运维难题。数据库采用高可用架构，支持跨可用区容灾，给业务带来数据安全、可用性、性能和成本方面收益。方案提供了快速体验教程，模拟了数据库迁移所需的工作，帮助您快速上手。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云备案控制台方案导读背景RDS 解决的问题如何迁移到 RDS迁移前后对比优惠购买自建数据库迁移到云数据库本方案介绍如何将网站的自建数据库迁移至云数据库 RDS，解决您随着业务增长可能会面临的数据库运维难题。数据库采用高可用架构，支持跨可用区容灾，...
来自：
解决方案
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
在大数据ETL场景，将Kafka中的消息流转到其他下游服务是很常见的场景，除了常规的消息流转外，很多场景还需要基于消息体内容做判断，然后决定下游服务做何种操作。 该方案实现了通过Kafka中消息Key的内容来判断应该对MongoDB做增、删、改的哪种DML操作。 当Kafka收到消息后，会自动触发函数计算中的函数，接收到消息，对消息内容做判断，然后再操作MongoDB。用户可以对提供的默认函数代码做修改，来满足更复杂的逻辑。 整体方案通过CADT可以一键拉起依赖的产品，并完成了大多数的配置，用户只需要到函数计算和MongoDB控制台做少量配置即可。
创建一个新库以及集合（如果不填 写集合，新库默认会有一个名为 test 的集合），用于测试。25 文档版本：20240304 基于函数计算 FC 实现阿里云 Kafka 消息内容控制 MongoDB DML 操作 场景验证 这里数据库名 kafkaToMongoDB 查询 中的数据 2.4.MongoDB 步骤1 双击新建的库，可以看到默认的 test 集合，通过 db.test.find()....
云管对接实现已有节点加入ACK集群
企业内部伴随着业务量增加，对 ACK 集群扩容属于高频操作，部分企业有一些特殊的 要求，例如节点规格需要灵活指定，系统需要重新初始化从而符合企业内部规范等。 直接通过节点池扩容显得不够灵活，例如缺少库存校验等能力，扩容有可能失败，扩 容完成后需要手动修改节点的配置，自动化程度较低，增加了运维人员的负担。
云管对接实现已有节点加入 ACK集群 最佳实践 场景描述 企业内部伴随着业务量增加，对 ACK集群扩容 属于高频操作，部分企业有一些特殊的要求，例 如节点规格需要灵活指定，系统需要重新初始化 从而符合企业内部规范等。直接通过节点池扩容 显得不够灵活，例如缺少库存校验等能力，扩容 有可能失败，扩容完成后需要手动修改...
云数据库 RDS MySQL 版
阿里云云数据库RDS MySQL是一种稳定可靠、可弹性伸缩的在线MySQL数据库服务, 提供了高可用、高可靠、高安全、易运维等一站式的数据库解决方案，帮助您免除MySQL运维的烦恼。
因此，作为技术开发人员，对云数据库 RDS 的了解是很有必要的，这本书主要包括了 MySQL 数据库基础架构、SQL 性能调优、MySQL Group Replication 等数据库核心技术，可以帮助开发者在较少时间内上手 RDS MySQL 数据库服务，提高自己在企业中的岗位竞争力~请问 RDS MySQL 数据库如果主键冲突插入的话会报错还是更新相同数据...
来自：
云产品
云数据库 SelectDB 版
阿里云数据库 SelectDB 是现代化实时数据仓库 SelectDB 在阿里云上的全托管服务，内核基于业界领先的开源分析型数据库 Apache Doris 研发，由阿里云和飞轮科技联合打造。阿里云数据库 SelectDB 聚焦于满足企业级大数据分析需求，广泛应用于实时报表分析、即席多维分析、日志检索分析、数据联邦与查询加速等场景，致力于为客户提供极致性能、简单易用的数据分析服务。
相关产品云数据库 SelectDB 版本产品对象存储 OSS开源大数据平台 E-MapReduce在线咨询阿里云数据库 SelectDB 版重磅发布，邀测火热进行中阿里云数据库 SelectDB 版已于 8 月 20 日正式上线，用户可以在阿里云上便捷地使用 SelectDB 数仓服务，以满足海量数据极速实时、融合统.查看详情阿里云数据库 SelectDB 版内核 Apache ...
来自：
云产品
数据库异地灾备
场景描述 适用于不满足于单地域，对数据可靠性 （RPO）和服务可用性（RTO）要求更高 的，希望防范断电、断网等机房故障，抵 御地震、台风等自然灾害，具备异地容灾 备份恢复能力的客户业务场景。 解决问题 1.实时备份，RPO达到秒级 2.表级恢复，故障恢复时间大大缩短 3.长期归档，自动管理备份生命周期 4.异地灾备，构建数据库灾备中心 产品列表 专有网络VPC 云服务器ECS 弹性公网IP（EIP） 负载均衡SLB 云数据库RDSMySQL 数据库备份服务DBS 对象存储服务OSS 数据湖分析服务DLA 数据管理服务DMS 数据传输服务DTS
步骤7 完成数据库恢复配置之后，预检查将会检查所有前面的配置选项、数据库连通性、数 据库权限等内容。预检查完成后，单击立即启动。步骤8 在恢复任务列表，可以看到该恢复任务状态从初始化中，运行中，变到完成，单击管 理，可查看恢复任务详情。文档版本：20220207 84 数据库异地灾备 容灾演练 步骤9 恢复完成后，点击 ...
云数据库RDS MySQL版备份恢复
场景描述 用户数据库数据， 部分需要快速、 小颗粒度恢复、 部分需要异地备份、部分需求长期归档。 当前自建 MySQL 上建立完善的备份/恢复系统无法完美满足用户需求， 且建设/维护成本很高。 RDS 的完善的备份/恢复方案可以有效帮助到用户。 方案优势 1. 可以方便实现本地备份及库表级别快速恢复， 快速应对误操作误删除等逻辑错误， 降低业务损失。 2. 可以方便实现异地备份， 实现数据级容灾， 满足合规要求。 3. 可以方便将数据进行归档， 实现长期数据的高性价比保存方案。 4. 有效提升用户数据备份效率， 降低维护工作量。 解决问题 1. 自建数据库发生误操作时恢复复杂 2. 部分数据发生错误进行恢复时可能影响其他数据访问 3. 异地备份操作复杂 4. 长期数据保存成本较高 5. 备份恢复系统维护所需人力成本较高
数 据备份默认开启且无法关闭，您可以根据需要设置数据备份的周期、时间及保留天数。在需要恢复数据，比如需要使用真实数据进行业务测试时，可以使用数据备份恢复出 一个新的数据库实例来满足需求，同时避免污染线上数据库。2.1.备份设置 步骤1 实例页面左侧导航栏选择备份恢复，在备份设置中单击数据备份设置右边的编辑。...
数据库专家服务
阿里云数据库专家服务以工具与数据库专业技能结合的方式，给客户提供云数据库产品本身能力范围之外的专业服务。主要包括：紧急救援，健康诊断、性能调优、护航保障、Oracle迁移、技术培训、顾问咨询等服务，同时给出专业的报告与建议。
专家服务成员在各自数据库领域平均有10年以上数据库管理、架构、运维及优化经验.10年以上DBA经验.数据库专家服务常见问题.SQL Server是发行最早的商用数据库产品之一，支持复杂的SQL查询，性能优秀，对基于Windows平台.NET架构的应用程序具有完美的支持.云数据库RDS SQL Server 版.高可靠双机热备架构及可无缝扩展的集群...
来自：
云产品
阿里云数据库快速搭建疫情分析系统最佳实践
疫情态势分析和防控任务迫在眉睫，如果快速搭建高效的疫情态势分析系统是众多部门和单位的难题，阿里云polardb for PG+Ganos解决方案可在极短时间内完成分析系统搭建，有效助力疫情防。 方案优势： 1、性能优越：Ganos作为自研的时空数据库引擎，相比postgis性能更优秀。 2、安全稳定：故障自动切换自愈，资源隔离，多副本存储。 3、简单易用：开箱即用，兼容postgresql，打通quickbi快速搭建数据分析展示。 4、功能强大：相比postgis在时空模型上做了较多扩充，支持几何模型，栅格模型，网络模型，时空轨迹模型，点云模型，拓扑网络模型。
文档版本：20210725 42 阿里云数据库快速搭建疫情分析系统最佳实践 QuickBI 文档版本：20210725 43 阿里云数据库快速搭建疫情分析系统最佳实践 资源配置清单 附录 1：资源配置清单 网络资源规划 资源类别 配置项 配置明细 区域 区域 华东 2（上海）专有网络VPC 状态 新购（根据实际情况选择新购或已保有，本最佳实践新 及...
云速搭部署数据库审计
本实践通过云速搭实现数据库审计的部署。
已开通以下服务：ￚ 专有网络 VPC ￚ 云数据库 RDS ￚ 数据库审计 文档版本：20211111 2 云速搭部署数据库审计 前置条件 产品介绍 云速搭 CADT：是一款为上云应用提供自助式云架构管理的产品，显著地降低应 用云上管理的难度和时间成本。本产品提供丰富的预制应用架构模板，同时也支 持自助拖拽方式定义应用云上架构；支持...
云数据库Redis
云数据库 Redis 版是一种全托管、兼容Redis协议的内存数据库服务，包含社区版Redis和企业版Tair，支持主从、集群和读写分离架构，具备低延迟、大吞吐、弹性扩缩容的特点。Tair提供多种系列满足不同场景的性价比要求，更有全球多活、数据闪回、大热Key探测与优化、丰富的数据结构，赋能大规模高性能要求的在线数据业务。
特步通过全渠道Tair方案支撑数千家门店数十万的QPS，提升客户数据链路的时效性和客户业务系统的吞吐能力.Tair集群提供超过千万的高QPS，毫秒级延迟，助力客户轻松应对双11、618等大促时期的高并发流量，提升数据库性能.Tair专属集群单实例顺利支撑峰值1200MB/s的消息传输，并做到无消息丢失，直播效果更佳流畅，质量也更...
来自：
云产品
- 产品推荐
- 这些文档可能帮助您