云Clickhouse冷热数据分层存储
基于云ClickHouse可以给电商、游戏、互联网以及其他行业提供高性能、高稳定性、低维护成本、高性价比的实时数据分析、精准营销、业务运营、业务分析、业务预警、业务营销、数仓加速等场景化方案，本实践会向客户提供数据库低维护成本、数据库链路构建、冷热分层存储、快熟分析等操作实践。 解决问题 1. 维护成本低不用建设维护体系，稳定性高，数据倾斜自动均衡。 2. 完善的数据同步链路，可以平滑将业务库、大数据、日志服务的数据同步到Clickhouse，降低研发成本。 3. 平滑升级版本，业务中断小。 冷热分层后透明读取，帮客户节约整体数据存储成本。
设置云 ClickHouse冷热分层存储 通过该章节了解如何开启冷热分层存储，云 ClickHouse可以支持数据冷热分层存储，节 约 整 体 存 储 成 本。数 据 冷 热 分 层 存 储 参 考：https://help.aliyun.com/document_detail/202879.html 背景信息 通过该步骤设置 ClickHouse冷热分层存储，冷热数据分层存储需要主动开启。冷热分层...
一键训练大模型及部署GPU共享推理服务
通过创建ACK集群Pro版，使用云原生AI套件提交模型微调训练任务与部署GPU共享推理服务。支持快速创建Kubernetes集群，白屏配置任务数据共享存储和下载，并通过命令行工具Arena快速提交模型训练任务、部署推理服务。使用云原生AI套件可以让模型训练和推理提效，提高GPU资源利用率。
查看详情MSE实现全链路灰度MSE微服务治理为多应用发布提供全链路灰度能力，让客户不修改业务代码的情况下实现全链路流量控制，端到端构建从网关到多个后端服务的全链路灰度。客户在多应用同时发布新版本的情况下，支持多个应用进行灰度验证，确保应用平滑发布上线。查看详情技术解决方案咨询我们将根据您提交的需求，安排...
来自：
解决方案
云数据库 SelectDB 版
阿里云数据库 SelectDB 是现代化实时数据仓库 SelectDB 在阿里云上的全托管服务，内核基于业界领先的开源分析型数据库 Apache Doris 研发，由阿里云和飞轮科技联合打造。阿里云数据库 SelectDB 聚焦于满足企业级大数据分析需求，广泛应用于实时报表分析、即席多维分析、日志检索分析、数据联邦与查询加速等场景，致力于为客户提供极致性能、简单易用的数据分析服务。
SelectDB 利用存算分离、列式存储、倒排索引等能力，可实现海量日志的实时查询、低成本存储、高效处理，提供 10+倍性价比的 ES 替代方案。海量数据实时写入为日志场景优化的高性能倒排索引，写入速度是 ES 倒排索引的 4 倍。服务端 Group Commit 机制，保证秒级实时可见前提下写入吞吐到 GB/s。高性价比数据存储采用列式...
来自：
云产品
云基础产品与基础设施
云基础产品与基础设施作为阿里云产品六大版块之一，主要包含弹性计算、存储、网络、安全、云原生应用平台以及无影和基础设施类产品，向客户提供高度自动化的标准化产品对网络功能、计算机（虚拟或专用硬件）和数据存储空间进行访问，同时支持灵活扩展，可以直接使用自助服务界面。
云存储网关 CSG.文件存储 HDFS.数据库文件存储 DBFS.智能媒体管理 IMM.混合云容灾服务 HDR.存储容量单位包 SCU.负载均衡 SLB.专有网络 VPC.弹性公网 IP.NAT 网关.VPN 网关.智能接入网关.网络智能服务.DDoS 防护.Web 应用防火墙.数字证书管理服务.密钥管理服务.运维安全中心.办公安全平台 SASE.数据安全中心.应用身份服务....
来自：
云产品
云上高并发系统改造
场景描述 随着业务的发展，系统并发压力越来越大，如何 进行系统改造以满足高并发场景的业务需求成 为了一个技术难题。本实践抽象于客户的实际场 景，提供高并发下系统改造的理论指导和部分实 操演示。主要适用于以下场景： 1.系统并发压力大，需要进行系统应用改造。 2.数据层并发压力大，需进行分库分表改造。 3.数据库数据量巨大，亟待分库分表解决查询 和写入瓶颈的场景。 方案优势/解决问题 1.在水平扩展阶段，我们除了通过SLB做负载 均衡外，我们可以通过SLB下挂nginx的方 式，增加负载均衡侧的可扩展性 2.在数据库拆分阶段，在做好数据规划后，我 们借助DTS进行数据迁移，通过DRDS将 RDS MySQL的数据拆分到多个分库和分 表中。 产品列表 专用网络VPC 负载均衡SLB 云服务器ECS 数据库RDSMySQL 数据传输服务DTS PrivateZone 分布式关系型数据库DRDS
什么是拆分键.37 5.3.2.主要数据表拆分原则和技巧.37 5.3.3.典型拆分场景.38 5.3.4.本例拆分 demo.39 5.4.如何选择分片数.40 5.5.DRDS建表.41 5.6.数据迁移.43 5.7.压测演练.47 附录 1 注意事项和后记.51 附录 2 资源清单.52 文档版本：20220506（发布日期）V 云上高并发系统改造 最佳实践概述 最佳实践概述 应用场景 随着...
阿里云云原生可观测套件
阿里云云原生可观测套件围绕Prometheus服务、Grafana服务和链路追踪服务，通过标准的PromQL和SQL提供数据大盘展示、告警和数据探索能力。
阿里云可观测监控 Prometheus 版智能检测算子来了.2021云栖大会开源引力峰会重磅发布的战略合作，可观测可视化 Grafana 版到底是什么？全面公测｜可观测可视化 Grafana 版：一张图表胜过千行指标&日志.可观测实践｜如何利用 Prometheus 精细化观测云产品.可观测实践｜如何使用阿里云 Prometheus 观测 ECS 应用.Prometheus ...
来自：
云产品
容器服务 Kubernetes 版 ACK
阿里云容器服务Kubernetes版ACK（容器服务Kubernetes版，简称ACK）支持企业级K8s容器化应用的全生命周期管理，提供高性能可伸缩的容器应用管理能力，助力企业高效运行云端K8s容器化应用。
A：关于 ACK 的集群类型的特点及使用场景，请参见什么是容器服务 Kubernetes 版。查看详情Q：如何规划集群容量？A：集群的容量需要根据您业务流量压力而定。如果您的业务波动明显，有波峰和波谷变化，可以将日常容量之外的弹性容量以容器扩容的方式实现。查看详情Q：使用 ACK 集群的整体成本如何构成？A：ACK 集群的创建...
来自：
云产品
基于ECI+FaaS构建游戏战斗结算服
在游戏行业的很多SLG游戏作品中，为了防止客户端作弊，在每局战斗之后，在客户端预判玩家胜利的情况下，需要服务端来进行战斗数据的结算，从而确定玩家是不是真正的胜利。战斗结算是强CPU密集型，结算系统每日需要大量的计算力，尤其是开服或者活动期间忽然涌入的大量玩家，导致需要的计算量瞬间几倍增长，同时需要结算系统保持稳定的延时来保证玩家的用户体验。 1. ECI支持500台实例30S弹出，快速解决业务模块扩容压力。FaaS毫秒级伸缩扩容，化解算力瓶颈，平滑解决暴增调用请求。 2. 降低成本：ECI每天弹性运行8小时，与6代同规格包月相比节省成本40%+，FaaS按需付费，即开即用，节省预留资源消耗。 3. 免运维：FaaS和ECI都是全托管免运维的服务，客户专注业务开发即可。 4. 模块公共化：减轻游戏逻辑服的压力，结算需求复用到类似需求的游戏。
文档版本：20201127 4 基于ECI+FaaS构建游戏战斗结算服 游戏通识介绍 一、单服部署方式：客户端通常采用与游戏服务器直连的方式，少部分项目在游戏服务器前端设置网 关或采用网关与游戏服务器同机部署的方式。游戏数据库服务器可以采用与游戏 服务器 1：1的配比关系，也可以采用多区共用的部署方式。二、集群部署方式：通过...
EMR集群安全认证和授权管理
场景描述 阿里云EMR服务Kafka和Hadoop安全集群使 用Kerberos进行用户安全认证，通过Apache Ranger服务进行访问授权管理。本最佳实践中以 Apache Web服务器日志为例，演示基于Kafka 和Hadoop的生态组件构建日志大数据仓库，并 介绍在整个数据流程中，如何通过Kerberos和 Ranger进行认证和授权的相关配置。 解决问题 1.创建基于Kerberos的EMR Kafka和 Hadoop集群。 2.EMR服务的Kafka和Hadoop集群中 Kerberos相关配置和使用方法。 3.Ranger中添加Kafka、HDFS、Hive和 Hbase服务和访问策略。 4.Flume中和Kafka、HDFS相关的安全配 置。 产品列表：E-MapReduce、专有网络VPC、云服务器ECS、云数据库RDS版
文档版本：20200330 12 EMR集群安全认证和授权管理 EMR Kafka安全集群 2.EMR Kafka安全集群 本最佳实践中，将首先创建云上虚拟网络 VPC，后续所有云上资源都将规划在该 VPC 中，例如 RDS数据库、日志发生器、EMR Kafka集群、EMR Hadoop集群和 EMR网 关集群等。2.1.创建专有网络 VPC 步骤1 登录专有网络控制台，地域：华东 1...
SLS多云日志采集、处理及分析
场景描述 从第三方云平台或线下IDC服务器上采集 日志写入到阿里云日志服务，通过日志服务 进行数据分析，帮助提升运维、运营效率， 建立DT 时代海量日志处理能力。 针对未使用其他日志采集服务的用户，推荐 在他云或线下服务器安装logtail采集并使用 Https安全传输；针对已使用其他日志采集 工具并且已有日志服务需要继续服务的情 况，可以通过Log producer SDK写入日志 服务。 解决问题 1.第三方云平台或线下IDC客户需要使用 阿里云日志服务生态的用户。 2.第三方云平台或线下IDC服务器已有完 整日志采集、处理及分析的用户。 产品列表 E-MapReduce 专有网络VPC 云服务器ECS 日志服务LOG DCDN
注：1）NAT网关配置的公网 IP数限制 NAT网关的最大并发数，绑定单个 IP最大 连接数为 55000，当通过 NAT网关访问公网上同一个目的 IP和端口的带宽大于 2Gbps时，建议您为 NAT网 关绑定 4-8个公网 IP并构建 SNAT IP池，避免单 IP的端口数量限制可能产生的丢包 2）当有多个 EIP组成 SANT IP池时，如需节约带宽成本可以建议多 ...
基于Flink的资讯场景实时数仓
场景描述 本实践针对资讯聚合类业务场景，Step by Step介绍 如何搭建实时数仓。 解决问题 1.如何搭建实时数仓。 2.通过实时计算Flink实现实时ETL和数据流。 3.通过实时计算Flink实现实时数据分析。 4.通过实时计算Flink实现事件触发。 产品列表 实时计算 专有网络VPC 云数据库RDSMySQL版 分析型数据库MySQL版 消息队列Kafka 对象存储OSS NAT网关 DataV数据可视化
数据分析包括以下两步：a)通过实时计算 Flink抽取 DWD中对应信息并进行轻度汇总（如部分业务指标 计算），生成 DWS（Data Warehouse Summary，汇总数据层），并将数据存 储到 AnalyticDB for MySQL。b)通过 AnalyticDB for MySQL进行多维数据分析和大屏实时查询。4.业务系统：业务系统通过 DataV数据可视化实现业务指标实时...
自建Hadoop迁移MaxCompute
场景描述 客户基于ECS、IDC自建或在友商云平台自建了大数 据集群，为了降低企业大数据计算平台的成本，提高 大数据应用开发效率，更有效保障数据安全，把大数 据集群的数据、作业、调度任务以及业务数据库整体 迁移到MaxCompute和其他云产品。 解决的问题 自建Hadoop集群搬迁到MaxCompute 自建Hbase集群搬迁到云Hbase 自建Kafka或应用数据准实时同步到 MaxCompute 自建Azkaban任务迁移到Dataworks任务 产品列表 MaxCompute，Dataworks、云数据库Hbase版、Datahub、VPC，ECS。
这种动作（网页浏览，搜索和其他用户的行动）是在现代网 络上的许多社会功能的一个关键因素，这些数据通常是由于吞吐量的要求而通过 处理日志和日志聚合来解决。对于像 Hadoop一样的日志数据和离线分析系统，但又要求实时处理的限制，这是一个可行的解决方案。Kafka 的目的是通过 文档版本：20210723 III 自建Hadoop迁移...
机场视频监控
场景描述 该最佳实践适用于国内机场的视频监控行业，将线下视频文件通过混合云阵列缓存后，通过专线上传到阿里云OSS上。 也适用于其他混合云场景中，利用阵列缓存文件，并通过网络传输到阿里云OSS上的场景。 解决问题 1.通过混合云阵列+专线将线下文件传到阿 里云OSS上 2.通过阿里云OSS跨区域复制功能实现异 地文件备份 3.通过OSS的自动生命周期管理功能实现 文件生命周期管理 产品列表 OSS对象存储 混合云阵列 高速通道（专线）
详见 https://www.aliyun.com/product/oss 混合云阵列：集成了阿里云云存储网关的企业级统一存储阵列，可以像使用本地 存储一样使用和管理本地和云端的各种存储资源（块、文件和对象），本地存储通过云 缓存、云同步、云分层、云备份等方式无缝连通云存储。混合云存储阵列和云存储服 务相结合提供了一种经济高效，易于...
基于Flink+ClickHouse构建实时游戏数据分析
在互联网、游戏行业中，常常需要对用户行为日志进行分析，通过数据挖掘，来更好地支持业务运营，比如用户轨迹，热力图，登录行为分析，实时业务大屏等。当业务数据量达到千亿规模时，常常导致分析不实时，平均响应时间长达10分钟，影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据，实现秒级响应的实时用户行为分析，并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析，得到用户特征和画像，实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓，对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能，千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高，支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用，免运维，全球多Region部署，快速支持新游戏开服。 Flink+ClickHouse+QuickBI
文档版本：20201224 55 基于 Flink+ClickHouse构建实时游戏数据分析 实时流处理 步骤9 新建作业，作业名称：flink_uv_job，作业类型：FLINK_STREAM/DATASTREAM，存 储位置：/作业开发/新手任务 文档版本：20201224 56 基于 Flink+ClickHouse构建实时游戏数据分析 实时流处理 步骤10 更新作业的主要信息，比如完整主类名、...
Oracle数据库与应用迁移PolarDB
场景描述 本最佳实践适用于Oracle数据库及应用迁 移到阿里云PolarDB数据库（Oracle兼容 版）。通过ADAM将Oracle数据库迁移到 PolarDB数据库，可以降低应用升级、运 维成本，同时提升系统弹性，实现数据库 及应用全栈上云。 解决问题 1.解决Oracle及其应用迁移上阿里云， 通过ADAM评估迁移工具，降低迁移 风险，提高迁移效率。 2.使用PolarDB（Oracle兼容版）数据 库，提升数据库并发读能力，降低运维 成本。 产品列表 数据库和应用迁移（ADAM） PolarDB（Oracle兼容版） 云服务器（ECS） 专有网络（VPC）
数据库网关部署 数据库网关 DG（Database Gateway）是一种支持私网数据库远程访问的数据库连接 服务。通过数据库网关，您可以安全且低成本地将第三方云或本地的数据库接入至阿 里云。同时，数据库网关可以与其他阿里云产品（例如数据传输服务 DTS，数据库备 份 DBS，数据管理 DMS）集成使用。本章节将数据库网关服务部署在 ...
自建Hive数据仓库跨版本迁移到阿里云Databricks数据洞察
场景描述 客户在IDC或者公有云环境自建Hadoop集群构建数据仓库和分析系统，购买阿里云Databricks数据洞察集群之后，涉及到数仓数据和元数据的迁移以及Hive版本的订正更新。 方案优势 1. 全托管Spark集群免运维，节省人力成本。 2. Databricks数据洞察与阿里云其他产品（OSS、RDS、MaxCompute、EMR）进行深度整合，支持以这些产品为数据源的输入和输出。 3. 使用Databricks Runtime商业版引擎相比开源Spark性能有3-5倍的提升。 解决问题 1. Hive数仓数据迁移OSS方案。 2. Hive元数据库迁移阿里云RDS方案。 3. Hive跨版本迁移到Databricks数据洞察使用Delta表查询以提高查询效率。
拥有已经通过备案的域名 开通 ECS、OSS、Databricks数据洞察、RDS和 VPN网关等服务。文档版本：20210425 1 自建 Hive数据仓库跨版本迁移到阿里云 Databricks数据洞察 资源规划说明 资源规划说明 本方案仅作为实践演练使用，在生产环境中执行时请结合业务系统实际架构进行 调整。本方案购买的所有云产品规格均为演示需要，请...
Hyper-V on 弹性裸金属最佳实践
场景描述 本方案适用于基于弹性裸金属服务器（神龙）自 建Microsoft Hyper-V环境的场景。 解决问题 l使用神龙自建+Microsoft Hyper-V虚拟 化环境环境。 l创建LinuxHyper-VVM。 lHyper-VVM访问外部网络。 l外部网络访问Hyper-VVM上的服务。 产品列表 l神龙GPU云服务器（ecs.ebmg5s） l专有网络VPC
整体架构：注意：由于目前云 NAS服务不支持 SMB 3.0协议，因此无法使用云 NAS作为共享存 储构建基于多台神龙的 Hyper-V虚拟化集群，仅支持单神龙服务器构建 Hyper-V虚拟 化系统。本文示例虚拟化系统网络结构：VM1 EBM实例 Internal-switch 10.1.1.0/24 NAT网关 10.1.1.1 网卡 192.168.0.0/16 公网 IP 文档版本：20220512 1 ...
- 产品推荐
- 这些文档可能帮助您