云Clickhouse冷热数据分层存储
基于云ClickHouse可以给电商、游戏、互联网以及其他行业提供高性能、高稳定性、低维护成本、高性价比的实时数据分析、精准营销、业务运营、业务分析、业务预警、业务营销、数仓加速等场景化方案，本实践会向客户提供数据库低维护成本、数据库链路构建、冷热分层存储、快熟分析等操作实践。 解决问题 1. 维护成本低不用建设维护体系，稳定性高，数据倾斜自动均衡。 2. 完善的数据同步链路，可以平滑将业务库、大数据、日志服务的数据同步到Clickhouse，降低研发成本。 3. 平滑升级版本，业务中断小。 冷热分层后透明读取，帮客户节约整体数据存储成本。
高可靠存储引擎：基于阿里飞天分布式系统的云盘存储，充分利用云平台存储 文档版本：20210416 1 云 ClickHouse冷热数据分层存储最佳实践 最佳实践概述 可靠性特性。数据闭环流通：与云上日志系统、数据库、数据应用工具无缝集成，能便捷地进 行数据同步，降低数据迁移工作量。架构灵活：支持单节点、单副本、多节点、多副本...
利用交互式分析(Hologres)进行数据查询
场景描述：随着收集数据的方式不断丰富，企业信息化 程度越来越高，企业掌握的数据量呈TB、 PB或EB级别增长。同时，数据中台的快 速推进，使数据应用主要为数据支撑、用户 画像、实时圈人及广告精准投放等核心业务 服务。高可靠和低延时地数据服务成为企业 数字化转型的关键。 Hologres致力于低成本和高性能地大规模 计算型存储和强大的查询能力，为您提供海 量数据的实时数据仓库解决方案和实时交 互式查询服务。 解决问题 1.加速查询MaxCompute数据 2.快速搭建实时数据仓库 3.无缝对接主流BI工具 产品列表 MaxCompute Hologres 实时计算Flink 专有网络VPC DataWorks DataV
通过DataWorks，可以对数据进行传输、转换和集成等操作，从不同的数据存储引 入数据，并进行转化和开发，最后将处理好的数据同步至其它数据系统。1.5.DataV DataV数据可视化是使用可视化应用的方式来分析并展示庞杂数据的产品。DataV旨 让更多的人看到数据可视化的魅力，帮助非专业的工程师通过图形化的界面轻松搭建 专业...
PolarDB 应对大并发复杂查询实践
MySQL架构是单线程处理SQL，遇到大并发复杂查询时，需要排队长时间等待，容易形成慢查询，影响业务。PolarDB并发查询能力可以很好解决此问题。
此类业务压力，在原生的 MySQL中无法较好处理，单个 复杂查询耗时较长，多个并发时经常会形成 SQL积压，大量慢查询出现，CPU激增 等不良状况。而使用数据仓库或者大数据手段处理此类，虽然单个复杂查询效率会比 OLTP数据库高很多，但大并发请求对数仓类产品是非常不友好的，CPU等资源极易 被抢占一空。PolarDB MySQL 8.0...
多账号下企业分账
场景描述 财务分账，是根据企业的成本中心，将云上资源的成本划分到给各个项目组/业务部门；助力企业快速梳理云上成本结构，搭建复杂组织架构下的成本关系，便捷地进行财务和云上成本的管理。 大型企业或集团公司，由于组织架构复杂，业务复杂等原因，通常拥有多个阿里云账号来管理规模庞大的云上资源。针对云上资源，如何建立有效的分账方案，是财务关注的重要问题。 解决问题 解决CIO/CTO最关心的云上IT治理，IT成本核算等问题。 弄清楚企业内各部门成本及云上IT成本结构。 让CIO/CTO准确地掌握云上资源成本情况，清楚业务与成本的关系。 让采购/运维轻松搞定每月的IT成本汇报。
大数据资源规划 资源归属 资源类别 配置项 配置明细 说明 分公司 B EMR 集群名称 emr_project1，emr_project2 分别创建 2个集群 集群类型 Hadoop-产品版本 EMR-3.32.0-付费类型 后付费-可用区 华东 1 可用区 H EMR 集群创建在交换机 vswitch-分公司 B下，可 用区无需手工填写 安全组名称 sg-emr1，sg-emr2 为两个集群分别...
数据库异地灾备
场景描述 适用于不满足于单地域，对数据可靠性 （RPO）和服务可用性（RTO）要求更高 的，希望防范断电、断网等机房故障，抵 御地震、台风等自然灾害，具备异地容灾 备份恢复能力的客户业务场景。 解决问题 1.实时备份，RPO达到秒级 2.表级恢复，故障恢复时间大大缩短 3.长期归档，自动管理备份生命周期 4.异地灾备，构建数据库灾备中心 产品列表 专有网络VPC 云服务器ECS 弹性公网IP（EIP） 负载均衡SLB 云数据库RDSMySQL 数据库备份服务DBS 对象存储服务OSS 数据湖分析服务DLA 数据管理服务DMS 数据传输服务DTS
基于阿里云分布式文件系统和 SSD盘高性 能存储，RDS支持 MySQL、SQL Server、PostgreSQL、PPAS和 MariaDB引 擎，提供了容灾、备份、恢复、监控、迁移等方面的全套解决方案，彻底解决数据 库运维的烦恼。MySQL 是全球最受欢迎的开源数据库之一，作为开源软件组合 LAMP（Linux+Apache+MySQL+Perl/PHP/Python）中的重要一环，...
金融专属大数据workshop
实践目标 学习搭建一个实时数据仓库，掌握数据采集、存储、计算、输出、展示等整个业务流程。 整个实时数据仓库系统全部基于阿里云产品进行架构搭建，用户可以掌握并学会运用各个服务组件及各个组件之间如何联动。 理解阿里云原生实时离线一体数仓解决方案架构以及掌握交付落地的实践使用方法。 前置知识要求 熟练掌握SQL语法 对大数据体系系统知识有一定的了解
步骤4 按照步骤2~3，为order_detail创建1个订阅、dwd_paid_order_detail创建2个订阅、workshop_topic创建1个订阅，分别如下： dwd_paid_order_detail：分别记录为：{dwd_paid_order_detail_subID_1}、{dwd_paid_order_detail_subID_2} order_detail:记录为：{order_detail_subID} workshop_topic：文档版本：...
来自：
最佳实践
相关产品：块存储,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,弹性公网IP,数据传输,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,实时计算,数据总线,Quick BI,Hologres
基于Flink+ClickHouse构建实时游戏数据分析
在互联网、游戏行业中，常常需要对用户行为日志进行分析，通过数据挖掘，来更好地支持业务运营，比如用户轨迹，热力图，登录行为分析，实时业务大屏等。当业务数据量达到千亿规模时，常常导致分析不实时，平均响应时间长达10分钟，影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据，实现秒级响应的实时用户行为分析，并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析，得到用户特征和画像，实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓，对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能，千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高，支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用，免运维，全球多Region部署，快速支持新游戏开服。 Flink+ClickHouse+QuickBI
基于 Flink+ClickHouse构建实时游戏数据分析 最佳实践 业务架构 背景描述 在互联网、游戏行业中，常常需要对用户行 为日志进行分析，通过数据挖掘，来更好地 支持业务运营，比如用户轨迹，热力图，登 录行为分析，实时业务大屏等。当业务数据 量达到千亿规模时，常常导致分析不实时，平均响应时间长达 10分钟，影响业务的正...
基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测
本篇最佳实践先创建EMR集群作为数据湖对象，Hive元数据存储在DLF，外表数据存储在OSS。然后使用阿里云数据仓库MaxCompute以创建外部项目的方式与存储在DLF的元数据库映射打通，实现元数据统一。最后通过一个毒蘑菇的训练和预测demo，演示云数仓MaxCompute如何对于存储在EMR数据湖的数据进行加工处理以达到业务预期。
配置DataWorks和PAI 此方案通过DataWorks创建一个工作空间，选择MaxCompute作为计算引擎，并开 通PAIStudio作为机器学习服务（用于后续演示使用MaxCompute的SQL完成机器 学习）。通过odpscmd客户端在工作空间下创建外部项目（externalproject）与DLF 的元数据库做映射关联。前提是DLF已经授权给MaxCompute。目前DataWorks的...
云上高并发系统改造
场景描述 随着业务的发展，系统并发压力越来越大，如何 进行系统改造以满足高并发场景的业务需求成 为了一个技术难题。本实践抽象于客户的实际场 景，提供高并发下系统改造的理论指导和部分实 操演示。主要适用于以下场景： 1.系统并发压力大，需要进行系统应用改造。 2.数据层并发压力大，需进行分库分表改造。 3.数据库数据量巨大，亟待分库分表解决查询 和写入瓶颈的场景。 方案优势/解决问题 1.在水平扩展阶段，我们除了通过SLB做负载 均衡外，我们可以通过SLB下挂nginx的方 式，增加负载均衡侧的可扩展性 2.在数据库拆分阶段，在做好数据规划后，我 们借助DTS进行数据迁移，通过DRDS将 RDS MySQL的数据拆分到多个分库和分 表中。 产品列表 专用网络VPC 负载均衡SLB 云服务器ECS 数据库RDSMySQL 数据传输服务DTS PrivateZone 分布式关系型数据库DRDS
云上高并发系统改造 最佳实践 场景描述 部署架构图 随着业务的发展，系统并发压力越来越大，如 何进行系统改造以满足高并发场景的业务需 求成为了一个技术难题。本实践抽象于客户的 实际场景，提供高并发下系统改造的理论指导 和部分实操演示。主要适用于以下场景：1.系统并发压力大，需要进行系统应用改 造。2.数据层并发...
基于MyBase构建自主可控数据库和高弹性应用实践
一些企业级客户上云前，会重点关心数据库是否自主可控，包括云资源独享、自主可运维、获取OS 权限等特点，同时又要兼顾数据库合规性、安全性和高性能的要求；并力求在业务弹性下合理利用云产品降低数据和应用成本，弹性地支持业务。本实践为此类用户提供相关实践参考。
创建 MySQL实例 主机添加完成之后，需要在主机上创建应用依赖的 RDS实例，用于应用部署数据库引 擎。（MyBase for MySQL实例在 RDS MySQL基础之上开放了更多权限，除了常规的 实例管理、账号管理、数据库管理、备份恢复、白名单、透明数据加密以及数据迁移 等基本功能外，支持资源超配、资源自动调度；可扩展部署自有成熟的...
基于DataWorks的大数据一站式开发及数据治理
概述 基于Dataworks做大数据一站式开发，包含数据实时采集到kafka通过实时计算对数据进行ETL写入HDFS，使用Hive进行数据分析。通过Dataworks进行数据治理，数据地图查看数据信息和血缘关系，数据质量监控异常和报警。 适用场景 日志采集、处理及分析 日志使用Flink实时写入HDFS 日志数据实时ETL 日志HIVE分析 基于dataworks一站式开发 数据治理 方案优势 大数据一站式开发，完善的数据治理能力。 性能优越：高吞吐，高扩展性。 安全稳定：Exactly-Once，故障自动恢复，资源隔离。 简单易用：SQL语言，在线开发，全面支持UDX。 功能强大：支持SQL进行实时及离线数据清洗、数据分析、数据同步、异构数据源计算等Data Lake相关功能 ，以及各种流式及静态数据源关联查询。
文档版本：20201020 26 基于 Dataworks的大数据一站式开发及数据治理 日志实时 ETL写入HDFS 步骤5 上次之前编译好的自定义 sink的 jar包。步骤6 选择上次资源。步骤7 在 IDEA中 Edit Configurations。文档版本：20201020 27 基于 Dataworks的大数据一站式开发及数据治理 日志实时 ETL写入HDFS 步骤8 创建一个 Maven打包。...
ACK集群神龙资源错峰利用
场景描述 使用ACK构建容器集群环境，神龙资源为 集群节点资源部署应用。在主业务低谷 期，通过将部分神龙节点从容器集群中移 除，更换镜像切换操作系统及应用环境， 使得这部分神龙实例资源服务于其他业 务。在主业务高峰期前将神龙资源重新加 入ACK集群。从而达到错峰利用神龙资源 的目的，以便充分利用神龙资源，降低资 源成本。 解决问题 1.基于ACK及神龙资源构建容器集群环 境，典型部署应用。 2.ACK内挂载NAS存储。 3.ACK集群神龙实例节点移除和重新加入 集群。 产品列表 弹性裸金属服务器EBM 容器服务ACK 专有网络VPC 弹性公网IPEIP 负载均衡SLB 云数据库RDS MySQL版 云数据库Redis版 文件存储NAS 访问控制RAM 日志服务SLS 云监控CloudMonitor 运维编排OOS
步骤3 在页面右侧，通过搜索关键字找到“ACK集群神龙错峰资源利用”模板，单击基于应 用新建。文档版本：20220509 3 ACK集群神龙资源错峰利用 使用云速搭构建基础环境 步骤4 进入如下页面：部署前需要完成以下操作：1.双击 ack_managed，并设置密码，注意 ack中默认配置两个神龙服务器节点，这 里是：文档版本：20220509 4 ...
自建K8S集群迁移ACK弹性裸金属集群
场景描述 在微服务化改造之后，企业在享受K8S带来应 用管理的便利的同时，存在硬件性能不足，本 地扩展性差，容器容灾难，K8S管理复杂等问 题。 解决问题 1.增强K8S扩展性：如何通过弹性裸金属服务 器的强劲硬件性能，实现云端资源急速扩 展，从容应对应用访问压力大的问题。 2.如何简化云端K8S运维：通过阿里云容器服 务（ACK）实现敏捷开发和部署落地，加速 企业业务迭代。 3.如何综合考虑迁移和容灾：如何整合云上和 云下容器资源实现遇到故障时可以通过健 康检查实现自动容灾。 4.如何不改应用上云：如何实现应用上云数据 库连接零修改。 5.数据库上云及回退：如何实现上云回退； 产品列表 ACK/ECS/SLB/NAT网关/弹性裸金属服务器/DTS/RDS MySQL
步骤3 在搜索框中，通过关键字找到“自建 K8S集群迁移 ACK弹性裸金属集群”这个模板，选中后，单击基于应用新建。文档版本：20220128 7 自建 K8S集群迁移 ACK弹性裸金属集群 环境部署 步骤4 在架构设计页面，完成以下操作：双击所有 ecs图标，设置 ecs的密码，建议：Test1234!双击 ack图标，设置 ACK的密码，建议：Test1234...
金融行业从经典网络向VPC容器化改造
本实践介绍经典网络向VPC容器化改造实践 以及配置步骤，可适用于金融等行业 方案优势 容器化完成经典网络完成向VPC网络改 造 应用发布灵活 运维效率提升 解决问题 1.经典网络管理困难 2.应用发布不灵活 3.运维效率低 产品列表 专有网络VPC 容器服务Kubernetes版 日志服务SLS 云数据库RDS版 NAT网关 容器镜像服务ACR 云盘
VSW：虚拟交换机（VirtualSwitch），阿里云专有网络的基础网络设备，通过创建交换机 为专有网络划分一个或者多个子网。文档版本：20200703（发布日期）III 金融行业从经典网络向VPC容器化改造最佳实践【公开|阿里巴巴集团保密信息|普通商秘|核心商秘】目录.文档版本信息 I 法律声明.II 前言.III.目录 IV 最佳实践概述.1....
Spark on ECI大数据分析
场景描述 方案优势 1.计算引擎弹性扩缩容，兼顾资源弹性与计 算资源成本优化。 2.计算与存储分离架构，结合阿里云原生云 存储产品，海量数据湖优势。 3.Kubernetes原生的调度性能优势，提升在 大规模分析作业时的分析性能优势分。 4.集群资源隔离和按需分配。 解决问题 1.计算资源弹性能力不足，计算资源成本管 控能力欠缺. 2.集群资源调度能力和隔离能力不足。 3.计算与存储无法分离，大数据量分析时出 现数据存储资源瓶颈。 4.Spark submit方式提交分析作业参数支持 有限等缺点。 产品列表 容器服务Kubernetes版(ACK) 弹性容器实例(ECI) 文件存储HDFS 对象存储OSS 专有网络VPC 容器镜像服务ACR
阿里云的虚拟容 器组实例（ECI）完全兼容原生的 Kubernetes，通过与阿里云容器服务 Kubernetes 版（ACK）的结合，能够为业务驱动型、拥抱云原生进行容器化改造并且专注数据应 用的用户带来更多的数据分析优势。计算引擎弹性扩缩容，兼顾资源弹性与计算资源成本优化。计算与存储分离架构，拥有海量数据湖分析优势。利用 ...
基于Flink的资讯场景实时数仓
场景描述 本实践针对资讯聚合类业务场景，Step by Step介绍 如何搭建实时数仓。 解决问题 1.如何搭建实时数仓。 2.通过实时计算Flink实现实时ETL和数据流。 3.通过实时计算Flink实现实时数据分析。 4.通过实时计算Flink实现事件触发。 产品列表 实时计算 专有网络VPC 云数据库RDSMySQL版 分析型数据库MySQL版 消息队列Kafka 对象存储OSS NAT网关 DataV数据可视化
步骤3 在搜索框中，输入“flink”，通过关键字找到“基于 flink的资讯场景实时数仓”这个模 文档版本：20220223（发布日期）10 基于 Flink的资讯场景实时数仓 基础环境部署 板，选中后，单击基于应用新建。步骤4 在架构设计页面，完成以下操作：双击 ecs图标，并设置 ecs的密码，建议：Test1234!双击 oss图标，修改 bucket...
基于MaxCompute的大数据BI分析
场景描述 本文以电商行业为例，将业务数据和日志数据使用 MaxCompute做ETL之后，同步到ADB进行实时 分析，之后通过QuickBI进行快速可视化展示。 解决问题 1.互联网行业、电商、游戏行业等网站、App、 小程序应用内BI分析场景。 2.可扩展到各类网站BI分析场景使用。 产品列表 1.MaxCompute 2.分析型数据MySQL版 3.日志服务SLS 4.QuickBI 5.云服务器ECS 6.RDSMySQL版
数据管理 DMS：数据管理 DMS源自阿里数据库服务平台，是一个免安装、免运 维、即开即用、多环境来源、多种数据库类型统一的数据库管理 web终端，已为 数万人员提供数据库研发支撑。更有完善的安全合规审计保障、数据库全流程 DevOps服务支持。更多信息请参见（https://www.aliyun.com/product/dms）。文档版本：20211213 IV...
容器Swarm集群向ACK集群灰度迁移
场景描述 随着K8S生态的完善，越来越多的客户需要从 Swarm集群迁移向ACK集群 解决问题 1.迁移过程中维持业务的延续性 2.迁移过程业务高可用 3.迁移过程可灰度 4.迁移过程可回滚 5.迁移进度可把控 产品列表 专有网络VPC 云数据库RDSMySQL 容器服务ACK 云服务器ECS
操作步骤 步骤1 搜索“VPC”，进入专有网络 VPC控制页面，创建 VPC和三个 vswitch。步骤2 单击添加，继续添加 subenet2和 subnet3，单击确认，创建 VPC和 vswitch。文档版本：20190401 5 容器 Swarm集群向 ACK集群灰度迁移最佳实践 创建 VPC基础网络环境 文档版本：20190401 6 容器 Swarm集群向 ACK集群灰度迁移最佳实践 ...
自建ELK迁移阿里云日志服务
场景描述 ELK Stack（Elastic/Logstash/Kibana） 通常 被用于日志实时分析， 在开源社区中有大量 的内容和使用案例。 本文介绍如何将自建的 ELK 系统迁移到阿里云 SLS 日志服务。 解决问题 1. 自建 ELK 如何迁移到阿里云日志服务。 2. 如何使用 Logtail 采集日志。 3. 如何使用阿里云日志服务对日志进行查 询、 分析。 产品列表 阿里云日志服务（SLS） VPN 网关 IPSec VPN 云服务器
步骤5 点击右上角的保存按钮，填好自定义应用名称，单击确认 步骤6 单击右上角部署应用 文档版本：20240422 6自建ELK迁移阿里云日志服务（SLS）搭建ELK环境 步骤7 进入资源验证阶段，这个阶段会对架构中的资源在可用区下的库存情况进行查询，同 时可以对资源规格进行review。资源验证是实时进行的，请耐心等待。当出现校验...
基于弹性供应组构建大数据分析集群
场景描述 基于弹性供应组（APG）搭建spark计算集 群，提供一键开启跨售卖方式、跨可用区、 跨实例规格的计算集群交付模式的实践。 方案优势 1.超低成本：跨售卖方式提供计算实 例，按秒计费，可全部使用spot实例 交付，最高可省90%成本。 2.稳定可靠：跨可用域、跨实例规格， 降低spot被集体释放的风险；自动托 管，分钟级巡检，动态保证集群的算 力。 3.快速交付：单次可在5分钟内交付 2000个实例。 4.多策略组合：可分别指定spot和按量 实例的交付策略，以及差额补足的策 略，包括成本最低、打散和折中。 解决问题 1.大规模计算集群成本高。 2.创建ECS实例方式单一，无法跨计费 方式、可用区及规格等核心参数。 3.当可用区资源紧张，无法自动保证基于 spot类型的稳定算力。 产品列表 专有网络VPC 云服务器ECS
均衡可用区分布策略是在供应组指定的 多个扩展配置对应的多可用区(即指定多个专有网络交换机)之间均匀分配 ECS 实例。成本优化策略允许的规格数量，不能大于扩展启动模板的数量。抢占式实例关停策略，包括停机和释放。如果选择释放策略，会释放掉抢占式实 例，请注意及时备份数据。设置全局的抢占式实例上限价格 供应组过期...
- 产品推荐
- 这些文档可能帮助您