大数据系统基准性能测试最佳实践
本方案适用于在阿里云上进行大数据基准性能测试的场景，包括 Teragen和Terasort测试，TestDFSIO测试。本文采用CADT工具结合阿里云的E-MapReduce服务快速构建测试集群，并提供了Teragen和Terasort测试，TestDFSIO测试的测试脚本，便于迅速开展测试。
EMR的 SmartData组件是 EMR Jindo引 擎的主要存储部分，为 EMR各个计算引擎提供统一的存储优化、缓存优化、计算 缓存加速优化和多个存储功能扩展。详见 https://help.aliyun.com/document_detail/28068.html 云架构设计工具 CADT：是一款为上云应用提供自助式云架构管理的产品，显著 地降低应用云上管理的难度和时间成本。...
Dubbo应用上云
场景描述 本最佳实践适用于企业自建 Dubbo 应用上云， 应 用采用 docker 方式部署， 降低部署成本。同时利 用 MSE 提供 Zookeeper 服务注册管理。 通过阿 里云的 ARMS 和 AHAS 服务提供应用监控和服务 限流管理，简化运维并提供服务的全生命周期管 理。 解决问题 1. 自建 dubbo 应用迁移上阿里云。 2. 应用部署在容器内降低成本。 3. 通过 MSE 提供 ZK 服务，提高稳定性。 4. 通过 ARMS/AHAS 提供监控和服务限流能力 产品列表 容器服务 Kubernetes 版（ACK） 微服务引擎（MSE） 关系数据库服务（RDS） 应用高可用服务（AHAS） 应用实时监控服务（ARMS）
是阿里云提供的一种基础云计算服 务。无需提前采购硬件设备，根据业务需要，随时创建所需数量的云服务器 ECS 实例。在使用过程中，随着业务的扩展，可以随时扩容磁盘、增加带宽。也能随时 释放资源，节省费用。更多信息，请参见：https://www.aliyun.com/product/ecs MSE：微服务引擎(MSE)是开源注册、配置中心的全托管平台...
云平台内部操作透明化
场景描述 云平台基于用户的请求或监管要求等，进行的内 部操作对用户如果不可见，用户可能会担心自己 的数据是否收到了影响或者是否被触碰了，影响 用户对平台的信任。 解决问题 1.内部操作对用户可见 2.增强用户对平台的可信度 产品列表 操作审计Actiontrail 对象存储OSS 日志服务SLS
增强用户对平台的可信度 产品列表 操作审计Actiontrail 对象存储OSS 日志服务SLS云服务器ECS（产品名称）文档模板（手册名称）/文档版本信息 阿里云 云平台内部操作透明化 最佳实践 文档版本：20200630 文档版本：20150122（发布日期）2云平台内部操作透明化 文档版本信息 文档版本信息 文本信息 属性 内容 文档...
基于MyBase构建自主可控数据库和高弹性应用实践
一些企业级客户上云前，会重点关心数据库是否自主可控，包括云资源独享、自主可运维、获取OS 权限等特点，同时又要兼顾数据库合规性、安全性和高性能的要求；并力求在业务弹性下合理利用云产品降低数据和应用成本，弹性地支持业务。本实践为此类用户提供相关实践参考。
支持系统监控和自定义监 控类型。文档版本：20210323 30 基于 MyBase构建自主可控数据库和高弹性实践 业务应用弹性伸缩 目标追踪规则：选择一项云监控指标，并指定目标值。弹性伸缩会自动计算所需的 实例数量并进行扩缩容，从而将云监控指标维持在目标值附近。举例按照“ECS 平均 CPU使用率”。预测规则：用于设置伸缩组...
云Clickhouse冷热数据分层存储
基于云ClickHouse可以给电商、游戏、互联网以及其他行业提供高性能、高稳定性、低维护成本、高性价比的实时数据分析、精准营销、业务运营、业务分析、业务预警、业务营销、数仓加速等场景化方案，本实践会向客户提供数据库低维护成本、数据库链路构建、冷热分层存储、快熟分析等操作实践。 解决问题 1. 维护成本低不用建设维护体系，稳定性高，数据倾斜自动均衡。 2. 完善的数据同步链路，可以平滑将业务库、大数据、日志服务的数据同步到Clickhouse，降低研发成本。 3. 平滑升级版本，业务中断小。 冷热分层后透明读取，帮客户节约整体数据存储成本。
广泛应用于流量分析、广告营销 分析、行为分析、人群划分、客户画像、敏捷 BI、数据集市、网络监控、分布 式 服 务 和 链 路 监 控 等 业 务 场 景。更 多 信 息，请 参 见 www.aliyun.com/product/clickhouse 数据传输服务 DTS：数据传输服务(Data Transmission Service)DTS支持关系 型数据库、NoSQL、大数据(OLAP)等数据...
云上成本优化workshop
某金融科技公司，它主要提供信贷，理财，电商等 服务，目前已经拥有千万级注册用户。该公司在将 在线业务系统和大数据业务从自建 IDC 机房迁移 到阿里云后，今年大数据集群经历过多次因为资 源不足导致弹性扩容失败的故障，运维负责人非 常苦恼。由于该公司从事互联网金融的借贷业务， 白天的催收非常依赖晚上大数据计算的结果，若 因为资源不足导致计算结果失败则意味着白天催 收业务员无事可做，会对公司业务造成严重影响。 后来，通过阿里云解决方案架构师建议的方案，将 大数据集群迁移到资源较充足的可用区以及配置 弹性伸缩多规格 ECS 选型增加交付成功率等方 法，目前已阶段性的解决因资源不足导致弹性扩 容失败的问题，但该方案在 Spot 计算资源不足 时，启用大量按量收费算力，带来了较高的成本， 并且抢占式实例和按量付费实例都不保证资源 100%交付，还是存在交付失败的可能性，特别是 在双 11 期间由于其他客户的资源需求上升带来 的资源挤兑客观上存在，就进一步增加了弹性扩 容失败的风险，从而影响业务正常运行。
账单是一种时间序列的数据，而日志服务的主要功能就是对时间序列数据的采集、存储和分析，实现与账单数据的 无缝对接，减少了账单分析人员 80%的人力投入。注意：开通成本管家导入一般 3个小时之后可见。开通后的新增账单数据会在每天上 午 11点开始自动导入。步骤1 登录成本管家。...
来自：
最佳实践
相关产品：云服务器ECS,负载均衡 SLB,弹性公网IP,容器服务 ACK,日志服务（SLS）,NAT网关,函数计算,E-MapReduce,云数据库PolarDB,弹性容器实例 ECI,存储容量单位包,预留实例券,Hologres
弹性计算OOS审批流程自动化运维
场景描述 本文以ECS、RDS、SLB搭建一个小型的WEB系 统为例，介绍如何利用OOS在运维常见的部署系统、 扩容系统、回收系统三个场景中添加审批流程，并以 钉钉通知到对应的审批人员。 解决问题 1.对接阿里云API，通过OOS模板执行运维 任务，实现了运维自动化与可视化。 2.运维操作集成了RAM访问控制权限管理， 无需担心操作安全，并可以快速增加审批流 程，提高运维安全与效率。 产品列表 1.运维编排OOS 2.访问控制RAM 3.云服务器ECS 4.RDSMySQL版 5.负载均衡SLB
弹性计算OOS审批流程自动化运维最佳实践 业务架构图 场景描述 本文以ECS、RDS、SLB搭建一个小型的WEB系 统为例，介绍如何利用OOS在运维常见的部署系统、扩容系统、回收系统三个场景中添加审批流程，并以 钉钉通知到对应的审批人员。解决问题 1.对接阿里云API，通过OOS模板执行运维 任务，实现了运维自动化与可视化。2.运维...
云存储解决方案
云存储解决方案面向大数据存储、多媒体存储（视频存储）、视频监控、基因生命科学、数据迁移、自动驾驶、在线教育、混合云存储、数据迁移、数据容灾备份等多个行业用户的多元化场景，提供更安全稳定、更优化、无缝上云的智能数据存储服务，为企业上云、实现数字化转型奠定数据基础。
依托阿里云存储产品的能力支撑，全面覆盖视频点播场景，通过阿里云对象存储提供视频的存取能力，并能与阿里云 CDN、转码、视频 AI、内容分析类产品无缝对接.核心数据存储在云端，需要稳定、可靠的存储服务.需要灵活、弹性的资源支撑客户业务爆发带来的突发需求.需要存储提供极高的吞吐带宽，支持客户业务的上下行数据流量....
来自：
解决方案
基于链路追踪+ECI的流量洪峰应对
云原生技术已经为越来越多的互联网客户接受，对于在线教育、互动娱乐、电商等类型的客户会由于业务的原因存在突增业务流量，因此对于系统的稳定性非常关注，结合阿里云的容器服务、链路追踪、弹性容器ECI等产品，帮助客户业务实现容器化改造，并且方便发现系统应用架构中的瓶颈等问题，实现系统高弹性的同时优化客户的云资源使用成本。 l 方案优势 ￚ 支持分布式追踪、调用链分析、DB调用分析、链路拓扑分析、业务指标统计等系统链路调用分析。 ￚ 运维研发效率提高，链路追踪服务端全托管，免运维。 ￚ 链路追踪的应用调用链分析能力结合ECI高弹性能力，提升应用系统在洪峰流量冲击下的稳定性。 ￚ 链路追踪接入方便，ECI POD弹性伸缩，节省用户运维成本和云资源使用成本。 ￚ 结合SLS Ingress可以基于应用前端访问性能指标做弹性伸缩，更丰富的云原生弹性能力。
场景描述 云原生技术已经为越来越多的互联网客户接受，对于在线教育、互动娱乐、电商等类型的客户 会由于业务的原因存在突增业务流量，因此对于系统的稳定性非常关注，结合阿里云的容器服 务、链路追踪、弹性容器 ECI等产品，帮助客户业务实现容器化改造，并且方便发现系统应 用架构中的瓶颈等问题，实现系统高弹性的同时...
Function Compute构建高弹性大数据采集系统
当前互联网很多场景都存在需要将大量的数据信息采集起来然后传输到后端的各类系统服务中，对数据进行处理、分析，形成业务闭环。比如游戏行业中的游戏发行、游戏运营，产互行业中的数字营销，物联网、车联网行业中的硬件、车辆信息上报等等。这些场景普遍存在数据采集量大、数据传输需要稳定且吞吐量大的特点，给整个数据采集传输系统带来很大的挑战。在这个场景中，有三个关键的环节，数据采集、数据传输、数据处理。该最佳实践主要涉
完善的指标监控功能，消息查询功能。总的来说，就是一切 SLA都有云上兜底，我们只需要关注在消息发送和消息消费即可。步骤1 打开 kafka的详情页面。在 CADT应用页面，打开部署清单，找到 kafka，并点击。文档版本：20210806（发布日期）34 Function Compute构建高弹性大数据采集系统 创建削峰填谷函数 步骤2 进入实例详情页...
自建ElasticSearch迁移阿里云
场景描述 以ElasticSearch为例，演示搭建模拟业务系统、 VPN网关和IPSecVPN隧道，介绍如何通过快照 的方式，将ElasticSearch索引数据安全备份到 阿里云OSS存储空间，以及介绍如何将备份在 OSS的快照仓库恢复到阿里云ElasticSearch实 例，进一步达到ElasticSearch迁移上云的目的。 解决的问题 自建ElasticSearch的云上/跨云备份需求。 自建ElasticSearch迁移到阿里云 ElasticSearch服务实例。 产品列表 VPC，ECS，VPN网关，OSS，阿里云ElasticSearch，云速搭CADT
阿里云 Elasticsearch 提供 100%兼容开源 Elasticsearch的功能，以及 Security、Machine Learning、Graph、APM等商业功能，致力于数据分析、数据搜索等场景服 务。与开源社区背后商业公司 Elastic战略合作，为客户提供企业级权限管控、安全监控告警、自动报表生成等场景服务。Logstash 文档版本：20210802 III 自建 Elastic...
云数据库OceanBase
云数据库 OceanBase 版是构建在阿里云基础设施上的公有云数据库服务，基于完全自主研发的原生分布式数据库。通过多租户、高压缩存储、多级弹性伸缩、HTAP等能力，在保障数据库高性能的同时，显著降低数据库成本。同时在云上集成了评估、迁移、监控、诊断、备份恢复、运维优化等工具，让数据库管理与运维更简单。
对于 DDL 相关误操作，OceanBase 具备回收站功能从而防止用户误 drop table/database 的时候能快速恢复表数据.只有被验证过的执行计划才会被启用，当由于种种原因（如统计信息的变更）而导致目标 SQL 有了新的可选择的计划时，这些新执行计划并不会马上被启用，直到他们在 OBServer 内部被灰度小流量验证，并且比以往的计划...
来自：
云产品
CDH迁移升级CDP最佳实践
当前 CDH 免费版停止下载，终止服务，针对需要企业版服务能力并且CDH 升级过程对业务影响较小的客户，通过安装新的 CDP 集群，将现有数据拷贝至新集群，然后将新集群切换为生产集群，升级过程没有数据丢失风险，停机时间较短，适合大部分互联网客户升级使用。
数据一致性校验 最佳实践频道 阿里云最佳实践技术分享群 云服务器 ECS（产品名称）文档模板（手册名称）/文档版本信息 阿里云 CDH迁移升级 CDP 最佳实践 文档版本：20211029 文档版本：20150122（发布日期）II CDH迁移升级 CDP最佳实践 文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 CDH迁移升级 CDP最佳实践 ...
游戏数据运营融合分析
场景描述 1.游戏行业有结构化和非结构化数据融合分 析需求的客户。 2.游戏行业有数据实时分析需求的客户，无法 接受T+1延迟。 3.对数据成本有一定诉求的客户，希望物尽其 用尽量优化成本。 4.其他行业有类似需求的客户。 方案优势/解决问题 1.秒级实时分析：依托ADB计算密集型实例， 秒级监控DAU等数据，为广告投放效果提 供有力的在线决策支撑。 2.高效数据融合分析：打通结构化和非结构化 数据，支撑产品体验分析；广告买量投放效 果实时（分钟级）分析，渠道的评估更准确。 3.低成本：DLA融合冷数据分析+ADB存储密 集型温数据分析+ADB计算密集型热数据分 析，在满足各种分析场景需求的同时，有效 地降低的客户的总体使用成本。 4.学习成本低：DLA和ADB兼容标准SQL语 法，无需额外学习其他技术。 产品列表 专有网络VPC、负载均衡SLB、NAT网关、弹性公网IP 云服务器ECS、日志服务SLS、对象存储OSS 数据库RDSMySQL、数据传输服务DTS、数据管理DMS 分析型数据库MySQL版ADS 数据湖分析DLA、QuickBI
产品列表 专有网络 VPC、负载均衡 SLB、NAT网关、弹性公网 IP 云服务器 ECS、日志服务 SLS、对 象存储 OSS 数据库 RDS MySQL、数据传输服 务 DTS、数据管理 DMS 分析型数据库 MySQL版 ADS 数据湖分析 DLA、Quick BI 云服务器 ECS（产品名称）文档模板（手册名称）/文档版本信息 阿里云 游戏数据运营融合分析 最佳实践 文档...
企业多账号环境下的安全资源统一管控最佳实践
某地产公司在上海、杭州设有两个分公司，公司使用阿里云支撑各分公司的 IT 业务系统，这些系统由各分公司独立负责，包括独立负责云上业务账号的创建、员工权限的分配管理、资源的购买、IT 风险的管控、安全管理等。由于公司业务发展较快，各分公司创建了非常多的业务账号来承载新的业务，每个业务账号独立管理，带来了非常大的管理问题。人员权限管理混乱，离职员工在云上的身份梳理不清难以及时清理造成极大的安全隐患；账号权限过大、使用弱密码可能造成账号被盗数据泄露；公司内部缺乏统一的合规基线和安全管控，各业务系统各自为政，数据泄露、业务中断、安全入侵风险升级。 为了提升云上的管控效率和安全性，总公司成立新的信息安全中心和阿里云对接。信息安全中心的定位是统一采购安全产品，集中保障云上资源的安全性。
通过云防火墙可统一管理南北向和东西向的流量，提供流量监 控、精准访问控制、实时入侵防御等功能，全面保护网络安全。云安全中心通过统一 的界面展示企业内各个账号中检测出的安全风险，保护了用户在云上资产的安全。文档版本：20220224 49 企业多账号环境下的安全资源统一管控 CADT一键释放资源 4.CADT一键释放资源 针对...
云上高并发系统改造
场景描述 随着业务的发展，系统并发压力越来越大，如何 进行系统改造以满足高并发场景的业务需求成 为了一个技术难题。本实践抽象于客户的实际场 景，提供高并发下系统改造的理论指导和部分实 操演示。主要适用于以下场景： 1.系统并发压力大，需要进行系统应用改造。 2.数据层并发压力大，需进行分库分表改造。 3.数据库数据量巨大，亟待分库分表解决查询 和写入瓶颈的场景。 方案优势/解决问题 1.在水平扩展阶段，我们除了通过SLB做负载 均衡外，我们可以通过SLB下挂nginx的方 式，增加负载均衡侧的可扩展性 2.在数据库拆分阶段，在做好数据规划后，我 们借助DTS进行数据迁移，通过DRDS将 RDS MySQL的数据拆分到多个分库和分 表中。 产品列表 专用网络VPC 负载均衡SLB 云服务器ECS 数据库RDSMySQL 数据传输服务DTS PrivateZone 分布式关系型数据库DRDS
最佳实践频道 阿里云最佳实践分享群 产品列表 专用网络 VPC 负载均衡 SLB 云服务器 ECS 如二维码过期，数据库 RDS MySQL 请搜索群号：31852400 数据传输服务 DTS PrivateZone 云速搭 CADT 分布式关系型数据库 DRDS 云服务器 ECS（产品名称）文档模板（手册名称）/文档版本信息 文档版本：20150122（发布日期）II 云服务器 ...
云数据库RDS MySQL版备份恢复
场景描述 用户数据库数据， 部分需要快速、 小颗粒度恢复、 部分需要异地备份、部分需求长期归档。 当前自建 MySQL 上建立完善的备份/恢复系统无法完美满足用户需求， 且建设/维护成本很高。 RDS 的完善的备份/恢复方案可以有效帮助到用户。 方案优势 1. 可以方便实现本地备份及库表级别快速恢复， 快速应对误操作误删除等逻辑错误， 降低业务损失。 2. 可以方便实现异地备份， 实现数据级容灾， 满足合规要求。 3. 可以方便将数据进行归档， 实现长期数据的高性价比保存方案。 4. 有效提升用户数据备份效率， 降低维护工作量。 解决问题 1. 自建数据库发生误操作时恢复复杂 2. 部分数据发生错误进行恢复时可能影响其他数据访问 3. 异地备份操作复杂 4. 长期数据保存成本较高 5. 备份恢复系统维护所需人力成本较高
最佳实践频道 阿里云最佳实践分享群 如二维码过期，请搜索群号：31852400 云服务器 ECS（产品名称）文档模板（手册名称）/文档版本信息 阿里云 云数据库 RDS MySQL版备份恢复 最佳实践 文档版本：20210427 文档版本：20150122（发布日期）II 云数据库 RDS MySQL版备份恢复 文档版本信息 文档版本信息 文本信息 属性 内容 ...
基于ECI+FaaS构建游戏战斗结算服
在游戏行业的很多SLG游戏作品中，为了防止客户端作弊，在每局战斗之后，在客户端预判玩家胜利的情况下，需要服务端来进行战斗数据的结算，从而确定玩家是不是真正的胜利。战斗结算是强CPU密集型，结算系统每日需要大量的计算力，尤其是开服或者活动期间忽然涌入的大量玩家，导致需要的计算量瞬间几倍增长，同时需要结算系统保持稳定的延时来保证玩家的用户体验。 1. ECI支持500台实例30S弹出，快速解决业务模块扩容压力。FaaS毫秒级伸缩扩容，化解算力瓶颈，平滑解决暴增调用请求。 2. 降低成本：ECI每天弹性运行8小时，与6代同规格包月相比节省成本40%+，FaaS按需付费，即开即用，节省预留资源消耗。 3. 免运维：FaaS和ECI都是全托管免运维的服务，客户专注业务开发即可。 4. 模块公共化：减轻游戏逻辑服的压力，结算需求复用到类似需求的游戏。
函数计算会为您准备好计算 资源，以弹性、可靠的方式运行您的代码，并提供日志查询、性能监控、报警等功 能。详见：https://www.aliyun.com/product/fc ECS：云服务器（Elastic Compute Service，ECS）是一种简单高效、处理能力可 弹性伸缩的计算服务。帮助您构建更稳定、安全的应用，提升运维效率，降低 IT 成本，使您更...
- 产品推荐
- 这些文档可能帮助您