大数据系统基准性能测试最佳实践
本方案适用于在阿里云上进行大数据基准性能测试的场景，包括 Teragen和Terasort测试，TestDFSIO测试。本文采用CADT工具结合阿里云的E-MapReduce服务快速构建测试集群，并提供了Teragen和Terasort测试，TestDFSIO测试的测试脚本，便于迅速开展测试。
进行 TestDFSIO测试 产品列表 EMR 云服务器 ECS 云速搭 CADT 阿里云最佳实践分享群 最佳实践频道 如二维码过期，请搜索群号：31852400 云服务器 ECS（产品名称）文档模板（手册名称）/文档版本信息 阿里云 企业上云实践 大数据系统基准性能测试 最佳实践 文档版本：20211123 文档版本：20150122（发布日期）II 大数据系统...
同地域跨可用区容灾
场景描述 面向阿里云公共云客户， 1.业务在同一个地域（Region） 2.应用已经无状态 3.在不大幅增加成本的情况下，希望获得支持业务的跨可用区（Zone）容灾能力 3.希望对整体的应用做容灾备份（简称容灾），而非单独的数据库或存储等 解决问题 提供云上高可用架构方案并提供可参考的跨可用区架构提供简单的容灾演练 产品列表 云服务器（ECS）、数据库（RDS）、专有络（VPC）、负载均衡（SLB）、消息队列（MQ）等
希望对整体的应用做容灾备份（简称容灾），而非单独的数据库或存储等 解决问题 提供云上高可用架构方案 并提供可参考的跨可用区架构 提供简单的容灾演练 遇到问题或使用建议和意见 请扫钉钉二维码，联系 owner 产品列表 云服务器（ECS）、数据库（RDS）、专有络（VPC）、负载均衡（SLB）、消息队列（MQ）等 云服务器 ECS...
云上成本优化workshop
某金融科技公司，它主要提供信贷，理财，电商等 服务，目前已经拥有千万级注册用户。该公司在将 在线业务系统和大数据业务从自建 IDC 机房迁移 到阿里云后，今年大数据集群经历过多次因为资 源不足导致弹性扩容失败的故障，运维负责人非 常苦恼。由于该公司从事互联网金融的借贷业务， 白天的催收非常依赖晚上大数据计算的结果，若 因为资源不足导致计算结果失败则意味着白天催 收业务员无事可做，会对公司业务造成严重影响。 后来，通过阿里云解决方案架构师建议的方案，将 大数据集群迁移到资源较充足的可用区以及配置 弹性伸缩多规格 ECS 选型增加交付成功率等方 法，目前已阶段性的解决因资源不足导致弹性扩 容失败的问题，但该方案在 Spot 计算资源不足 时，启用大量按量收费算力，带来了较高的成本， 并且抢占式实例和按量付费实例都不保证资源 100%交付，还是存在交付失败的可能性，特别是 在双 11 期间由于其他客户的资源需求上升带来 的资源挤兑客观上存在，就进一步增加了弹性扩 容失败的风险，从而影响业务正常运行。
钉 钉 机 器 人 的 请 求 地 址可参考 WebHook-钉 钉 机 器 人（https://help.aliyun.com/document_detail/91785.html）进行获取。本示例以邮件 为例。步骤3 设置告警。首次使用，需要选择一个区域存放全局的相关告警等信息，该日志库的数据写入、查 询与存储免费，也可以之后切换到其他区域。文档版本：20210329 41 云上...
来自：
最佳实践
相关产品：云服务器ECS,负载均衡 SLB,弹性公网IP,容器服务 ACK,日志服务（SLS）,NAT网关,函数计算,E-MapReduce,云数据库PolarDB,弹性容器实例 ECI,存储容量单位包,预留实例券,Hologres
PolarDB 应对大并发复杂查询实践
MySQL架构是单线程处理SQL，遇到大并发复杂查询时，需要排队长时间等待，容易形成慢查询，影响业务。PolarDB并发查询能力可以很好解决此问题。
相同资源可以承载更大规模的业务 量，节省成本 产品列表 最佳实践频道 阿里云最佳实践分享群 访问控制 RAM 专有网络 VPC 云服务器 ECS 云数据库 PolarDB 如二维码过期，请搜索群号：31852400 云服务器 ECS（产品名称）文档模板（手册名称）/文档版本信息 阿里云 PolarDB如何应对 大并发复杂查询 最佳实践 文档版本：...
企业用户多账号合并之存储迁移集中
场景描述 本文介绍使用在线迁移服务，将分布在各个云 账号中的对象存储、文件存储数据集中到一个 账号的对象存储或文件存储下。 解决问题 1.安全治理需求，统一的账户体系、身份、权 限及资源管理。 2.业务系统相互访问，数据统一需求。 3.系统架构及资源成本优化需求，多账号下的 带宽、流量、存储包等资源整合优化。 4.企业或部门合并时云账号的合并。 产品列表 RAM OSS NAS 在线迁移
开通以下服务：ￚ 云速搭 CADT ￚ 对象存储 OSS ￚ 文件存储 NAS ￚ 数据迁移服务 遇到问题，请扫钉钉二维码联系我们获取支持。文档版本：20220505 2 企业用户多账号合并之存储迁移集中部署 基础环境准备 1.基础环境准备 本章介绍如何开通产品及服务，并利用云速搭 CADT快速部署整个 demo系统。1.1.开通产品及服务 步骤1 ...
云Clickhouse冷热数据分层存储
基于云ClickHouse可以给电商、游戏、互联网以及其他行业提供高性能、高稳定性、低维护成本、高性价比的实时数据分析、精准营销、业务运营、业务分析、业务预警、业务营销、数仓加速等场景化方案，本实践会向客户提供数据库低维护成本、数据库链路构建、冷热分层存储、快熟分析等操作实践。 解决问题 1. 维护成本低不用建设维护体系，稳定性高，数据倾斜自动均衡。 2. 完善的数据同步链路，可以平滑将业务库、大数据、日志服务的数据同步到Clickhouse，降低研发成本。 3. 平滑升级版本，业务中断小。 冷热分层后透明读取，帮客户节约整体数据存储成本。
文档版本：20210416 19 云 ClickHouse冷热数据分层存储最佳实践 云资源创建和配置 步骤7 开通 SQL洞察后，可以看到 SQL洞察搜索、分析页面。1.5.创建云服务器 ECS实例 本节向您介绍创建 ECS实例，用于后续构建 SLS日志投递至云 ClickHouse集群的验 证。验证 SLS日志投递功能需要 ECS实例组，创建 2台 ECS实例。步骤1 登录云...
基于DataWorks的大数据一站式开发及数据治理
概述 基于Dataworks做大数据一站式开发，包含数据实时采集到kafka通过实时计算对数据进行ETL写入HDFS，使用Hive进行数据分析。通过Dataworks进行数据治理，数据地图查看数据信息和血缘关系，数据质量监控异常和报警。 适用场景 日志采集、处理及分析 日志使用Flink实时写入HDFS 日志数据实时ETL 日志HIVE分析 基于dataworks一站式开发 数据治理 方案优势 大数据一站式开发，完善的数据治理能力。 性能优越：高吞吐，高扩展性。 安全稳定：Exactly-Once，故障自动恢复，资源隔离。 简单易用：SQL语言，在线开发，全面支持UDX。 功能强大：支持SQL进行实时及离线数据清洗、数据分析、数据同步、异构数据源计算等Data Lake相关功能 ，以及各种流式及静态数据源关联查询。
文档版本：20201020 44 基于 Dataworks的大数据一站式开发及数据治理 数据治理 步骤8 在这里可以添加订阅关联，可以以邮件、短信、钉钉的方式通知订阅人。文档版本：20201020 45 基于 Dataworks的大数据一站式开发及数据治理 数据治理 文档版本：20201020 46 基于 Dataworks的大数据一站式开发及数据治理 附件：源码解读 6....
基因计算工作流
场景描述 适合利用容器服务Kubernetes版上的工作流 引擎进行大规模基因测序的场景。阿里云工作流 引擎基于开源项目Argo实现，支持并发、循环、 重试等多种执行策略。典型的基因计算过程会把 数据分批进行计算，按照规定好的步骤依次完成 计算，这符合工作流的特点：多层次，有向无环 图。 解决问题 1.基因计算如何构建工作流 2.容器服务Kubernetes版结合 共享文件存储NAS提供数据 服务 3.构建单POD工作流 产品列表 容器服务Kubernetes版 文件存储NAS
构建单 POD工作流 阿里云最佳实践分享群 产品列表 最佳实践频道 容器服务 Kubernetes版 文件存储 NAS 如二维码过期，请搜索群号：31852400 云服务器 ECS（产品名称）文档模板（手册名称）/文档版本信息 阿里云 企业上云实践 基因计算工作流最佳实践 文档版本：20191127 II 基因计算工作流最佳实践 文档版本信息 文档版本...
中小企业基于SAG APP实现云上移动办公
1. 客户端一键接入上云，配置自动化 2. 城域内 Internet 就近接入，快速高效 3. 数据加密传输，满足安全性要求 4. 阿里云控制台统一配置管理
有问题请扫钉钉二维码联系我们。文档版本：20211008 3 中小企业基于 SAG APP实现云上移动办公最佳实践 环境构建 1.环境构建 1.1.网络规划 APP版配置本地终端接入阿里云使用的私网网段，需要确保各私网网段与云上 VPC网 段不冲突，且网段大小可满足承载的用户量。本示例相关网络地址段规划如下。地域 IP地址 APP终端私网 IP ...
数据湖-在线学习场景数据分析
场景描述 本场景以在线教育中一个答题闯关类的应用为 例，使用WebServer来模拟演示这类日志数据 的分析处理。通过Nginx和Pythonflask搭建 WebServer，模拟应用中的关键页面，比如登 录、课程内容等，之后构造若干用户使用的模拟 日志数据，投递到数据湖进行分析后获取应用 PV、UV、课程内容访问排行、平均得分等等。 解决问题 基于数据湖（EMR+OSS）搭建大数据平台。 EMR和OSS使用和配置。 数据统一存储到OSS。 产品列表 E-MapReduce 对象存储OSS 云服务器ECS 访问控制RAM 专有网络VPC
如有问题或建议，请扫钉钉二维码联系我们。文档版本：20200331 4数据湖-在线学习场景数据分析 数据湖 1.数据湖 随着大数据产品的日益成熟与稳定，加上国内云服务的不断提高，如今不少互联网 公司在建设自己的大数据基础平台，大数据平台的成本也变的更低。传统的Hadoop 方案中原始数据和ETL之后的数据都存储于HDFS，随着...
SLS多云日志采集、处理及分析
场景描述 从第三方云平台或线下IDC服务器上采集 日志写入到阿里云日志服务，通过日志服务 进行数据分析，帮助提升运维、运营效率， 建立DT 时代海量日志处理能力。 针对未使用其他日志采集服务的用户，推荐 在他云或线下服务器安装logtail采集并使用 Https安全传输；针对已使用其他日志采集 工具并且已有日志服务需要继续服务的情 况，可以通过Log producer SDK写入日志 服务。 解决问题 1.第三方云平台或线下IDC客户需要使用 阿里云日志服务生态的用户。 2.第三方云平台或线下IDC服务器已有完 整日志采集、处理及分析的用户。 产品列表 E-MapReduce 专有网络VPC 云服务器ECS 日志服务LOG DCDN
任何问题或建议请钉钉扫码联系文档 owner 文档版本：20211203 3 SLS多云日志采集、处理及分析 导读 1.导读 1.1.如何选择阅读内容 本文采用两个方案进行日志采集分析，针对未使用其他日志采集服务或者有意愿改造 原有日志服务的用户，推荐在其他云或线下服务器安装 logtail采集并使用 https安全 传输的方式采集日志，推荐...
资源管理
场景描述 随着企业IT成熟度不断提高、管理的云上资源 不断增多，如何对资源进行高效管理的问题就会 凸显出来。阿里云的资源管理服务支持您按照业 务需要搭建适合的资源组织关系，使用目录、资 源夹、账号、资源组分层次组织与管理您的全部 资源，更好的实现项目成功。 解决问题 1.按照企业组织结构管理账号体系。 2.指定结算账号进行统一结算 3.统一管理成员账号权限系统 4.账号下的资源按照资源组进行分类 5.可以按照自定义财务单元进行分账管理 产品列表 资源管理
5.可以按照自定义财务单元进行分账管理 产品列表 最佳实践频道 阿里云最佳实践分享群 产品列表 资源管理 资源管理 专有网络 VPC 访问控制 RAM 云服务器 ECS 如二维码过期，请搜索群号：31852400 云服务器 ECS（产品名称）文档模板（手册名称）/文档版本信息 阿里云 资源管理 最佳实践 文档版本：20210712（发布日期）文档...
基于弹性计算的AI推理
场景描述 本方案适用于使用GPU进行AI在线推理的场 景。在推理之前，模型已经训练完成。例如,刷脸 支付中，我们在刷脸的时候，就是推理的一个过 程。再比如图像分类，目标检测，语音识别，语 义分析等返回结果的过程。 解决问题 使用GPU云服务器搭建推理环境 使用容器服务Kubernetes版构建推理 环境 使用NAS存储模型数据 使用飞天AI加速推理工具加速推理 产品列表 GPU云服务器 容器服务Kubernetes版 NAS共享存储
解决问题 使用 GPU云服务器搭建推理环境 使用容器服务 Kubernetes版构建推理环 境 使用 NAS存储模型数据 使用飞天 AI加速推理工具加速推理 产品列表 GPU云服务器 容器服务 Kubernetes版 NAS共享存储 阿里云最佳实践技术分享群 最佳实践频道 如二维码过期，请搜索群号：31852400 云服务器 ECS（产品名称）文档模板（手册名称...
RI和SCU全链路使用实践
场景描述 随着云计算的不断发展，更多的企业会使用云计算，且会有越来 越多的企业和用户开始重视云上使用成本。 其中计算和存储是云资源使用的主要服务之一。采用预留实例券 业务架构（RI）和存储容量单位包（SCU）可以帮助客户灵活的节省成本。 本文提供全链路使用实践，帮助客户快速验证云上服务，更合理 的使用RI/SCU。借助覆盖率指标和智能推荐，有效管理云上资 源成本。 用户价值 使用RI 和SCU，可以灵活抵扣相关资源。随时创建释放， 稳态业务资源效率提高。 一份RI 可以抵扣ECS+ACK+EMR+ECI 等服务，跨服务高 度灵活，无需再分开购买。 SCU可以跨可用区抵扣某个地域下所有类型的按量付费云 盘，简化购买与管理复杂度。 RI+SCU 大幅降低按量场景的计算和存储成本。 产品列表 专有网络VPC、容器服务Kubernetes 版ACK 云服务器ECS、预留实例券RI、存储容量单位包SCU
请扫钉钉二维码，联系 owner 文档版本：20200608（发布日期）1 RI和SCU全链路使用实践 实践概述 1.实践概述 使用场景 随着云计算的不断发展，更多的企业会使用云计算，且会有越来越多的企业和用户开 始重视云上使用成本。其中计算和存储是云资源使用的主要服务之一。采用预留实例 券（RI）和存储容量单位包（SCU）可以帮助...
超级计算集群实现自然语言处理训练
场景描述 本方案适用于自然语言训练场景，使用神龙 GPU云服务器（SCCGN6）+CPFS进行NLP的 训练，采用Bert模型。这里不使用容器，直接 使用裸机进行NLP的Bert训练，使用飞天AI加 速训练工具可以有效提升多机多卡的训练效率。 解决问题 使用神龙GPU云服务器搭建NLP训练环 境 使用SCC的RDMA网络 使用CPFS存储训练数据 使用飞天AI加速训练工具加速训练 产品列表 神龙GPU云服务器（SCCGN6） SCC超级计算集群 CPFS共享存储
在安全组列表页面，在顶部下拉列表选中安全组名称并输入文件系统ID/名称，单击搜索。 记录目标安全组信息。 管理节点安全组的名称结构为：qr-sg。其中，为CPFS文件系统 ID；为挂载点的序列号，每次创建CPFS挂载点时递增。15企业上云实践 基于超级计算集群的自然语言处理AI训练 步骤2 将要挂载cpfs的实例添加到挂载点...
基于MaxCompute的大数据BI分析
场景描述 本文以电商行业为例，将业务数据和日志数据使用 MaxCompute做ETL之后，同步到ADB进行实时 分析，之后通过QuickBI进行快速可视化展示。 解决问题 1.互联网行业、电商、游戏行业等网站、App、 小程序应用内BI分析场景。 2.可扩展到各类网站BI分析场景使用。 产品列表 1.MaxCompute 2.分析型数据MySQL版 3.日志服务SLS 4.QuickBI 5.云服务器ECS 6.RDSMySQL版
实时数仓 Hologres 如有问题请使用钉钉扫码联系文档作者：3.日志服务 SLS 4.Quick BI 5.云服务器 ECS 6.RDS MySQL版 最佳实践频道 阿里云最佳实践技术分享群 云服务器 ECS（产品名称）文档模板（手册名称）/文档版本信息 阿里云 企业上云实践 基于MaxCompute的大数据 BI分析 最佳实践 文档版本：20211213 文档版本：...
混合云使用Ali-Perseus
场景描述 本文介绍了混合云场景中，自建 Kubernetes服务，线下集群+云上弹性扩 展阿里云GPU服务实例+飞天AI加速工 具，并采用阿里云CPFS存储，运行AI训 练+AI推理作业的操作步骤。 解决问题 1.利用云企业网打通两个地域的VPC， 自建Kubernetes集群 2.使用飞天AI加速工具运行训练和推理 作业 3.使用CPFS存储共享数据 产品列表 云企业网CEN GPU云服务器 并行文件存储CPFS 文件存储NAS
使用 CPFS存储共享数据 产品列表 云企业网 CEN 如二维码过期，GPU云服务器 请搜索群号：31852400 并行文件存储 CPFS 文件存储 NAS 云服务器 ECS（产品名称）文档模板（手册名称）/文档版本信息 阿里云 企业上云实践 混合云使用飞天 AI加速工具 最佳实践 文档版本：20200114 II 混合云使用飞天AI加速工具 文档版本信息 文档...
基于HBR云上统一备份
场景描述 混合云备份（简称HBR）是一种简单易用且高性价 比的在线备份服务，可以为阿里云ECS，NAS，OSS 以及自建机房内的各类数据提供安全，高效的保护。 本文介绍如何通过HBR对云上数据进行统一备份管 理。 解决问题 1.备份阿里云云上数据。 2.备份数据中心数据。 适用云资源 ECS文件系统 NAS文件 OSS文件 ECS上自建的MySQL、Oracle、SQLServer数据库 ESC上自建的SAPHANA数据库 产品列表 1.HBR备份服务 2.云服务器ECS 3.文件系统NAS 4.对象存储OSS 云上统一备份 云下统一备份 上云备份 备份上云
步骤1 登录阿里云控制台，搜索 CADT并打开。步骤2 在 CADT页面，单击新建>官方模板库新建，找到名称为《基于 HBR云上统一备 份管理》的模板。文档版本：20210402 6 HBR云上统一备份 云上基础环境配置 步骤3 基于方案新建应用，如下图所示。文档版本：20210402 7 HBR云上统一备份 云上基础环境配置 步骤4 如图，双击架构图中...
- 产品推荐
- 这些文档可能帮助您