基于MyBase构建自主可控数据库和高弹性应用实践
一些企业级客户上云前，会重点关心数据库是否自主可控，包括云资源独享、自主可运维、获取OS 权限等特点，同时又要兼顾数据库合规性、安全性和高性能的要求；并力求在业务弹性下合理利用云产品降低数据和应用成本，弹性地支持业务。本实践为此类用户提供相关实践参考。
步骤9 可以分别导出架构图、部署报告、价格清单等，本实践略。步骤10 抽样检查部署的资源，是否已经成功创建。登录控制台，可以看到 ECS、MyBase、SLB等资源均已经创建：ECS：...
自建Hive数据仓库跨版本迁移到阿里云Databricks数据洞察
场景描述 客户在IDC或者公有云环境自建Hadoop集群构建数据仓库和分析系统，购买阿里云Databricks数据洞察集群之后，涉及到数仓数据和元数据的迁移以及Hive版本的订正更新。 方案优势 1. 全托管Spark集群免运维，节省人力成本。 2. Databricks数据洞察与阿里云其他产品（OSS、RDS、MaxCompute、EMR）进行深度整合，支持以这些产品为数据源的输入和输出。 3. 使用Databricks Runtime商业版引擎相比开源Spark性能有3-5倍的提升。 解决问题 1. Hive数仓数据迁移OSS方案。 2. Hive元数据库迁移阿里云RDS方案。 3. Hive跨版本迁移到Databricks数据洞察使用Delta表查询以提高查询效率。
通过 CADT搭建资源环境 本实例架构图：步骤1 登录 CADT控制台。（https://bpstudio.console.aliyun.com）步骤2 使用官方模板库搭建资源环境，单击新建>官方模板库新建。步骤3 可根据关键字找到本实践官方模板，单击基于方案新建。文档版本：20210425 3 自建 Hive数据仓库跨版本迁移到阿里云 Databricks数据洞察 基础环境...
自建Hadoop迁移到阿里云EMR
场景描述 场景1：自建Hadoop集群数据（HDFS）迁移到 阿里云EMR集群的HDFS文件系统； 场景2：自建Hadoop集群数据（HDFS）迁移到 计算存储分离架构的阿里云EMR集群，以OSS 和JindoFS作为EMR集群的后端存储。 解决的问题 客户自建Hadoop迁移到阿里云EMR集群的 技术方案； 基于IPSecVPN隧道构建安全和低成本数据 传输链路 产品列表 E-MapReduce，VPC，ECS，OSS，VPN网关。
它使用一个简单 的可扩展数据模型，允许在线分析应用程序。文档版本：20200330 IV 自建Hadoop数据迁移到阿里云 EMR 目录 目录 文档版本信息.I 法律声明.II 前言.III 目录.V 最佳实践概述.1 前置条件.2 资源规划说明.3 1.自建 Hadoop集群环境搭建.4 1.1.使用云速搭 CADT快速创建资源.4 1.2.安装日志发生器.14 1.3.安装 ...
SLS多云日志采集、处理及分析
场景描述 从第三方云平台或线下IDC服务器上采集 日志写入到阿里云日志服务，通过日志服务 进行数据分析，帮助提升运维、运营效率， 建立DT 时代海量日志处理能力。 针对未使用其他日志采集服务的用户，推荐 在他云或线下服务器安装logtail采集并使用 Https安全传输；针对已使用其他日志采集 工具并且已有日志服务需要继续服务的情 况，可以通过Log producer SDK写入日志 服务。 解决问题 1.第三方云平台或线下IDC客户需要使用 阿里云日志服务生态的用户。 2.第三方云平台或线下IDC服务器已有完 整日志采集、处理及分析的用户。 产品列表 E-MapReduce 专有网络VPC 云服务器ECS 日志服务LOG DCDN
部署完成后，可以下载 CADT输出的部署报告，包含以下内容以备查阅：文档版本：20211203 8 SLS多云日志采集、处理及分析 环境资源部署 类别 部署报告 部署方案架构图 成本测算 – 预付费资源成本详情和占比 – 后付费资源成本详情和占比 资源部署实例清单 文档版本：20211203 9 SLS多云日志采集、处理及分析 Logtail日志采集...
自建Hadoop迁移MaxCompute
场景描述 客户基于ECS、IDC自建或在友商云平台自建了大数 据集群，为了降低企业大数据计算平台的成本，提高 大数据应用开发效率，更有效保障数据安全，把大数 据集群的数据、作业、调度任务以及业务数据库整体 迁移到MaxCompute和其他云产品。 解决的问题 自建Hadoop集群搬迁到MaxCompute 自建Hbase集群搬迁到云Hbase 自建Kafka或应用数据准实时同步到 MaxCompute 自建Azkaban任务迁移到Dataworks任务 产品列表 MaxCompute，Dataworks、云数据库Hbase版、Datahub、VPC，ECS。
它使用一个简单 的可扩展数据模型，允许在线分析应用程序。文档版本：20210723 IV 自建Hadoop迁移MaxCompute 目录 目录 文档版本信息.I 法律声明.II 前言.III 目录.V 最佳实践概述.1 前置条件.3 资源规划说明.4 1.自建 Hadoop集群环境搭建.5 1.1.Hadoop集群安装规划.5 1.1.1.组件安装规划.5 1.1.2.组件运行规划.5 1.2.使用...
远程办公-AD管控下的弹性云桌面
在弹性云桌面中部署企业基础办公环境时，IT人员通常会面临以下问题，本文希望通过场景实践的方式，示范如何结合使用不同阿里云产品，来解决这些问题：用户如何管理？企业已有AD用户如何上云？云上共享文件服务权限怎么管？数据安全问题有保障吗？该如何设置？云桌面能使用本地机房或IDC中的服务吗？ 本文使用的应用场景： 场景1：客户A在云上新建Windows ActiveDirectory（以下简称AD）；弹性云桌面，和NAS文件存储服务部署在AD所在的VPC内。场景2：客户B在阿里云上已有AD和NAS。弹性云桌面创建在与AD不同的VPC中。AD与云桌面的VPC通过CEN连接。场景3：客户C在云下IDC有自建AD和文件服务。弹性云桌面创建在阿里云上。云下机房与阿里云弹性云桌面所在VPC通过IPsec VPN连接。 方案优势： 易部署：弹性云桌面支持快速便捷的桌面环境创建、部署、统一管控与运维。 CEN和VPN网关服务开通即用，配置实时生效，快速完成部署。 低成本：弹性云桌面无需前期传统硬件投资，帮您快速构建安全、高性能、低成本的桌面办公体系。可广泛应用于具有高数据安全管控、高性能计算等要求的金融、设计、视频、教育等领域。VPN网关基于Internet建立加密通道，比建立专线更便宜，快速实现混合云。 安全性：VPN网关使用IKE（秘钥交换协议）和IPSec对传输数据或进行加密，保证数据安全可靠。云桌面自带的安全策略保证数据不落地。 集中管控：通过Windows AD对云桌面用户和共享文件服务进行统一权限管控。可实现AD用户自动同步上云，和文件级别的权限管控。
文档版本：20201210 90 远程办公-AD管控下的弹性云桌面最佳实践 附录 1：验证桌面使用场景 文档版本：20201210 91 远程办公-AD管控下的弹性云桌面最佳实践 附录 1：验证桌面使用场景 场景 2：图形工作站 本例中在云桌面安装三维动画制作软件 Blender，使用 Deadline作为渲染管理系统提 供渲染服务。Blender 和 Deadline 的...
数据湖-在线学习场景数据分析
场景描述 本场景以在线教育中一个答题闯关类的应用为 例，使用WebServer来模拟演示这类日志数据 的分析处理。通过Nginx和Pythonflask搭建 WebServer，模拟应用中的关键页面，比如登 录、课程内容等，之后构造若干用户使用的模拟 日志数据，投递到数据湖进行分析后获取应用 PV、UV、课程内容访问排行、平均得分等等。 解决问题 基于数据湖（EMR+OSS）搭建大数据平台。 EMR和OSS使用和配置。 数据统一存储到OSS。 产品列表 E-MapReduce 对象存储OSS 云服务器ECS 访问控制RAM 专有网络VPC
如下图：需要安装python、git、nodejs等软件，具体安装步骤参见附件中的samplecode.txt 步骤3 修改nginx配置，打开/etc/nginx/nginx.conf，改为如下内容，参见附件中的 sample-nginx.conf 文档版本：20200331 34数据湖-在线学习场景数据分析 应用场景 步骤4 程序启动以后测试页面，在浏览器中打开 http://公网地址/app1/...
MRACC加速倚天ECS实例Flink集群性能
希望了解Flink集群on倚天的部署架构。 通过神龙大数据加速引擎 Mracc 提升Flink集群性能。 希望实测了解倚天ECS实例运行Flink集群的性能 架构设计：利用阿里云官方架构设计模版，在此基础上二次定制（调整规格、资源数量、配置调整）。 快速完成PoC和生产环境的设计和部署
步骤1 登录 CADT控制台，在应用>我的应用页面，找到这个 flink-yitian应用，单击查看 架构图。步骤2 打开资源清单，单击释放全部资源。文档版本：20230801 21 MRACC加速倚天 ECS实例 Spark集群性能 一键释放资源 步骤3 确认后，需要点击确定按钮。步骤4 需要用户再次确认，点击确定后，如果是主账号会触发风控（手机校验等...
云速搭构建大规模云手机压测集群
在互联网游戏行业新游发行前、金融行业的基金或券商APP在大版本更新前，均需要将APP部署到大规模测试环境中进行压测，确保大规模并发场景下对APP本身可靠性和后台业务系统的稳定性及资源准备情况做好验证。 本实践设计一个游戏压测场景，在阿里云的多地域快速部署共一万台云手机，每台云手机之间网络可互通，每台云手机通过阿里云提供的NAT网关可访问互联网。
步骤10 对上海、北京地域，可以复制上述架构图，然后修改架构图相应的地域、VPC、交换 文档版本：20220901 27 云速搭构建大规模云手机压测集群 大批量部署云手机 机、安全组，即可快速配置新地域的架构。步骤11 配置好杭州、北京、上海 3个云手机的架构图，三个架构图可并行部署，提高效率。步骤12 测试完成后，可一键释放...
自建Hive数仓迁移到阿里云EMR
场景描述 客户在IDC或者公有云环境自建Hadoop集群构 建数据仓库和分析系统，购买阿里云EMR集群之 后，涉及到将数据仓库和Hive元数据的数据库迁 移上云。目前主流Hive数据仓库迁移场景为1.x 版本迁移到阿里云EMR(Hive2.x版本），涉及到 数据订正更新步骤。 解决的问题 Hive数据仓库的数据迁移方案 Hive元数据库的迁移方案 Hive跨版本迁移后的数据订正 产品列表 E-MapReduce，VPC，ECS，OSS，VPN网关。
网络和交换机（架构图左：华东 2上海）类别 配置项 说明 专有网络 名称 客户 IDC-VPC IPv4网段 推荐网段 192.168.0.0/16 交换机 名称 vswitch-az-g 可用区 上海 可用区 G（可根据库存选其他可用区）IPv4网段 192.168.100.0/24 ECS实例 类别 配置项 说明 基础配置 ECS名 ecs-hadoop 支付方式 后付费 地域 华东 2（上海）可用...
云速搭部署混合云备份HBR
本实践以ECS文件备份为例，通过CADT设计备份架构，一键部署演示环境。
文档版本：20211023 8 云速搭部署混合云备份HBR CADT部署混合云备份HBR 步骤6 得到架构如下图所示：步骤7 单击架构图中的 region，设置为“华北 2（北京）”。文档版本：20211023 9 云速搭部署混合云备份HBR CADT部署混合云备份HBR 步骤8 单击 VPC，设置 VPC名（vpc-bj）以及网段（192.168.0.0/16）。步骤9 单击 vswitch，...
云速搭部署高可用虚拟 IP HaVIP
通过云速搭部署一个高可用虚拟 IP，并挂载到两个 ECS 实例节点上，HAVIP 将自动与两个 ECS 关联，并接受通过 ARP 协议宣告 来绑定某个 ECS 的网卡。
HaVip可以与高可用软 件（例如 Keepalived）配合使用，搭建高可用主备服务，提高业务的可用性。详 见：https://help.aliyun.com/document_detail/110065.html 弹性公网 IP（EIP）：弹性公网 IP（Elastic IP Address，简称 EIP）是可以独立购 买和持有的公网 IP地址资源。目前，EIP支持绑定到专有网络类型的 ECS实例、专有...
EMR HBase on OSS存算分离集群快速恢复
OSS-HDFS服务（JindoFS服务）是一款云原生数据湖存储产品。基于统一的元数据管理能力，在完全兼容HDFS文件系统接口的同时，提供充分的POSIX能力支持，能更好地满足大数据和AI等领域的数据湖计算场景。
详见：https://www.aliyun.com/product/emapreduce 文档版本：20220915 2 EMR HBase on OSS存算分离集群快速恢复 概述 概述 背景信息 HBase on OSS的架构如下图所示：说明：从架构图可以看到，本文不包含启用 JindoData读缓存的相关配置，HBase是 通过 JindoSDK来实现访问 OSS。架构优势 HBase on OSS架构优势如下：简化了...
跨云迁移单写双读过渡架构
概述 在搬站场景下，涉及迁移跨度较长，在过渡阶段客户需要跨云访问，如何保障数据链路的高可用尤为关键，采用专线和公网双备的方案保障数据传输的高可用，也降低双专线的迁移成本。 适用场景 数据迁移链路的高可用 跨云迁移过渡期架构 读写分类架构设计 技术架构 本实践方案基于如下图所示的技术架构和主要流程编写操作步骤： 方案优势 在迁移时间持续较长的情况下，使用单写双读架构降低业务改造成本。 使用数据库网关做专线和公网互备。 流量逐渐灰度验证，保障迁移平滑过渡。 安全：原生的多租户系统，以项目进行隔离，所有计算任务在安全沙箱中运行。
通过数据库网关，用户可以使用应用程序或云服务访问并管理本地 IDC或 其他云厂商的数据库。详见：https://www.aliyun.com/product/dg 云数据库 RDS MySQL版：MySQL 是全球最受欢迎的开源数据库之一，作为开 源软件组合 LAMP（Linux+Apache+MySQL+Perl/PHP/Python）中的重要一 环，广泛应用于各类应用场景。文档版本：...
虚拟桌面架构的高性能体验云上部署
场景描述 针对自建虚拟化桌面架构迁移阿里云，以及有虚拟化桌面 架构需求上云。包括但不限于： 1.有许可证合规要求，利用自带license快速上云的客户。 2.对数据安全较高要求，需要快速构建虚拟化桌面的客 户。 解决问题 利用云上灵活性和规模化优势，构建云上更加高效、高性 能体验的服务，为客户解决： 1.客户VDI部署的需求，能够更及时的得到满足。 2.解决硬件资源限制，根据业务规模化部署并集中管 控。 3.利用公共云的网络、计算、备份容灾方案、安全防护 等，提供高可靠、高性能、高体验的远程桌面服务。 产品列表 VPC（专有网络） SLB（负载均衡） CEN（云企业网） 专有宿主机 OpenAPI
虚拟桌面架构的高性能体验云上部署 最佳实践 场景描述 业务架构图 针对自建虚拟化桌面架构迁移阿里云，以及有虚拟化桌面 架构需求上云。包括但不限于：1.有许可证合规要求，利用自带 license快速上云的客户。2.对数据安全较高要求，需要快速构建虚拟化桌面的客 户。产品列表 解决问题 VPC（专有网络）利用云上灵活性和规模...
E-HPC低成本实现量化策略回测
在量化交易场景下，量化策略的构建流程一般包括：想法、数据获取、建模、回测、结果分析等，在回测过程中往往需要海量的算力，进行大量数据的分析和处理，如何快速、高效和低成本的进行批量任务的调度，并快速获取结果是量化领域遇到的普遍挑战，这也是云计算能够带给客户的巨大优势。
E-HPC低成本实现量化策略回测 最佳实践 业务架构图 场景描述 在量化交易场景下，量化策略的构建流程一般包 括：想法、数据获取、建模、回测、结果分析等，在回测过程中往往需要海量的算力，进行大量数 据的分析和处理，如何快速、高效和低成本的进 行批量任务的调度，并快速获取结果是量化领域 遇到的普遍挑战，这也是...
自建ELK迁移阿里云日志服务
场景描述 ELK Stack（Elastic/Logstash/Kibana） 通常 被用于日志实时分析， 在开源社区中有大量 的内容和使用案例。 本文介绍如何将自建的 ELK 系统迁移到阿里云 SLS 日志服务。 解决问题 1. 自建 ELK 如何迁移到阿里云日志服务。 2. 如何使用 Logtail 采集日志。 3. 如何使用阿里云日志服务对日志进行查 询、 分析。 产品列表 阿里云日志服务（SLS） VPN 网关 IPSec VPN 云服务器
文档版本：20240422 4自建ELK迁移阿里云日志服务（SLS）搭建ELK环境 步骤3 模版中SLS日志服务配置了两个logstore，一个存储nginx日志，一个存储elk日志 文档版本：20240422 5自建ELK迁移阿里云日志服务（SLS）搭建ELK环境 步骤4 架构图中有两个ECS实例，实例名nginx用于模拟ECS自建nginx产生日志，实例 名elk用于模拟ECS自...
- 产品推荐
- 这些文档可能帮助您