自建Hadoop迁移MaxCompute
场景描述 客户基于ECS、IDC自建或在友商云平台自建了大数 据集群，为了降低企业大数据计算平台的成本，提高 大数据应用开发效率，更有效保障数据安全，把大数 据集群的数据、作业、调度任务以及业务数据库整体 迁移到MaxCompute和其他云产品。 解决的问题 自建Hadoop集群搬迁到MaxCompute 自建Hbase集群搬迁到云Hbase 自建Kafka或应用数据准实时同步到 MaxCompute 自建Azkaban任务迁移到Dataworks任务 产品列表 MaxCompute，Dataworks、云数据库Hbase版、Datahub、VPC，ECS。
执行结果如下图所示：文档版本：20210723 59 自建Hadoop迁移MaxCompute Azkaban定时任务迁移和改造 步骤3 创建 ODPS SQL执行任务，在业务流程中，添加 ODPS SQL节点：文档版本：20210723 60 自建Hadoop迁移MaxCompute Azkaban定时任务迁移和改造 步骤4 将目前已有的两个节点连接起来，使得这两个任务节点具有上下游的依赖...
网络安全升级支持IPv6
场景描述 关键信息基础设施支持IPv6已经上升到国家战 略，公共云基础设施为云上客户系统支持IPv6 提供了完整的解决方案及产品。本最佳实践是在 现有WAF和高防IP作为网络安全架构基础上， 如何升级支持IPv6，同时满足云上和线下IDC 需求，满足合规要求。 解决问题 1.网络支持IPv6 2.支持V4和V6双栈 3.满足监管合规要求 产品列表 Web应用防火墙WAF DDoS高防IP DDoS防护包
如果两个协议都想防护，需要买两个 实例。根据目前的 DDoS攻击态势看，还很少有 IPv6的 DDoS攻击，所以，网络双栈安全 方案，可以先只对 IPv4进行 DDoS防护；IPv6的 DDoS防护可选，使用平台默认的 5G防护即可。DDoS防护包保护中配置的受保护的 IP地址是 WAF的 IP地址。3.1.WAF升级支持 IPv6 3.1.1.升级 WAF到企业版 步骤1 ...
自建Hadoop迁移到阿里云EMR
场景描述 场景1：自建Hadoop集群数据（HDFS）迁移到 阿里云EMR集群的HDFS文件系统； 场景2：自建Hadoop集群数据（HDFS）迁移到 计算存储分离架构的阿里云EMR集群，以OSS 和JindoFS作为EMR集群的后端存储。 解决的问题 客户自建Hadoop迁移到阿里云EMR集群的 技术方案； 基于IPSecVPN隧道构建安全和低成本数据 传输链路 产品列表 E-MapReduce，VPC，ECS，OSS，VPN网关。
这两个公网 ip分 别是目标集群侧绑定到 NAT上面的 EIP和绑定 master节点的 EIP。如果目标集群上 面的 EMR的 namenode是高可用的话，会有两个 master的 EIP，建议都加入进去。文档版本：20210714 62 自建Hadoop数据迁移到阿里云 EMR 附录 目标集群配置 步骤1 建好 EMR集群，在集群的同一个 VPC里面，创建一个 NAT网关，并且...
SLS多云日志采集、处理及分析
场景描述 从第三方云平台或线下IDC服务器上采集 日志写入到阿里云日志服务，通过日志服务 进行数据分析，帮助提升运维、运营效率， 建立DT 时代海量日志处理能力。 针对未使用其他日志采集服务的用户，推荐 在他云或线下服务器安装logtail采集并使用 Https安全传输；针对已使用其他日志采集 工具并且已有日志服务需要继续服务的情 况，可以通过Log producer SDK写入日志 服务。 解决问题 1.第三方云平台或线下IDC客户需要使用 阿里云日志服务生态的用户。 2.第三方云平台或线下IDC服务器已有完 整日志采集、处理及分析的用户。 产品列表 E-MapReduce 专有网络VPC 云服务器ECS 日志服务LOG DCDN
文档版本：20211203 72 SLS多云日志采集、处理及分析 日志服务器集群公网日志数据传递到日志服务 地域选择华东 1（杭州），VPC选择日志服务器机器组所在的 VPC,规格选择小型（NAT 网关规格请根据 NAT 网关规格结合实际业务需求进行选择），名称为 Test_NAT 将申请的两个 EIP并加入共享带宽构建 SANT IP池作为示例，创建 EIP...
异地双活场景下的数据双向同步
概述 随着客户业务规模的扩大，对系统高可用性要求越来越高，越来越多用户采用异地双活/多活架构，多活架构往往涉及业务侧做单元化改造，本方案仅模拟用户已做单元化改造后的数据双向同步，数据库采用双主架构，本地写本地读，同时又保证双库的数据一致性，为业务增加可用性和灵活性。 适用场景 数据库双向同步 数据库全局ID不冲突 双活架构的数据库建设问题 技术架构 本实践方案基于如下图所示的技术架构和主要流程编写操作步骤： 方案优势 DTS双向同步，采用独立模块避免数据同步占用系统资源。 奇偶ID涉及，避免数据冲突。 DTS多种处理冲突的方式供业务选择。 安全：原生的多租户系统，以项目进行隔离，所有计算任务在安全沙箱中运行。
部署大致需要 15分钟时间，部署完成后，如下：文档版本：20220209 7 异地双活场景下的数据双向同步 基础环境搭建 注意：这里 cen连接了两个 vpc，会自动创建路由，还需要到控制台绑定异地共享带宽。dts连接了两个 rds，会自动创建双向同步实例，还需要到控制台配置同步链路。1.2.创建云效项目组和项目 步骤1 打开阿里云云效...
跨云迁移单写双读过渡架构
概述 在搬站场景下，涉及迁移跨度较长，在过渡阶段客户需要跨云访问，如何保障数据链路的高可用尤为关键，采用专线和公网双备的方案保障数据传输的高可用，也降低双专线的迁移成本。 适用场景 数据迁移链路的高可用 跨云迁移过渡期架构 读写分类架构设计 技术架构 本实践方案基于如下图所示的技术架构和主要流程编写操作步骤： 方案优势 在迁移时间持续较长的情况下，使用单写双读架构降低业务改造成本。 使用数据库网关做专线和公网互备。 流量逐渐灰度验证，保障迁移平滑过渡。 安全：原生的多租户系统，以项目进行隔离，所有计算任务在安全沙箱中运行。
基础环境搭建 说明：本方案使用 CADT创建资源，提前做好两个地域的网络规划，两个地域的网段 不要冲突。1.1.使用 CADT创建资源 步骤1 登录云速搭 CADT控制台（https://bpstudio.console.aliyun.com/），选择官方模板新建。步骤2 通过搜索关键字找到“跨云迁移单写双读过渡架构”模板，单击基于应用新建。步骤3 注意修改 ECS...
互联网业务全球化互通组网
场景描述 本方案适用从事全球化业务的客户，希望借助全球 互通的网络，实现多地域的互通。 同时在全球互联的网络下，搭建应用多地部署。如果 业务中涉及到高速通道，提供高速通道迁移云企业网 的操作演练；涉及到跨账号多VPC下的数据迁移和 同步，本方案提供详细的操作步骤，帮助客户快速完 成演练。 解决问题 借助云企业网解决网络互通 高速通道到云企业网的平滑迁移 RDS的数据互通，特别是跨账号多VPC的数据同步 应用的快速部署 产品列表 云企业网（CEN）、云服务器（ECS）、数据库（RDS）、 数据库（Redis）、数据传输（DTS）、负载均衡（SLB） 块存储、专有网络（VPC）
步骤2 在实例列表页面，单击已创建的实例（wp001）操作列下的更多>网络和安全组>绑 定弹性 IP。文档版本：20191217 16 互联网业务全球化互通组网最佳实践 模拟应用国内部署 步骤3 在绑定弹性 IP对话框中，从下拉列表中选择已申请的 EIP，并单击确定。在实例列表中可查看到实例（wp001）已绑定 EIP。1.4.部署 Redis服务 开通...
金融行业从经典网络向VPC容器化改造
本实践介绍经典网络向VPC容器化改造实践 以及配置步骤，可适用于金融等行业 方案优势 容器化完成经典网络完成向VPC网络改 造 应用发布灵活 运维效率提升 解决问题 1.经典网络管理困难 2.应用发布不灵活 3.运维效率低 产品列表 专有网络VPC 容器服务Kubernetes版 日志服务SLS 云数据库RDS版 NAT网关 容器镜像服务ACR 云盘
文件分发(将经典网络文件向VPC网络传输)经典网络中往往有数据文件需要传输到新的VPC网络,这步演示两个不同网络间服务器上文件 的传输方式.3.1.创建VPC的文件分发服务器 1在ECS控制台点击右侧创建实例 选择按量付费 华东1杭州的可用区F 规格2C8G 页面下来,继续选择 公共镜像CentOS7.664位 点击下一步网络和安全组 文档版本：...
金融专属大数据workshop
实践目标 学习搭建一个实时数据仓库，掌握数据采集、存储、计算、输出、展示等整个业务流程。 整个实时数据仓库系统全部基于阿里云产品进行架构搭建，用户可以掌握并学会运用各个服务组件及各个组件之间如何联动。 理解阿里云原生实时离线一体数仓解决方案架构以及掌握交付落地的实践使用方法。 前置知识要求 熟练掌握SQL语法 对大数据体系系统知识有一定的了解
步骤4 按照步骤2~3，为order_detail创建1个订阅、dwd_paid_order_detail创建2个订阅、workshop_topic创建1个订阅，分别如下： dwd_paid_order_detail：分别记录为：{dwd_paid_order_detail_subID_1}、{dwd_paid_order_detail_subID_2} order_detail:记录为：{order_detail_subID} workshop_topic：文档版本：...
来自：
最佳实践
相关产品：块存储,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,弹性公网IP,数据传输,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,实时计算,数据总线,Quick BI,Hologres
数据湖-在线学习场景数据分析
场景描述 本场景以在线教育中一个答题闯关类的应用为 例，使用WebServer来模拟演示这类日志数据 的分析处理。通过Nginx和Pythonflask搭建 WebServer，模拟应用中的关键页面，比如登 录、课程内容等，之后构造若干用户使用的模拟 日志数据，投递到数据湖进行分析后获取应用 PV、UV、课程内容访问排行、平均得分等等。 解决问题 基于数据湖（EMR+OSS）搭建大数据平台。 EMR和OSS使用和配置。 数据统一存储到OSS。 产品列表 E-MapReduce 对象存储OSS 云服务器ECS 访问控制RAM 专有网络VPC
GTB6.3)”步骤3 我们这里使用两种日志，第一种日志格式，参考Nginx格式进行简化如下：'$remote_addr[$time_local]"$request"$status' 取4个字段分别记录客户端IP、时间、request和status，例如：82.77.24.10[2020-03-19 22:56:40]"GET/app1/onine/content/7?user_id=HTTP/1.1" 200 步骤4 第二种模拟WEB页面的行为日志，格式...
数据库异地灾备
场景描述 适用于不满足于单地域，对数据可靠性 （RPO）和服务可用性（RTO）要求更高 的，希望防范断电、断网等机房故障，抵 御地震、台风等自然灾害，具备异地容灾 备份恢复能力的客户业务场景。 解决问题 1.实时备份，RPO达到秒级 2.表级恢复，故障恢复时间大大缩短 3.长期归档，自动管理备份生命周期 4.异地灾备，构建数据库灾备中心 产品列表 专有网络VPC 云服务器ECS 弹性公网IP（EIP） 负载均衡SLB 云数据库RDSMySQL 数据库备份服务DBS 对象存储服务OSS 数据湖分析服务DLA 数据管理服务DMS 数据传输服务DTS
独立的公网 IP资源，可以绑定到阿里 云专有网络 VPC类型的 ECS、NAT网关、私网负载均衡 SLB上，并可以动态解 绑，实现公网 IP和 ECS、NAT网关、SLB的解耦，满足灵活管理的要求。详见：https://www.aliyun.com/product/eip SLB：负载均衡（Server Load Balancer，简称 SLB）。多台云服务器进行流量分 发的负载均衡服务，可以...
- 产品推荐
- 这些文档可能帮助您