自建Hadoop迁移MaxCompute
自建Hadoop迁移MaxCompute
场景描述 客户基于ECS、IDC自建或在友商云平台自建了大数 据集群,为了降低企业大数据计算平台的成本,提高 大数据应用开发效率,更有效保障数据安全,把大数 据集群的数据、作业、调度任务以及业务数据库整体 迁移到MaxCompute和其他云产品。 解决的问题 自建Hadoop集群搬迁到MaxCompute 自建Hbase集群搬迁到云Hbase 自建Kafka或应用数据准实时同步到 MaxCompute 自建Azkaban任务迁移到Dataworks任务 产品列表 MaxCompute,Dataworks、云数据库Hbase版、Datahub、VPC,ECS。
自建 Hadoop迁移 MaxCompute 场景描述 解决的问题 客户基于ECS、IDC自建或友商自建了大数据集群,自建Hadoop集群搬迁到 MaxCompute 为了降低企业大数据计算平台的成本,提高大数 自建Hbase集群搬迁到云 Hbase 应用开发效率,更有效保障数据安全,把大数据 自建 Kafka 或服务器数据实时同步到 集群的数据、作业、调度任务...
来自: 最佳实践 相关产品:云服务器ECS,DataWorks,大数据计算服务 MaxCompute,云数据库 HBase 版,数据总线,云速搭
新版产品集合页
基于丰富的产品,将计算、存储、网络、数据库、大数据、人工智能等最新产品技术与场景深度融合,为开发者打造稳定可靠的云基础设施以及云原生的开发环境。
数据集成 Data Integration数据集成是稳定高效、弹性伸缩的数据同步平台,致力于提供复杂网络环境下、丰富的异构数据源之间高速稳定的数据移动及同步能力。大数据专家服务由阿里云大数据技术专家基于多年大数据架构、应用、运维最佳实践经验及方法论为用户提供包含大数据产品技术咨询服务及售后保障全方位的服务。数据资源...
来自: 云产品
地域跨可用区容灾
<em>同</em>地域跨可用区容灾
场景描述 面向阿里云公共云客户, 1.业务在同一个地域(Region) 2.应用已经无状态 3.在不大幅增加成本的情况下,希望获得支持业务的跨可用区(Zone)容灾能力 3.希望对整体的应用做容灾备份(简称容灾),而非单独的数据库或存储等 解决问题 提供云上高可用架构方案并提供可参考的跨可用区架构提供简单的容灾演练 产品列表 云服务器(ECS)、数据库(RDS)、专有络(VPC)、负载均衡(SLB)、消息队列(MQ)等
主备切换时间一般 30 秒内完成,极端情况下视主从节 点数据同步耗时有所增加;切换速度与主从同步的数据量等有关 2.主备切换过程中哪些操作可以进行?哪些操作不能进行?主备库切换过程中,有很多操作无法执 行,例如管理数据库和账号、切换网络类型等;主备库切换工程中建议都不要进行任何操作,建 议切换完成以后再正常...
来自: 最佳实践 | 相关产品:块存储,云服务器ECS,云数据库RDS MySQL 版,数据传输,访问控制
阿里云最佳实践离线大数据workshop
阿里云最佳实践离线大数据workshop
本最佳实践,首先搭建一个简化的电商 demo 系统,然后为此 demo 系统构建一套离 线大数据分析系统。 实践目标 1. 学习搭建一个离线大数据分析系统,学习从数据采集到数据存储和业务分析的业 务流程。 2. 整个离线大数据分析系统全部基于阿里云产品进行搭建,学习掌运用各个服务组 件及各个组件之间如何联动。 背景知识要求 熟练掌握 SQL 语法 对大数据体系系统知识有一定的了解
MaxCompute向用户提供了完善的数据导入方 案以及多种经典的分布式计算模型,能够更快速的解决用户海量数据计算问题,有 效 降 低 企 业 成 本,并 保 障 安 全。详 见:https://help.aliyun.com/product/27797.html  Dataworks:DataWorks基于MaxCompute/EMR/MC-Hologres等大数据计算引 文档版本:20210802(发布...
来自: 最佳实践 | 相关产品:云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,日志服务(SLS),大数据计算服务 MaxCompute,DataV数据可视化,数据总线,Quick BI,云速搭
基于Flink的资讯场景实时数仓
基于Flink的资讯场景实时数仓
场景描述 本实践针对资讯聚合类业务场景,Step by Step介绍 如何搭建实时数仓。 解决问题 1.如何搭建实时数仓。 2.通过实时计算Flink实现实时ETL和数据流。 3.通过实时计算Flink实现实时数据分析。 4.通过实时计算Flink实现事件触发。 产品列表 实时计算 专有网络VPC 云数据库RDSMySQL版 分析型数据库MySQL版 消息队列Kafka 对象存储OSS NAT网关 DataV数据可视化
数据库中的数据,可通过数据传输服务 DTS被实时数据同步到消息 队列 Kafka中。3.数据加工:消息队列收到的原始数据,往往存在格式不齐或内容不全,需要经过 清洗(ETL)之后,才能更好的被下游业务使用。而整个 ETL过程,是实时数 仓架构设计上非常重要的一环,该环节要做到延时小,成本低,可扩展性好,业务 指标计算...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,NAT网关,云原生数据仓库AnalyticDB My,云速搭CADT
自建Hadoop迁移到阿里云EMR
自建Hadoop迁移到阿里云EMR
场景描述 场景1:自建Hadoop集群数据(HDFS)迁移到 阿里云EMR集群的HDFS文件系统; 场景2:自建Hadoop集群数据(HDFS)迁移到 计算存储分离架构的阿里云EMR集群,以OSS 和JindoFS作为EMR集群的后端存储。 解决的问题 客户自建Hadoop迁移到阿里云EMR集群的 技术方案; 基于IPSecVPN隧道构建安全和低成本数据 传输链路 产品列表 E-MapReduce,VPC,ECS,OSS,VPN网关。
JindoFS包含以下两种模式的存储空间:缓存(Cache)模式 缓存模式兼容现有 OSS存储方式,文件以对象的形式存储在 OSS上,每个文件 根据实际访问情况会在本地进行数据和元数据的缓存,从而提高访问数据以及元 数据的性能,Cache 模式提供不同元数据同步策略以满足用户在不同场景下的需 求。块存储(Block)模式 块存储模式...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,VPN网关,E-MapReduce,云速搭
开源Flink迁移实时计算Flink全托管版最佳实践
开源Flink迁移实时计算Flink全托管版最佳实践
本方案介绍如何将自建开源Flink集群的流式任务(包含Datastream、Table/SQL、PyFlink任务)迁移至阿里云实时计算全托管版。
文档版本:20211222 8 开源 Flink迁移实时计算Flink全托管版 基础环境搭建 1.1.2.Flink集群资源评估 阿里云实时计算 Flink版产品按照 CU 计费,1CU=1Core+4G MEM,参考产品官 方介绍,每个计算 的 CU 节点每秒钟处理能力如下:简单作业(指仅仅进行数据同步,或者在数据同步中涉及一些简单的过滤清洗)1.每个计算 CU 可处理 ...
来自: 最佳实践 | 相关产品:专有网络 VPC,云数据库RDS MySQL 版,E-MapReduce,实时计算,消息队列 Kafka 版,云速搭CADT
云数据库 RDS MariaDB 版
云数据库 MariaDB 版是全球流行的开源数据库,支持包括 MySQL InnoDB 等多种存储引擎,为不同需求的用户提供灵活的选择。
推荐搭配使用 云服务器 ECS 云数据库 MariaDB 云数据库 Redis更多产品与服务数据管理 DMS 数据管理服务 DMS 是一款支撑数据全生命周期的一站式数据管理平台,提供全域数据资产管理、数据治理、数据库设计开发、数据集成(上云迁移、容灾、多活、ETL)、数据开发及数据消费服务等能力。查看详情 数据传输服务 DTS 数据传输...
来自: 云产品
实时数仓Hologres
Hologres(原交互式分析)是一站式实时数据仓库引擎,支持海量数据实时写入、实时更新、实时分析,支持标准SQL(兼容PostgreSQL协议),支持PB级数据多维分析(OLAP)与自助分析(Ad Hoc),支持高并发低延迟的在线数据服务(Serving),与MaxCompute、Flink、DataWorks深度融合,提供离在线一体化全栈数仓解决方案。
实时数仓Hologres(原交互式分析).Hologres是一站式实时数据仓库引擎,支持海量数据实时写入、实时更新、实时分析,支持标准SQL(兼容PostgreSQL协议),支持PB级数据多维分析(OLAP)与即席分析(Ad Hoc),支持高并发低延迟的在线数据服务(Serving),与MaxCompute、Flink、DataWorks深度融合,提供离在线一体化全栈数仓...
来自: 云产品
OA云资源申请流程自动化
OA云资源申请流程自动化
在企业级客户场景中,对云资源的使用通常需要经过内部OA流程审批通过后再进行部署。本最佳实践致力于提供一个通用解决方案,以解决OA云资源申请流程中的自动化问题,提高运维效率,以更好地支撑业务创新。
文档版本:20240130 30 OA云资源申请流程自动化 CADT自动化集成配置 4.CADT 自动化集成配置 章节 3创建的申请流程,在审批通过后会通过 OA的流程流转集成功能,将申请单数据同 到 RDS的数据库表 cadt_task_21中,并且标记字段 status 为“approved”,所以需 要在 cadt-agent-ecs上对此表上的任务进行扫描后然后执行相应...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,云速搭
云上持续审计合规最佳实践
云上持续审计合规最佳实践
本方案是面向云上资源的操作审计和配置审 计,提供的最佳实践。适用于企业型客户。通过最佳实践帮助客户在本场景下更好的使用 阿里云,涉及到配置审计、操作审计、函数计算、SLS、OSS 等服务的实践操作。 解决问题 企业会面临外部对企业云上信息系统的合规要求,如等保2.0法规要求。 同时当云上资源达到一定规模时,在内部会制定合规管控的基线,满足自身管理效率和安全合规的需 求。 包括记录云上资源管理的操作日志、资源配置变更日志,还需依赖云平台提供的持续监控和自动告警能力,实现合规性的自主监管。
是阿里云提供的一种基础云计算 无需提前采购硬件设备,根据业务需要,随时创建所需数量的云服务器 ECS实 例。在使用过程中,随着业务的扩展,可以随时扩容磁盘、增加带宽。也能随时释 放资源,节省费用。文档日期:20210726 IV 云上持续审计合规最佳实践 场景描述 详见:https://www.aliyun.com/product/ecs RDS:...
来自: 最佳实践 | 相关产品:云服务器ECS,云数据库RDS MySQL 版,函数计算,操作审计,配置审计
跨云迁移单写双读过渡架构
跨云迁移单写双读过渡架构
概述 在搬站场景下,涉及迁移跨度较长,在过渡阶段客户需要跨云访问,如何保障数据链路的高可用尤为关键,采用专线和公网双备的方案保障数据传输的高可用,也降低双专线的迁移成本。 适用场景 数据迁移链路的高可用 跨云迁移过渡期架构 读写分类架构设计 技术架构 本实践方案基于如下图所示的技术架构和主要流程编写操作步骤: 方案优势 在迁移时间持续较长的情况下,使用单写双读架构降低业务改造成本。 使用数据库网关做专线和公网互备。 流量逐渐灰度验证,保障迁移平滑过渡。 安全:原生的多租户系统,以项目进行隔离,所有计算任务在安全沙箱中运行。
阿里云最佳实践分享群 最佳实践频道 产品列表 云服务器 ECS、负载均衡 SLB、云企业网 CEN 云数据库 RDS、性能测试 PTS 如二维码过期,请搜索群号:数据传输服务 DTS 31852400 云服务器 ECS(产品名称)文档模板(手册名称)/文档版本信息 阿里云 跨云迁移单写双读过渡架构 最佳实践 文档版本:20201209 文档版本:20150122...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,数据传输,性能测试 PTS,云企业网,云速搭CADT
云上日志集中审计
云上日志集中审计
场景描述 云上的各类云产品和客户部署的业务系统会产生各类 日志,企业合规及安全运营等都需要在一个地方能 集中的查看和分析日志;目前各云产品日志大部分 都进了sls,但都是产品独立的project,不方便集中 审计;客户的业务系统日志各种形态都有;多云和混 合云的场景,日志也需要能集中审计。 解决问题 1.所有日志集中到SLS一个中心project下。 2.满足等保合规和内部合规需求。 3.满足运维和安全运营需求。 产品列表 日志服务SLS 专有网络VPC 弹性公网IPEIP 负载均衡SLB 云服务器ECS 云数据库RDS 云防火墙CFW
产品列表 日志服务 SLS 最佳实践频道 阿里云最佳实践分享群 专有网络 VPC 弹性公网 IP EIP 负载均衡 SLB 云服务器 ECS 云数据库 RDS 云防火墙 CFW 云服务器 ECS(产品名称)文档模板(手册名称)/文档版本信息 阿里云 企业上云实践 云上日志集中审计 最佳实践 文档版本:20200630(发布日期)文档版本:20150122(发布日期...
来自: 最佳实践 | 相关产品:云服务器ECS,云数据库RDS MySQL 版,负载均衡 SLB,弹性公网IP,日志服务(SLS)
混合云线下线上双活解决方案
混合云线下线上双活解决方案实现 IDC、云上数据中心多活,从业务视角来看是通过对业务做自顶向下的流量隔离,按照特定分流维度对业务流量进行划分,并路由到线上线下数据中心,实现业务高可用以及数据中心灵活按需扩容。
数据中心之间数据库通过 DTS 进行数据同步.线下 IDC 机房云上扩容.IDC 业务容灾,高可用.多数据中心统一管控.各个数据中心既是业务体系也是容灾系统.可实现分钟级的容灾切换.各个数据中心均可读写,具备水平扩展能力以及跨地域的快速扩建能力.各个数据中心承载的流量大小可灵活调配.有效分摊各个数据中心成本.蔡伟杰,靖鑫,...
来自: 解决方案
云数据库 RDS MySQL版
阿里云云数据库RDS MySQL是一种稳定可靠、可弹性伸缩的在线MySQL数据库服务, 提供了高可用、高可靠、高安全、易运维等一站式的数据库解决方案,帮助您免除MySQL运维的烦恼。
—— 慧策(北京掌上先机网络科技有限公司)CIO 王兴华常见问题选型计费稳定性安全合规Q:RDS MySQL 与自建 MySQL 数据库对比优势A:云数据库 RDS MySQL 提供高可用、高可靠、高安全、可扩展的托管数据库服务,性能的 RDS MySQL 数据库价格相比 ECS 自建 MySQL 数据库和自购服务器搭建 MySQL 数据库更加低廉,能够节约大....
来自: 云产品
互联网、电商Elasticsearch搜索
互联网、电商Elasticsearch搜索
场景描述 每一个生活在互联网中的用户,每天都在经 历各种各样的“搜索”,查找电商网站商品、 信用卡账单、查电子发票、查附近的餐厅酒 店、查偶像、查交通等等。相对于传统的关 系型数据库,Elasticsearch只需要几毫秒的 时间,即可查询PB级数据并从中找到匹配 信息。利用Elasticsearch高可用性和易用 性,能够快速处理网站、APP丢给它的文本、 数字、日期、IP以及地理数据。 解决问题 1.电商网站商品、订单、物流等搜索 2.保险行业保单查询 3.互联网教育行业课程搜索 4.O2O行业地理位置搜索等 产品列表 云服务器ECS 专有网络VPC 负载均衡SLB 云数据库RDSMySQL版 Dataworks Elasticsearch 数据传输服务DTS
19 文档版本:20220121 互联网、电商 Elasticsearch搜索最佳实践 数据同步及搜索 步骤6 使用 ssh命令登录部署 magento2的 ECS。步骤7 拷贝 cURL,进行 API测试。20 文档版本:20220121 互联网、电商 Elasticsearch搜索最佳实践 数据同步及搜索 步骤8 在拷贝的 cURL代码中添加-u username:password,这里的 username为 ES...
来自: 最佳实践 | 相关产品:云服务器ECS,云数据库RDS MySQL 版,数据传输,DataWorks,Elasticsearch
互联网业务全球化互通组网
互联网业务全球化互通组网
场景描述 本方案适用从事全球化业务的客户,希望借助全球 互通的网络,实现多地域的互通。 同时在全球互联的网络下,搭建应用多地部署。如果 业务中涉及到高速通道,提供高速通道迁移云企业网 的操作演练;涉及到跨账号多VPC下的数据迁移和 同步,本方案提供详细的操作步骤,帮助客户快速完 成演练。 解决问题 借助云企业网解决网络互通 高速通道到云企业网的平滑迁移 RDS的数据互通,特别是跨账号多VPC的数据同步 应用的快速部署 产品列表 云企业网(CEN)、云服务器(ECS)、数据库(RDS)、 数据库(Redis)、数据传输(DTS)、负载均衡(SLB) 块存储、专有网络(VPC)
制作人 阿瑟、明誉 审阅人 云护、江柳 文档变更记录 版本编号 日期 作者 审核人 说明 V1.0 2019-05-07 阿瑟、明誉 云护 创建 V1.1 2019-07-25 阿瑟-更新模版 V1.2 2019-11-04 阿瑟 江柳 增加跨账号多VPC的 据同步 V1.3 2019-11-13 筱晖-文档优化 V1.4 2019-12-17 阿瑟 增加概览页 文档版本:20191217 I 互联网业务全球化...
来自: 最佳实践 | 相关产品:块存储,云服务器ECS,云数据库RDS MySQL 版,数据传输,云企业网
生活物联网平台
阿里云IoT针对消费级智能设备领域的物联网平台,为解决设备快速智能化中常遇到的设备连接、App控制、设备消息推送、语音控制、设备管理、数据统计等问题,提供一整套配置化方案,大幅减低“设备-云端-App”的开发成本。
居控制App所需的所有能力 数据同步 支持将数据通过云对云的方式,同步到客户自己的服务器,自行保存和加工.标题-使用场景标题.谢赟辉,靖鑫,也树.LinkVisual视频解决方案.生活物联网平台提供针对家用级别的安防监控设备,提供一整套的设备连接、云端转发、存储、视频AI等服务,解决客户安防场景下的远程视频观看、存储、报警...
来自: 云产品
云数据库RDS PostgreSQL
云数据库RDS PostgreSQL 版完全兼容开源PostgreSQL,基于云原生架构,软硬协同优化,提供稳定可靠、高性价比的数据库服务。通过丰富的插件拓展,支撑各领域场景化业务,如自研Ganos多维多模时空引擎及开源PostGIS地理信息引擎、向量引擎、时序引擎等百余款插件。
推荐搭配产品 云服务器 ECS 对象存储 OSS产品动态2020-03-13 新功能/规格 RDS PostgreSQL 发布V12 高可用版,大分区表高并发场景性能可提升100倍.查看详情 2020-04-03 新功能/规格 RDS PostgreSQL 支持SQL Server和Sybase外部表 查看详情 2020-04-06 新功能/规格 RDS PostgreSQL V11发布时空管理插件ganos 2.7版本,增强空间...
来自: 云产品
MaxCompute湖仓一体方案
MaxCompute湖仓一体方案
场景描述 自建数据湖与云数仓的融合解决方案,将 MaxCompute与自建的Hive集群做数据打 通,通过存储共享,元数据镜像等方式,解 决传统模式下的存储冗余,计算资源弹性能 力弱的痛点。可大幅度增强系统的资源弹 性,解决业务高峰期计算资源不足的问题。 方案优势 1.业务无侵入性:现有业务无需改造。 2.性能优化:MaxCompute在SQL上做 了大量优化与能力沉淀,可提高SQL 运行性能,降低计算成本。 3.灵活管理:元数据实时同步,无需额外 管理数据同步任务。 4.资源弹性:利用MaxCompute计算池 弹性进行海量数据计算。 解决问题 1.增强业务高峰期的资源弹性。 2.优化自建数据湖的数据治理能力。 3.减少跨平台数据处理的存储冗余。 产品列表 专有网络VPC 云服务器ECS 访问控制RAM 运维编排OOS MaxCompute(原ODPS) 云企业网CEN
3.灵活管理:元数据实时同步,无需额外 管理数据同步任务。4.资源弹性:利用 MaxCompute计算池 产品列表 弹性进行海量数据计算。专有网络 VPC 云服务器 ECS 解决问题 访问控制 RAM DataWorks 1.增强业务高峰期的资源弹性。MaxCompute(原 ODPS)2.优化数据湖的数据治理能力。3.减少跨平台数据处理的存储冗余。最佳实践频道 ...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云企业网,E-MapReduce,大数据计算服务 MaxCompute,运维编排,云速搭
< 1 2 3 4 ... 16 >
共有16页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用