自建Hadoop迁移到阿里云EMR
自建Hadoop迁移到阿里云EMR
场景描述 场景1:自建Hadoop集群数据(HDFS)迁移到 阿里云EMR集群的HDFS文件系统; 场景2:自建Hadoop集群数据(HDFS)迁移到 计算存储分离架构的阿里云EMR集群,以OSS 和JindoFS作为EMR集群的后端存储。 解决的问题 客户自建Hadoop迁移到阿里云EMR集群的 技术方案; 基于IPSecVPN隧道构建安全和低成本数据 传输链路 产品列表 E-MapReduce,VPC,ECS,OSS,VPN网关。
CentOS 7.4 64位 存储 80GB 类别 配置项 说明 网络 网络 专有网络 组 选择已创建的 VPC(客户 IDC-VPC)和交换机(vswitch-az-g)。公网带宽 勾选分配公网 IPv4地址。付费模式:按使用流量 带宽:100 Mbps 文档版本:20210714 5 自建Hadoop数据迁移到阿里云 EMR 自建 Hadoop集群环境搭建 说明:(1)在您业务商用过程...
来自: 最佳实践 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,VPN网关,E-MapReduce,云速搭
DDH集群运维管理
DDH集群运维管理
场景描述 当前许多企业的IDC业务场景,资源管理 等使用习惯与公共云不同,使用DDH集群 管理,继承IDC虚拟化使用习惯,比如自 定义ECS规格。同时针对CPU负载较低 的场景,通过CPU超分,可以有效提高资 源利用率,节省整体成本。并且可以通过账 号授权业务团队,结合云监控资源使用率, 方便业务使用的同时又能有效遏制资源浪 费。 方案优势 1.使用专有宿主机集群构建云上环境,通 过超分提高资源利用率,降低企业成 本。 2.通过访问控制授权,云监控资源,完成 专有宿主机集群运维管理使用闭环。 产品列表 访问控制RAM 专有网络VPC 云服务器ECS 云监控CloudMonitor
DDH是由一个 租户独享物理资源的云主机。作为该云主机的唯一租户,您不需要与其他租户共 享云主机所有物理资源。您还可以获得这台物理服务器的物理属性信息,包括CPU 数量(Socket数)、物理CPU核数、内存大小,并根据宿主机规格创建指定规格 族的ECS实例。请参见:www.aliyun.com/product/ddh  VPC:专有网络VPC...
来自: 最佳实践 | 相关产品:专有网络 VPC,访问控制,云监控,专有宿主机
专有宿主机DDH
专有宿主机提供基于阿里云虚拟化托管、物理主机独享的单租户环境、通过独享硬件资源方式可以满足安全、合规、自定义部署、自带许可证(BYOL)需求,在专有宿主机上可以创建多种规格的ECS实例,继承了ECS实例的规格选择灵活、性能稳定的优点和特性。
支持CPU独享性、CPU超分型、安全增强型等多种产品形态,用户根据实际需求自由选择.CPU独享型DDHCPU无法进行自定义超分,只能创建CPU锁定的ECS实例,用于保证ECS实例在高负载情况下的性能稳定性,适用于高负载和核心业务的部署.您可以自定义DDH的CPU超分比例,同时创建ECS实例的时候可以自定义CPU和内存的配比,具有高度的...
来自: 云产品
云上数据集成解决方案
云上数据集成解决方案提供可跨异构数据存储系统、可靠、安全、低成本、可弹性扩展的数据传输交互服务,有效帮助您解 决云环境、个人站点环境下异构数据存储系统的数据互通难题,让您数据不再成为孤岛!助您实现大数据分析和实时商务智能。
提供可跨异构数据存储系统、可靠、安全、低成本、可弹性扩展的数据传输交互服务,有效帮助您解决云环境、个人站点环境下异构数据存储系统的数据互通难题,让您数据不再成为孤岛!助您实现大数据分析和实时商务智能.谢赟辉,靖鑫,也树.离线异构数据源同步.离线异构数据源同步.离线(批量)的数据同步主要通过定义数据来源和...
来自: 解决方案
数据集成 Data Integration
阿里云数据集成 Data Integration是跨异构数据、低成本、弹性扩展的数据采集同步平台,为DataX的商业版,支持ETL,支持50+数据源跨网络离线(全量/增量)同步。
数据集成 Data Integration是阿里集团对外提供的可跨异构数据存储系统的、可靠、安全、低成本、可弹性扩展的数据同步平台,为400对数据源提供不同网络环境下的全量/增量数据进出通道.20+种异构数据源.20+种异构数据源.支持关系型数据库、大数据存储、非结构化存储、NoSql数据库之间的数据同步.支持经典/专有等网络环境.支持...
来自: 云产品
基于弹性供应组构建大数据分析集群
基于弹性供应组构建大数据分析集群
场景描述 基于弹性供应组(APG)搭建spark计算集 群,提供一键开启跨售卖方式、跨可用区、 跨实例规格的计算集群交付模式的实践。 方案优势 1.超低成本:跨售卖方式提供计算实 例,按秒计费,可全部使用spot实例 交付,最高可省90%成本。 2.稳定可靠:跨可用域、跨实例规格, 降低spot被集体释放的风险;自动托 管,分钟级巡检,动态保证集群的算 力。 3.快速交付:单次可在5分钟内交付 2000个实例。 4.多策略组合:可分别指定spot和按量 实例的交付策略,以及差额补足的策 略,包括成本最低、打散和折中。 解决问题 1.大规模计算集群成本高。 2.创建ECS实例方式单一,无法跨计费 方式、可用区及规格等核心参数。 3.当可用区资源紧张,无法自动保证基于 spot类型的稳定算力。 产品列表 专有网络VPC 云服务器ECS
文档版本:20200619 19 基于弹性供应组构建大数据集群分析 Spark集群搭建 确认接受本地存储风险:文档版本:20200619 20 基于弹性供应组构建大数据集群分析 Spark集群搭建 步骤4 在网络安全组页面,完成以下配置。配置项 说明 网络 专有网络 选择已创建的 VPC(AGP_VPC)和交换机(AGP_VPC_S3)。安全组 选择新建安全组。...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,弹性公网IP
混合云存储构建VMware虚拟化平台
混合云存储构建VMware虚拟化平台
场景描述 本文以混合云存储阵列SA2600系统为例,介绍如 何在混合云存储环境下部署VMware虚拟化平台, 以及混合云环境下虚拟机的部署、扩容、云备份等功 能演示。 解决问题 1.如何使用混合云存储部署VMware虚拟化平台。 2.存储阵列在混合云环境下的使用,比如虚拟机部 署、扩容、云备份等。 产品列表 1.混合云存储阵列 2.对象存储OSS
您可以配置的选项有:通知、网络安全性、系统、支持、GUI首选项。文档版本:20191223 31 混合云存储构建VMware虚拟化平台 存储阵列系统初始化配置 文档版本:20191223 32 混合云存储构建VMware虚拟化平台 VMware环境搭建及配置 3.VMware环境搭建及配置 本章介绍VMware基础环境配置。3.1.vSphere安装 使用vShpere引导光盘...
来自: 最佳实践 | 相关产品:专有网络 VPC,对象存储 OSS,访问控制,混合云存储阵列 Hybrid Cloud
VMware on 弹性裸金属
VMware on 弹性裸金属
场景描述 传统企业将VMware迁移到阿里云弹性裸 金属,利用云计算平台提供的弹性基础设 施,降低部分运维成本和学习成本,使用其 擅长的技术工具专注自身业务,实现线下业 务平滑迁移上云。 解决问题 1.VMware业务平滑迁移上云 2.集成云产品能力增强业务创新 3.降低混合云成本和复杂度 4.增强系统可用性 产品列表 EBM神龙 ECS NAS OSS ENI NAT EIP
 VPC:专有网络(VirtualPrivateCloud),是用户基于阿里云创建的自定义私有 ,不同的专有网络之间二层逻辑隔离,用户可以在自己创建的专有网络内创建和 管理云产品实例,比如ECS、负载均衡、RDS等。 VSW:虚拟交换机(VirtualSwitch),阿里云专有网络的基础网络设备,通过创 建交换机为专有网络划分一个或者多个...
来自: 最佳实践 | 相关产品:云服务器ECS,弹性公网IP,文件存储NAS,NAT网关,弹性裸金属服务器(神龙)
小型互联网迁移阿里云
小型互联网迁移阿里云
场景描述 本方案主要适用于中小型互联网企业,从他云 迁移到阿里云的最佳实践。方案中会概述网络 规划、服务器、数据库、存储数据、Kafka和 镜像数据的迁移方案描述。同时在实践环节, 增加服务器和RDS的迁移操作演练和验证。 解决问题 提供服务器、数据库等关键环节的平滑迁移方 案 提供云上高可用架构参考 提供模拟简单的演练回归流程机制 产品列表 云服务器(ECS)、迁云工具(SMC)、数据库 (RDS)、数据库(Redis)、数据传输(DTS)、 负载均衡(SLB)、专有络(VPC)等
小型互联网迁移阿里云 最佳实践 业务架构图 场景描述 本方案主要适用于中小型互联网企业,从他云迁移到 阿里云,方案涉及网络规划、服务器、数据库、存储 数据、Kafka和镜像数据的迁移方案内容;同时在实 践环节,增加服务器和 RDS的迁移操作演练和验证。解决问题 提供服务器、数据库等关键环节的平滑迁移方案 提供云上高...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS
Openstack迁移DDH
Openstack迁移DDH
场景描述 在线下IDC中,很多用户使用OpenStack构建云环境,本 文介绍如何将线下IDC中基于OpenStack构建的云服务器 迁移到阿里云专有宿主机(DDH)上,从而实现业务平滑 上云的同时,显著降低成本。 解决问题 1.如何将OpenStack中的云服务器迁移 DDH上。 2.如何使用DDH构建云上环境。 产品列表 专有宿主机DDH 对象存储OSS 服务器迁移中心SMC 专有网络VPC
 开通以下服务:ˉ专有宿主机DDHˉ对象存储OSSˉ专有网络VPC 文档版本:20200312(发布日期)3 Openstack迁移DDH OpenStack简介 1.OpenStack简介 OpenStack是一个由NASA(美国国家航空航天局)和Rackspace合作开发以 Apache许可证授权的自由软件和开放源代码项目。OpenStack是一个开源的云计算 管理平台项目,可以...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,专有宿主机
中小企业基于SAG APP实现云上移动办公
中小企业基于SAG APP实现云上移动办公
1. 客户端一键接入上云,配置自动化 2. 城域内 Internet 就近接入,快速高效 3. 数据加密传输,满足安全性要求 4. 阿里云控制台统一配置管理
内网访问指的是阿里云同地域产品之 间的内部通信网络。OSS是阿里云提供的对象存储服务,支持通过内网地址访问 OSS资源。若通过内网 地址访问 OSS则不收取流量费用。如企业开通 OSS服务用于存储一些企业非机密数 据资料,员工可以通过 SAG接入阿里云通过内网直接下载浏览。5.1.上传 OSS文件 步骤1 登录 OSS控制台...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,云企业网,云解析 PrivateZone,智能接入网关,云速搭
在线教育流量洪峰
在线教育流量洪峰
1. 通过Tair缓存的性能增强型解决高并发读的性能问题,通过持久内存型解决大并发写性能及数据可靠性问题。 2. PolarDB作为主数据库保存业务的交易数据,通过弹性能力和并发SQL解决性能瓶颈。 3. ADB+QuickBI提供的数据仓库方案通过分时弹性能力和实时业务展现能力。
热数据指的是访问频次较高的数据,采用 SSD存储,满足高性 能访问的需求。用户可以执行 CREATE TABLE语句指定表的冷热存储策略为:热 存储(数据全部存储在 SSD)、冷存储(数据全部存储在 HDD)、冷热混合存储(指 定一定数量的分区存储在 SSD,其余数据存储在 HDD)。注意:使用冷热分层的元数据表等需要对 ADB进行...
来自: 最佳实践 | 相关产品:云数据库 Redis 版,云数据库PolarDB,云原生数据仓库AnalyticDB My,Quick BI
云原生数据库
PolarDB是阿里云自研的云原生数据库,在存储计算分离架构下,利用了软硬件结合的优势,为用户提供秒级弹性、高性能、海量存储、安全可靠的数据库服务。100%兼容MySQL和PostgreSQL生态,支持分布式扩展,高度兼容Oracle语法。
采用白名单、VPC网络、数据多副本存储等方位的手段,对数据库数据访问、存储、管理等各个环节提供安全保障.集群版采用共享分布式存储的设计,彻底解决了主从(Master-Slave)异步复制所带来的备库数据非强一致性的问题.云数据库PolarDB MySQL.云服务器ECS.推荐搭配产品.金融/保险:高可用和强读写一致.数据强一致性保证,...
来自: 云产品
EHPC混合云渲染
EHPC混合云渲染
介绍在混合云环境下,利用E-HPC及其文件缓存机制,无缝读取线下存储中的项目资产,免去复杂繁琐的文件同步问题;充分利用云上资源弹性、按使用付费的优势,构建高性能、高可靠和可扩展的渲染服务。 解决问题 l混合云环境下本地集群与云端集群一体化的渲染服务。 l避免繁琐复杂的本地与云端的文件同步问题。 l低成本、高效率应对渲染业务峰值。 产品列表 l云服务器、GPU云服务器 l高性能计算E-HPC l专有网络VPC l云企业网CEN l弹性公网IP EIP l访问控制RAM l文件存储NAS
步骤1 在 ECS实例列表中,定位到 rendernode实例,单击其操作列下的更多>网络 组>安全组配置。文档版本:20220325 50 E-HPC混合云渲染最佳实践 部署本地渲染服务 步骤2 在安全组列表中,单击其操作列下的配置规则。步骤3 单击添加安全组规则。文档版本:20220325 51 E-HPC混合云渲染最佳实践 部署本地渲染服务 步骤4 ...
来自: 最佳实践 | 相关产品:云服务器ECS,文件存储NAS,云企业网,GPU云服务器,弹性高性能计算E-HPC
大数据workshop
大数据workshop
大数据workshop
2.tps字段指明每秒生成的日志和订单数,1就是每秒一条,不用修改。步骤5 rds的访问地址可以在实例详情里查询,登录 rds实例详情页,选择查看连接详情:文档版本:20210628(发布日期)26 阿里云最佳实践大数据 WorkShop 最佳实践项目实践 步骤6 找到地址信息:步骤7 修改配置文件并保存后,执行./start.sh脚本启动服务:...
来自: 最佳实践 | 相关产品:块存储,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,弹性公网IP,数据传输,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,实时计算,数据总线,Quick BI,Hologres
数据库异地灾备
数据库异地灾备
场景描述 适用于不满足于单地域,对数据可靠性 (RPO)和服务可用性(RTO)要求更高 的,希望防范断电、断网等机房故障,抵 御地震、台风等自然灾害,具备异地容灾 备份恢复能力的客户业务场景。 解决问题 1.实时备份,RPO达到秒级 2.表级恢复,故障恢复时间大大缩短 3.长期归档,自动管理备份生命周期 4.异地灾备,构建数据库灾备中心 产品列表 专有网络VPC 云服务器ECS 弹性公网IP(EIP) 负载均衡SLB 云数据库RDSMySQL 数据库备份服务DBS 对象存储服务OSS 数据湖分析服务DLA 数据管理服务DMS 数据传输服务DTS
独立的公网 IP资源,可以绑定到阿里 云专有网络 VPC类型的 ECS、NAT网关、私负载均衡 SLB上,并可以动态解 绑,实现公网 IP和 ECS、NAT网关、SLB的解耦,满足灵活管理的要求。详见:https://www.aliyun.com/product/eip SLB:负载均衡(Server Load Balancer,简称 SLB)。多台云服务器进行流量分 发的负载均衡服务,可以...
来自: 最佳实践 | 相关产品:云数据库RDS MySQL 版,对象存储 OSS,数据管理,数据湖分析,数据库备份DBS,云速搭CADT
混合云容器管控解决方案
混合云容器管控解决方案是指将部署在本地数据中心或者阿里云公有云上的阿里云敏捷版容器服务产品到自建、存量Kubenetes集群或公有云ACK容器服务集群提供统一视图纳管、运维、联邦、灾备、跨集群弹性伸缩等能力。
混合云容器管控解决方案.该方案为客户提供从阿里云专有云容器服务产品到公有云ACK容器服务集群安全可靠的部署、统一视图运维管控、灾备、负载路由...高速通道(Express Connect)帮助不同网络环境间,实现高速、稳定、安全的私通信服务.根据您提交的需求,将有售前专家免费服务!根据您提交的需求,将有售前专家免费服务!
来自: 解决方案
网络安全升级支持IPv6
<em>网络安全</em>升级支持IPv6
场景描述 关键信息基础设施支持IPv6已经上升到国家战 略,公共云基础设施为云上客户系统支持IPv6 提供了完整的解决方案及产品。本最佳实践是在 现有WAF和高防IP作为网络安全架构基础上, 如何升级支持IPv6,同时满足云上和线下IDC 需求,满足合规要求。 解决问题 1.网络支持IPv6 2.支持V4和V6双栈 3.满足监管合规要求 产品列表 Web应用防火墙WAF DDoS高防IP DDoS防护包
文章最后一节,也介绍了之前没有网络安全的情况下,然后同时进行 安全防护及支持 IPv6;以及之前的网络安全方案中没使用 WAF的情况(比如只用 了高防 IP或 DDoS防护包的情况),如何升级以支持 IPv6。架构图:文档版本:20210830 III 网络安全升级支持 IPv6 目录 目录 文档版本信息.I 法律声明.II 前言.III 目录.III 1....
来自: 最佳实践 | 相关产品:Web应用防火墙,DDoS防护,云速搭CADT
EMR集群安全认证和授权管理 
EMR集群<em>安全</em>认证和授权管理 
场景描述 阿里云EMR服务Kafka和Hadoop安全集群使 用Kerberos进行用户安全认证,通过Apache Ranger服务进行访问授权管理。本最佳实践中以 Apache Web服务器日志为例,演示基于Kafka 和Hadoop的生态组件构建日志大数据仓库,并 介绍在整个数据流程中,如何通过Kerberos和 Ranger进行认证和授权的相关配置。 解决问题 1.创建基于Kerberos的EMR Kafka和 Hadoop集群。 2.EMR服务的Kafka和Hadoop集群中 Kerberos相关配置和使用方法。 3.Ranger中添加Kafka、HDFS、Hive和 Hbase服务和访问策略。 4.Flume中和Kafka、HDFS相关的安全配 置。 产品列表:E-MapReduce、专有网络VPC、云服务器ECS、云数据库RDS版
阿里云 EMR集群的用户认证和访问授权 本最佳实践重点围绕用户认证和访问授权两方面内容,以 Step by Step的方式构建 的业务演示环境。更多的安全主题内容,将在后续进行补充和迭代,敬请关注。1.1.认证(Authentication)身份认证是任何计算环境的基本安全要求,简单来说,用户和服务必须先向系统证明 其身份(身份验证...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,E-MapReduce
企业上云数据安全
企业上云数据<em>安全</em>
场景描述 企业是否选择上公共云,或者哪些系统或数据上 公共云,对数据安全的关心是重要因素之一。本 最佳实践重点在于介绍狭义的数据加密存储安 全范畴,即首先使用SDDP产品进行敏感数据发 现和分级分类,然后对高级别敏感数据进行按 需、不同类型的全链路加密存储。 解决问题 1.帮助客户发现敏感数据 2.对敏感数据进行分类、分级 3.对不同级别的数据如何选择加密方式 4.具体如何进行加密 产品列表 敏感数据识别SDDP 密钥管理服务KMS 云数据库RDS 对象存储OSS
python-V 文档版本:20210809 34 企业上云数据安全 OSS数据加密 如下所示为命令行执行过程的截图:安装 OSS的 SDK 因为我们使用的是 Python 3.x,执行以下命令,安装阿里云 SDK核心库。pip install aliyun-python-sdk-core-v3 pip install oss2 pip install aliyun-python-sdk-kms 安装 AES相关的库 实验中会用到 AES相关的...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,密钥管理服务,敏感数据保护,云速搭CADT
< 1 2 3 4 >
共有4页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用