自建Hadoop迁移到阿里云EMR
自建Hadoop迁移到阿里云EMR
场景描述 场景1:自建Hadoop集群数据(HDFS)迁移到 阿里云EMR集群的HDFS文件系统; 场景2:自建Hadoop集群数据(HDFS)迁移到 计算存储分离架构的阿里云EMR集群,以OSS 和JindoFS作为EMR集群的后端存储。 解决的问题 客户自建Hadoop迁移到阿里云EMR集群的 技术方案; 基于IPSecVPN隧道构建安全和低成本数据 传输链路 产品列表 E-MapReduce,VPC,ECS,OSS,VPN网关。
这种动作(网页浏览,搜索和其他用户的行动)是在现代 上的许多社会功能的一关键因素,这些数据通常是由于吞吐量的要求而通过 处理日志和日志聚合来解决。对于像 Hadoop一样的日志数据和离线分析系统,但又要求实时处理的限制,这是一可行的解决方案。Kafka 的目的是通过 Hadoop的并行加载机制来统一线上和离线的...
来自: 最佳实践 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,VPN网关,E-MapReduce,云速搭
金融专属大数据workshop
金融专属大数据workshop
实践目标 学习搭建一个实时数据仓库,掌握数据采集、存储、计算、输出、展示等整个业务流程。 整个实时数据仓库系统全部基于阿里云产品进行架构搭建,用户可以掌握并学会运用各个服务组件及各个组件之间如何联动。 理解阿里云原生实时离线一体数仓解决方案架构以及掌握交付落地的实践使用方法。 前置知识要求 熟练掌握SQL语法 对大数据体系系统知识有一定的了解
对于维表数据量 大,维表变化不是特别敏感且增长不是特别快的情况,可以使用HBase作为维表的 存储引擎。本实践使用了RDSMySQL作为维表数据存储引擎作为演示,也推荐用户 可以直接参考Hologres的产品帮助文档直接使用Hologres作为维表的存储引擎。2.2.5.业务流程 接下来,可以基于以上的系统架构设计业务流程如下图所示...
来自: 最佳实践 | 相关产品:块存储,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,弹性公网IP,数据传输,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,实时计算,数据总线,Quick BI,Hologres
混合云使用Ali-Perseus
混合云使用Ali-Perseus
场景描述 本文介绍了混合云场景中,自建 Kubernetes服务,线下集群+云上弹性扩 展阿里云GPU服务实例+飞天AI加速工 具,并采用阿里云CPFS存储,运行AI训 练+AI推理作业的操作步骤。 解决问题 1.利用云企业网打通两个地域的VPC, 自建Kubernetes集群 2.使用飞天AI加速工具运行训练和推理 作业 3.使用CPFS存储共享数据 产品列表 云企业网CEN GPU云服务器 并行文件存储CPFS 文件存储NAS
更多信息,请参考阿里云 CPFS介绍:(https://help.aliyun.com/document_detail/111755.html)飞天 AI加速工具加速框架分为两版本,一用于加速 AI训练,一用于 AI推理。飞天 AI加速工具训练框架是阿里云推出的统一分布式加速框架,支持主流的四 种训练框架,分别是 Tensorflow、Pytorch、MXNet、Caffe。– 提供 ...
来自: 最佳实践 | 相关产品:云服务器ECS,文件存储NAS,云企业网
GPU云服务器
阿里云GPU云服务器(GPU Cloud Computing,GPU)是提供 GPU 算力的弹性计算服务,具有超强的计算能力,服务于深度学习、科学计算、图形可视化、视频处理多种应用场景。阿里云作为亚洲第一的云服务提供商,随时为您提供触手可得的算力,有效缓解计算压力,提升您的业务效率,助您提高企业竞争力。
您可以针对您的应用程序的整体计算和内存需求在 Alibaba Cloud 中选择最适用的ECS实例,然后再配置所需量级的 GPU 驱动推理加速,有效利用资源,同时火速节约成本高达50%.满足用户选择最合适应用的ECS总体计算实例类型,单独制定所需GPU推理加速量级,相比GPU推理实例成本降低50%.推理成本降低50%.根据用户需求灵活配比CPU...
来自: 云产品
SLS多云日志采集、处理及分析
SLS多云日志采集、处理及分析
场景描述 从第三方云平台或线下IDC服务器上采集 日志写入到阿里云日志服务,通过日志服务 进行数据分析,帮助提升运维、运营效率, 建立DT 时代海量日志处理能力。 针对未使用其他日志采集服务的用户,推荐 在他云或线下服务器安装logtail采集并使用 Https安全传输;针对已使用其他日志采集 工具并且已有日志服务需要继续服务的情 况,可以通过Log producer SDK写入日志 服务。 解决问题 1.第三方云平台或线下IDC客户需要使用 阿里云日志服务生态的用户。 2.第三方云平台或线下IDC服务器已有完 整日志采集、处理及分析的用户。 产品列表 E-MapReduce 专有网络VPC 云服务器ECS 日志服务LOG DCDN
注:1)NAT网关配置的公网 IP数限制 NAT网关的最大并发数,绑定单个 IP最大 连接数为 55000,当通过 NAT网关访问公网上同一目的 IP和端口的带宽大于 2Gbps时,建议您为 NAT 关绑定 4-8公网 IP并构建 SNAT IP池,避免单 IP的端口数量限制可能产生的丢包 2)当有多 EIP组成 SANT IP池时,如需节约带宽成本可以建议多 ...
来自: 最佳实践 | 相关产品:云服务器ECS,日志服务(SLS),NAT网关,E-MapReduce,全站加速 DCDN,云速搭CADT
弹性计算
阿里云弹性计算提供弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。经十年深厚技术积淀,阿里云弹性计算技术先进、性能优异、 稳如磐石,致力于提供永不停机的计算服务。
在AI算法这块,不论是NLP还是OCR,都需要大量的计算资源和比较多的CPU机器,依托阿里云自研的软硬一体的神龙架构提供的超强算力和高稳定性,帮助达观数据有效提升了AI算法的研发效率,极致的弹性也让达观数据可以根据客户的需要,随时地快速扩容,超强的稳定性也让达观数据为客户提供了更加稳定、安全的服务.依托阿里云六代...
来自: 云产品
本地数据中心基于SMB/NFS协议访问对象存储最佳实践
本地数据中心基于SMB/NFS协议访问对象存储最佳实践
1. 云存储扩容和迁移 集成智能缓存算法,自动识别冷热数据,将热数据保留在本地缓存,保证数据访问体验,无感知的将海量云存储数据接入本地数据中心,拓展存储空间。同时在云端 保留全量数据(冷+热)保证数据的一致性 2.云容灾 随着云计算的普及,越来越多的用户把自己的业务放到了云上。但是随着业务的发展,如何提高业务的可靠性和连续性,跨云容灾是一个比较热门的话题。借助云存 储网关对虚拟化的全面支持,可以轻松应对各种第三方云厂商对接阿里云的数据容灾。 3. 多地数据共享和分发 通过多个异地部署的文件网关实例,对接同一个阿里云OSS Bucket,可以实现快速的异地文件共享和分发,非常适合多个分支机构之间互相同步和共享数据。 4. 适配传统应用 有很多用户在云上的业务是新老业务的结合,老业务是从数据中心迁移过来的使用的是标准的存储协议,例如: NFS/SMB/iSCSI。新的应用往往采用比较新的技 术,支持对象访问的协议。如何沟通两种业务之间的数据是一个比较麻烦的事情,云存储网关正好起到一个桥梁的作用,可以便捷的沟通新旧业务,进行数据交换。 5. 替代 ossfs 和 ossftp ossfs 和 ossftp 都是基于文件协议的开源工具,用户可以通过它们直接上传文件到OSS。但是这两个开源文件都不建议在生产环境使用(POSIX 兼容度低),同时挂 载在用户的客户端需要额外的配置和缓存资源,对于多个客户端的情况安装配置繁琐。通过文件网关的服务可以完美替代 ossfs 和 ossftp。通过创建文件网关,用 户只需要执行简单的挂载(NFS)和映射(Windows SMB)就可以像使用本地文件系统一样使用 OSS。
SMB/NFS协议访问对象存储 名词解释 名词解释 VPC:专有网络(Virtual Private Cloud),是用户基于阿里云创建的自定义私有 ,不同的专有网络之间二层逻辑隔离,用户可以在自己创建的专有网络内创建和 管理云产品实例,比如 ECS、负载均衡、RDS 等。详见:https://www.aliyun.com/product/vpc 云存储网关:云存储网关...
来自: 最佳实践 | 相关产品:对象存储 OSS,云存储网关
数据库异地灾备
数据库异地灾备
场景描述 适用于不满足于单地域,对数据可靠性 (RPO)和服务可用性(RTO)要求更高 的,希望防范断电、断网等机房故障,抵 御地震、台风等自然灾害,具备异地容灾 备份恢复能力的客户业务场景。 解决问题 1.实时备份,RPO达到秒级 2.表级恢复,故障恢复时间大大缩短 3.长期归档,自动管理备份生命周期 4.异地灾备,构建数据库灾备中心 产品列表 专有网络VPC 云服务器ECS 弹性公网IP(EIP) 负载均衡SLB 云数据库RDSMySQL 数据库备份服务DBS 对象存储服务OSS 数据湖分析服务DLA 数据管理服务DMS 数据传输服务DTS
通过 CADT架构图预先配置好应用系统的各项 配置,可以有效加速容灾切换的速度。当生产中心机房发生短期不可恢复的故障或遭遇自然灾害时,可以在阿里云冷备中心 快速恢复数据库(本最佳实践以 RDS MySQL为例),通过 CADT模板快速创建 ECS、EIP、SLB等资源,重新搭建并恢复业务。此方案相对异地热备方案的主要优点就是低成本...
来自: 最佳实践 | 相关产品:云数据库RDS MySQL 版,对象存储 OSS,数据管理,数据湖分析,数据库备份DBS,云速搭CADT
利用交互式分析(Hologres)进行数据查询
利用交互式分析(Hologres)进行数据查询
场景描述:随着收集数据的方式不断丰富,企业信息化 程度越来越高,企业掌握的数据量呈TB、 PB或EB级别增长。同时,数据中台的快 速推进,使数据应用主要为数据支撑、用户 画像、实时圈人及广告精准投放等核心业务 服务。高可靠和低延时地数据服务成为企业 数字化转型的关键。 Hologres致力于低成本和高性能地大规模 计算型存储和强大的查询能力,为您提供海 量数据的实时数据仓库解决方案和实时交 互式查询服务。 解决问题 1.加速查询MaxCompute数据 2.快速搭建实时数据仓库 3.无缝对接主流BI工具 产品列表 MaxCompute Hologres 实时计算Flink 专有网络VPC DataWorks DataV
MaxCompute提供了外、经典网络和VPC网络三种服务地址供您选择,不同的 服务地址对您的下载计费结算有不同影响。如果您未配置TunnelEndpoint,则 Tunnel可能自动路由到公网,从而产生下载费用。详情请参见Endpoint。(https://help.aliyun.com/document_detail/34951.html)步骤2 运行客户端。运行bin目录下的MaxCompute...
来自: 最佳实践 | 相关产品:大数据计算服务 MaxCompute,DataV数据可视化,实时计算,Hologres,云速搭CADT
在线教育流量洪峰
在线教育流量洪峰
1. 通过Tair缓存的性能增强型解决高并发读的性能问题,通过持久内存型解决大并发写性能及数据可靠性问题。 2. PolarDB作为主数据库保存业务的交易数据,通过弹性能力和并发SQL解决性能瓶颈。 3. ADB+QuickBI提供的数据仓库方案通过分时弹性能力和实时业务展现能力。
并行查询:并行查询适用于大部分 SELECT语句,例如大表查询、多表连接查询、计算量大的查询,通过并行查询可以加速单次查询效率。4.2.场景三:弹性伸缩 步骤1 通过 CADT访问 PolarDB控制台 点击资源部署状态表的链接:步骤2 水平弹性扩展 从控制台可以看到,PolarDB包含一主节点和一只读节点:文档版本:20210120 20 ...
来自: 最佳实践 | 相关产品:云数据库 Redis 版,云数据库PolarDB,云原生数据仓库AnalyticDB My,Quick BI
计算机软件著作权登记
全新支持APP/小程序全程在线电子化登记,无纸化线上极速办理,助力APP便捷上架,最快3个工作日拿证。在线填写,系统纠错,全流程可视化,申请进度实时掌控,阿里云开启知识产权一站式专业服务。
阿里云计算机软件著作权登记,全新支持APP/小程序全程在线电子化登记,无纸化线上极速办理,助力APP便捷上架,最快3工作日拿证。在线填写,系统纠错,全流程可视化,申请进度实时掌控,阿里云开启知识产权一站式专业服务。
来自: 云产品 | 相关产品:版权与专利,软件著作权申请,源代码版权申请,计算机软件著作权,软件著作权代码,APP/小程序软件著作权在线登记,APP著作权,软件著作权
基于Fortinet的出海业务访问加速方案
基于Fortinet的出海业务访问<em>加速</em>方案
本方案基于CADT提供一个一键交付零配置的部署模板,帮助企业快速构建出海业务访问加速的环境。方案结合了Fortinet产品以及阿里云的ECS,BGP公网精品IP等产品,实现低成本的出海业务加速。
基于 Fortinet的出海业务访问加速方案 业务架构 场景描述 本方案基于 CADT提供一一键交付零配置 的部署模板,帮助企业快速构建出海业务访 问加速的环境。方案结合了 Fortinet产品以 及阿里云的 ECS,BGP公网精品 IP等产 品,实现低成本的出海业务加速应用场景 出海业务访问加速,SD-WAN组网等 解决问题 1、一键交付零...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,弹性公网IP,云速搭
网站静态资源访问加速
本方案使用阿里云CDN产品来分发OSS上的网站静态文件,不仅可以降低源站的负载压力,还能够提升网站的访问性能,同时还能在高并发场景下为您节约成本。
用很高的成本支撑全球用户接入效率和成本通过边缘云骨干网络进一步优化中间一公里的传输效率和应用程序安全接入;基于CDN的边缘计算服务实现算力下移,就近计算,进一步缩短延时提升并发,降低中心云压力。传统方案直接连接到云服务;完全依赖运营商网络和路由;缺少网络优化方案;用很高的成本支撑全球用户接入推荐方案...
来自: 解决方案
HTTPS 加速网关-阿里云
网站域名一键接入即可实现网站HTTPS
阿里云推出的HTTPS 加速网关,快捷接入网站域名即可实现网站HTTPS,并支持自动续费,从而大程度的解决了传统证书申请和部署耗费时间长、且因证书有效期持续缩短导致运维压力大的问题.2024年05月21日起全版本价格降幅最高80%,月售9.9元起.2024年05月21日起全版本价格降幅最高80%,月售9.9元起.售前/售后人工咨询.谢赟辉...
来自: 云产品
容器多云统一监控日志
容器多云统一监控日志
多云、混合云成为常态,Forrester 报告中指出,未来 89% 的企业至少使用两个云,74% 的企业至少使用三个甚至更多公有云,在面对多云/混合云这样大的趋势下,Gartner报告指出,安全、运维复杂性、财务复杂性是多云架构的主要挑战,本方案给出了在多云/混合云场景下,构建基于容器环境下的统一管理、统一监控和统一日志方案,解决多云、混合云场景下,运维复杂性问题。 应用场景 客户在阿里云以外的其他云服务商(AWS、Azure、GCP、TencentCloud、HuaweiCloud等)或者IDC基于容器(Kubernetes)运行业务系统,希望构建容器场景下的统一监控日志系统,方便做不同大屏和问题分析定位。 解决问题 •构建容器多云统一监控和日志系统,在一个平台可以看到不同环境系统的运行情况。
容器多云统一监控日志 最佳实践 业务架构 场景描述 多云、混合云成为常态,Forrester报告中指出,未来89%的企业至少使用两云,74%的企业 至少使用三甚至更多公有云,在面对多云/混 合云这样大的趋势下,Gartner报告指出,安全、运维复杂性、财务复杂性是多云架构的主要挑 战,本方案给出了在多云/混合云场景下,构建 ...
来自: 最佳实践 | 相关产品:专有网络 VPC,容器服务 ACK,日志服务(SLS),应用实时监控服务 ARMS ,微服务引擎
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景,企业的Kafka实例可能存在多种情况,比如使用阿里云Kafka服务,可能是自建开源Kafka,或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例,在这个前提下Kafka实例之间可能会需要消息同步的情况: 同帐号容灾场景:比如Kafka实例都是阿里云Kafka,但是Kafka实例会有主备之分,需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾:这类场景比如主Kafka是阿里云Kafka,备Kafka是IDC开源自建Kafka,或者是其他云上的Kafka。 不同业务之间消息同步:因为现在的业务通常不会是信息孤岛,都需要消息互通,所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例,并且这两个Kafka实例归属不同的RAM角色,有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题(重试机制,容错机制,死信队列等)。 大幅提升构建消息同步架构的效率,降低构建复杂度问题。
文档版本:20240330 10基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步 部署基础环境 CADT可以一站式的帮用户创建实例、部署实例、创建Topic/Group,所以这里可以 一气呵成的将这些配置信息全部设置,相在产品控制台上多步骤,跳转多页 面做开通部署配置的传统方式,CADT这种模式可以极大提高效率。...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,函数计算,消息队列 Kafka 版
Oracle RAC 12C云上部署
Oracle RAC 12C云上部署
Oracle RAC架构迁移上云,提供高并发,高吞吐,高安全等特性,适用于金融,电力,电信,制造业等传统客户的核心交易系统。
通过RAC结构,可以获得冗 余,即使在一实例crash或是不可访问时,应用程序也可通过其他Instance访问 Database。官方架构如下图所示:文档版本:20240206 4OracleRAC12C云上部署 安装环境规划 1.2.OracleRAC环境规划 1.2.1.OracleRAC网络规划 服务器主机名 rac1 rac2 RACpublicIP 192.168.100.101 192.168.100.102 ...
来自: 最佳实践 | 相关产品:块存储,专有网络 VPC,云服务器ECS,弹性公网IP,云企业网
基于Elasticsearch的订单检索加速最佳实践
基于Elasticsearch的订单检索<em>加速</em>最佳实践
随着企业信息化程度越来越高,核心业务数据存储在传统关系型数据库中不可避免地会遇到一个问题:单表记录不断增多,数据检索速度会变慢,尤其是对中文的模糊查询(建立普通索引完全不起作用)。虽然数据库自身在不断完善,但效果有限且没办法灵活扩展,复杂场景无法应对。 本方案基于阿里云Elasticsearch作为二级索引库,数据集成产品提供Binlog实时订阅,实时解析、增量数据实时更新及二级索引库之间进行数据实时同步,为数据库提供“能力增益”, 不仅能从根本解决主库抗压问题,提升稳定性;同时支持高效率、高性能、高弹性、低成本、多复杂场景的检索加速服务。
基于 Elasticsearch的订单检索加速最佳实践 业务架构 场景描述 随着企业信息化程度越来越高,核心业 务数据存储在传统关系型数据库中不可避 免地会遇到一问题:单表记录不断增多,数据检索速度会变慢,尤其是对中文的模糊 查询(建立普通索引完全不起作用)。虽然 数据库自身在不断完善,但效果有限且没办 法灵活扩展,...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,DataWorks,Elasticsearch
边缘网络加速ENA
阿里云提供快速上云专用通道,一站式解决客户混合组网联接需求,标准计费、快速交付、合法合规,助企业无忧上云。服务依托依托运营商合规资源,结合阿里云服务优势,为用户提供稳定安全、高速、低时延的网络传输,解决客户不同站点的连接、组网、数据安全传输、业务质量保障问题
通过配置两边缘网络加速服务可实现99.9%可用性保障.查看边缘网络加速使用文档.查看边缘网络加速产品使用文档.查看边缘网络加速产品用户协议.快速搭建从企业自有网络到阿里云上VPC的专用通道。连接方式包括从客户某处地点到阿里云某处Region之间的二层连接,也可以是客户多处地点与阿里云多处Region之间的三层多点连接.多...
来自: 云产品
MRACC加速倚天ECS实例Flink集群性能
MRACC<em>加速</em>倚天ECS实例Flink集群性能
希望了解Flink集群on倚天的部署架构。 通过神龙大数据加速引擎 Mracc 提升Flink集群性能。 希望实测了解倚天ECS实例运行Flink集群的性能 架构设计:利用阿里云官方架构设计模版,在此基础上二次定制(调整规格、资源数量、配置调整)。 快速完成PoC和生产环境的设计和部署
步骤1 登录 CADT控制台,在应用>我的应用页面,找到这 flink-yitian应用,单击查看 架构图。步骤2 打开资源清单,单击释放全部资源。文档版本:20230801 21 MRACC加速倚天 ECS实例 Spark集群性能 一键释放资源 步骤3 确认后,需要点击确定按钮。步骤4 需要用户再次确认,点击确定后,如果是主账号会触发风控(手机校验等...
来自: 最佳实践 | 相关产品:云服务器ECS,云速搭
< 1 2 3 4 ... 8 >
共有8页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用