Spark on ECI大数据分析
Spark on ECI大数据分析
场景描述 方案优势 1.计算引擎弹性扩缩容,兼顾资源弹性与计 算资源成本优化。 2.计算与存储分离架构,结合阿里云原生云 存储产品,海量数据湖优势。 3.Kubernetes原生的调度性能优势,提升在 大规模分析作业时的分析性能优势分。 4.集群资源隔离和按需分配。 解决问题 1.计算资源弹性能力不足,计算资源成本管 控能力欠缺. 2.集群资源调度能力和隔离能力不足。 3.计算与存储无法分离,大数据量分析时出 现数据存储资源瓶颈。 4.Spark submit方式提交分析作业参数支持 有限等缺点。 产品列表 容器服务Kubernetes版(ACK) 弹性容器实例(ECI) 文件存储HDFS 对象存储OSS 专有网络VPC 容器镜像服务ACR
同时结合阿里原生的文件存储 HDFS/对象存储 OSS等存储产品,将大数据分析作业运行在 Kubernetes集群上采用 Spark on ACK+ECI的方案架构,同时利用 Spark Operator方式做到轻松完成在计 算与存储分离架构的原生平台上运行大数据分析作业。文档版本:20200409 2 Spark on ECI大数据分析 环境准备 1.环境准备 1.1.创建容器...
来自: 最佳实践 相关产品:专有网络 VPC,对象存储 OSS,容器服务 ACK,弹性容器实例 ECI,文件存储HDFS
机场视频监控
机场视频监控
场景描述 该最佳实践适用于国内机场的视频监控行业,将线下视频文件通过混合云阵列缓存后,通过专线上传到阿里云OSS上。 也适用于其他混合云场景中,利用阵列缓存文件,并通过网络传输到阿里云OSS上的场景。 解决问题 1.通过混合云阵列+专线将线下文件传到阿 里云OSS上 2.通过阿里云OSS跨区域复制功能实现异 地文件备份 3.通过OSS的自动生命周期管理功能实现 文件生命周期管理 产品列表 OSS对象存储 混合云阵列 高速通道(专线)
通过OSS的自动生命周期管理功能实现 文件生命周期管理 产品列表  OSS对象存储  混合阵列  高速通道(专线)服务器ECS(产品名称)文档模板(手册名称)/文档版本信息 阿里 企业上云实践 机场视频监控最佳实践 企业上云实践 机场视频监控最佳实践 文档版本信息 文本信息 属性 内容 文档名称 机场视频监控最佳...
来自: 最佳实践 | 相关产品:对象存储 OSS,高速通道,混合云存储阵列 Hybrid Cloud
小型互联网迁移阿里
小型互联网迁移阿里<em>云</em>
场景描述 本方案主要适用于中小型互联网企业,从他云 迁移到阿里云的最佳实践。方案中会概述网络 规划、服务器、数据库、存储数据、Kafka和 镜像数据的迁移方案描述。同时在实践环节, 增加服务器和RDS的迁移操作演练和验证。 解决问题 提供服务器、数据库等关键环节的平滑迁移方 案 提供云上高可用架构参考 提供模拟简单的演练回归流程机制 产品列表 云服务器(ECS)、迁云工具(SMC)、数据库 (RDS)、数据库(Redis)、数据传输(DTS)、 负载均衡(SLB)、专有络(VPC)等
小型互联网迁移阿里 最佳实践 业务架构图 场景描述 本方案主要适用于中小型互联网企业,从他迁移到 阿里,方案涉及网络规划、服务器、数据库、存储 数据、Kafka和镜像数据的迁移方案内容;同时在实 践环节,增加服务器和 RDS的迁移操作演练和验证。解决问题 提供服务器、数据库等关键环节的平滑迁移方案 提供上高...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS
基于Flink+ClickHouse构建实时游戏数据分析
基于Flink+ClickHouse构建实时游戏数据分析
在互联网、游戏行业中,常常需要对用户行为日志进行分析,通过数据挖掘,来更好地支持业务运营,比如用户轨迹,热力图,登录行为分析,实时业务大屏等。当业务数据量达到千亿规模时,常常导致分析不实时,平均响应时间长达10分钟,影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据,实现秒级响应的实时用户行为分析,并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析,得到用户特征和画像,实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓,对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能,千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高,支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用,免运维,全球多Region部署,快速支持新游戏开服。 Flink+ClickHouse+QuickBI
文档版本:20201224 65 基于 Flink+ClickHouse构建实时游戏数据分析 数据可视化 步骤3 在单击左侧导航栏中的数据>数据库/获取数据或者通过新建数据源。文档版本:20201224 66 基于 Flink+ClickHouse构建实时游戏数据分析 数据可视化 步骤4 在添加数据源页面云数据库页签下,单击 ClickHouse。步骤5 在添加 ClickHouse...
来自: 最佳实践 | 相关产品:云服务器ECS,弹性公网IP,实时计算,Quick BI,消息队列 Kafka 版,云数据库 ClickHouse
备份 Cloud Backup
云备份 Cloud Backup作为阿里云数据统一灾备平台,是一种简单易用的公共云灾备服务,可以为阿里云ECS上的数据库、文件系统、NAS、OSS以及自建机房内的文件、虚拟机、大规模NAS等提供安全、高效的备份和容灾保护。图形化界面集中配置备份策略,并完全托管备份活动,轻松满足业务与合规需求。
通过配置数据保护策略,备份数据上云,当数据出现病毒感染,误删误改时从阿里备份库上直接通过软件还原数据,也可以在上直接恢复数据实现恢复演练和数据分析.ECS文件及应用备份.ECS上的文件,SAP HANA,自建SQL Server数据库的备份.NAS,OSS文件备份.NAS,OSS数据的全自动备份.阿里上数据跨地域异地备份.阿里统一...
来自: 云产品
企业上云数据安全
企业上云数据安全
场景描述 企业是否选择上公共云,或者哪些系统或数据上 公共云,对数据安全的关心是重要因素之一。本 最佳实践重点在于介绍狭义的数据加密存储安 全范畴,即首先使用SDDP产品进行敏感数据发 现和分级分类,然后对高级别敏感数据进行按 需、不同类型的全链路加密存储。 解决问题 1.帮助客户发现敏感数据 2.对敏感数据进行分类、分级 3.对不同级别的数据如何选择加密方式 4.具体如何进行加密 产品列表 敏感数据识别SDDP 密钥管理服务KMS 云数据库RDS 对象存储OSS
具体如何进行加密 产品列表 敏感数据识别 SDDP 密钥管理服务 KMS 数据库 RDS 对象存储 OSS 阿里最佳实践分享群 最佳实践频道 如二维码过期,请搜索群号:31852400 文档版本信息 企业上云数据安全 阿里 企业上云数据安全 最佳实践 文档版本:20150122(发布日期)II 文档版本信息 企业上云数据安全 文档版本信息 文本...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,密钥管理服务,敏感数据保护,云速搭CADT
事件总线 EventBridge
事件总线 EventBridge是阿里云提供的一款无服务器事件总线服务,支持阿里云服务、自定义应用、SaaS应用以标准化、中心化的方式接入,并能够以标准化的 CloudEvents 1.0 协议在这些应用之间路由事件,帮助您轻松构建松耦合、分布式的事件驱动架构。
视频网站上传视频文件OSS OSS处理请求后发布PutObject事件到事件服务 PutObject事件根据用户的规则路由到MTS服务 MTS服务根据OSS事件对视频文件转码并上传 MTS转码完成后发布转码完成事件到事件服务 转码完成事件根据用户配置的规则,推送通知到原视频网站,并发送短信通知用户.多任务间松耦合设计,提高业务并发处理能力...
来自: 云产品
中小企业基于SAG APP实现上移动办公
中小企业基于SAG APP实现<em>云</em>上移动办公
1. 客户端一键接入上云,配置自动化 2. 城域内 Internet 就近接入,快速高效 3. 数据加密传输,满足安全性要求 4. 阿里云控制台统一配置管理
联合企业网访问 OSS等云服务 云服务指使用阿里云服务地址段 100.64.0.0/10 提供服务的产品,例如对象存储OSS)、日志服务(SLS)、数据传输服务(DTS)等。本地终端通过 SAG接入阿里 之后,就可以通过企业网内网访问云服务。内网访问指的是阿里同地域产品之 间的内部通信网络。OSS是阿里提供的对象存储服务...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,云企业网,云解析 PrivateZone,智能接入网关,云速搭
数据库 SelectDB 版
阿里云数据库 SelectDB 是现代化实时数据仓库 SelectDB 在阿里云上的全托管服务,内核基于业界领先的开源分析型数据库 Apache Doris 研发,由阿里云和飞轮科技联合打造。阿里云数据库 SelectDB 聚焦于满足企业级大数据分析需求,广泛应用于实时报表分析、即席多维分析、日志检索分析、数据联邦与查询加速等场景,致力于为客户提供极致性能、简单易用的数据分析服务。
SelectDB 版实例中2023.08.20开发参考如何通过对象存储OSS导入数据至数据库 SelectDB 版实例中2023.08.20开发参考如何通过INSERT INTO导入数据至数据库 SelectDB 版实例中2023.08.20产品简介数据库 SelectDB 版是基于 Apache Doris 研发的新一代原生实时数仓服务。SelectDB 具有原生存算分离、实时极速、融合统一...
来自: 云产品
游戏业务分区合服
游戏业务分区合服
概述 为了提高游戏玩家的体验,并提高留存率,增强付费率.除了游戏本身的内容趣味性外, 改善用户访问加速体验,并对游戏数据分区合服是很常见的业务运营场景. 本方案适用于: 1游戏业务运营,对多个分区数据库进行合并,增加付费用户积极性的需求. 2游戏业务加速,中心化部署的网络加速需求. 方案优势 1便捷数据迁移. 2内网安全传输 3加速远端用户访问质量体验 4快速应对上层业务运营的技术实现操作. 产品列表 网络产品:VPCSLBNAT网关CEN共享带宽包EIP全球加速GA 计算产品:ECS 数据库产品:RDSDTS 存储产品:OSS 云解析
快速应对上层业务运营的技术实现操作 业务改造-分区合服迁移数据 产品列表 专用网络 VPC 数据库 RDS MySQL 数据传输服务 DTS NAT网关 对象存储 OSS 企业网 CEN 改造后架构-合服并做跨地域访问加速 数据管理 DMS 服务器 ECS 云速搭 CADT 阿里最佳实践技术分享群 最佳实践频道 如二维码过期,请搜索群号:31852400 ...
来自: 最佳实践 | 相关产品:云数据库RDS MySQL 版,对象存储 OSS,数据传输,NAT网关,云企业网
DBS通过IPSec VPN备份自建数据库
DBS通过IPSec VPN备份自建数据库
场景描述 客户业务系统部署在IDC或者公有云环境,对业 务数据有云上备份需求。在客户交流过程中,基 于数据高可用和灾备需求,要求将数据备份至阿 里云OSS的存储空间,同时备份数据流基于 IPSecVPN/专线进行安全传输。 解决的问题 自建数据库的云上/跨云备份需求 DBS提供了完善的备份机制和API OSS的分层存储机制降低备份集储存成本 基于IPSecVPN/专线进行安全传输。 产品列表 VPC,ECS,DBS,VPN网关,OSS
在客户交流过程中,基 DBS提供了完善的备份机制和 API 于数据高可用和灾备需求,要求将数据备份至阿 OSS的分层存储机制降低备份集储存成本 里云OSS存储空间,同时备份数据流基于 IPSec VPN/专线进行安全传输。基于IPSecVPN/专线进行安全传输。产品列表 VPC,ECS,DBS,VPN网关,OSS 文档版本:20200113 文档模板(手册...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,VPN网关,数据库备份DBS,云速搭
企业上云workshop
企业上云workshop
本文模拟了如下场景: 1. 线下 IDC 环境中部署了一个业务系统,业务是利用 wordpress 系统提供网站服务。 2. 本文详细介绍了如何将以上线下系统搬迁到云上, 包括如何在云上构建以上业务系统,如何迁移线下 系统到云上,如何割接。 3. 最后介绍了迁移上云后,如何部署安全系统。 解决问题 IDC 业务系统搬迁上云 云上构建业务系统 部署安全系统
解决问题 IDC业务系统搬迁上云 上构建业务系统 部署安全系统 产品列表 最佳实践频道 阿里最佳实践生态群 弹性公网 IP 负载均衡 SLB 专有网络 VPC 服务器 ECS 对象存储 OSS 文件服务 NAS 数据库 RDS 数据库 PolarDB 架构设计工具 CADT Web应用防火墙 SSL证书 防火墙 服务器 ECS(产品名称)文档模板(手册...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,负载均衡 SLB,弹性公网IP,文件存储NAS,云数据库PolarDB,Web应用防火墙,云防火墙,SSL证书,云速搭
湖仓一体架构EMR元数据迁移DLF
湖仓一体架构EMR元数据迁移DLF
通过EMR+DLF数据湖方案,可以为企业提供数据湖内的统一的元数据管理,统一的权限管理,支持多源数据入湖以及一站式数据探索的能力。本方案支持已有EMR集群元数据库使用RDS或内置MySQL数据库迁移DLF,通过统一的元数据管理,多种数据源入湖,搭建高效的数据湖解决方案。
文档版本:20220125 16 湖仓一体架构 EMR元数据迁移DLF 元数据迁移 步骤3 输入名称,选择 OSS存储路径(如果没有 OSS bucket请先到 OSS控制台创建)。步骤4 确认信息无误后提交。文档版本:20220125 17 湖仓一体架构 EMR元数据迁移DLF 元数据迁移 步骤5 开始运行迁移任务。步骤6 运行成功后,查看运行日志,可见迁移元...
来自: 最佳实践 | 相关产品:E-MapReduce,数据湖构建
数据库专属集群MyBase
云数据库专属集群MyBase是阿里云专为企业级用户定制优化的解决方案。支持MySQL、PostgreSQL、SQL Server、Redis和MongoDB数据库。具有云资源独享、支持资源超分配,自主可运维、开放权限等特点。MyBase不仅能保障客户独享云资源更加安全、享受到云数据库服务的便捷灵活,同时还满足企业对数据库合规性、安全性和高性能的要求。
支持DTS 数据传输服务(Data Transmission Service,简称DTS),支持关系型数据库、NoSQL、大数据(OLAP)等数据,提供数据迁移、订阅及实时同步功能 支持OSS MyBase的日志数据可以采用OSS作为存储,海量、低成本应用场景在线教育场景 视频场景 在线教育类应用 在线教育系统的访问往往较为集中,对数据库的性能,弹性...
来自: 云产品
数据库MongoDB版
阿里云云数据库MongoDB版是完全兼容MongoDB协议、高度兼容DynamoDB协议的在线文档型数据库服务。支持单节点、双节点、副本集和分片集群四种部署架构,能够满足不同的业务场景需要。
大数据处理无缝对接.MongoDB在线数据实时写入后端数据库,再由专用计算引擎进行数据计算分析,分析结果再写回源数据库,以便业务快速访问计算结果,高效解决大数据业务场景海量数据复杂计算的难题.可进行数据库源数据访问.对大数据进行计算分析.异构数据库产品之间的数据流动.数据库MongoDB.原生数据湖分析DLA.35A_行业...
来自: 云产品
数据库异地灾备
数据库异地灾备
场景描述 适用于不满足于单地域,对数据可靠性 (RPO)和服务可用性(RTO)要求更高 的,希望防范断电、断网等机房故障,抵 御地震、台风等自然灾害,具备异地容灾 备份恢复能力的客户业务场景。 解决问题 1.实时备份,RPO达到秒级 2.表级恢复,故障恢复时间大大缩短 3.长期归档,自动管理备份生命周期 4.异地灾备,构建数据库灾备中心 产品列表 专有网络VPC 云服务器ECS 弹性公网IP(EIP) 负载均衡SLB 云数据库RDSMySQL 数据库备份服务DBS 对象存储服务OSS 数据湖分析服务DLA 数据管理服务DMS 数据传输服务DTS
异地灾备,构建数据库灾备中心 产品列表 最佳实践频道 阿里最佳实践分享群 专有网络 VPC 服务器 ECS 弹性公网 IP(EIP)负载均衡 SLB 数据库 RDS MySQL 数据库备份服务 DBS 对象存储服务 OSS 数据湖分析服务 DLA 数据管理服务 DMS 数据传输服务 DTS 云速搭 CADT 文档模板(手册名称)/文档版本信息 Oracle数据库与...
来自: 最佳实践 | 相关产品:云数据库RDS MySQL 版,对象存储 OSS,数据管理,数据湖分析,数据库备份DBS,云速搭CADT
传统企业业务上云基础安全防护
传统企业业务上云基础安全防护
场景描述 越来越多的企业客户选择把自己的生产系统部 署在公共云平台上,以满足自身业务的发展及弹 性扩缩容、稳定性等方面的需求。如何在公共云 上构建基本的网络安全、主机安全、入侵检测、 运维审计等方案,是企业首选的最佳实践。 解决问题 1.服务器安全、应用安全 2.网络安全、数据安全 3.安全审计、安全管理 产品列表 云安全中心 Web应用防火墙 云防火墙 SSL证书 数据库审计 堡垒机
 策略组名称:WAF回源地址  所属资源组:默认资源组  IP版本:IPv4  批量添加地址和备注:填入WAF的回源IP地址 说明:填写白名单的IP地址段时,每行只能填一个地址段,然后换行写下一个地址段。文档版本:20220210 10传统企业业务上云基础安全防护 Web应用防火墙(WAF)注意到步骤3里的最后一个回源IP是IPv6,由于...
来自: 最佳实践 | 相关产品:云安全中心,Web应用防火墙,数据库审计,堡垒机,云防火墙,云速搭CADT
函数计算FC
阿里云函数计算(Function Compute)是一个事件驱动的全托管计算服务。通过函数计算,您无需管理服务器等基础设施,只需编写代码并上传。函数计算会为您准备好计算资源,以弹性、可靠的方式运行您的代码。更棒的是,您只需要为代码实际运行消耗的资源付费,代码未运行则不产生费用。
网盘可长期使用 建议体验时长15分钟 免费体验 基于函数计算实现音视频转码 本场景使用函数计算、Serverless 工作流、对象存储OSS、日志服务 SLS、专有网络 VPC 和文件存储 NAS 服务,实现音视频转码 建议体验时长30分钟 免费体验客户案例新浪微博 新浪微博使用函数计算-无服务器计算,处理每日数十亿次个性化图片处理,综合...
来自: 云产品
大数据workshop
大数据workshop
大数据workshop
阿里 最佳实践 大数据 WorkShop 文档版本:20210628(发布日期)阿里最佳实践大数据 WorkShop 文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 阿里最佳实践大数据 WorkShop 文档版本 V1.8 版本日期 2021-06-28 文档状态 对外发布 制作人 明誉、弦望、川知、衾影 审阅人-文档变更记录 版本编号 日期 作者 ...
来自: 最佳实践 | 相关产品:块存储,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,弹性公网IP,数据传输,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,实时计算,数据总线,Quick BI,Hologres
< 1 2 3 4 ... 6 >
共有6页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用