Function Compute构建高弹性大数据采集系统
Function Compute构建高<em>弹性</em>大数据采集系统
当前互联网很多场景都存在需要将大量的数据信息采集起来然后传输到后端的各类系统服务中,对数据进行处理、分析,形成业务闭环。比如游戏行业中的游戏发行、游戏运营,产互行业中的数字营销,物联网、车联网行业中的硬件、车辆信息上报等等。这些场景普遍存在数据采集量大、数据传输需要稳定且吞吐量大的特点,给整个数据采集传输系统带来很大的挑战。在这个场景中,有三个关键的环节,数据采集、数据传输、数据处理。该最佳实践主要涉
专有网络 VPC 日志服务 SLS 链路追踪 Tracing Analysis 云服务器 ECS 数据库 RDS 最佳实践频道 阿里云最佳实践技术分享群 函数计算 FC 消息队列 Kafka 版 性能测试 PTS 云速搭 CADT 如二维码过期,请搜索群号:31852400 云服务器 ECS(产品名称)文档模板(手册名称)/文档版本信息 阿里云 Function Compute构建高弹性 ...
来自: 最佳实践 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,日志服务(SLS),函数计算,消息队列 Kafka 版,云速搭CADT
混合多云统一安全
混合<em>云</em>多云统一安全
场景描述 有些客户的业务系统部分上云、或者还没上 云,但想使用阿里云公共云的安全服务;或 者业务系统部署在多个云平台上,想使用阿 里云的安全来提供统一服务。 解决问题 1.通过阿里云的安全产品和服务,统一管理阿 里云、IDC和它云的资产; 2.满足混合云、多云的等保需求。 产品列表 云安全中心 堡垒机 数据库审计 高防IP Web应用防火墙 证书服务 日志服务 VPN网关
阿里云服务器管理 阿里云堡垒机,既可以管理阿里云上的云服务器 ECS,也可以管理其他云平台的云服 务器和 IDC的物理机或虚拟机。文档版本:20200630 39 混合云多云统一安全 统一运维管理 阿里云的 ECS可以直接导入,其他服务器可以手工添加或者通过文件导入方式添加。本最佳实践通过手工创建的方式添加。5.4.1.创建主机 ...
来自: 最佳实践 | 相关产品:日志服务(SLS),Web应用防火墙,数据库审计,堡垒机,SSL证书
原生数据库
PolarDB是阿里云自研的云原生数据库,在存储计算分离架构下,利用了软硬件结合的优势,为用户提供秒级弹性、高性能、海量存储、安全可靠的数据库服务。100%兼容MySQL和PostgreSQL生态,支持分布式扩展,高度兼容Oracle语法。
云服务器ECS.推荐搭配产品.教育/直播:业务高弹性.分钟级弹性升降配,快速应对业务峰值.金融场景下对业务要求高可用和强一致性,PolarDB采用存储和计算分离的架构,支持秒级的故障恢复、全局数据一致性和数据备份容灾等功能,充分满足金融级合规可靠性要求.多可用区架构,在多个可用区内都有数据备份,为数据库提供容灾和...
来自: 云产品
EHPC药物筛选
EHPC药物筛选
场景描述 本方案适用于使用弹性高性能计算 EHPC和文件存储NAS来搭建基础环 境,运行药物筛选应用AutodockVina 的场景中,这里采用批处理方式来提交 作业,并可以可视化计算结果。 方案架构 1.计算之前,将数据通过互联网/闪电立方/高速通道上传到阿里云OSS 2.计算时,将数据从OSS拉取到文件共享存储NAS上 3.计算时,在EHPC集群上进行,计算节点从NAS上读写数据 • 容量型NAS:低成本,大容量 • 性能型NAS:适合高IOPS应用,作为临时目录 • CPFS:适合超大规模,并行度极高的作业 4.计算节点: • 如果对计算时间不敏感,希望低成本运算,可选ECS实例 • 如果时效性要求高,建议采用SCC超级计算集群 5.可视化 • 如果可视化部分计算量不大,可以采用EHPC自带的可视化服务 解决问题 1.使用EHPC运行药物筛选应用 2.使用nas存储计算数据 3.使用OSS保存计算结果 • 通过分子对接(moleculardocking)模拟计算进行药物筛选,是模拟小分子配体和生物大分子受体的 相互作用,预测配体和受体的结合模式和亲和力。 • 通常,有很多已有的配体库,如商业化的Specs、Enamine和ChemDiv化合物库。提供大量配体,模 拟计算就是计算这些配体和给定受体的相互作用。 • 每次模拟计算通常处理一个配体和一个受体,不同配体之间没有依赖,因此可以同时大规模并行处 理。 本解决方案同样适用于有批量、高并发处理需求的其它生物、医药等场景。 产品列表 弹性高性能计算E-HPC 文件存储NAS 对象存储OSS
使用 OSS保存计算结果 产品列表 弹性高性能计算 E-HPC 文件存储 NAS 对象存储 OSS 云速搭 CADT 最佳实践频道 阿里云最佳实践技术分享群 如二维码过期,请搜索群号:31852400 云服务器 ECS(产品名称)文档模板(手册名称)/文档版本信息 阿里云 企业上云实践 EHPC药物筛选最佳实践 文档版本:20210811 II 企业上云实践 EHPC...
来自: 最佳实践 | 相关产品:云服务器ECS,对象存储 OSS,文件存储NAS,弹性高性能计算E-HPC
CDH迁移升级CDP最佳实践
CDH迁移升级CDP最佳实践
当前 CDH 免费版停止下载,终止服务,针对需要企业版服务能力并且CDH 升级过程对业务影响较小的客户,通过安装新的 CDP 集群,将现有数据拷贝至新集群,然后将新集群切换为生产集群,升级过程没有数据丢失风险,停机时间较短,适合大部分互联网客户升级使用。
数据一致性校验 最佳实践频道 阿里云最佳实践技术分享群 云服务器 ECS(产品名称)文档模板(手册名称)/文档版本信息 阿里云 CDH迁移升级 CDP 最佳实践 文档版本:20211029 文档版本:20150122(发布日期)II CDH迁移升级 CDP最佳实践 文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 CDH迁移升级 CDP最佳实践 ...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云速搭
容器服务 Kubernetes 版 ACK
阿里云容器服务Kubernetes版ACK(容器服务Kubernetes版,简称ACK)支持企业级K8s容器化应用的全生命周期管理,提供高性能可伸缩的容器应用管理能力,助力企业高效运行云端K8s容器化应用。
相关产品容器服务 ACK云服务器 ECS专有网络 VPC GPU 云服务器弹性伸缩云速搭 CADT一键部署SpringCloud 应用托管到 ACK本实践适用于将 SpringCloud 应用托管到 ACK 的场景中,创建 ACK 后,利用 Helm 一键部署 SpringCloud 应用,将 SpringCloud 应用托管到 ACK。相关产品容器服务 ACK云服务器 ECS云速搭 CADT一键部署期待已...
来自: 云产品
备份 Cloud Backup
云备份 Cloud Backup作为阿里云数据统一灾备平台,是一种简单易用的公共云灾备服务,可以为阿里云ECS上的数据库、文件系统、NAS、OSS以及自建机房内的文件、虚拟机、大规模NAS等提供安全、高效的备份和容灾保护。图形化界面集中配置备份策略,并完全托管备份活动,轻松满足业务与合规需求。
云服务器 ECS.推荐搭配使用.ECS 文件数据库备份.场景描述与概要.在混合云场景中,能够让客户 VMware 虚拟机平滑、高效迁移上云的工具,是本地应用上云中非常重要的一环.公共云厂家普遍缺乏 VMware 平台的针对性迁移工具.传统工具普遍都有以下三个缺点:侵入式(需要安装代理)、无增量(迁移时需要停机)、效率低(扫描、...
来自: 云产品
SLS多云日志采集、处理及分析
SLS多云日志采集、处理及分析
场景描述 从第三方云平台或线下IDC服务器上采集 日志写入到阿里云日志服务,通过日志服务 进行数据分析,帮助提升运维、运营效率, 建立DT 时代海量日志处理能力。 针对未使用其他日志采集服务的用户,推荐 在他云或线下服务器安装logtail采集并使用 Https安全传输;针对已使用其他日志采集 工具并且已有日志服务需要继续服务的情 况,可以通过Log producer SDK写入日志 服务。 解决问题 1.第三方云平台或线下IDC客户需要使用 阿里云日志服务生态的用户。 2.第三方云平台或线下IDC服务器已有完 整日志采集、处理及分析的用户。 产品列表 E-MapReduce 专有网络VPC 云服务器ECS 日志服务LOG DCDN
E-MapReduce:阿里云 E-MapReduce(EMR)是构建在阿里云云服务器 ECS 上 的开源 Hadoop、Spark、Hive、Flink 生态大数据 PaaS 产品。提供用户在云上 使用开源技术建设数据仓库、离线批处理、在线流式处理、即时查询、机器学习 等场景下的大数据解决方案。更多信息,请参见专有 E-MapReduce简介...
来自: 最佳实践 | 相关产品:云服务器ECS,日志服务(SLS),NAT网关,E-MapReduce,全站加速 DCDN,云速搭CADT
上成本优化workshop
<em>云</em>上成本优化workshop
某金融科技公司,它主要提供信贷,理财,电商等 服务,目前已经拥有千万级注册用户。该公司在将 在线业务系统和大数据业务从自建 IDC 机房迁移 到阿里云后,今年大数据集群经历过多次因为资 源不足导致弹性扩容失败的故障,运维负责人非 常苦恼。由于该公司从事互联网金融的借贷业务, 白天的催收非常依赖晚上大数据计算的结果,若 因为资源不足导致计算结果失败则意味着白天催 收业务员无事可做,会对公司业务造成严重影响。 后来,通过阿里云解决方案架构师建议的方案,将 大数据集群迁移到资源较充足的可用区以及配置 弹性伸缩多规格 ECS 选型增加交付成功率等方 法,目前已阶段性的解决因资源不足导致弹性扩 容失败的问题,但该方案在 Spot 计算资源不足 时,启用大量按量收费算力,带来了较高的成本, 并且抢占式实例和按量付费实例都不保证资源 100%交付,还是存在交付失败的可能性,特别是 在双 11 期间由于其他客户的资源需求上升带来 的资源挤兑客观上存在,就进一步增加了弹性扩 容失败的风险,从而影响业务正常运行。
详见:https://www.aliyun.com/product/vpc ECS云服务器 ECS(Elastic Compute Service)是阿里云提供的性能卓越、稳 定可靠、弹性扩展的 IaaS(Infrastructure as a Service)级别云计算服务。云服务 ECS免去了您采购 IT硬件的前期准备,让您像使用水、电、天然气等公共资 源一样便捷、高效地使用服务器,实现计算...
来自: 最佳实践 | 相关产品:云服务器ECS,负载均衡 SLB,弹性公网IP,容器服务 ACK,日志服务(SLS),NAT网关,函数计算,E-MapReduce,云数据库PolarDB,弹性容器实例 ECI,存储容量单位包,预留实例券,Hologres
企业上云数据安全
企业上云数据安全
场景描述 企业是否选择上公共云,或者哪些系统或数据上 公共云,对数据安全的关心是重要因素之一。本 最佳实践重点在于介绍狭义的数据加密存储安 全范畴,即首先使用SDDP产品进行敏感数据发 现和分级分类,然后对高级别敏感数据进行按 需、不同类型的全链路加密存储。 解决问题 1.帮助客户发现敏感数据 2.对敏感数据进行分类、分级 3.对不同级别的数据如何选择加密方式 4.具体如何进行加密 产品列表 敏感数据识别SDDP 密钥管理服务KMS 云数据库RDS 对象存储OSS
产品或服务 本文示例 备注 VPC[专有网络]VPC_Datasec[专有网络网段][交换机]192.168.0.0/16 vswitch-az-h[交换机可用区&网段]H,192.168.0.0/24 ECS[云服务器]可用区 H ecs.g5.large(2vCPU,8 GiB)RDS 4核 8G;MySQL5.6 多可用区(可用区 H+可用区 I)KMS 华东 1(杭州)服务 OSS 华东 1(杭州)服务 SDDP 全局服务 文档版本...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,密钥管理服务,敏感数据保护,云速搭CADT
通过私网访问云服务
通过私网访问云服务
使用PrivateLink就可以通过私网访问其他VPC提供的服务,无需创建NAT网关或EIP等公网出口,更好的保障安全性和网络质量。支持同账号和跨账号的VPC间私网访问。另外 私网调用阿里云OpenAPI也有两种可选方案
PrivateLink解决的是 VPC之间的私网通信,私网调用阿里云 OpenAPI也有两种可选方案:方案二:PrivateZone解析互联网域名 方案一:使用 VPC接入地址 最佳实践频道 阿里云最佳实践分享群 如二维码过期,请搜索群号:31852400 云服务器 ECS(产品名称)文档模板(手册名称)/文档版本信息 阿里云 通过私网访问云服务 最佳实践 ...
来自: 最佳实践 | 相关产品:云解析 PrivateZone,私网连接
文件存储CPFS
阿里云文件存储CPFS是完全托管、可扩展的并行文件存储系统。针对高性能计算场景的性能要求进行了深度优化,提供对数据毫秒级的访问和百万级IOPS的数据读写请求。
云服务器 ECS.推荐搭配使用.场景描述与概要.CPFS 协议服务功能,提供低门槛 NFS 协议访问能力.CPFS 协议服务功能,提供低门槛 NFS 协议访问能力.文件存储 CPFS(Cloud Parallel File Storage)是阿里云完全托管的并行文件系统,支持 POSIX\\\\MPI-IO 和 NFS 协议,提供对数据亚毫秒级的访问和数十 GB/s 的读写吞吐,推荐用于 ...
来自: 云产品
游戏业务分区合服
游戏业务分区<em>合服</em>
概述 为了提高游戏玩家的体验,并提高留存率,增强付费率.除了游戏本身的内容趣味性外, 改善用户访问加速体验,并对游戏数据分区合服是很常见的业务运营场景. 本方案适用于: 1游戏业务运营,对多个分区数据库进行合并,增加付费用户积极性的需求. 2游戏业务加速,中心化部署的网络加速需求. 方案优势 1便捷数据迁移. 2内网安全传输 3加速远端用户访问质量体验 4快速应对上层业务运营的技术实现操作. 产品列表 网络产品:VPCSLBNAT网关CEN共享带宽包EIP全球加速GA 计算产品:ECS 数据库产品:RDSDTS 存储产品:OSS 云解析
业务改造-分区合服迁移数据 产品列表 专用网络 VPC 数据库 RDS MySQL 数据传输服务 DTS NAT网关 对象存储 OSS 云企业网 CEN 改造后架构-合服并做跨地域访问加速 数据管理 DMS 云服务器 ECS 云速搭 CADT 阿里云最佳实践技术分享群 最佳实践频道 如二维码过期,请搜索群号:31852400 云服务器 ECS(产品名称)文档模板(手册...
来自: 最佳实践 | 相关产品:云数据库RDS MySQL 版,对象存储 OSS,数据传输,NAT网关,云企业网
服务器迁移中心SMC
服务器迁移中心(Server Migration Center,简称SMC)是阿里云自主研发的迁移平台。使用SMC迁云工具和迁移服务,可将您的单台或多台迁移源迁移至阿里云。迁移源(或源服务器)概指您的待迁移IDC服务器、虚拟机、其他云平台的云主机或其他类型的服务器。
可将阿里云ECS云服务器迁移到同地域的不同可用区,提高阿里云ECS云服务器迁移效率.跨可用区迁移.跨可用区迁移.可将阿里云ECS云服务器操作系统如CentOS 7/8、Windows Server 2008/2012原地迁移升级到新的操作系统版本,以保障更长的操作系统维护周期.操作系统迁移.操作系统迁移.服务器迁移中心(Server Migration Center,...
来自: 云产品
自建Hive数仓迁移到阿里云EMR
自建Hive数仓迁移到<em>阿里云</em>EMR
场景描述 客户在IDC或者公有云环境自建Hadoop集群构 建数据仓库和分析系统,购买阿里云EMR集群之 后,涉及到将数据仓库和Hive元数据的数据库迁 移上云。目前主流Hive数据仓库迁移场景为1.x 版本迁移到阿里云EMR(Hive2.x版本),涉及到 数据订正更新步骤。 解决的问题 Hive数据仓库的数据迁移方案 Hive元数据库的迁移方案 Hive跨版本迁移后的数据订正 产品列表 E-MapReduce,VPC,ECS,OSS,VPN网关。
E-MapReduce 阿里云 E-MapReduce(EMR)是构建在阿里云云服务器 ECS 上的开源 Hadoop、Spark、HBase、Hive、Flink生态大数据 PaaS 产品。提供用户在云上使用开源 技术建设数据仓库、离线批处理、在线流式处理、即时查询、机器学习等场景下的 文档版本:20210721 III 自建Hive数据仓库跨版本迁移到阿里云 EMR 前言 大数据...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,VPN网关,E-MapReduce,云速搭
企业上云workshop
企业上云workshop
本文模拟了如下场景: 1. 线下 IDC 环境中部署了一个业务系统,业务是利用 wordpress 系统提供网站服务。 2. 本文详细介绍了如何将以上线下系统搬迁到云上, 包括如何在云上构建以上业务系统,如何迁移线下 系统到云上,如何割接。 3. 最后介绍了迁移上云后,如何部署安全系统。 解决问题 IDC 业务系统搬迁上云 云上构建业务系统 部署安全系统
解决问题 IDC业务系统搬迁上云 云上构建业务系统 部署安全系统 产品列表 最佳实践频道 阿里云最佳实践生态群 弹性公网 IP 负载均衡 SLB 专有网络 VPC 云服务器 ECS 对象存储 OSS 文件服务 NAS 云数据库 RDS 云数据库 PolarDB 云架构设计工具 CADT Web应用防火墙 SSL证书 云防火墙 云服务器 ECS(产品名称)文档模板(手册...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,负载均衡 SLB,弹性公网IP,文件存储NAS,云数据库PolarDB,Web应用防火墙,云防火墙,SSL证书,云速搭
数据库HBase
阿里云云数据库 HBase 版(ApsaraDB for HBase)是基于 Hadoop 且100%兼容HBase协议的高性能、可弹性伸缩、面向列的分布式数据库,轻松支持PB级大数据存储,满足千万级QPS高吞吐随机读写场景。
云服务器 ECS.推荐搭配使用.海量数据存储与分析场景.支持海量全量数据存储和分析.存储用户行为数据,构建用户画像,实时存储在HBase中,根据用户画像实时推荐业务.HBase采用稀疏存储模式,适合用户画像高压缩存储.单台QPS超过10万,线性可扩展,无需分库分表.内核级优化加可选SSD存储,平均读写延迟小于2ms。999的延迟...
来自: 云产品
云速搭部署基于OSS的Nextcloud网盘
云速搭部署基于OSS的Nextcloud网盘
通过云速搭实现基于OSS的NextCloud网盘的部署,这里使用ECS的UserData特性自动安装MySQL等组件,减少配置工作量。
详见:https://www.aliyun.com/product/vpc 云服务器 ECS云服务器 ECS(Elastic Compute Service)是一种简单高 效、处理能力可弹性伸缩的计算服务。帮助您构建更稳定、安全的应用,提升 运维效率,降低 IT成本,使您更专注于核心业务创新。详见 https://www.aliyun.com/product/ecs 对象存储 OSS:对象存储服务(Object ...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,云速搭CADT
< 1 2 3 4 ... 10 >
共有10页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用