基于函数计算FC实现阿里Kafka消息内容控制MongoDB DML操作
基于函数计算FC实现阿里<em>云</em>Kafka消息内容控制MongoDB DML操作
在大数据ETL场景,将Kafka中的消息流转到其他下游服务是很常见的场景,除了常规的消息流转外,很多场景还需要基于消息体内容做判断,然后决定下游服务做何种操作。 该方案实现了通过Kafka中消息Key的内容来判断应该对MongoDB做增、删、改的哪种DML操作。 当Kafka收到消息后,会自动触发函数计算中的函数,接收到消息,对消息内容做判断,然后再操作MongoDB。用户可以对提供的默认函数代码做修改,来满足更复杂的逻辑。 整体方案通过CADT可以一键拉起依赖的产品,并完成了大多数的配置,用户只需要到函数计算和MongoDB控制台做少量配置即可。
u 存储引擎:阿里云 Kafka 架构,有云存储和 Local 存储。(详细对比参见文档:https://help.aliyun.com/zh/apsaramq-for-kafka/cloud-message-queue-for- kafka/product-overview/comparison-between-storage-engines )u 消息类型:普通消息。创建 Group:u Group 名称:根据实际业务自行填写。u Group 描述:根据实际...
来自: 最佳实践 相关产品:函数计算,消息队列 Kafka 版,云数据库 MongoDB版
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景,企业的Kafka实例可能存在多种情况,比如使用阿里云Kafka服务,可能是自建开源Kafka,或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例,在这个前提下Kafka实例之间可能会需要消息同步的情况: 同帐号容灾场景:比如Kafka实例都是阿里云Kafka,但是Kafka实例会有主备之分,需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾:这类场景比如主Kafka是阿里云Kafka,备Kafka是IDC开源自建Kafka,或者是其他云上的Kafka。 不同业务之间消息同步:因为现在的业务通常不会是信息孤岛,都需要消息互通,所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例,并且这两个Kafka实例归属不同的RAM角色,有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题(重试机制,容错机制,死信队列等)。 大幅提升构建消息同步架构的效率,降低构建复杂度问题。
 存储引擎:阿里云Kafka架构,有云存储和Local存储。(详细对比参见文档:https://help.aliyun.com/zh/apsaramq-for-kafka/cloud-message-queue-for-kafka/pro duct-overview/comparison-between-storage-engines) 消息类型:普通消息。创建Group: Group名称:根据实际业务自行填写。 Group描述:根据实际业务...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,函数计算,消息队列 Kafka 版
容器多云统一监控日志
容器多云统一监控日志
多云、混合云成为常态,Forrester 报告中指出,未来 89% 的企业至少使用两个云,74% 的企业至少使用三个甚至更多公有云,在面对多云/混合云这样大的趋势下,Gartner报告指出,安全、运维复杂性、财务复杂性是多云架构的主要挑战,本方案给出了在多云/混合云场景下,构建基于容器环境下的统一管理、统一监控和统一日志方案,解决多云、混合云场景下,运维复杂性问题。 应用场景 客户在阿里云以外的其他云服务商(AWS、Azure、GCP、TencentCloud、HuaweiCloud等)或者IDC基于容器(Kubernetes)运行业务系统,希望构建容器场景下的统一监控日志系统,方便做不同大屏和问题分析定位。 解决问题 •构建容器多云统一监控和日志系统,在一个平台可以看到不同环境系统的运行情况。
容器多云统一监控日志 最佳实践 业务架构 场景描述 多云、混合成为常态,Forrester报告中指出,未来89%的企业至少使用两个,74%的企业 至少使用三个甚至更多公有,在面对多云/混 合这样大的趋势下,Gartner报告指出,安全、运维复杂性、财务复杂性是多云架构的主要挑 战,本方案给出了在多云/混合场景下,构建 ...
来自: 最佳实践 | 相关产品:专有网络 VPC,容器服务 ACK,日志服务(SLS),应用实时监控服务 ARMS ,微服务引擎
飞天企业版
阿里云飞天企业版是基于阿里云飞天云计算操作系统,为政企客户专属构建的资源和云管完全独立的企业级云平台,阿里云专有云与公共云同根同源,支持私有化部署。
产品解决方案文档与社区权益中心定价市场合作伙伴支持与服务了解阿里备案控制台飞天企业版产品简介产品优势解决方案服务介绍客户案例行业认可交流分享合作伙伴飞天企业版阿里飞天企业版(Apsara Stack)基于飞天云计算操作系统,为政企客户构建资源和管完全独立的企业级平台,与阿里公共同根同源,采用同一套...
来自: 云产品
混合云存储
阿里云混合云存储包括混合云存储阵列、混合云CPFS存储、混合云分布式存储等多种产品类型。本地存储可以通过云缓存、云同步、云备份等方式无缝连通云存储,轻松实现云端一体。
本地存储可以通过云缓存、云同步、云分层、云备份等方式无缝连通云存储,为不同的数据应用场景提供针对性优化的混合云存储解决方案.了解更多存储产品.专为对存储高性能和稳定性要求,并且希望无缝上云的企业客户而设计,同时还是一款支持FC/iSCSI/FCoE,NFS/CIFS及OSS多种协议的融合存储.混合云存储阵列.混合云高性能计算...
来自: 云产品
混合HBR备份VMware虚拟机
混合<em>云</em>HBR<em>云</em>上<em>备份</em>VMware虚拟机
场景描述 本文主要介绍一种简单且具备成本效益的混合云下 的备份解决方案,可以为任何位置的客户虚拟机和数 据提供强有力的保护,包括企业数据中心、远程和分 支机构以及云上资源;支持加密、压缩、重删,保证 数据快速、安全、高效地备份到云上,本文重点介绍 混合云下的VMware虚拟机备份。 解决问题 1.混合云下的备份解决方案。 2.VMware虚拟机备份解决方案。 产品列表 1.弹性裸金属服务器 2.文件系统NAS 3.弹性公网IP 4.NAT网关
文档版本:20190716 21 混合云HBR云上备份VMware虚拟机 部署阿里云混合云存储客户端 安装客户端 步骤1 在浏览器中打开新的页面,输入服务器vCenter的私有IP,单击vSphereWebClient(Flash),登录vSphereWebClient。步骤2 在登录页面,输入用户名和密码,并单击登录。步骤3 在左侧导航栏,选中要进行部署的虚拟机,在ebm-...
来自: 最佳实践 | 相关产品:弹性公网IP,文件存储NAS,NAT网关,弹性裸金属服务器(神龙),混合云备份
混合云存储构建VMware虚拟化平台
混合<em>云存储</em>构建VMware虚拟化平台
场景描述 本文以混合云存储阵列SA2600系统为例,介绍如 何在混合云存储环境下部署VMware虚拟化平台, 以及混合云环境下虚拟机的部署、扩容、云备份等功 能演示。 解决问题 1.如何使用混合云存储部署VMware虚拟化平台。 2.存储阵列在混合云环境下的使用,比如虚拟机部 署、扩容、云备份等。 产品列表 1.混合云存储阵列 2.对象存储OSS
混合云存储构建VMware虚拟化平台 最佳实践 业务架构图 场景描述 本文以混合云存储阵列SA2600系统为例,介绍如 何在混合云存储环境下部署VMware虚拟化平台,以及混合云环境下虚拟机的部署、扩容、云备份等功 能演示。解决问题 如问题请使用钉钉扫码联系文档作者:1.如何使用混合云存储部署VMware虚拟化平台。2.存储阵列在...
来自: 最佳实践 | 相关产品:专有网络 VPC,对象存储 OSS,访问控制,混合云存储阵列 Hybrid Cloud
基于HBR上统一备份
基于HBR<em>云</em>上统一<em>备份</em>
场景描述 混合云备份(简称HBR)是一种简单易用且高性价 比的在线备份服务,可以为阿里云ECS,NAS,OSS 以及自建机房内的各类数据提供安全,高效的保护。 本文介绍如何通过HBR对云上数据进行统一备份管 理。 解决问题 1.备份阿里云云上数据。 2.备份数据中心数据。 适用云资源 ECS文件系统 NAS文件 OSS文件 ECS上自建的MySQL、Oracle、SQLServer数据库 ESC上自建的SAPHANA数据库 产品列表 1.HBR备份服务 2.云服务器ECS 3.文件系统NAS 4.对象存储OSS 云上统一备份 云下统一备份 上云备份 备份上云
步骤2 在左侧导航栏选择云存储备份>OSS备份,选择要备份的 Bucket,单击创建备份 计划。文档版本:20210402 54 HBR云上统一备份 OSS备份 步骤3 在创建备份计划页面,单击立即转为付费使用。步骤4 完成以下配置。文档版本:20210402 55 HBR云上统一备份 OSS备份 备份计划名称:自定义。设置备份起始时间、备份执行间隔,备份...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,文件存储NAS,混合云备份,云速搭
企业级解决方案
阿里云企业级云灾备解决方案是一个为企业级应用提供云上容灾保护与备份恢复的服务。它可以支持服务器镜像、文件、应用和数据库等不同保护粒度,确保数据安全性和业务连续性。
提供本地机房的小机,X86物理机和虚拟机,定制的私有云平台的本地备份和上云备份.可覆盖主流的数据库,满足企业的等保和数据安全要求.可以解决的问题.高效:备份数据全局重删压缩.安全:多种加密技术保证传输过程和数据存放的安全.可靠:灾备存储经过公共云级别压测及万千客户验证.本地备份及上云.本地备份及上云.本方案...
来自: 解决方案
多媒体数据存储与分发
以搭建一个多媒体数据存储与分发服务为例,搭建一个多媒体数据存储与分发服务。
产品解决方案文档与社区权益中心定价市场合作伙伴支持与服务了解阿里备案控制台多媒体数据存储与分发方案介绍方案优势应用场景方案部署方案权益多媒体数据存储与分发视频、图文类多媒体数据量快速增长,内容不断丰富,多媒体数据存储与分发解决方案融合对象存储 OSS、内容分发 CDN、智能媒体管理 IMM 等产品能力,解决...
来自: 解决方案
新版产品集合页
基于丰富的产品,将计算、存储、网络、数据库、大数据、人工智能等最新产品技术与场景深度融合,为开发者打造稳定可靠的云基础设施以及云原生的开发环境。
混合云存储混合云存储包括混合云存储阵列、混合云 CPFS 存储、混合云分布式存储等多种形态,用户可以像使用本地存储一样使用和管理本地和云端的各种存储资源。混合云容灾服务 HDR为本地数据中心以及阿里云上的企业关键业务提供低至秒级 RPO,分钟级 RTO 的容灾服务。网络与CDN阿里云网络通过广泛的全球化网络资源布局,为...
来自: 云产品
专属钉钉解决方案
企业专属钉钉为企业提供多种安全防护策略,支持企业定制独立的Portal,独立打包APP上架应用市场,使用独立存储(飞天专有云、公共云OSS、minioss)保证企业数据安全合规。
集成了阿里云云存储网关,可通过云缓存、云同步、云分层、云备份等方式无缝连接阿里云存储.混合云存储阵列.智能是阿里云提供的一站式快速上云解决方案。企业可通过智能接入网关实现Internet就近加密接入,获得更加智能、更加可靠、更加安全的上云体验.智能接入网关.集中式身份管理服务,为政企客户提供统一的应用门户、用户...
来自: 解决方案
数据库Redis
云数据库 Redis 版是一种全托管、兼容Redis协议的内存数据库服务,包含社区版Redis和企业版Tair,支持主从、集群和读写分离架构,具备低延迟、大吞吐、弹性扩缩容的特点。Tair提供多种系列满足不同场景的性价比要求,更有全球多活、数据闪回、大热Key探测与优化、丰富的数据结构,赋能大规模高性能要求的在线数据业务。
基于阿里飞天分布式系列和SSD高性能存储能力的缓存数据库,双机热备架构保障故障自动迁移,两种数据持久化机制确保数据备份可靠,提供数据持久化保障.实例连接数和网络吞吐量可定制的高并发数据库,灵活的集群版规格适配高并发场景;产品形态丰富,可平滑扩容存储空间、网络吞吐量及连接数.性能灵活扩展.资深阿里专家...
来自: 云产品
阿里DNS
阿里云DNS覆盖了公网权威域名解析、内网域名解析、移动解析以及专有云的域名解析场景。为广大用户提供稳定、安全、快速、智能的域名解析服务,助力网站快速实现域名迁移及网站搭建,企业上云就来阿里云。
企业业务区上云 形成多云+传统IDC融合架构,内网DNS 分区自闭环解析,公共VPC内使用解析DNS(公共版),专有VPC内使用解析DNS(专有版),企业传统IDC、办公网以及其他异构环境使用私有化dns软件.东西向互联和流量调度.整体提升DNS的运维和管理效率.统一管理、统一运维、统一防护.统一管理:将分散在各个异构...
来自: 云产品
服务器 ECS
阿里云服务器ECS是一种处理能力可弹性伸缩的云主机虚拟服务器,它使服务器托管更安全稳定,可降低开发运维成本,支持包年包月、按量付费等模式,方便财务更好管理
产品解决方案文档与社区权益中心定价市场合作伙伴支持与服务了解阿里备案控制台服务器 ECS产品简介产品优势产品功能产品选型入门与试用技术解决方案产品定价安全合规客户案例常见问题社区服务器 ECS服务器是一种安全可靠、弹性可伸缩的云计算服务,助您降低 IT 成本,提升运维效率。立即购买免费试用快捷入口...
来自: 云产品
基础产品与基础设施
云基础产品与基础设施作为阿里云产品六大版块之一,主要包含弹性计算、存储、网络、安全、云原生应用平台以及无影和基础设施类产品,向客户提供高度自动化的标准化产品对网络功能、计算机(虚拟或专用硬件)和数据存储空间进行访问,同时支持灵活扩展,可以直接使用自助服务界面。
云存储网关 CSG.文件存储 HDFS.数据库文件存储 DBFS.智能媒体管理 IMM.混合云容灾服务 HDR.存储容量单位包 SCU.负载均衡 SLB.专有网络 VPC.弹性公网 IP.NAT 网关.VPN 网关.智能接入网关.网络智能服务.DDoS 防护.Web 应用防火墙.数字证书管理服务.密钥管理服务.运维安全中心.办公安全平台 SASE.数据安全中心.应用身份服务....
来自: 云产品
本地数据中心基于SMB/NFS协议访问对象存储最佳实践
本地数据中心基于SMB/NFS协议访问对象<em>存储</em>最佳实践
1. 云存储扩容和迁移 集成智能缓存算法,自动识别冷热数据,将热数据保留在本地缓存,保证数据访问体验,无感知的将海量云存储数据接入本地数据中心,拓展存储空间。同时在云端 保留全量数据(冷+热)保证数据的一致性 2.云容灾 随着云计算的普及,越来越多的用户把自己的业务放到了云上。但是随着业务的发展,如何提高业务的可靠性和连续性,跨云容灾是一个比较热门的话题。借助云存 储网关对虚拟化的全面支持,可以轻松应对各种第三方云厂商对接阿里云的数据容灾。 3. 多地数据共享和分发 通过多个异地部署的文件网关实例,对接同一个阿里云OSS Bucket,可以实现快速的异地文件共享和分发,非常适合多个分支机构之间互相同步和共享数据。 4. 适配传统应用 有很多用户在云上的业务是新老业务的结合,老业务是从数据中心迁移过来的使用的是标准的存储协议,例如: NFS/SMB/iSCSI。新的应用往往采用比较新的技 术,支持对象访问的协议。如何沟通两种业务之间的数据是一个比较麻烦的事情,云存储网关正好起到一个桥梁的作用,可以便捷的沟通新旧业务,进行数据交换。 5. 替代 ossfs 和 ossftp ossfs 和 ossftp 都是基于文件协议的开源工具,用户可以通过它们直接上传文件到OSS。但是这两个开源文件都不建议在生产环境使用(POSIX 兼容度低),同时挂 载在用户的客户端需要额外的配置和缓存资源,对于多个客户端的情况安装配置繁琐。通过文件网关的服务可以完美替代 ossfs 和 ossftp。通过创建文件网关,用 户只需要执行简单的挂载(NFS)和映射(Windows SMB)就可以像使用本地文件系统一样使用 OSS。
本地数据中心基于 SMB/NFS协议访问对象存储 最佳实践 业务架构 场景描述 本地数据中心在本地存储有限的情况下可以基 于云存储网关搭建一个海量文件系统的文件 服务,实现多个数据中心互相之间高效的同步 和共享数据。云存储网关以对象存储 OSS为后 端存储,为云上和云下应用提供业界标准的文件 服务(NFS和 SMB)和块...
来自: 最佳实践 | 相关产品:对象存储 OSS,云存储网关
混合数据库统一管理
混合<em>云</em>数据库统一管理
本最佳实践描述在混合云场景下,用户利用数据库网关将IDC自建数据库和云上RDS实例统一管理。通过DMS管理云上RDS实例和IDC自建数据库,并通过DTS实现IDC数据库和云上RDS的数据同步, DBS将数据备份到云上
同时,数据库网关可以与其他阿里产品(例如数据传输服务 DTS,数据库 DBS,数据管理 DMS)集成使用。数据库网关提供安全,可靠,低成本的数据库接 入服务。安全 ᅳ 无需暴露数据库公网地址,确保用户数据资产的安全和稳定。ᅳ 本地网关启动时,需要在控制台生成一个临时令牌,该令牌会在网关启动时通 过加密链路发送...
来自: 最佳实践 | 相关产品:数据传输,数据管理
自建Hadoop迁移到阿里EMR
自建Hadoop迁移到阿里<em>云</em>EMR
场景描述 场景1:自建Hadoop集群数据(HDFS)迁移到 阿里云EMR集群的HDFS文件系统; 场景2:自建Hadoop集群数据(HDFS)迁移到 计算存储分离架构的阿里云EMR集群,以OSS 和JindoFS作为EMR集群的后端存储。 解决的问题 客户自建Hadoop迁移到阿里云EMR集群的 技术方案; 基于IPSecVPN隧道构建安全和低成本数据 传输链路 产品列表 E-MapReduce,VPC,ECS,OSS,VPN网关。
在 EMR集群的 master节点进行大量数据迁移 步骤1 在 4.3节验证了少量数据的迁移,我们选择另一个较大数据量的文件夹进行迁移,本 实 践 中 以 源 Hadoop 集 群 中 如 下 目 录 为 例 进 行 演 示/usr/dfs/data/flume/kafka/20191113,在您进行演练时,请以实际环境为准。步骤2 参考 4.3节步骤 3启动数据迁移任务,将...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,VPN网关,E-MapReduce,云速搭
上高并发系统改造
<em>云</em>上高并发系统改造
场景描述 随着业务的发展,系统并发压力越来越大,如何 进行系统改造以满足高并发场景的业务需求成 为了一个技术难题。本实践抽象于客户的实际场 景,提供高并发下系统改造的理论指导和部分实 操演示。主要适用于以下场景: 1.系统并发压力大,需要进行系统应用改造。 2.数据层并发压力大,需进行分库分表改造。 3.数据库数据量巨大,亟待分库分表解决查询 和写入瓶颈的场景。 方案优势/解决问题 1.在水平扩展阶段,我们除了通过SLB做负载 均衡外,我们可以通过SLB下挂nginx的方 式,增加负载均衡侧的可扩展性 2.在数据库拆分阶段,在做好数据规划后,我 们借助DTS进行数据迁移,通过DRDS将 RDS MySQL的数据拆分到多个分库和分 表中。 产品列表 专用网络VPC 负载均衡SLB 云服务器ECS 数据库RDSMySQL 数据传输服务DTS PrivateZone 分布式关系型数据库DRDS
您能够在自定义的一个或多个专有 网络中将私有域名映射到 IP资源地址,同时在其他网络环境无法访问您的 域名。更多信息,请参见:https://help.aliyun.com/product/64583.html 安全组:安全组是一种虚拟防火墙,具备状态检测和数据包过滤功能,用于在 云端划分安全域。您可以通过配置安全组规则,允许或禁止安全组内的 ...
来自: 最佳实践 | 相关产品:云服务器ECS,云数据库RDS MySQL 版,数据传输,云解析 PrivateZone,云原生分布式数据库PolarDB-X,云速搭CADT
< 1 2 3 4 ... 20 >
共有20页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用