基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
在大数据ETL场景,将Kafka中的消息流转到其他下游服务是很常见的场景,除了常规的消息流转外,很多场景还需要基于消息体内容做判断,然后决定下游服务做何种操作。 该方案实现了通过Kafka中消息Key的内容来判断应该对MongoDB做增、删、改的哪种DML操作。 当Kafka收到消息后,会自动触发函数计算中的函数,接收到消息,对消息内容做判断,然后再操作MongoDB。用户可以对提供的默认函数代码做修改,来满足更复杂的逻辑。 整体方案通过CADT可以一键拉起依赖的产品,并完成了大多数的配置,用户只需要到函数计算和MongoDB控制台做少量配置即可。
l 云数据库 MongoDB 版(ApsaraDB for MongoDB):完全兼容 MongoDB 协议,基于飞天 分布式系统和高可靠存储引擎,提供多节点高可用架构、弹性扩容灾备份恢复、性能 优化等功能。l 云速搭 CADT(Cloud Architect Design Tools):是一款为上云应用提供自助式云架构管理 的产品,显著地降低应用云上管理的难度和时间...
来自: 最佳实践 相关产品:函数计算,消息队列 Kafka 版,云数据库 MongoDB版
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景,企业的Kafka实例可能存在多种情况,比如使用阿里云Kafka服务,可能是自建开源Kafka,或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例,在这个前提下Kafka实例之间可能会需要消息同步的情况: 同帐号容灾场景:比如Kafka实例都是阿里云Kafka,但是Kafka实例会有主备之分,需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾:这类场景比如主Kafka是阿里云Kafka,备Kafka是IDC开源自建Kafka,或者是其他云上的Kafka。 不同业务之间消息同步:因为现在的业务通常不会是信息孤岛,都需要消息互通,所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例,并且这两个Kafka实例归属不同的RAM角色,有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题(重试机制,容错机制,死信队列等)。 大幅提升构建消息同步架构的效率,降低构建复杂度问题。
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步最佳实践 场景描述 业务架构 基于阿里云函数计算FC实现同帐号阿里云Kafka实 例之间消息、元数据同步,跨帐号阿里云Kafka实例 之间消息、元数据同步,阿里云Kafka实例和IDC 自建Kafka(其他云Kafka)之间消息、元数据同步。应用场景 在大数据场景,企业的Kafka实例...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,函数计算,消息队列 Kafka 版
混合云灾备之HDR VMware虚拟机容灾
混合云<em>灾备</em>之HDR VMware虚拟机<em>容灾</em>
场景描述 本文为您介绍使用混合云容灾服务来备份虚拟机的 镜像,可以为云上或云下的VMware环境提供有效 的数据保护,保证数据快速、安全、高效地备份到云 上,并在需要时快速恢复备份镜像。 解决问题 1.云上和云下的VMware虚拟机容灾保护。 2.云下的VMware虚拟机环境如何在云上快速恢 复。 产品列表 1.弹性裸金属服务器 2.HDR混合云容灾服
容灾应用 容灾演练 背景信息 容灾演练将被容灾保护的服务器在阿里云上拉起并验证应用正确性,是容灾流程整体 中极其重要的一环,除方便验证复制到阿里云上的应用可以在云上正常拉起外,确保 操作人员熟悉容灾恢复流程,确保本地真正发生故障时,操作人员可以顺畅地进行 切换。操作步骤 登录阿里云管理控制台。...
来自: 最佳实践 | 相关产品:弹性裸金属服务器(神龙)
企业级云灾备解决方案
阿里云企业级云灾备解决方案是一个为企业级应用提供云上容灾保护与备份恢复的服务。它可以支持服务器镜像、文件、应用和数据库等不同保护粒度,确保数据安全性和业务连续性。
阿里云企业级云灾备解决方案为企业级应用提供云上容灾保护与备份恢复。为了满足不同行业客户的需求,阿里云提供了云原生灾备服务以及软硬一体式灾备产品,满足本地机房、阿里云混合云及阿里云公共云的灾备需求,确保数据安全性和业务连续性.谢赟辉,靖鑫,也树.本方案使用阿里云原生服务产品混合云备份(简称HBR)来实现。HBR...
来自: 解决方案
数据库异地灾备
数据库异地<em>灾备</em>
场景描述 适用于不满足于单地域,对数据可靠性 (RPO)和服务可用性(RTO)要求更高 的,希望防范断电、断网等机房故障,抵 御地震、台风等自然灾害,具备异地容灾 备份恢复能力的客户业务场景。 解决问题 1.实时备份,RPO达到秒级 2.表级恢复,故障恢复时间大大缩短 3.长期归档,自动管理备份生命周期 4.异地灾备,构建数据库灾备中心 产品列表 专有网络VPC 云服务器ECS 弹性公网IP(EIP) 负载均衡SLB 云数据库RDSMySQL 数据库备份服务DBS 对象存储服务OSS 数据湖分析服务DLA 数据管理服务DMS 数据传输服务DTS
文档版本:20220207 68 数据库异地灾备 配置异地冷环境 除了 DLA直接查询外,我们还可以使用 DMS来查询 DLA中的备份数据。4.5.3.使用 DMS查询 DLA中的备份数据 步骤1 登录 DMS控制台,账号管理页面(https://datalakeanalytics.console.aliyun.com/cn- zhangjiakou/account )。重置默认账号的密码。文档版本:20220207 ...
来自: 最佳实践 | 相关产品:云数据库RDS MySQL 版,对象存储 OSS,数据管理,数据湖分析,数据库备份DBS,云速搭CADT
数据库灾备解决方案
对于大多数企业,制定数据库灾备方案是一件非常有挑战的事情。根据企业所在行业、合规要求、数据规模、RPO/RTO要求的不同,数据库灾备目的和要求各不相同,投入成本也是不同的。数据库灾备解决方案提供实时数据备份能力,满足企业备份多样化选择
2.为了解决数据库异地灾备问题,数据库备份DBS提供按量付费服务,对于本地IDC数据库、其他云数据库、ECS自建数据库和RDS数据库,可以通过DBS将数据备份到阿里云OSS上,实现异地容灾备份.热备解决方案:实时备份、异地灾备、一键切换.1.由于地区断电、断网等客观原因,产品可用性并不能达到100%。当出现这些故障时,如果用户...
来自: 解决方案
云基础产品基础设施
云基础产品与基础设施作为阿里云产品六大版块之一,主要包含弹性计算、存储、网络、安全、云原生应用平台以及无影和基础设施类产品,向客户提供高度自动化的标准化产品对网络功能、计算机(虚拟或专用硬件)和数据存储空间进行访问,同时支持灵活扩展,可以直接使用自助服务界面。
杭州悦科技有限公司阿里云计算巢达成合作,NebulaGraph 作为首款图数据库产品正式入驻阿里云计算巢,为用户带来了云端一键部署企业级图数据库集群的全新体验.网络安全升级支持IPV6.大数据分析营销科技服务提供商神策数据与阿里云计算巢展开合作,通过阿里云计算巢平台实现神策分析云上数字营销和分析系统的自动化部署...
来自: 云产品
备份 Cloud Backup
云备份 Cloud Backup作为阿里云数据统一灾备平台,是一种简单易用的公共云灾备服务,可以为阿里云ECS上的数据库、文件系统、NAS、OSS以及自建机房内的文件、虚拟机、大规模NAS等提供安全、高效的备份和容灾保护。图形化界面集中配置备份策略,并完全托管备份活动,轻松满足业务与合规需求。
支持LAN模式与LAN-Free模式的VMware无代理备份上云.VMware云上容灾与迁移.VMware虚拟机可以在云上快速拉起,实现云容灾;也可以通过迁移功能高效迁云.ECS整机跨地域容灾,可达秒级RPO,分钟级RTO.通用客户案例单logo.唐家哲,靖鑫,也树.通用客户案例单logo.本地数据中心云备份.阿里云统一数据保护.VMware虚机备份容灾.VMware...
来自: 云产品
数据库备份DBS
数据库备份(Database Backup,简称DBS)是为数据库提供连续数据保护、低成本的备份服务。它可以为多种环境的数据提供强有力的保护,包括企业数据中心、其他云厂商、混合云及公共云。通过使用阿里实时数据流技术,实现数据库秒级备份,秒级恢复,保障数据安全。
DMS历史数据归档产品功能丰富的产品矩阵,覆盖多种备份数据源和环境 支持MySQL、SQL Server、Oracle等十种热门数据库一键备份,支持阿里云云数据库、阿里云ECS、本地数据中心、其他云多种环境 支持的数据源 MySQL、SQL Server、Oracle、PostgreSQL、Redis、MongoDB、PolarDB MySQL、PolarDB PostgreSQL、PolarDB 兼容...
来自: 云产品
云速搭部署混合云备份HBR
云速搭部署混合云<em>备份</em>HBR
本实践以ECS文件备份为例,通过CADT设计备份架构,一键部署演示环境。
详见 https://www.aliyun.com/product/ecs 文档版本:20211023 3 云速搭部署混合云备份HBR 云速搭架构设计入门 云速搭架构设计入门 方案架构 混合云备份 HBR(Hybrid Backup Recovery)作为阿里云统一灾备平台,是一种简单 易用、敏捷高效、安全可靠的公共云数据管理服务,可以为阿里云 ECS整机、ECS 库、文件系统、NAS...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,混合云备份,云速搭CADT
自建Hive数据仓库跨版本迁移到阿里云Databricks数据洞察
自建Hive<em>数据</em>仓库跨版本迁移到阿里云Databricks<em>数据</em>洞察
场景描述 客户在IDC或者公有云环境自建Hadoop集群构建数据仓库和分析系统,购买阿里云Databricks数据洞察集群之后,涉及到数仓数据和元数据的迁移以及Hive版本的订正更新。 方案优势 1. 全托管Spark集群免运维,节省人力成本。 2. Databricks数据洞察与阿里云其他产品(OSS、RDS、MaxCompute、EMR)进行深度整合,支持以这些产品为数据源的输入和输出。 3. 使用Databricks Runtime商业版引擎相比开源Spark性能有3-5倍的提升。 解决问题 1. Hive数仓数据迁移OSS方案。 2. Hive元数据库迁移阿里云RDS方案。 3. Hive跨版本迁移到Databricks数据洞察使用Delta表查询以提高查询效率。
自建 Hive数据仓库跨版本迁移到阿里云 Databricks数据洞察 业务架构 场景描述 客户在 IDC或者公有云环境自建 Hadoop集群 构建数据仓库和分析系统,购买阿里云 Databricks数据洞察集群之后,涉及到数仓 和元数据的迁移以及 Hive版本的订正更新。方案优势 1.全托管 Spark集群免运维,节省人力成 本。2.Databricks数据洞察...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,文件存储HDFS,spark
本地数据中心基于SMB/NFS协议访问对象存储最佳实践
本地<em>数据</em>中心基于SMB/NFS协议访问对象存储最佳实践
1. 云存储扩容和迁移 集成智能缓存算法,自动识别冷热数据,将热数据保留在本地缓存,保证数据访问体验,无感知的将海量云存储数据接入本地数据中心,拓展存储空间。同时在云端 保留全量数据(冷+热)保证数据的一致性 2.云容灾 随着云计算的普及,越来越多的用户把自己的业务放到了云上。但是随着业务的发展,如何提高业务的可靠性和连续性,跨云容灾是一个比较热门的话题。借助云存 储网关对虚拟化的全面支持,可以轻松应对各种第三方云厂商对接阿里云的数据容灾。 3. 多地数据共享和分发 通过多个异地部署的文件网关实例,对接同一个阿里云OSS Bucket,可以实现快速的异地文件共享和分发,非常适合多个分支机构之间互相同步和共享数据。 4. 适配传统应用 有很多用户在云上的业务是新老业务的结合,老业务是从数据中心迁移过来的使用的是标准的存储协议,例如: NFS/SMB/iSCSI。新的应用往往采用比较新的技 术,支持对象访问的协议。如何沟通两种业务之间的数据是一个比较麻烦的事情,云存储网关正好起到一个桥梁的作用,可以便捷的沟通新旧业务,进行数据交换。 5. 替代 ossfs 和 ossftp ossfs 和 ossftp 都是基于文件协议的开源工具,用户可以通过它们直接上传文件到OSS。但是这两个开源文件都不建议在生产环境使用(POSIX 兼容度低),同时挂 载在用户的客户端需要额外的配置和缓存资源,对于多个客户端的情况安装配置繁琐。通过文件网关的服务可以完美替代 ossfs 和 ossftp。通过创建文件网关,用 户只需要执行简单的挂载(NFS)和映射(Windows SMB)就可以像使用本地文件系统一样使用 OSS。
通过裸金属服务器的模拟也说明 了只要第三方云厂商的计算也有二次虚拟化能力,同样可以使用本地云存储网关 服务,实现第三方云厂商对接阿里云的数据容灾。2.本地数据中心的云存储网关默认通过公网就可以访问阿里云对象存储 OSS,若专 线打通的情况下也可以通过内网访问 OSS获得更好的访问体验。当然专线打通的 情况下,建议...
来自: 最佳实践 | 相关产品:对象存储 OSS,云存储网关
云数据库RDS MySQL版备份恢复
云数据库RDS MySQL版<em>备份</em>恢复
场景描述 用户数据库数据, 部分需要快速、 小颗粒度恢复、 部分需要异地备份、部分需求长期归档。 当前自建 MySQL 上建立完善的备份/恢复系统无法完美满足用户需求, 且建设/维护成本很高。 RDS 的完善的备份/恢复方案可以有效帮助到用户。 方案优势 1. 可以方便实现本地备份及库表级别快速恢复, 快速应对误操作误删除等逻辑错误, 降低业务损失。 2. 可以方便实现异地备份, 实现数据级容灾, 满足合规要求。 3. 可以方便将数据进行归档, 实现长期数据的高性价比保存方案。 4. 有效提升用户数据备份效率, 降低维护工作量。 解决问题 1. 自建数据库发生误操作时恢复复杂 2. 部分数据发生错误进行恢复时可能影响其他数据访问 3. 异地备份操作复杂 4. 长期数据保存成本较高 5. 备份恢复系统维护所需人力成本较高
RDS的完善的 /恢复方案可以有效帮助到用户。方案优势 1.可以方便实现本地备份及库表级别 快速恢复,快速应对误操作误删除 等逻辑错误,降低业务损失。2.可以方便实现异地备份,实现数据容灾,满足合规要求。3.可以方便将数据进行归档,实现长 期数据的高性价比保存方案。4.有效提升用户数据备份效率,降低 维护工作...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,访问控制
云原生大数据计算服务MaxCompute
阿里云云原生大数据计算服务MaxCompute是面向分析的企业级云数仓,作为一体化大数据智能计算平台ODPS的大规模批量计算引擎,MaxCompute以 Serverless 架构提供快速、全托管的在线数据仓库服务,使您经济高效的分析处理海量数据,进行敏捷的业务洞察。
分布式计算框架MaxFrame发布,高效、一站式完成Data+AI开发.MaxCompute发布按量付费闲时版,计算成本至高节省66.66%.MaxCompute 物化视图智能推荐发布,CU算力节省14%.MaxCompute 跨地域灾备邀测发布,提升数据安全性.首批!阿里云 MaxCompute 完成中国信通院数据智能平台专项测试.MaxCompute 架构升级及开放性解读.Data+AI...
来自: 云产品
电商网站数据埋点及分析
电商网站<em>数据</em>埋点及分析
场景描述 数据埋点是数据产品经理、数据运营以及数据分 析师,基于业务需求(例如:CPC点击付费广 告中统计每一个广告位的点击次数),产品需求 (例如:推荐系统中推荐商品的曝光次数以及点 击的人数)对用户行为的每一个事件对应的位置 进行开发埋点,并通过SDK上报埋点的数据结 果,记录数据汇总后进行分析,推动产品优化或 指导运营。 解决问题 1.电商网站广告位效果统计分析 2.电网网站推荐商品曝光、点击、购买等行为统 计分析 3.电商网站用户分布分析 4.电商网站页面热点图分析等 产品列表 日志服务SLS Dataworks 云服务器ECS 云数据库RDS版 负载均衡SLB 专有网络VPC
RDS基于阿里云分布式文件系统和 SSD盘高性 能存储,支持 MySQL、SQL Server、PostgreSQL、PPAS和 MariaDB引擎,提 供了容灾备份、恢复、监控、迁移等方面的全套解决方案,彻底解决数据库运维 的烦恼。更多信息,请参见云数据库 RDS MySQL 版简介 文档版本:20220127 II 电商网站数据埋点及分析 前言 ...
来自: 最佳实践 | 相关产品:云服务器ECS,云数据库RDS MySQL 版,日志服务(SLS),DataWorks,云速搭CADT
企业上云数据安全
企业上云<em>数据</em>安全
场景描述 企业是否选择上公共云,或者哪些系统或数据上 公共云,对数据安全的关心是重要因素之一。本 最佳实践重点在于介绍狭义的数据加密存储安 全范畴,即首先使用SDDP产品进行敏感数据发 现和分级分类,然后对高级别敏感数据进行按 需、不同类型的全链路加密存储。 解决问题 1.帮助客户发现敏感数据 2.对敏感数据进行分类、分级 3.对不同级别的数据如何选择加密方式 4.具体如何进行加密 产品列表 敏感数据识别SDDP 密钥管理服务KMS 云数据库RDS 对象存储OSS
本最佳实践重点在于介绍狭义的数据加密 存储安全范畴,即首先使用 SDDP产品进行敏 感数据发现和分级分类,然后对高级别敏感 进行按需、不同类型的全链路加密存储。解决问题 1.帮助客户发现敏感数据 2.对敏感数据进行分类、分级 3.对不同级别的数据如何选择加密方式 4.具体如何进行加密 产品列表 敏感数据识别 SDDP 密钥...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,密钥管理服务,敏感数据保护,云速搭CADT
Function Compute构建高弹性大数据采集系统
Function Compute构建高弹性大<em>数据</em>采集系统
当前互联网很多场景都存在需要将大量的数据信息采集起来然后传输到后端的各类系统服务中,对数据进行处理、分析,形成业务闭环。比如游戏行业中的游戏发行、游戏运营,产互行业中的数字营销,物联网、车联网行业中的硬件、车辆信息上报等等。这些场景普遍存在数据采集量大、数据传输需要稳定且吞吐量大的特点,给整个数据采集传输系统带来很大的挑战。在这个场景中,有三个关键的环节,数据采集、数据传输、数据处理。该最佳实践主要涉
基于阿里云分布式文件系统和 SSD盘高性能 存储,RDS支持 MySQL、SQL Server、PostgreSQL、PPAS(Postgre Plus Advanced Server,高度兼容 Oracle数据库)和 MariaDB TX引擎,并且提供了 容灾备份、恢复、监控、迁移等方面的全套解决方案,彻底解决数据库运维的烦 恼。更多信息,请参见:www.aliyun.com/product/rds 函数...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,日志服务(SLS),函数计算,消息队列 Kafka 版,云速搭CADT
混合云存储
阿里云混合云存储包括混合云存储阵列、混合云CPFS存储、混合云分布式存储等多种产品类型。本地存储可以通过云缓存、云同步、云备份等方式无缝连通云存储,轻松实现云端一体。
阿里云混合云存储解决方案不仅满足了数据存储的基本需求,还可以在几个小时内完成部署,借助云端的弹性优势,存储容量的扩也成为 一件简单的事情.Aibee借助混合云CPFS存储云上OSS资源的互通,进行冷热数据的分级存储,实现线下高性能计算,线上数据归档冷,节省存储费用.这一次阿里云的合作,阿里云为我们提供了高...
来自: 云产品
同地域跨可用区容灾
同地域跨可用区<em>容灾</em>
场景描述 面向阿里云公共云客户, 1.业务在同一个地域(Region) 2.应用已经无状态 3.在不大幅增加成本的情况下,希望获得支持业务的跨可用区(Zone)容灾能力 3.希望对整体的应用做容灾备份(简称容灾),而非单独的数据库或存储等 解决问题 提供云上高可用架构方案并提供可参考的跨可用区架构提供简单的容灾演练 产品列表 云服务器(ECS)、数据库(RDS)、专有络(VPC)、负载均衡(SLB)、消息队列(MQ)等
Redis 单 不可演 一可用区 练,容 不可用 灾由系 统自动 完成 DRDS 单 不可演 一可用区 练,容 不可用 灾由系 统自动 完成 单一可用 不可演 区不可用 练, 由系 统自动 完成 Demo 演练逻辑:通过 RDS 的主切换功能,手动使数据库访问备库,验证网站访问和数据的读写是否正 常。一、确认当前 RDS主备库信息 登陆RDS ...
来自: 最佳实践 | 相关产品:块存储,云服务器ECS,云数据库RDS MySQL 版,数据传输,访问控制
< 1 2 3 4 ... 11 >
共有11页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用