基于函数计算FC实现阿里云Kafka消息轻量级ETL处理
基于函数计算FC实现阿里云Kafka消息轻量级ETL处理
在大数据ETL场景,Kafka是数据的流转中心,Kafka中的数据一般是原始数据,可能存在多种数据混杂的情况,需要进一步做数据清洗后才能进行下一步的处理或者保存。利用函数计算FC,可以快速高效的搭建数据处理链路,用户只需要关注数据处理的逻辑,数据的触发,弹性伸缩,运维监控等阿里云函数计算都已经做了集成,函数计算FC也支持多种下游,OSS/数据库/消息队列/ES等都可以自定义的对接
网络架构:◼ 整个方案会在某个Region下,该示例使用的是杭州Region ◼ 在Region下会创建一个 VPC◆在该 VPC下会创建一个某可用区的交换机,该示例使用的是 G可用区◆在该 VPC下会创建一个安全组 ◼ Kafka,FC,OSS都在该 VPC的G可用区的交换机下 ◼ FC在与VPC其他资源互通时会使用到 VPC下的安全组 文档版本:20240408 4 ...
来自: 最佳实践 相关产品:对象存储 OSS,函数计算,消息队列 Kafka 版
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景,企业的Kafka实例可能存在多种情况,比如使用阿里云Kafka服务,可能是自建开源Kafka,或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例,在这个前提下Kafka实例之间可能会需要消息同步的情况: 同帐号容灾场景:比如Kafka实例都是阿里云Kafka,但是Kafka实例会有主备之分,需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾:这类场景比如主Kafka是阿里云Kafka,备Kafka是IDC开源自建Kafka,或者是其他云上的Kafka。 不同业务之间消息同步:因为现在的业务通常不会是信息孤岛,都需要消息互通,所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例,并且这两个Kafka实例归属不同的RAM角色,有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题(重试机制,容错机制,死信队列等)。 大幅提升构建消息同步架构的效率,降低构建复杂度问题。
这里需要注意,如果通过CADT创建的VPC、VSWITCH中人工通过其他方式添加了 资源,如通过控制台或者API等购买了ECS,释放时因为这些非CADT部署的资源会 依赖VSWITCH和VPC,会出现释放失败。遇到这类问题请先去控制台人工进行资源 清理后,在CADT中再次释放资源即可。步骤1 需要手动清理配置的好的4个函数 步骤2 OSS数据清理,...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,函数计算,消息队列 Kafka 版
SAE-ACK应用双跑最佳实践
SAE-ACK<em>应用</em>双跑最佳实践
场景描述 实现ACK、SAE中部署的应用在东西向和南北向互通,实现SAE-ACK应用双跑。 应用场景 该最佳实践应用于两类场景: l 因为SAE支持更丰富自动扩缩指标(比如QPS,RT,TCP连接数等),所以将相对稳态的应用部署在ACK中,将相对弹性波动大的应用部署在SAE,借助SAE更强大的自动扩缩应对流量洪峰。 l 将K8s架构迁移到Serverless架构时,需要平滑过渡,所以该最佳实践中的双跑架构可以有效帮用户平滑的完成迁移。
SAE-ACK应用双跑最佳实践 业务架构 场景描述 实现ACK、SAE中部署的应用在东西向和南北 向互通,实现SAE-ACK应用双跑。应用场景 该最佳实践应用于两类场景: 因为SAE支持更丰富自动扩缩指标(比如 QPS,RT,TCP连接数等),所以将相对稳 态的应用部署在ACK中,将相对弹性波动 大的应用部署在SAE,借助SAE更强大的 产品列表...
来自: 最佳实践 | 相关产品:容器服务 ACK,Serverless 应用引擎,微服务引擎
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
在大数据ETL场景,将Kafka中的消息流转到其他下游服务是很常见的场景,除了常规的消息流转外,很多场景还需要基于消息体内容做判断,然后决定下游服务做何种操作。 该方案实现了通过Kafka中消息Key的内容来判断应该对MongoDB做增、删、改的哪种DML操作。 当Kafka收到消息后,会自动触发函数计算中的函数,接收到消息,对消息内容做判断,然后再操作MongoDB。用户可以对提供的默认函数代码做修改,来满足更复杂的逻辑。 整体方案通过CADT可以一键拉起依赖的产品,并完成了大多数的配置,用户只需要到函数计算和MongoDB控制台做少量配置即可。
这里需要注意,如果通过 CADT 创建的 VPC、VSWITCH 中人工通过其他方式添加了资源,如通过控制台或者 API 等购买了 ECS,释放时因为这些非 CADT 部署的资源会依赖 VSWITCH 和 VPC,会出现释放失败。遇到这类问题请先去控制台人工进行资源清理后,在 CADT 中再次释放资源即可。步骤1 打开需要释放的应用 步骤2 打开资源清单...
来自: 最佳实践 | 相关产品:函数计算,消息队列 Kafka 版,云数据库 MongoDB版
API网关
API网关(API Gateway)是阿里云公司出品的高性能API托管服务,帮助用户对其API进行管理,快速构建以API为核心的技术架构,满足系统集成、开放平台、数据中台等场景。
更多产品与服务.API网关可作为各系统的API统一管控工具、快速实现互通互联和系统间集成对接.对API进行统一API管理,避免重复接入,一次接入全部共享.统一对API进行限流.统一权限控制,方便运维操作.API是跨系统正常工作的基石,统一的安全和监控极大提高运营效率.数据管理DMS.机器学习PAI.DataV数据可视化.智能数据构建与...
来自: 云产品
基于SpringCloud应用玩转MSE实践
基于SpringCloud<em>应用</em>玩转MSE实践
随着业务不断创新,大型的单个应用和服务会被拆分为数个甚至数十个微服务,微服务架构已经被广泛应用。 微服务的好处在于快速迭代,如何在迭代过程中保障线上流量不受损。依赖开源产品缺少无运维工具,常常需要投入较大的运维人力和成本。 本实践提供基于云原生应用产品提供微服务注册配置中心、微服务治理和云原生网关等一系列高性能和高可用的企业级云服务能力。
熔断效果展示 推送开关后,程序的慢调用生效,就会触发熔断规则:观察mseconsumer应用接口详情,在客户端看到具体熔断信息。路径:治理中心-应用治理-接 口详情。文档版本:20240229基于SpringCloud玩转MSE 9.一键释放云资源 场景已经完成,可以将验证通过的环境直接用于生产。如果不再使用该架构,也可以通过CADT释放...
来自: 最佳实践 | 相关产品:弹性公网IP,容器服务 ACK,日志服务(SLS),NAT网关,微服务引擎,消息队列 RocketMQ 版,云速搭
智能商业分析 Quick BI
瓴羊智能商业分析 Quick BI 是阿里云用户臻选的数据可视化工具,大幅提升数据分析和报表开发效率,一站式满足企业各种场景的数据分析和决策的诉求。
相关产品智能商业分析 Quick BI在线咨询可视化解决方案本方案通过对可视化分析、渲染流程进行标准化,拉齐不同系列图表(统计/关系/表格等)、不同技术栈(G2/D3/L7 等)形成通用可视化底座,使得可视化图表/组件可以物料化的方式在仪表板、电子表格、大屏等应用系统中互通调用。并且建立了独立的分析层(联动/钻取/预测等...
来自: 云产品
新版产品集合页
基于丰富的产品,将计算、存储、网络、数据库、大数据、人工智能等最新产品技术与场景深度融合,为开发者打造稳定可靠的云基础设施以及云原生的开发环境。
性能测试免费试用作为一站式性能压测与监控分析平台,性能测试 PTS 旨在帮助企业对各类应用程序、网站、API 等进行深度性能评估和优化。提供百万并发、千万 TPS 流量发起能力,100%兼容 JMeter。提供的场景编排、API 调试、流量定制、流量录制等功能,有助于快速创建业务压测脚本,精准模拟不同量级用户访问业务系统,帮助...
来自: 云产品
云数据库 SelectDB 版
阿里云数据库 SelectDB 是现代化实时数据仓库 SelectDB 在阿里云上的全托管服务,内核基于业界领先的开源分析型数据库 Apache Doris 研发,由阿里云和飞轮科技联合打造。阿里云数据库 SelectDB 聚焦于满足企业级大数据分析需求,广泛应用于实时报表分析、即席多维分析、日志检索分析、数据联邦与查询加速等场景,致力于为客户提供极致性能、简单易用的数据分析服务。
立即购买管理控制台快捷入口控制台文档APISDK价格计算器产品定价热门商品产品动态内容甄选最新优惠618创新加速季:SelectDB 全系规格1年低至6.5折,新老同享不限购!2024.06.03最新动态阿里云 SelectDB 携手 DTS,一键实现 TP 数据实时入仓2024.03.18最新功能基于Apache Doris 2.0开发的阿里云数据库 SelectDB 3.0版发布...
来自: 云产品
物联网平台设备数据上云
物联网平台设备数据上云方案为企业提供海量物联网设备的数据接入与处理。提供了多种类型设备的稳定接入、安全防护、实时监控,满足企业一站式管理设备、处理数据的需求。具有高可用、高并发、低成本的优势。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云备案控制台物联网平台设备数据上云方案介绍方案优势应用场景方案部署物联网平台设备数据上云物联网平台设备数据上云方案为企业提供海量物联网设备的数据接入与处理。提供了多种类型设备的稳定接入、安全防护、实时监控,满足企业一站式管理设备、处理...
来自: 解决方案
基于转发路由器构建企业级组网
基于转发路由器构建企业级组网
通过云企业网转发路由器 1. 实现灵活的互通、隔离、引流策略 2. VPC 间的内网互访流量经过三方安全设备管控(如Palo Alto) 3. 统一多 VPC 的互联网访问出口,提高业务安全性
新版云企业 网 CEN-TR加载的网络实例之间默认不通,通过路由学习和静态配置实现互联 。每个地域最多支持 100个网络实例,2000条路由。一个 VPC最多可以加入 5个 CEN。场景二:部分 VPC隔离 新版本云企业网 CEN默认加载的网络实例之间不通,可以根据业务需要配置实现 多个 VPC访问某一个提供共享服务的 VPC但彼此之间又...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云企业网
远程办公-AD管控下的弹性云桌面
远程办公-AD管控下的弹性云桌面
在弹性云桌面中部署企业基础办公环境时,IT人员通常会面临以下问题,本文希望通过场景实践的方式,示范如何结合使用不同阿里云产品,来解决这些问题:用户如何管理?企业已有AD用户如何上云?云上共享文件服务权限怎么管?数据安全问题有保障吗?该如何设置?云桌面能使用本地机房或IDC中的服务吗? 本文使用的应用场景: 场景1:客户A在云上新建Windows ActiveDirectory(以下简称AD);弹性云桌面,和NAS文件存储服务部署在AD所在的VPC内。场景2:客户B在阿里云上已有AD和NAS。弹性云桌面创建在与AD不同的VPC中。AD与云桌面的VPC通过CEN连接。场景3:客户C在云下IDC有自建AD和文件服务。弹性云桌面创建在阿里云上。云下机房与阿里云弹性云桌面所在VPC通过IPsec VPN连接。 方案优势: 易部署:弹性云桌面支持快速便捷的桌面环境创建、部署、统一管控与运维。 CEN和VPN网关服务开通即用,配置实时生效,快速完成部署。 低成本:弹性云桌面无需前期传统硬件投资,帮您快速构建安全、高性能、低成本的桌面办公体系。可广泛应用于具有高数据安全管控、高性能计算等要求的金融、设计、视频、教育等领域。VPN网关基于Internet建立加密通道,比建立专线更便宜,快速实现混合云。 安全性:VPN网关使用IKE(秘钥交换协议)和IPSec对传输数据或进行加密,保证数据安全可靠。云桌面自带的安全策略保证数据不落地。 集中管控:通过Windows AD对云桌面用户和共享文件服务进行统一权限管控。可实现AD用户自动同步上云,和文件级别的权限管控。
文档版本:20201210 107 远程办公-AD管控下的弹性云桌面最佳实践 附录 4:云桌面相关 API 附录 4:云桌面相关 API 如果您熟悉网络服务协议和一种以上编程语言,推荐您调用 API管理您的云上资源 和开发自己的应用程序。尤其是当需要维护大量桌面实例的场景中,合理使用 API 将大大提升维护的效率和质量。云桌面 API概览:...
来自: 最佳实践 | 相关产品:云服务器ECS,弹性公网IP,文件存储NAS,NAT网关,云企业网,VPN网关,云桌面,云速搭CADT
E-HPC低成本实现量化策略回测
E-HPC低成本实现量化策略回测
在量化交易场景下,量化策略的构建流程一般包括:想法、数据获取、建模、回测、结果分析等,在回测过程中往往需要海量的算力,进行大量数据的分析和处理,如何快速、高效和低成本的进行批量任务的调度,并快速获取结果是量化领域遇到的普遍挑战,这也是云计算能够带给客户的巨大优势。
广泛应用于企业级应用数 据共享、容器、AI机器学习、Web 服务和内容管理、应用程序开发和测试、媒体 和娱乐工作流、数据库备份等场景。详见:https://www.aliyun.com/product/nas 对象存储 OSS:是一款海量、安全、低成本、高可靠的云存储服务,提供 99.9999999999%(12个 9)的数据持久性,99.995%的数据可用性。多种存储...
来自: 最佳实践 | 相关产品:专有网络 VPC,对象存储 OSS,弹性公网IP,文件存储NAS,弹性高性能计算E-HPC,云速搭
CDH迁移升级CDP最佳实践
CDH迁移升级CDP最佳实践
当前 CDH 免费版停止下载,终止服务,针对需要企业版服务能力并且CDH 升级过程对业务影响较小的客户,通过安装新的 CDP 集群,将现有数据拷贝至新集群,然后将新集群切换为生产集群,升级过程没有数据丢失风险,停机时间较短,适合大部分互联网客户升级使用。
风险提示 Navigator API应用改造 有些应用程序可能会调用 Navigator API,请按需改造为 Ranger API或者 Atlas API。Ranger无法查到历史审计数据 如果要访问升级之前的历史审计记录,只能在 CDP 上保留一个“只读”的 Navigator实例,直到不再需要它为止。必须确保升级后 CDP上的 Navigator处于“只读”状态 ᅳ 删除用户的写...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云速搭
游戏业务分区合服
游戏业务分区合服
概述 为了提高游戏玩家的体验,并提高留存率,增强付费率.除了游戏本身的内容趣味性外, 改善用户访问加速体验,并对游戏数据分区合服是很常见的业务运营场景. 本方案适用于: 1游戏业务运营,对多个分区数据库进行合并,增加付费用户积极性的需求. 2游戏业务加速,中心化部署的网络加速需求. 方案优势 1便捷数据迁移. 2内网安全传输 3加速远端用户访问质量体验 4快速应对上层业务运营的技术实现操作. 产品列表 网络产品:VPCSLBNAT网关CEN共享带宽包EIP全球加速GA 计算产品:ECS 数据库产品:RDSDTS 存储产品:OSS 云解析
文档版本:20220121 2 游戏业务分区合服最佳实践 游戏业务概述 对多台云服务器进行流量分发的负载均衡服务,可 Server Load SLB 以通过流量分发扩展应用系统对外的服务能力, Balancer 过消除单点故障提升应用系统的可用性。Elastic 是一种弹性可伸缩的计算服务,助您降低 IT 成 ECS Compute 本,提升运维效率,使您更...
来自: 最佳实践 | 相关产品:云数据库RDS MySQL 版,对象存储 OSS,数据传输,NAT网关,云企业网
云解析PrivateZone
云解析PrivateZone是基于阿里云专有网络VPC环境的内网域名解析和管理服务。能够在自定义的一个或多个VPC中快速构建DNS系统,实现不同VPC的完全数据隔离,更安全。
了解丰富 Open API 及 SDK 使用.快速了解如何使用内网 DNS 解析服务.了解使用过程中的常见问题.重磅升级:控制台全新改版,DNS 模块全开放.重磅升级:控制台全新改版,DNS 模块全开放,智能解析/缓存保持/域名转发/流量分析显性化/解析设置图形化.<查看DNS全系产品.为客户在企业内网(如阿里云 VPC 内网、线下 IDC 内网)的...
来自: 云产品
组建多可用区多地域的混合云
组建多可用区多地域的混合云
场景描述 无特定行业属性,对云下有IDC的用户,上云建 立多地域多可用区高稳定性的业务架构,组建混 合云用户都可适用。物理专线是打通IDC到云上 内网通道的最高质量和稳定性最好方式,但成本 较高,交付周期长。 解决问题 云下用户IDC应对业务突增弹性扩容能力 不足; 云下用户IDC业务需要多地域冗余; 云上阿里云业务需要多地域冗余; 云上阿里云业务需要多可用区冗余. 产品列表 VPC,CEN,高速通道(专线),SLB,ECS
IDC Internet Data 客户线下物理机房 Center SLB Server Load 对多台云服务器进行流量分发的负载均衡服务,可以 Balancer 过流量分发扩展应用系统对外的服务能力,通过消除单 点故障提升应用系统的可用性。ECS Elastic 是一种弹性可伸缩的计算服务,助您降低 IT 成本,提 Compute 升运维效率,使您更专注于核心业务创新 ...
来自: 最佳实践 | 相关产品:块存储,专有网络 VPC,云服务器ECS,云企业网,高速通道,云速搭
跨云迁移单写双读过渡架构
跨云迁移单写双读过渡架构
概述 在搬站场景下,涉及迁移跨度较长,在过渡阶段客户需要跨云访问,如何保障数据链路的高可用尤为关键,采用专线和公网双备的方案保障数据传输的高可用,也降低双专线的迁移成本。 适用场景 数据迁移链路的高可用 跨云迁移过渡期架构 读写分类架构设计 技术架构 本实践方案基于如下图所示的技术架构和主要流程编写操作步骤: 方案优势 在迁移时间持续较长的情况下,使用单写双读架构降低业务改造成本。 使用数据库网关做专线和公网互备。 流量逐渐灰度验证,保障迁移平滑过渡。 安全:原生的多租户系统,以项目进行隔离,所有计算任务在安全沙箱中运行。
通过数据库网关,用户可以使用应用程序或云服务访问并管理本地 IDC或 其他云厂商的数据库。详见:https://www.aliyun.com/product/dg 云数据库 RDS MySQL版:MySQL 是全球最受欢迎的开源数据库之一,作为开 源软件组合 LAMP(Linux+Apache+MySQL+Perl/PHP/Python)中的重要一 环,广泛应用于各类应用场景。文档版本:...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,数据传输,性能测试 PTS,云企业网,云速搭CADT
异地双活场景下的数据双向同步
异地双活场景下的数据双向同步
概述 随着客户业务规模的扩大,对系统高可用性要求越来越高,越来越多用户采用异地双活/多活架构,多活架构往往涉及业务侧做单元化改造,本方案仅模拟用户已做单元化改造后的数据双向同步,数据库采用双主架构,本地写本地读,同时又保证双库的数据一致性,为业务增加可用性和灵活性。 适用场景 数据库双向同步 数据库全局ID不冲突 双活架构的数据库建设问题 技术架构 本实践方案基于如下图所示的技术架构和主要流程编写操作步骤: 方案优势 DTS双向同步,采用独立模块避免数据同步占用系统资源。 奇偶ID涉及,避免数据冲突。 DTS多种处理冲突的方式供业务选择。 安全:原生的多租户系统,以项目进行隔离,所有计算任务在安全沙箱中运行。
有别于传统工具的繁复,PTS以互联网化的交互,提供性能测试、API调试和监 测等多种能力。自研和适配开源的功能都可以轻松模拟任意体量的用户访问业务 的场景,任务随时发起,免去繁琐的搭建和维护成本。更是紧密结合监控、流控等 兄弟产品提供一站式高可用能力,高效检验和管理业务性能。详见:...
来自: 最佳实践 | 相关产品:云数据库RDS MySQL 版,负载均衡 SLB,容器服务 ACK,数据传输,云企业网,容器镜像服务 ACR,云解析DNS
VMware on 弹性裸金属
VMware on 弹性裸金属
场景描述 传统企业将VMware迁移到阿里云弹性裸 金属,利用云计算平台提供的弹性基础设 施,降低部分运维成本和学习成本,使用其 擅长的技术工具专注自身业务,实现线下业 务平滑迁移上云。 解决问题 1.VMware业务平滑迁移上云 2.集成云产品能力增强业务创新 3.降低混合云成本和复杂度 4.增强系统可用性 产品列表 EBM神龙 ECS NAS OSS ENI NAT EIP
阿里云VMwareon弹性裸金属 最佳实践 部署架构...文档版本:20191121 221 VMwareon弹性裸金属 常用API 常用API  关于专有网络的 API 接口介绍,请参见专有网络 API 参考(https://help.aliyun.com/document_detail/35737.html)。 关于OpenAPIExplorer的快速使用,请前往https://api.aliyun.com/#/文档版本:20191121 222
来自: 最佳实践 | 相关产品:云服务器ECS,弹性公网IP,文件存储NAS,NAT网关,弹性裸金属服务器(神龙)
< 1 2 3 4 >
共有4页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用