基于函数计算FC实现阿里云Kafka消息轻量级ETL处理
基于函数计算FC实现阿里云Kafka<em>消息</em>轻量级ETL处理
在大数据ETL场景,Kafka是数据的流转中心,Kafka中的数据一般是原始数据,可能存在多种数据混杂的情况,需要进一步做数据清洗后才能进行下一步的处理或者保存。利用函数计算FC,可以快速高效的搭建数据处理链路,用户只需要关注数据处理的逻辑,数据的触发,弹性伸缩,运维监控等阿里云函数计算都已经做了集成,函数计算FC也支持多种下游,OSS/数据库/消息队列/ES等都可以自定义的对接
(这里有异步调用和同步调用两种方式,为了能快速消费 ,这里选择异步调用,并且两种调用方式的正文负载大小不同,同步调用为 32MB,异步调用为 128KB)触发器启用状态:勾选 批量推送:默认关闭。(可以选择开启,然后可以设置批量推送的条数,批量推送 间隔,根据需求选择是否批量推送)推送格式:RawData(也可以...
来自: 最佳实践 相关产品:对象存储 OSS,函数计算,消息队列 Kafka 版
RocketMQ性能压测快速方案
RocketMQ性能压测快速方案
在客户对产品性能存疑或者给客户进行POC验证时可以用本实践来快速完成性能测试。
RocketMQ性能压测快速方案 最佳实践 业务架构 场景描述 在一些产品选型场景客户需要产品的详细压测 数据,本方案可以快速构建测试客户端(RocketMQ官方的压测客户端)和服务端(RocketMQ5.0实例),方便客户自测或者给客 户做POC验证性能。应用场景 在客户对产品性能存疑或者给客户进行POC验 证时可以用本实践来快速完成...
来自: 最佳实践 | 相关产品:云服务器ECS,弹性公网IP,消息队列 RocketMQ 版,云速搭
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
基于函数计算FC实现企业级权限精准控制Kafka跨实例<em>消息</em>同步
应用场景 在大数据场景,企业的Kafka实例可能存在多种情况,比如使用阿里云Kafka服务,可能是自建开源Kafka,或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例,在这个前提下Kafka实例之间可能会需要消息同步的情况: 同帐号容灾场景:比如Kafka实例都是阿里云Kafka,但是Kafka实例会有主备之分,需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾:这类场景比如主Kafka是阿里云Kafka,备Kafka是IDC开源自建Kafka,或者是其他云上的Kafka。 不同业务之间消息同步:因为现在的业务通常不会是信息孤岛,都需要消息互通,所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例,并且这两个Kafka实例归属不同的RAM角色,有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题(重试机制,容错机制,死信队列等)。 大幅提升构建消息同步架构的效率,降低构建复杂度问题。
(这里有异步调用和同步调用两种方式,为了能快速消费 ,这里选择异步调用,并且两种调用方式的正文负载大小不同,同步调用为32MB,异步调用为128KB) 触发器启用状态:勾选  批量推送:默认关闭。(可以选择开启,然后可以设置批量推送的条数,批量推送 间隔,根据需求选择是否批量推送) 推送格式:RawData(也...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,函数计算,消息队列 Kafka 版
消息队列 Confluent 版
云消息队列 Confluent 版是阿里云与 Apache Kafka 项目创始团队所创立的 Confluent 公司合作,基于 Apache Kafka 核心能力提供的企业级全托管消息队列服务,旨在为企业提供集成消息流式处理与大数据系统的一站式解决方案。
更多产品与服务.Apache Kafka 全托管消息服务,大数据生态不可或缺的消息产品,具备开箱即用、无缝迁移、安全可靠、免运维等特点.云消息队列 Kafka 版.阿里巴巴官方指定消息产品,成熟、稳定、先进的技术体系打造金融级消息服务,感受双十一产品的完美体验.云消息队列 RocketMQ 版.即 RocketMQ 轻量版,提供轻量模型、轻...
来自: 云产品
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
基于函数计算FC实现阿里云Kafka<em>消息</em>内容控制MongoDB DML操作
在大数据ETL场景,将Kafka中的消息流转到其他下游服务是很常见的场景,除了常规的消息流转外,很多场景还需要基于消息体内容做判断,然后决定下游服务做何种操作。 该方案实现了通过Kafka中消息Key的内容来判断应该对MongoDB做增、删、改的哪种DML操作。 当Kafka收到消息后,会自动触发函数计算中的函数,接收到消息,对消息内容做判断,然后再操作MongoDB。用户可以对提供的默认函数代码做修改,来满足更复杂的逻辑。 整体方案通过CADT可以一键拉起依赖的产品,并完成了大多数的配置,用户只需要到函数计算和MongoDB控制台做少量配置即可。
l 云消息队列 Kafka 版:云消息队列 Kafka 版是阿里云提供的分布式、高吞吐、可扩展的 队列服务。云消息队列 Kafka 版广泛用于日志收集、监控数据聚合、流式数据处理、在 线和离线分析等大数据领域,已成为大数据生态不可或缺的部分。l 云数据库 MongoDB 版(ApsaraDB for MongoDB):完全兼容 MongoDB 协议,基于...
来自: 最佳实践 | 相关产品:函数计算,消息队列 Kafka 版,云数据库 MongoDB版
基于SpringCloud应用玩转MSE实践
基于SpringCloud应用玩转MSE实践
随着业务不断创新,大型的单个应用和服务会被拆分为数个甚至数十个微服务,微服务架构已经被广泛应用。 微服务的好处在于快速迭代,如何在迭代过程中保障线上流量不受损。依赖开源产品缺少无运维工具,常常需要投入较大的运维人力和成本。 本实践提供基于云原生应用产品提供微服务注册配置中心、微服务治理和云原生网关等一系列高性能和高可用的企业级云服务能力。
5.1.ACK集群部署应用 步骤1登录ACK集群,新建命名空间project-qa(如果修改了命名空间名称,需要对应修改后续yaml文 的namespace参数)文档版本:20240229基于SpringCloud玩转MSE 步骤2:在命名空间,通过YAML分别创建4个应用:基线版应用:mseconsumer、mseprovider 灰度版应用:mseconsumer-gray、mseprovider-gray ...
来自: 最佳实践 | 相关产品:弹性公网IP,容器服务 ACK,日志服务(SLS),NAT网关,微服务引擎,消息队列 RocketMQ 版,云速搭
Kafka性能压测快速方案
Kafka性能压测快速方案
产品性能基线测试场景需要对产品进行性能测试得到详细的压测数据,本方案可以快速构建测试的客户端(kafka官方的压测客户端)和不同的Kafka服务端( SSD云盘版、高效云盘、Serverless版三种实例),方便客户进行POC完成性能验证。
并记录下来为kafka-severless的endpoint 步骤4(可)Endpoint也可以通过控制台获取 文档版本:20240229 21Kafka性能压测快速方案 方案验证 2.2.登录ECS初始化客户端环境并压测 步骤1 双击Perf-SSD的图标,在“资源清单”点击“远程登录”,密码默认是admin@12345,如果修改了以您修改后的为准 文档版本:20240229 22...
来自: 最佳实践 | 相关产品:云服务器ECS,弹性公网IP,消息队列 Kafka 版
新版技术解决方案聚合页
在客户上云过程中,针对通用技术问题,提供一系列阿里云产品组合的解决方法、实施方案,且可实践、可一键部署。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云备案控制台技术解决方案在客户在上云过程,针对通用技术问题,提供一系列的技术解决方法、实施方案的组合,且方案具备可实践、可部署能力。依托阿里成功实践提供成熟技术解决方案全面应用阿里云技术支持云原生、高可靠、高可用方案支持动手实践具备...
来自: 解决方案
中间件
阿里云中间件产品支撑了淘宝、天猫、盒马、菜鸟、高德等阿里巴巴集团核心业务,整合了阿里云计算、存储、网络等基础产品,服务百万企业与开发者,助力系统稳定高效运行。
利用大数据消息中间件 Kafka 作为数据中转枢纽,同份数据可以被导入到不同专用系统。​​.发布/订阅模型,支持同份数据集能同时被消费多次.一对多消费模型.本地数据持久以及 PageCache,在无性能损耗的情况下能同时传送消息到实时和批处理消费者.同时支持实时和批处理.云消息队列 MQ.推荐搭配使用.数据中转枢纽.数据中转...
来自: 云产品
消息队列 RabbitMQ 版
云消息队列 RabbitMQ 版是阿里云打造的云消息服务,广泛用于海量队列分发、分布式定时任务等场景。支持 AMQP 协议,开箱即用,轻松实现快速上云,更专业、更可靠、更安全。
阿里巴巴官方指定消息产品,成熟、稳定、先进的技术体系打造金融级消息服务,感受双十一产品的完美体验.云消息队列 RocketMQ 版.移动互联网、物联网、互动直播原生支持,万物互联,端与云双向通信,支撑千万级设备同时在线.云消息队列 MQTT 版.云消息队列 Kafka 版是 Apche Kafka 的全托管服务,具备专享集群部署、免运维、...
来自: 云产品
消息队列 Kafka 版
云消息队列 Kafka 版是阿里云基于Apache Kafka构建的大数据消息中间件,广泛用于日志收集和分析、数据处理等场景。可提供全托管服务,用户无需部署运维,更专业、更可靠、更安全。
“阿里巴巴官方指定消息产品,成熟、稳定、先进的技术体系打造金融级消息服务,感受双十一产品的完美体验”.云消息队列 RocketMQ 版.“即RocketMQ 轻量版,提供轻量模型、轻量 HTTP RESTful 协议,支持Serverless 弹性计费,拥有较强的灵活性;具备易集成等特点”.消息服务 MNS.“移动互联网、物联网、互动直播原生支持,...
来自: 云产品
消息服务MNS
消息服务 MNS 是一款易集成、高并发、可弹性扩展的轻量消息队列服务。消息服务的轻量队列模型、按量后付费的计费模式、自动适应高并发的弹性可扩展能力,让开发者低成本快速构建分布式、松耦合系统,高效地传递数据和通知消息。
可自定义消息延迟,定时消息消息体大小,消息生命周期,标签过滤,重试即死信等高级特性。提供健全的消息产品方案帮助开发者在应用的分布式组件之间自由地传递数据、通知消息,从而构建松耦合系统.高级特性支持.更多产品与服务.阿里巴巴官方指定消息产品,成熟、稳定、先进的技术体系打造金融级消息服务,感受双十一产品...
来自: 云产品
消息队列 MQTT 版
云消息队列 MQTT 版是阿里云专为移动互联网及物联网领域设计的消息产品,可用于直播互动、金融支付等场景,通过支持 MQTT、WebSocket 等协议连接端与云的双向通信,更高效、更可靠。
消息队列 MQTT 版产品介绍.下载 Demo,快速体验微消息队列 MQTT.Demo 下载.云消息队列 MQTT 入门与开发指南.常见问题答疑.发布/订阅(Pub/Sub).支持Pub/Sub消息模型,提供一对多的消息分发方式.点对点(P2P).独家支持P2P消息模型,点对点传递模式,高效低成本.小型传输,开销小,协议交换最小化,以降低网络流量.设计...
来自: 云产品
MySQL数据库上云选型解决方案
MySQL数据库上云选型解决方案,MySQL数据库成为近十年来数据库使用范围最广,数据库生态最好的开源数据库,本方案以MySQL数据库上云的各种场景为切入点,包括数据库的扩展性、数据库水平拆分、数据库垂直拆分、高弹性数据库、数据库大促支持、MySQL数据库海量数据分析等向上云的企业客户介绍如何选择适合企业的MySQL生态数据库。
MySQL数据库近十年成为国内技术生态最完善、技术人员储备最大的数据库,超越了Oracle、SQL server等商用数据库,成为企业结构化数据存储首选。MySQL生态数据库阿里云售卖比最高的数据库,本方案向企业客户提供不同发展阶段的MySQL数据库上云选型建议.MySQL数据库上云选型解决方案.通过PolarDB的 高弹性能力,我们在双十一...
来自: 解决方案
消息队列 ApsaraMQ
云消息队列 ApsaraMQ 是阿里云自主研发的消息队列服务系列产品的总称,旨在为开发者和企业的不同业务场景提供强大、可靠、低成本、高弹性且易于管理的消息服务。云消息队列 ApsaraMQ 全系列产品提供 Serverless 化的消息服务,按实际使用量付费,自适应弹性,跨可用区容灾,帮助客户降低使用和维护成本,专注业务创新。
消息队列 RocketMQ 版.Apache Kafka 全托管消息服务,大数据生态不可或缺的消息产品,具备开箱即用、无缝迁移、安全可靠、免运维等特点.云消息队列 Kafka 版.云消息队列 RabbitMQ 版是一款兼容 AMQP 0-9-1 协议,解决开源稳定性痛点的消息队列产品,同时具备按量后付费的售卖模式开箱即用、无需评估容量等优势.云消息...
来自: 云产品
业务技术解决方案
阿里云业务中台解决方案为企业构建业务中台提供体系化的建设解决方案,涵盖从中台架构设计、中台实施、运行支持、持续治理等一整套业务中台建设方法论体系。阿里云业务中台解决方案基于经过阿里多年双十一洗礼的成熟云原生产品,结合完善的生态伙伴体系,成功帮助大量企业实现业务的实时在线与统一,实现各业务板块之间链接和协同,持续提升业务创新效率。
企业级分布式应用服务 EDAS.RocketMQ 是阿里巴巴自研消息产品,已超过 13 年,经过阿里交易核心链路反复打磨与历年双十一的严苛考验,具备低延迟、高并发、高可用、高可靠,可支撑万亿级数据洪峰的分布式消息中间件.消息队列 RocketMQ.ARMS是应用性能管理产品,包含前端,应用和Prometheus监控,涵盖了浏览器,APP,分布式...
来自: 解决方案
高性能数据库ECS测试及选型
高性能数据库ECS测试及<em>选型</em>
概述 客户自建高性能数据库(如电商大促)在做ECS选型时,对磁盘的IO、网络的吞吐都有很大要求,为了跟接近真实业务场景,使用HammerDB选定真实业务模型测试其TPM。通过对比TPM对比ECS性价比进行选型。同时使用FIO测试磁盘性能作为参考。 适用场景  自建数据库性能测试  磁盘性能测试  ECS选型建议 技术架构 本实践方案基于如下图所示的技术架构和主要流程编写操作步骤: 方案优势  基于标准的TPC-C测试,接近真实业务场景。  提供多规格实例测试,快速选择最优性价比实例。
高性能数据库 ECS测试及选型 最佳实践 场景描述 业务架构 客户自建高性能数据库(如电商大促)在做 ECS 时,对磁盘的 IO、网络的吞吐都有很大要求,为 了跟接近真实业务场景,使用 HammerDB选定真 实业务模型测试其 TPM。通过对比 TPM对比 ECS 性价比进行选型。同时使用 FIO测试磁盘性能作为 参考。解决问题 自建数据库...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,弹性公网IP,云速搭
消息队列 RocketMQ 版
云消息队列 RocketMQ 版是基于 Apache RocketMQ 构建的分布式消息中间件,广泛用于异步解耦、削峰填谷等场景。可支撑千万级并发、万亿级数据洪峰,更稳定,更安全。
消息队列 RocketMQ 版 Serverless 系列资源包重磅上线!存储空间无法自由弹性伸缩,空间不足会导致清理数据;多副本存储成本高.基于集群水位规划机器:·需要预留水位,且缩容复杂;受扩容速度限制,无法支持突发流量弹性.手工命令行操作运维,成本高,风险大;缺少配套可观测监控体系.自行运维保障,需要资深技术人员...
来自: 云产品
Chat App消息服务
阿里云通信Chat App消息引擎向您的用户发送验证类、通知类、营销类等消息,用户可以回信息给您,API接口简单快速接入,无论您来自哪个行业都能够提供更准确形象内容给用户。
通过向用户发送模板消息即可实现产品订阅或售前咨询,商家可以自定义引导步骤从而将潜在用户发展为付费用户.挖掘潜在用户.商家可以在与用户的对话推送商品,用户可直接进行购买,缩短购买路径减少因跳出导致的流单。用户可订阅订单状态在订单状态更新时收到通知.下单引导及状态追踪.根据自身需求对不同业务类型自定义不同...
来自: 云产品
消息推送
移动网关服务,源于阿里云移动开发平台。消息推送 MPS,针对不同的场景推出多种推送类型,满足个性化推送需求。集成了多家手机厂商的推送功能,方便快速集成移动终端推送功能,与 App 用户保持互动,从而有效地提高用户留存率,提升用户体验。
针对大量设备或者用户推送消息,可指定消息模版,在配置文件针对不同设备或用户设置不同的占位符变量值.针对全网设备进行推送,可指定消息模版,消息正文由替换模板占位符得到.mPaaS 全线降价!点击查看.全线降价,mPaaS 助力打造超级 App!点击查看.消息推送 MPS,针对不同的场景推出多种推送类型,满足个性化推送需求。...
来自: 云产品
< 1 2 >
共有2页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用