基于函数计算FC实现阿里云Kafka消息轻量级ETL处理
基于函数计算FC实现阿里云Kafka<em>消息</em>轻量级ETL处理
在大数据ETL场景,Kafka是数据的流转中心,Kafka中的数据一般是原始数据,可能存在多种数据混杂的情况,需要进一步做数据清洗后才能进行下一步的处理或者保存。利用函数计算FC,可以快速高效的搭建数据处理链路,用户只需要关注数据处理的逻辑,数据的触发,弹性伸缩,运维监控等阿里云函数计算都已经做了集成,函数计算FC也支持多种下游,OSS/数据库/消息队列/ES等都可以自定义的对接
(这里有异步调用和同步调用两种方式,为了能快速消费 ,这里选择异步调用,并且两种调用方式的正文负载大小不同,同步调用为 32MB,异步调用为 128KB)触发器启用状态:勾选 批量推送:默认关闭。(可以选择开启,然后可以设置批量推送的条数,批量推送 间隔,根据需求选择是否批量推送推送格式:RawData(也可以...
来自: 最佳实践 相关产品:对象存储 OSS,函数计算,消息队列 Kafka 版
基于FC实现的Web端视频录制最佳实践
基于FC实现的<em>Web</em>端视频录制最佳实践
场景描述在很多互娱场景,在线教育领域会有直播视频录制的需求,但是往往一个页面上的内容是多种多样的,不止有直播流,可能还有白板,评论等其他元素,如果只是录直播流,那内容是不完整的,所以需要将整个屏幕的内容录制为视频。该最佳实践可以有效解决这个场景。
如果您配置了失败目标,函数计算将自动把失败请求的上下文信息推送到云消息队列 RocketMQ 版等消息服务中,以便后续处理。您也可以将目标服务设置为另一个函数,函数计算将自动把失败请求的上下文信息推送到该函数,执行您自定义的错误处理逻 辑。自动通知下游服务执行结果 ◼ 请求执行成功后,如果您配置了成功目标,函数...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
基于函数计算FC实现企业级权限精准控制Kafka跨实例<em>消息</em>同步
应用场景 在大数据场景,企业的Kafka实例可能存在多种情况,比如使用阿里云Kafka服务,可能是自建开源Kafka,或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例,在这个前提下Kafka实例之间可能会需要消息同步的情况: 同帐号容灾场景:比如Kafka实例都是阿里云Kafka,但是Kafka实例会有主备之分,需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾:这类场景比如主Kafka是阿里云Kafka,备Kafka是IDC开源自建Kafka,或者是其他云上的Kafka。 不同业务之间消息同步:因为现在的业务通常不会是信息孤岛,都需要消息互通,所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例,并且这两个Kafka实例归属不同的RAM角色,有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题(重试机制,容错机制,死信队列等)。 大幅提升构建消息同步架构的效率,降低构建复杂度问题。
(这里有异步调用和同步调用两种方式,为了能快速消费 ,这里选择异步调用,并且两种调用方式的正文负载大小不同,同步调用为32MB,异步调用为128KB) 触发器启用状态:勾选  批量推送:默认关闭。(可以选择开启,然后可以设置批量推送的条数,批量推送 间隔,根据需求选择是否批量推送) 推送格式:RawData(也...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,函数计算,消息队列 Kafka 版
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
基于函数计算FC实现阿里云Kafka<em>消息</em>内容控制MongoDB DML操作
在大数据ETL场景,将Kafka中的消息流转到其他下游服务是很常见的场景,除了常规的消息流转外,很多场景还需要基于消息体内容做判断,然后决定下游服务做何种操作。 该方案实现了通过Kafka中消息Key的内容来判断应该对MongoDB做增、删、改的哪种DML操作。 当Kafka收到消息后,会自动触发函数计算中的函数,接收到消息,对消息内容做判断,然后再操作MongoDB。用户可以对提供的默认函数代码做修改,来满足更复杂的逻辑。 整体方案通过CADT可以一键拉起依赖的产品,并完成了大多数的配置,用户只需要到函数计算和MongoDB控制台做少量配置即可。
l 云消息队列 Kafka 版:云消息队列 Kafka 版是阿里云提供的分布式、高吞吐、可扩展的 队列服务。云消息队列 Kafka 版广泛用于日志收集、监控数据聚合、流式数据处理、在 线和离线分析等大数据领域,已成为大数据生态中不可或缺的部分。l 云数据库 MongoDB 版(ApsaraDB for MongoDB):完全兼容 MongoDB 协议,基于...
来自: 最佳实践 | 相关产品:函数计算,消息队列 Kafka 版,云数据库 MongoDB版
基于SpringCloud应用玩转MSE实践
基于SpringCloud应用玩转MSE实践
随着业务不断创新,大型的单个应用和服务会被拆分为数个甚至数十个微服务,微服务架构已经被广泛应用。 微服务的好处在于快速迭代,如何在迭代过程中保障线上流量不受损。依赖开源产品缺少无运维工具,常常需要投入较大的运维人力和成本。 本实践提供基于云原生应用产品提供微服务注册配置中心、微服务治理和云原生网关等一系列高性能和高可用的企业级云服务能力。
熔断效果展示 推送开关后,程序的慢调用生效,就会触发熔断规则:观察mseconsumer应用的接口详情,在客户端看到具体熔断信息。路径:治理中心-应用治理-接 口详情。文档版本:20240229基于SpringCloud玩转MSE 9.一键释放云资源 场景已经完成,可以将验证通过的环境直接用于生产。如果不再使用该架构,也可以通过CADT释放...
来自: 最佳实践 | 相关产品:弹性公网IP,容器服务 ACK,日志服务(SLS),NAT网关,微服务引擎,消息队列 RocketMQ 版,云速搭
消息服务MNS
消息服务 MNS 是一款易集成、高并发、可弹性扩展的轻量消息队列服务。消息服务的轻量队列模型、按量后付费的计费模式、自动适应高并发的弹性可扩展能力,让开发者低成本快速构建分布式、松耦合系统,高效地传递数据和通知消息。
消息推送通知是运营方法中使用频率较高的一种。它可以在某个时间节点提醒用户进行某项操作,比如上新活动推送、有趣新闻内容提醒、或派送优惠券通知等,增强用户黏性.设计运营通知.云消息队列 MQ.推荐搭配使用.用户信息注册.用户信息注册.通过奖品队列,完成用户在线抽奖和奖品随机生成.前端抽奖系统和后段奖品系统松耦合....
来自: 云产品
新版产品集合页
基于丰富的产品,将计算、存储、网络、数据库、大数据、人工智能等最新产品技术与场景深度融合,为开发者打造稳定可靠的云基础设施以及云原生的开发环境。
行业物联网城市物联网平台城市数字化、智能化的底座、“新基建”的必备基础设施,智能化每一个城市数字空间,助力打造“善政、惠民、兴业”的新型智慧城市生活物联网平台(飞燕平台)为解决设备快速智能化中常遇到的设备连接、App端控制、设备消息推送、语音控制、设备管理、数据统计等问题,提供了一整套配置化方案。...
来自: 云产品
视频直播
阿里云视频直播服务(ApsaraVideo Live)是基于领先的内容接入与分发网络和大规模分布式实时流媒体转码技术打造的直播平台,提供便捷接入、高清流畅、低延迟、高并发的音视频云高清直播直播服务。
内容安全全方位内容审核:阿里云视频直播基于强大的视频AI能力,提供了智能审核功能,支持视频、音频、图片等全方位的媒体审核,并支持禁止推送违规的直播流。客户案例“本次S12英雄联盟赛事直播,阿里云为虎牙提供了流畅的观看体验,保障S12最终零故障落幕,支撑了千万观众在线,阿里云成为虎牙在S12英雄联盟赛事直播的...
来自: 云产品
移动研发平台EMAS
阿里云移动研发平台EMAS是国内领先的云原生应用研发平台(移动App、H5应用、小程序、Web应用等),基于广泛的云原生技术,为企业、开发者提供一站式的应用研发管理服务,涵盖应用开发、测试、运维、运营等应用全生命周期。
提供给移动App开发者的移动端消息推送服务,通过在App中集成推送功能,进行高效、精准、实时的消息推送,从而使业务及时触达用户,提高用户粘性.移动用户反馈.可以快速发送文字、图片、语音进行意见反馈和报告Bug,增强互动,提高用户黏性.超级App解决方案.钉钉交流:35248489.超级App解决方案.钉钉交流:35248489.超级App...
来自: 云产品
移动测试
阿里云移动测试(Mobile Testing)是为广大企业客户和移动开发者提供真机测试服务的云平台,拥有大量热门机型,提供7x24全天候App测试服务,帮助客户发现APP中的各类隐患(应用崩溃、各类兼容性问题、功能性问题、性能问题等),减少用户流失,提高APP质量和市场竞争力。
提供给开发者的移动端消息推送服务,通过在App中集成推送功能,进行高效、精准、实时的消息推送,从而使业务及时触达用户,提高用户粘性.阿里巴巴Hotpatch技术,提供细粒度热修复能力,无需等待,实时修复应用线上问题.面向移动开发者推出的一款域名解析产品,具有域名防劫持、精准调度的特性.多维度自动采集线上App崩溃...
来自: 云产品
事件总线 EventBridge
事件总线 EventBridge是阿里云提供的一款无服务器事件总线服务,支持阿里云服务、自定义应用、SaaS应用以标准化、中心化的方式接入,并能够以标准化的 CloudEvents 1.0 协议在这些应用之间路由事件,帮助您轻松构建松耦合、分布式的事件驱动架构。
提供跨 Region、跨云的事件推送能力.支持多种类型的事件目标处理,满足不同场景的事件处理需求.Apache RocketMQ EventBridge:构建下一代事件驱动引擎.阿里云事件生态再升级:使用 EventBridge 驱动全量云产品.阿里云消息队列 RocketMQ 5.0 全新升级:消息、事件、流融合处理平台.融合数据库生态:利用 EventBridge 构建 ...
来自: 云产品
发布服务
移动发布服务,源于阿里云移动开发平台。移动发布服务为移动应用提供版本升级包、热修复包的动态发布与管理能力。更可借助白名单进行灰度发布,自定义高级过滤规则如指定机型、人群从而进行更精准的定向发布。让 App 开发如积木搭建般轻松,业务动态更新、代码多端运行、摆脱发版制约。
消息推送 MPS.解决方案:移动智能营销.解决方案:视频云营业厅.解决方案:APP安全合规.发布服务 MDS.移动开发平台.更多产品与服务.快速的 Web 发布方式,离线、在线无缝切换。推拉结合,100%到达率,连接即触达.更快的发布触达.依托业内成熟的渲染技术及生态,更强的 Web 渲染引擎,表现力更强.更强的渲染引擎.提供统一的...
来自: 云产品
蚂蚁动态卡片
蚂蚁动态卡片,稳定支撑支付宝首页各模块的区域动态化,通过阿里云渲染引擎可实现App动态化开发、提高研发效率,页面实时更新无卡顿,适合营销卡片、页面等场景。
免费开通 mPaaS....消息推送 MPS.网关服务 MGS.数据同步 MSS.智能投放 MCDP.解决方案:移动智能营销.解决方案:视频云营业厅.解决方案:APP安全合规.蚂蚁动态卡片.移动开发平台.查看蚂蚁动态卡片文档.了解蚂蚁动态卡片接入步骤.查看 mPaaS 控制台使用方案.学习蚂蚁动态卡片语法.查看更多商品.新开窗口打开.
来自: 云产品
音视频终端 SDK
音视频终端 SDK集成了阿里云视频直播和视频点播业务中拍摄、编辑、上传、推流和播放的核心能力,同时融合视频特效、音频特效等音视频AI能力,为用户提供一体化SDK,支持多终端接入,搭配产品级Demo,支持用户根据业务需求快速集成所需
支持主播与主播、主播与观众实时连麦、主播跨房间互动等多画面实时视频互动,并可将互动视频流推送至直播中心进行大规模分发,推送给未连麦的观众.直播推流与连麦互动.产品 Demo.快速上线短视频采集、制作和播放等必备功能,适用于娱乐、社交、教育、新闻资讯、电商等对短视频拍摄制作和多创意玩法有需求的场景.提供移动端...
来自: 云产品
Salesforce on Alibaba Cloud
阿里云和Salesforce共同为中国客户带来了全球广受好评的CRM(客户关系管理)平台,包括销售云、服务云、电商云和 Salesforce 平台。它可以让企业的营销、销售、商务、服务和IT团队从任何地方一起协同工作,以提供卓越的客户体验。
通过扩展的Platform Events将电商和社交平台中的事件推送到Salesforce CRM,随后利用Flow为您的客户360使用短信或社交消息进行交易通知、订单确认和其他丰富体验。在中国主流社交渠道上使用Salesforce服务客户.社交集成Social Integration.Sales Cloud(销售云)使企业能够轻松管理潜在客户、跟踪进度和自动化销售流程,...
来自: 云产品
低代码电商直播间解决方案
低代码电商直播间解决方案,基于阿里云云原生、音视频、AI 智能算法和网络等先进技术,通过低代码方式接入,帮助企业快速完成在自有 APP、小程序、网站等平台的私域电商直播间的搭建。其易接入且强扩展的特性,既可以满足企业定制需求,又可以降低时间成本,快速验证直播卖货商业模式。
低代码音视频工厂.Web 端集成演示>.互动直播低代码接入流程>.互动课堂低代码接入流程>.SDK 参考>.API 参考>.摩托范 APP 是摩托爱好者的聚集地。用户对于在线观展、在线讲车、车友互动的需求日益凸显,摩托范需要快速上线电商直播服务满足用户需求。本方案在客户排期紧开发经验不足的情况下,采用一体化 SDK 帮助客户快速...
来自: 解决方案
微服务引擎MSE
微服务引擎 MSE 面向业界注册配置中心、分布式协调、云原生网关、微服务治理和分布式任务调度等主流开源项目,提供商业版服务。
查询注册中心服务的推送和配置中心的配置变更发布和推送,清晰观测推送功能的履约情况,从而提高问题的排查效率.提供符合 K8s Ingress 标准的下一代网关,将流量网关、微服务网关和 WAF 安全网关三合一,具备高集成、易使用、易扩展、热更新的特点.三合一网关同时完成流量分发、微服务治理和 Waf 防护,优化链路 RT,降低...
来自: 云产品
应用实时监控服务ARMS
作为云原生可观测平台,应用实时监控服务 ARMS 包含前端监控、应用监控、云拨测等模块。覆盖浏览器、小程序、APP、分布式应用、容器等不同可观测环境与场景。帮助企业实现全栈性能监控与端到端追踪诊断。提高监控效率,压降运维工作量。
多渠道数据推送.支持钉钉、邮件、短信、Webhook 等10+监控数据源,确保及时触达.告警协作提升协同效率.基于钉钉的 ChatOps,借助报警管理、报警记录、历史查看,让告警变得可协作,可追溯,可统计.提供异常检查、智能降噪等算法能力有效减少无效告警.告警根因分析.基于应用上下文的告警根因分析,提升故障定位效率.智能告警...
来自: 云产品
基于SLS实现统一告警最佳实践
基于SLS实现统一告警最佳实践
告警对于企业的开发运维,安全运维,业务运维有着至关重要的作用。然而很多企业在告警运维方面存在着重复建设、监控质量差、告警风暴、触达不人性化、无法闭环等问题。 针对企业在告警管理方面存在的痛点问题,SLS告警提供了一站式云上告警管理方案,具有弹性易用、稳定可靠、功能持续升级、成本更低、噪音更少等优势。企业可以将现有的监控方案系统无缝接入到SLS告警平台,实现在SLS上一站式管理告警。
配置增加监控对象 为了能够体验到真实的告警数据通过 Prometheus推送到 SLS中,我们特定用一台 ECS去产生告警的数据,让 Prometheus捕获。步骤1 在 ECS管理控制台,打开通过 CADT创建的被监控 ECS(名称为:ecs-monitored)的控制台。步骤2 下载并安装 node_exporter服务,接入到 prometheus中。wget ...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,弹性公网IP,日志服务(SLS),云速搭CADT
Spark on ECI大数据分析
Spark on ECI大数据分析
场景描述 方案优势 1.计算引擎弹性扩缩容,兼顾资源弹性与计 算资源成本优化。 2.计算与存储分离架构,结合阿里云原生云 存储产品,海量数据湖优势。 3.Kubernetes原生的调度性能优势,提升在 大规模分析作业时的分析性能优势分。 4.集群资源隔离和按需分配。 解决问题 1.计算资源弹性能力不足,计算资源成本管 控能力欠缺. 2.集群资源调度能力和隔离能力不足。 3.计算与存储无法分离,大数据量分析时出 现数据存储资源瓶颈。 4.Spark submit方式提交分析作业参数支持 有限等缺点。 产品列表 容器服务Kubernetes版(ACK) 弹性容器实例(ECI) 文件存储HDFS 对象存储OSS 专有网络VPC 容器镜像服务ACR
2.在容器镜像服务 ACR控制台上可以看到镜像已经推送到了私像仓库。2.4.准备 Spark应用镜像 步骤1 编写示例 WordCount函数并打包。本地开发环境使用 IntelliJ IDEA,创建 Maven工程,创建的 Maven工程结构如下图 所示,并将修改后的 core-site.xml文件放入应用项目的 resources目录,这里以编写 一个常见的 WordCount函数...
来自: 最佳实践 | 相关产品:专有网络 VPC,对象存储 OSS,容器服务 ACK,弹性容器实例 ECI,文件存储HDFS
< 1 2 3 >
共有3页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用