基于函数计算FC实现阿里云Kafka消息轻量级ETL处理
基于函数计算FC实现阿里云Kafka消息轻量级ETL处理
在大数据ETL场景,Kafka是数据的流转中心,Kafka中的数据一般是原始数据,可能存在多种数据混杂的情况,需要进一步做数据清洗后才能进行下一步的处理或者保存。利用函数计算FC,可以快速高效的搭建数据处理链路,用户只需要关注数据处理的逻辑,数据的触发,弹性伸缩,运维监控等阿里云函数计算都已经做了集成,函数计算FC也支持多种下游,OSS/数据库/消息队列/ES等都可以自定义的对接
(可以选择开启,然后可以设置批量推送的条数,批量推送 间隔,根据需求选择是否批量推送)推送格式:RawData(也可以选择标准的 CloudEvents格式,但函数中的代码需要 适配解析 CloudEvents格式的逻辑)重试策略:指数衰减重试。(也可以选择退避重试)容错策略:允许容错。(允许异常容错,当异常发生时不会阻塞执行,...
来自: 最佳实践 相关产品:对象存储 OSS,函数计算,消息队列 Kafka 版
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景,企业的Kafka实例可能存在多种情况,比如使用阿里云Kafka服务,可能是自建开源Kafka,或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例,在这个前提下Kafka实例之间可能会需要消息同步的情况: 同帐号容灾场景:比如Kafka实例都是阿里云Kafka,但是Kafka实例会有主备之分,需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾:这类场景比如主Kafka是阿里云Kafka,备Kafka是IDC开源自建Kafka,或者是其他云上的Kafka。 不同业务之间消息同步:因为现在的业务通常不会是信息孤岛,都需要消息互通,所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例,并且这两个Kafka实例归属不同的RAM角色,有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题(重试机制,容错机制,死信队列等)。 大幅提升构建消息同步架构的效率,降低构建复杂度问题。
(可以选择开启,然后可以设置批量推送的条数,批量推送 间隔,根据需求选择是否批量推送) 推送格式:RawData(也可以选择标准的CloudEvents格式,但函数中的代码需要 适配解析CloudEvents格式的逻辑) 重试策略:指数衰减重试。(也可以选择退避重试) 容错策略:允许容错。(允许异常容错,当异常发生时不会阻塞...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,函数计算,消息队列 Kafka 版
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
在大数据ETL场景,将Kafka中的消息流转到其他下游服务是很常见的场景,除了常规的消息流转外,很多场景还需要基于消息体内容做判断,然后决定下游服务做何种操作。 该方案实现了通过Kafka中消息Key的内容来判断应该对MongoDB做增、删、改的哪种DML操作。 当Kafka收到消息后,会自动触发函数计算中的函数,接收到消息,对消息内容做判断,然后再操作MongoDB。用户可以对提供的默认函数代码做修改,来满足更复杂的逻辑。 整体方案通过CADT可以一键拉起依赖的产品,并完成了大多数的配置,用户只需要到函数计算和MongoDB控制台做少量配置即可。
(可以选择开启,然后可以设置批量推送的条数,批量推送间 隔,根据需求选择是否批量推送)l 推送格式:RawData(也可以选择标准的 CloudEvents 格式,但函数中的代码需要 适配解析 CloudEvents 格式的逻辑)l 重试策略:指数衰减重试。(也可以选择退避重试)l 容错策略:允许容错。(允许异常容错,当异常发生时不会阻塞...
来自: 最佳实践 | 相关产品:函数计算,消息队列 Kafka 版,云数据库 MongoDB版
基于ALB的统一流量调度和监控
基于ALB的统一流量调度和监控
企业在走向容器化过渡阶段,内部同时存在ECS应用和容器应用的情况,在多域名业务场景下,为了对应用的入方向流量进行统一的调度和监控,可通过ALB快速完成内部应用统一流量的管控。 典型场景 多域名转发到混合应用类型场景。 方案优势 1、 高弹性,高并发 2、 减少SLB+EIP数量 3、 一键WAF透明接入 4、 配置简单易上手 5、 统一流量运营分析
步骤12 Java 代码扫描和 Maven单元测试(无需配置)步骤13 Java构建环节添加任务步骤:上传->构建物上传 文档版本:20210915 22 环境准备 基于 ALB统一流量调度和监控 步骤14 调整 3个步骤的顺序如下,“Java构建”,“构建物上传”,“镜像推送至个人版”。文档版本:20210915 23 环境准备 基于 ALB统一流量调度和监控 ...
来自: 最佳实践 | 相关产品:云服务器ECS,负载均衡 SLB,容器服务 ACK,云效
云消息队列 MQTT 版
云消息队列 MQTT 版是专为移动互联网(MI)、物联网(IoT)领域设计的消息产品,覆盖直播互动、金融支付、智能餐饮、即时聊天、移动 Apps、智能设备、车联网等多种应用场景;通过对 MQTT、WebSocket 等协议的全面支持,连接端云之间的双向通信,实现 C2C、C2B、B2C 等业务场景之间的消息通信,可支撑千万级设备与消息并发。
消费者、商家、后厨,全自助的智能设备端+云服务的双向通信能力,快速形成高效的智能点餐系统.MQTT 标准协议.MQTT 标准协议,完全兼容社区生态,技术绑定.云消息队列 MQTT 版&云消息队列 RocketMQ 版天然互通,从而实现设备端之间、设备端与云服务之间、云端微服务之间互联互通,完美配合.59A_行业实战场景.59A_【标题】...
来自: 云产品
利用交互式分析(Hologres)进行数据查询
利用交互式分析(Hologres)进行数据查询
场景描述:随着收集数据的方式不断丰富,企业信息化 程度越来越高,企业掌握的数据量呈TB、 PB或EB级别增长。同时,数据中台的快 速推进,使数据应用主要为数据支撑、用户 画像、实时圈人及广告精准投放等核心业务 服务。高可靠和低延时地数据服务成为企业 数字化转型的关键。 Hologres致力于低成本和高性能地大规模 计算型存储和强大的查询能力,为您提供海 量数据的实时数据仓库解决方案和实时交 互式查询服务。 解决问题 1.加速查询MaxCompute数据 2.快速搭建实时数据仓库 3.无缝对接主流BI工具 产品列表 MaxCompute Hologres 实时计算Flink 专有网络VPC DataWorks DataV
返回上级数据界面,编辑柱状图x和y轴匹配字段步骤13最后我们就可以看到当实时广告的曝光数据命中了推送的时候,我们所需要的一些可 视化的数据方便进行商业决策。3.一键释放云资源 场景已经完成,可以将验证通过的环境直接转为生产。如果不再使用该架构的云产品,也可以 通过CADT释放全部按量付费资源。CADT无法对包年包月...
来自: 最佳实践 | 相关产品:大数据计算服务 MaxCompute,DataV数据可视化,实时计算,Hologres,云速搭CADT
基于SLS实现统一告警最佳实践
基于SLS实现统一告警最佳实践
告警对于企业的开发运维,安全运维,业务运维有着至关重要的作用。然而很多企业在告警运维方面存在着重复建设、监控质量差、告警风暴、触达不人性化、无法闭环等问题。 针对企业在告警管理方面存在的痛点问题,SLS告警提供了一站式云上告警管理方案,具有弹性易用、稳定可靠、功能持续升级、成本更低、噪音更少等优势。企业可以将现有的监控方案系统无缝接入到SLS告警平台,实现在SLS上一站式管理告警。
配置增加监控对象 为了能够体验到真实的告警数据通过 Prometheus推送到 SLS中,我们特定用一台 ECS去产生告警的数据,让 Prometheus捕获。步骤1 在 ECS管理控制台,打开通过 CADT创建的被监控 ECS(名称为:ecs-monitored)的控制台。步骤2 下载并安装 node_exporter服务,接入到 prometheus中。wget ...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,弹性公网IP,日志服务(SLS),云速搭CADT
金融行业从经典网络向VPC容器化改造
金融行业从经典网络向VPC容器化改造
本实践介绍经典网络向VPC容器化改造实践 以及配置步骤,可适用于金融等行业 方案优势 容器化完成经典网络完成向VPC网络改 造 应用发布灵活 运维效率提升 解决问题 1.经典网络管理困难 2.应用发布不灵活 3.运维效率低 产品列表 专有网络VPC 容器服务Kubernetes版 日志服务SLS 云数据库RDS版 NAT网关 容器镜像服务ACR 云盘
操作步骤 4推送文件 将经典网络dev_server的文件推送到VPC的file_server上 scp-rroot@10.111.0.61:/qianyi/mnt#登陆 file_server主机验证文件 sshroot@10.111.0.61 cd/mnt/qianyi ll 文档版本:20200703(发布日期)34 金融行业从经典网络向VPC容器化改造最佳实践 操作步骤 文档版本:20200703(发布日期)35 金融行业从...
来自: 最佳实践 | 相关产品:专有网络 VPC,云数据库RDS MySQL 版,容器服务 ACK,日志服务(SLS),容器镜像服务 ACR
消息推送
移动网关服务,源于阿里云移动开发平台。消息推送 MPS,针对不同的场景推出多种推送类型,满足个性化推送需求。集成了多家手机厂商的推送功能,方便快速集成移动终端推送功能,与 App 用户保持互动,从而有效地提高用户留存率,提升用户体验。
集成了多家手机厂商的推送功能,方便快速集成移动终端推送功能,与 App 用户保持互动,从而有效地提高用户留存率,提升用户体验.全线降价,mPaaS 助力打造超级 App!点击查看.mPaaS 全线降价!点击查看.查看推送流程,了解更多.频道页banner.产品详情页二级页面锚点导航.唐家哲,靖鑫,也树.mPaaS 小程序.智能投放 MCDP.解决...
来自: 云产品
移动推送
阿里云移动推送(AliCloud Mobile Push)是提供给移动开发者的移动端消息推送服务,通过在App中集成推送功能,进行高效的App精准推送、实时的App消息推送,从而使业务及时触达用户,提高用户粘性。
提高信息的到达率和实效性,扩展推送的使用场景.39A_行业实战场景.39A_【标题】产品动态.产品动态时间线组件.39A_【标题】文档与工具.唐家哲,靖鑫,也树.快速体验移动推送产品.39A_文档与工具.了解EMAS更多产品.39A_【标题】更多产品与服务.唐家哲,靖鑫,也树.面向移动开发者推出的一款域名解析产品,具有域名防劫持、精准...
来自: 云产品
邮件推送
邮件推送是阿里云为企业和个人提供的一款简单高效的邮件群发服务,构建在阿里云基础之上,它历经阿里双11消息群发的考验,助力企业或个人快速、精准地实现事务邮件、通知邮件和批量邮件的发送,以及业务的邮件营销,是一款高性价比的邮件营销工具。
邮件推送(DirectMail)是款简单高效的电子邮件群发服务,构建在阿里云基础之上,帮您快速、精准地实现事务邮件、通知邮件和批量邮件的发送。它历经双11考验,在发送速度、系统稳定性和到达率上表现优异;提供丰富的接口和灵活的使用方式,无需自建邮件服务器,开通即可享受阿里云优质的邮件服务,是企业做邮件营销的优选....
来自: 云产品
云速搭构建大规模云手机压测集群
云速搭构建大规模云<em>手机</em>压测集群
在互联网游戏行业新游发行前、金融行业的基金或券商APP在大版本更新前,均需要将APP部署到大规模测试环境中进行压测,确保大规模并发场景下对APP本身可靠性和后台业务系统的稳定性及资源准备情况做好验证。 本实践设计一个游戏压测场景,在阿里云的多地域快速部署共一万台云手机,每台云手机之间网络可互通,每台云手机通过阿里云提供的NAT网关可访问互联网。
文档版本:20220901 16 云速搭构建大规模云手机压测集群 云速搭架构模板准备 步骤4 在云手机界面打开 Chrome浏览器,访问外网地址,外网访问正常。1.5.验证云手机安装应用 本章节演示云手机通过 OSS提供的地址安装应用,演示测试过程。步骤1 下载测试 Demo程序。打开最佳实践提供的 demo应用地址:...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,弹性公网IP,NAT网关,云企业网,云速搭CADT,弹性云手机
无影云手机
无影云手机 (WUYING Cloud Phone)是一台运行在云端的虚拟手机,利用ARM虚拟化技术,为用户在云端构建一个安卓应用平台,可广泛应用于移动办公,云手游等场景。
无影云手机(Cloud Phone)是一台运行在云端服务器的虚拟手机,利用ARM服务器以及虚拟化技术,为用户在云端构建一个安卓应用平台。用户基于电脑、平板等终端,以串流的方式,远程实时操控,实现安卓应用云端运行,可以广泛应用于移动办公,游戏以及广告营销等场景.无影云手机(ECP版).产品价格(ECP版).无影云手机(Cloud ...
来自: 云产品
< 1 >
共有1页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用