基于函数计算FC实现阿里云Kafka消息轻量级ETL处理
基于函数计算FC实现阿里云Kafka消息轻量级ETL处理
在大数据ETL场景,Kafka是数据的流转中心,Kafka中的数据一般是原始数据,可能存在多种数据混杂的情况,需要进一步做数据清洗后才能进行下一步的处理或者保存。利用函数计算FC,可以快速高效的搭建数据处理链路,用户只需要关注数据处理的逻辑,数据的触发,弹性伸缩,运维监控等阿里云函数计算都已经做了集成,函数计算FC也支持多种下游,OSS/数据库/消息队列/ES等都可以自定义的对接
授权后,回到 CADT页面点击返回 再次进行应用部署,当出现校验成功时,可以查看一下界面中相关的信息,确认一下 是否是和自己的设计相符,如果相符单击下一步:价格清单。进入核算价格阶段,计价为实时询价,请耐心等待。这里会将应用中的云资源按照免 费、按量付费和包年包月进行分类显示,如果产品享受折扣这里会自动将...
来自: 最佳实践 相关产品:对象存储 OSS,函数计算,消息队列 Kafka 版
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景,企业的Kafka实例可能存在多种情况,比如使用阿里云Kafka服务,可能是自建开源Kafka,或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例,在这个前提下Kafka实例之间可能会需要消息同步的情况: 同帐号容灾场景:比如Kafka实例都是阿里云Kafka,但是Kafka实例会有主备之分,需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾:这类场景比如主Kafka是阿里云Kafka,备Kafka是IDC开源自建Kafka,或者是其他云上的Kafka。 不同业务之间消息同步:因为现在的业务通常不会是信息孤岛,都需要消息互通,所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例,并且这两个Kafka实例归属不同的RAM角色,有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题(重试机制,容错机制,死信队列等)。 大幅提升构建消息同步架构的效率,降低构建复杂度问题。
应用场景 在大数据场景,企业的Kafka实例可能存在多种情 况,比如使用阿里云Kafka服务,可能是自建开源 Kafka,或者是其他云上的云Kafka。不同的业务使 用不同类型的Kafka实例,在这个前提下Kafka实 例之间可能会需要消息同步的情况: 同帐号容灾场景:比如Kafka实例都是阿里云 Kafka,但是Kafka实例会有主备之分,需要将...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,函数计算,消息队列 Kafka 版
SAE-ACK应用双跑最佳实践
SAE-ACK<em>应用</em>双跑最佳实践
场景描述 实现ACK、SAE中部署的应用在东西向和南北向互通,实现SAE-ACK应用双跑。 应用场景 该最佳实践应用于两类场景: l 因为SAE支持更丰富自动扩缩指标(比如QPS,RT,TCP连接数等),所以将相对稳态的应用部署在ACK中,将相对弹性波动大的应用部署在SAE,借助SAE更强大的自动扩缩应对流量洪峰。 l 将K8s架构迁移到Serverless架构时,需要平滑过渡,所以该最佳实践中的双跑架构可以有效帮用户平滑的完成迁移。
 阿里云微服务引擎(MSE)解决问题  阿里云容器服务(ACK) 安全组  因为K8s的HPA设置相对复杂,默认提供  云速搭CADT 的CPU和内存不能满足实际需求(尤其是 Java技术栈),所以可以将弹性波动大的 部署在SAE,借助SAE更丰富的HPA规 则应对流量脉冲。 K8s架构向Serverless架构迁移的平滑过 渡。最佳实践...
来自: 最佳实践 | 相关产品:容器服务 ACK,Serverless 应用引擎,微服务引擎
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
在大数据ETL场景,将Kafka中的消息流转到其他下游服务是很常见的场景,除了常规的消息流转外,很多场景还需要基于消息体内容做判断,然后决定下游服务做何种操作。 该方案实现了通过Kafka中消息Key的内容来判断应该对MongoDB做增、删、改的哪种DML操作。 当Kafka收到消息后,会自动触发函数计算中的函数,接收到消息,对消息内容做判断,然后再操作MongoDB。用户可以对提供的默认函数代码做修改,来满足更复杂的逻辑。 整体方案通过CADT可以一键拉起依赖的产品,并完成了大多数的配置,用户只需要到函数计算和MongoDB控制台做少量配置即可。
应用场景 在大数据 ETL 场景,将 Kafka 中的消息流转到其 他下游服务是很常见的场景,除了常规的消息流 转外,很多场景还需要基于消息体内容做判断,然后决定下游服务做何种操作。该方案实现了通过 Kafka 中消息 Key 的内容来判 断应该对 MongoDB做增、删、改的哪种 DML 操 作。当 Kafka 收到消息后,会自动触发函数计算中...
来自: 最佳实践 | 相关产品:函数计算,消息队列 Kafka 版,云数据库 MongoDB版
基于SpringCloud应用玩转MSE实践
基于SpringCloud<em>应用</em>玩转MSE实践
随着业务不断创新,大型的单个应用和服务会被拆分为数个甚至数十个微服务,微服务架构已经被广泛应用。 微服务的好处在于快速迭代,如何在迭代过程中保障线上流量不受损。依赖开源产品缺少无运维工具,常常需要投入较大的运维人力和成本。 本实践提供基于云原生应用产品提供微服务注册配置中心、微服务治理和云原生网关等一系列高性能和高可用的企业级云服务能力。
的好处在于快速迭代,迭代过程保障线上流量不受损。依赖开源产品缺少专业运维工具,常常需要投入较大的运 维人力和成本。本实践基于云原生应用产品提供微服务注册配置中心、微 服务治理和云原生网关等一系列高性能和高可用的企业级 云服务能力。方案优势 本实践通过云速搭CADT,一键完成基础环境的搭建和部 署,提供...
来自: 最佳实践 | 相关产品:弹性公网IP,容器服务 ACK,日志服务(SLS),NAT网关,微服务引擎,消息队列 RocketMQ 版,云速搭
网盘与相册服务
网盘与相册服务基于阿里云高可用存储及高安全水位的能力,帮助客户解决办公数据的搜索、管理、共享、审计等文件管理难题,同时也可为企业办公新形态升级提供打包服务。
将已存储在阿里云OSS中的数据托管给相册与网盘服务PDS管理,PDS提供基于Drive、目录、文件的管理视图,提供给最终用户使用,并保留使用OSS原有接口的访问,完成数据在应用和用户间的联动以及和合作伙伴间的数据传递.将OSS中的数据通过简单配置,提供给最终用户(自建用户或钉钉、支付宝、淘宝等用户)受控使用.将应用(如...
来自: 云产品
网盘与相册服务PDS
网盘与相册服务(简称PDS)是阿里云为客户提供的面向企业、团队与个人的数据管理开放平台,提供一站式数据存储、分析和AI的能力。方便客户快速高效的构建可支撑海量用户的网盘与相册服务,同时针对团队及个人用户,支持免开发开箱即用。
企业文件管理服务应用场景.88A_标题-应用场景.谢赟辉,靖鑫,也树.文档集中管理,保障数据安全.办公文档散落在员工个人电脑,存储方式散乱,存在重要资料外泄、损坏或丢失的风险;日常工作者找文件如同大海捞针,耗费大量时间成本,影响办公效率.提供文件目录式管理能力,支持上传、下载、移动、复制、删除等文件管理操作....
来自: 云产品
远程办公-AD管控下的弹性云桌面
远程办公-AD管控下的弹性云桌面
在弹性云桌面中部署企业基础办公环境时,IT人员通常会面临以下问题,本文希望通过场景实践的方式,示范如何结合使用不同阿里云产品,来解决这些问题:用户如何管理?企业已有AD用户如何上云?云上共享文件服务权限怎么管?数据安全问题有保障吗?该如何设置?云桌面能使用本地机房或IDC中的服务吗? 本文使用的应用场景: 场景1:客户A在云上新建Windows ActiveDirectory(以下简称AD);弹性云桌面,和NAS文件存储服务部署在AD所在的VPC内。场景2:客户B在阿里云上已有AD和NAS。弹性云桌面创建在与AD不同的VPC中。AD与云桌面的VPC通过CEN连接。场景3:客户C在云下IDC有自建AD和文件服务。弹性云桌面创建在阿里云上。云下机房与阿里云弹性云桌面所在VPC通过IPsec VPN连接。 方案优势: 易部署:弹性云桌面支持快速便捷的桌面环境创建、部署、统一管控与运维。 CEN和VPN网关服务开通即用,配置实时生效,快速完成部署。 低成本:弹性云桌面无需前期传统硬件投资,帮您快速构建安全、高性能、低成本的桌面办公体系。可广泛应用于具有高数据安全管控、高性能计算等要求的金融、设计、视频、教育等领域。VPN网关基于Internet建立加密通道,比建立专线更便宜,快速实现混合云。 安全性:VPN网关使用IKE(秘钥交换协议)和IPSec对传输数据或进行加密,保证数据安全可靠。云桌面自带的安全策略保证数据不落地。 集中管控:通过Windows AD对云桌面用户和共享文件服务进行统一权限管控。可实现AD用户自动同步上云,和文件级别的权限管控。
文档版本:20201210 107 远程办公-AD管控下的弹性云桌面最佳实践 附录 4:云桌面相关 API 附录 4:云桌面相关 API 如果您熟悉网络服务协议和一种以上编程语言,推荐您调用 API管理您的云上资源 和开发自己的应用程序。尤其是当需要维护大量桌面实例的场景中,合理使用 API 将大大提升维护的效率和质量。云桌面 API概览:...
来自: 最佳实践 | 相关产品:云服务器ECS,弹性公网IP,文件存储NAS,NAT网关,云企业网,VPN网关,云桌面,云速搭CADT
新版产品集合页
基于丰富的产品,将计算、存储、网络、数据库、大数据、人工智能等最新产品技术与场景深度融合,为开发者打造稳定可靠的云基础设施以及云原生的开发环境。
人脸人体视觉智能开放平台提供普惠的视觉API服务,广泛应用于数字营销、互联网娱乐泛金融身份认证等场景。图像搜索免费试用以深度学习和机器视觉技术为核心,帮助用户在自建图库中实现相同或相似图片搜索的以图搜图服务。视觉计算服务弹性可伸缩的视觉智能计算服务,提供视觉数据接入、AI 算法训练、计算资源调度的能力。...
来自: 云产品
微服务引擎MSE
微服务引擎 MSE 面向业界注册配置中心、分布式协调、云原生网关、微服务治理和分布式任务调度等主流开源项目,提供商业版服务。
基于开源增强、多 AZ 部署、节点异常自愈等设计服务可用性 SLA 达 99.95%.入门版定价贴合自建,高阶版适当溢价,结合性能增强、稳定性、安全性保障整体 ROI.采用业内通用的接入方式,学习和操作成本低,提供服务自治能力,免运维.相比开源自建,注册配置性能可提升 40%、云原生网关性能可以提升 90%.通过信通院云原生安全...
来自: 云产品
企业级云上网络解决方案
企业级云上网络解决方案充分利用阿里云的相关产品能力,构建一张安全灵活可靠的云上网络平台。在满足业务可靠性、可扩展性等要求的同时,也能够满足企业在运维、安全和财务管理等方面的要求,支持企业业务系统向云计算平台进行迁移部署。
企业混合云互联互通设计.Z型图片卡片板式2.通用icon文字列表.为了实现企业规模化增长,需要持续降低 IT 成本.传统 IDC 实现高可靠架构需要高昂的成本和复杂的配置.传统网络基础设施的部署、管理和扩展能力难以应对快速迭代需求.传统 IT 采购模式不具备弹性,无法应对快速变化的市场需求.通用icon文字列表.谢赟辉,靖鑫,也树....
来自: 解决方案
混合云存储构建VMware虚拟化平台
混合云存储构建VMware虚拟化平台
场景描述 本文以混合云存储阵列SA2600系统为例,介绍如 何在混合云存储环境下部署VMware虚拟化平台, 以及混合云环境下虚拟机的部署、扩容、云备份等功 能演示。 解决问题 1.如何使用混合云存储部署VMware虚拟化平台。 2.存储阵列在混合云环境下的使用,比如虚拟机部 署、扩容、云备份等。 产品列表 1.混合云存储阵列 2.对象存储OSS
兼容POSIX文件接口,可支持数千台计算节点共享访问,可 以挂载到弹性计算ECS、神龙裸金属、容器服务ACK、弹性容器ECI、批量 算BCS、高性能计算EHPC,AI训练PAI等计算业务上提供高性能的共享存储,用户无需修改应用程序,即可无缝迁移业务系统上云。更多信息,请参见 https://www.aliyun.com/product/nas。文档版本:...
来自: 最佳实践 | 相关产品:专有网络 VPC,对象存储 OSS,访问控制,混合云存储阵列 Hybrid Cloud
云原生网关解决方案
云原生网关是阿里云提供的下一代网关解决方案,将流量网关 Nignx、微服务网关和安全网关三合一,解决了三层网关架构独立设计、独立运维导致的资源消耗大、性能损耗大、稳定性难控、安全防护复杂等难题。
应用实时监控服务 ARMS 作为一款云原生可观测产品平台,包含前端监控、应用监控、云拨测、Prometheus 监控、Grafana 服务等子产品.Web 应用防火墙 WAF.Web 应用防火墙对网站或者 APP 的业务流量进行恶意特征识别及防护,将正常、安全的流量回源到服务器.企业级分布式应用服务 EDAS.支持部署于 Kubernetes/ECS,无侵入支持 ...
来自: 解决方案
中间件
阿里云中间件产品支撑了淘宝、天猫、盒马、菜鸟、高德等阿里巴巴集团核心业务,整合了阿里云计算、存储、网络等基础产品,服务百万企业与开发者,助力系统稳定高效运行。
云消息队列 构建分布式互联网应用的基础设施 微服务工具与平台 流量网关、微服务网关和 WAF 安全网关三合一 云原生可观测 连接孤岛,而不是再造一座孤岛 应用集成 轻松构建松耦合、分布式的事件驱动架构产品矩阵应用场景客户案例权威认证最新白皮书下载阿里云中间件产品矩阵 助力企业高效稳定上云微服务工具与平台 ...
来自: 云产品
互联网电商行业离线大数据分析
互联网电商行业离线大数据分析
电商网站销售数据通过大数据分析后将业务指标数据在大屏幕上展示,如销售指标、客户指标、销售排名、订单地区分布等。大屏上销售数据可视化动态展示,效果震撼,触控大屏支持用户自助查询数据,极大地增强数据的可读性。
扬流 文档变更记录 版本编号 日期 作者 审核人 说明 V1.0 2019-06-26 弦望 隐林 创建 V1.1 2019-07-24 筱晖-文档优化、验证 V1.2 2019-10-10 弦望-新增最佳实践概述 V1.3 2019-12-04 弦望-新增git下载democode V1.4 2020-01-13 弦望-对齐大数据产品最新功 能 V1.5 2020-02-03 弦望-新增数据服务API开发 的HTTPS说明 V1.6 ...
来自: 最佳实践 | 相关产品:云服务器ECS,云数据库RDS MySQL 版,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,API网关,云速搭CADT
高性能计算存储解决方案
基于阿里云强大的存储产品能力,助力AI、基因、自动驾驶、天文和能源等行业打造高性能计算平台。
高性能计算存储解决方案.基于阿里云丰富的存储产品能力,助力 AI、基因、自动驾驶、天文和能源等行业...广泛应用于容器存储、大数据分析、Web 服务和内容管理、应用程序开发和测试、媒体和娱乐工作流程、数据库备份。支持冷热数据分级存储.根据您提交的需求,将有售前专家免费服务!根据您提交的需求,将有售前专家免费服务
来自: 解决方案
微服务引擎的线上流量治理
微服务引擎的线上流量治理
随着业务不断创新,微服务架构及数字化转型不断落地,在这个过程中,大量企业采用了开源的组件构建了微服务,比如有开源微服务全家桶之称的Spring Cloud体系或Apache Dubbo等,微服务的好处之一,在于快速迭代,如何在迭代过程中保障线上流量不受损? 开源产品无运维工具,常常需要投入较大的运维人力和成本。 本实践将重点介绍如何快速集成主流开源微服务框架,实现业务零改造,解决开源框架在生产落地过程中的痛点,例如无损上下线、标签路由等,并通过托管微服务开源组件(API网关、注册中心、配置中心等)的服务,提供白屏化监控告警、容灾、宕机重启、扩缩容等能力,帮助企业释放业务无关的运维成本,聚焦业务本身的运维和发展。 方案优势 快速集成:通过JavaAgent技术实现Sping Cloud和Dubbo框架可以实现业务零改造接入。 免运维:托管微服务依赖开源中间件的服务,提供白屏化监控告警、容灾、宕机重启、扩缩容等能力,帮助我们客户释放业务无关的运维成本,聚焦自身业务本身的运维和发展。 开源增强:提供开源框架在生产落地过程中的痛点,例如应用无损上下线/金丝雀发布/南北+东西流量打通等,帮助客户的业务提高自身SLA和降低自研成本。
本实践将重点介绍如何快速集成主流开源微 框架,实现业务零改造,解决开源框架在生产 落地过程中的痛点,例如无损上下线、标签路由 等,并通过托管微服务开源组件(API网关、注 册中心、配置中心等)的服务,提供白屏化监控 告警、容灾、宕机重启、扩缩容等能力,帮助企 业释放业务无关的运维成本,聚焦业务本身的运 ...
来自: 最佳实践 | 相关产品:容器服务 ACK,微服务引擎,云速搭CADT
云原生多模数据库Lindorm
云原生多模数据库Lindorm提供各规模、多模型的云原生数据库服务。可兼容HBase/Cassandra、OpenTSDB、Solr、SQL、HDFS等多种开源标准接口。支持海量数据的低成本存储处理和弹性按需付费,是互联网、IoT、车联网、广告、社交等场景首选数据库,也是为阿里核心业务提供支撑的数据库之一。
计算引擎完整支持开源Spark计算模型以及编程接口,提供高性能、低成本、稳定可靠的分布式计算服务,满足用户在Lindorm数据生产、交互式分析、机器学习和图计算等场景中的计算需求,支持对海量数据的高并发处理.深度集成阿里云时空数据库引擎Ganos,具备高效的时空多维索引和空间/时空查询能力,可结合流引擎与计算引擎实现...
来自: 云产品
区域医疗数字解决方案
区域医疗数字解决方案,将人工智能运用于医疗服务质量监管和提升。通过实时算法分析,避免问题发生,辅助医生诊疗。 逐步实现区域医疗机构通过大数据技术保障医疗服务
统一API接口设计.计算响应时间:病历书写速度:无影响.并发量:>100,000.区域医疗数字解决方案.客户选择解决方案按中需要的内容.根据客户选择的解决方案,进行相关的数据对接.数据在odps上进行相关处理,以满足后续应用要求.解决方案内的产品在专有云/用户环境进行部署.应用部署完毕后,进行用户账号创建,匹配相应权限....
来自: 解决方案
< 1 2 3 4 ... 16 >
共有16页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用