基于函数计算FC实现阿里云Kafka消息轻量级ETL处理
基于函数计算FC实现<em>阿里云</em>Kafka消息轻量级ETL处理
在大数据ETL场景,Kafka是数据的流转中心,Kafka中的数据一般是原始数据,可能存在多种数据混杂的情况,需要进一步做数据清洗后才能进行下一步的处理或者保存。利用函数计算FC,可以快速高效的搭建数据处理链路,用户只需要关注数据处理的逻辑,数据的触发,弹性伸缩,运维监控等阿里云函数计算都已经做了集成,函数计算FC也支持多种下游,OSS/数据库/消息队列/ES等都可以自定义的对接
文档版本:20240408 6 基于函数计算 FC实现阿里云 Kafka消息轻量级 ETL处理 场景验证 因为CADT是可以一式的帮用户创建实例、部署实例、创建 Topic/Group,所以这里 可以一气呵成的将这些配置信息全部设置好,相较在产品控制台上多个步骤,跳转多 个页面做开通部署配置的传统方式,CADT这种模式可以极大提高效率。...
来自: 最佳实践 相关产品:对象存储 OSS,函数计算,消息队列 Kafka 版
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
基于函数计算FC实现<em>阿里云</em>Kafka消息内容控制MongoDB DML操作
在大数据ETL场景,将Kafka中的消息流转到其他下游服务是很常见的场景,除了常规的消息流转外,很多场景还需要基于消息体内容做判断,然后决定下游服务做何种操作。 该方案实现了通过Kafka中消息Key的内容来判断应该对MongoDB做增、删、改的哪种DML操作。 当Kafka收到消息后,会自动触发函数计算中的函数,接收到消息,对消息内容做判断,然后再操作MongoDB。用户可以对提供的默认函数代码做修改,来满足更复杂的逻辑。 整体方案通过CADT可以一键拉起依赖的产品,并完成了大多数的配置,用户只需要到函数计算和MongoDB控制台做少量配置即可。
基于函数计算 FC 实现阿里云 Kafka 消息内容控制 MongoDB DML 操作 最佳实践 场景描述 业务架构 基于阿里云 Kafka 消息的 Key 或者消息体的内 容做判断,然后对 MongoDB 做增,删,改的操 作。在传统 ETL 流程的基础上进一步增加了灵活 性和可扩展性。应用场景 在大数据 ETL 场景,将 Kafka 中的消息流转到其 他下游服务...
来自: 最佳实践 | 相关产品:函数计算,消息队列 Kafka 版,云数据库 MongoDB版
SLS数据入湖Kafka最佳实践
SLS数据入湖Kafka最佳实践
应用和数据分散在多云或混合云,在面对多云/混合云这样大的趋势下,数据无法进行统一的聚合、分析处理和导出等,本方案给出了在多云/混合云场景下,构建通过标准的Kafka协议和托管服务,SLS可以连接Kafka数据入湖导入,然后进行统一的海量数据的集中存储、智能转储、聚合分析查询等。
应用场景 客户在阿里云不同region、阿里云以外的其他 云服务商(AWS、Azure、GCP、TencentCloud、HuaweiCloud等)、或者IDC 等业务数据或应 用系统产品的日志数据等,汇总处理后,通过 标准的通用的协议Kafka,数据入湖到阿里云 SLS日志中心,进行统一分析和处理。解决问题 将多云、IDC分散的数据,通过标准协议,汇 产品...
来自: 最佳实践 | 相关产品:云服务器ECS,日志服务(SLS),Serverless 应用引擎,消息队列 Kafka 版
高效构建企业门户网站
使用云效将项目代码部署到云服务器ECS,快速完成一个企业门户网站的开发和部署。
对比项传统方案痛点阿里云快速建站解决方案技术投入自建或使用开源项目搭建基础设施:技术门槛高;大量人力、物力、财力投入;需要持续维护与升级;与内部系统、外部服务集成复杂一站式DevOps平台:集成项目协作、代码管理、自动化流水线、制品仓库、测试管理、应用交付等工具;减少基础架构构建与运维工作,专注于产品开发...
来自: 解决方案
可观测链路 OpenTelemetry版结合日志服务SLS关联分析最佳实践
可观测链路 OpenTelemetry版结合日志服务SLS关联分析最佳实践
可观测链路 OpenTelemetry 版为分布式应用的开发者提供了完整的调用链路还原、调用请求量统计、链路拓扑、应用依赖分析等工具,可以帮助开发者快速分析和诊断分布式应用架构下的性能瓶颈,当应用出现业务异常问题时,您可以在可观测链路 OpenTelemetry 版控制台关联查看日志进行分析,精准定位业务异常。
获取 OpenTelemetry 接入点和鉴权 Token•选择地域:选择 ACK 集群所在区域(首次创建,点击创建 Trace资源)•连接方式:选择 阿里云内网方式•上报方式:选择 gRPC•复制保存接入点和 token信息 步骤3 在容器服务控制台对应集群管理页面,配置管理>配置项 中找到 opentelemetry-文档版本:20240428 11 可观测链路 ...
来自: 最佳实践 | 相关产品:日志服务(SLS),云速搭
高效防护 Web 应用
随着网络技术的不断发展,您的Web应用如果没有流量入口的防护,会面临诸多风险。本方案以ECS实例接入WAF为例,推荐您使用Web应用防火墙(WAF)开启应用防护,避免网站服务器被恶意入侵导致性能异常等问题,保障网站的业务安全和数据安全。同时,为您节约开发成本,满足行业合规要求。
详细了解WAF与传统方案对比对比项传统硬件WAF或自WAF方案阿里云WAF接入成本硬件WAF要厂商派人去机房上架、改变网络拓扑、测试。自则需要大量的开发和测试工作。一键接入和启用防护。维护成本需要厂商专家上门或自安全团队+运维团队来维护。人员成本高,维护效率低。云上免维护的SaaS服务,业内顶级专家经验沉淀。7x24...
来自: 解决方案
企业建站场景解决方案
企业建站场景解决方案从客户需求角度梳理阿里云平台化且有竞争力的建站类产品,包含企业规模、建站形式、产品、业务方向、部署形式、安全合规、解决方案等维度,帮助客户解决互联网立足、企业对外展示、引流、获客、营销、企业管理等业务需求。
阿里云心选建站量身打造的定制建站服务,云架构包括云服务器 ECS、云数据库 RDS、全站加速 CDN、云盾等基础产品,确保网站快速、安全、稳定,服务可用性达到99.9%,性能更出色.全面应用阿里云计算技术.低成本免开发.资深设计师1对1服务,熟练运用各种设计风格与交互体验,匠心打造。整个服务流程均在线完成,有效解决建站...
来自: 解决方案
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景,企业的Kafka实例可能存在多种情况,比如使用阿里云Kafka服务,可能是自建开源Kafka,或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例,在这个前提下Kafka实例之间可能会需要消息同步的情况: 同帐号容灾场景:比如Kafka实例都是阿里云Kafka,但是Kafka实例会有主备之分,需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾:这类场景比如主Kafka是阿里云Kafka,备Kafka是IDC开源自建Kafka,或者是其他云上的Kafka。 不同业务之间消息同步:因为现在的业务通常不会是信息孤岛,都需要消息互通,所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例,并且这两个Kafka实例归属不同的RAM角色,有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题(重试机制,容错机制,死信队列等)。 大幅提升构建消息同步架构的效率,降低构建复杂度问题。
 专有网络VPC  跨帐号或异地容灾:这类场景比如主Kafka是 里云Kafka,备Kafka是IDC开源自Kafka, 阿里云交换机 或者是其他云上的Kafka。 阿里云安全组  不同业务之间消息同步:因为现在的业务通常不  阿里云函数计算(FC)会是信息孤岛,都需要消息互通,所以可能是A  阿里云云消息队列Kafka版 业务的Kafka...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,函数计算,消息队列 Kafka 版
容器多云统一监控日志
容器多云统一监控日志
多云、混合云成为常态,Forrester 报告中指出,未来 89% 的企业至少使用两个云,74% 的企业至少使用三个甚至更多公有云,在面对多云/混合云这样大的趋势下,Gartner报告指出,安全、运维复杂性、财务复杂性是多云架构的主要挑战,本方案给出了在多云/混合云场景下,构建基于容器环境下的统一管理、统一监控和统一日志方案,解决多云、混合云场景下,运维复杂性问题。 应用场景 客户在阿里云以外的其他云服务商(AWS、Azure、GCP、TencentCloud、HuaweiCloud等)或者IDC基于容器(Kubernetes)运行业务系统,希望构建容器场景下的统一监控日志系统,方便做不同大屏和问题分析定位。 解决问题 •构建容器多云统一监控和日志系统,在一个平台可以看到不同环境系统的运行情况。
云服务器ECS:用于部署单节点Kubernetes,模拟非阿里云容器集群 产品介绍  专有网络VPC(VirtualPrivateCloud):是用户基于阿里云创建的自定义私有 网络,不同的专有网络之间二层逻辑隔离,用户可以在自己创建的专有网络内创 建和管理云产品实例,比如ECS、负载均衡、RDS等。 云速搭CADT...
来自: 最佳实践 | 相关产品:专有网络 VPC,容器服务 ACK,日志服务(SLS),应用实时监控服务 ARMS ,微服务引擎
ELK迁移阿里云日志服务
自<em>建</em>ELK迁移<em>阿里云</em>日志服务
场景描述 ELK Stack(Elastic/Logstash/Kibana) 通常 被用于日志实时分析, 在开源社区中有大量 的内容和使用案例。 本文介绍如何将自建的 ELK 系统迁移到阿里云 SLS 日志服务。 解决问题 1. 自建 ELK 如何迁移到阿里云日志服务。 2. 如何使用 Logtail 采集日志。 3. 如何使用阿里云日志服务对日志进行查 询、 分析。 产品列表  阿里云日志服务(SLS)  VPN 网关  IPSec VPN  云服务器
文档版本:20240422 15自ELK迁移阿里云日志服务(SLS)搭建ELK环境 步骤2 首次进入会提示创建索引,点击Createindexpattern,输入Logstash采集配置设 置的nginx-logstash-index,并选择Timestampfield 文档版本:20240422 16自ELK迁移阿里云日志服务(SLS)搭建ELK环境 文档版本:20240422 17自ELK迁移阿里云日志...
来自: 最佳实践 | 相关产品:云服务器ECS,日志服务(SLS)
阿里云DNS
阿里云DNS覆盖了公网权威域名解析、内网域名解析、移动解析以及专有云的域名解析场景。为广大用户提供稳定、安全、快速、智能的域名解析服务,助力网站快速实现域名迁移及网站搭建,企业上云就来阿里云。
混合云互通:通过创建域名转发规则和DNS出终端节点,可将阿里云vpc下PrivateZone的DNS请求流量转发到外部DNS系统,能够有效解决混合云、云上&云下的业务间调用场景。【后付费】出终端节点源IP地址:1元/个/小时;出终端节点转发的DNS请求数量:0.03元/万次.解析器(Resolver).内网域名管理.全局流量管理.转发配置...
来自: 云产品
基于OSS Object FC实现非结构化文件实时处理最佳实践
基于OSS Object FC实现非结构化文件实时处理最佳实践
现在绝大多数客户都有很多非结构化的数据存在OSS中,以图片,视频,音频居多。举一个图片处理的场景,现在各种终端种类繁多,不同的终端对图片的格式、分辨率要求也不同,所以一张图片往往会有很多张衍生图,那如果所有的衍生图都存在OSS中,那存储的成本会增加,所以就可以通过OSS Object FC的方案,在不同的终端请求时,对OSS中的原图基于终端的要求做实时处理,然后响应返回,这样OSS中只需要存储原图即可。音视频也有类似的场景。
基于OSSObjectFC实现非结构化文件实时处理最佳实践 业务架构 场景描述 基于阿里云OSS和函数计算共同实现的产品化 集成解决方案OSSObjectFC,实现可以OSS 中的非结构化数据在读取时插入自定义业务逻 辑,对非结构化数据做实时处理后再返回。应用场景 现在绝大多数客户都有很多非结构化的数据存 在OSS中,以图片,视频,音频...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算
阿里云大数据&AI
阿里云大数据和AI产品服务。开放数据处理服务ODPS提供强大的数据分析和管理功能;开源大数据产品支持更加灵活地构建大数据平台;AI和机器学习产品提供AI工程平台和智算服务。
云原生一体化数仓是集阿里云大数据产品MaxCompute、DataWorks、Hologres和实时计算Flink版等产品能力于一体的一式大数据处理平台.通过ODPS大规模批量计算引擎MaxCompute和ODPS实时交互式计算引擎Hologres的深度融合,提供丰富和灵活的离线实时一体化的能力.通过更加开放的对数据湖的支持以及对数据分析多样化统一管理的湖...
来自: 云产品
小型互联网迁移阿里云
小型互联网迁移<em>阿里云</em>
场景描述 本方案主要适用于中小型互联网企业,从他云 迁移到阿里云的最佳实践。方案中会概述网络 规划、服务器、数据库、存储数据、Kafka和 镜像数据的迁移方案描述。同时在实践环节, 增加服务器和RDS的迁移操作演练和验证。 解决问题 提供服务器、数据库等关键环节的平滑迁移方 案 提供云上高可用架构参考 提供模拟简单的演练回归流程机制 产品列表 云服务器(ECS)、迁云工具(SMC)、数据库 (RDS)、数据库(Redis)、数据传输(DTS)、 负载均衡(SLB)、专有络(VPC)等
账 户 余 额 大 于 100 元。登 录 后,打 开 https://expense.console.aliyun.com/#/account/home,查看余额。提前根据业务发展情况,规划资源。本实践的示例脚本可以从如下方式去获取进行参考,不需要直接从文档里进行拷 贝:git clone https://code.aliyun.com/best-practice/097.git 遇到文意或使用...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS
阿里云最佳实践离线大数据workshop
<em>阿里云</em>最佳实践离线大数据workshop
本最佳实践,首先搭建一个简化的电商 demo 系统,然后为此 demo 系统构建一套离 线大数据分析系统。 实践目标 1. 学习搭建一个离线大数据分析系统,学习从数据采集到数据存储和业务分析的业 务流程。 2. 整个离线大数据分析系统全部基于阿里云产品进行搭建,学习掌运用各个服务组 件及各个组件之间如何联动。 背景知识要求 熟练掌握 SQL 语法 对大数据体系系统知识有一定的了解
文档版本:20210802(发布日期)87阿里云最佳实践金融大数据WorkShop 利用QuickBI进行展示 步骤2 选择数据库shop_a,找到trade_age_d拖动到上方的编辑框。步骤3 将ds转换为时间维度类型。文档版本:20210802(发布日期)88阿里云最佳实践金融大数据WorkShop 利用QuickBI进行展示 步骤4 添加age_range计算字段。因为原始...
来自: 最佳实践 | 相关产品:云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,日志服务(SLS),大数据计算服务 MaxCompute,DataV数据可视化,数据总线,Quick BI,云速搭
飞天企业版
阿里云飞天企业版是基于阿里云飞天云计算操作系统,为政企客户专属构建的资源和云管完全独立的企业级云平台,阿里云专有云与公共云同根同源,支持私有化部署。
服务介绍咨询及交付上云及应用容灾运维及管理一朵云及资源运营培训及认证云平台咨询规划服务基于阿里云专有云的最佳实践和经验总结,提供包括云平台咨询规划、云内云外场景化技术集成和高阶交付架构设计等覆盖“、管、用”的全生命周期的规划设计服务,为客户云平台的技术选型、演进规划和架构规划提供全流程的平台架构...
来自: 云产品
基于SpringCloud应用玩转MSE实践
基于SpringCloud应用玩转MSE实践
随着业务不断创新,大型的单个应用和服务会被拆分为数个甚至数十个微服务,微服务架构已经被广泛应用。 微服务的好处在于快速迭代,如何在迭代过程中保障线上流量不受损。依赖开源产品缺少无运维工具,常常需要投入较大的运维人力和成本。 本实践提供基于云原生应用产品提供微服务注册配置中心、微服务治理和云原生网关等一系列高性能和高可用的企业级云服务能力。
 弹性公网IP:是独立的公网IP资源,可与阿里云专有网络VPC类型的云服务器ECS、NAT网关、ENI 网卡、私网负载均衡SLB绑定,并可以动态解绑满足灵活管理的要求。弹性公网IP可为您在云上部署 的网站提供Internet访问服务。 NAT网关(NATGateway)提供公网NAT和私网NAT两种功能。公网NAT网关通过自定义SNAT、文档版本:...
来自: 最佳实践 | 相关产品:弹性公网IP,容器服务 ACK,日志服务(SLS),NAT网关,微服务引擎,消息队列 RocketMQ 版,云速搭
基于云速搭CADT快速构建药物筛选批量计算环境-serverless版
基于云速搭CADT快速构建药物筛选批量计算环境-serverless版
本方案基于云速搭 CADT提供一个快速构建云上Serverless版HPC批量计算环境的模板,针对生物制药领域的药物筛选场景,提供开箱即用的整套解决方案工具包,整个云上环境仅需1个小时即可完成自动化部署搭建。
产品介绍 弹性高性能计算(E-HPC):基于阿里云基础设施,为用户提供一式公共云 HPC/AI 平台服务,面向科研,生产,教育和行业大计算,提供快捷,弹性,安全和与阿里 文档版本:20240204 2 基于云速搭 CADT部署药物筛选批量计算环境-Serverless版 最佳实践概述 云产品互通的云超算平台。文件存储 NAS:阿里云文件存储 NAS...
来自: 最佳实践 | 相关产品:弹性公网IP,文件存储NAS,日志服务(SLS),容器镜像服务 ACR,操作审计,密钥管理服务,云防火墙,弹性高性能计算E-HPC,云速搭
智能商业分析 Quick BI
瓴羊智能商业分析 Quick BI 是阿里云用户臻选的数据可视化工具,大幅提升数据分析和报表开发效率,一站式满足企业各种场景的数据分析和决策的诉求。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云备案控制台智能商业分析 Quick BI产品简介产品优势产品功能产品选型入门与试用技术解决方案产品定价安全合规客户案例常见问题社区智能商业分析 Quick BIQuick BI 提供智能化数据分析及可视化能力,满足用户数据准备、数据分析、数据可视化等需求。...
来自: 云产品
新版产品集合页
基于丰富的产品,将计算、存储、网络、数据库、大数据、人工智能等最新产品技术与场景深度融合,为开发者打造稳定可靠的云基础设施以及云原生的开发环境。
加速 DCDN免费试用基于广分布的边缘节点,守护和优化全球网络环境,为您的在线业务提供更加快速、安全和智能的一体化服务安全阿里云安全全面的安全能力与产品解决方案荣获国际三大权威机构认可的云厂商,为云上企业用户提供覆盖六大核心领域 61个能力项的整体安全解决方案,协同客户构建云上纵深防御体系。云安全DDoS ...
来自: 云产品
< 1 2 3 4 ... 10 >
共有10页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用