SLS数据入湖Kafka最佳实践
SLS数据入湖Kafka最佳实践
应用和数据分散在多云或混合云,在面对多云/混合云这样大的趋势下,数据无法进行统一的聚合、分析处理和导出等,本方案给出了在多云/混合云场景下,构建通过标准的Kafka协议和托管服务,SLS可以连接Kafka数据入湖导入,然后进行统一的海量数据的集中存储、智能转储、聚合分析查询等。
1.4、创建VPC对等连接,模拟专线连接,也可以通过公网连接 2、华东2(上海)region:2.1、开通云产品:Kafka、SAE 2.2、云服务器ECS(模拟业务产生日志)2.3、SAE模拟应用引擎(SAE或K8S集群等),产品日志数据,投递到 Kafka 文档版本:20240428 2SLS数据入湖Kafka最佳实践 最佳实践概述 产品介绍  专有网络VPC...
来自: 最佳实践 相关产品:云服务器ECS,日志服务(SLS),Serverless 应用引擎,消息队列 Kafka 版
基于MSE原生网关实现全链路灰度
基于MSE<em>云</em>原生网关实现全链路灰度
在微服务场景中,应用间的调用是随机的。当您部署的Spring Cloud应用或Dubbo应用存在升级版本时,可能会导致无法将具有一定特征的流量路由到应用的目标版本。通过MSE提供的全链路灰度能力,您无需修改业务代码,就可以实现端到端的全链路流量控制。泳道可以将应用的相关版本隔离成一个独立的运行环境。通过设置泳道规则,可以将满足规则的请求流量路由到目标版本的应用。
多台云服务器进行流量分发的负载均 衡服务,可以通过流量分发扩展应用系统对外的服务能力,通过消除单点故障提 升应用系统的可用性。 ACK:容器服务Kubernetes版,简称ACK。提供高性能且可伸缩的容器应用管 理能力,支持企业级容器化应用的全生命周期管理。在2021年,ACK 成为国 内唯一连续三年入选Gartner 公共云容器报告...
来自: 最佳实践 | 相关产品:弹性公网IP,容器服务 ACK,NAT网关,微服务引擎
通过ES兼容接口方式使用Kibana访问SLS数据
通过ES兼容接口方式使用Kibana访问SLS数据
自建ELK日志系统的客户迁移到阿里云日志服务SLS后,对SLS查询分析语法不太熟悉的客户,可以继续沿用原有的查询分析习惯,在不改变使用方式习惯的情况下,通过Elasticsearch兼容接口的方式使用Kibana访问SLS。
sls:用于采集、存储、查询分析ACK集群wordpress业务的日志,在部署sls时 选择跳过,因为在创建ack集群时,sls控制台上会自动创建一个名为k8s-log-${ id}的project,当然用户也可以选择指定名称的project不选择跳过部署●kubectl:该ECS用于部署kubectl工具,用于连接ACK集群●es兼容:该ECS用于部署Kibana、Proxy和...
来自: 最佳实践 | 相关产品:云服务器ECS,容器服务 ACK,日志服务(SLS)
RocketMQ性能压测快速方案
RocketMQ性能压测快速方案
在客户对产品性能存疑或者给客户进行POC验证时可以用本实践来快速完成性能测试。
 弹性公网IP:弹性公网IP是独立的公网IP资源,可与阿里云专有网络VPC类型 的云服务器ECS、NAT网关、ENI网卡、私网负载均衡SLB绑定,并可以动态 解绑满足灵活管理的要求。弹性公网IP可为您在云上部署的网站提供Internet访 问服务。 云消息队列RocketMQ版:是阿里云基于ApacheRocketMQ构建的低延迟、高 并发、高可用、高...
来自: 最佳实践 | 相关产品:云服务器ECS,弹性公网IP,消息队列 RocketMQ 版,云速搭
可观测链路 OpenTelemetry版结合日志服务SLS关联分析最佳实践
可观测链路 OpenTelemetry版结合日志服务SLS关联分析最佳实践
可观测链路 OpenTelemetry 版为分布式应用的开发者提供了完整的调用链路还原、调用请求量统计、链路拓扑、应用依赖分析等工具,可以帮助开发者快速分析和诊断分布式应用架构下的性能瓶颈,当应用出现业务异常问题时,您可以在可观测链路 OpenTelemetry 版控制台关联查看日志进行分析,精准定位业务异常。
最佳实践频道 http://bp.aliyun.com 阿里最佳实践分享 钉钉搜索钉群号 31852400入 微服务引擎MSE用户交流 钉钉搜索钉群号 43525005207入 可观测链路 OpenTelemetry 版结合日志服务 SLS关联分析 最佳实践 文档版本:20240428(发布日期)可观测链路 OpenTelemetry 版结合日志服务 SLS最佳实践 文档版本信息 文档...
来自: 最佳实践 | 相关产品:日志服务(SLS),云速搭
MSE原生网关解析body内容进行路由转发
MSE<em>云</em>原生网关解析body内容进行路由转发
MSE云原生网关中通过自定义插件transformer解析body内容,并用以路由转发规则判断
产品列表 专有网络 VPC 传统负载均衡 CLB 原生网关 MSE Serverless应用引擎 SAE 云速搭 CADT 最佳实践频道 http://bp.aliyun.com 阿里最佳实践分享 钉钉搜索钉群号31852400入 微服务引擎MSE用户交流 钉钉搜索钉群号43525005207入 MSE原生网关解析 body内容进行路由转发 最佳实践 文档版本:20240426(发布...
来自: 最佳实践 | 相关产品:负载均衡 SLB,Serverless 应用引擎,微服务引擎,云速搭
高效防护 Web 应用
随着网络技术的不断发展,您的Web应用如果没有流量入口的防护,会面临诸多风险。本方案以ECS实例接入WAF为例,推荐您使用Web应用防火墙(WAF)开启应用防护,避免网站服务器被恶意入侵导致性能异常等问题,保障网站的业务安全和数据安全。同时,为您节约开发成本,满足行业合规要求。
相关产品云服务器 ECSWeb应用防火墙 WAF专有网络 VPC在线咨询方案部署01部署准备准备您的阿里云账号,以及需要配置Web防护的ECS实例。02开通WAF您可以通过免费试用或者前往控制台开通Web应用防火墙。03将 ECS 实例接入WAF将ECS实例接入WAF,WAF会自动生成防护对象,并为其默认开启基础防护规则。04验证方案在浏览器中输入...
来自: 解决方案
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景,企业的Kafka实例可能存在多种情况,比如使用阿里云Kafka服务,可能是自建开源Kafka,或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例,在这个前提下Kafka实例之间可能会需要消息同步的情况: 同帐号容灾场景:比如Kafka实例都是阿里云Kafka,但是Kafka实例会有主备之分,需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾:这类场景比如主Kafka是阿里云Kafka,备Kafka是IDC开源自建Kafka,或者是其他云上的Kafka。 不同业务之间消息同步:因为现在的业务通常不会是信息孤岛,都需要消息互通,所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例,并且这两个Kafka实例归属不同的RAM角色,有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题(重试机制,容错机制,死信队列等)。 大幅提升构建消息同步架构的效率,降低构建复杂度问题。
云服务器ECS免去了您采购IT 硬件的前期准备,让您像使用水、电、天然气等公共资源一样便捷、高效地使用服务器,实现计算资源的即开即用和弹性伸缩。阿里云ECS持续提供创新型服务器,解决多种业务 需求,助力您的业务发展。 云速搭CADT(CloudArchitectDesignTools):是一款为上云应用提供自助式云架构管理 的产品,显著...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,函数计算,消息队列 Kafka 版
容器多云统一监控日志
容器多云统一监控日志
多云、混合云成为常态,Forrester 报告中指出,未来 89% 的企业至少使用两个云,74% 的企业至少使用三个甚至更多公有云,在面对多云/混合云这样大的趋势下,Gartner报告指出,安全、运维复杂性、财务复杂性是多云架构的主要挑战,本方案给出了在多云/混合云场景下,构建基于容器环境下的统一管理、统一监控和统一日志方案,解决多云、混合云场景下,运维复杂性问题。 应用场景 客户在阿里云以外的其他云服务商(AWS、Azure、GCP、TencentCloud、HuaweiCloud等)或者IDC基于容器(Kubernetes)运行业务系统,希望构建容器场景下的统一监控日志系统,方便做不同大屏和问题分析定位。 解决问题 •构建容器多云统一监控和日志系统,在一个平台可以看到不同环境系统的运行情况。
云服务器ECS:用于部署单节点Kubernetes,模拟非阿里云自建容器集群 产品介绍  专有网络VPC(VirtualPrivateCloud):是用户基于阿里云创建的自定义私有 网络,不同的专有网络之间二层逻辑隔离,用户可以在自己创建的专有网络内创 建和管理云产品实例,比如ECS、负载均衡、RDS等。 云速搭CADT...
来自: 最佳实践 | 相关产品:专有网络 VPC,容器服务 ACK,日志服务(SLS),应用实时监控服务 ARMS ,微服务引擎
SAE-ACK应用双跑最佳实践
SAE-ACK应用双跑最佳实践
场景描述 实现ACK、SAE中部署的应用在东西向和南北向互通,实现SAE-ACK应用双跑。 应用场景 该最佳实践应用于两类场景: l 因为SAE支持更丰富自动扩缩指标(比如QPS,RT,TCP连接数等),所以将相对稳态的应用部署在ACK中,将相对弹性波动大的应用部署在SAE,借助SAE更强大的自动扩缩应对流量洪峰。 l 将K8s架构迁移到Serverless架构时,需要平滑过渡,所以该最佳实践中的双跑架构可以有效帮用户平滑的完成迁移。
最佳实践频道 http://bp.aliyun.com 阿里最佳实践分享 钉钉搜索钉群号31852400入 Serverless应用引擎(SAE)用户交流 钉钉搜索钉群号23156632入 钉钉搜索钉群号23198618入 钉钉搜索钉群号32874633入SAE-ACK应用双跑 最佳实践 文档版本:20240311(发布日期)SAE-ACK应用双跑最佳实践 文档版本信息 文档版本...
来自: 最佳实践 | 相关产品:容器服务 ACK,Serverless 应用引擎,微服务引擎
自建数据库迁移到数据库
本方案介绍如何将网站的自建数据库迁移至云数据库 RDS,解决您随着业务增长可能会面临的数据库运维难题。数据库采用高可用架构,支持跨可用区容灾,给业务带来数据安全、可用性、性能和成本方面收益。方案提供了快速体验教程,模拟了数据库迁移所需的工作,帮助您快速上手。
体验此教程会为您创建的资源架构图如下:相关产品云服务器 ECS云数据库 RDS MySQL 版方案咨询01准备资源通过一键部署脚本,快速创建一个模拟环境,包含一个运行网站应用和数据库的ECS实例,以及一个迁移目标RDS实例。02迁移数据库这一步骤将引导您使用数据传输服务DTS,将ECS上自建的数据迁移到RDS中。03验证及切换通过这一...
来自: 解决方案
超级计算集群实现自然语言处理训练
超级计算<em>集群</em>实现自然语言处理训练
场景描述 本方案适用于自然语言训练场景,使用神龙 GPU云服务器(SCCGN6)+CPFS进行NLP的 训练,采用Bert模型。这里不使用容器,直接 使用裸机进行NLP的Bert训练,使用飞天AI加 速训练工具可以有效提升多机多卡的训练效率。 解决问题 使用神龙GPU云服务器搭建NLP训练环 境 使用SCC的RDMA网络 使用CPFS存储训练数据 使用飞天AI加速训练工具加速训练 产品列表 神龙GPU云服务器(SCCGN6) SCC超级计算集群 CPFS共享存储
超级计算集群实现自然语言处理训练 最佳实践 部署架构图 场景描述 本方案适用于自然语言训练场景,使用神 龙GPU云服务器(SCCGN6)+CPFS进 行NLP的训练,采用Bert模型。这里不使 用容器,直接使用裸机进行NLP的Bert训 练,使用AIACC可以有效提升多机多卡的 训练效率。解决问题  使用神龙GPU云服务器搭建NLP训练 环境  ...
来自: 最佳实践 | 相关产品:文件存储NAS,超级计算集群
基于MSE和SAE的微服务部署与压测
基于MSE和SAE的微服务部署与压测
通过云原生微服务引擎MSE、SAE、PTS、ARMS产品,为spring cloud微服务应用提供部署和测试能力,提供一个经典微服务应用上云的典型架构,实现微服务应用的快速落地。
 弹性公网IP:弹性公网IP是独立的公网IP资源,可与阿里云专有网络VPC 类型的云服务器ECS、NAT网关、ENI网卡、私网负载均衡SLB绑定,并可 以动态解绑满足灵活管理的要求。弹性公网IP可为您在云上部署的网站提供 Internet访问服务。 微服务引擎MSE:微服务引擎 MSE 面向业界主流开源微服务项目,提供注 册配置中心和...
来自: 最佳实践 | 相关产品:负载均衡 SLB,弹性公网IP,性能测试 PTS,应用实时监控服务 ARMS ,Serverless 应用引擎,微服务引擎,云速搭
云服务器 ECS
阿里云服务器ECS是一种处理能力可弹性伸缩的云主机虚拟服务器,它使服务器托管更安全稳定,可降低开发运维成本,支持包年包月、按量付费等模式,方便财务更好管理
相关产品云服务器ECS本产品专有网络 VPC一键部署Spark集群大数据场景,推荐使用倚天实例,主从节点皆有性能优异表现快速处理大规模数据Spark能够在大规模数据上进行快速的数据处理和分析,具备高速的数据处理能力。相比传统的MapReduce模型,Spark能够在内存中进行计算,减少了磁盘I/O的开销和数据传输的延迟,从而提高了...
来自: 云产品
容器场景下的应用性能监控、调用链拓扑、内存剖析
容器场景下的应用性能监控、调用链拓扑、内存剖析
场景描述 随着云原生及微服务技术的普及,越来越多的系统已经通过云原生和微服务技术实现企业的降本增效,同时因微服务及云原生的复杂性给系统运维带来非常大的挑战,云原生应用监控arms通过全链路应用监控,从端到端及代码级别的链路下钻能力、CPU、内存持续剖析及诊断能力,帮助客户降低系统故障定位难度,此demo,您将体验arms的链路监控、内存剖析等能力 应用场景 微服务+容器场景下链路调用拓扑,调用链可以显示出服务之间的调用顺序和层次关系,帮助开发人员理解和追踪代码的执行流程 在分布式系统中,一个请求往往需要通过多个服务来完成。当出现问题时,如请求超时、错误或异常,很难快速定位问题所在。 解决问题 调用链可以帮助运维人员解决以下问题: · 故障排查:当请求失败或出现错误时,调用链可以显示整个请求的路径和每个服务的执行情况,从而帮助运维人员快速定位问题所在。 · 性能优化:通过调用链,运维人员可以了解请求在系统中的执行时间和瓶颈所在,从而进行优化。 · 系统监测:调用链可以提供实时的系统监测和分析,帮助运维人员了解系统的健康状况和资源利用情况。
 弹性公网IP:是独立的公网IP资源,可与阿里云专有网络VPC类型的云服务器ECS、NAT 网关、ENI网卡、私网负载均衡SLB绑定,并可以动态解绑满足灵活管理的要求。弹性公 网IP可为您在云上部署的网站提供Internet访问服务。 云速搭CADT(CloudArchitectDesignTools):是一款为上云应用提供自助式云架构管理 的产品,显著地...
来自: 最佳实践 | 相关产品:弹性公网IP,容器服务 ACK,NAT网关,微服务引擎
基于k8s多集群隔离环境下的devops实现
基于k8s多<em>集群</em>隔离环境下的devops实现
场景描述 DevOps是一组过程、方法与系统 的统称,并通过工具实现自动化部署, 确保部署任务的可重复性、减少部署出 错的可能性。随着微服务、中台架构的 兴起,devops重要性日益显著。 本方案使用两个独立的k8s集群: 用户已有的k8s模拟测试,ack集群模 拟生产环境,保证环境的高度隔离,互 不影响。通过gitlab+Jenkins的黄金组 合,实现容器应用的自动化构建和持续 部署,提高迭代效率。 解决问题 1.微服务应用的CI/CD。 2.测试和生产环境的高度隔离。 3.自动化的测试与部署。 4.现有CI对接ACK。 产品列表 专有网络VPC 容器服务ACK 容器镜像服务ACR 弹性公网IP 负载均衡SLB
由于 sign-k8s集群是通过 ECS 云服务器模拟线下的测试环境,不能和云上 SLB联动,所以这里一直处于创建中。在 测试环境中,可以通过 NodeIp:NodePort的方式进行访问测试,此例中,NodePort 为 31442,配置安全组入方向策略,通过 ECS的 EIP,可以直接访问该服务。文档版本:20220121 51 基于 K8S多集群隔离环境下的 DevOps...
来自: 最佳实践 | 相关产品:专有网络 VPC,弹性公网IP,容器服务 ACK,容器镜像服务 ACR
DDH集群运维管理
DDH<em>集群</em>运维管理
场景描述 当前许多企业的IDC业务场景,资源管理 等使用习惯与公共云不同,使用DDH集群 管理,继承IDC虚拟化使用习惯,比如自 定义ECS规格。同时针对CPU负载较低 的场景,通过CPU超分,可以有效提高资 源利用率,节省整体成本。并且可以通过账 号授权业务团队,结合云监控资源使用率, 方便业务使用的同时又能有效遏制资源浪 费。 方案优势 1.使用专有宿主机集群构建云上环境,通 过超分提高资源利用率,降低企业成 本。 2.通过访问控制授权,云监控资源,完成 专有宿主机集群运维管理使用闭环。 产品列表 访问控制RAM 专有网络VPC 云服务器ECS 云监控CloudMonitor
云服务器ECS(产品名称)文档模板(手册名称)/文档版本信息 阿里云 DDH集群运维管理 最佳实践 文档版本:20200616 文档版本:20150122(发布日期)2 DDH集群运维管理最佳实践 文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 DDH集群运维管理最佳实践 文档编号 164 文档版本 V1.0 版本日期 2020-06-16 文档状态 ...
来自: 最佳实践 | 相关产品:专有网络 VPC,访问控制,云监控,专有宿主机
EMR HBase on OSS存算分离集群快速恢复
EMR HBase on OSS存算分离<em>集群</em>快速恢复
OSS-HDFS服务(JindoFS服务)是一款云原生数据湖存储产品。基于统一的元数据管理能力,在完全兼容HDFS文件系统接口的同时,提供充分的POSIX能力支持,能更好地满足大数据和AI等领域的数据湖计算场景。
最佳实践频道 阿里最佳实践分享 阿里 EMR HBase on OSS存算分离 集群快速恢复 最佳实践 文档版本:20220915(发布日期)EMR HBase on OSS存算分离集群快速恢复 文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 EMR HBase on OSS存算分离集群快速恢复 文档编号 306 文档版本 V1.1 版本日期 2022-09-15 文档...
来自: 最佳实践 | 相关产品:专有网络 VPC,对象存储 OSS,E-MapReduce,云速搭CADT
中小企业CDH集群上云升级CDP解决方案
中小企业 CDH 集群上云升级 CDP 解决方案,助力原 CDH/HDP 的用户快捷升级到企业级 CDP 环境,并链接阿里云相关产品服务。同时,基于阿里云便捷的基础网络设施和云网络服务,能够快速构建云上云下互联的混合云架构。
云服务器ECS.对象存储OSS.边缘网络加速.中小企业CDH集群上云升级CDP解决方案.云服务器ECS.对象存储OSS.边缘网络加速.基于 Apache Kafka,构建高性能、高可用的流式消息平台,并集合流式场景的其他工具如 NiFi、Flink、Spark Streaming 等,统一通过 CDP 开展相关工作.流式消息处理.流式消息处理.准实时分析需要对变化中的...
来自: 解决方案
MSE网关使用JWT进行认证鉴权
MSE网关使用JWT进行认证鉴权
MSE网关中调用外部的认证鉴权服务,通过JWT的方式进行全局认证鉴权。 对网关有认证鉴权安全需求的场景,对于敏感的服务路由(可通过黑白名单方式配置)在网关层进行认证鉴权。
解决问题 MSE网关和认证鉴权服务的集成问题 产品列表 专有网络 VPC 传统负载均衡 CLB 原生网关 MSE 最佳实践频道 Serverless应用引擎 SAE http://bp.aliyun.com 云速搭 CADT 阿里最佳实践分享 钉钉搜索钉群号31852400入 微服务引擎MSE用户交流 钉钉搜索钉群号43525005207入 MSE原生网关使用 JWT进行认证鉴权 ...
来自: 最佳实践 | 相关产品:负载均衡 SLB,Serverless 应用引擎,微服务引擎
< 1 2 3 4 ... 15 >
共有15页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用