SLS数据入湖Kafka最佳实践
SLS数据入湖Kafka最佳实践
应用和数据分散在多云或混合云,在面对多云/混合云这样大的趋势下,数据无法进行统一的聚合、分析处理和导出等,本方案给出了在多云/混合云场景下,构建通过标准的Kafka协议和托管服务,SLS可以连接Kafka数据入湖导入,然后进行统一的海量数据的集中存储、智能转储、聚合分析查询等。
SLS 数据入湖 Kafka 最佳实践 业务架构 场景描述 应用和数据分散在多云或混合云,在面对多云/混合云这样大的趋势下,数据无法进行统一的 聚合、分析处理和导出等,本方案给出了在多 云/混合云场景下,构建通过标准的Kafka协议 和托管服务,SLS可以连接Kafka数据入湖导 入,然后进行统一的海量数据的集中存储、智 能转储、...
来自: 最佳实践 相关产品:云服务器ECS,日志服务(SLS),Serverless 应用引擎,消息队列 Kafka 版
阿里云日志服务SLS多云统一日志方案之腾讯云日志采集最佳实践
阿里云日志服务SLS多云统一日志方案之腾讯云日志采集最佳实践
使用日志服务SLS统一采集、存储、查询和分析阿里云、腾讯云等不同云厂商上的业务日志、系统日志和云产品日志,实现在一个平台上管理多云架构下的所有日志。
专有网络 VPC 混合云:客户使用IDC、公有云混合云架构,需 云服务器 ECS 要集中化管理云上云下所有日志。云速搭 CADT 有容器、主机多种基础资源:支持虚拟机、云主 日志服务 SLS 机、自建K8S、半托管的K8S。腾讯云 不希望在运维工具投入太多人力:日志量大,现 轻量云服务器 有日志平台(比如ELK)稳定性不足,性能变差,...
来自: 最佳实践 | 相关产品:日志服务(SLS),云速搭
容器多云统一监控日志
容器多云统一监控日志
多云、混合云成为常态,Forrester 报告中指出,未来 89% 的企业至少使用两个云,74% 的企业至少使用三个甚至更多公有云,在面对多云/混合云这样大的趋势下,Gartner报告指出,安全、运维复杂性、财务复杂性是多云架构的主要挑战,本方案给出了在多云/混合云场景下,构建基于容器环境下的统一管理、统一监控和统一日志方案,解决多云、混合云场景下,运维复杂性问题。 应用场景 客户在阿里云以外的其他云服务商(AWS、Azure、GCP、TencentCloud、HuaweiCloud等)或者IDC基于容器(Kubernetes)运行业务系统,希望构建容器场景下的统一监控日志系统,方便做不同大屏和问题分析定位。 解决问题 •构建容器多云统一监控和日志系统,在一个平台可以看到不同环境系统的运行情况。
 分布式云容器平台ACKOne:是阿里云面向混合云、多集群、分布式计算、容 灾等场景推出的企业级云原生平台,ACKOne可以连接并管理您任何地域、任 何基础设施上的Kubernetes集群,并提供一致的管理和社区兼容的API,支持 对计算、网络、存储、安全、监控、日志、作业、应用、流量等进行统一运维 控。 日志服务SLS:是云...
来自: 最佳实践 | 相关产品:专有网络 VPC,容器服务 ACK,日志服务(SLS),应用实时监控服务 ARMS ,微服务引擎
飞天企业版
阿里云飞天企业版是基于阿里云飞天云计算操作系统,为政企客户专属构建的资源和云管完全独立的企业级云平台,阿里云专有云与公共云同根同源,支持私有化部署。
核心系统云原生改造CIPU+容器实现应用容器化改造,EDAS实现应用托管服务,ARMS实现应用全链路监控。大数据上云全自研高性能大数据平台,支持本地高性能、高压缩率存储,也支持通过外表方式直接存储、分析异构存储系统的数据(如OSS/Hologres/OTS等),支持与开源Hadoop和自研MaxCompute的联邦计算。纳管Hadoop大数据平台...
来自: 云产品
基于MSE云原生网关同城多活
基于MSE云原生网关同城多活
借助云原生微服务MSE网关,MSE配置注册中心的同城容灾多活微服务应用。构建一个经典的微服务场景,实现同城容灾的步骤,体现云原生相关产品在用户上云,高可用同城容灾多活场景下的能力。
私网 NAT网关(也即 VPC NAT网关)可使 VPC内的 ECS实例通过私网地址转换服务,实现 VPC与 VPC之间、及 VPC与 线下 IDC互访能力。弹性公网 IP:弹性公网 IP是独立的公网 IP资源,可与阿里云专有网络 VPC类型 的云服务器 ECS、NAT网关、ENI网卡、私网负载均衡 SLB绑定,并可以动态解 绑满足灵活管理的要求。弹性公网 IP可为您...
来自: 最佳实践 | 相关产品:弹性公网IP,容器服务 ACK,NAT网关,微服务引擎
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景,企业的Kafka实例可能存在多种情况,比如使用阿里云Kafka服务,可能是自建开源Kafka,或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例,在这个前提下Kafka实例之间可能会需要消息同步的情况: 同帐号容灾场景:比如Kafka实例都是阿里云Kafka,但是Kafka实例会有主备之分,需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾:这类场景比如主Kafka是阿里云Kafka,备Kafka是IDC开源自建Kafka,或者是其他云上的Kafka。 不同业务之间消息同步:因为现在的业务通常不会是信息孤岛,都需要消息互通,所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例,并且这两个Kafka实例归属不同的RAM角色,有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题(重试机制,容错机制,死信队列等)。 大幅提升构建消息同步架构的效率,降低构建复杂度问题。
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步最佳实践 场景描述 业务架构 基于阿里云函数计算FC实现同帐号阿里云Kafka实 例之间消息、元数据同步,跨帐号阿里云Kafka实例 之间消息、元数据同步,阿里云Kafka实例和IDC 自建Kafka(其他云Kafka)之间消息、元数据同步。应用场景 在大数据场景,企业的Kafka实例...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,函数计算,消息队列 Kafka 版
新版产品集合页
基于丰富的产品,将计算、存储、网络、数据库、大数据、人工智能等最新产品技术与场景深度融合,为开发者打造稳定可靠的云基础设施以及云原生的开发环境。
最新产品动态洞悉前沿技术趋势洞悉前沿技术趋势获取更多阿里云产品和功能更新,加速业务创新与技术升级获取更多阿里云产品和功能更新,加速业务创新与技术升级密钥管理服务支持 Redis 动态凭据Redis 账号口令托管凭据支持定期轮转或立即轮转从而降低凭据泄露的风险。新功能/规格高速通道支持 VBR 粒度的出云流量计量数据...
来自: 云产品
企业级云灾备与数据管理
本方案以备份 ECS 文件为例,介绍如何部署一个简单的云灾备环境,以满足常见的数据保护需求。
一款服务满足两种场景需求,一次性备份或归档策略配置,全托管运行。云原生备份能力,高效稳定经济云备份拥有天级上线,即开即用的特点。专业灾备的重复数据删除能力节约上云带宽及备份存储的消耗。具备3个9的服务可用性及12个9的数据可靠性。同时客户用多少、付多少,无需一次性大量投入,TCO 低。应用场景本地/公共云数据...
来自: 解决方案
VMware迁移DDH
VMware迁移DDH
场景描述 介绍本地部署或托管在IDC环境的VMware系统迁移 上云至独立宿主机(DDH)的最佳实践。使用DDH在 云端构建由独享物理服务器组成的资源池,同时配合 ECS成熟稳定的虚拟化技术体系,充分利用云上资源 弹性、按使用付费的优势,快速构建高性能、高可靠 和可快速动态伸缩的虚拟化系统,满足安全、合规、 自定义部署、自带许可证(BYOL)等企业级需求。 解决问题 l云端独享高性能、高可靠、高弹性的物理服务器资源池。 l基于成熟云原生虚拟化技术体系,支持ECS自定义部 署,可在DDH环境和多租户环境间迁移。 l支持自带许可证(BYOL)。 产品列表 l访问控制RAM l专有网络VPC l云服务器ECS l对象存储OSS l专有宿主机DDH l资源编排ROS
VMware 迁移 DDH 最佳实践 场景描述 部署架构图:介绍本地部署或托管IDC环境的 VMware系统迁移 上云至独立宿主机(DDH)的最佳实践。使用 DDH在 云端构建由独享物理服务器组成的资源池,同时配合 ECS 成熟稳定的虚拟化技术体系,充分利用云上资源 弹性、按使用付费的优势,快速构建高性能、高可靠 和可快速动态伸缩的...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,访问控制,专有宿主机
海量共享设备安全高效运维
针对设备规模大、地理分布广泛、业务实时性要求高的共享设备,提供安全高效的设备管理运维。本方案基于阿里云物联网平台,搭配物联网卡的上网能力,由IoT安全运营中心为设备提供全方位的安全防护,保障共享设备的高可用接入和安全高效运维。
相关产品物联网平台物联网无线连接服务IoT 安全运营中心云服务器 ECS在线咨询方案优势高性价比使用阿里云物联网平台,比自建IDC整体性能提升10倍以上,开发运维成本降低50%,并能满足业务系统对性能、稳定性和安全的要求。一站式管理提供一站式设备接入、消息通信、监控运维、数据流转、数据服务等能力,轻松应对千万级设备...
来自: 解决方案
大数据近实时数据投递MaxCompute
大数据近实时数据投递MaxCompute
本文介绍离线大数据场景使MaxCompute构建云 上近实时数仓,打通云下数据上云链路,解决数据复杂类型支持和动态分区问题,满足高级数据处理需求的最佳实践。 l混合云环境下,现有业务系统零改造,打通数据上云链路。 l使用UDF实现复杂数据类型转换和数据动态分区。 l使用DataWorks配置周期调度业务流程,数据自动入仓。 l借助MaxCompute优化计算引擎,实现降本增效。 产品列表 云服务器ECS 专有网络VPC 访问控制RAM 数据总线DataHub E-MapReduceEMR DataWorks 大数据计算服务MaxCompute
文档版本:20240419 8 大数据近实时数据投递 MaxCompute 2.EMR Kafka集群配置 Topic 在本实践中,以阿里云华东 2(上海)地域模拟线下 IDC,并使用阿里云 EMR服务快速 搭建 Kafka集群以模拟客户自有的 Kafka集群。2.1.创建 Kafka Topic 在 CADT架构图中双击 emr-kafka实例,点击前往控制台,进入实例管理控制台。进入 ...
来自: 最佳实践 | 相关产品:块存储,专有网络 VPC,云服务器ECS,访问控制,E-MapReduce,DataWorks,大数据计算服务 MaxCompute,数据总线,云速搭CADT
RI和SCU全链路使用实践
RI和SCU全链路使用实践
场景描述 随着云计算的不断发展,更多的企业会使用云计算,且会有越来 越多的企业和用户开始重视云上使用成本。 其中计算和存储是云资源使用的主要服务之一。采用预留实例券 业务架构(RI)和存储容量单位包(SCU)可以帮助客户灵活的节省成本。 本文提供全链路使用实践,帮助客户快速验证云上服务,更合理 的使用RI/SCU。借助覆盖率指标和智能推荐,有效管理云上资 源成本。 用户价值 使用RI 和SCU,可以灵活抵扣相关资源。随时创建释放, 稳态业务资源效率提高。 一份RI 可以抵扣ECS+ACK+EMR+ECI 等服务,跨服务高 度灵活,无需再分开购买。 SCU可以跨可用区抵扣某个地域下所有类型的按量付费云 盘,简化购买与管理复杂度。 RI+SCU 大幅降低按量场景的计算和存储成本。 产品列表 专有网络VPC、容器服务Kubernetes 版ACK 云服务器ECS、预留实例券RI、存储容量单位包SCU
针对相对固定业务:比如自有的业务(从他云或 IDC迁移过来),已经稳定运行。业务上有明确的稳定计算和存储资源,可以采用包年包月购买形式;或者采取包年 包月+按量计费方式,利用 RI+SCU的灵活性,简化购买与管理复杂度,实现预 留和抵扣,来降本提效。2.针对大量弹性业务:有一些流量峰值,推荐通过监控核算一定周期的...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,负载均衡 SLB,容器服务 ACK,存储容量单位包,预留实例券
云数据库产品总览(瑶池)
阿里云提供完善的数据库解决方案,多款数据库产品,满足99%的业务场景,荣获Gartner、信通院等国内外多项认证。轻松满足高可靠、高可用性、高性能等数据库需求;运维工作量大幅减少,让企业一站式享受数据上云及分布式架构的技术红利!
支持一键备份MySQL等近10种热门数据库,支持本地IDC、ECS、云数据库多种环境,提供秒级应急恢复和恢复演练,并借助秒级沙箱实例和备份数据查询激活冷数据.数据库备份DBS.支持关系型数据库/NoSQL/OLAP等数据源间的迁移/同步/订阅,支持不停机上云迁移或数据库异地多活等.数据传输DTS.支持混合云数据库统一管理、细粒度安全...
来自: 云产品
基于k8s多集群隔离环境下的devops实现
基于k8s多集群隔离环境下的devops实现
场景描述 DevOps是一组过程、方法与系统 的统称,并通过工具实现自动化部署, 确保部署任务的可重复性、减少部署出 错的可能性。随着微服务、中台架构的 兴起,devops重要性日益显著。 本方案使用两个独立的k8s集群: 用户已有的k8s模拟测试,ack集群模 拟生产环境,保证环境的高度隔离,互 不影响。通过gitlab+Jenkins的黄金组 合,实现容器应用的自动化构建和持续 部署,提高迭代效率。 解决问题 1.微服务应用的CI/CD。 2.测试和生产环境的高度隔离。 3.自动化的测试与部署。 4.现有CI对接ACK。 产品列表 专有网络VPC 容器服务ACK 容器镜像服务ACR 弹性公网IP 负载均衡SLB
托管 K8S集群 如果您已经在线下 IDC自建了 Kubernetes集群,阿里云提供了注册托管功能,为分 布在各处的外部 Kubernetes 集群提供统一的使用、管理方式,同时具备对齐集群审 计、日志采集、监控告警等能力。本文通过在 ECS上搭建 Kubernetes集群来模拟自建集群,并作为测试环境。同时通 过 ack注册托管功能来统一管理。本文...
来自: 最佳实践 | 相关产品:专有网络 VPC,弹性公网IP,容器服务 ACK,容器镜像服务 ACR
混合云自有K8S弹性使用ECI
混合云自有K8S弹性使用ECI
场景描述 本文介绍线下IDC与云端通过专线构建混合云架构,自有K8S利用虚拟节点弹性调用ECI承载业务高峰期资源需求的最佳实践。 解决问题 混合云环境下,自有K8S集群注册至ACK,实现云端纳管。纳管K8S集群部署Virtual Node,使集群具备ECI资源调度能力。在以上环境中部署Web及离线作业应用,并使用ECI资源作为弹性资源池满足业务波峰需求。 产品列表 云服务器ECS 云架构设计工具CADT 专有网络VPC 访问控制RAM 云企业网CEN 弹性容器实例ECI Nat网关NAT 容器镜像服务ACR 负载均衡SLB 容器服务Kubernetes版ACK 弹性公网IPEIP
混合云 IDC自有 K8S弹性使用 ECI 最佳实践 业务架构 场景描述 解决问题 混合云环境下,自有 K8S集群注册至 ACK,本文介绍线下 IDC与云端通过专线构建混合云架构,自 实现云端纳管。纳管 K8S集群部署 Virtual Node,使集群具备 有 K8S利用虚拟节点弹性调用 ECI承载业务高峰期资 ECI资源调度能力。在以上环境中部署 Web应用,...
来自: 最佳实践 | 相关产品:块存储,专有网络 VPC,云服务器ECS,负载均衡 SLB,容器服务 ACK,访问控制,NAT网关,云企业网,容器镜像服务 ACR,弹性容器实例 ECI
云托付
云托付是以阿里云的机房技术、运维、安全标准,结合合作伙伴的机柜资源、优质线路,为阿里云客户提供一站式的混合云托管服务,实现云上、云下业务互联。
产品功能子项.产品功能子项描述.产品功能描述.云托付机房与阿里云同城接入点之间预先已通过冗余的线路对接,可用性达到99.95%.云托付机房与阿里云同城接入点道路距离≤50...云托付(Cloud Hosting)提供优质的机房托管资源、云专线网络以及增值服务,并与阿里云公共云产品结合,为企业搭建混合云提供基础资源.更多产品与服务.
来自: 云产品
分布式云容器平台ACK One
阿里云分布式云容器平台ACK One面向混合云、多集群、分布式计算等场景,支持连接您任何地域、基础设施上的K8s集群,提供一致的社区兼容的API,助力管理分布式云资源
从云端、边缘到 IDC,分布式云容器平台可以管理任意环境的 K8s 集群,为企业提供一致的云原生应用管理体验和最佳实践,助力企业实现统一安全治理、成本管理等能力.为多环境下不同集群提供统一调度和弹性能力,充分提升资源利用率;通过分布式数据编排,打通跨地域异构数据源,助力智能计算提速.提供备份、恢复、迁移一体化...
来自: 云产品
云原生Stack
云原生Stack简称CNStack,是阿里云一款开放的一站式企业级云原生技术中台,能帮助用户打造满足大规模、高性能、合规性和业务连续性等要求的分布式应用系统,提升企业数字化转型的整体效能。
容器云场景面向企业 IDC 数据中心、分布式基础设施及多云混合云基础设施,提供统一的资源调度和运维平面,帮助企业提升基础设施的资源利用率和运维效率,并通过可插拔的场景化组件,加快数字化业务的发布效率,提升系统稳定性,降低系统运维成本.1台 8c/16G 的虚拟机即可安装,极少的资源使用量将释放更多环境资源用于业务...
来自: 云产品
阿里云DNS
阿里云DNS覆盖了公网权威域名解析、内网域名解析、移动解析以及专有云的域名解析场景。为广大用户提供稳定、安全、快速、智能的域名解析服务,助力网站快速实现域名迁移及网站搭建,企业上云就来阿里云。
企业业务区上云 形成多云+传统IDC融合架构,内网DNS 分区自闭环解析,公共云VPC内使用云解析DNS(公共云版),专有云VPC内使用云解析DNS(专有云版),企业传统IDC、办公网以及其他异构环境使用私有化dns软件.东西向互联和流量调度.整体提升DNS的运维和管理效率.统一管理、统一运维、统一防护.统一管理:将分散在各个异构...
来自: 云产品
DBS通过IPSec VPN备份自建数据库
DBS通过IPSec VPN备份自建数据库
场景描述 客户业务系统部署在IDC或者公有云环境,对业 务数据有云上备份需求。在客户交流过程中,基 于数据高可用和灾备需求,要求将数据备份至阿 里云OSS的存储空间,同时备份数据流基于 IPSecVPN/专线进行安全传输。 解决的问题 自建数据库的云上/跨云备份需求 DBS提供了完善的备份机制和API OSS的分层存储机制降低备份集储存成本 基于IPSecVPN/专线进行安全传输。 产品列表 VPC,ECS,DBS,VPN网关,OSS
无需运维人员与托管费用,0成本运维。文档版本:20210812 1 DBS通过 IPSec VPN备份自建数据库 最佳实践概述 安全优势 使用 SSL和 AES256加密技术,保护备份数据传输和存储安全。多用户资源隔离机制,支持异地灾备机制。提供多种鉴权和授权机制及白名单、防盗链、主子账号功能。备份有效性随时验证,任务状况主动通知。提供...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,VPN网关,数据库备份DBS,云速搭
< 1 2 3 >
共有3页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用