Function Compute构建高弹性大数据采集系统
Function Compute构建高弹性大数据采集系统
当前互联网很多场景都存在需要将大量的数据信息采集起来然后传输到后端的各类系统服务中,对数据进行处理、分析,形成业务闭环。比如游戏行业中的游戏发行、游戏运营,产互行业中的数字营销,物联网、车联网行业中的硬件、车辆信息上报等等。这些场景普遍存在数据采集量大、数据传输需要稳定且吞吐量大的特点,给整个数据采集传输系统带来很大的挑战。在这个场景中,有三个关键的环节,数据采集、数据传输、数据处理。该最佳实践主要涉
下游服务 下游服务包含从 Kafka里取数据进行实时处理的实时计算 Flink,数据处理完后 将数据推给 ES 存储,另外还有在第二个函数中对数据简单处理后直接存入数据 库。部署架构 文档版本:20210806(发布日期)3 Function Compute构建高弹性大数据采集系统 前置条件 前置条件 为了顺利完成本实践,您需要提前完成以下准备...
来自: 最佳实践 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,日志服务(SLS),函数计算,消息队列 Kafka 版,云速搭CADT
开源Flink迁移实时计算Flink全托管版最佳实践
开源Flink迁移实时计算Flink全托管版最佳实践
本方案介绍如何将自建开源Flink集群的流式任务(包含Datastream、Table/SQL、PyFlink任务)迁移至阿里云实时计算全托管版。
开源 Flink迁移实时计算 Flink全托管版 最佳实践 业务架构 场景描述 解决的问题 Flink全托管产品(Flink Serverless)是一款基于 Flink各类任务如何迁移 Apache Flink 构建的全托管产品,为您提供全托 数据准确性如何校验 管一站的实时计算服务,具有免运费、高增值、业务稳定性如何验证 低成本等特性。本方案介绍如何将...
来自: 最佳实践 | 相关产品:专有网络 VPC,云数据库RDS MySQL 版,E-MapReduce,实时计算,消息队列 Kafka 版,云速搭CADT
容器Swarm集群向ACK集群灰度迁移
容器Swarm集群向ACK集群灰度迁移
场景描述 随着K8S生态的完善,越来越多的客户需要从 Swarm集群迁移向ACK集群 解决问题 1.迁移过程中维持业务的延续性 2.迁移过程业务高可用 3.迁移过程可灰度 4.迁移过程可回滚 5.迁移进度可把控 产品列表 专有网络VPC 云数据库RDSMySQL 容器服务ACK 云服务器ECS
基于阿里云分布式文件系统和 SSD盘高性能存储,RDS 支持 MySQL、SQL Server、PostgreSQL、PPAS(Postgre Plus Advanced Server,高度 兼容 Oracle数据库)和 MariaDB引擎,并且提供了容灾、备份、恢复、监控、迁移等方 面的全套解决方案,彻底解决数据库运维的烦恼。文档版本:20190401 III 容器 Swarm集群向 ACK集群灰度...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,容器服务 ACK
自建K8S集群迁移ACK弹性裸金属集群
自建K8S集群迁移ACK弹性裸金属集群
场景描述 在微服务化改造之后,企业在享受K8S带来应 用管理的便利的同时,存在硬件性能不足,本 地扩展性差,容器容灾难,K8S管理复杂等问 题。 解决问题 1.增强K8S扩展性:如何通过弹性裸金属服务 器的强劲硬件性能,实现云端资源急速扩 展,从容应对应用访问压力大的问题。 2.如何简化云端K8S运维:通过阿里云容器服 务(ACK)实现敏捷开发和部署落地,加速 企业业务迭代。 3.如何综合考虑迁移和容灾:如何整合云上和 云下容器资源实现遇到故障时可以通过健 康检查实现自动容灾。 4.如何不改应用上云:如何实现应用上云数据 库连接零修改。 5.数据库上云及回退:如何实现上云回退; 产品列表 ACK/ECS/SLB/NAT网关/弹性裸金属服务器/DTS/RDS MySQL
容器 服务 Kubernetes版提供了三种 Kubernetes集群形态:专有版 Kubernetes、托管 版 Kubernetes和 Serverless Kubernetes,具体区别如下:Dedicated Kubern Managed Kuber Serverless Kubernetes etes netes Kubernetes Mast Kubernetes Master er 由容器服务创 和 Worker均为用户 建,用户只需创建 无需创建和管理 Master ...
来自: 最佳实践 | 相关产品:云数据库RDS MySQL 版,负载均衡 SLB,容器服务 ACK,NAT网关,弹性裸金属服务器(神龙),云速搭
弹性计算OOS审批流程自动化运维
弹性计算OOS审批流程自动化运维
场景描述 本文以ECS、RDS、SLB搭建一个小型的WEB系 统为例,介绍如何利用OOS在运维常见的部署系统、 扩容系统、回收系统三个场景中添加审批流程,并以 钉钉通知到对应的审批人员。 解决问题 1.对接阿里云API,通过OOS模板执行运维 任务,实现了运维自动化与可视化。 2.运维操作集成了RAM访问控制权限管理, 无需担心操作安全,并可以快速增加审批流 程,提高运维安全与效率。 产品列表 1.运维编排OOS 2.访问控制RAM 3.云服务器ECS 4.RDSMySQL版 5.负载均衡SLB
2.运维操作集成了RAM访问控制权限管理,如有问题请使用钉钉扫码联系文档作者:无需担心操作安全,并可以快速增加审批 程,提高运维安全与效率。产品列表 1.运维编排OOS 2.访问控制RAM 3.云服务器ECS 4.RDSMySQL版 5.负载均衡SLB 文档版本:20191122 云服务器ECS(产品名称)文档模板(手册名称)/文档版本信息 阿里云 ...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,负载均衡 SLB,运维编排
数据库异地灾备
数据库异地灾备
场景描述 适用于不满足于单地域,对数据可靠性 (RPO)和服务可用性(RTO)要求更高 的,希望防范断电、断网等机房故障,抵 御地震、台风等自然灾害,具备异地容灾 备份恢复能力的客户业务场景。 解决问题 1.实时备份,RPO达到秒级 2.表级恢复,故障恢复时间大大缩短 3.长期归档,自动管理备份生命周期 4.异地灾备,构建数据库灾备中心 产品列表 专有网络VPC 云服务器ECS 弹性公网IP(EIP) 负载均衡SLB 云数据库RDSMySQL 数据库备份服务DBS 对象存储服务OSS 数据湖分析服务DLA 数据管理服务DMS 数据传输服务DTS
无服务器(Serverless)化的云上交互查询分析服务。无需 ETL,就可通过此服务在云上通过标准 JDBC 直接对阿里云 OSS、TableStore、RDS等不同数据源里存储的数据轻松进行查询 和分析。DLA 无缝集成各类商业分析工具,提供便捷的数据可视化。详见:https://www.aliyun.com/product/datalakeanalytics DMS:数据管理服务...
来自: 最佳实践 | 相关产品:云数据库RDS MySQL 版,对象存储 OSS,数据管理,数据湖分析,数据库备份DBS,云速搭CADT
通过RocketMQ事务消息实现分布式事务
在日益复杂的分布式系统中,确保数据一致性成为一大挑战。本方案利用RocketMQ强大事务消息能力,确保跨服务事务的高可靠与最终一致性,同时还实现了事务处理的高效执行,是构建高性能、高可用分布式系统的关键路径。
在日益复杂的分布式系统中,确保数据一致性成为一大挑战。本方案利用RocketMQ强大事务消息能力,确保跨服务事务的高可靠与最终一致性,同时还实现了事务处理的高效执行,是构建高性能、高可用分布式系统的关键路径。通过RocketMQ事务消息实现分布式事务 在日益复杂的分布式系统中,确保数据一致性成为一大挑战。本方案利用...
灵活配置,高效执行,快速集成分布式任务调度
企业级应用中经常会遇到数据定时处理、文件处理、报表生成等定时处理的任务,对于任务配置和执行率有较高要求,本文介绍如何利用SchedulerX来实施企业级定时任务的调度与管理,为定时任务提供高效、稳定和灵活的解决方案。
任务依赖管理 在具有复杂依赖关系的任务链中,SchedulerX 提供强大的依赖管理和工作流编排功能。实时监控与告警 对于需要实时监控和快速响应的业务场景,SchedulerX 提供任务监控和智能告警能力。优惠购买 阿里云为你推荐优惠购买云产品 优惠购买 10000009535 10000011758 10000007836 免费试用 10000011871 10000011876 ...
通过PAI-灵骏分布式训练和部署Llama 2模型
灵骏支持业界各类流行的开源大语言模型,包括Llama2系列、Bloom系列、Falcon系列、GLM/ChatGLM系列,以及领域大模型galactica等的高效训练和部署。本方案整体可用于企业样本标注、创意文本生成、智能对话助手、文本类创作辅助等场景。
训练效率、性价比提升 大模型训练只需简单配置即可自动分布式并发执行,优化的计算、网络、通信和存储架构提高资源利用率,加快模型训练速度,大幅缩减训练时间和成本 架构与部署 通过PAI-灵骏分布式训练和部署Llama 2模型 本方案实现了大模型开发全链路打通,流程全面覆盖训练到部署各环节,简化大模型应用,加速其在业务...
分布式任务调度 SchedulerX
SchedulerX 是阿里巴巴自研的基于 Akka 架构的分布式任务调度平台(兼容开源 XXL-JOB/ElasticJob/K8s Job/Spring Schedule),支持 Cron 定时、一次性任务、任务编排、分布式数据处理,具有高可用、可视化、可运维、低延时等能力。
分布式任务调度 SchedulerX SchedulerX 是阿里巴巴自研的分布式任务调度平台(兼容开源 XXL-JOB/ElasticJob/Spring Schedule/K8s Job),支持 Cron 定时、一次性任务、工作流任务编排、分布式跑批,具有高可用、可视化、低延时等能力。最新变更公告>>管理控制台 产品文档 客户交流群>产品优势产品核心功能典型应用场景产品...
来自: 云产品
大规模分布式应用任务调度解决方案
大规模分布式应用任务调度解决方案,可以提供精确的周期性调度、任务编排、分布式计算、报警监控等能力,助力企业可视化地进行任务管理和运维。
工作流.运营操作.可观测.报警监控.高可用容灾.用户权限.版本兼容.日志查询.限流.开源XXL-JOB.第一个、最后一个、轮询、随机等.历史记录、运行日志(不支持搜索)、监控大盘.需要自己维护数据库和Server的容灾.用户隔离,通过账号密码登录.日志存在executor本地,机器挂了日志丢失.Schedule X为底座的XXL-JOB任务.启用、禁用...
来自: 解决方案
云原生数据库PolarDB 分布式
PolarDB 分布式版是阿里云自主设计研发的高性能云原生分布式数据库产品,为用户提供高吞吐、大存储、低延时、易扩展和超高可用的云时代数据库服务。
PolarDB 分布式版升级发布会,共建云原生分布式数据库生态 最新发布 公告 PolarDB产品体验升级和优化 新功能 PolarDB分布式版V2.3 集中分布式一体化开源发布 新功能 将DRDS模式数据库转换为AUTO模式数据库 新功能 Binlog日志服务 方案咨询 业务中台技术解决方案产品规格 PolarDB 新用户首次购买包年包月实例,指定规格...
来自: 云产品
金融分布式架构SOFAStack
阿里云金融分布式架构SOFAStack为金融用户提供全栈式的基础架构能力,是集项目管理、微服务开发、发布部署、监控运维、容灾高可用等全栈式解决方案,助力客户应用轻松转型分布式架构,保证风险安全的同时帮助业务需求敏捷迭代,支撑金融业务创新,开发人员学习成本最多可降低92%、应用开发效率可最多提升80%、运维人力成本最多可节省90%
金融分布式架构 SOFAStack™(Scalable Open Financial Architecture Stack)是构建金融级云原生架构的应用平台,沉淀了金融场景的最佳实践,提供服务构建、应用开发、部署发布、服务治理、监控运维、容灾高可用等全栈解决方案,兼容Dubbo、Spring Cloud等微服务运行环境,助力客户各类应用轻松转型分布式架构....
来自: 云产品
分布式身份服务
分布式身份服务 DIS 通过蚂蚁区块链,安全的存储个人和企业用户的身份信息,并在保护隐私的情况下为用户、用户信息提供方、用户信息使用方提供身份标识和信息交互,使得企业和机构可以更合规的使用和管理用户身份信息及数据授权,而身份信息的真实性得到了极大的保障。
数据在分布式系统上永久留存,由身份所有者管理,仅在被授权情况下使用而无法其他用途.利用生物识别、移动终端等多种手段,实现一个便捷的联合可控的数字身份管理体系.身份标识脱敏,避免了敏感数据盗用;数据全链路加密,实现了数据可用不可见.通用icon文字列表.统一身份管理体系,提供用户身份标识创建、更新和身份持有...
来自: 云产品
云原生分布式数据库PolarDB-X
阿里云云原生分布式数据库PolarDB-X(原DRDS升级版),可解决分库分表、海量数据存储、超高并发吞吐、复杂计算效率等问题。最高可支撑千万级并发和百PB级海量存储。
PolarDB 分布式版升级发布会,共建云原生分布式数据库生态 最新发布 公告 PolarDB产品体验升级和优化 新功能 PolarDB分布式版V2.3 集中分布式一体化开源发布 新功能 将DRDS模式数据库转换为AUTO模式数据库 新功能 Binlog日志服务 方案咨询 业务中台技术解决方案产品规格 PolarDB 新用户首次购买包年包月实例,指定规格...
来自: 云产品
企业级分布式数据库解决方案
企业级分布式数据库解决方案挂载管理多个云数据库 RDS for MySQL,可线性提升数据存储容量及并发吞吐。为企业级客户提供弹性、稳定、高效的企业级分布式关系型数据库解决方案。
企业级分布式数据库解决方案.通过阿里云云原生分布式数据库 PolarDB-X 1.0 挂载管理多个云数据库 RDS for MySQL,可线性提升数据存储容量及并发吞吐。为企业级客户提供弹性、稳定、高效的企业级分布式关系型数据库解决方案.PolarDB-X 全新升级.谢赟辉,靖鑫,也树.企业级分布式数据库解决方案.云原生分布式数据库 PolarDB-X 1...
来自: 解决方案
区块链分布式身份服务解决方案
区块链分布式身份服务解决方案提供基于区块链技术的实体身份标识及可信数据交换服务,具有分布式、多中心等特性。该服务符合 W3C DID 以及 W3C VC 规范,实体可以对数字身份进行便捷的创建、验证、管理。此外,实体之间能够进行可验证声明的颁发,用以满足复杂的场景需求。
身份等信息在基于区块链的分布式系统上永久留存,由身份所有者管理和授权,身份使用方在被授权的情况下使用而无法其他用途.利用零知识证明、密码学等技术助力身份标识脱敏,避免敏感数据盗用。全链路加密和存储身份信息,使得数据使用可用不可见.65A_65A_标题-copy.图文卡片(支持一行2、3、4).靖鑫,也树,徐衡,别针.统一...
来自: 解决方案
企业级分布式应用服务EDAS
阿里云企业级分布式应用服务EDAS是一个围绕应用和微服务的PaaS平台,提供多样的应用发布能力和轻量级微服务解决方案,帮助用户解决在应用和服务管理过程中监控、诊断和高可用运维问题,完全兼容Dubbo和Spring Cloud,助您轻松转型企业级互联网架构。
企业级分布式应用服务EDAS(Enterprise Distributed Application Service)是一个应用PaaS平台,一站集成微服务、可观测、任务调度等技术;以专业易用的应用全生命周期管理、流量及容量治理等功能,配合业务视角的验收、资源管控与成本优化能力,助力企业应用架构云原生化升级.80A_首页banner.谢赟辉,靖鑫,也树.EDAS 可以...
来自: 云产品
ECS+EAIS弹性伸缩最佳实践
ECS+EAIS弹性伸缩最佳实践
弹性加速计算实例EAIS通常与ECS配合使用,在大规模的弹性推理场景中,需要实现ECS弹性扩容的过程中自动创建弹性EAIS实例,并绑定到ECS上。当前弹性伸缩组ESS暂不满足此特殊场景的弹性伸缩需求。 本方案将通过结合CADT API、函数计算和Serverless工作流,演示如何快速且以可视化的方式进行此场景的弹性伸缩。
文档版本:20220810 34 ECS+EAIS弹性伸缩 创建 Serverless工作流流程 步骤5 创建流程 步骤6 创建好后的流程定义如下图所示:文档版本:20220810 35 ECS+EAIS弹性伸缩 创建 Serverless工作流流程 文档版本:20220810 36 ECS+EAIS弹性伸缩 模拟定时扩缩容任务 6.模拟定时扩缩容任务 步骤1 在流程页面,点击开始执行 步骤2 ...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,负载均衡 SLB,函数计算,Serverless 工作流,云速搭CADT,弹性加速计算实例
Spring Cloud Netflix应用迁移EDAS
Spring Cloud Netflix应用迁移EDAS
场景描述 Spring Cloud Netflix微服务应用迁移到EDAS 服务(SpringCloud Alibaba云版本)的方法, 迁移后充分利用阿里云监控、调用链、限流降级 等能力,优化应用生命周期管理。 解决问题 1.帮助自建SpringCloudNetflix微服务应用 通过简单修改迁移到阿里云企业级分布式 应用服务(EDAS)平台。 2.迁移到EDAS后,简化应用的运维,提升监 控、调用链探测、限流降级等管理能力,提 高对应用的全生命周期管理。 产品列表 企业级分布式应用服务(EDAS) 负载均衡(SLB) 专有网络(VPC) 云服务器(ECS)
Spring Cloud Netflix应用迁移 EDAS最佳实践 业务架构图 场景描述 Spring Cloud Netflix微服务应用迁移到 EDAS 服务(Spring Cloud Alibaba云版本)的方法,迁移后充分利用阿里云监控、调用链、限降级 等能力,优化应用生命周期管理。解决问题 1.帮助自建 Spring Cloud Netflix微服务应用 通过简单修改迁移到阿里云企业级...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,负载均衡 SLB,企业级分布式应用服务 EDAS
< 1 2 3 >
共有3页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用