一键训练大模型及部署GPU共享推理服务
通过创建ACK集群Pro版,使用云原生AI套件提交模型微调训练任务与部署GPU共享推理服务。支持快速创建Kubernetes集群,白屏配置任务数据共享存储和下载,并通过命令行工具Arena快速提交模型训练任务、部署推理服务。使用云原生AI套件可以让模型训练和推理提效,提高GPU资源利用率。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云备案控制台一键训练大模型及部署GPU共享推理服务方案介绍方案优势应用场景方案部署方案权益一键训练大模型及部署GPU共享推理服务通过创建ACK集群Pro版,使用云原生AI套件提交模型微调训练任务与部署GPU共享推理服务。支持快速创建Kubernetes集群,...
来自: 解决方案
容器场景下的应用性能监控、调用链拓扑、内存剖析
容器场景下的应用性能监控、调用链拓扑、内存剖析
场景描述 随着云原生及微服务技术的普及,越来越多的系统已经通过云原生和微服务技术实现企业的降本增效,同时因微服务及云原生的复杂性给系统运维带来非常大的挑战,云原生应用监控arms通过全链路应用监控,从端到端及代码级别的链路下钻能力、CPU、内存持续剖析及诊断能力,帮助客户降低系统故障定位难度,此demo,您将体验arms的链路监控、内存剖析等能力 应用场景 微服务+容器场景下链路调用拓扑,调用链可以显示出服务之间的调用顺序和层次关系,帮助开发人员理解和追踪代码的执行流程 在分布式系统中,一个请求往往需要通过多个服务来完成。当出现问题时,如请求超时、错误或异常,很难快速定位问题所在。 解决问题 调用链可以帮助运维人员解决以下问题: · 故障排查:当请求失败或出现错误时,调用链可以显示整个请求的路径和每个服务的执行情况,从而帮助运维人员快速定位问题所在。 · 性能优化:通过调用链,运维人员可以了解请求在系统中的执行时间和瓶颈所在,从而进行优化。 · 系统监测:调用链可以提供实时的系统监测和分析,帮助运维人员了解系统的健康状况和资源利用情况。
帮助客户降低系统故障定位难度,此demo,您 将体验arms的链路监控、内存剖析等能力 应用场景 微服务+容器场景下链路调用拓扑,调用链可以 显示出服务之间的调用顺序和层次关系,帮助开 发人员理解和追踪代码的执行流程 在分布式系统中,一个请求往往需要通过多个 来完成。当出现问题时,如请求超时、错误或 产品列表 ...
来自: 最佳实践 | 相关产品:弹性公网IP,容器服务 ACK,NAT网关,微服务引擎
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景,企业的Kafka实例可能存在多种情况,比如使用阿里云Kafka服务,可能是自建开源Kafka,或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例,在这个前提下Kafka实例之间可能会需要消息同步的情况: 同帐号容灾场景:比如Kafka实例都是阿里云Kafka,但是Kafka实例会有主备之分,需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾:这类场景比如主Kafka是阿里云Kafka,备Kafka是IDC开源自建Kafka,或者是其他云上的Kafka。 不同业务之间消息同步:因为现在的业务通常不会是信息孤岛,都需要消息互通,所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例,并且这两个Kafka实例归属不同的RAM角色,有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题(重试机制,容错机制,死信队列等)。 大幅提升构建消息同步架构的效率,降低构建复杂度问题。
产品介绍  专有网络VPC(VirtualPrivateCloud):是用户基于阿里云创建的自定义私有网络,不同的 专有网络之间二层逻辑隔离,用户可以在自己创建的专有网络内创建和管理云产品实例,比如ECS、负载均衡、RDS等。 函数计算FC(FunctionCompute):函数计算是事件驱动的全托管计算服务。使用函数计 算,您无需采购与管理...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,函数计算,消息队列 Kafka 版
从HTTP到HTTPS让网站更安全
本方案介绍如何在ECS上搭建Web应用以及在Nginx服务器上部署SSL证书开启HTTPS安全访问。
阿里云数字证书管理服务支持免费SSL证书和付费SSL证书。免费SSL证书一般仅用于个人网站或测试使用,不建议业务成熟的企业类型网站使用。两类证书在安全等级、兼容性、支持的证书类型、保险和保障、证书有效期及技术支持等方面均有区别。阿里云数字证书管理服务支持免费SSL证书和付费SSL证书。免费SSL证书一般仅用于个人网站...
来自: 解决方案
RTC
实时音视频(RTC)依托基于阿里云全球3200+节点及多年的音视频技术积累,提供高可用、高品质、超低延时的音视频通信服务。主要适用于直播互动、社交语聊、多人通话等场景。
依托阿里云 GRTN 品牌网络,全球覆盖 3200+节点,可以支持直播网络和 WebRTC 网络资源复用,保证弱网下的用户体验,实现全球高可靠服务.基于 WebRTC 链路可提供延时 300ms 以内的实时音视频互动,支持频道内连麦和跨频道连麦互动,观众可自由平滑上下麦,切换过程免等待.优秀的 3A 音频处理引擎,48kHz 全频带采样支持。...
来自: 云产品
容器多云统一监控日志
容器多云统一监控日志
多云、混合云成为常态,Forrester 报告中指出,未来 89% 的企业至少使用两个云,74% 的企业至少使用三个甚至更多公有云,在面对多云/混合云这样大的趋势下,Gartner报告指出,安全、运维复杂性、财务复杂性是多云架构的主要挑战,本方案给出了在多云/混合云场景下,构建基于容器环境下的统一管理、统一监控和统一日志方案,解决多云、混合云场景下,运维复杂性问题。 应用场景 客户在阿里云以外的其他云服务商(AWS、Azure、GCP、TencentCloud、HuaweiCloud等)或者IDC基于容器(Kubernetes)运行业务系统,希望构建容器场景下的统一监控日志系统,方便做不同大屏和问题分析定位。 解决问题 •构建容器多云统一监控和日志系统,在一个平台可以看到不同环境系统的运行情况。
 容器服务ACK:是阿里云提供的高性能可伸缩的容器应用管理服务,支持企业级 Kubernetes容器化应用的生命周期管理,支持容器集群生命周期管理能力。 分布式云容器平台ACKOne:是阿里云面向混合云、多集群、分布式计算、容 灾等场景推出的企业级云原生平台,ACKOne可以连接并管理您任何地域、任 何基础设施上的Kubernetes...
来自: 最佳实践 | 相关产品:专有网络 VPC,容器服务 ACK,日志服务(SLS),应用实时监控服务 ARMS ,微服务引擎
Landing-zone
企业上云第一步,规划和落地云上资源结构、访问安全、网络架构、安全合规体系,为企业搭建安全、高效、可管理的云环境。
持续优化成本,减少资源浪费标签Tag费用中心03网络规划·按照业务对网络分区,控制区域间的隔离互通·多种方式实现混合云组网,打造全球化网络架构·设计DMZ区,统一管理公网出口专有网络 VPC云企业 CEN负载均衡 SLBNAT 网关04身份权限·配置SSO,让企业用户有统一的登录方式·配置运维所需要的权限·限制访问的安全策略...
来自: 解决方案
基于OSS Object FC实现非结构化文件实时处理最佳实践
基于OSS Object FC实现非结构化文件实时处理最佳实践
现在绝大多数客户都有很多非结构化的数据存在OSS中,以图片,视频,音频居多。举一个图片处理的场景,现在各种终端种类繁多,不同的终端对图片的格式、分辨率要求也不同,所以一张图片往往会有很多张衍生图,那如果所有的衍生图都存在OSS中,那存储的成本会增加,所以就可以通过OSS Object FC的方案,在不同的终端请求时,对OSS中的原图基于终端的要求做实时处理,然后响应返回,这样OSS中只需要存储原图即可。音视频也有类似的场景。
创建RAM授权 为 已 创 建 关 联 的 默 认 角 色(AliyunFCDefaultRole)授 予 oss:WriteGetObjectResponse权限。具体的权限策略如下:步骤1 登录RAM访问控制(https://ram.console.aliyun.com/roles),对角色进行配置。文档版本:20240304 17基于OSSObjectFC实现非结构化文件实时处理最佳实践 场景验证 步骤2 新增...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算
SAE-ACK应用双跑最佳实践
SAE-ACK应用双跑最佳实践
场景描述 实现ACK、SAE中部署的应用在东西向和南北向互通,实现SAE-ACK应用双跑。 应用场景 该最佳实践应用于两类场景: l 因为SAE支持更丰富自动扩缩指标(比如QPS,RT,TCP连接数等),所以将相对稳态的应用部署在ACK中,将相对弹性波动大的应用部署在SAE,借助SAE更强大的自动扩缩应对流量洪峰。 l 将K8s架构迁移到Serverless架构时,需要平滑过渡,所以该最佳实践中的双跑架构可以有效帮用户平滑的完成迁移。
 阿里云微服务引擎(MSE)解决问题  阿里云容器服务(ACK) 安全组  因为K8s的HPA设置相对复杂,默认提供  云速搭CADT 的CPU和内存不能满足实际需求(尤其是 Java技术栈),所以可以将弹性波动大的 部署在SAE,借助SAE更丰富的HPA规 则应对流量脉冲。 K8s架构向Serverless架构迁移的平滑过 渡。最佳实践...
来自: 最佳实践 | 相关产品:容器服务 ACK,Serverless 应用引擎,微服务引擎
Kafka性能压测快速方案
Kafka性能压测快速方案
产品性能基线测试场景需要对产品进行性能测试得到详细的压测数据,本方案可以快速构建测试的客户端(kafka官方的压测客户端)和不同的Kafka服务端( SSD云盘版、高效云盘、Serverless版三种实例),方便客户进行POC完成性能验证。
值 topic test_kafka_perf1 test_kafka_perf1 test_kafka_perf1 group perf-consumer perf-consumer perf-consumer 分区数 24 24 24 产品介绍  专有网络VPC(VirtualPrivateCloud):是用户基于阿里云创建的自定义私有 ,不同的专有网络之间二层逻辑隔离,用户可以在自己创建的专有网络内创建和 管理云产品实例,比如...
来自: 最佳实践 | 相关产品:云服务器ECS,弹性公网IP,消息队列 Kafka 版
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
在大数据ETL场景,将Kafka中的消息流转到其他下游服务是很常见的场景,除了常规的消息流转外,很多场景还需要基于消息体内容做判断,然后决定下游服务做何种操作。 该方案实现了通过Kafka中消息Key的内容来判断应该对MongoDB做增、删、改的哪种DML操作。 当Kafka收到消息后,会自动触发函数计算中的函数,接收到消息,对消息内容做判断,然后再操作MongoDB。用户可以对提供的默认函数代码做修改,来满足更复杂的逻辑。 整体方案通过CADT可以一键拉起依赖的产品,并完成了大多数的配置,用户只需要到函数计算和MongoDB控制台做少量配置即可。
首次使用的用户可能会出现相关服务的授权提示,如下图所示,帐号首次使用 Kafka ,会校验出账号没有进行过 Kafka 服务授权提示。按照提示点击进行授权链接,跳转到对应产品的授权页面进行授权操作。授权后,回到 CADT 页面点击返回 17 文档版本:20240304 基于函数计算 FC 实现阿里云 Kafka 消息内容控制 MongoDB DML ...
来自: 最佳实践 | 相关产品:函数计算,消息队列 Kafka 版,云数据库 MongoDB版
基于SpringCloud应用玩转MSE实践
基于SpringCloud应用玩转MSE实践
随着业务不断创新,大型的单个应用和服务会被拆分为数个甚至数十个微服务,微服务架构已经被广泛应用。 微服务的好处在于快速迭代,如何在迭代过程中保障线上流量不受损。依赖开源产品缺少无运维工具,常常需要投入较大的运维人力和成本。 本实践提供基于云原生应用产品提供微服务注册配置中心、微服务治理和云原生网关等一系列高性能和高可用的企业级云服务能力。
的好处在于快速迭代,迭代过程保障线上流量不受损。依赖开源产品缺少专业运维工具,常常需要投入较大的运 维人力和成本。本实践基于云原生应用产品提供微服务注册配置中心、微 服务治理和云原生网关等一系列高性能和高可用的企业级 云服务能力。方案优势 本实践通过云速搭CADT,一键完成基础环境的搭建和部 署,提供...
来自: 最佳实践 | 相关产品:弹性公网IP,容器服务 ACK,日志服务(SLS),NAT网关,微服务引擎,消息队列 RocketMQ 版,云速搭
基于MSE和SAE的微服务部署与压测
基于MSE和SAE的微服务部署与压测
通过云原生微服务引擎MSE、SAE、PTS、ARMS产品,为spring cloud微服务应用提供部署和测试能力,提供一个经典微服务应用上云的典型架构,实现微服务应用的快速落地。
 弹性公网IP:弹性公网IP是独立的公网IP资源,可与阿里云专有网络VPC 类型的云服务器ECS、NAT网关、ENI网卡、私负载均衡SLB绑定,并可 以动态解绑满足灵活管理的要求。弹性公网IP可为您在云上部署的网站提供 Internet访问服务。 微服务引擎MSE:微服务引擎 MSE 面向业界主流开源微服务项目,提供注 册配置中心和...
来自: 最佳实践 | 相关产品:负载均衡 SLB,弹性公网IP,性能测试 PTS,应用实时监控服务 ARMS ,Serverless 应用引擎,微服务引擎,云速搭
基于MSE云原生网关同城多活
基于MSE云原生网关同城多活
借助云原生微服务MSE网关,MSE配置注册中心的同城容灾多活微服务应用。构建一个经典的微服务场景,实现同城容灾的步骤,体现云原生相关产品在用户上云,高可用同城容灾多活场景下的能力。
部署基础环境 Nacos-J相同 步骤6 分别双击 ack-main和 ack-standby图标,查看配置,如果是首次使用阿里云 ACK ,请点击右上角蓝色 link,根据提示进行服务授权。文档版本:20240423 4 基于MSE云原生网关同城多活最佳实践 部署基础环境 步骤7 查看 ack-main和 ack-standby的 worker节点密码,可以根据需要进行调整,默认...
来自: 最佳实践 | 相关产品:弹性公网IP,容器服务 ACK,NAT网关,微服务引擎
MSE网关使用JWT进行认证鉴权
MSE网关使用JWT进行认证鉴权
MSE网关中调用外部的认证鉴权服务,通过JWT的方式进行全局认证鉴权。 对网关有认证鉴权安全需求的场景,对于敏感的服务路由(可通过黑白名单方式配置)在网关层进行认证鉴权。
产品介绍 专有网络 VPC(Virtual Private Cloud):是用户基于阿里云创建的自定义私有 ,不同的专有网络之间二层逻辑隔离,用户可以在自己创建的专有网络内创建和 文档版本:20240402 5 MSE网关使用 JWT实现认证鉴权 最佳实践概述 管理云产品实例,比如 ECS、负载均衡、RDS等。传统型负载均衡 CLB(Classic Load ...
来自: 最佳实践 | 相关产品:负载均衡 SLB,Serverless 应用引擎,微服务引擎
HTTPS 加速网关-阿里云
网站域名一键接入即可实现网站HTTPS
频道页banner.靖鑫,习木,璟琪,别针.频道页banner.<数字证书管理服务(原SSL证书).HTTPS 加速网关....售前/售后人工咨询.谢赟辉,靖鑫,也树.孙慧颖,靖鑫,也树....营销2.0商品卡片.营销2.0商品卡片....网站开通HTTPS价值.HTTPS(Hypertext Transfer Protocol Secure)是一种网络安全传输协议,它在HTTP的基础...更多SSL数字证书管理服务.
来自: 云产品
飞天企业版
阿里云飞天企业版是基于阿里云飞天云计算操作系统,为政企客户专属构建的资源和云管完全独立的企业级云平台,阿里云专有云与公共云同根同源,支持私有化部署。
服务介绍咨询及交付上云及应用容灾运维及管理一朵云及资源运营培训及认证云平台咨询规划服务基于阿里云专有云的最佳实践和经验总结,提供包括云平台咨询规划、云内云外场景化技术集成和高阶交付架构设计等覆盖“建、、用”的全生命周期的规划设计服务,为客户云平台的技术选型、演进规划和架构规划提供全流程的平台架构...
来自: 云产品
大模型服务平台百炼
大模型服务平台是阿里云基于通义大模型等多种大模型的一站式大模型开发平台。提供完整的模型训练工具和开发套件,结合企业专属数据和API,帮企业构建大模型应用
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云备案控制台大模型服务平台产品简介产品优势产品功能入门与试用产品定价安全合规常见问题大模型服务平台百炼阿里云百炼于近期正式发布2.0版本,应用、模型双引擎全新升级,兼容LlamaIndex等开源框架,更具开放性的应用框架,更极致生态化的模型服务,...
来自: 云产品
Oracle RAC 12C云上部署
Oracle RAC 12C云上部署
Oracle RAC架构迁移上云,提供高并发,高吞吐,高安全等特性,适用于金融,电力,电信,制造业等传统客户的核心交易系统。
通过弹性网卡,您可以实现高可用集 群搭建、低成本故障转移和精细化的网络管理。 云企业CEN:云企业(CloudEnterpriseNetwork,简称CEN)是阿里云提 供的一款能够快速构建混合云和分布式业务系统的全球网络服务,为用户提供优 质、高效、稳定的网络传输环境,帮助用户打造一张具有企业级规模和通信能力 的云上网络。...
来自: 最佳实践 | 相关产品:块存储,专有网络 VPC,云服务器ECS,弹性公网IP,云企业网
大模型RAG对话系统部署
大模型RAG对话系统部署
大模型RAG对话系统最佳实践,旨在指引AI开发人员如何有效地结合LLM大语言模型的推理能力和外部知识库检索增强技术,从而显著提升对话系统的性能,使其能更加灵活地返回用户查询的内容。适用于问答、摘要生成和其他依赖外部知识的自然语言处理任务。通过该实践,您可以掌握构建一个大模型RAG对话系统的完整开发链路。
产品介绍 专有网络 VPC(Virtual Private Cloud):是用户基于阿里云创建的自定义私有 ,不同的专有网络之间二层逻辑隔离,用户可以在自己创建的专有网络内创建和 管理云产品实例,比如 ECS、负载均衡、RDS等。文档版本:20240131 4 大模型RAG对话系统部署最佳实践 最佳实践概述 人工智能平台 PAI(Platform of ...
来自: 最佳实践 | 相关产品:Elasticsearch,机器学习PAI-EAS,机器学习平台,云速搭
< 1 2 3 4 ... 30 >
共有30页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用