如果您需要使用更丰富的实例类型，如通用型、计算型、大数据型、弹性裸金属服务器、GPU/FPGA/NPU异构计算型等，支持高并发网站、视频编解码、大型游戏、复杂分布式集群应用等业务场景，请使用云服务器ECS产品。关于云服务器ECS的更多实例...
云服务器 ECS／GPU 服务器 EGS／高性能计算服务（Alibaba Cloud HPC）+容器服务+对象存储 OSS／文件存储 NAS／CPFS 相关文档：使用Arena提交PyTorch分布式训练作业 基于Kubernetes使用TensorFlow进行分布式训练 微服务架构 实现敏捷开发和...
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的使用限制。本文介绍云服务器ECS在产品功能和服务性能上的不同限制，以及如何申请更高配额。限制概述 使用云服务器ECS有以下限制：仅弹性裸金属服务器和超级计算集群支持二次...
步骤一：安装云监控插件 当您在云服务器ECS控制台上创建阿里云主机（ECS实例）后，在云监控控制台的 主机监控 列表中会显示该主机，您需要为其安装云监控插件，才能对其进行监控。登录 云监控控制台。在左侧导航栏，选择 云资源监控 主机...
EAIS默认检查云服务器资源池中云服务器的健康状态，自动隔离异常状态的云服务器。消除了单台云服务器的单点故障问题，可提高EAIS的整体安全能力。资源变更追踪与操作审计 弹性加速计算实例EAIS已接入阿里云操作审计（ActionTrail），可为您...
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。本文介绍停止ECS实例，以及VPC内实例节省停机模式相关操作。前提条件 实例必须处于 运行中 状态。警告 停止实例会中断您的业务，请谨慎执行。停止包年包月实例 说明...
命名规则 阿里云云服务器ECS提供了多种实例规格族，一种实例规格族又包括多个实例规格。其中，实例规格族名称格式为 ecs.规格族，实例规格名称为 ecs.规格族.规格大小。实例具体命名含义如下所示：ecs：云服务器ECS的产品代号。规格族：由...
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。本文介绍如何通过控制台重启实例。影响与风险 业务中断：重启实例需实例停止再启动，会导致业务中断。内存数据丢失（强制重启实例）：强制重启实例时，在内存中未...
背景信息 创建弹性裸金属服务器实例和创建普通云服务器实例的步骤类似，本文仅介绍弹性裸金属特有的基本配置项，如果您想了解其他通用配置，请参见 自定义购买实例。操作步骤 前往 实例购买页。按需选择付费类型、实例规格及镜像等配置。...
请确保您已在云服务器ECS上安装云监控插件。具体操作，请参见 安装云监控插件。监控项说明 您可以从GPU、实例和应用分组维度查看GPU相关监控项。GPU的监控项如下表所示。监控项 单位 MetricName Dimensions（Agent）GPU维度解码器使用率%...
本文汇总使用GPU云服务器过程中涉及的基本概念，方便您查询和了解相关概念。GPU云服务器相关概念 概念 说明 GPU 图形处理器（Graphics Processing Unit），相比CPU具有众多计算单元和更多的流水线，适合用于大规模并行计算等场景。CUDA ...
弹性加速计算实例EAIS（Elastic Accelerated Computing Instances）是一款阿里云提供的性能卓越、成本优化、弹性扩展的IaaS（Infrastructure as a Service）级别弹性计算服务。EAIS可以将CPU资源与GPU资源成功解耦，帮助您将GPU资源附加到...
在 选择已有云服务器实例 配置向导页面，选择 添加方式 为 自动添加，在已有云服务器的列表中，选择所需的ECS云服务器，然后单击 下一步。重要 如果云服务器列表中无目标ECS云服务器，表明该ECS实例不满足添加到集群的条件。检查具体不满足...
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。当您不再需要某个GPU实例提供服务时，您可以释放该实例，以免产生额外的费用，本文主要介绍释放按量付费实例（包括抢占式实例）和已到期的包年包月实例。影响与风险...
假如某用户创建了一个GPU函数，GPU的显卡类型为Tesla系列，规格为GPU 16 GB，vCPU 8核，内存为32 GB，临时磁盘大小为512 MB。当月该函数设置的最小实例数为1，且时长为50个小时，设置了最小实例数为1后，函数执行请求时长为10小时，无执行...
实例概览 点击具体的ECS名称可以进入实例概览查看，实例概览为单实例级的可观测，在接入无代理指标（云监控指标）后会展示阿里云服务器ECS实例的基础监控大盘，包括：基础资源消耗监控、系统负载监控、网络基础监控。仅实例为GPU主机，GPU...
场景 需获取的实例地址 如何获取 使用阿里云服务器进行部署，且满足 内网访问条件 内网API域名 访问 实例管理，点击待连接实例后的 管理 按钮进入 实例详情 界面即可查看。从ECS实例访问实例，但不满足 内网访问条件 公网API域名 从本地...
无论您的主机是云服务器ECS，还是其他云厂商的虚拟机或物理机，都可以使用云监控的主机监控功能。目前云监控仅支持为Linux和Windows操作系统的主机安装插件。关于云监控插件 关于主机监控 概览 安装和卸载云监控插件 配置网络 版本说明 ...
ComfyUI-deepgpu插件 介绍 ComfyUI-deepgpu是一款免费插件，将阿里云DeepGPU推理加速技术以插件的形式集成至ComfyUI，提升在阿里云服务器上运行 ComfyUI工作流时的模型推理速度。该插件优势如下：较高的性能提升：DeepGPU能够有效降低模型...
什么是弹性伸缩ESS 云助手 云助手是专为云服务器ECS打造的原生自动化运维工具，通过免密码、免登录、无需使用跳板机的形式，在ECS实例上实现批量运维、执行命令（Shell、PowerShell和Bat等）和发送文件等操作。典型的使用场景包括：安装卸...
使用EAIS实例：您只需要购买如下计算资源：产品 实例规格 指标数据 云服务器ECS ecs.r6.6xlarge 24 vCPU 192 GiB 弹性计算加速实例EAIS eais.ei-a6.4xlarge 16 TFLOPS/FP32，32 GB/显存 综上所述，如果您购买GPU实例，则只能在已有的固定...
类型 业务场景 主要特征 云服务器（ECS）云服务器 服务器迁移、整体应用环境、定制化镜像 运行于物理机之上、满足VM层面系统设置需求、丰富的类型与规格 容器服务Kubernetes版（ACK）、弹性容器实例（ECI）容器 微服务、混合云部署 ...
本文主要介绍如何结合实际业务场景选购阿里云云服务器ECS。了解实例规格族 在进行规格选型之前，您需要提前了解以下信息：实例规格分类与命名：帮助您更好地理解实例规格族的命名及分类信息。实例规格族：了解在售实例规格族的详细信息。...
随着大语言模型技术的普及，企业对推理过程中的数据安全问题日益关注。本文将介绍如何基于阿里云异构机密计算实例...阅读并签署《云服务器ECS服务条款》等服务协议（若已签署，则无需重复签署，请以页面提示为准），然后单击 确认下单。在实例...
阿里云服务器操作系统V3 AI增强版（Alibaba Cloud Linux 3 AI Extension Edition）是阿里云基于Alibaba Cloud Linux 3推出的AI增强版，专为阿里云异构计算生态及AI全链路业务深度定制的操作系统镜像产品，并提供与通用的Alibaba Cloud ...
云服务器ECS异构服务型实例video-trans适用于视频转码、图像与视频内容处理以及帧图像提取等场景。通过本文您可以具体了解该实例的特点以及包含的实例规格和指标数据等。video-trans特点 提供专属硬件资源和物理隔离 高密度转码，例如显示...
操作步骤 步骤一：部署资源 为云服务器ECS实例构建云上的私有网络。登录 专有网络管理控制台，在左侧导航栏单击 专有网络。在 专有网络 页面单击 创建专有网络。在 创建专有网络 页面，配置1个专有网络和1台交换机。配置项 说明 示例值 ...
云产品名称 开通类型 产品说明 是否支持包年包月 是否支持资源包 计费说明 ECS云服务器 必选项 用于为ACK集群创建节点。更多信息，请参见 什么是云服务器ECS。不支持 不支持 计费概述 VPC专有网络 必选项 用于构建集群网络环境和路由规则。...
单击 创建节点池，选择 实例规格 为GPU云服务器，并设置 期望节点数 为所需节点数量。更多参数，请参见 创建和管理节点池。关于可选的GPU ECS规格，请参见 ACK支持的GPU实例规格。说明 当在实例规格列表里没有可用实例时，可选择其他虚拟...
gpu_lost_card_num 服务实例VM中丢失显卡数量 instance GPU Gauge count 60 instance_gpu_driver_hang 服务实例驱动挂起次数 instance GPU Gauge count 60 instance_gpu_profile_status 服务实例Amperf性能分析状态 instance GPU Gauge ...
如果您想要在GPU云服务器上进行GPU加速计算任务（例如科学计算或大规模并行计算等），则需要安装CUDA开发运行环境。CUDA提供了一整套工具和库，可以帮助您进行GPU加速的程序开发，以充分发挥NVIDIA GPU的计算潜力，提高计算性能和加速运行...
本章节介绍了云服务器ECS的产品功能和对应的文档动态。镜像版本更新信息请参见 公共镜像发布记录、Alibaba Cloud Linux镜像发布记录。服务器迁移中心SMC功能更新信息请参见 SMC新功能发布记录。更多有关阿里云最新产品动态，请订阅 云产品...
是 阿里云专属块存储集群 云服务可观测-是 阿里云专有宿主机 云服务可观测-是 高速通道-边界路由器 云服务可观测-是 无影云桌面 云服务可观测-是 E-HPC 弹性高性能计算平台 云服务可观测-是 ACK AHPA ACK AHPA接入 是-Docker单机容器监控 ...
是 阿里云专属块存储集群 云服务可观测-是 阿里云专有宿主机 云服务可观测-是 高速通道-边界路由器 云服务可观测-是 无影云桌面 云服务可观测-是 E-HPC 弹性高性能计算平台 云服务可观测-是 ACK AHPA ACK AHPA接入 是-Docker单机容器监控 ...
是 阿里云专属块存储集群 云服务可观测-是 阿里云专有宿主机 云服务可观测-是 高速通道-边界路由器 云服务可观测-是 无影云桌面 云服务可观测-是 E-HPC 弹性高性能计算平台 云服务可观测-是 ACK AHPA ACK AHPA接入 是-Docker单机容器监控 ...
支持显卡类型：GPU（A卡、L卡、T卡）。支持虚拟环境中运行AI作业或容器（ACK/自建k8s）中运行AI作业，当使用容器时，作业容器不能挂载主机的/proc 目录。不建议直接在主机python环境运行AI作业，其他场景支持 请 提交工单。仅支持python...
在深度学习、AI等通用计算业务场景下，安装了Tesla驱动的GPU才能发挥高性能计算能力。Windows系统GPU计算型实例不支持在创建实例时自动安装Tesla驱动，您只能参考本文操作手动安装Tesla驱动。操作步骤 说明 本文适用于所有Windows系统GPU...
图形渲染和游戏开发，需要合理地分配渲染任务至不同的GPU。GPU拓扑感知调度 启用NUMA拓扑感知调度 动态资源超卖 将集群中已分配但未使用的资源量化并提供给低优先级任务使用，以实现对集群资源的超卖。需要结合以下单机QoS策略使用，以避免...
Deepytorch Training是阿里云自研的AI加速器，面向传统AI和生成式AI场景，在模型训练过程中，可提供显著的训练加速能力。本文主要介绍安装并使用Deepytorch Training的操作方法。说明 关于Deepytorch Training的更多信息，请参见 什么是...
模型名称 模型版本 模型大小 vCPU 内存 GPU显存 系统盘 推荐实例规格 DeepSeek-R1-Distill-Qwen-1.5B 1.5B（15亿参数）6.7 GB 4核或6核处理器 30 GB RAM 24 GB 至少50 GB空闲空间 ecs.gn7i-c8g1.2xlarge DeepSeek-R1-Distill-Qwen-7B 7B...