一键训练大模型及部署GPU共享推理服务
通过创建ACK集群Pro版，使用云原生AI套件提交模型微调训练任务与部署GPU共享推理服务。支持快速创建Kubernetes集群，白屏配置任务数据共享存储和下载，并通过命令行工具Arena快速提交模型训练任务、部署推理服务。使用云原生AI套件可以让模型训练和推理提效，提高GPU资源利用率。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云备案控制台一键训练大模型及部署GPU共享推理服务方案介绍方案优势应用场景方案部署方案权益一键训练大模型及部署GPU共享推理服务通过创建ACK集群Pro版，使用云原生AI套件提交模型微调训练任务与部署GPU共享推理服务。支持快速创建Kubernetes集群，...
来自：
解决方案
GPU云服务器
阿里云GPU云服务器（GPU Cloud Computing，GPU）是提供 GPU 算力的弹性计算服务，具有超强的计算能力，服务于深度学习、科学计算、图形可视化、视频处理多种应用场景。阿里云作为亚洲第一的云服务提供商，随时为您提供触手可得的算力，有效缓解计算压力，提升您的业务效率，助您提高企业竞争力。
gn6v规格族、gn7i(指定规格)首购活动，包月5折，包年低至4折起.gn6v规格族包月低至6折起，gn6i规格族包年5折起.A10卡目录价降低11%~25%，6月6日上线生效.GPU云服务器Ebmgn7ix邀测报名通道.阿里云cGPU容器技术重磅发布.GRID15.2镜像(windows server 2022).GRID13.5镜像(windows server 2022).查看更多商品.阿里云GPU云服务器...
来自：
云产品
云原生AI解决方案
云原生AI解决方案利用容器技术全面支持GPU和CPU异构资源集群统一管理和调度，与阿里云其他资源服务深度整合，支持机器学习计算的完整生命周期，提供低门槛、开放、高效的深度学习解决方案。
云服务器ECS.GPU云服务器.FPGA 云服务器.高性能计算 HPC.对象存储 OSS.文件存储 NAS.搭建Tensorflow实验环境.打通TensorFlow持续训练链路.TensorFlow单机多卡训练性能实践.实践案例分享.打造深度学习云端实验室.像梵高一样作画.玩转主流框架.创建GPU云服务器集群.GPU服务架构和案例分析.利用GPU指标弹性伸缩.GPU应用详情....
来自：
解决方案
弹性加速计算
Alibaba Elastic Accelerated Computing Instances (EAIS)是一款弹性加速计算实例，可在Alibaba ECS实例中灵活添加GPU加速资源。您可以针对您的应用程序的整体计算和内存需求在 Alibaba Cloud 中选择最适用的ECS实例，然后再配置所需量级的 GPU 驱动推理加速，有效利用资源，同时火速节约成本。相比运行AI推理、渲染、编解码的GPU实例，使用EAIS实例的成本可以降低超过 50%。EAIS支持 TensorFlow、PyTorch 和 ONNX 模型。
云服务器ECS.推荐搭配使用产品.通过识别图片信息实现分类管理，得出正确结果.将CPU实例与GPU实例灵活匹配，提供合理资源.更灵活的配置.原生支持VPC，支持内外网同时访问.丰富的网络访问.云服务器ECS.推荐搭配使用产品.对字、词、句、篇章的输入、输出、识别、分析、理解、生成等的操作和加工.通过关键词提取、短文本相似度...
来自：
云产品
基于弹性计算的AI推理
场景描述 本方案适用于使用GPU进行AI在线推理的场 景。在推理之前，模型已经训练完成。例如,刷脸 支付中，我们在刷脸的时候，就是推理的一个过 程。再比如图像分类，目标检测，语音识别，语 义分析等返回结果的过程。 解决问题 使用GPU云服务器搭建推理环境 使用容器服务Kubernetes版构建推理 环境 使用NAS存储模型数据 使用飞天AI加速推理工具加速推理 产品列表 GPU云服务器 容器服务Kubernetes版 NAS共享存储
解决问题 使用 GPU云服务器搭建推理环境 使用容器服务 Kubernetes版构建推理环 境 使用 NAS存储模型数据 使用飞天 AI加速推理工具加速推理 产品列表 GPU云服务器 容器服务 Kubernetes版 NAS共享存储 阿里云最佳实践技术分享群 最佳实践频道 如二维码过期，请搜索群号：31852400 云服务器 ECS（产品名称）文档模板（手册名称...
混合云使用Ali-Perseus
场景描述 本文介绍了混合云场景中，自建 Kubernetes服务，线下集群+云上弹性扩 展阿里云GPU服务实例+飞天AI加速工 具，并采用阿里云CPFS存储，运行AI训 练+AI推理作业的操作步骤。 解决问题 1.利用云企业网打通两个地域的VPC， 自建Kubernetes集群 2.使用飞天AI加速工具运行训练和推理 作业 3.使用CPFS存储共享数据 产品列表 云企业网CEN GPU云服务器 并行文件存储CPFS 文件存储NAS
采用同样的方法，将 443端口也打开，配置完成后，如下：31 混合云使用飞天AI加速工具 创建 ECS实例 按照同样的方法修改 worker001的安全组配置，增加 443端口和 10250端口的配 置，完成后如下：32 混合云使用飞天AI加速工具 搭建 K8S集群 4.搭建 K8S集群 4.1.验证网络是否通 步骤1 通过公网登录 master节点：注意将下面的 ...
RAPIDS加速图像搜索
场景描述 本方案适用于使用RAPIDS加速平台 +GPU云服务器来对图像搜索任务进行加 速的场景。相比CPU，利用GPU+ RAPIDS在图像搜索场景下可以取得非常 明显的加速效果。 解决问题 1.搭建RAPIDS加速图像搜索环境 2.使用容器服务Kubernetes版部署图 像搜索环境 3.使用NAS存储计算数据 产品列表 容器服务Kubernetes版 GPU云服务器 文件存储NAS
RAPIDS加速图像搜索 最佳实践 部署架构 场景描述 本方案适用于使用 RAPIDS加速平台+GPU云服务器来对图像搜索任务进行加 速的场景。相比 CPU，利用 GPU+RAPIDS在图像搜索场景下可以取得非常 明显的加速效果。解决问题 1.搭建 RAPIDS加速图像搜索环境 2.使用容器服务 Kubernetes版部署图像搜 索环境 3.使用 NAS存储计算数据 ...
FastGPU极速AI训练/推理
利用 FastGPU工具一键构建阿里云上的AI训练/推理环境，并使用AIACC加速工具进行加速。
快速进行 AI POC性能测试 产品列表 如二维码过期，GPU云服务器 请搜索群号：31852400 文件存储 NAS（CPFS）对象存储 OSS 专有网络 VPC 云服务器 ECS（产品名称）文档模板（手册名称）/文档版本信息 阿里云 企业上云实践 FastGPU极速 AI训练/推理 最佳实践 文档版本：2021015 文档版本：20150122（发布日期）II FastGPU极速 ...
超级计算集群实现自然语言处理训练
场景描述 本方案适用于自然语言训练场景，使用神龙 GPU云服务器（SCCGN6）+CPFS进行NLP的 训练，采用Bert模型。这里不使用容器，直接 使用裸机进行NLP的Bert训练，使用飞天AI加 速训练工具可以有效提升多机多卡的训练效率。 解决问题 使用神龙GPU云服务器搭建NLP训练环 境 使用SCC的RDMA网络 使用CPFS存储训练数据 使用飞天AI加速训练工具加速训练 产品列表 神龙GPU云服务器（SCCGN6） SCC超级计算集群 CPFS共享存储
超级计算集群实现自然语言处理训练 最佳实践 部署架构图 场景描述 本方案适用于自然语言训练场景，使用神 龙GPU云服务器（SCCGN6）+CPFS进 行NLP的训练，采用Bert模型。这里不使 用容器，直接使用裸机进行NLP的Bert训 练，使用AIACC可以有效提升多机多卡的 训练效率。解决问题 使用神龙GPU云服务器搭建NLP训练 环境 ...
函数计算FC
阿里云函数计算（Function Compute）是一个事件驱动的全托管计算服务。通过函数计算，您无需管理服务器等基础设施，只需编写代码并上传。函数计算会为您准备好计算资源，以弹性、可靠的方式运行您的代码。更棒的是，您只需要为代码实际运行消耗的资源付费，代码未运行则不产生费用。
无服务器的计算方式和免运维特性与前端工程师天然互补，工程师只需编写业务代码即可快速搭建云原生的 Web 应用，有效提高上线迭代效率，降低运维成本.前端工程师更专注于业务逻辑的开发，将集群的运维交予函数计算处理，有效提高开发运维效率.高效免运维，再也不为应用的构建而发愁.根据请求量自动进行毫秒级弹性扩容，快速...
来自：
云产品
E-MapReduce
阿里云E-MapReduce(简称EMR)是阿里云云原生数据湖的核心计算引擎，全面支持Hadoop、Spark、HBase、Hive、Flink等大数据组件，为客户提供企业级开源大数据平台服务。通过有效弹性伸缩和数据分层存储机制，相较于传统HDFS固定集群方式，可节省50%以上的费用，同时支持创建抢占式实例，相比按量付费的购买方式，可节省50%~80%的费用。
云服务器 ECS.对象存储 OSS.推荐搭配使用.延续开源技术栈，链接阿里云生态和开源大数据生态.随着企业积累数据规模迅速膨胀，数据分析使用会遇到：数据规模膨胀的成本挑战；计算和存储耦合带来的某项资源闲置问题；由于多种数据分析场景，如离线计算、流式计算、交互式分析、机器学习等，导致多引擎间频繁的引动数据，造成...
来自：
云产品
轻量级GPU部署云游戏最佳实践
随着AI深度学习，视频处理，科学计算以及图形可视化等应用场景的普及，GPU的市场需求越来越大，但单颗物理GPU起步至超大规模弹性计算带来的计算能力过剩成本上升问题也越来越明显。轻量级GPU的诞生打破了传统直通模式的局限，可以提供比单颗物理GPU更细粒度的服务，从而让客户以更低成本、更高弹性开展业务。
说明：凡是涉及到阿里云资源的开通，统一将地域设置为华东 2（上海）产品或服务 类别 配置项 说明 专有网络VPC 专有网络 名称 gaminganywhere IPv4网段 推荐网段 192.168.0.0/16 交换机 名称 ga-switch 可用区 上海 可用区 E IPv4网段 192.168.1.0/24 云服务器ECS 基础配置 计费方式 按量付费 地域 华东 2（上海）可用区 E ...
企业多账号配置统一合规审计
面向企业的各中心管理团队提供一种面向多账号的合规管理方案。从上而下的实施统一的合规基线并强制管理，可中心化的持续监测所有业务的合规状态。提升中心管理团队工作的可见性可控性，切实起到监管效力，规避潜在风险。
相关产品资源管理配置审计云服务器 ECS云企业网 CENWeb应用防火墙 WAF对象存储 OSS在线咨询方案优势持续的合规审计配置审计为您持续监控资源的配置变更，并在变更时自动触发合规评估，为您实现合规性的自主监管。丰富的预置模板您可以根据自身要求启动相应的合规项，配置审计将对目标资源进行持续检测，并通过修正模板对不...
来自：
解决方案
应用配置服务
应用配置管理（Application Configuration Manangement，简称 ACM），是一款在分布式架构环境中对应用配置进行集中管理和推送的工具类产品。基于该产品，您可以在微服务、DevOps、大数据等场景下极大地减轻配置管理的工作量，增强配置管理的服务能力。
产品的概要介绍.通过API接入配置管理.常见实战场景.分布式应用自身动态配置.DevOPS的敏捷配置管理.分布式应用下的动态配置常用场景.让动态配置来迅捷管理您的分布式架构....如何在阿里云上安全的存放您的配置.深入浅出应用配置中心五大场景.听阿里老司机讲述 现代应用架构中的配置中心之道.查看全部日志>.
来自：
云产品
EHPC混合云渲染
介绍在混合云环境下，利用E-HPC及其文件缓存机制，无缝读取线下存储中的项目资产，免去复杂繁琐的文件同步问题；充分利用云上资源弹性、按使用付费的优势，构建高性能、高可靠和可扩展的渲染服务。 解决问题 l混合云环境下本地集群与云端集群一体化的渲染服务。 l避免繁琐复杂的本地与云端的文件同步问题。 l低成本、高效率应对渲染业务峰值。 产品列表 l云服务器、GPU云服务器 l高性能计算E-HPC l专有网络VPC l云企业网CEN l弹性公网IP EIP l访问控制RAM l文件存储NAS
最佳实践频道 产品列表 云服务器 ECS GPU云服务器 GPU 高性能计算 EHPC 专有网络 VPC 云企业网 CEN 弹性公网 IP EIP 访问控制 RAM 阿里云最佳实践分享群 文件存储 NAS 如二维码过期，请搜索群号：31852400 文档版本：20191129 云服务器 ECS（产品名称）文档模板（手册名称）/文档版本信息 阿里云 企业上云实践 E-HPC混合云...
企业构建统一CMDB数据源
典型场景 l 企业/ISV构建多云CMDB平台，对接数十款产品的API，拉取、清洗、格式化、存储配置数据是复杂且高成本的工作。 l 企业日常的资源管理，需依赖资源配置历史、资源关系数据进行故障溯源和影响评估。 解决方案 l 企业管理账号设置Config配置数据投递，将所有账号的资源配置快照和历史归集到统一地址留存。 l 使用OSS做长期归档，使用SLS做实时分析和监听。获取全量资源数据并及时感知云上资源的变更。 l 将数据集成到自有CMDB平台 客户价值 l 基于配置审计简单便捷的持续收集云上资源配置数据，在自建CMDB过程中节省大量人力和时间成本。 l 跨账号统一收集数据，实现中心化的资源配置管理。 l 实现资源配置数据的持续收集和监听，及时感知云上资源的增删改，洞察异常变更。
最佳实践频道 阿里云最佳实践技术分享群 产品列表 云服务器 ECS 云数据库 RDS 云速搭 CADT 日志服务 SLS 资源目录 RD 如二维码过期，请搜索群号：配置审计 CloudConfig 31852400 企业构建统一 CMDB数据源 文档版本信息 阿里云 企业构建统一 CMDB数据源 最佳实践 文档版本：20210827（发布日期）企业构建统一 CMDB数据源 ...
云上IT治理workshop
假设您负责假设您负责一家集团公司的IT 基础设施，集团 旗下有多个分公司（如制造分公司和销售分公 司），各分公司有独立的开发、测试以及运维团 队。现在选择阿里云作为合作伙伴，拟达到以下 业务目标： 1. 各个分公司拥有独立的账号，可以购买云资 源，由集团账号统一付费。 2. 集团对各个分公司的账号以及权限拥有管理 权限。 3. 网络资源由独立的平台账号统一规划和创 建，分配给各个公司使用。 4. 集团对分公司账号具有配置管理和操作审计 权限。 5. 各分公司内部独立管理账号权限以及资源。
产品列表 专有网络 VPC 资源管理 Resource Management 云服务器 ECS 配置审计 Config 最佳实践频道 阿里云最佳实践生态群 操作审计 ActionTrail 访问控制 RAM 云上 IT治理 Workshop 文档版本信息 阿里云 企业上云最佳实践 云上 IT治理 Workshop 文档版本：20210909（发布日期）云上 IT治理 Workshop 文档版本信息 文档版本...
云上持续审计合规最佳实践
本方案是面向云上资源的操作审计和配置审 计，提供的最佳实践。适用于企业型客户。通过最佳实践帮助客户在本场景下更好的使用 阿里云，涉及到配置审计、操作审计、函数计算、SLS、OSS 等服务的实践操作。 解决问题 企业会面临外部对企业云上信息系统的合规要求，如等保2.0法规要求。 同时当云上资源达到一定规模时，在内部会制定合规管控的基线，满足自身管理效率和安全合规的需 求。 包括记录云上资源管理的操作日志、资源配置变更日志，还需依赖云平台提供的持续监控和自动告警能力，实现合规性的自主监管。
产品列表 最佳实践频道 阿里云最佳实践技术分享群 操作审计(ActionTrail）配置审计（Config）函数计算（FC）日志服务（SLS）对象存储（OSS）云服务器（ECS）数据库（RDS）专有网络（VPC）云服务器 ECS（产品名称）文档模板（手册名称）/文档版本信息 阿里云 云上持续审计合规 最佳实践 文档版本：V1.3（2021-07-26）文档...
- 产品推荐
- 这些文档可能帮助您