基于弹性计算的AI推理
场景描述 本方案适用于使用GPU进行AI在线推理的场 景。在推理之前，模型已经训练完成。例如,刷脸 支付中，我们在刷脸的时候，就是推理的一个过 程。再比如图像分类，目标检测，语音识别，语 义分析等返回结果的过程。 解决问题 使用GPU云服务器搭建推理环境 使用容器服务Kubernetes版构建推理 环境 使用NAS存储模型数据 使用飞天AI加速推理工具加速推理 产品列表 GPU云服务器 容器服务Kubernetes版 NAS共享存储
本实践采用了如下产品：•GPU云服务器GN5I•共享存储NAS•阿里云容器服务Kubernetets版 阿里云飞天 AI加速解决方案 基于阿里云弹性基础资源，为用户提供性能极致优化、轻量便捷、开源开放的人工智能最佳实践。发布日期：20220320 I 企业上云实践 基于弹性计算的 AI推理最佳实践|演示环境说明 方案架构 用户通过域名访问推理...
云原生数据库
PolarDB是阿里云自研的云原生数据库，在存储计算分离架构下，利用了软硬件结合的优势，为用户提供秒级弹性、高性能、海量存储、安全可靠的数据库服务。100%兼容MySQL和PostgreSQL生态，支持分布式扩展，高度兼容Oracle语法。
基于PolarDB 分布式版存储海量数据，通过AnalyticDB进行数据分析，可构建智能化的城市公交系统，满足路线规划、站点查询、公交预报、业务报表结算、公交调度等需求，提升运营效率和服务水平.PolarDB 分布式版采用分层架构可确保在并发、计算、数据存储三个方面均可线性扩展，可根据业务潮汐特点灵活升降配PolarDB 分布式版...
来自：
云产品
智算服务PAI-灵骏
智算服务PAI-灵骏面向大规模深度学习及融合智算场景的PaaS平台产品，支持公共云Serverless版、单租版以及混合云产品形态， 基于软硬件一体优化技术构建高性能异构算力底座，提供AI工程化全流程平台服务，具备高性能、高效率、高利用率等核心优势，满足高性能计算等领域应用需求，在大模型训练、自动驾驶、基础科研、金融量化等场景广泛应用。
新一代AI智算平台，满足大规模AI算力需求.Serverless 平台产品，一键快速拉起AI计算任务，复杂异构系统自动运维，轻松管理。与云上的计算、存储、网络等各类产品无缝衔接.公共云 Serverless 版.云上建立客户专属集群，单个客户独享一套AI平台和运维服务。便捷运营管理，云产品互通，使用云上标准的计算、存储、网络服务....
来自：
云产品
人工智能平台 PAI
阿里云人工智能平台 PAI 涵盖交互式建模、可视化建模、分布式训练到模型在线部署全流程；快速搭建人工智能推荐系统；深度学习模型训练速度提升数十倍；减少50%GPU成本
丰富的灵骏产品形态.Serverless平台产品，一键快速拉起AI计算任务，复杂异构系统自动运维，轻松管理。与云上的计算、存储、网络等各类产品无缝衔接.公共云Serverless版.云上建立客户专属集群，单个客户独享一套AI平台和运维服务。便捷运营管理，云产品互通，使用云上标准的计算、存储、网络服务.公共云单租版.支持混合云...
来自：
云产品
阿里云时序时空数据库TSDB
时序时空数据库 ( Time Series and Spatial-Temporal Database , 简称 TSDB) 是一种集时序数据高效读写，压缩存储，实时计算能力为一体的数据库服务，可广泛应用于物联网和互联网领域，实现对设备及业务服务的实时监控，实时预测告警。
阿里云时间序列数据库(Lindorm Time Series Database,简称 TSDB)是云原生多模数据库Lindorm中负责时序数据处理的专用引擎，具有时序数据高并发写入，高压缩比存储，实时时序指标聚合、统计、预测及ML/AI计算等能力，可广泛应用于物联网、车联网、工业互联网和智能化运维等领域，能够支撑应用层实现对工业设备、汽车、终端、...
来自：
云产品
通过PAI-灵骏分布式训练和部署Llama 2模型
以 Meta 最新开源的大语言模型 Llama2 为例，通过PAI-灵骏完成了大语言模型的高效分布式训练、三阶段指令微调、模型离线推理验证以及在线服务部署等完整的开发链路。
方案预估：本方案中使用到 PAI-AI计算资源组（灵骏智算）、智算CPFS专属服务、PAI-EAS、OSS等产品，均会产生费用，请以控制台显示的实际报价以及最终账单为准。方案部署一步步跟随方案教程，带你快速上手，进行方案部署。方案介绍通过PAI-灵骏分布式训练和部署Llama 2模型下图展示大语言模型（LLM）通过PAI-灵骏从基础开源...
来自：
解决方案
轻量级GPU部署云游戏最佳实践
随着AI深度学习，视频处理，科学计算以及图形可视化等应用场景的普及，GPU的市场需求越来越大，但单颗物理GPU起步至超大规模弹性计算带来的计算能力过剩成本上升问题也越来越明显。轻量级GPU的诞生打破了传统直通模式的局限，可以提供比单颗物理GPU更细粒度的服务，从而让客户以更低成本、更高弹性开展业务。
同时支持 AI计算与图形图像计算 产品列表 部署架构 云服务器 ECS 云速搭 CADT 最佳实践频道 阿里云最佳实践分享群 云服务器 ECS（产品名称）文档模板（手册名称）/文档版本信息 阿里云 轻量级GPU部署云游戏 最佳实践 文档版本：20220211 文档版本：20220211 II 轻量级 GPU部署云游戏 文档版本信息 文档版本信息 文本信息 ...
湖仓一体架构EMR元数据迁移DLF
通过EMR+DLF数据湖方案，可以为企业提供数据湖内的统一的元数据管理，统一的权限管理，支持多源数据入湖以及一站式数据探索的能力。本方案支持已有EMR集群元数据库使用RDS或内置MySQL数据库迁移DLF，通过统一的元数据管理，多种数据源入湖，搭建高效的数据湖解决方案。
数据湖构建 Data Lake Formation（DLF）：数据湖是一个集中式存储库，可存储 任意规模结构化和非结构化数据，支持大数据和 AI计算。数据湖构建（Data Lake Formation，DLF）作为云原生数据湖架构核心组成部分，帮助用户简单快速地构 建云原生数据湖解决方案。数据湖构建提供湖上元数据统一管理、企业级权限控 制，并无缝...
基于函数计算FC实现大语言模型部署
在现代AI应用中， Qwen /chatglm2-6b 和Stable Diffusion等模型因其强大的功能而受到关注。然而，这些模型对计算资源的高需求和复杂的运维管理成为部署时的挑战。基于函数计算FC的无服务器计算模式为这类模型的部署提供了全新的解决方案。用户只需关注模型的部署和调用逻辑，而无需关心底层的服务器配置、资源分配和扩展性等问题。函数计算FC能够自动处理函数的执行环境，包括冷启动、弹性伸缩等，确保模型能够在大规模的请求下稳定运行。
文档版本：20240429 13 基于函数计算 FC实现大语言模型部署最佳实践 使用FC应用模版部署社区模型 步骤3 登录函数计算 FC3.0控制台（https://fcnext.console.aliyun.com/overview）,创建 应用 步骤4 点击创建应用，通过模板创建应用，选择人工智能分类下的通义千问 AI助手 文档版本：20240429 14 基于函数计算 FC实现大语言...
基于函数计算FC镜像部署Stable Diffusion大模型
在现代AI应用中， Stable Diffusion等模型因其强大的功能而受到关注。然而，这些模型对计算资源的高需求和复杂的运维管理成为部署时的挑战。基于函数计算FC的无服务器计算模式为这类模型的部署提供了全新的解决方案。用户只需关注模型的部署和调用逻辑，而无需关心底层的服务器配置、资源分配和扩展性等问题。函数计算FC能够自动处理函数的执行环境，包括冷启动、弹性伸缩等，确保模型能够在大规模的请求下稳定运行。
函数计 算 FC能够自动处理函数的执行环境，包括冷启动、弹性伸缩等，确保模型能够在大 规模的请求下稳定运行。方案优势 简化模型部署流程 全链路自适应弹性，无需为流量峰谷做频繁的手工处理 内置CICD平台能力，灰度，回滚，监控开箱即用 按量付费模式，没有资源闲置费用 产品介绍 函数计算 FC（Function Compute）：函数...
基于函数计算FC实现物联网音视频处理
在物联网场景中，智能设备会产生大量的非结构化数据，并且采集量和频率都很高。比如各类摄像头（家用摄像头、车载摄像头、工业监控摄像头等）采集的数据。企业需要对这些非结构化数据做快速的分析和处理，然后应用到下游业务中，所以需要一套高并发、低成本、自动化的方案。该最佳实践就适用于这类场景。
使用函数计 算，您无需采购与管理服务器等基础设施，只需编写并上传代码或镜像。函数计算为您准 备好计算资源，弹性地、可靠地运行任务，并提供日志查询、性能监控和报警等功能。 云工作流（CloudFlow）：是一个用来协调多个分布式任务执行的全托管云服务。在云工作 流中，您可以用顺序、分支、并行等方式来编排分布式...
基于云速搭CADT快速构建药物筛选批量计算环境-serverless版
本方案基于云速搭 CADT提供一个快速构建云上Serverless版HPC批量计算环境的模板，针对生物制药领域的药物筛选场景，提供开箱即用的整套解决方案工具包，整个云上环境仅需1个小时即可完成自动化部署搭建。
产品介绍 弹性高性能计算（E-HPC）：基于阿里云基础设施，为用户提供一站式公共云 HPC/AI 平台服务，面向科研，生产，教育和行业大计算，提供快捷，弹性，安全和与阿里 文档版本：20240204 2 基于云速搭 CADT部署药物筛选批量计算环境-Serverless版 最佳实践概述 云产品互通的云超算平台。文件存储 NAS：阿里云文件存储 NAS...
- 产品推荐
- 这些文档可能帮助您