虽然系统策略包含的权限同样适用于 OpenAPI 或 CLI 等访问方式，但为了提高安全性，我们推荐您在这些场景下使用自定义策略，按需授予人员及应用特定 API 的访问权限。系统策略可进一步细分为产品系统策略、服务角色策略和服务关联角色策略...
本文以部署DeepSeek-R1-Distill-Qwen-7B模型为例，演示如何使用数据缓存快速部署DeepSeek-R1系列模型。通过数据缓存提前拉取DeepSeek相关模型数据，然后在部署DeepSeek模型推理服务时直接挂载模型数据，可以免去在实例中拉取模型数据的等待...
功能原理 当GPU函数部署完成后，函数计算默认通过按量GPU实例为您服务（与之区别的是预留GPU实例，具体信息，请参见 实例类型及使用模式），提供准实时推理应用场景所需的基础设施执行环境。您可以发送推理请求至GPU函数的触发器（例如，...
本文介绍什么是GPU离线异步任务场景以及如何使用函数计算GPU异步调用、异步任务服务离线AI推理、AI训练和GPU加速场景，以及如何基于自定义镜像满足离线GPU应用场景。场景介绍 在离线异步应用场景中，工作负载具有以下一个或多个特征。执行...
另外，使用实例的浅休眠（原闲置）计费功能以及购买资源包均可以进一步降低使用成本。更多信息，请参见 计费概述。产品发送的短信、邮件等消息是否支持退订？支持。您可以登录 阿里云官网，单击右上角的 控制台，在 控制台 页面单击用户...
步骤四：分配本地数据库存储函数到边缘实例 使用已创建的 saveMysqlDB 函数，创建函数计算类型的边缘应用。具体操作，请参见 函数计算应用。应用信息参数说明如下：参数 描述 应用名称 设置您应用的名称，例如 appsaveMysqlDB。应用类型 ...
兼顾服务质量与服务成本：浅休眠（原闲置）GPU实例的计费周期不同于按量GPU实例，浅休眠（原闲置）GPU实例会在实例浅休眠（原闲置）与活跃期间以不同的单价进行计费，详情请参见 使用函数计算实时推理场景的成本如何计算？总体使用成本，相...
函数计算GPU实例所使用的驱动由NVIDIA提供，由函数计算平台负责部署。随着功能迭代、新卡型推出、BUG修复、驱动生命周期到期等原因，GPU实例所使用的驱动版本未来可能变化，请避免在容器镜像中添加驱动特定相关内容，更多内容，请参见 无法...
为满足不同场景下的用户需求，函数计算 提供事件函数、Web函数、任务函数和GPU函数四种函数类型。针对不同开发流程，函数计算 提供内置运行、自定义运行时和自定义镜像三种运行时环境。根据不同业务的资源利用率高低和用户对付费模式的预期...
函数计算 的实例默认使用按量模式，即通过请求自动触发实例的创建。如果实例在一段时间内（一般为3~5分钟）不处理请求，会自动销毁。当首次发起调用时，需要等待实例冷启动。因此，使用频率较低的函数因冷启动占比较高，其平均调用时间相对...
购买常驻资源池 后，您可以在创建GPU函数时，设置实例类型为常驻实例，为业务函数绑定常驻资源池，并分配一定数量的常驻实例，从而使用常驻资源池。使用限制 仅支持为Ada、Ada.2、Ada.3、Hopper和Xpu.1系列卡型的GPU函数绑定常驻实例。常驻...
disableOndemand deprecated boolean 是否禁止创建按量实例，功能开启后，不会创建按量实例，只能使用预留实例 sessionAffinity string 函数计算调用请求的亲和策略，如需实现 MCP SSE 协议的请求亲和，可设置为 MCP_SSE。如使用 Cookie ...
函数计算默认使用弹性实例，系统会根据请求数量自动进行弹性伸缩，无请求时实例自动销毁，实现“不使用不收费”。如果您在查看账单时发现预期之外的费用，可能是由于某些函数配置了 最小实例数≥1，此时，您可以按照本文的指引，定位并删除...
函数计算提供实例级别指标，通过实例级别指标您可以查看vCPU使用情况、内存使用情况、实例网络情况和实例内请求数等核心指标信息。本文介绍实例级别指标的背景信息、定义、指标信息和配置方式。背景信息 函数计算是事件驱动的全托管计算...
如果需要使用流行AI项目，如Stable Diffusion WebUI、ComfyUI、RAG、TensorRT等底层需要使用GPU实例来加速计算的应用，推荐以镜像方式部署函数应用。将容器镜像作为函数的交付物，提升开发和交付效率。创建函数 登录 函数计算控制台，在...
安全性 创建或者更新环境变量时，函数计算 会对您的环境变量使用AES256（Advanced Encryption Standard 256）标准加密存储，在初始化函数实例时，会将环境变量解密后注入到函数实例环境中。使用限制 字符集规则 Key的字符集：必须以大小写...
disableOndemand deprecated boolean 是否禁止创建按量实例，功能开启后，不会创建按量实例，只能使用预留实例 sessionAffinity string 函数计算调用请求的亲和策略，如需实现 MCP SSE 协议的请求亲和，可设置为 MCP_SSE。如使用 Cookie ...
本文为您介绍EAIS实例的使用流程，帮助您快速掌握EAIS实例的使用逻辑并应用于自身业务场景。EAIS实例的使用流程与EAIS实例的创建方式有关，具体如下。使用EAIS控制台或调用CreateEaisEi创建 当您使用EAIS实例控制台或调用 CreateEaisEi ...
显存：48 GB vCPU：8 vCPU 内存：64 GB 磁盘：512 MB（不计费，函数计算提供10GB的磁盘免费使用额度）最小实例数 如果您的业务对延迟敏感，选择 弹性实例 后，建议设置最小实例数≥1，提前锁定资源，降低冷启动延迟。说明 设置最小实例数≥...
函数计算Cookie亲和性是将携带相同Cookie信息的请求路由到同一个函数计算实例。当服务端收到Cookie函数的HTTP请求后，解析HTTP请求头中不含Cookie字段或者Cookie字段中不含所提供的cookie-name时，服务端会主动生成SessionID，并添加到响应...
实例类型及使用模式 2020年11月 功能名称 变更类型 功能描述 相关文档 调用分析 新增 调用分析功能是函数请求级别的执行状态汇总，开启调用分析功能后，系统会收集函数每次执行的指标信息，包括内存使用情况、函数执行时间、初始化时间、冷...
相关文档 针对不同使用场景，函数计算提供事件函数、Web函数、任务函数和GPU函数四种函数类型，关于如何针对使用场景选择函数类型，请参见 技术选型指南。除控制台外，函数计算 还提供调用API和使用Serverless Devs工具方式来管理函数，...
函数计算 提供了一个全托管、开箱即用、可观测的大规模任务处理平台，可以通过 函数计算 控制台创建任务函数。与事件函数唯一不同的是，任务函数创建成功后，默认开启任务模式，支持使用任务模式提交、查看、停止和重试异步任务等。创建...
说明 仅Hologres V2.1版本起支持IF函数。如果您的实例版本为V2.0及以下版本，请先升级实例版本，详情请参见 实例升级。LEAST 选择表达式列表中的最小值。NULLIF 判断两个表达式的值是否相等，如果相等，则结果返回NULL，反之返回第一个表达...
使用完成后，您需要关闭工作空间，关闭工作空间会销毁函数实例，您在下次使用工作空间前需要再次启动。API调用阶段 在 ComfyUI 和 Stable Diffusion WebUI 上安装好模型与插件，调试好提示词与工作流后，发布API可将当前调试好的工作空间...
如果 CPU 函数的单实例并发度为1，当客户端主动取消请求时，函数计算会启动新的实例，并在新的实例启动成功后停止此实例。这是因为单并发函数的实例不允许同时处理多个请求，为了避免调度新请求到该实例时，上一个被主动取消的请求仍然在...
OSS计费概述：OSS计费，价格计算器：对象存储OSS价格计算器 基于以上对比，根据FC GPU不同使用模式、不同容器并发启动数量、不同模型管理需求等维度，FC GPU模型托管的最佳实践如下：如果对文件系统API兼容性有较高要求，或者应用使用随机...
函数计算 提供实例级别的事件，通过实例级别事件您可以了解函数实例完整的生命周期，包括实例构建、销毁的流程以及其中各步骤发生的时间点。本文介绍函数实例的生命周期以及实例级别事件的定义、转移流程、类型和查询方式。函数实例的生命...
使用EAIS实例：您只需要购买如下计算资源：产品 实例规格 指标数据 云服务器ECS ecs.r6.6xlarge 24 vCPU 192 GiB 弹性计算加速实例EAIS eais.ei-a6.4xlarge 16 TFLOPS/FP32，32 GB/显存 综上所述，如果您购买GPU实例，则只能在已有的固定...
函数计算 使用日志、VPC访问、异步调用目标服务等功能时，需要访问其他的云服务的权限。例如配置函数日志时，用户需要授权 函数计算 对指定Logstore的写入权限，才能够将函数日志写入Logstore。为了简化授权流程，函数计算 支持 服务关联...
GPU函数资源配额锁定 设置函数弹性实例数上限 后，账号会从总的资源配额中为该函数锁定资源配额，被锁定的资源只能被当前函数使用。以GPU函数的GPU卡资源为例，假设您为函数设置的弹性实例数上限即 弹性实例配额 为2，不同场景下，为函数...
在这些场景下，如果函数对延时非常敏感，您可以为函数设置预留模式实例，或者在同一个函数里同时使用预留模式实例和按量模式实例。预留模式实例的分配和释放由您管理，根据实例的运行时长计费。当负载对资源的需求超过预留模式实例的能力后...
您可以在ECS实例（非GPU实例）上绑定一个弹性加速计算实例EAIS（EAIS可以为ECS实例提供GPU资源），即可生成一款新规格的GPU实例。相比直接购买GPU实例，使用该方式可以为您灵活提供GPU资源并有效节省成本。如果您初次使用EAIS，可以通过...
阿里云弹性伸缩服务是根据业务需求和策略自动调整计算能力（即实例数量）的服务，使用ECI实例来运行容器应用时，可以配合使用弹性伸缩服务，实现根据业务量自动增加或者减少ECI实例，在保证业务正常运行的同时节约使用成本。功能概述 弹性...
本章节为您提供弹性加速计算实例EAIS目前支持的阿里云地域和可用区。每个地域完全独立。每个可用区完全隔离，但同一个地域内的可用区之间使用低时延链路相连。...如果您的应用要求实例之间的网络延时较低，建议您将实例创建在同一可用区内。
某些业务场景下，可能需要某一业务实例使用某个固定的IP地址。本文介绍在创建ECI实例时，如何指定实例的私网IP地址。功能说明 默认情况下，创建ECI实例时，系统会从配置的交换机网段中，随机为实例分配一个私网IP地址。某些业务场景下，您...
尊敬的用户，为提升您的使用体验，自2024年08月27日起，新用户...使用函数计算即视为您同意 阿里云产品服务协议 及 函数计算服务等级协议。未实际使用的，不会产生任何费用。如您有任何疑问，欢迎随时 联系我们。感谢您对阿里云的支持与信赖。
您可以在ECS实例（非GPU实例）上绑定一个弹性加速计算实例EAIS（EAIS可以为ECS实例提供GPU资源），即可生成一款新规格的GPU实例。相比直接购买GPU实例，使用该方式可以为您灵活提供GPU资源并有效节省成本。如果您初次使用EAIS，可以通过...
函数更新后，系统默认会将更新后的配置与代码发布并覆盖LATEST版本，确保调用函数时使用最新配置与代码。为了保证生产环境的稳定性，社区提供fc-canary插件支持灰度发布功能。本文将详细介绍fc-canary插件的使用方法。插件使用 函数计算...
您可以根据 函数计算 资源的欠费情况，删除不再使用的资源或者及时为业务使用资源续费，确保服务的连续性。计费周期 函数计算 以小时为计费周期进行计费，在每个计费周期开始时生成上一周期的账单，并从账户中扣除余额或者代金券。更多信息...