本文介绍在PAI-EAS上，为MoE模型启用专家并行（EP）和Prefill-Decode（PD）分离部署，以实现更高的推理吞吐和成本效益。方案架构 阿里云人工智能平台PAI的模型在线服务（EAS）提供生产级EP的部署支持，将 PD分离、大规模EP、计算-通信协同...
调用ImportKeyMaterial接口导入密钥材料。调用 CreateKey 创建主密钥时，可以选择其密钥材料来源为外部，即将 Origin 设置为 EXTERNAL。此API用于将密钥材料导入符合上述描述的CMK中。要查看CMK的 Origin，请参见 DescribeKey。在导入密钥...
} 注意事项 和@SofaService 类似，在@SofaReference 上也没有指定服务接口，因为@SofaReference 在不指定服务接口时，会采用被注解字段的类型作为服务接口。您也可以通过设定@SofaReference 的 interfaceType 属性来指定接口：public class...
The Prefill/Decode(PD)disaggregated architecture is a mainstream optimization technique for large language model(LLM)inference.It decouples the two core stages of LLM inference and deploys them on different GPUs.This ...
调用DescribeRouterInterfaceAttribute查看路由器接口配置。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 下表是API对应的授权信息，可以...
调用DescribeRouterInterfaceAttribute查看路由器接口配置。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 下表是API对应的授权信息，可以...
本文汇总了 PolarDB-X 1.0 支持的API接口。实例管理 API 描述 CreateDrdsInstance 该接口用于创建一个 PolarDB-X 1.0 实例。DescribeDrdsInstance 该接口用于查询 PolarDB-X 1.0 实例详情。DescribeDrdsInstances 该接口用于查询 PolarDB-X...
支持对接口进行管理，包括查看接口信息、编辑接口信息、停用接口。查看接口信息 接口管理 页面上的接口列表展示了当前应用下的所有接口及其信息。可在列表右上方的搜索框中输入接口名称来查找指定接口，也可以通过筛选接口类型和状态来查找...
本文为您介绍阿里云E-MapReduce提供的集群、集群服务、弹性伸缩等的API接口及说明。集群 API 描述 创建集群 调用CreateClusterV2接口，创建一个E-MapReduce集群。说明 如果您在2022年12月19日17点（UTC+8）以后第一次创建EMR集群，无法使用...
接口说明 调用本接口全量设置场景配置，清空场景配置，并将布局信息设置并生效至指定场景。QPS 限制 本接口的单用户 QPS 限制为 10 次/秒。超过限制，API 调用会被限流，这可能会影响您的业务，请合理调用。调试 您可以在OpenAPI Explorer...
本文列举了AHAS支持的API接口。监控 监控相关的API如下表。API 描述 GetMetricsOfResource 调用GetMetricsOfResource接口获取资源监控数据。流控规则 流控规则相关的API如下表。API 描述 CreateFlowRule 调用CreateFlowRule接口创建流控...
接口管理对应用接口定义进行统一管理，支持根据代码中的@RestController 等注解，进行接口扫描并上报回平台。本文介绍如何配置接口管理规则、新建接口和数据模型。新建或导入接口 新建接口 登录BizWorks，在 选择平台 下拉列表中选中 微...
V 1.2.8（2020-08-07）浏览器录制：升级接口，丰富配置（原主调接口 16 废弃，新接口为主调接口 40）。服务端录制：增加 tagFilter、tagPostion 配置（见主调接口 3、21）。初始化房间增加三方业务 ID 属性（见主调接口 3）。V 1.2.7（2020...
配置信息 说明 接口名称 接口的名称 接口类型 支持两种类型的接口：提交接口：用于提交表单的接口。数据源：用于展示组件内容的数据接口。适用组件 当前接口支持的组件，可设置多个。单击输入框，从已有组件下拉列表中选择适用的组件。接口...
云原生数据库PolarDB 提供以下相关API接口。地域 API 描述 DescribeRegions 该接口用于查询 PolarDB 支持的地域和可用区。集群 类别 API 描述 集群管理 CreateDBCluster 该接口用于创建 PolarDB 集群。DeleteDBCluster 该接口用于释放按量...
云原生数据库PolarDB 提供以下相关API接口。地域 API 描述 DescribeRegions 该接口用于查询 PolarDB 支持的地域和可用区。集群 类别 API 描述 集群管理 CreateDBCluster 该接口用于创建 PolarDB 集群。DeleteDBCluster 该接口用于释放按量...
接口说明 先通过 AddCasterProgram 接口 添加导播台节目单，再调用本接口修改导播台节目单。本接口目前支持的节目类型为视频源和组件。QPS 限制 本接口的单用户 QPS 限制为 4 次/秒。超过限制，API 调用会被限流，这可能会影响您的业务，请...
DisableEventRules 调用DisableEventRule接口禁用一个或多个事件报警规则 调用DisableEventRule接口禁用一个或多个事件报警规则。DescribeEventRuleAttribute 查询指定事件报警规则的详情 调用DescribeEventRuleAttribute接口查询指定事件...
本产品（云数据库 RDS/2014...费用 API 标题 API概述 TransformDBInstancePayType 变更RDS实例的计费方式 该接口用于变更RDS实例的计费方式。ModifyDBInstancePayType 按量付费实例转包年包月 将按量付费的数据库实例变更为包年包月计费模式。...
本产品（云数据库 RDS/2014...费用 API 标题 API概述 TransformDBInstancePayType 变更RDS实例的计费方式 该接口用于变更RDS实例的计费方式。ModifyDBInstancePayType 按量付费实例转包年包月 将按量付费的数据库实例变更为包年包月计费模式。...
本产品（云数据库 RDS/2014...费用 API 标题 API概述 TransformDBInstancePayType 变更RDS实例的计费方式 该接口用于变更RDS实例的计费方式。ModifyDBInstancePayType 按量付费实例转包年包月 将按量付费的数据库实例变更为包年包月计费模式。...
本产品（云数据库 RDS/2014...费用 API 标题 API概述 TransformDBInstancePayType 变更RDS实例的计费方式 该接口用于变更RDS实例的计费方式。ModifyDBInstancePayType 按量付费实例转包年包月 将按量付费的数据库实例变更为包年包月计费模式。...
本产品（云数据库 RDS/2014...费用 API 标题 API概述 TransformDBInstancePayType 变更RDS实例的计费方式 该接口用于变更RDS实例的计费方式。ModifyDBInstancePayType 按量付费实例转包年包月 将按量付费的数据库实例变更为包年包月计费模式。...
部署多机分布式推理服务 基于ACK多机分布式部署DeepSeek满血版推理部署实战 支持多种推理引擎的PD分离部署 各种推理引擎实现PD分离的架构各不相同，部署方案各异，因此AI推理套件使用RoleBasedGroup作为工作负载，统一部署各种推理引擎的PD...
本文档汇总了合约平台支持的所有 JS API，并对接口调用的返回值予以说明。具体接口信息参见相关接口文档。环境接口 账户接口 合约接口 查询接口 本地执行接口 原生存证接口 事件接口 辅助工具类接口 环境接口 接口 描述 Chain 环境实例初始...
接口详情页面主要展示该应用所有接口的QPS、异常请求、RT、并发等数据。前提条件 已 部署应用。已 开通MSE微服务治理。说明 使用 MSE 时会产生单独费用。MSE 的计费说明，请参见 微服务治理计费概述 和【产品变更】SAE集成的MSE微服务治理...
通过阅读本文，您可以了解实时音视频Harmony SDK接口详情。目录 基础接口 API 功能描述 getInstance 获取AliRtcEngine实例 destroyInstance 销毁AliRtcEngine实例 getSDKVersion 查询SDK当前版本号 setLogDirPath 设置SDK日志文件保存路径 ...
通过阅读本文，您可以了解实时音视频Harmony SDK接口详情。目录 基础接口 API 功能描述 getInstance 获取AliRtcEngine实例 destroyInstance 销毁AliRtcEngine实例 getSDKVersion 查询SDK当前版本号 setLogDirPath 设置SDK日志文件保存路径 ...
V2.5.0接口文档 V2.4.0接口文档 V2.3.0接口文档 V2.2.0接口文档 V2.1.0版接口文档 V2.0.0接口文档 V1.9.0接口文档 V1.8.0接口文档 V1.7.0接口文档 V1.6.0接口文档 V1.5.0接口文档 V1.4.0接口文档 V1.3.1接口文档 V1.3.0接口文档 V1.2.0接口...
本文介绍区块内部的数据接口的配置的方法，帮助您理解区块的数据接口功能。在区块编辑器内，您可以单击区块编辑器右上角的 图标，在 数据接口设置 页签中支持如下数据接口配置操作。切换模式 在对话框上方可以切换数据接口模式，可选 视图...
环境接口 账户接口 合约接口 查询接口 本地执行接口 信封交易接口 事件接口 监控指标接口 原生存证接口 日志接口 子网接口 环境接口 接口 描述 init 环境初始化。账户接口 接口 描述 createAccount 创建账户。asyncCreateAccount 创建账户...
环境接口 账户接口 合约接口 查询接口 本地执行接口 信封交易接口 事件接口 监控指标接口 隐私保护接口 原生存证接口 日志接口 环境接口 接口 描述 init 环境初始化。账户接口 接口 描述 createAccount 创建账户。asyncCreateAccount 创建...
本文介绍区块内部的数据接口的配置的方法，帮助您理解区块的数据接口功能。在区块编辑器内，您可以单击区块编辑器右上角的 图标，在 数据接口设置 页签中支持如下数据接口配置操作。切换模式 在对话框上方可以切换数据接口模式，可选 视图...
多媒体短信详情，请参见 什么是多媒体短信；卡片短信详情，请参见 发送卡片短信。短信服务卡片短信是否支持换行？目前图文模板类的卡片短信不支持换行，仅轮播模板类型的卡片短信支持换行且最多11行。如果按换行键提交图文模板，会导致显示...
SDK版本 链接 7.10.0 iOS播放器SDK接口文档（7.10.0）7.9.0 iOS播放器SDK接口文档（7.9.0）7.8.0 iOS播放器SDK接口文档（7.8.0）7.7.0 iOS播放器SDK接口文档（7.7.0）7.6.0 iOS播放器SDK接口文档（7.6.0）7.5.0 iOS播放器SDK接口文档（7.5....
SDK版本 链接 7.10.0 Android播放器SDK接口文档（7.10.0）7.9.0 Android播放器SDK接口文档（7.9.0）7.8.0 Android播放器SDK接口文档（7.8.0）7.7.0 Android播放器SDK接口文档（7.7.0）7.6.0 Android播放器SDK接口文档（7.6.0）7.5.0 ...
环境接口 账户接口 合约接口 查询接口 本地执行接口 事件接口 监控指标接口 隐私保护接口 原生存证接口 日志接口 环境接口 接口 描述 init 环境初始化。账户接口 接口 描述 createAccount 创建账户。asyncCreateAccount 创建账户，异步方式...
平台运营人员对接口详细信息进行补充完善后，可以对接口执行上架操作。接口上架后，则该能力（对应的所有版本）将展示在中台官网页面上。本文为您介绍如何上架和下架接口等操作。前提条件 已构建能力目录。具体操作，请参见 管理能力目录。...
路由器接口 API 标题 API概述 CreateRouterInterface 创建路由器接口 调用CreateRouterInterface接口创建路由器接口。DeleteRouterInterface 删除路由器接口 调用DeleteRouterInterface接口删除路由器接口。DeleteExpressConnect 删除高速...