LLMRoute 是 服务网格 ASM（Service Mesh）提供的定制化Kubernetes CRD，旨在为大规模语言模型（Large Language Model，LLM）相关的路由规则提供声明式的配置能力。该CRD支持基于请求头、资源标签等条件的流量匹配，并能够灵活地将流量路由...
服务网格ASM支持以Sidecar模式或Sidecarless模式为集群中的应用部署网格代理，以实现对底层网络功能的抽象化管理，例如负载均衡、服务发现、流量控制、安全性增强、流量可观测等。ASM通过Sidecar模式将网格代理容器加入到Pod，让网格代理...
背景信息 kubectl是Kubernetes集群的命令行工具，通过kubectl能够对集群本身进行管理，并能够在集群上进行容器化应用的安装部署，同时还可以对 服务网格 进行管理。服务网格 ASM基于Kubernetes提供的RBAC（基于角色的访问权限控制）机制，...
背景信息 kubectl是Kubernetes集群的命令行工具，通过kubectl能够对集群本身进行管理，并能够在集群上进行容器化应用的安装部署，同时还可以对 服务网格 进行管理。服务网格 ASM基于Kubernetes提供的RBAC（基于角色的访问权限控制）机制，...
创建网关规则 方式一：通过图形化界面创建网关规则 登录 ASM控制台，在左侧导航栏，选择 服务网格 网格管理。在 网格管理 页面，单击目标实例名称，然后在左侧导航栏，选择 ASM网关 网关规则，然后单击 创建。在 创建 页面，配置相关信息，...
创建网关规则 方式一：通过图形化界面创建网关规则 登录 ASM控制台，在左侧导航栏，选择 服务网格 网格管理。在 网格管理 页面，单击目标实例名称，然后在左侧导航栏，选择 ASM网关 网关规则，然后单击 创建。在 创建 页面，配置相关信息，...
本文介绍如何使用服务网格ASM的动态子集路由能力，将请求直接精准路由到正确的运行时环境，以加速模型服务网格的推理过程。背景信息 模型服务网格（Model Service Mesh）提供了一个可扩展的、高性能的基础架构，用于管理、部署和调度多个...
创建网关规则 方式一：通过图形化界面创建网关规则 登录 ASM控制台，在左侧导航栏，选择 服务网格 网格管理。在 网格管理 页面，单击目标实例名称，然后在左侧导航栏，选择 ASM网关 网关规则，然后单击 创建。在 创建 页面，配置相关信息，...
服务网格 ASM（Service Mesh）为网关提供了直观的图形化界面，您可以直接在控制台创建目标规则和虚拟服务，而无需编写YAML文件，大幅简化了流量管理操作。本文介绍如何使用图形化的方式创建流量策略和路由策略。前提条件 已添加集群到ASM...
服务网格 ASM（Service Mesh）为网关提供了直观的图形化界面，您可以直接在控制台创建目标规则和虚拟服务，而无需编写YAML文件，大幅简化了流量管理操作。本文介绍如何使用图形化的方式创建流量策略和路由策略。前提条件 已添加集群到ASM...
将集群添加到ASM实例后，可利用ASM提供的流量管理、故障处理、统一监控和日志管理等功能，来增强系统的可靠性和安全性，更好地管理和监控服务交互，...如需可视化应用、服务及其不同版本之间的调用关系与流量走向，可使用 ASM网格拓扑 功能。
在服务均为正常的情况下，服务网格会将流量保持在同一可用区，以最小化调用目标位置对请求延迟的影响。工作负载异常时，按照地理位置规划自动故障转移。当ASM检测到工作负载连续出现响应错误的情况，会将该服务剔除出负载均衡池，以将请求...
服务网格ASM提供日志中心功能，支持从ASM控制台查看服务网格控制平面和数据平面日志。启用日志采集后，您可以通过日志中心查看控制平面日志、配置基于日志的告警规则、查看数据平面日志和相关的Dashboard。本文介绍如何启用数据平面日志...
网格模型是在GeoSOT地球空间剖分理论的基础上发展出的一种离散化、多尺度区域位置标识体系。概述 您可以通过网格模型为地球空间（从地心至地上）中的各种对象赋予一个全球唯一编码，任意一个实体对象都可通过此编码在同一区城范围内和各种...
网格模型是在GeoSOT地球空间剖分理论的基础上发展出的一种离散化、多尺度区域位置标识体系。概述 您可以通过网格模型为地球空间（从地心至地上）中的各种对象赋予一个全球唯一编码，任意一个实体对象都可通过此编码在同一区城范围内和各种...
服务网格ASM提供日志中心功能，支持从ASM控制台查看服务网格控制平面和数据平面日志。启用日志采集后，您可以通过日志中心查看控制平面日志、配置基于日志的告警规则、查看数据平面日志和相关的Dashboard。本文介绍如何启用数据平面日志...
计费项 网格管理：企业版和旗舰版在标准版的基础上增强了多协议支持以及动态扩展能力，提供精细化服务治理，完善零信任安全体系，并持续提升性能及大规模集群支持能力，降低在生产环境落地 服务网格 的门槛。ASM针对不同的实例版本会收取...
ASM版本为1.18.0.146以下 绑定Envoy过滤器模板与工作负载 登录 ASM控制台，在左侧导航栏，选择 服务网格 网格管理。在 网格管理 页面，单击目标实例名称，然后在左侧导航栏，选择 插件扩展中心 Envoy过滤器模板。在 Envoy过滤器模板 页面，...
网格热力层是基础平面地图的子组件，支持独立的样式和数据配置，包括网格的大小、颜色、边宽以及经纬度等，能够以网格点的形式表现地理位置上的点的分布密度。本文介绍网格热力层各配置项的含义。注意 当前为v2.x版本的网格热力层子组件...
网格热力图是基础平面地图的子组件，支持独立的样式和数据配置，包括网格的大小、颜色、边宽以及经纬度等，能够以网格点的形式表现地理位置上的点的分布密度。本文介绍网格热力图各配置项的含义。注意 当前为v1.x版本的网格热力层子组件...
图表样式 网格聚合层是基础平面地图 3.0的子组件，支持独立的样式和数据配置，包括网格的尺寸大小、颜色和标注等，能够以聚合网格点的形式表现地理位置上的点的分布密度。样式面板 搜索配置：单击 样式 面板右上角的搜索配置项图标，可在...
偶发503 场景一：使用自定义监控指标功能进行个性化配置，每当配置变更时，日志监控发现少量请求出现503 问题原因 自定义指标功能的逻辑是通过生成一个对应的EnvoyFiter来进行 istio.stats 的配置更新。该配置在Envoy Listener级别生效，即...
ASMExtensionProvider是用于扩展和配置网格功能的组件，支持链路追踪、访问日志等关键特性的灵活集成与定制化配置。本文介绍ASMExtensionProvider的配置示例和字段说明。配置示例 配置Zipkin链路追踪 以下展示了一个链路追踪通过Zipkin进行...
predict","datatype":"INT64","shape":["1","1"],"contents":{"int64Contents":["8"]} }]} 相关文档 当您遇到多模型部署时存在差异化运行时环境需求，或者需要优化模型推理效率、控制资源分配的问题时，可以使用模型服务网格自定义模型...
在Spring Cloud体系中，开发者将微服务化后通用的能力封装在一个开发框架中，使用这个框架开发自己的业务代码，因此生成的微服务内置了这些能力。服务网格通过另一种形态提供治理能力，不同于SDK方式，服务治理的能力在一个独立的代理进程...
ASM自1.16.4.5版本起，网格拓扑支持与阿里云RAM访问控制进行对接。您可以使用主账号或阿里云RAM用户直接登录ASM网格拓扑。本文介绍如何使用阿里云账号登录ASM网格拓扑。前提条件 已创建ASM实例，且版本为1.16.4.5及以上。具体操作，请参见 ...
ASM自1.16.4.5版本起，网格拓扑支持与阿里云RAM访问控制进行对接。您可以使用主账号或阿里云RAM用户直接登录ASM网格拓扑。本文介绍如何使用阿里云账号登录ASM网格拓扑。前提条件 已创建ASM实例，且版本为1.16.4.5及以上。具体操作，请参见 ...
说明 ST_HexagonGrid函数是一个空间数据库函数，用于生成一个六边形网格，在地理信息系统(GIS)中经常用于空间分析和数据可视化。该函数接受一个中心点和一个边长作为输入参数，然后生成一个覆盖该中心点的六边形网格。这个函数可以帮助用户...
网格实例 API 标题 API概述 CreateServiceMesh 创建一个服务网格实例 调用CreateServiceMesh创建一个服务网格实例。DeleteServiceMesh 删除一个服务网格实例 调用DeleteServiceMesh删除一个服务网格实例。ModifyServiceMeshName 修改服务...
服务网格ASM支持对实例进行网格诊断，包括数据平面版本检查、服务端口检查、服务关联检查、App及Version标签检查、目标地址检查和虚拟服务冲突检查。网格诊断功能可以帮您更好地管理服务间通信，及时发现潜在问题，提升服务的可靠性、性能...
在默认情况下，由于不能确定网格内服务之间的调用依赖关系，Sidecar的配置中保存了数据平面内所有服务的信息。您可以使用Sidecar资源配置使对应工作负载上的Sidecar将仅关注与自己有调用依赖关系的服务信息。本文介绍如何使用基于访问日志...
当您遇到多模型部署时存在差异化运行时环境需求，或者需要优化模型推理效率、控制资源分配的问题时，可以使用模型服务网格自定义模型运行时，通过精细配置运行环境，确保每个模型都能在最适宜的条件下执行，提升服务质量、降低成本，并简化...
服务网格ASM支持对实例进行网格诊断，包括数据平面版本检查、服务端口检查、服务关联检查、App及Version标签检查、目标地址检查和虚拟服务冲突检查。网格诊断功能可以帮您更好地管理服务间通信，及时发现潜在问题，提升服务的可靠性、性能...
模型服务网格（Model Service Mesh）提供了一个可扩展的、高性能的基础架构，用于将多个模型服务进行管理、部署和调度，以此更好地处理模型的部署、版本管理、路由和推理请求的负载均衡。本文介绍模型服务网格的概念和相关功能。什么是模型...
本文介绍 服务网格 维护窗口的功能、使用场景、使用须知、注意事项以及如何配置维护窗口。功能介绍及使用场景 服务网格 ASM会根据需要对 服务网格 的托管控制面执行自动维护任务。根据 版本机制，对于补丁版本的升级，系统会不定期对托管...
本文介绍 服务网格 维护窗口的功能、使用场景、使用须知、注意事项以及如何配置维护窗口。功能介绍及使用场景 服务网格 ASM会根据需要对 服务网格 的托管控制面执行自动维护任务。根据 版本机制，对于补丁版本的升级，系统会不定期对托管...
如果您需要对网格外服务进行授权控制，请参见 对网格内服务访问外部网站进行授权控制 和 对网格内服务访问外部数据库进行授权控制。您可以自定义ASM网关访问日志的内容，及时发现潜在的安全问题。具体操作，请参见 生成和采集ASM网关访问...
如果您需要对网格外服务进行授权控制，请参见 对网格内服务访问外部网站进行授权控制 和 对网格内服务访问外部数据库进行授权控制。您可以自定义ASM网关访问日志的内容，及时发现潜在的安全问题。具体操作，请参见 生成和采集ASM网关访问...
当您需要全面监控和审计服务网格内的KubeAPI操作时，可以使用KubeAPI操作审计功能，记录或追溯不同用户的日常操作。通过查看审计中心概览、账号操作详情、资源操作概览和指定资源的详细操作列表，您可以更好地追踪和分析关键事件，了解资源...
当您需要全面监控和审计服务网格内的KubeAPI操作时，可以使用KubeAPI操作审计功能，记录或追溯不同用户的日常操作。通过查看审计中心概览、账号操作详情、资源操作概览和指定资源的详细操作列表，您可以更好地追踪和分析关键事件，了解资源...