基于链路追踪+ECI的流量洪峰应对
云原生技术已经为越来越多的互联网客户接受，对于在线教育、互动娱乐、电商等类型的客户会由于业务的原因存在突增业务流量，因此对于系统的稳定性非常关注，结合阿里云的容器服务、链路追踪、弹性容器ECI等产品，帮助客户业务实现容器化改造，并且方便发现系统应用架构中的瓶颈等问题，实现系统高弹性的同时优化客户的云资源使用成本。 l 方案优势 ￚ 支持分布式追踪、调用链分析、DB调用分析、链路拓扑分析、业务指标统计等系统链路调用分析。 ￚ 运维研发效率提高，链路追踪服务端全托管，免运维。 ￚ 链路追踪的应用调用链分析能力结合ECI高弹性能力，提升应用系统在洪峰流量冲击下的稳定性。 ￚ 链路追踪接入方便，ECI POD弹性伸缩，节省用户运维成本和云资源使用成本。 ￚ 结合SLS Ingress可以基于应用前端访问性能指标做弹性伸缩，更丰富的云原生弹性能力。
PTS的目标是将性能压测本身的工作持续简 文档版本：20201222 III 基于链路追踪+ECI的应用高可用弹性实践 前言 化，用户可以通过较低的人力和资源成本，构造出最接近真实业务场景的复杂交 互式流量，快速衡量系统的业务性能状况，为性能问题定位、容量最佳配比、全 链路压测的流量构造提供最好的帮助。更多信息，请参见 ...
容器服务 Kubernetes 版 ACK
阿里云容器服务Kubernetes版ACK（容器服务Kubernetes版，简称ACK）支持企业级K8s容器化应用的全生命周期管理，提供高性能可伸缩的容器应用管理能力，助力企业高效运行云端K8s容器化应用。
—— 餐道架构负责人蔡金辉“小鹏基于托管在容器服务 ACK 上的全量业务，采用 ARMS Prometheus 服务、前端监控和 APM 等工具实现全链路监控系统，有效洞察业务稳定性风险，保障业务稳定性。—— 小鹏技术负责人“在切换到 Kubernetes 正式环境后，扩容时间只需要约 90 秒。服务器扩容成本降低了 70%~90%。同时，部署效率...
来自：
云产品
应用实时监控服务ARMS
作为云原生可观测平台，应用实时监控服务 ARMS 包含前端监控、应用监控、云拨测等模块。覆盖浏览器、小程序、APP、分布式应用、容器等不同可观测环境与场景。帮助企业实现全栈性能监控与端到端追踪诊断。提高监控效率，压降运维工作量。
完整的全样本全链路调用链追踪 为故障定位提供详尽依据.全链路调用链分析.构建统一告警管理体系 提供 AI 加持的告警管理与应急协同能力.兼容 OpenTelemetry、Prometheus、Grafana 等开源标准.提供低消耗探针及高可用平台 统一 GB 计费，压降监控成本消耗.高可用&低成本.通过与 Grafana 联动，向客户提供开箱即用的应用概览...
来自：
云产品
GPU云服务器
阿里云GPU云服务器（GPU Cloud Computing，GPU）是提供 GPU 算力的弹性计算服务，具有超强的计算能力，服务于深度学习、科学计算、图形可视化、视频处理多种应用场景。阿里云作为亚洲第一的云服务提供商，随时为您提供触手可得的算力，有效缓解计算压力，提升您的业务效率，助您提高企业竞争力。
gn6v规格族、gn7i(指定规格)首购活动，包月5折，包年低至4折起.gn6v规格族包月低至6折起，gn6i规格族包年5折起.A10卡目录价降低11%~25%，6月6日上线生效.GPU云服务器Ebmgn7ix邀测报名通道.阿里云cGPU容器技术重磅发布.GRID15.2镜像(windows server 2022).GRID13.5镜像(windows server 2022).阿里云为您提供专有的辅助工具....
来自：
云产品
Elasticsearch
阿里云检索分析服务 Elasticsearch 版是100%兼容开源的分布式检索、分析套件。提供ELK等开源全托管的产品服务能力。为结构化/非结构化数据提供低成本、高性能及可靠性的检索、分析平台级产品服务。具备读写分离、存算分离、弹性伸缩、智能化运维、免费的X-Pack高级商业特性等产品特性。
基于向量特征相似度匹配，典型应用于解决以图搜图、智能问答、推荐系统-向量召回链路等场景问题.向量多模态检索.实时计算Flink版.云数据库RDS MySQL版.机器学习平台PAI.推荐搭配使用产品.综合检索分析.综合检索分析.Elasticsearch Serverless 是围绕 Elasticsearch 打造的云原生 Serverless 服务化产品，实现真正业务负载与...
来自：
云产品
基于MSE云原生网关实现全链路灰度
在微服务场景中，应用间的调用是随机的。当您部署的Spring Cloud应用或Dubbo应用存在升级版本时，可能会导致无法将具有一定特征的流量路由到应用的目标版本。通过MSE提供的全链路灰度能力，您无需修改业务代码，就可以实现端到端的全链路流量控制。泳道可以将应用的相关版本隔离成一个独立的运行环境。通过设置泳道规则，可以将满足规则的请求流量路由到目标版本的应用。
云速搭CADT 专有网络VPC 微服务引擎MSE-注册配置中心 微服务引擎MSE-云原生网关 微服务引擎MSE-微服务治理 负载均衡SLB 容器服务ACK基于MSE云原生网关实现全链路 灰度最佳实践 文档版本：20240429基于MSE云原生网关实现全链路灰度最佳实践 文档版本信息 文档版本信息 文档信息 属性 内容 文档名称 ...
可观测链路 OpenTelemetry版结合日志服务SLS关联分析最佳实践
可观测链路 OpenTelemetry 版为分布式应用的开发者提供了完整的调用链路还原、调用请求量统计、链路拓扑、应用依赖分析等工具，可以帮助开发者快速分析和诊断分布式应用架构下的性能瓶颈，当应用出现业务异常问题时，您可以在可观测链路 OpenTelemetry 版控制台关联查看日志进行分析，精准定位业务异常。
应用场景 借助可观测链路 OpenTelemetry 版和日志服务 SLS，接入为多语言分布式应用的链 路数据和日志。提供一个典型微服务场景在云上实现可观测的步骤，通过云原生相关 产品在用户应用上云时解决应用性能监控、日志接入分析等需求。主要步骤：1.通过 CADT快速完成应用环境部署；2.应用 Trace和日志数据接入；3.应用 Trace...
基于函数计算FC镜像部署Stable Diffusion大模型
在现代AI应用中， Stable Diffusion等模型因其强大的功能而受到关注。然而，这些模型对计算资源的高需求和复杂的运维管理成为部署时的挑战。基于函数计算FC的无服务器计算模式为这类模型的部署提供了全新的解决方案。用户只需关注模型的部署和调用逻辑，而无需关心底层的服务器配置、资源分配和扩展性等问题。函数计算FC能够自动处理函数的执行环境，包括冷启动、弹性伸缩等，确保模型能够在大规模的请求下稳定运行。
方案优势 简化模型部署流程 全链路自适应弹性，无需为流量峰谷做频繁的手工处理 内置CICD平台能力，灰度，回滚，监控开箱即用 按量付费模式，没有资源闲置费用 产品介绍 函数计算 FC（Function Compute）：函数计算是事件驱动的全托管计算服务。使 用函数计算，您无需采购与管理服务器等基础设施，只需编写并上传代码或镜 ...
基于函数计算FC实现大语言模型部署
在现代AI应用中， Qwen /chatglm2-6b 和Stable Diffusion等模型因其强大的功能而受到关注。然而，这些模型对计算资源的高需求和复杂的运维管理成为部署时的挑战。基于函数计算FC的无服务器计算模式为这类模型的部署提供了全新的解决方案。用户只需关注模型的部署和调用逻辑，而无需关心底层的服务器配置、资源分配和扩展性等问题。函数计算FC能够自动处理函数的执行环境，包括冷启动、弹性伸缩等，确保模型能够在大规模的请求下稳定运行。
文档版本：20240429 8 基于函数计算 FC实现大语言模型部署最佳实践 使用魔搭将社区模型部署到 FC 步骤14 配置完上述信息后，点击创建应用即可将对应模型部署到 FC服务上，部署时长根据模 型大小略有不同。步骤15 部署中可以点击查看日志查看部署进度 文档版本：20240429 9 基于函数计算 FC实现大语言模型部署最佳实践 使用...
通义千问和LangChain搭建对话模型
本方案结合通义千问和LangChain技术构建高效的对话模型，该模型基于自然语言处理技术提升语义理解和用户交互体验。它可以有效解决传统对话模型在理解能力和交互效果上的局限，使得用户沟通更加自然流畅，被广泛应用于聊天机器人、智能客服和社交媒体等多种场景。
查看详情通过PAI-灵骏分布式训练和部署Llama 2模型我们以 Meta 最新开源的大语言模型 Llama2 为例，通过PAI-灵骏完成了大语言模型的高效分布式训练、三阶段指令微调、模型离线推理验证以及在线服务部署等完整的开发链路。我们提供了两套训练流程，基于Huggingface&DeepSpeed和MegatronLM，可适用于开发Llama2全系列模型。在...
来自：
解决方案
基于MSE和SAE的微服务部署与压测
通过云原生微服务引擎MSE、SAE、PTS、ARMS产品，为spring cloud微服务应用提供部署和测试能力，提供一个经典微服务应用上云的典型架构，实现微服务应用的快速落地。
一键释放资源.40 文档版本：20240415 III基于MSE和SAE的微服务部署与压测 最佳实践概述 最佳实践概述 方案概述 云原生应用平台为基于SpringCloud/Dubbo开发的微服务应用提供了完善的能力支 撑，例如服务注册发现、Serverless无服务部署、实例弹性伸缩、微服务链路跟踪、全链路压力测试等，应用能够方便快捷的部署在阿里云上...
大模型RAG对话系统部署
大模型RAG对话系统最佳实践，旨在指引AI开发人员如何有效地结合LLM大语言模型的推理能力和外部知识库检索增强技术，从而显著提升对话系统的性能，使其能更加灵活地返回用户查询的内容。适用于问答、摘要生成和其他依赖外部知识的自然语言处理任务。通过该实践，您可以掌握构建一个大模型RAG对话系统的完整开发链路。
大模型 RAG对话系统部署 最佳实践 业务架构 场景描述 大语言模型（LLM）在生成准确和实时的回复方面存 在局限性，不适合直接用于需要精确信息的客服或问 答等场景。当前业界普遍采用基于检索增强的 RAG 技术来改善 LLM的表现。该方法通过结合 LLM的归 纳生成能力和向量检索库的检索能力，增强对用户查 询的理解，并产生更加...
MSE网关使用JWT进行认证鉴权
MSE网关中调用外部的认证鉴权服务，通过JWT的方式进行全局认证鉴权。 对网关有认证鉴权安全需求的场景，对于敏感的服务路由（可通过黑白名单方式配置）在网关层进行认证鉴权。
V1.2 2024-04-02 四牛 游圣 CADT版本升级，1）SAE中支持环境变量，无 需手工配置 2）CLB跟 SAE服务的监听 支持自动创建，无需手动挂 载 3）SAE改版 文档版本：20240402 I MSE网关使用 JWT实现认证鉴权 目录 目录 文档版本信息.I 法律声明.II 目录.III 最佳实践概述.4 前置条件.1 1.CADT基础环境搭建.2 2.工具生成公钥、私钥...
IPv4网关实现流量统一出入口
对公网流量出入有严格的限制，禁止ECS直接通过挂载公网IP访问互联网带来安全隐患
网络型负载均衡 NLB（Network Load Balancer）：是阿里云面向万物互联时代推 出的新一代四层负载均衡，支持超高性能和自动弹性能力，单实例可以达到 1亿 并发连接，帮您轻松应对高并发业务。云服务器 ECS（Elastic Compute Service）：是阿里云提供的性能卓越、稳定可靠、弹性扩展的 IaaS（Infrastructure as a Service）...
一键训练大模型及部署GPU共享推理服务
通过创建ACK集群Pro版，使用云原生AI套件提交模型微调训练任务与部署GPU共享推理服务。支持快速创建Kubernetes集群，白屏配置任务数据共享存储和下载，并通过命令行工具Arena快速提交模型训练任务、部署推理服务。使用云原生AI套件可以让模型训练和推理提效，提高GPU资源利用率。
查看详情MSE实现全链路灰度MSE微服务治理为多应用发布提供全链路灰度能力，让客户不修改业务代码的情况下实现全链路流量控制，端到端构建从网关到多个后端服务的全链路灰度。客户在多应用同时发布新版本的情况下，支持多个应用进行灰度验证，确保应用平滑发布上线。查看详情技术解决方案咨询我们将根据您提交的需求，安排...
来自：
解决方案
- 产品推荐
- 这些文档可能帮助您