一键训练大模型及部署GPU共享推理服务
通过创建ACK集群Pro版,使用云原生AI套件提交模型微调训练任务与部署GPU共享推理服务。支持快速创建Kubernetes集群,白屏配置任务数据共享存储和下载,并通过命令行工具Arena快速提交模型训练任务、部署推理服务。使用云原生AI套件可以让模型训练和推理提效,提高GPU资源利用率。
架构与部署 一键训练大模型及部署GPU共享推理服务 通过创建ACK集群Pro版,您可以为集群挂载NAS实例作为集群的共享存储卷,用于存放模型训练数据。集群中部署云原生AI套件后,您可以基于其能力提交Bloom模型训练任务进行模型训练,并通过GPU显存共享调度的能力,将多个推理服务部署在同一块GPU卡上以提高GPU的利用率。立即...
企业云上网络架构规划
企业云上网络架构规划方案能够为企业提供面向业务的网络架构,确保业务的可靠性,并保持架构的可扩展性和可持续性,以满足未来企业业务增长所需的资源扩容和架构升级。
企业云上网络架构规划方案能够为企业提供面向业务的网络架构,确保业务的可靠性,并保持架构的可扩展性和可持续性,以满足未来企业业务增长所需的资源扩容和架构升级。企业云上网络架构规划 企业云上网络架构规划方案能够为企业提供面向业务的网络架构,确保业务的可靠性,并保持架构的可扩展性和可持续性,以满足未来企业...
卓越效能,极简运维,Serverless高可用架构
本文推荐采用Serverless高可用架构方案,支持服务托管、弹性伸缩和按量付费,减少企业资源管理和性能成本优化的工作,通过高可用的配置,避免可能遇到的单点故障风险。
本文推荐采用Serverless高可用架构方案,支持服务托管、弹性伸缩和按量付费,减少企业资源管理和性能成本优化的工作,通过高可用的配置,避免可能遇到的单点故障风险。卓越效能,极简运维,Serverless高可用架构 本文推荐采用Serverless高可用架构方案,支持服务托管、弹性伸缩和按量付费,减少企业资源管理和性能成本优化...
架构必修课:云上高可用架构
业务的持续稳定可服务,决定着企业对客户的服务质量,是企业发展的基础。而应用部署的高可用架构对于业务的稳定与发展起着至关重要的作用,本方案从企业上云最基础的需求出发,针对可能遇到的单点故障风险,介绍了经典的“业务上云高可用架构”方案设计。
架构必修课:云上高可用架构 业务的持续稳定可服务,决定着企业对客户的服务质量,是企业发展的基础。而应用部署的高可用架构对于业务的稳定与发展起着至关重要的作用,本方案从企业上云最基础的需求出发,针对可能遇到的单点故障风险,介绍了经典的“业务上云高可用架构”方案设计。在线部署 适用客户 有处理高并发请求...
云上公网架构设计和安全管理
云上公网的设计可以帮助企业更加统一、安全的管理自己的云上互联网出入口,同时可以实现统一监控运维和公网的成本优化。
云上公网架构设计和安全管理 云上公网的设计可以帮助企业更加统一、安全的管理自己的云上互联网出入口,同时可以实现统一监控运维和公网的成本优化。在线部署 适用客户 正在进行云上迁移的企业 追求网络性能与安全的企业 需要精细化管理云上资源出入口的企业 方案优势 云上公网的设计和安全管理的优势 高可靠 提供多层次的...
高可用及共享存储Web服务
随着业务规模的增长,数据请求和并发访问量增大、静态文件高频变更,企业需要搭建一个高可用和共享存储的网站架构,以确保网站服务能够7*24小时运行的同时,可保障数据一致性和共享性,并降低数据重复存储的成本。
架构与部署 高可用及共享存储Web服务 架构采用同地域不同可用区的云服务器ECS提供高性能的后端服务,负载均衡CLB实现高可用保证业务的连续性,文件存储NAS实现多个Web服务器之间的数据共享和同步,确保数据的一致性。立即部署 55分钟 5元(假设您选择本文示例规格资源,且资源运行时间不超过60分钟。实际情况中可能会因您...
通过弹性公网IP确保服务迁移时公网IP不变
阿里云提供了将原ECS实例所分配的固定公网IP转为弹性公网IP(EIP),且公网IP地址不变的能力。您可以将转换后的EIP绑定到负载均衡SLB或其他ECS实例上,在不影响业务的情况下完成水平扩容、服务迁移。
架构与部署 通过弹性公网IP确保服务迁移时公网IP不变 通过弹性公网IP实现随时将公网IP与不同的资源进行关联和解绑,当业务需要水平扩容或进行资源迁移时,可以轻松地将EIP重新关联到新的资源上,提高了IP资源管理的灵活和服务的稳定性。立即部署 45分钟 1元(假设您选择本文示例规格资源,且资源运行时间不超过60分钟。实际...
通义千问和LangChain搭建对话服务
本方案结合通义千问和LangChain技术构建高效的对话模型,该模型基于自然语言处理技术提升语义理解和用户交互体验。它可以有效解决传统对话模型在理解能力和交互效果上的局限,使得用户沟通更加自然流畅,被广泛应用于聊天机器人、智能客服和社交媒体等多种场景。
架构与部署 通义千问和LangChain搭建对话服务 PAI-EAS提供了预置的标准镜像,实现即开即用,有效减少开发成本,并且支持包括GU30、V100、A10、T4在内的多种显卡机型,以满足不同计算需求。此外,PAI-Blade加速插件在推理场景中能够实现高达50%的性能提升,当与PAI-EAS的GU30系列机型配合使用时,能够提供最优的性价比,...
向量检索与通义千问搭建专属问答服务
本方案介绍如何使用向量检索服务(DashVector)结合通义千问大模型来打造基于垂直领域专属知识的问答服务。解决大模型本身在处理特定领域的知识表示和应用时的局限性,为企业提供部署简单、便于集成、实时高效、专业稳定的应用服务。
架构与部署 向量检索与通义千问搭建专属问答服务 通过文本向量模型将其转化为高质量低维度的向量数据,再写入DashVector向量检索服务。数据的向量化采用灵积模型服务上的Embedding API实现。将提问文本向量化后,通过DashVector提取相关知识点的原文。将相关知识点作为“限定上下文+提问”一起作为prompt询问通义千问。立即...
基于SpringCloud应用玩转MSE实践
基于<em>SpringCloud</em>应用玩转MSE实践
随着业务不断创新,大型的单个应用和服务会被拆分为数个甚至数十个微服务,微服务架构已经被广泛应用。 微服务的好处在于快速迭代,如何在迭代过程中保障线上流量不受损。依赖开源产品缺少无运维工具,常常需要投入较大的运维人力和成本。 本实践提供基于云原生应用产品提供微服务注册配置中心、微服务治理和云原生网关等一系列高性能和高可用的企业级云服务能力。
基于SpringCloud应用玩转MSE实践 业务架构 场景描述 随着业务不断创新,大型的单个应用和服务会被拆分为数 个甚至数十个微服务,微服务架构已经被广泛应用。微服 的好处在于快速迭代,迭代过程保障线上流量不受损。依赖开源产品缺少专业运维工具,常常需要投入较大的运 维人力和成本。本实践基于云原生应用产品提供微服务...
来自: 最佳实践 | 相关产品:弹性公网IP,容器服务 ACK,日志服务(SLS),NAT网关,微服务引擎,消息队列 RocketMQ 版,云速搭
可观测链路 OpenTelemetry版结合日志服务SLS关联分析最佳实践
可观测链路 OpenTelemetry版结合日志<em>服务</em>SLS关联分析最佳实践
可观测链路 OpenTelemetry 版为分布式应用的开发者提供了完整的调用链路还原、调用请求量统计、链路拓扑、应用依赖分析等工具,可以帮助开发者快速分析和诊断分布式应用架构下的性能瓶颈,当应用出现业务异常问题时,您可以在可观测链路 OpenTelemetry 版控制台关联查看日志进行分析,精准定位业务异常。
一键释放资源.22 文档版本:20240428 III 可观测链路 OpenTelemetry 版结合日志服务 SLS最佳实践 最佳实践概述 最佳实践概述 方案概述 在微服务架构下,服务之间的相互调用关系错综复杂,当业务异常发生时,定位问题 的源头可能需要跨越多个服务,追踪大量的请求日志。由于服务分散和日志量大,此 过程极易变得耗时且低效。...
来自: 最佳实践 | 相关产品:日志服务(SLS),云速搭
向量检索服务 Milvus 版
阿里云向量检索服务Milvus版是一款云原生开源向量检索引擎,为用户提供多模态检索服务和高效稳定的向量数据检索能力,与云计算等产品集成对接,为AI应用场景的数据工程提供便利。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云AI 助理备案控制台向量检索服务 Milvus 版产品简介产品优势产品功能入门与试用技术解决方案产品定价安全合规客户案例常见问题向量检索服务 Milvus 版100%兼容开源Milvus,并集成Zilliz研发的强大商业版内核,在性能、稳定性、可用性等方向进行大量...
来自: 云产品
SpringCloud应用托管到ACK服务
<em>SpringCloud</em>应用托管到ACK<em>服务</em>
场景描述 本实践适用于将SpringCloud应用托管到 ACK服务的场景中,创建容器服务ACK后, 利用Helm一键部署SpringCloud应用,将 SpringCloud应用托管到容器服务ACK。 解决问题 1.将SpringCloud应用托管到容器服务 ACK 产品列表 容器服务ACK 云服务器ECS
1.2.PiggyMetrics架构 应用服务架构如下:5 企业上云实践 SpringCloud应用托管到 ACK服务最佳实践 其包含了三个微服务,都是可以独立部署的应用,每个应用都有自己的数据库,无法直接通过 API访问持 久化的数据。这里采用了 MongoDB作为主数据。服务与服务之间的通信采用异步的 Rest API来实现。基础设施服务架构如下:前端...
来自: 最佳实践 | 相关产品:容器服务 ACK
基于SAE的一站式Web服务托管方案
基于SAE的一站式Web<em>服务</em>托管方案
通过SAE提供的内置CICD能力,代码提交后可以触发自动构建,并部署应用到SAE,部署完成后,应用自动产生访问域名,外部请求通过域名可以直接访问应用。SAE提供了内置的可观测,灰度,回滚能力,通过控制台可以白屏化完成整个操作。SAE适合应用容器化快速上云,客户只需要提供代码仓库,后续的CICD,应用访问,弹性管理,运维监控,SAE都提供了内置的集成能力
基于SAE 2.0的一站式 Web服务托管方案 业务架构 场景描述 Web服务在互联网架构中有广泛的应用,通过 SAE提供的一站式方案,可以快速完成 CICD整 个流程,并且通过 SAE的内置能力,可以快速完 成灰度发布,应用观测,异常回滚等能力。应用场景 通过 SAE提供的内置 CICD能力,代码提交后可 以触发自动构建,并部署应用到 SAE...
来自: 最佳实践 | 相关产品:Serverless 应用引擎
阿里云日志服务SLS多云统一日志方案之腾讯云日志采集最佳实践
阿里云日志<em>服务</em>SLS多云统一日志方案之腾讯云日志采集最佳实践
使用日志服务SLS统一采集、存储、查询和分析阿里云、腾讯云等不同云厂商上的业务日志、系统日志和云产品日志,实现在一个平台上管理多云架构下的所有日志。
阿里云 SLS多云日志统一管理方案-腾讯云日志采集 最佳实践 业务架构 场景描述 使用日志服务 SLS统一采集、存储、查询和分析 阿里云、腾讯云等不同云厂商上的业务日志、系 统日志和云产品日志,实现在一个平台上管理多 云架构下的所有日志。产品列表 方案适用的场景和优势 阿里云 多云:使用多云架构的用户都需要有一个统一...
来自: 最佳实践 | 相关产品:日志服务(SLS),云速搭
< 1 2 3 4 ... 20 >
共有20页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用