容器服务 Kubernetes 版 ACK
阿里云容器服务Kubernetes版ACK（容器服务Kubernetes版，简称ACK）支持企业级K8s容器化应用的全生命周期管理，提供高性能可伸缩的容器应用管理能力，助力企业高效运行云端K8s容器化应用。
设计应用部署模型和网络访问的方式2023.07.10产品简介容器服务 Kubernetes 版（简称 ACK）提供高性能且可伸缩的容器应用管理能力，支持企业级容器化应用的全生命周期管理。在 2021 年，ACK 成为国内唯一连续三年入选 Gartner 公共云容器报告的产品，同时在 2022 年成为国内唯一进入 Forrester 领导者象限的产品。ACK 整合了...
来自：
云产品
人工智能平台 PAI
阿里云人工智能平台 PAI 涵盖交互式建模、可视化建模、分布式训练到模型在线部署全流程；快速搭建人工智能推荐系统；深度学习模型训练速度提升数十倍；减少50%GPU成本
模型部署：利用 PAI-EAS 定时自动部署模型服务.人工智能平台 PAI行业解决方案.金融量化科学计算解决方案.深度学习分布式训练框架.GNN框架Graph-Learn技术分享.EasyCompression进行模型压缩训练.Blade：通用推理优化工具（1）.Blade：通用推理优化工具（2）.在数据准备阶段，PAI-iTAG 提供智能化数据标注服务，支持图像、...
来自：
云产品
基于函数计算FC实现大语言模型部署
在现代AI应用中， Qwen /chatglm2-6b 和Stable Diffusion等模型因其强大的功能而受到关注。然而，这些模型对计算资源的高需求和复杂的运维管理成为部署时的挑战。基于函数计算FC的无服务器计算模式为这类模型的部署提供了全新的解决方案。用户只需关注模型的部署和调用逻辑，而无需关心底层的服务器配置、资源分配和扩展性等问题。函数计算FC能够自动处理函数的执行环境，包括冷启动、弹性伸缩等，确保模型能够在大规模的请求下稳定运行。
9657388 步骤9 授权FC使用云资源，完成 FC的 Role角色授权，并确认状态为已授权 完成所有授权后如下图，步骤10 点击上个页面的新建部署，会出现快速部署模型服务界面，这里可以选择自己想要部 署的模型，一键部署访问域名，实现对话 步骤11 目前支持一键部署到 FC的模型种类很丰富，这里以社区模型 ZhipuAI/chatglm2-6b模 ...
基于函数计算FC镜像部署Stable Diffusion大模型
在现代AI应用中， Stable Diffusion等模型因其强大的功能而受到关注。然而，这些模型对计算资源的高需求和复杂的运维管理成为部署时的挑战。基于函数计算FC的无服务器计算模式为这类模型的部署提供了全新的解决方案。用户只需关注模型的部署和调用逻辑，而无需关心底层的服务器配置、资源分配和扩展性等问题。函数计算FC能够自动处理函数的执行环境，包括冷启动、弹性伸缩等，确保模型能够在大规模的请求下稳定运行。
通过将 SD等模 阿里云函数计算(FC)型部署在函数计算 FC上，提供了高效、弹性、低成 阿里云镜像容器服务（ACR）本的部署解决方案。云服务器（ECS）解决问题•简化模型部署流程•全链路自适应弹性，无需为流量峰谷做频繁的手 工处理•内置CICD平台能力，灰度，回滚，监控开箱即 用•按量付费模式，没有资源闲置费用 最佳实践...
大模型RAG对话系统部署
大模型RAG对话系统最佳实践，旨在指引AI开发人员如何有效地结合LLM大语言模型的推理能力和外部知识库检索增强技术，从而显著提升对话系统的性能，使其能更加灵活地返回用户查询的内容。适用于问答、摘要生成和其他依赖外部知识的自然语言处理任务。通过该实践，您可以掌握构建一个大模型RAG对话系统的完整开发链路。
文档版本：20240131 9 大模型 RAG对话系统部署 部署基础环境 步骤5 进入核算价格阶段，这里会将应用中的云资源按照免费、按量付费和包年包月进行分 类显示，如果产品享受折扣这里会自动将账号对应的优惠显示出来。价格清单中的价格信息为当时的实时价格，具体产品价格信息请以页面显示为准。步骤6 如果确认价格符合预期，...
通义千问和LangChain搭建对话模型
本方案结合通义千问和LangChain技术构建高效的对话模型，该模型基于自然语言处理技术提升语义理解和用户交互体验。它可以有效解决传统对话模型在理解能力和交互效果上的局限，使得用户沟通更加自然流畅，被广泛应用于聊天机器人、智能客服和社交媒体等多种场景。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云备案控制台 本方案结合通义千问和LangChain技术构建高效的对话模型，该模型基于自然语言处理技术提升语义理解和用户交互体验。它可以有效解决传统对话模型在理解能力和交互效果上的局限，使得用户沟通更加自然流畅，被广泛应用于聊天机器人、智能客服...
来自：
解决方案
一键训练大模型及部署GPU共享推理服务
通过创建ACK集群Pro版，使用云原生AI套件提交模型微调训练任务与部署GPU共享推理服务。支持快速创建Kubernetes集群，白屏配置任务数据共享存储和下载，并通过命令行工具Arena快速提交模型训练任务、部署推理服务。使用云原生AI套件可以让模型训练和推理提效，提高GPU资源利用率。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云备案控制台通过创建ACK集群Pro版，使用云原生AI套件提交模型微调训练任务与部署GPU共享推理服务。支持快速创建Kubernetes集群，白屏配置任务数据共享存储和下载，并通过命令行工具Arena快速提交模型训练任务、部署推理服务。使用云原生AI套件可以让...
来自：
解决方案
云消息队列 Confluent 版
云消息队列 Confluent 版是阿里云与 Apache Kafka 项目创始团队所创立的 Confluent 公司合作，基于 Apache Kafka 核心能力提供的企业级全托管消息队列服务，旨在为企业提供集成消息流式处理与大数据系统的一站式解决方案。
跨可用区部署.Exactly Once 语义.基于密钥的存储压缩.图形化管理界面.业务指标（Prometheus 格式）.日志集成 SLS.系统自带 LDAP.普通支持答疑.专业版 Professional.系统自带 LDAP/自定义 LDAP.原厂一对一服务.企业版 Enterprise.支持多种主流编程语言进行软件开发，例如 Java、Python 和 Scala.企业级 Connectors，MQTT ...
来自：
云产品
高效防护 Web 应用-自定义模板
随着网络技术的不断发展，您的Web应用如果没有流量入口的防护，会面临诸多风险。本方案以ECS实例接入WAF为例，推荐您使用Web应用防火墙（WAF）开启应用防护，避免网站服务器被恶意入侵导致性能异常等问题，保障网站的业务安全和数据安全。同时，为您节约开发成本，满足行业合规要求。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云备案控制台方案导读背景如何防护 Web 应用与传统方案对比WAF 应用场景部署 WAF随着网络技术的不断发展，您的Web应用如果没有流量入口的防护，会面临诸多风险。本方案以ECS实例接入WAF为例，推荐您使用Web应用防火墙（WAF）开启应用防护，避免网站...
来自：
解决方案
通过PAI-灵骏分布式训练和部署Llama 2模型
我们以 Meta 最新开源的大语言模型 Llama2 为例，通过PAI-灵骏完成了大语言模型的高效分布式训练、三阶段指令微调、模型离线推理验证以及在线服务部署等完整的开发链路。我们提供了两套训练流程，基于Huggingface&DeepSpeed和MegatronLM，可适用于开发Llama2全系列模型。在保证模型效果和Huggingface对齐的前提下，大幅提升大模型训练分布式效率。此外，灵骏还支持业界各类流行的开源大语言模型，包括Bloom系列、Falcon系列、GLM/ChatGLM系列，以及领域大模型galactica等的高效训练和部署。方案整体可用于企业样本标注、创意文本生成、智能对话助手、文本类创作辅助等场景。
方案部署01资源准备规划网络及资源、部署资源02模型及数据准备用户完成模型下载、准备预训练数据03模型训练在PAI-DSW中训练模型，或PAI-DLC中配置多机多卡分布式任务04模型离线推理及上传离线推理模型评估模型效果，并上传至OSS05部署模型在PAI-EAS平台部署大模型推理服务一键部署手动部署解决方案推荐向量检索与通义千问...
来自：
解决方案
向量检索与通义千问搭建专属问答服务
本方案介绍如何使用向量检索服务（DashVector）结合通义千问大模型来打造基于垂直领域专属知识等问答服务。解决大模型本身在处理特定领域的知识表示和应用时的局限性。为企业提供部署简单，便于集成，实时高效，专业稳定的应用服务。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云备案控制台方案导读本方案介绍如何使用向量检索服务（DashVector）结合通义千问大模型来打造基于垂直领域专属知识等问答服务。解决大模型本身在处理特定领域的知识表示和应用时的局限性。为企业提供部署简单、便于集成、实时高效、专业稳定的应用服务...
来自：
解决方案
云原生企业级数据湖
基于对象存储 OSS 构建的数据湖，可对接多种数据输入方式，存储任何规模的结构化、半结构化、非结构化数据，打破数据湖孤岛。无缝对接多种数据分析产品，对存储在对象存储 OSS 中的数据直接进行大数据分析，洞察业务价值。同时，数据湖提供多种存储类型的冷热分层转换能力，通过数据全生命周期管理优化存储成本。
基于数据湖的人工智能通过数据湖支撑人工智能从训练数据存储、预处理、特征提取、训练、模型部署和推理多个重要过程，充分发挥机器学习平台的技术优势，凭借高吞吐能力，进一步训练速度提升，为人工智能算法提供有效数据支撑。方案部署01部署准备开通OSS、EMR、机器学习平台PAI、文件存储CPFS服务。02创建资源创建OSS存储桶...
来自：
解决方案
OA云资源申请流程自动化
在企业级客户场景中，对云资源的使用通常需要经过内部OA流程审批通过后再进行部署。本最佳实践致力于提供一个通用解决方案，以解决OA云资源申请流程中的自动化问题，提高运维效率，以更好地支撑业务创新。
在构建自动化的流程中需 要解决以下几个问题：1、云产品部署模型的标准化：如何形成相对固定的几个资源部署模板来覆盖用户的云 电脑申请诉求，并且能够在模板中固化一些规格配置，避免资源过度申请，同时也能 形成规范。2、自动化编排：不仅需要把云电脑开出来，而且还需要分配给指定用户。3、方案的通用性：OA流程尽可能用...
IPv4网关实现流量统一出入口
对公网流量出入有严格的限制，禁止ECS直接通过挂载公网IP访问互联网带来安全隐患
文档版本：20240131 1 大模型 RAG对话系统部署 部署基础环境 1.基础环境搭建 本实践可通过 CADT官方模板快速拉起测试环境。步骤1 登录云速搭CADT管理控制台（https://bpstudio.console.aliyun.com/），单击新建>官方解决方案中心。步骤2 搜索关键字，找到“IPv4网关实现流量统一出入口”，单击基于应用新建。文档版本：...
基于云速搭CADT快速构建药物筛选批量计算环境-serverless版
本方案基于云速搭 CADT提供一个快速构建云上Serverless版HPC批量计算环境的模板，针对生物制药领域的药物筛选场景，提供开箱即用的整套解决方案工具包，整个云上环境仅需1个小时即可完成自动化部署搭建。
最佳实践概述 场景描述 本方案基于云速搭 CADT提供一个快速构建云上 Serverless版 HPC批量计算环境的模 板，针对生物制药领域的药物筛选场景，提供开箱即用的整套解决方案工具包，整个 云上环境仅需 1个小时即可完成自动化部署搭建。方案架构 架构说明 1.涉及的主要云产品及其用途。a)vpc/vswitch:专有网络和交换机，网段...
文本生成3D模型
方案是以在GPU云服务器上部署一个HRN人脸重建模型为例，演示如何借助云上的GPU算力助力您在工作中应用AIGC。底层GPU云服务器具备强大的并行计算能力和浮点运算性能，进一步提升3D模型的效率和精度。在游戏开发、影视制作、室内设计等场景经常需要很多高精度3D模型。人工建模费时费力，借助AIGC，可有效降低成本并提高制作效率。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云备案控制台方案是以在GPU云服务器上部署一个HRN人脸重建模型为例，演示如何借助云上的GPU算力助力您在工作中应用AIGC。底层GPU云服务器具备强大的并行计算能力和浮点运算性能，进一步提升3D模型的效率和精度。在游戏开发、影视制作、室内设计等场景...
来自：
解决方案
- 产品推荐
- 这些文档可能帮助您