基于函数计算FC实现大语言模型部署
在现代AI应用中， Qwen /chatglm2-6b 和Stable Diffusion等模型因其强大的功能而受到关注。然而，这些模型对计算资源的高需求和复杂的运维管理成为部署时的挑战。基于函数计算FC的无服务器计算模式为这类模型的部署提供了全新的解决方案。用户只需关注模型的部署和调用逻辑，而无需关心底层的服务器配置、资源分配和扩展性等问题。函数计算FC能够自动处理函数的执行环境，包括冷启动、弹性伸缩等，确保模型能够在大规模的请求下稳定运行。
文档版本：20240429 6 基于函数计算 FC实现大语言模型部署最佳实践 使用魔搭将社区模型部署到 FC ZhipuAI/chatglm2-6b 步骤12 页面跳转到 FC创建应用页面，GPU实例类型已经自动选择了合适的类型，首次使用会 做一些额外的权限授权，请参考页面的提示 文档版本：20240429 7 基于函数计算 FC实现大语言模型部署最佳实践 使用...
MSE网关使用JWT进行认证鉴权
MSE网关中调用外部的认证鉴权服务，通过JWT的方式进行全局认证鉴权。 对网关有认证鉴权安全需求的场景，对于敏感的服务路由（可通过黑白名单方式配置）在网关层进行认证鉴权。
这里需要注意，如果通过 CADT创建的 VPC、VSwitch中人工通过其他方式添加了资 源，如通过控制台或者 API等购买了 ECS，释放时因为这些非 CADT部署的资源会 依赖 VSwitch和 VPC，会出现释放失败。遇到这类问题请先去控制台人工进行资源清 理后，在 CADT中再次释放资源即可。步骤1 打开需要释放的应用 步骤2 打开资源清单，...
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
在大数据ETL场景，将Kafka中的消息流转到其他下游服务是很常见的场景，除了常规的消息流转外，很多场景还需要基于消息体内容做判断，然后决定下游服务做何种操作。 该方案实现了通过Kafka中消息Key的内容来判断应该对MongoDB做增、删、改的哪种DML操作。 当Kafka收到消息后，会自动触发函数计算中的函数，接收到消息，对消息内容做判断，然后再操作MongoDB。用户可以对提供的默认函数代码做修改，来满足更复杂的逻辑。 整体方案通过CADT可以一键拉起依赖的产品，并完成了大多数的配置，用户只需要到函数计算和MongoDB控制台做少量配置即可。
这里需要注意，如果通过 CADT 创建的 VPC、VSWITCH 中人工通过其他方式添加了资源，如通过控制台或者 API 等购买了 ECS，释放时因为这些非 CADT 部署的资源会依赖 VSWITCH 和 VPC，会出现释放失败。遇到这类问题请先去控制台人工进行资源清理后，在 CADT 中再次释放资源即可。步骤1 打开需要释放的应用 步骤2 打开资源清单...
基于MSE和SAE的微服务部署与压测
通过云原生微服务引擎MSE、SAE、PTS、ARMS产品，为spring cloud微服务应用提供部署和测试能力，提供一个经典微服务应用上云的典型架构，实现微服务应用的快速落地。
这里需要注意，如果通过CADT创建的VPC、vswitch中人工通过其他方式添加了资 源，如通过控制台或者API等购买了ECS，释放时因为这些非CADT部署的资源会 依赖VSW和VPC，会出现释放失败。遇到这类问题请先去控制台人工进行资源清理 后，在CADT中再次释放资源即可。步骤1 打开资源清单。步骤2 点击释放全部资源。文档版本：...
基于MSE云原生网关同城多活
借助云原生微服务MSE网关，MSE配置注册中心的同城容灾多活微服务应用。构建一个经典的微服务场景，实现同城容灾的步骤，体现云原生相关产品在用户上云，高可用同城容灾多活场景下的能力。
这里需要注意，如果通过 CADT创建的 VPC、VSWITCH中人工通过其他方式添加了 资源，如通过控制台或者 API等购买了 ECS，释放时因为这些非 CADT部署的资源 会依赖 VSWITCH和 VPC，会出现释放失败。遇到这类问题请先去控制台人工进行资 源清理后，在 CADT中再次释放资源即可。步骤1 打开需要释放的应用，点击画布下方的资源...
自建数据库迁移到云数据库
本方案介绍如何将网站的自建数据库迁移至云数据库 RDS，解决您随着业务增长可能会面临的数据库运维难题。数据库采用高可用架构，支持跨可用区容灾，给业务带来数据安全、可用性、性能和成本方面收益。方案提供了快速体验教程，模拟了数据库迁移所需的工作，帮助您快速上手。
体验此教程会为您创建的资源架构图如下：相关产品云服务器 ECS云数据库 RDS MySQL 版方案咨询01准备资源通过一键部署脚本，快速创建一个模拟环境，包含一个运行网站应用和数据库的ECS实例，以及一个迁移目标RDS实例。02迁移数据库这一步骤将引导您使用数据传输服务DTS，将ECS上自建的数据迁移到RDS中。03验证及切换通过这一...
来自：
解决方案
基于SpringCloud应用玩转MSE实践
随着业务不断创新，大型的单个应用和服务会被拆分为数个甚至数十个微服务，微服务架构已经被广泛应用。 微服务的好处在于快速迭代，如何在迭代过程中保障线上流量不受损。依赖开源产品缺少无运维工具，常常需要投入较大的运维人力和成本。 本实践提供基于云原生应用产品提供微服务注册配置中心、微服务治理和云原生网关等一系列高性能和高可用的企业级云服务能力。
这里需要注意，如果通过CADT创建的VPC、VSwitch中人工通过其他方式添加了资源，如通过控制台或者API等购买了ECS，释放时因为这些非CADT部署的资源会依赖VSW和 VPC，会出现释放失败。遇到这类问题请先去控制台人工进行资源清理后，在CADT中再次 释放资源即可。步骤1访问云速搭，查看已部署的应用 步骤2点击底部资源清单，...
云速搭-ECS结合网络相关优化方案
本实践设计了不同的ECS结合网络部署方案，并使用云速搭CADT做预算，可以快速对比出不同方案根据当前账户的折扣的价格差，根据需要部署系统的需求和享有的折扣，可以灵活配置ECS和网络产品，节约成本。
在 ECS不断释放换新的过程中，可以保持 eip，使 得 ECS的公网 IP在整个系统的生命周期中不变。2.eip可以与其他 eip共享带宽包，节省资源。综上，使用 CADT做预算，可以快速对比出不同方案根据当前账户的折扣的价格差。根据需要部署的系统的需求和享有的折扣，可以灵活配置 ECS 和网络产品，节约成 本。步骤6 CADT也会实时...
IPv4网关实现流量统一出入口
对公网流量出入有严格的限制，禁止ECS直接通过挂载公网IP访问互联网带来安全隐患
这里需要注意，如果通过 CADT创建的 VPC、vswitch中人工通过其他方式添加了资 源，如通过控制台或者 API等购买了 ECS，释放时因为这些非 CADT部署的资源会 依赖 VSW和 VPC，会出现释放失败。遇到这类问题请先去控制台人工进行资源清理 后，在 CADT中再次释放资源即可。步骤1 在 CADT 页面中，手动删除指向 NAT 网关和指向 ...
向量检索与通义千问搭建专属问答服务
本方案介绍如何使用向量检索服务（DashVector）结合通义千问大模型来打造基于垂直领域专属知识等问答服务。解决大模型本身在处理特定领域的知识表示和应用时的局限性。为企业提供部署简单，便于集成，实时高效，专业稳定的应用服务。
如果您有免费试用资格，可按照手动部署免费体验本方案（向量检索服务支持申请免费试用实例，通义千问及通用文本向量模型支持限时免费）如果采用一键部署，会额外产生ECS抢占式实例的费用，约0.5元/小时。实际产生费用价格以控制台显示为准。方案部署一步步跟随方案教程，带你快速上手，进行方案部署。方案介绍向量检索与...
来自：
解决方案
大模型RAG对话系统部署
大模型RAG对话系统最佳实践，旨在指引AI开发人员如何有效地结合LLM大语言模型的推理能力和外部知识库检索增强技术，从而显著提升对话系统的性能，使其能更加灵活地返回用户查询的内容。适用于问答、摘要生成和其他依赖外部知识的自然语言处理任务。通过该实践，您可以掌握构建一个大模型RAG对话系统的完整开发链路。
这里需要注意，如果通过 CADT创建的 VPC、vswitch中人工通过其他方式添加了资 源，如通过控制台或者 API等购买了 ECS，释放时因为这些非 CADT部署的资源会 依赖 VSW和 VPC，会出现释放失败。遇到这类问题请先去控制台人工进行资源清理 后，在 CADT中再次释放资源即可。步骤1 在 CADT页面中，打开资源清单，点击释放全部资源...
ECS+EAIS弹性伸缩最佳实践
弹性加速计算实例EAIS通常与ECS配合使用，在大规模的弹性推理场景中，需要实现ECS弹性扩容的过程中自动创建弹性EAIS实例，并绑定到ECS上。当前弹性伸缩组ESS暂不满足此特殊场景的弹性伸缩需求。 本方案将通过结合CADT API、函数计算和Serverless工作流，演示如何快速且以可视化的方式进行此场景的弹性伸缩。
可以看到 ECS已创建成功：并绑定了 EAIS实例：并且 ECS实例自动加入到 SLB的监听组中：文档版本：20220810 40 ECS+EAIS弹性伸缩 模拟定时扩缩容任务 步骤5 等待 50秒后，开始进入释放流程。释放完成：SLB服务器组已没有该实例：文档版本：20220810 41 ECS+EAIS弹性伸缩 模拟定时扩缩容任务 云服务器只剩下 1台：EAIS也自动...
通义千问和LangChain搭建对话模型
本方案结合通义千问和LangChain技术构建高效的对话模型，该模型基于自然语言处理技术提升语义理解和用户交互体验。它可以有效解决传统对话模型在理解能力和交互效果上的局限，使得用户沟通更加自然流畅，被广泛应用于聊天机器人、智能客服和社交媒体等多种场景。
体验本方案预计花费9元/60分钟（根据用户选择的实例规格，供参考）方案部署跟随方案教程，用通义千问和LangChain搭建一个对话服务方案介绍 通义千问和LangChain搭建对话服务通过PAI-EAS预置镜像，一键部署通义千问的对话模型。通过预置的LangChain插件，您还可以快速集成企业的知识库文件，并一键同步至向量存储检索库中。...
来自：
解决方案
系统运维管理 OOS
阿里云系统运维管理（简称OOS）提供的云上自动化运维服务，通过执行模板来完成任务的自动化运行，可以使用OOS管理ECS、RDS、SLB、VPC等云产品，提升日常运维管理效率
规避手工处理的低效和误操作风险不再需要基于源镜像手工创建临时实例，远程连接到实例上进行更新操作，再释放实例，完全自动化完成。与应用更新、代码发布等自动化集成通过API调用运维编排模板执行，与客户自有运维平台、云服务接口实现自动化集成。相关产品系统运维管理OOS本产品云服务器ECS云助手在线咨询批量管理实例...
来自：
云产品
Oracle RAC 12C云上部署
Oracle RAC架构迁移上云，提供高并发，高吞吐，高安全等特性，适用于金融，电力，电信，制造业等传统客户的核心交易系统。
一键释放测试环境 步骤1 登录CADT控制台找到章节2.3创建的RAC应用，点击下方的资源清单，有一个释 放全部资源选项。该选项将释放架构图中所有由CADT创建的资源。步骤2 点击确定后即可释放全部资源。文档版本：20240206 91OracleRAC12C云上部署 FAQ常见错误处理方案 5.FAQ常见错误处理方案 5.1.CRS-2101:问题描述 两个节点在...
基于云速搭CADT快速构建药物筛选批量计算环境-serverless版
本方案基于云速搭 CADT提供一个快速构建云上Serverless版HPC批量计算环境的模板，针对生物制药领域的药物筛选场景，提供开箱即用的整套解决方案工具包，整个云上环境仅需1个小时即可完成自动化部署搭建。
下面提示主要是方案中涉及到的 ACR时包月产品，付费后需要先退订才能释放实例。点击确认即 可。文档版本：20240204 14 基于云速搭 CADT部署药物筛选批量计算环境-Serverless版 CADT部署环境 步骤19 部署过程大致需要 10分钟左右。耐心等待流程结束。于此同时，可以先继续执行步骤 20创建所需的 ram角色。3.5.环境初始化 3.5...
智能商业分析 Quick BI
瓴羊智能商业分析 Quick BI 是阿里云用户臻选的数据可视化工具，大幅提升数据分析和报表开发效率，一站式满足企业各种场景的数据分析和决策的诉求。
相关产品智能商业分析 Quick BI在线咨询租户安全隔离方案以双租户（厂端租户和经销商租户）为例，租户 A 和租户 B 分别在 Quick BI 创建两个实例组织，本方案采用登录策略严格路由的方式，让不同租户之间在网络隔离的情况下，分别通过各自系统的 SSO 服务与 Quick BI 完成登录对接，并将各自系统的账号成员同步至 Quick BI ...
来自：
云产品
一键训练大模型及部署GPU共享推理服务
通过创建ACK集群Pro版，使用云原生AI套件提交模型微调训练任务与部署GPU共享推理服务。支持快速创建Kubernetes集群，白屏配置任务数据共享存储和下载，并通过命令行工具Arena快速提交模型训练任务、部署推理服务。使用云原生AI套件可以让模型训练和推理提效，提高GPU资源利用率。
05完成及清理如完成本方案部署后无需使用相关资源，请释放ACK和NAS资源。方案部署方案权益优惠购买免费试用询价中.加入购物车立即购买询价中.加入购物车立即购买询价中.加入购物车立即购买解决方案推荐部署Nginx并通过Ingress暴露和监控服务在阿里云容器服务（后简称ACK）集群中通过YAML文件快速部署一个Nginx应用并通过...
来自：
解决方案
光伏逆变器出海和运维提效
阿里云物联网平台的光伏智能运维算法，通过采集光伏逆变器的数据，识别光伏阵列中的故障、发现可能的发电低效站点并及时预警，提醒电站运维人员及时排查解决问题，降低运维成本。提供全球运营商的物联网卡流量资源，全球8大服务地域的物联网平台，实现光伏逆变器出海和运维提效。
05完成及清理操作完成，删除或释放不再需要的资源。方案部署解决方案推荐海量共享设备安全高效运维针对设备规模大、地理分布广泛、业务实时性要求高的共享设备，提供安全高效的设备管理运维。本方案基于阿里云物联网平台，搭配物联网卡的上网能力，由IoT安全运营中心为设备提供全方位的安全防护，保障共享设备的高可用接入...
来自：
解决方案
容器计算服务 ACS
容器计算服务 ACS 是以 K8s 为使用界面供给容器算力资源的云计算服务，提供符合容器规范的算力资源。
查看更多探索 ACS 更丰富的产品能力入门与试用快速上手01创建集群1配置集群网络、存储、安全等参数2配置服务发现、网关、监控、日志等功能02按需弹性使用1选择实例类型2上传应用镜像，配置实例规格03创建资源预留（可选）1选择实例类型、配置预留方式2配置资源规格，选择资源释放方式云栖·畅聊开发者如何看待阿里云发布的...
来自：
云产品
- 产品推荐
- 这些文档可能帮助您