基于函数计算FC实现大语言模型部署
在现代AI应用中， Qwen /chatglm2-6b 和Stable Diffusion等模型因其强大的功能而受到关注。然而，这些模型对计算资源的高需求和复杂的运维管理成为部署时的挑战。基于函数计算FC的无服务器计算模式为这类模型的部署提供了全新的解决方案。用户只需关注模型的部署和调用逻辑，而无需关心底层的服务器配置、资源分配和扩展性等问题。函数计算FC能够自动处理函数的执行环境，包括冷启动、弹性伸缩等，确保模型能够在大规模的请求下稳定运行。
其核心目标是打造一个面向未来的、开放的“模型即服务”（MaaS）生态系统，为全球泛人工智能（AI）开发者提供一站 式、灵活、易用且成本效益高的模型服务解决方案。模型服务灵积（DashScope）：灵积模型服务建立在“模型即服务”（Model-as-a-Service，MaaS）的理念基础之上，围绕 AI各领域模型，通过标准化的 API提 供包括...
基于函数计算实现直播流录制-存储-通知
在互娱、教育、电商等行业都会有直播相关的业务，大部分场合都需要对直播相关的业务做安全审核，或者对直播的课程进行录制和转码。该方案实现了一种完全按需拉起、按量弹性、按实际使用付费的录制方案。基于本方案还可以扩展实现直播流截帧、自动化安全审核等能力
云速搭 CADT（Cloud Architect Design Tools）：是一款为上云应用提供自助式云架构管 理的产品，显著地降低应用云上管理的难度和时间成本。本产品提供丰富的预制应用架构 模板，同时也支持自助拖拽方式定义应用云上架构；支持较多阿里云服务的配置和管理。用户可以方便的对云上架构方案的成本、部署、运维、回收进行全生命...
容器多云统一监控日志
多云、混合云成为常态，Forrester 报告中指出，未来 89% 的企业至少使用两个云，74% 的企业至少使用三个甚至更多公有云，在面对多云/混合云这样大的趋势下，Gartner报告指出，安全、运维复杂性、财务复杂性是多云架构的主要挑战，本方案给出了在多云/混合云场景下，构建基于容器环境下的统一管理、统一监控和统一日志方案，解决多云、混合云场景下，运维复杂性问题。 应用场景 客户在阿里云以外的其他云服务商（AWS、Azure、GCP、TencentCloud、HuaweiCloud等）或者IDC基于容器（Kubernetes）运行业务系统，希望构建容器场景下的统一监控日志系统，方便做不同大屏和问题分析定位。 解决问题 •构建容器多云统一监控和日志系统，在一个平台可以看到不同环境系统的运行情况。
分布式云容器平台ACKOne：是阿里云面向混合云、多集群、分布式计算、容 灾等场景推出的企业级云原生平台，ACKOne可以连接并管理您任何地域、任 何基础设施上的Kubernetes集群，并提供一致的管理和社区兼容的API，支持 对计算、网络、存储、安全、监控、日志、作业、应用、流量等进行统一运维管 控。 日志服务SLS：是云...
基于SpringCloud应用玩转MSE实践
随着业务不断创新，大型的单个应用和服务会被拆分为数个甚至数十个微服务，微服务架构已经被广泛应用。 微服务的好处在于快速迭代，如何在迭代过程中保障线上流量不受损。依赖开源产品缺少无运维工具，常常需要投入较大的运维人力和成本。 本实践提供基于云原生应用产品提供微服务注册配置中心、微服务治理和云原生网关等一系列高性能和高可用的企业级云服务能力。
5.1.ACK集群部署应用 步骤1登录ACK集群，新建命名空间project-qa（如果修改了命名空间名称，需要对应修改后续yaml文 件的namespace参数）文档版本：20240229基于SpringCloud玩转MSE 步骤2：在命名空间中，通过YAML分别创建4个应用：基线版应用：mseconsumer、mseprovider 灰度版应用：mseconsumer-gray、mseprovider-gray ...
基于MSE和SAE的微服务部署与压测
通过云原生微服务引擎MSE、SAE、PTS、ARMS产品，为spring cloud微服务应用提供部署和测试能力，提供一个经典微服务应用上云的典型架构，实现微服务应用的快速落地。
提供的 场景编排、API调试、流量定制、流量录制等功能，可快速创建业务压测脚本，精准模拟不同量级用户访问业务系统，帮助业务快速提升系统性能和稳定性。 云速搭 CADT（CloudArchitectDesignTools）：是一款为上云应用提供自助 式云架构管理的产品，显著地降低应用云上管理的难度和时间成本。本产品提 供丰富的预制应用...
工业控制性能优化解决方案
工业控制性能优化是基于对控制器的参数实时评估与监控，通过阿里云大数据处理和计算的能力，结合人工智能算法，机器学习的能力，为企业提供高效的性能评估与整定，更方便、快捷地完成回路控制性能的批量评估和整定优化工作，为企业提供最佳的控制性能优化解决方案。
根据客户的不同需求可以生成面向生产管理人员、工程师人员、系统维护人员、生产操作人员等不同目标群体的详细厂级回路分析报告并进行定期推送，以满足不同人员对于控制回路的管理需求，从而能够为相关人员的决策提供及时有效的辅助作用.谢赟辉,靖鑫,也树.1、数据上报：CSV文件上传，数据实时自动上报。2、回路组态：PID回路...
来自：
解决方案
大模型RAG对话系统部署
大模型RAG对话系统最佳实践，旨在指引AI开发人员如何有效地结合LLM大语言模型的推理能力和外部知识库检索增强技术，从而显著提升对话系统的性能，使其能更加灵活地返回用户查询的内容。适用于问答、摘要生成和其他依赖外部知识的自然语言处理任务。通过该实践，您可以掌握构建一个大模型RAG对话系统的完整开发链路。
大模型 RAG对话系统部署 最佳实践 业务架构 场景描述 大语言模型（LLM）在生成准确和实时的回复方面存 在局限性，不适合直接用于需要精确信息的客服或问 答等场景。当前业界普遍采用基于检索增强的 RAG 技术来改善 LLM的表现。该方法通过结合 LLM的归 纳生成能力和向量检索库的检索能力，增强对用户查 询的理解，并产生更加...
低成本跨境文件传输
场景描述 1.跨境对象存储数据传输需求。 2.对跨境传输成本控制严苛。 3.能接受一定程度网络抖动带来的文件同步 延迟。 4.系统需要有足够的弹性和扩展性应对大规 模文件的写入。 方案优势/解决问题 1.运维低成本：开发人员关注代码逻辑即可； 2.网络成本低：相比CEN高速通道的方式网 络成本降低； 3.同步服务部署成本低：文件发生变化触发函 数计算任务，按量触发，不用准备ECS； 4.弹性高效：一个文件同步触发一个函数工作 流任务，充分利用资源高效同步。 产品列表 专用网络VPC 云服务器ECS 弹性公网IP 函数计算 对象存储OSS 函数工作流
文档版本：20211025（发布日期）15 低成本跨境文件传输最佳实践 配置实验环境 第 三 组 是 超 大 文 件。initMultipartUpload，uploadParts，completeMultipartUpload 函数负责处理超大文件。项目详细流程图和处理逻辑参考：https://github.com/awesome-fnf/oss-copy 步骤1 下载 oss-copy源码 cd/opt yum install-y git git...
Oracle RAC 12C云上部署
Oracle RAC架构迁移上云，提供高并发，高吞吐，高安全等特性，适用于金融，电力，电信，制造业等传统客户的核心交易系统。
申 请 成 功 后，可 以 登 录 VPC 控 制 台（https://vpc.console.aliyun.com/vpc/cn-zhangjiakou/vpcs），出现高可用虚拟IP 菜单后即表示申请成功。文档版本：20240206 7OracleRAC12C云上部署 基于CADT一键部署RAC基础资源 2.2.登录CADT创建部署模板 步骤1 登录CADT控制台。（https://bpstudio.console.aliyun.com/）...
ACK容器平台集群安全控制
场景描述 本方案实践主要是通过一些实践示例来介绍 用户对于在阿里云上使用Kubernetes集群服 务的容器平台安全管控的实践验证与使用建 议。 方案优势 容器集群部署快捷 授权与安全策略配置方便 丰富的安全控制实践介绍 解决问题 容器集群API Server的安全访问控 制 容器服务多租户场景下的授权管理 容器中的敏感信息数据的存储 容器服务集群安全策略配置管理 产品列表 容器服务Kubernetes版 负载均衡SLB 专有网络VPC 访问控制RAM
例如，通常情况下容器是不允许修改系统时间（硬件时钟的时间），因为这可能导致系 统节点不可用，用户需要很清楚了解 Linux内核的功能和对系统的影响然后进行操作，使用添加内核功能比直接授予容器以特权权限会更安全方便（前提建立在用户对 Linux 内核非常了解的基础上）例如，首先创建名为 pod-with-defaults的 Pod Pod中...
基于云速搭CADT快速构建药物筛选批量计算环境-serverless版
本方案基于云速搭 CADT提供一个快速构建云上Serverless版HPC批量计算环境的模板，针对生物制药领域的药物筛选场景，提供开箱即用的整套解决方案工具包，整个云上环境仅需1个小时即可完成自动化部署搭建。
文件存储 NAS：阿里云文件存储 NAS是一个可共享访问，弹性扩展，高可靠，高性 能的分布式文件系统。它基于 POSIX 文件接口，天然适配原生操作系统，提供共 享访问，同时保证数据一致性和锁互斥。文件存储 NAS中的数据自动地在可用区 内以多副本冗余方式存储，避免数据的单点故障风险，提供高达 99.999999999%的 数据可靠性...
KVM on弹性裸金属
场景描述 神龙是一款兼具虚拟机弹性和物理机性能及特性的 新型计算产品，为用户上云提供便捷。上一篇《阿里 云弹性裸金属最佳实践之VMwareon神龙》介绍了 基于阿里云神龙部署VMware，本篇指导用户基于神 龙自行创建KVM虚拟机。用户在将线下基于KVM 的业务灵活部署上云的同时，可充分管理和利用云上 计算资源。 解决问题 1.为传统企业提供在阿里云上自建KVM虚拟化平 台的解决方案。 2.基于KVM虚拟化平台的系统如何迁移上云。 产品列表 1.弹性裸金属服务器 2.文件系统NAS 3.弹性公网IP
步骤5 开通任务提交成功，单击管理控制台前往NAS文件系统管理页面，选择对应的地域华 东2（上海），单击上方刷新按钮，等待服务创建成功后，单击对应实例操作更多列下 的添加挂载点。文档版本：20191213 26 KVMon弹性裸金属 基础环境配置 步骤6 在添加挂载点页面，配置相关参数，并单击确定。具体参数配置见下表。配置项 ...
混合云使用Ali-Perseus
场景描述 本文介绍了混合云场景中，自建 Kubernetes服务，线下集群+云上弹性扩 展阿里云GPU服务实例+飞天AI加速工 具，并采用阿里云CPFS存储，运行AI训 练+AI推理作业的操作步骤。 解决问题 1.利用云企业网打通两个地域的VPC， 自建Kubernetes集群 2.使用飞天AI加速工具运行训练和推理 作业 3.使用CPFS存储共享数据 产品列表 云企业网CEN GPU云服务器 并行文件存储CPFS 文件存储NAS
安装 arena 背景信息 Arena是阿里开源的一个管理工具，可以一键提交训练或者推理作业，进行作业管 理。详情请参考：https://github.com/kubeflow/arena/blob/master/docs/installation/INSTALL_FROM_B INARY.md 操作步骤 步骤1 到如下地址，下载 arena安装包：https://github.com/kubeflow/arena/releases 步骤2 拷贝到 ...
智能商业分析 Quick BI
瓴羊智能商业分析 Quick BI 是阿里云用户臻选的数据可视化工具，大幅提升数据分析和报表开发效率，一站式满足企业各种场景的数据分析和决策的诉求。
18分钟查看教程查看更多技术解决方案统一登录门户方案查询加速方案资源集中化管控方案开放审批流方案租户安全隔离方案可视化解决方案统一登录门户方案Quick BI 的登录认证能力，面向企业提供统一访问控制与安全管理服务，多种安全登录认证方式和功能，满足不同企业内控外审的安全诉求的同时，帮助企业构建个性化的登录门户...
来自：
云产品
资源管理
场景描述 随着企业IT成熟度不断提高、管理的云上资源 不断增多，如何对资源进行高效管理的问题就会 凸显出来。阿里云的资源管理服务支持您按照业 务需要搭建适合的资源组织关系，使用目录、资 源夹、账号、资源组分层次组织与管理您的全部 资源，更好的实现项目成功。 解决问题 1.按照企业组织结构管理账号体系。 2.指定结算账号进行统一结算 3.统一管理成员账号权限系统 4.账号下的资源按照资源组进行分类 5.可以按照自定义财务单元进行分账管理 产品列表 资源管理
使用 RAM，您可以创建、管理 RAM用户（例如员 工、系统或应用程序），并可以控制这些 RAM用户对资源的操作权限。当您的企 业存在多用户协同操作资源时，使用 RAM可以让您避免与其他用户共享云账号密 钥，按需为用户分配最小权限，从而降低企业信息安全风险。详见：https://www.aliyun.com/product/ram 成员账号：类型分为...
企业上云数据安全
场景描述 企业是否选择上公共云，或者哪些系统或数据上 公共云，对数据安全的关心是重要因素之一。本 最佳实践重点在于介绍狭义的数据加密存储安 全范畴，即首先使用SDDP产品进行敏感数据发 现和分级分类，然后对高级别敏感数据进行按 需、不同类型的全链路加密存储。 解决问题 1.帮助客户发现敏感数据 2.对敏感数据进行分类、分级 3.对不同级别的数据如何选择加密方式 4.具体如何进行加密 产品列表 敏感数据识别SDDP 密钥管理服务KMS 云数据库RDS 对象存储OSS
企业上云数据安全 最佳实践 部署架构图 场景描述 企业是否选择上公共云，或者哪些系统或数据 上公共云，对数据安全的关心是重要因素之 一。本最佳实践重点在于介绍狭义的数据加密 存储安全范畴，即首先使用 SDDP产品进行敏 感数据发现和分级分类，然后对高级别敏感数 据进行按需、不同类型的全链路加密存储。解决问题 1....
游戏数据运营融合分析
场景描述 1.游戏行业有结构化和非结构化数据融合分 析需求的客户。 2.游戏行业有数据实时分析需求的客户，无法 接受T+1延迟。 3.对数据成本有一定诉求的客户，希望物尽其 用尽量优化成本。 4.其他行业有类似需求的客户。 方案优势/解决问题 1.秒级实时分析：依托ADB计算密集型实例， 秒级监控DAU等数据，为广告投放效果提 供有力的在线决策支撑。 2.高效数据融合分析：打通结构化和非结构化 数据，支撑产品体验分析；广告买量投放效 果实时（分钟级）分析，渠道的评估更准确。 3.低成本：DLA融合冷数据分析+ADB存储密 集型温数据分析+ADB计算密集型热数据分 析，在满足各种分析场景需求的同时，有效 地降低的客户的总体使用成本。 4.学习成本低：DLA和ADB兼容标准SQL语 法，无需额外学习其他技术。 产品列表 专有网络VPC、负载均衡SLB、NAT网关、弹性公网IP 云服务器ECS、日志服务SLS、对象存储OSS 数据库RDSMySQL、数据传输服务DTS、数据管理DMS 分析型数据库MySQL版ADS 数据湖分析DLA、QuickBI
文档版本：20210224 47 游戏数据运营融合分析 部署 RDS-ADB高性能库数据采集 步骤8 登录数据库管理系统，创建数据库 appdb_all。文档版本：20210224 48 游戏数据运营融合分析 部署 RDS-ADB高性能库数据采集 文档版本：20210224 49 游戏数据运营融合分析 部署 RDS-ADB高性能库数据采集 2.5.创建和配置 DTS同步链路 创建 DTS...
- 产品推荐
- 这些文档可能帮助您