基于函数计算FC实现大语言模型部署
基于函数计算FC<em>实现</em>大语言模型部署
在现代AI应用中, Qwen /chatglm2-6b 和Stable Diffusion等模型因其强大的功能而受到关注。然而,这些模型对计算资源的高需求和复杂的运维管理成为部署时的挑战。基于函数计算FC的无服务器计算模式为这类模型的部署提供了全新的解决方案。用户只需关注模型的部署和调用逻辑,而无需关心底层的服务器配置、资源分配和扩展性等问题。函数计算FC能够自动处理函数的执行环境,包括冷启动、弹性伸缩等,确保模型能够在大规模的请求下稳定运行。
基于函数计算 FC实现大语言模型部署最佳实践 业务架构 方式一:魔搭 SwingDeploy模型到 FC 方式二:FC3.0应用模板部署 场景描述 在现代 AI应用中,Qwen/chatglm2-6b等社区模型因其强大的功能而受到关注。然而,这些模型对计算 资源的高需求和复杂的运维管理成为部署时的挑战。基于函数计算 FC的无服务器计算模式为这类模型...
来自: 最佳实践 相关产品:函数计算
基于FC实现的Web端视频录制最佳实践
基于FC<em>实现</em>的Web端视频录制最佳实践
场景描述在很多互娱场景,在线教育领域会有直播视频录制的需求,但是往往一个页面上的内容是多种多样的,不止有直播流,可能还有白板,评论等其他元素,如果只是录直播流,那内容是不完整的,所以需要将整个屏幕的内容录制为视频。该最佳实践可以有效解决这个场景。
如果您配置了失败目标,函数计算将自动把失败请求的上下文信息推送到云消息队列 RocketMQ 版等消息服务中,以便后续处理。您也可以将目标服务设置为另一个函数,函数计算将自动把失败请求的上下文信息推送到该函数,执行您自定义的错误处理逻 辑。自动通知下游服务执行结果 ◼ 请求执行成功后,如果您配置了成功目标,函数...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算
RocketMQ性能压测快速方案
RocketMQ性能压测快速方案
在客户对产品性能存疑或者给客户进行POC验证时可以用本实践来快速完成性能测试。
 云消息队列RocketMQ版:是阿里云基于ApacheRocketMQ构建的低延迟、高 并发、高可用、高可靠的分布式“消息、事件、流”统一处理平台,面向互联网分布 式应用场景提供微服务异步解耦、流式数据处理、事件驱动处理等核心能力。文档版本:20240506 6RocketMQ性能压测快速方案 前置条件 前置条件 在进行本文操作之前,您需要...
来自: 最佳实践 | 相关产品:云服务器ECS,弹性公网IP,消息队列 RocketMQ 版,云速搭
基于OSS Object FC实现非结构化文件实时处理最佳实践
基于OSS Object FC<em>实现</em>非结构化文件实时处理最佳实践
现在绝大多数客户都有很多非结构化的数据存在OSS中,以图片,视频,音频居多。举一个图片处理的场景,现在各种终端种类繁多,不同的终端对图片的格式、分辨率要求也不同,所以一张图片往往会有很多张衍生图,那如果所有的衍生图都存在OSS中,那存储的成本会增加,所以就可以通过OSS Object FC的方案,在不同的终端请求时,对OSS中的原图基于终端的要求做实时处理,然后响应返回,这样OSS中只需要存储原图即可。音视频也有类似的场景。
基于OSSObjectFC实现非结构化文件实时处理最佳实践 业务架构 场景描述 基于阿里云OSS和函数计算共同实现的产品化 集成解决方案OSSObjectFC,实现可以OSS 中的非结构化数据在读取时插入自定义业务逻 辑,对非结构化数据做实时处理后再返回。应用场景 现在绝大多数客户都有很多非结构化的数据存 在OSS中,以图片,视频,音频...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算
IPv4网关实现流量统一出入口
IPv4网关<em>实现</em>流量统一出入口
对公网流量出入有严格的限制,禁止ECS直接通过挂载公网IP访问互联网带来安全隐患
IPv4网关实现流量统一出入口 最佳实践 业务架构 场景描述 云服务器 ECS拥有了公网 IP(例如固定公网 IP或 者 EIP),可以直接访问公网,不受 VPC路由表控 制。为了降低 ECS直接访问公网可能带来的安全管 控风险,可以使用 IPv4网关及子网路由能力,对 VPC 中访问公网的行为进行约束,根据需求使得子网具备 访问公网的能力...
来自: 最佳实践 | 相关产品:云服务器ECS,负载均衡 SLB,云速搭
Kafka性能压测快速方案
Kafka性能压测快速方案
产品性能基线测试场景需要对产品进行性能测试得到详细的压测数据,本方案可以快速构建测试的客户端(kafka官方的压测客户端)和不同的Kafka服务端( SSD云盘版、高效云盘、Serverless版三种实例),方便客户进行POC完成性能验证。
消息队列kafkaserverless版本身实例未提供具体的云盘类型来选择,其性能表现只 与购买实例时预留的写入、读取的指标有关,写入峰值为预留写入的2倍,读取峰值 为读取预留的2倍 应用场景 借助CADT迅速的搭建Kafka不同类型的实例,并构建压测环境,快速对不同的实例 配置的性能进行压测,以验证不同配置对性能影响,帮助客户...
来自: 最佳实践 | 相关产品:云服务器ECS,弹性公网IP,消息队列 Kafka 版
消息队列 Kafka 版
云消息队列 Kafka 版是阿里云基于Apache Kafka构建的大数据消息中间件,广泛用于日志收集和分析、数据处理等场景。可提供全托管服务,用户无需部署运维,更专业、更可靠、更安全。
如何快速使用云消息队列 Kafka 版.云消息队列 Kafka 版所有文档.云消息队列 Kafka 版开发者指南.云消息队列 Kafka 版发布者与订阅者的最佳实践.标准版高写实例.适用业务规模较小、成本敏感的轻量应用场景,实现低成本轻松上云.专业版高写实例.适用大规模数据写入场景,提供高达2GB/s高水位数据写入,性能更强劲.专业版高读...
来自: 云产品
消息队列 ApsaraMQ
云消息队列 ApsaraMQ 是阿里云自主研发的消息队列服务系列产品的总称,旨在为开发者和企业的不同业务场景提供强大、可靠、低成本、高弹性且易于管理的消息服务。云消息队列 ApsaraMQ 全系列产品提供 Serverless 化的消息服务,按实际使用量付费,自适应弹性,跨可用区容灾,帮助客户降低使用和维护成本,专注业务创新。
多地域使用RocketMQ实现业务系统解耦,同时使用全球消息路由快速实现消息聚合汇总.基于RocketMQ顺序消息实现课堂信令有序可靠传输,快速完成课堂系统搭建.使用云消息队列 MQTT+RocketMQ 的组合,用简单的方式实现了海量移动端 App 和服务端之间的双向互通.基于RocketMQ的高并发、高可用、消息无丢失的特性,保证了青社团...
来自: 云产品
消息队列 RabbitMQ 版
云消息队列 RabbitMQ 版是阿里云打造的云消息服务,广泛用于海量队列分发、分布式定时任务等场景。支持 AMQP 协议,开箱即用,轻松实现快速上云,更专业、更可靠、更安全。
消息队列RabbitMQ Serverless系列资源包上线,最低50元起!消息产品家族训练营,期待您的报名!RocketMQ 5.0 商业化版本重磅发布.RabbitMQ Serverless后付费实例计费说明.消息查询功能上线,支持消息的实时查看.监控报警支持实例、Vhost、Queue多维度监控报警.近期重要功能.和开源自建对比.云消息队列RabbitMQ版Serverless...
来自: 云产品
消息队列 RocketMQ 版
云消息队列 RocketMQ 版是基于 Apache RocketMQ 构建的分布式消息中间件,广泛用于异步解耦、削峰填谷等场景。可支撑千万级并发、万亿级数据洪峰,更稳定,更安全。
消息队列RocketMQ场景体验馆,快来报名体验!消息队列明星产品精彩视频.0基础掌握RocketMQ 5.0训练营,带您深入浅出了解RocketMQ.云消息队列 RocketMQ 版Serverless实例计费说明.RocketMQ 5.0 商业化版本重磅发布.4.x和5.x版本实例差异说明.近期重要功能.按照消息的发布顺序进行顺序消费(FIFO),支持全局顺序与分区顺序...
来自: 云产品
E-HPC低成本实现量化策略回测
E-HPC低成本<em>实现</em>量化策略回测
在量化交易场景下,量化策略的构建流程一般包括:想法、数据获取、建模、回测、结果分析等,在回测过程中往往需要海量的算力,进行大量数据的分析和处理,如何快速、高效和低成本的进行批量任务的调度,并快速获取结果是量化领域遇到的普遍挑战,这也是云计算能够带给客户的巨大优势。
通过简单的命令即可 运行环境、依赖包版本等标准化统一。步骤1 为计算节点绑定 EIP 步骤2 ssh远程 ECS计算节点 ssh root@EIP 步骤3 安装 Docker 文档版本:20220321 14 E-HPC低成本实现量化策略回测 操作步骤 yum install-y docker 步骤4 启动 docker服务 systemctl start docker 步骤5 查看 Docker版本信息,验证 ...
来自: 最佳实践 | 相关产品:专有网络 VPC,对象存储 OSS,弹性公网IP,文件存储NAS,弹性高性能计算E-HPC,云速搭
基于SLS实现统一告警最佳实践
基于SLS<em>实现</em>统一告警最佳实践
告警对于企业的开发运维,安全运维,业务运维有着至关重要的作用。然而很多企业在告警运维方面存在着重复建设、监控质量差、告警风暴、触达不人性化、无法闭环等问题。 针对企业在告警管理方面存在的痛点问题,SLS告警提供了一站式云上告警管理方案,具有弹性易用、稳定可靠、功能持续升级、成本更低、噪音更少等优势。企业可以将现有的监控方案系统无缝接入到SLS告警平台,实现在SLS上一站式管理告警。
基于 SLS实现统一告警 最佳实践 业务架构 场景描述 告警监控对于一个企业有着至关重要的作 用,然而很多企业在告警运维方面存在着重 复建设、监控质量差、告警风暴、触达不人 性化、无法闭环等问题。SLS告警提供了一站式云上告警管理方案,能够有效的解决企业在使用告警中的痛点。本文以通过自定义告警、Prometheus 告 警、...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,弹性公网IP,日志服务(SLS),云速搭CADT
基于k8s多集群隔离环境下的devops实现
基于k8s多集群隔离环境下的devops<em>实现</em>
场景描述 DevOps是一组过程、方法与系统 的统称,并通过工具实现自动化部署, 确保部署任务的可重复性、减少部署出 错的可能性。随着微服务、中台架构的 兴起,devops重要性日益显著。 本方案使用两个独立的k8s集群: 用户已有的k8s模拟测试,ack集群模 拟生产环境,保证环境的高度隔离,互 不影响。通过gitlab+Jenkins的黄金组 合,实现容器应用的自动化构建和持续 部署,提高迭代效率。 解决问题 1.微服务应用的CI/CD。 2.测试和生产环境的高度隔离。 3.自动化的测试与部署。 4.现有CI对接ACK。 产品列表 专有网络VPC 容器服务ACK 容器镜像服务ACR 弹性公网IP 负载均衡SLB
基于 K8S多集群隔离环境下的 DevOps实现 最佳实践 业务架构 场景描述 DevOps 是一组过程、方法与系统的统 称,并通过工具实现自动化部署,确保部署任 务的可重复性、减少部署出错的可能性。随着 微服务、中台架构的兴起,devops重要性日 益显著。本方案使用两个独立的 k8s集群:用户已 有的 k8s模拟测试,ack集群模拟生产...
来自: 最佳实践 | 相关产品:专有网络 VPC,弹性公网IP,容器服务 ACK,容器镜像服务 ACR
ALB实现跨地域负载均衡
当客户业务遍及多地,并且在阿里云多个地域均部署了服务时,使用负载均衡结合云企业网及转发路由器可实现应用跨地域级别负载均衡。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云备案控制台ALB实现跨地域负载均衡方案介绍方案优势应用场景方案部署方案权益ALB实现跨地域负载均衡应用型负载均衡ALB实现跨地域负载均衡方案,可为客户解决跨地域应用高可用问题。当客户业务遍及多地,并且在阿里云多个地域均部署了服务时,使用负载...
来自: 解决方案
函数计算实现弹性音视频处理系统
函数计算<em>实现</em>弹性音视频处理系统
场景描述 本示例通过函数计算部署一个高弹性高可用的 音视频处理系统。尤其适合视频网站使用,每天 有大量的上传视频,需要及时转码处理以适配各 种终端及网络条件,要求短时间内准备大量的计 算资源进行大规模并行转码处理,同时希望基于 FFmpeg自建的转码服务能简单迁移。 解决问题 1.如何使用函数计算部署音视频处理系统。 2.如何进行系统的压测。 产品列表 函数计算服务 文件存储NAS 对象存储OSS 函数工作流FnF 日志服务SLS
Function Compute 实现弹性音视频处理系统 最佳实践 架构图 场景描述 本示例通过 Function Compute 部署一个高弹 性高可用的音视频处理系统。尤其适合视频网站 使用,每天有大量的上传视频,需要及时转码处 理以适配各种终端及网络条件,要求短时间内准 备大量的计算资源进行大规模并行转码处理,同 时希望基于 FFmpeg自建...
来自: 最佳实践 | 相关产品:专有网络 VPC,对象存储 OSS,文件存储NAS,日志服务(SLS),Serverless 工作流
MSE实现全链路灰度
MSE微服务治理为多应用发布提供全链路灰度能力,让客户不修改业务代码的情况下实现全链路流量控制。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云备案控制台MSE实现全链路灰度方案介绍方案优势应用场景方案部署方案权益客户案例MSE实现全链路灰度MSE微服务治理为多应用发布提供全链路灰度能力,让客户不修改业务代码的情况下实现全链路流量控制,端到端构建从网关到多个后端服务的全链路灰度。...
来自: 解决方案
云管对接实现已有节点加入ACK集群
云管对接<em>实现</em>已有节点加入ACK集群
企业内部伴随着业务量增加,对 ACK 集群扩容属于高频操作,部分企业有一些特殊的 要求,例如节点规格需要灵活指定,系统需要重新初始化从而符合企业内部规范等。 直接通过节点池扩容显得不够灵活,例如缺少库存校验等能力,扩容有可能失败,扩 容完成后需要手动修改节点的配置,自动化程度较低,增加了运维人员的负担。
云管对接实现已有节点加入 ACK集群 最佳实践 场景描述 企业内部伴随着业务量...文档版本:20221122 14 云管对接实现已有节点加入 ACK集群 通过 CADT API实现 ACK集群扩容 在生产环境中,可以通过实时获取 token信息,然后以传参的方式应用到 ECS中, ECS节点以手动添加的方式加入到已有节点池中。文档版本:20221122 15
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,容器服务 ACK,云速搭CADT
云速搭部署 ALB 实现负载分发
云速搭部署 ALB <em>实现</em>负载分发
本实践通过云速搭构建一个基于 http(s)的负载均衡业务架构,实现终端浏览器发起http(s)请求后,经过 ALB 监听配置的转发规则,分别负载分担到后端 ECS 服务器、CLB 和 ACK 集群。
专有网络由逻辑网络设备(虚拟路由器,虚拟 交换机)组成,可以通过专线/VPN等连接方式与传统数据中心组成一个按需定 制 的 网 络 环 境, 应 用 的 平 滑 迁 移 上 云。详 见:https://www.aliyun.com/product/vpc 云服务器 ECS:云服务器 ECS(Elastic Compute Service)是一种简单高效、处理能力可弹性伸缩的计算...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,负载均衡 SLB,弹性公网IP,容器服务 ACK,云速搭CADT
云速搭部署SLS实现日志采集处理分析
云速搭部署SLS<em>实现</em>日志采集处理分析
通过云速搭部署ECS+SLS,在ECS上安装logtail收集Nginx应用日志写入SLS。通过日志生成器模拟Nginx日志生成,并通过SLS进行日志分析。
专有网络由逻辑网络设备(虚拟路由器,虚拟 交换机)组成,可以通过专线/VPN等连接方式与传统数据中心组成一个按需定 制 的 网 络 环 境, 应 用 的 平 滑 迁 移 上 云。详 见:https://www.aliyun.com/product/vpc 云服务器 ECS:云服务器 ECS(Elastic Compute Service)是一种简单高效、处理能力可弹性伸缩的计算...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,日志服务(SLS),云速搭CADT
云速搭部署 EIP 实现共享带宽/流量包管理
云速搭部署 EIP <em>实现</em>共享带宽/流量包管理
本实践通过云速搭设计、部署一个“ECS+EIP+共享带宽”架构,多个 EIP 可以使用共享带宽的资源。
云速搭部署EIP实现共享带宽/流量包管理 文档版本信息 云速搭部署 EIP 实现共享带宽/流量包管理 最佳实践 文档版本:20211025(发布日期)云速搭部署EIP实现共享带宽/流量包管理 文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 云速搭部署 EIP实现共享带宽/流量包管理 文档编号 251 文档版本 V1.0 版本日期 2021-10...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,弹性公网IP,云速搭CADT
< 1 2 3 >
共有3页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用