基于函数计算FC实现大语言模型部署
基于函数计算FC实现大语言模型部署
在现代AI应用中, Qwen /chatglm2-6b 和Stable Diffusion等模型因其强大的功能而受到关注。然而,这些模型对计算资源的高需求和复杂的运维管理成为部署时的挑战。基于函数计算FC的无服务器计算模式为这类模型的部署提供了全新的解决方案。用户只需关注模型的部署和调用逻辑,而无需关心底层的服务器配置、资源分配和扩展性等问题。函数计算FC能够自动处理函数的执行环境,包括冷启动、弹性伸缩等,确保模型能够在大规模的请求下稳定运行。
DashScope中所有不同的模型 API服务都可以使用一个 API-KEY、以一致的 编程方式进行调用,方便开发者进行跨模态的、多个模型的接续调用。文档版本:20240429 4 基于函数计算 FC实现大语言模型部署最佳实践 最佳实践概述 前置条件 在进行本文操作之前,您需要完成以下准备工作:注册阿里云账号,并完成实名认证。您可以登录...
来自: 最佳实践 相关产品:函数计算
基于Fortinet的出海业务访问加速方案
基于Fortinet的出海业务访问加速方案
本方案基于CADT提供一个一键交付零配置的部署模板,帮助企业快速构建出海业务访问加速的环境。方案结合了Fortinet产品以及阿里云的ECS,BGP公网精品IP等产品,实现低成本的出海业务加速。
您可以登录阿里云控制台,并前往实名 页面(https://account.console.aliyun.com/v2/#/authc/home)查看是否完成 实名认证。购买按量付费资源,阿里云账户余额需要大于 100元。考虑到部署后每小时会 产生费用,建议账号内余额或者代金卷金额大于 200元。您可以登录阿里云控 制台,前往账户总览页面...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,弹性公网IP,云速搭
基于函数计算FC实现阿里云Kafka消息轻量级ETL处理
基于函数计算FC实现阿里云Kafka消息轻量级ETL处理
在大数据ETL场景,Kafka是数据的流转中心,Kafka中的数据一般是原始数据,可能存在多种数据混杂的情况,需要进一步做数据清洗后才能进行下一步的处理或者保存。利用函数计算FC,可以快速高效的搭建数据处理链路,用户只需要关注数据处理的逻辑,数据的触发,弹性伸缩,运维监控等阿里云函数计算都已经做了集成,函数计算FC也支持多种下游,OSS/数据库/消息队列/ES等都可以自定义的对接
这里需要注意,如果通过 CADT创建的 VPC、VSWITCH中人工通过其他方式添加了资源,如通过控制台或者 API 等购买了 ECS,释放时因为这些非 CADT 部署的资源会依赖 VSWITCH和 VPC,会出现释放失败。遇到这类问题请先去控制台人工进行资源清理后,在CADT中再次释放资源即可。步骤1 打开需要释放的应用 步骤2 打开资源清单,点击...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算,消息队列 Kafka 版
基于函数计算实现直播流录制-存储-通知
基于函数计算实现直播流录制-存储-通知
在互娱、教育、电商等行业都会有直播相关的业务,大部分场合都需要对直播相关的业务做安全审核,或者对直播的课程进行录制和转码。该方案实现了一种完全按需拉起、按量弹性、按实际使用付费的录制方案。基于本方案还可以扩展实现直播流截帧、自动化安全审核等能力
基于函数计算实现直播流录制-存储-通知最佳实践 业务架构 场景描述 基于阿里云函数计算实现对直播流的实时录制,录制结束后会把录制的结果写入 OSS 存储桶,并把录制的结果写到消息队列,下游服务可以通 过订阅的方式来消费消息 应用场景 在互娱、教育、电商等行业都会有直播相关的业 务,大部分场合都需要对直播相关的业务...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算
API网关
API 网关、ingress 流量网关、微服务网关和安全网关四合一,并能满足 AI 场景下对网关的新需求。
API 网关(API Gateway)分为两个产品系列,原 API 网关和云原生 API 网关。原 API 网关提供 API 生命周期管理能力。云原生 API 网关将流量网关、微服务网关、安全网关和 AI ...一站解决API管理和API商品变现.API接入网关后,还能以API商品的方式上架到阿里云API市场。API网关和API市场将为您解决计量计费、运营售卖等需求.
来自: 云产品
容器场景下的应用性能监控、调用链拓扑、内存剖析
容器场景下的<em>应用</em>性能监控、调用链拓扑、内存剖析
场景描述 随着云原生及微服务技术的普及,越来越多的系统已经通过云原生和微服务技术实现企业的降本增效,同时因微服务及云原生的复杂性给系统运维带来非常大的挑战,云原生应用监控arms通过全链路应用监控,从端到端及代码级别的链路下钻能力、CPU、内存持续剖析及诊断能力,帮助客户降低系统故障定位难度,此demo,您将体验arms的链路监控、内存剖析等能力 应用场景 微服务+容器场景下链路调用拓扑,调用链可以显示出服务之间的调用顺序和层次关系,帮助开发人员理解和追踪代码的执行流程 在分布式系统中,一个请求往往需要通过多个服务来完成。当出现问题时,如请求超时、错误或异常,很难快速定位问题所在。 解决问题 调用链可以帮助运维人员解决以下问题: · 故障排查:当请求失败或出现错误时,调用链可以显示整个请求的路径和每个服务的执行情况,从而帮助运维人员快速定位问题所在。 · 性能优化:通过调用链,运维人员可以了解请求在系统中的执行时间和瓶颈所在,从而进行优化。 · 系统监测:调用链可以提供实时的系统监测和分析,帮助运维人员了解系统的健康状况和资源利用情况。
容器场景下的应用性能监控、调用链拓扑、内存剖析 最佳实践 场景描述 业务架构 随着云原生及微服务技术的普及,越来越多的系 统已经通过云原生和微服务技术实现企业的降 本增效,同时因微服务及云原生的复杂性给系统 运维带来非常大的挑战,云原生应用监控arms 通过全链路应用监控,从端到端及代码级别的链 路下钻能力、CPU...
来自: 最佳实践 | 相关产品:弹性公网IP,容器服务 ACK,NAT网关,微服务引擎
容器多云统一监控日志
容器多云统一监控日志
多云、混合云成为常态,Forrester 报告中指出,未来 89% 的企业至少使用两个云,74% 的企业至少使用三个甚至更多公有云,在面对多云/混合云这样大的趋势下,Gartner报告指出,安全、运维复杂性、财务复杂性是多云架构的主要挑战,本方案给出了在多云/混合云场景下,构建基于容器环境下的统一管理、统一监控和统一日志方案,解决多云、混合云场景下,运维复杂性问题。 应用场景 客户在阿里云以外的其他云服务商(AWS、Azure、GCP、TencentCloud、HuaweiCloud等)或者IDC基于容器(Kubernetes)运行业务系统,希望构建容器场景下的统一监控日志系统,方便做不同大屏和问题分析定位。 解决问题 •构建容器多云统一监控和日志系统,在一个平台可以看到不同环境系统的运行情况。
步骤5 ECS初始化通过实例自定义数据方式完成,脚本采用base64编码,userdata使用 可以参考https://developer.aliyun.com/article/72041 文档版本:20240322 7容器多云统一监控日志 部署基础环境 脚本原始内容如下#!bin/bash#AuthorHanyan&James exportK8S_VERSION=1.18.9 exportMASTER_IP=$(ifconfigeth0|grepnetmask|...
来自: 最佳实践 | 相关产品:专有网络 VPC,容器服务 ACK,日志服务(SLS),应用实时监控服务 ARMS ,微服务引擎
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景,企业的Kafka实例可能存在多种情况,比如使用阿里云Kafka服务,可能是自建开源Kafka,或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例,在这个前提下Kafka实例之间可能会需要消息同步的情况: 同帐号容灾场景:比如Kafka实例都是阿里云Kafka,但是Kafka实例会有主备之分,需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾:这类场景比如主Kafka是阿里云Kafka,备Kafka是IDC开源自建Kafka,或者是其他云上的Kafka。 不同业务之间消息同步:因为现在的业务通常不会是信息孤岛,都需要消息互通,所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例,并且这两个Kafka实例归属不同的RAM角色,有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题(重试机制,容错机制,死信队列等)。 大幅提升构建消息同步架构的效率,降低构建复杂度问题。
 云速搭CADT(CloudArchitectDesignTools):是一款为上云应用提供自助云架构管理 的产品,显著地降低应用云上管理的难度和时间成本。本产品提供丰富的预制应用架构模 板,同时也支持自助拖拽方式定义应用云上架构;支持较多阿里云服务的配置和管理。用 户可以方便的对云上架构方案的成本、部署、运维、回收进行全生命...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,函数计算,消息队列 Kafka 版
基于FC实现的Web端视频录制最佳实践
基于FC实现的Web端视频录制最佳实践
场景描述在很多互娱场景,在线教育领域会有直播视频录制的需求,但是往往一个页面上的内容是多种多样的,不止有直播流,可能还有白板,评论等其他元素,如果只是录直播流,那内容是不完整的,所以需要将整个屏幕的内容录制为视频。该最佳实践可以有效解决这个场景。
ACR企业版支 持全球同步加速、大规模和大镜像分发加速、多代码源构建加速等全链路加速能 力,与容器服务 ACK无缝集成,帮助企业降低交付复杂度,打造云原生应用一 站解决方案。文档版本:20240325 III 基于 FC实现的 Web端视频录制最佳实践 目录 目录 文档版本信息.I 法律声明.II 前言.III 目录.IV 最佳实践概述.1 前置...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算
基于OSS Object FC实现非结构化文件实时处理最佳实践
基于OSS Object FC实现非结构化文件实时处理最佳实践
现在绝大多数客户都有很多非结构化的数据存在OSS中,以图片,视频,音频居多。举一个图片处理的场景,现在各种终端种类繁多,不同的终端对图片的格式、分辨率要求也不同,所以一张图片往往会有很多张衍生图,那如果所有的衍生图都存在OSS中,那存储的成本会增加,所以就可以通过OSS Object FC的方案,在不同的终端请求时,对OSS中的原图基于终端的要求做实时处理,然后响应返回,这样OSS中只需要存储原图即可。音视频也有类似的场景。
 云速搭CADT(CloudArchitectDesignTools):是一款为上云应用提供自助云架构管理 的产品,显著地降低应用云上管理的难度和时间成本。本产品提供丰富的预制应用架构模 板,同时也支持自助拖拽方式定义应用云上架构;支持较多阿里云服务的配置和管理。用 户可以方便的对云上架构方案的成本、部署、运维、回收进行全生命...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算
号码认证服务
号码认证服务是整合三大运营商网关认证能力,在用户无感知过程实现基于手机号码用户身份认证,一键完成本机号登录或认证,升级传统短信验证方式,提升用户体验、提高注册转化率、保障业务流程安全。
号码认证服务,整合三大运营商网关认证能力,在用户无感知过程中实现基于手机号码一键完成登录或认证,升级传统短信验证方式,提升用户体验、提高注册转化率、保障业务流程安全。融合认证集成了号码认证+短信验证码,在号码认证不可用时,可自动切换为短信验证码,提升认证成功率.融合认证新客户限量秒杀,低至6折起.云通信...
来自: 云产品
SAE-ACK应用双跑最佳实践
SAE-ACK<em>应用</em>双跑最佳实践
场景描述 实现ACK、SAE中部署的应用在东西向和南北向互通,实现SAE-ACK应用双跑。 应用场景 该最佳实践应用于两类场景: l 因为SAE支持更丰富自动扩缩指标(比如QPS,RT,TCP连接数等),所以将相对稳态的应用部署在ACK中,将相对弹性波动大的应用部署在SAE,借助SAE更强大的自动扩缩应对流量洪峰。 l 将K8s架构迁移到Serverless架构时,需要平滑过渡,所以该最佳实践中的双跑架构可以有效帮用户平滑的完成迁移。
SAE-ACK应用双跑最佳实践 业务架构 场景描述 实现ACK、SAE中部署的应用在东西向和南北 向互通,实现SAE-ACK应用双跑。应用场景 该最佳实践应用于两类场景: 因为SAE支持更丰富自动扩缩指标(比如 QPS,RT,TCP连接数等),所以将相对稳 态的应用部署在ACK中,将相对弹性波动 大的应用部署在SAE,借助SAE更强大的 产品列表...
来自: 最佳实践 | 相关产品:容器服务 ACK,Serverless 应用引擎,微服务引擎
IoT 设备身份认证
阿里云 IoT设备身份认证提供身份认证、通道加密和业务数据加密等能力,实现物联网数据可信上云和可信上链。提供公共云、一体机、专有云、多云等部署模式。
认证设备身份 基于挑战字、时间戳的设备身份认证方式。多种安全算法 支持多种国际和国密算法生成可信身份凭证,满足不同安全等级以及合规要求。安全连接 轻量化 iTLS 协议,在设备和物联网平台之间建立安全的传输通道,防范敏感数据泄漏或篡改、虚假数据上报等风险。轻量化的安全连接 iTLS 兼容 TLS协议,拥有同样的安全...
来自: 云产品
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
在大数据ETL场景,将Kafka中的消息流转到其他下游服务是很常见的场景,除了常规的消息流转外,很多场景还需要基于消息体内容做判断,然后决定下游服务做何种操作。 该方案实现了通过Kafka中消息Key的内容来判断应该对MongoDB做增、删、改的哪种DML操作。 当Kafka收到消息后,会自动触发函数计算中的函数,接收到消息,对消息内容做判断,然后再操作MongoDB。用户可以对提供的默认函数代码做修改,来满足更复杂的逻辑。 整体方案通过CADT可以一键拉起依赖的产品,并完成了大多数的配置,用户只需要到函数计算和MongoDB控制台做少量配置即可。
这里需要注意,如果通过 CADT 创建的 VPC、VSWITCH 中人工通过其他方式添加了资源,如通过控制台或者 API 等购买了 ECS,释放时因为这些非 CADT 部署的资源会依赖 VSWITCH 和 VPC,会出现释放失败。遇到这类问题请先去控制台人工进行资源清理后,在 CADT 中再次释放资源即可。步骤1 打开需要释放的应用 步骤2 打开资源清单...
来自: 最佳实践 | 相关产品:函数计算,消息队列 Kafka 版,云数据库 MongoDB版
Kafka性能压测快速方案
Kafka性能压测快速方案
产品性能基线测试场景需要对产品进行性能测试得到详细的压测数据,本方案可以快速构建测试的客户端(kafka官方的压测客户端)和不同的Kafka服务端( SSD云盘版、高效云盘、Serverless版三种实例),方便客户进行POC完成性能验证。
 云速搭CADT(CloudArchitectDesignTools):是一款为上云应用提供自助云 架构管理的产品,显著地降低应用云上管理的难度和时间成本。本产品提供丰富 的预制应用架构模板,同时也支持自助拖拽方式定义应用云上架构;支持较多阿 里云服务的配置和管理。用户可以方便的对云上架构方案的成本、部署、运维、回收进行全生命...
来自: 最佳实践 | 相关产品:云服务器ECS,弹性公网IP,消息队列 Kafka 版
EMR集群安全认证和授权管理 
EMR集群安全<em>认证</em>和授权管理 
场景描述 阿里云EMR服务Kafka和Hadoop安全集群使 用Kerberos进行用户安全认证,通过Apache Ranger服务进行访问授权管理。本最佳实践中以 Apache Web服务器日志为例,演示基于Kafka 和Hadoop的生态组件构建日志大数据仓库,并 介绍在整个数据流程中,如何通过Kerberos和 Ranger进行认证和授权的相关配置。 解决问题 1.创建基于Kerberos的EMR Kafka和 Hadoop集群。 2.EMR服务的Kafka和Hadoop集群中 Kerberos相关配置和使用方法。 3.Ranger中添加Kafka、HDFS、Hive和 Hbase服务和访问策略。 4.Flume中和Kafka、HDFS相关的安全配 置。 产品列表:E-MapReduce、专有网络VPC、云服务器ECS、云数据库RDS版
理想情况下,授权机制可以利用身份认证机制,以便当用户登录系统(例如集 文档版本:20200330 3 EMR集群安全认证和授权管理 阿里云 EMR集群的用户认证和访问授权 群)时,将根据其在整个系统中对应用程序,数据和其他资源的授权,对他们进行透 明授权。授权有多种方式,从访问控制列表(ACL)到 HDFS 扩展 ACL,再到使用 ...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,E-MapReduce
基于MSE和SAE的微服务部署与压测
基于MSE和SAE的微服务部署与压测
通过云原生微服务引擎MSE、SAE、PTS、ARMS产品,为spring cloud微服务应用提供部署和测试能力,提供一个经典微服务应用上云的典型架构,实现微服务应用的快速落地。
基于MSE和SAE的微服务部署与压测最佳实践 业务架构 场景描述 通过云原生微服务引擎MSE、SAE、PTS、ARMS 产品,为SpringCloud微服务应用提供部署和测试 能力,提供一个经典微服务应用上云的典型架构,实 现微服务应用的快速落地。应用场景 微服务应用运行需要的支撑包括注册中心、运行时、应用监控、服务测试等典型能力。...
来自: 最佳实践 | 相关产品:负载均衡 SLB,弹性公网IP,性能测试 PTS,应用实时监控服务 ARMS ,Serverless 应用引擎,微服务引擎,云速搭
飞天企业版
阿里云飞天企业版是基于阿里云飞天云计算操作系统,为政企客户专属构建的资源和云管完全独立的企业级云平台,阿里云专有云与公共云同根同源,支持私有化部署。
阿里云入选沙利文中国专有云市场领导者象限能力认证阿里云加入“一云多芯”应用创新计划,首批通过金融专有云能力评估能力认证首批 I 阿里云通过算力服务成熟度增强级评估权威认可飞天企业版入选数字中国建设峰会十大硬核科技能力认证阿里云飞天企业版获最高等级安全认证一云多芯政企云平台“一云多芯”路线全景图2024.03....
来自: 云产品
基于MSE云原生网关同城多活
基于MSE云原生网关同城多活
借助云原生微服务MSE网关,MSE配置注册中心的同城容灾多活微服务应用。构建一个经典的微服务场景,实现同城容灾的步骤,体现云原生相关产品在用户上云,高可用同城容灾多活场景下的能力。
云速搭 CADT(Cloud Architect Design Tools):是一款为上云应用提供自助云 架构管理的产品,显著地降低应用云上管理的难度和时间成本。本产品提供丰富的 预制应用架构模板,同时也支持自助拖拽方式定义应用云上架构;支持较多阿里云 服务的配置和管理。用户可以方便的对云上架构方案的成本、部署、运维、回收进 行全...
来自: 最佳实践 | 相关产品:弹性公网IP,容器服务 ACK,NAT网关,微服务引擎
基于SpringCloud应用玩转MSE实践
基于SpringCloud<em>应用</em>玩转MSE实践
随着业务不断创新,大型的单个应用和服务会被拆分为数个甚至数十个微服务,微服务架构已经被广泛应用。 微服务的好处在于快速迭代,如何在迭代过程中保障线上流量不受损。依赖开源产品缺少无运维工具,常常需要投入较大的运维人力和成本。 本实践提供基于云原生应用产品提供微服务注册配置中心、微服务治理和云原生网关等一系列高性能和高可用的企业级云服务能力。
熔断效果展示 推送开关后,程序的慢调用生效,就会触发熔断规则:观察mseconsumer应用接口详情,在客户端看到具体熔断信息。路径:治理中心-应用治理-接 口详情。文档版本:20240229基于SpringCloud玩转MSE 9.一键释放云资源 场景已经完成,可以将验证通过的环境直接用于生产。如果不再使用该架构,也可以通过CADT释放...
来自: 最佳实践 | 相关产品:弹性公网IP,容器服务 ACK,日志服务(SLS),NAT网关,微服务引擎,消息队列 RocketMQ 版,云速搭
< 1 2 3 4 ... 10 >
共有10页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用