基于函数计算FC实现大语言模型部署
基于函数计算FC实现大语言模型部署
在现代AI应用中, Qwen /chatglm2-6b 和Stable Diffusion等模型因其强大的功能而受到关注。然而,这些模型对计算资源的高需求和复杂的运维管理成为部署时的挑战。基于函数计算FC的无服务器计算模式为这类模型的部署提供了全新的解决方案。用户只需关注模型的部署和调用逻辑,而无需关心底层的服务器配置、资源分配和扩展性等问题。函数计算FC能够自动处理函数的执行环境,包括冷启动、弹性伸缩等,确保模型能够在大规模的请求下稳定运行。
步骤5 进入ModelScope首页,点击模型服务,完成 FC服务完整的授权链路,具体步骤如下所 示,记录魔搭社区 6位UID 步骤6 授权ModelScope使用阿里云服务,输入魔搭社区 6位UID完成ModelScope的 Role角 色授权并确认状态为已授权 文档版本:20240429 4 基于函数计算 FC实现大语言模型部署最佳实践 使用魔搭将社区模型部署到 FC ...
来自: 最佳实践 相关产品:函数计算
互联网、电商Elasticsearch搜索
互联网、电商Elasticsearch<em>搜索</em>
场景描述 每一个生活在互联网中的用户,每天都在经 历各种各样的“搜索”,查找电商网站商品、 信用卡账单、查电子发票、查附近的餐厅酒 店、查偶像、查交通等等。相对于传统的关 系型数据库,Elasticsearch只需要几毫秒的 时间,即可查询PB级数据并从中找到匹配 信息。利用Elasticsearch高可用性和易用 性,能够快速处理网站、APP丢给它的文本、 数字、日期、IP以及地理数据。 解决问题 1.电商网站商品、订单、物流等搜索 2.保险行业保单查询 3.互联网教育行业课程搜索 4.O2O行业地理位置搜索等 产品列表 云服务器ECS 专有网络VPC 负载均衡SLB 云数据库RDSMySQL版 Dataworks Elasticsearch 数据传输服务DTS
互联网、电商 Elasticsearch搜索 最佳实践 场景描述 方案架构 每一个生活在互联网中的用户,每天都...电商网站搜索测试 步骤1 登录电商网站首页。42 文档版本:20220121 互联网、电商 Elasticsearch搜索最佳实践 电商网站使用 Elasticsearch引擎 步骤2 输入关键词搜索,可见相关的商品都已经搜索出来了。43 文档版本:20220121
来自: 最佳实践 | 相关产品:云服务器ECS,云数据库RDS MySQL 版,数据传输,DataWorks,Elasticsearch
云速搭构建大规模云手机压测集群
云速搭构建大规模云手机压测集群
在互联网游戏行业新游发行前、金融行业的基金或券商APP在大版本更新前,均需要将APP部署到大规模测试环境中进行压测,确保大规模并发场景下对APP本身可靠性和后台业务系统的稳定性及资源准备情况做好验证。 本实践设计一个游戏压测场景,在阿里云的多地域快速部署共一万台云手机,每台云手机之间网络可互通,每台云手机通过阿里云提供的NAT网关可访问互联网。
文档版本:20220901 19 云速搭构建大规模云手机压测集群 云速搭架构模板准备 步骤5 返回到云手机 VNC控制台,在首页单击鼠标向上滑动,点击左上角的 CADT图标 文档版本:20220901 20 云速搭构建大规模云手机压测集群 大批量部署云手机 2.大批量部署云手机 基于云手机的压测场景,客户是需要单次购买大批量的云手机,本章节...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,弹性公网IP,NAT网关,云企业网,云速搭CADT,弹性云手机
基于ALB的统一流量调度和监控
基于ALB的统一流量调度和监控
企业在走向容器化过渡阶段,内部同时存在ECS应用和容器应用的情况,在多域名业务场景下,为了对应用的入方向流量进行统一的调度和监控,可通过ALB快速完成内部应用统一流量的管控。 典型场景 多域名转发到混合应用类型场景。 方案优势 1、 高弹性,高并发 2、 减少SLB+EIP数量 3、 一键WAF透明接入 4、 配置简单易上手 5、 统一流量运营分析
步骤3 在搜索框中搜索“基于 ALB统一流量调度和监控”,找到目标模板,将鼠标移动到模 板图标上,单击基于方案新建。我们也可以新建空白应用,根据资源规划,手工创建架构图,详细步骤请参考使用文 档《构建应用架构》:https://help.aliyun.com/document_detail/186134.html 步骤4 配置完成,保存应用。文档版本:20210915...
来自: 最佳实践 | 相关产品:云服务器ECS,负载均衡 SLB,容器服务 ACK,云效
基于Elasticsearch的订单检索加速最佳实践
基于Elasticsearch的订单检索加速最佳实践
随着企业信息化程度越来越高,核心业务数据存储在传统关系型数据库中不可避免地会遇到一个问题:单表记录不断增多,数据检索速度会变慢,尤其是对中文的模糊查询(建立普通索引完全不起作用)。虽然数据库自身在不断完善,但效果有限且没办法灵活扩展,复杂场景无法应对。 本方案基于阿里云Elasticsearch作为二级索引库,数据集成产品提供Binlog实时订阅,实时解析、增量数据实时更新及二级索引库之间进行数据实时同步,为数据库提供“能力增益”, 不仅能从根本解决主库抗压问题,提升稳定性;同时支持高效率、高性能、高弹性、低成本、多复杂场景的检索加速服务。
文档版本:20210517 43 基于 Elasticsearch的订单检索加速最佳实践 配置大数据组件 步骤4 单击“首页”,选择“一键实时同步至 Elasticsearch”的解决方案。步骤5 类型选择 mysql。数据源选择之前在 dataworks创建的 rds数据源。并且把要同步的 trading_order表选中到“已选源表”的框中并且打勾选中,然后单击下一步。文档...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,DataWorks,Elasticsearch
微服务引擎的线上流量治理
微服务引擎的线上流量治理
随着业务不断创新,微服务架构及数字化转型不断落地,在这个过程中,大量企业采用了开源的组件构建了微服务,比如有开源微服务全家桶之称的Spring Cloud体系或Apache Dubbo等,微服务的好处之一,在于快速迭代,如何在迭代过程中保障线上流量不受损? 开源产品无运维工具,常常需要投入较大的运维人力和成本。 本实践将重点介绍如何快速集成主流开源微服务框架,实现业务零改造,解决开源框架在生产落地过程中的痛点,例如无损上下线、标签路由等,并通过托管微服务开源组件(API网关、注册中心、配置中心等)的服务,提供白屏化监控告警、容灾、宕机重启、扩缩容等能力,帮助企业释放业务无关的运维成本,聚焦业务本身的运维和发展。 方案优势 快速集成:通过JavaAgent技术实现Sping Cloud和Dubbo框架可以实现业务零改造接入。 免运维:托管微服务依赖开源中间件的服务,提供白屏化监控告警、容灾、宕机重启、扩缩容等能力,帮助我们客户释放业务无关的运维成本,聚焦自身业务本身的运维和发展。 开源增强:提供开源框架在生产落地过程中的痛点,例如应用无损上下线/金丝雀发布/南北+东西流量打通等,帮助客户的业务提高自身SLA和降低自研成本。
效果演示 步骤1 访问电商首页,单击标签路由演示。文档版本:20240226 30 微服务引擎的线上流量治理 路由标记 步骤2 通过流量开关,开启流量调用。说明:为演示标签路由/金丝雀发布功能使用,调用结果显示最近的 1000 次调用中,分别被路由到了服务提供者的哪些 IP,单击开启流量调用后,frontend 应用将不停地 调用 ...
来自: 最佳实践 | 相关产品:容器服务 ACK,微服务引擎,云速搭CADT
基于k8s多集群隔离环境下的devops实现
基于k8s多集群隔离环境下的devops实现
场景描述 DevOps是一组过程、方法与系统 的统称,并通过工具实现自动化部署, 确保部署任务的可重复性、减少部署出 错的可能性。随着微服务、中台架构的 兴起,devops重要性日益显著。 本方案使用两个独立的k8s集群: 用户已有的k8s模拟测试,ack集群模 拟生产环境,保证环境的高度隔离,互 不影响。通过gitlab+Jenkins的黄金组 合,实现容器应用的自动化构建和持续 部署,提高迭代效率。 解决问题 1.微服务应用的CI/CD。 2.测试和生产环境的高度隔离。 3.自动化的测试与部署。 4.现有CI对接ACK。 产品列表 专有网络VPC 容器服务ACK 容器镜像服务ACR 弹性公网IP 负载均衡SLB
文档版本:20220121 50 基于 K8S多集群隔离环境下的 DevOps实现 持续集成及持续部署 步骤7 查看修改是否生效:登录应用首页,创建新用户,查看日志信息是否有 a new account has been created关键字。步骤8 登录阿里云容器服务页面,查询 sign-k8s集群 default命名空间下的服务。步骤9 Gateway作为服务的流量入口,需要对外...
来自: 最佳实践 | 相关产品:专有网络 VPC,弹性公网IP,容器服务 ACK,容器镜像服务 ACR
虚拟桌面架构的高性能体验云上部署
虚拟桌面架构的高性能体验云上部署
场景描述 针对自建虚拟化桌面架构迁移阿里云,以及有虚拟化桌面 架构需求上云。包括但不限于: 1.有许可证合规要求,利用自带license快速上云的客户。 2.对数据安全较高要求,需要快速构建虚拟化桌面的客 户。 解决问题 利用云上灵活性和规模化优势,构建云上更加高效、高性 能体验的服务,为客户解决: 1.客户VDI部署的需求,能够更及时的得到满足。 2.解决硬件资源限制,根据业务规模化部署并集中管 控。 3.利用公共云的网络、计算、备份容灾方案、安全防护 等,提供高可靠、高性能、高体验的远程桌面服务。 产品列表 VPC(专有网络) SLB(负载均衡) CEN(云企业网) 专有宿主机 OpenAPI
文档编号 077 文档版本 V1.1 版本日期 2019-12-24 文档状态 外部发布 制作人 阿瑟 审阅人 何川、翰辰 文档变更记录 版本编号 日期 作者 审核人 说明 V1.0 2019/07/12 阿瑟 何川、翰辰 创建 V1.1 2019/12/24 阿瑟 添加首页概览 I 企业上云实践 虚拟桌面架构的高性能体验云上部署|前言 前言 概述 本方案针对自建虚拟化桌面...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,负载均衡 SLB,云企业网,专有宿主机
AK防泄漏
AK防泄漏
场景描述 用户名密码是开发运维人员访问阿里云控制台 的凭据,AK是软件程序访问阿里云资源的凭据。 如果AK被泄露,那么会造成非常严重的后果, 比如资源被释放导致业务不可用、大量服务器被 创建用来挖矿,等等。采用合适的方式来使用、 保护AK,是每一个云客户都必须关注的问题。 解决问题 1.避免AK被泄露 2.改进已经错误使用AK的方法 产品列表 访问控制RAM 云服务器ECS 操作审计Action Trail 云安全中心
改进已经错误使用 AK的方法 demo架构图:产品列表 访问控制 RAM 云服务器 ECS 操作审计 Action Trail 云安全中心 最佳实践频道 阿里云最佳实践分享群 如二维码过期,请搜索群号:31852400 云服务器 ECS(产品名称)文档模板(手册名称)/文档版本信息 阿里云 企业上云实践 AK防泄漏 最佳实践 文档版本:20220211 文档版本:...
来自: 最佳实践 | 相关产品:云服务器ECS,访问控制,云安全中心,操作审计,云速搭CADT
超级计算集群实现自然语言处理训练
超级计算集群实现自然语言处理训练
场景描述 本方案适用于自然语言训练场景,使用神龙 GPU云服务器(SCCGN6)+CPFS进行NLP的 训练,采用Bert模型。这里不使用容器,直接 使用裸机进行NLP的Bert训练,使用飞天AI加 速训练工具可以有效提升多机多卡的训练效率。 解决问题 使用神龙GPU云服务器搭建NLP训练环 境 使用SCC的RDMA网络 使用CPFS存储训练数据 使用飞天AI加速训练工具加速训练 产品列表 神龙GPU云服务器(SCCGN6) SCC超级计算集群 CPFS共享存储
审核人 说明 V1.0 2019/07/15 敬海 游圣行夜 创建 V1.1 2019/11/20 敬海 增加首页概览,更新git地址 V1.2 2019/12/09 敬海 产品更新 V1.3 2020/02/02 敬海 更新架构图 V1.4 2020/12/10 敬海 AIACC更新及demo更新 V1.5 2021/03/08 敬海 更新文件链接等 I企业上云实践 超级计算集群实现自然语言处理训练 前言 概述 本文介绍...
来自: 最佳实践 | 相关产品:文件存储NAS,超级计算集群
基于MaxCompute的大数据BI分析
基于MaxCompute的大数据BI分析
场景描述 本文以电商行业为例,将业务数据和日志数据使用 MaxCompute做ETL之后,同步到ADB进行实时 分析,之后通过QuickBI进行快速可视化展示。 解决问题 1.互联网行业、电商、游戏行业等网站、App、 小程序应用内BI分析场景。 2.可扩展到各类网站BI分析场景使用。 产品列表 1.MaxCompute 2.分析型数据MySQL版 3.日志服务SLS 4.QuickBI 5.云服务器ECS 6.RDSMySQL版
ADB更新 3.0 文档优化 V1.3 2020-01-20 期会-增加概览 V1.4 2021-06-02 衾影 解决 python2版本问题 V1.5 2021-07-08 衾影 适配 DW更新 V1.6 2021-12-13 衾影 梅酱 增加 CADT创建资源;文档截图更新;替换 ADB到 Hologres 文档版本:20211213 I 基于 MaxCompute的大数据 BI分析 前言 前言 概述 本文以电商行业为例,将业务...
来自: 最佳实践 | 相关产品:日志服务(SLS),大数据计算服务 MaxCompute,云原生数据仓库AnalyticDB My,Quick BI,云速搭CADT
在线业务智能增长解决方案
基于阿里巴巴自主研发的高性能召回、排序引擎,为企业提供一站式智能增长开发平台。通过性能更优、效果更好的智能搜索、信息流服务,提升在线业务转化效果与用户体验,助力商业价值提升,驱动企业智能增长。
全链路开发平台、稳定高效免运维.CSDN在众多核心场景中使用了阿里云开放搜索和个性化信息流产品,接入后对每个细分场景分别进行精细化效果调优,将原有搜索指标提升超过30-50%,提升首页推荐效果,多项指标翻倍。—— CSDN 副总裁 车东.内容资讯推荐和搜索.天眼查通过阿里云开放搜索产品打造核心业务搜索功能,各项搜索指标...
来自: 解决方案
互联网电商行业离线大数据分析
互联网电商行业离线大数据分析
电商网站销售数据通过大数据分析后将业务指标数据在大屏幕上展示,如销售指标、客户指标、销售排名、订单地区分布等。大屏上销售数据可视化动态展示,效果震撼,触控大屏支持用户自助查询数据,极大地增强数据的可读性。
开启分 时,每最多返回10000条记录 数据表名称 sales_datav互联网电商行业离线大数据分析 步骤8服务资源组,选择独享服务资源组。步骤9单击左上角保存,再单击右上角测试,测试API,查看返回结果。步骤10 在API测试页面,单击开始测试。可以查看到返回结果:"errMsg":"success"步骤11 测试通过后,关闭API测试,单击...
来自: 最佳实践 | 相关产品:云服务器ECS,云数据库RDS MySQL 版,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,API网关,云速搭CADT
官网最佳实践频道浏览
官网最佳实践频道浏览
介绍如何使用RAM子用户登录阿里云官网全文浏览最佳实践频道内容。
操作步骤 使用云账号登录阿里云官网(www.aliyun.com )访问 访问控制(RAM)控制台 官网首页导航进入控制台 文档版本:20200630 III 官网最佳实践频道浏览最佳实践 产品与服务 搜索 访问控制 进入访问控制控制台 人员管理>用户页面,单击新建用户。在新建用户页面,完成以下配置,并单击确定。配置项 说明 文档版本:...
来自: 最佳实践 | 相关产品:访问控制
金融专属大数据workshop
金融专属大数据workshop
实践目标 学习搭建一个实时数据仓库,掌握数据采集、存储、计算、输出、展示等整个业务流程。 整个实时数据仓库系统全部基于阿里云产品进行架构搭建,用户可以掌握并学会运用各个服务组件及各个组件之间如何联动。 理解阿里云原生实时离线一体数仓解决方案架构以及掌握交付落地的实践使用方法。 前置知识要求 熟练掌握SQL语法 对大数据体系系统知识有一定的了解
文档版本:20210803(发布日期)54阿里云最佳实践金融大数据WorkShop 最佳实践项目实践 步骤7 在右侧单击数据签,点击配置数据源,在数据源类型下选择数据库,在选择已有数 据源holo,写入SQL(从code.txt中拷贝)。本段SQL:SELECT '2021 年累计成交单数' as name,count(1)as value FROM ads_sku_stat where order_...
来自: 最佳实践 | 相关产品:块存储,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,弹性公网IP,数据传输,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,实时计算,数据总线,Quick BI,Hologres
智能推荐
智能推荐AIRec基于阿里巴巴领先的大数据和人工智能技术,以及在电商、内容、直播、社交等领域的业务沉淀,阿里云为企业开发者提供了行业版SaaS推荐云产品、全链路推荐系统解决方案、工程引擎与组件等多种服务。
打造首页猜你喜欢、种草社区、购物车、详情页等转化页面。提升用户浏览体验、消费体验,促进购买决策与商城收入.点击率(pv_ctr,uv_ctr).转化率(pv_cvr,uv_cvr).销售收入(GMV).核心效果指标.零售/电商网站.电商:提升转化率,促进商城GMV增长.打造沉浸流Feed、频道专区、兴趣卡片等。提升用户浏览体验、访问粘性,...
来自: 云产品
基于SLS实现统一告警最佳实践
基于SLS实现统一告警最佳实践
告警对于企业的开发运维,安全运维,业务运维有着至关重要的作用。然而很多企业在告警运维方面存在着重复建设、监控质量差、告警风暴、触达不人性化、无法闭环等问题。 针对企业在告警管理方面存在的痛点问题,SLS告警提供了一站式云上告警管理方案,具有弹性易用、稳定可靠、功能持续升级、成本更低、噪音更少等优势。企业可以将现有的监控方案系统无缝接入到SLS告警平台,实现在SLS上一站式管理告警。
步骤16 返回到日志首页,检查日志数据。文档版本:20211021 29 基于 SLS实现统一告警最佳实践 配置自定义告警 3.1.2.使用 Nginx模拟日志 步骤1 登录 SLS控制台,选择用 CADT创建好的 SLS实例:sls-bp235,进入详情页。步骤2 打开创建好的日志库实例 logstore-bp235,展开数据接入,单击模拟接入。文档版本:20211021 30 ...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,弹性公网IP,日志服务(SLS),云速搭CADT
大数据workshop
大数据workshop
大数据workshop
步骤3 在新建>官方模版库新建,输入“大数据 workshop”关键词搜索模板,单击基于 方案新建。文档版本:20210628(发布日期)10 阿里云最佳实践大数据 WorkShop 最佳实践项目实践 步骤4 配置模板资源参数并保存。ECS的规格以及 ECS的参数,如操作系统、登录密码等(注意 ECS密码必须 设置,目前模版已经预设了密码,因此不...
来自: 最佳实践 | 相关产品:块存储,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,弹性公网IP,数据传输,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,实时计算,数据总线,Quick BI,Hologres
基于DataWorks的大数据一站式开发及数据治理
基于DataWorks的大数据一站式开发及数据治理
概述 基于Dataworks做大数据一站式开发,包含数据实时采集到kafka通过实时计算对数据进行ETL写入HDFS,使用Hive进行数据分析。通过Dataworks进行数据治理,数据地图查看数据信息和血缘关系,数据质量监控异常和报警。 适用场景  日志采集、处理及分析  日志使用Flink实时写入HDFS  日志数据实时ETL  日志HIVE分析  基于dataworks一站式开发  数据治理 方案优势  大数据一站式开发,完善的数据治理能力。  性能优越:高吞吐,高扩展性。  安全稳定:Exactly-Once,故障自动恢复,资源隔离。  简单易用:SQL语言,在线开发,全面支持UDX。  功能强大:支持SQL进行实时及离线数据清洗、数据分析、数据同步、异构数据源计算等Data Lake相关功能 ,以及各种流式及静态数据源关联查询。
在周期性执行任务时,需要将时间参数传递给 hive节点进行分区数据 load,所以 先创建赋值节点。右键点击新建的 start几点,选择打开节点,进入编辑页面,输入以下内容并保存(从 democode.txt拷贝最新内容):文档版本:20201020 33 基于 Dataworks的大数据一站式开发及数据治理 基于 hive的离线分析 点击运行,查看日志...
来自: 最佳实践 | 相关产品:块存储,云服务器ECS,E-MapReduce,DataWorks,实时计算,云速搭
混合云使用Ali-Perseus
混合云使用Ali-Perseus
场景描述 本文介绍了混合云场景中,自建 Kubernetes服务,线下集群+云上弹性扩 展阿里云GPU服务实例+飞天AI加速工 具,并采用阿里云CPFS存储,运行AI训 练+AI推理作业的操作步骤。 解决问题 1.利用云企业网打通两个地域的VPC, 自建Kubernetes集群 2.使用飞天AI加速工具运行训练和推理 作业 3.使用CPFS存储共享数据 产品列表 云企业网CEN GPU云服务器 并行文件存储CPFS 文件存储NAS
文本信息 属性 内容 文档名称 混合云使用飞天 AI加速工具最佳实践 文档编号 099 文档版本 V1.3 版本日期 2020/01/14 文档状态 发布 制作人 敬海 审阅人 云魁 期会 文档变更记录 版本编号 日期 作者 审核人 说明 V1.0 2019/09/14 敬海-创建 V1.1 2019/09/26 筱晖-文档优化 V1.2 2019/12/11 敬海-增加首页概览 V1.3 2020/01...
来自: 最佳实践 | 相关产品:云服务器ECS,文件存储NAS,云企业网
< 1 2 >
共有2页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用