基于函数计算FC实现大语言模型部署
基于函数计算FC实现大语言模型部署
在现代AI应用中, Qwen /chatglm2-6b 和Stable Diffusion等模型因其强大的功能而受到关注。然而,这些模型对计算资源的高需求和复杂的运维管理成为部署时的挑战。基于函数计算FC的无服务器计算模式为这类模型的部署提供了全新的解决方案。用户只需关注模型的部署和调用逻辑,而无需关心底层的服务器配置、资源分配和扩展性等问题。函数计算FC能够自动处理函数的执行环境,包括冷启动、弹性伸缩等,确保模型能够在大规模的请求下稳定运行。
模型服务灵积(DashScope):灵积模型服务建立在“模型即服务”(Model-as-a-Service,MaaS)的理念基础之,围绕 AI各领域模型,通过标准的 API提 供包括模型推理、模型微调训练在内的多种模型服务。DashScope灵积模型服务 依托于业界各领域的优质模型,基于阿里云强大的基础设施搭建。DashScope灵 积模型服务使用 API-...
来自: 最佳实践 相关产品:函数计算
智能对话机器人
阿里云智能对话机器人,为企业提供新一代智能人机对话系统,适用于智能客服、智能办公助理等场景,支持7x24小时值守、多渠道部署,助力企业服务智能化转型。
为进一步提升客户使用SRM系统效率与体验,采用了阿里云智能对话机器人,实现了7*24的自动化咨询服务,帮助客户快速解决采购过程中的问题,节省人工成本.互联网行业-任我行(管家婆).管家婆软件是中国中小企业管理软件行业的创始者和领导者,长期专注于中小企业信息化,为各种规模和处于不同成长阶段的中小企业提供信息化...
来自: 云产品
建Hadoop迁移MaxCompute
<em>自</em>建Hadoop迁移MaxCompute
场景描述 客户基于ECS、IDC自建或在友商云平台自建了大数 据集群,为了降低企业大数据计算平台的成本,提高 大数据应用开发效率,更有效保障数据安全,把大数 据集群的数据、作业、调度任务以及业务数据库整体 迁移到MaxCompute和其他云产品。 解决的问题 自建Hadoop集群搬迁到MaxCompute 自建Hbase集群搬迁到云Hbase 自建Kafka或应用数据准实时同步到 MaxCompute 自建Azkaban任务迁移到Dataworks任务 产品列表 MaxCompute,Dataworks、云数据库Hbase版、Datahub、VPC,ECS。
关于 HiveSQL修改为 ODPS SQL的过程,目前暂未提供自动化工具进行修改,但是根据经验大部 分的 HiveSQL关键字、数据类型、建函数,都可以在 ODPS SQL中找到,有少部分需要进行语 法改造。关于 ODPS SQL 的详细介绍,请参考:MaxCompute>开发>SQL 及函数(https://help.aliyun.com/document_detail/27860.html)步骤2 创建...
来自: 最佳实践 | 相关产品:云服务器ECS,DataWorks,大数据计算服务 MaxCompute,云数据库 HBase 版,数据总线,云速搭
RPA
RPA(Robotic Process Automation)是阿里云出品的企业自动化流程数字员工,也可以称之为机器人流程自动化。阿里云RPA易于部署及其低代码开发特性,为企业带来速度和敏捷性提升。比如将企业内部工作流程自动化,打通系统间的数据孤岛,能显著提高生产效率。
我们的客户财务 电商 政务 银行 保险“财务RPA机器人,是一种能够将电脑端重复、大批量、规则性强的手动工作自动化处理的软件机器人。随着NLP/OCR/机器学习等AI能力的加入,可以将财税工作者从此类工作中解放出来 财务机器人我们的伙伴 伙伴认证计划>>上海百胜软件股份有限公司 上海百胜成立于2000年,是全渠道数字零售解决...
来自: 云产品
新零售商超基于Serverless服务改造
新零售商超基于Serverless服务<em>化</em>改造
某零售商超行业龙头企业,主要业务涵盖购物中心、大卖场、综合超市、标准超市、精品超市、便利店、无人值守智慧商店等零售业态,涉及全渠道零售、仓储物流、餐饮、消费服务、数据服务、金融业务、跨境贸易等领域。为了持续支持业务高速且稳定地发展,其在快速上云后,将核心业务改造为全Serverless架构的中台模式,采用函数计算 + API网关 + 表格存储OTS 作为计算网络存储核心,弹性支撑日常和大促峰谷所需资源,轻松支撑618/双11/双12大促。 核心价值 l 全 Serverless 架构:FC + API 网关 + OTS Serverless 解决方案。 l 弹性高可用:毫秒级弹性扩容、充足的资源池水位、跨可用区高可用。 l 敏捷开发免运维:函数式极简编程可专注于业务创新,无采购和部署成本、提供监控报警等完备的可观测能力。
Serverless服务改造 文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 新零售商超基于 Serverless服务改造 文档编号 212 文档版本 V1.0 版本日期 2021-05-28 文档状态 对外发布 制作 七凌、墨飏、洛浩、旻苍 审阅 天裵 文档变更记录 版本编号 日期 作者 审核 说明 V1.0 2021-05-28 七凌、墨飏、洛浩、旻苍...
来自: 最佳实践 | 相关产品:云数据库RDS MySQL 版,数据传输,函数计算,API网关,表格存储
容器服务 Kubernetes 版 ACK
阿里云容器服务Kubernetes版ACK(容器服务Kubernetes版,简称ACK)支持企业级K8s容器化应用的全生命周期管理,提供高性能可伸缩的容器应用管理能力,助力企业高效运行云端K8s容器化应用。
立即购买免费试用快捷入口控制台文档APISDK产品定价05:12通过控制台快速使用 ACK产品动态内容甄选新版本容器服务 Kubernetes 版 v1.28 开放升级2024.01.03新功能托管节点池时开启指定自动化运维功能2024.01.03新功能基于多集群网关实现同城容灾2024.01.03入门必读快速上手容器服务ACK2023.07.10可观测性可观测性体系概述...
来自: 云产品
云效代码管理 Codeup
云效代码管理 Codeup,10万企业都在用的代码管理平台,提供代码托管、代码评审、代码扫描、质量检测、持续集成等功能,全方位保护企业代码资产,帮助企业实现安全、稳定、高效的研发管理。
发版周期缩短1半,自动化率提升60%,上汽通用DevOps转型实践.「商米」从”蒸汽时代”到”高铁时代“DevOps转型之路.云效助力「人力家」持续降本提效.云效携手ACK助力「上海博卡」DevOps转型之路.云效携手SAE助力「石家庄掌讯」持续交付、降本提效.通用icon文字列表.唐家哲,靖鑫,也树.了解云效产品基本功能.缩短学习路径快速...
来自: 云产品
实时计算Flink版
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,具备实时应用的作业开发、数据调试、运行与监控、自动调优、智能诊断等全生命周期能力。内核引擎100%兼容Apache Flink,2倍性能提升,拥有FlinkCDC、动态CEP等企业级增值功能,内置丰富上下游连接器,助力企业构建高效、稳定和强大的实时数据应用。
内核引擎100%兼容Apache Flink,2倍性能提升,拥有FlinkCDC、动态CEP等企业级增值功能,内置丰富下游连接,助力企业构建高效、稳定和强大的实时数据应用.59元3000CUH资源包,快速开通实时计算Flink版.59元3000CUH资源包,快速开通实时计算Flink版.Flink中文社区.频道页banner.谢赟辉,靖鑫,也树.8月3日 StarRock X ...
来自: 云产品
RAPIDS加速机器学习
RAPIDS加速<em>机器</em>学习
场景描述 本方案适用于使用RAPIDS加速库+GPU 云服务器来对机器学习任务或者数据科学 任务进行加速的场景。相比CPU,利用 GPU+RAPIDS在某些场景下可以取得非常 明显的加速效果。 解决问题 1.搭建RAPIDS加速机器学习环境 2.使用容器服务Kubernetes版部署 RAPIDS环境 3.使用NAS存储计算数据 产品列表 容器服务Kubernetes版 GPU云服务器 文件存储NAS
2020-01-14 文档状态 外部发布 制作 审阅-文档变更记录 版本编号 日期 作者 审核 说明 V1.0 2019/07/15 敬-创建 V1.1 2019/09/03 筱晖-文档优化 V1.2 2019/12/09 敬-增加概览页 V1.3 2020/01/14 敬-更新架构图 文档版本信息:20200114 I RAPIDS加速机器学习 前言 前言 概述 本文为在阿里云的 GPU实例,...
来自: 最佳实践 | 相关产品:云服务器ECS,文件存储NAS,容器服务 ACK
微服务引擎MSE
微服务引擎 MSE 面向业界注册配置中心、分布式协调、云原生网关、微服务治理和分布式任务调度等主流开源项目,提供商业版服务。
微服务测试提供了微服务的调试、压测、巡检、自动化测试等功能,形成微服务测试一站式解决方案,降低应用测试及质量的成本.31A_【标题】行业实战场景.谢赟辉,靖鑫,也树.流量网关与微服务网关二合一.流量网关与微服务网关二合一.微服务架构下,业务通常采用流量网关+微服务网关的两层架构,前者负责南北向流量调度和安全防护...
来自: 云产品
智能开放搜索 OpenSearch
阿里云智能开放搜索 OpenSearch是阿里自主研发的大规模分布式搜索引擎搭建的一站式智能搜索业务开发平台,内置全链路搜索功能,提供一站式、场景化的行业大数据解决方案。
索引创建自动化,支持多种搜索引擎选型 安全可靠的平台 提升搜索准确率以大幅降低大模型幻觉率,内置绿网安全机制;高性能引擎、搜索工程服务等保障时效性及可靠性 敏捷式开发体验 基于检索增强生成(RAG)等模板生成代码;切换组件化服务选型,便捷调试检索与生成效果 丰富的搜索场景 组件化服务覆盖主流搜索、RAG业务以及...
来自: 云产品
基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测
基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测
本篇最佳实践先创建EMR集群作为数据湖对象,Hive元数据存储在DLF,外表数据存储在OSS。然后使用阿里云数据仓库MaxCompute以创建外部项目的方式与存储在DLF的元数据库映射打通,实现元数据统一。最后通过一个毒蘑菇的训练和预测demo,演示云数仓MaxCompute如何对于存储在EMR数据湖的数据进行加工处理以达到业务预期。
六稻,阿瑟 制作 审阅 扬流 文档变更记录 版本编号 日期 作者 审核 说明 V1.0 2021-02-05 毕役-创建 V1.1 2021-02-07 厉博 孟硕 修改 增加产品特性,更新初始 扬流 V1.2 2024-04-22 六稻,阿瑟 CADT模版 I 文档版本:20240422基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测 目录 目录 文档版本信息.I 法律声明...
来自: 最佳实践 | 相关产品:对象存储 OSS,E-MapReduce,DataWorks,大数据计算服务 MaxCompute,API网关,数据湖构建,云速搭
虚拟桌面架构的高性能体验云部署
虚拟桌面架构的高性能体验云<em>上</em>部署
场景描述 针对自建虚拟化桌面架构迁移阿里云,以及有虚拟化桌面 架构需求上云。包括但不限于: 1.有许可证合规要求,利用自带license快速上云的客户。 2.对数据安全较高要求,需要快速构建虚拟化桌面的客 户。 解决问题 利用云上灵活性和规模化优势,构建云上更加高效、高性 能体验的服务,为客户解决: 1.客户VDI部署的需求,能够更及时的得到满足。 2.解决硬件资源限制,根据业务规模化部署并集中管 控。 3.利用公共云的网络、计算、备份容灾方案、安全防护 等,提供高可靠、高性能、高体验的远程桌面服务。 产品列表 VPC(专有网络) SLB(负载均衡) CEN(云企业网) 专有宿主机 OpenAPI
文档编号 077 文档版本 V1.1 版本日期 2019-12-24 文档状态 外部发布 制作 阿瑟 审阅 何川、翰辰 文档变更记录 版本编号 日期 作者 审核 说明 V1.0 2019/07/12 阿瑟 何川、翰辰 创建 V1.1 2019/12/24 阿瑟 添加首页概览 I 企业上云实践 虚拟桌面架构的高性能体验云部署|前言 前言 概述 本方案针对建虚拟桌面...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,负载均衡 SLB,云企业网,专有宿主机
数据库异地灾备
数据库异地灾备
场景描述 适用于不满足于单地域,对数据可靠性 (RPO)和服务可用性(RTO)要求更高 的,希望防范断电、断网等机房故障,抵 御地震、台风等自然灾害,具备异地容灾 备份恢复能力的客户业务场景。 解决问题 1.实时备份,RPO达到秒级 2.表级恢复,故障恢复时间大大缩短 3.长期归档,自动管理备份生命周期 4.异地灾备,构建数据库灾备中心 产品列表 专有网络VPC 云服务器ECS 弹性公网IP(EIP) 负载均衡SLB 云数据库RDSMySQL 数据库备份服务DBS 对象存储服务OSS 数据湖分析服务DLA 数据管理服务DMS 数据传输服务DTS
文档版本:20220207 40 数据库异地灾备 配置异地热备环境 说明:当源实例或者目标实例为阿里云实例时,此步骤会将 DTS服务器的 IP地址 添加到源实例或者目标实例的白名单中,用于保障 DTS服务器能够正常连接实例。步骤4 配置任务对象,点击 下一步保存任务并预检查。文档版本:20220207 41 数据库异地灾备 配置异地热备...
来自: 最佳实践 | 相关产品:云数据库RDS MySQL 版,对象存储 OSS,数据管理,数据湖分析,数据库备份DBS,云速搭CADT
SLS多云日志采集、处理及分析
SLS多云日志采集、处理及分析
场景描述 从第三方云平台或线下IDC服务器上采集 日志写入到阿里云日志服务,通过日志服务 进行数据分析,帮助提升运维、运营效率, 建立DT 时代海量日志处理能力。 针对未使用其他日志采集服务的用户,推荐 在他云或线下服务器安装logtail采集并使用 Https安全传输;针对已使用其他日志采集 工具并且已有日志服务需要继续服务的情 况,可以通过Log producer SDK写入日志 服务。 解决问题 1.第三方云平台或线下IDC客户需要使用 阿里云日志服务生态的用户。 2.第三方云平台或线下IDC服务器已有完 整日志采集、处理及分析的用户。 产品列表 E-MapReduce 专有网络VPC 云服务器ECS 日志服务LOG DCDN
注:EIP的作用是为了方便绑定 ECS日志服务器演示在日志服务器安装 Logtail客 户端和日志发生,安装完毕以后可以解除 EIP和 ECS日志服务器的绑定 步骤3 在 ECS服务器安装 Logtail以及日志发生 首先绑定创建的 EIP到 ECS服务器,然后按照 3.2节以及 3.5节步骤 1和步骤 2的方 式在 ECS日志服务器安装 Logtail日志...
来自: 最佳实践 | 相关产品:云服务器ECS,日志服务(SLS),NAT网关,E-MapReduce,全站加速 DCDN,云速搭CADT
日志集中审计
云<em>上</em>日志集中审计
场景描述 云上的各类云产品和客户部署的业务系统会产生各类 日志,企业合规及安全运营等都需要在一个地方能 集中的查看和分析日志;目前各云产品日志大部分 都进了sls,但都是产品独立的project,不方便集中 审计;客户的业务系统日志各种形态都有;多云和混 合云的场景,日志也需要能集中审计。 解决问题 1.所有日志集中到SLS一个中心project下。 2.满足等保合规和内部合规需求。 3.满足运维和安全运营需求。 产品列表 日志服务SLS 专有网络VPC 弹性公网IPEIP 负载均衡SLB 云服务器ECS 云数据库RDS 云防火墙CFW
文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 云日志集中审计最佳实践 文档编号 148 文档版本 V1.1 版本日期 2020-06-30 文档状态 发布 制作 洁谦 审阅、宋宇 文档变更记录 版本编号 日期 作者 审核 说明 V1.0 2020-03-02 云滴 敬、宋宇 创建文档 V1.1 2020-06-30 洁谦 更新作者 文档版本:...
来自: 最佳实践 | 相关产品:云服务器ECS,云数据库RDS MySQL 版,负载均衡 SLB,弹性公网IP,日志服务(SLS)
RI和SCU全链路使用实践
RI和SCU全链路使用实践
场景描述 随着云计算的不断发展,更多的企业会使用云计算,且会有越来 越多的企业和用户开始重视云上使用成本。 其中计算和存储是云资源使用的主要服务之一。采用预留实例券 业务架构(RI)和存储容量单位包(SCU)可以帮助客户灵活的节省成本。 本文提供全链路使用实践,帮助客户快速验证云上服务,更合理 的使用RI/SCU。借助覆盖率指标和智能推荐,有效管理云上资 源成本。 用户价值 使用RI 和SCU,可以灵活抵扣相关资源。随时创建释放, 稳态业务资源效率提高。 一份RI 可以抵扣ECS+ACK+EMR+ECI 等服务,跨服务高 度灵活,无需再分开购买。 SCU可以跨可用区抵扣某个地域下所有类型的按量付费云 盘,简化购买与管理复杂度。 RI+SCU 大幅降低按量场景的计算和存储成本。 产品列表 专有网络VPC、容器服务Kubernetes 版ACK 云服务器ECS、预留实例券RI、存储容量单位包SCU
RI和 SCU 全链路使用实践 业务架构 场景描述 随着云计算的不断发展,更多的企业会使用云计 算,且会有越来越多的企业和用户开始重视云 使用成本。其中计算和存储是云资源使用的主要服务之一。采用预留实例券(RI)和存储容量单位包(SCU)可以帮助客户灵活的节省成本。本文提供全链路 使用实践,帮助客户快速验证云服务...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,负载均衡 SLB,容器服务 ACK,存储容量单位包,预留实例券
RAPIDS加速图像搜索
RAPIDS加速图像搜索
场景描述 本方案适用于使用RAPIDS加速平台 +GPU云服务器来对图像搜索任务进行加 速的场景。相比CPU,利用GPU+ RAPIDS在图像搜索场景下可以取得非常 明显的加速效果。 解决问题 1.搭建RAPIDS加速图像搜索环境 2.使用容器服务Kubernetes版部署图 像搜索环境 3.使用NAS存储计算数据 产品列表 容器服务Kubernetes版 GPU云服务器 文件存储NAS
2020-01-14 文档状态 外部发布 制作 审阅 云滴 毕役 文档变更记录 版本编号 日期 作者 审核 说明 V1.0 2019/08/02 敬-创建 V1.1 2019/09/10 筱晖-文档优化 V1.2 2019/12/10 敬-内容更新 V1.3 2020/01/14 敬-更新架构图 I RAPIDS加速图像搜索 前言 前言 概述 本文讲述在阿里云的 GPU实例采用 RAPIDS加速...
来自: 最佳实践 | 相关产品:云服务器ECS,文件存储NAS,容器服务 ACK
混合云数据库统一管理
混合云数据库统一管理
本最佳实践描述在混合云场景下,用户利用数据库网关将IDC自建数据库和云上RDS实例统一管理。通过DMS管理云上RDS实例和IDC自建数据库,并通过DTS实现IDC数据库和云上RDS的数据同步, DBS将数据备份到云上
本最佳实践的网络规划方案如下:类型 地域 IP网段 连接方式 VPC 北京 10.0.0.0/24 模拟使用阿里云 RDS实例 VPC 杭州 172.16.0.0/24 模拟 IDC机房建 MySQL VPC 上海 192.168.0.0/16 模拟云上自建 PgSQL 其中北京模拟云 RDS服务,杭州模拟模拟线下 IDC机房建数据库,上海模拟云 上自建数据库实例。本最佳实践通过 DMS,...
来自: 最佳实践 | 相关产品:数据传输,数据管理
大数据近实时数据投递MaxCompute
大数据近实时数据投递MaxCompute
本文介绍离线大数据场景使MaxCompute构建云 上近实时数仓,打通云下数据上云链路,解决数据复杂类型支持和动态分区问题,满足高级数据处理需求的最佳实践。 l混合云环境下,现有业务系统零改造,打通数据上云链路。 l使用UDF实现复杂数据类型转换和数据动态分区。 l使用DataWorks配置周期调度业务流程,数据自动入仓。 l借助MaxCompute优化计算引擎,实现降本增效。 产品列表 云服务器ECS 专有网络VPC 访问控制RAM 数据总线DataHub E-MapReduceEMR DataWorks 大数据计算服务MaxCompute
使用 DataWorks配置周期调度业务流程,数据 产品列表 入仓。借助 MaxCompute优化计算引擎,实现降本增 云服务器 ECS 效。云消息队列 Kafka 最佳实践频道 阿里云最佳实践分享群 E-MapReduce EMR DataWorks 大数据计算服务 MaxCompute 云速搭 CADT 文档模板(手册名称)/Error!Use the Home tab to apply 云服务器 ECS...
来自: 最佳实践 | 相关产品:块存储,专有网络 VPC,云服务器ECS,访问控制,E-MapReduce,DataWorks,大数据计算服务 MaxCompute,数据总线,云速搭CADT
< 1 2 >
共有2页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用