大模型RAG对话系统部署
大模型RAG对话系统部署
大模型RAG对话系统最佳实践,旨在指引AI开发人员如何有效地结合LLM大语言模型的推理能力和外部知识库检索增强技术,从而显著提升对话系统的性能,使其能更加灵活地返回用户查询的内容。适用于问答、摘要生成和其他依赖外部知识的自然语言处理任务。通过该实践,您可以掌握构建一个大模型RAG对话系统的完整开发链路。
这里需要注意,如果通过 CADT创建的 VPC、vswitch中人工通过其他方式添加了资 源,如通过控制台或者 API等购买了 ECS,释放时因为这些非 CADT部署的资源会 依赖 VSW和 VPC,会出现释放失败。遇到这类问题请先去控制台人工进行资源清理 后,在 CADT中再次释放资源即可。步骤1 在 CADT页面中,打开资源清单,点击释放全部资源...
来自: 最佳实践 相关产品:Elasticsearch,机器学习PAI-EAS,机器学习平台,云速搭
通过云速搭创建具有IPv6地址的ECS
通过云速搭创建具有IPv6地址的ECS
随着国家推进 IPv6 规模部署行动计划的贯彻落实,以及工业互联网、物联网、5G 等前沿技术的快速发展,各行业用户 IPv6 改造诉求愈发强烈。 阿里云 IPv6 在互联网、金融、政企、传媒等各行业,提供了丰富的产品选择和可靠安全的服务体验。本文针对希望部署具有IPv6地址的ECS场景,提供一键部署模版,进行部署和效果验证。 应用场景 l 针对具备IPv6地址的ECS提供可视化架构 l 支持方案的批量部署和效果验证
应用场景 针对具备 IPv6地址的 ECS提供可视化架构 支持方案的批量部署和效果验证 方案优势 1.可视化完成整体方案设计交付,快速环境搭建 2.相关配置进行了初始化设置,形成模版化 3.一键计算成本,一键部署 产品列表 云服务器ECS 专有网络VPC 最佳实践频道 阿里云最佳实践分享群 IPv6网关 IPv6公网带宽 EIP弹性公网 IP 云速...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,弹性公网IP,NAT网关
实人认证
阿里云实人认证是为企业或个人身份提供相关信息核验服务的身份验证平台,采用活体检测、人脸识别、权威信息核验等技术,为客户提供安全、便捷的身份认证服务。
支持实名身份验证、真人活体检测、人证一致性验证、证件信息识别等基本功能,支持多种客户端集成、高达99.95%的可靠性,有效识别屏幕翻拍、打印面具、摄像头劫持注入攻击等人脸伪造风险,广泛应用于直播、社交、网约车出行、银行、保险等行业实名制场景,助您精准识别用户真实身份,构建身份安全防线。实人认证数字身份认证...
来自: 云产品
系统运维管理 OOS
阿里云系统运维管理(简称OOS)提供的云上自动化运维服务,通过执行模板来完成任务的自动化运行,可以使用OOS管理ECS、RDS、SLB、VPC等云产品,提升日常运维管理效率
应用更新、代码发布等自动化集成通过API调用运维编排模板执行,与客户自有运维平台、云服务接口实现自动化集成。相关产品系统运维管理OOS本产品云服务器ECS云助手在线咨询批量管理实例资源按照不同用途对实例进行分类标签管理,并进行批量设置、部署、运维等操作。分类管理实例资源批量对ECS实例进行分类标签资源管理,...
来自: 云产品
对象存储 OSS
阿里云对象存储 OSS(Object Storage Service)是一款海量、安全、低成本、高可靠的云备份服务,提供最高可达 99.995 % 的服务可用性。多种存储类型供选择,全面优化存储成本。
立即购买免费试用快捷入口控制台文档APISDK价格计算器产品定价常用工具05:03快速了解对象存储 OSS热门商品产品动态内容甄选询价中.立即购买询价中.立即购买询价中.立即购买存储降价对象存储价格下调,最高 55%2024.02.29精选特惠“存”享优惠,新老用户同享,新购、续费同价2023.11.01新功能OSS Bucket 存储冗余类型转换...
来自: 云产品
云数据库 SelectDB 版
阿里云数据库 SelectDB 是现代化实时数据仓库 SelectDB 在阿里云上的全托管服务,内核基于业界领先的开源分析型数据库 Apache Doris 研发,由阿里云和飞轮科技联合打造。阿里云数据库 SelectDB 聚焦于满足企业级大数据分析需求,广泛应用于实时报表分析、即席多维分析、日志检索分析、数据联邦与查询加速等场景,致力于为客户提供极致性能、简单易用的数据分析服务。
立即购买管理控制台快捷入口控制台文档APISDK价格计算器产品定价热门商品产品动态内容甄选最新动态阿里云数据库 SelectDB 版支持云原生存算分离架构2024.05.21最新动态阿里云 SelectDB 携手 DTS,一键实现 TP 数据实时入仓2024.03.18最新功能基于Apache Doris 2.0开发的阿里云数据库 SelectDB 3.0版发布2023.10.12开发参考...
来自: 云产品
基于HBR云上统一备份
基于HBR云上统一备份
场景描述 混合云备份(简称HBR)是一种简单易用且高性价 比的在线备份服务,可以为阿里云ECS,NAS,OSS 以及自建机房内的各类数据提供安全,高效的保护。 本文介绍如何通过HBR对云上数据进行统一备份管 理。 解决问题 1.备份阿里云云上数据。 2.备份数据中心数据。 适用云资源 ECS文件系统 NAS文件 OSS文件 ECS上自建的MySQL、Oracle、SQLServer数据库 ESC上自建的SAPHANA数据库 产品列表 1.HBR备份服务 2.云服务器ECS 3.文件系统NAS 4.对象存储OSS 云上统一备份 云下统一备份 上云备份 备份上云
兼容 POSIX 文件接口,可支持数千台计算节点共享访问,可 以挂载到弹性计算 ECS、神龙裸金属、容器服务 ACK、弹性容器 ECI、批量计 算 BCS、高性能计算 EHPC,AI训练 PAI等计算业务上提供高性能的共享存 储,用户无需修改应用程序,即可无缝迁移业务系统上云。更多信息,请参见:https://www.aliyun.com/product/nas 混合云...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,文件存储NAS,混合云备份,云速搭
跨云迁移单写双读过渡架构
跨云迁移单写双读过渡架构
概述 在搬站场景下,涉及迁移跨度较长,在过渡阶段客户需要跨云访问,如何保障数据链路的高可用尤为关键,采用专线和公网双备的方案保障数据传输的高可用,也降低双专线的迁移成本。 适用场景 数据迁移链路的高可用 跨云迁移过渡期架构 读写分类架构设计 技术架构 本实践方案基于如下图所示的技术架构和主要流程编写操作步骤: 方案优势 在迁移时间持续较长的情况下,使用单写双读架构降低业务改造成本。 使用数据库网关做专线和公网互备。 流量逐渐灰度验证,保障迁移平滑过渡。 安全:原生的多租户系统,以项目进行隔离,所有计算任务在安全沙箱中运行。
通过数据库网关,用户可以使用应用程序或云服务访问并管理本地 IDC或 其他云厂商的数据库。详见:https://www.aliyun.com/product/dg 云数据库 RDS MySQL版:MySQL 是全球最受欢迎的开源数据库之一,作为开 源软件组合 LAMP(Linux+Apache+MySQL+Perl/PHP/Python)中的重要一 环,广泛应用于各类应用场景。文档版本:...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,数据传输,性能测试 PTS,云企业网,云速搭CADT
数据迁移上云
数据迁移上云
随着越来越多的企业选择将业务系统上云,各种类型的数据如何便捷、平滑的迁移上 云,成了用户上云较为关注的点;业务上云后,因为业务或者其他方面调整等因素, 也存在如跨区域,跨账号等数据迁移的场景。针对以上需求,阿里云上提供了较为丰 富的工具(如ossimport)、服务(在线迁移服务),旨在能够帮助客户便捷进行数据迁 移。 本文通过云架构设计工具CADT来快速创建云上基础资源,并以杭州区域来模拟线 下IDC(或友商),深圳区域模拟阿里云云上资源。通过云上的工具命令、服务来提 供常见数据迁移场景的最佳实践。
广泛应用于容器存储、大数据分析、Web 服务和内容管 理、应用程序开发和测试、媒体和娱乐工作流程、数据库备份。支持冷热数据分级 存储。详见:https://www.aliyun.com/product/nas 云服务器 ECS:云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的 计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,文件存储NAS,云企业网,云速搭CADT
Serverless 应用引擎SAE
Serverless 应用引擎 SAE(Serverless App Engine)是一款零代码改造、极简易用、自适应弹性的应用全托管平台。SAE 让您免运维 IaaS和 K8s,秒级完成从源代码/代码包/ Docker 镜像部署任何语言的在线应用(如 Web /微服务 /Job任务)到 SAE,并自动伸缩实例按使用量计费,开箱即用日志、监控、负载均衡等配套能力。
同时也提供应用模板、CLI 命令行工具、组件库、成本管家等能力,帮助开发者们快速高效的交付应用程序.支持 Spring Cloud、Dubbo 零代码改造迁移至SAE。提供服务注册&发现、环境隔离、配置管理、限流降级、应用无损上下线、服务鉴权、全链路灰度等能力.百毫秒级弹性伸缩,根据流量自适应调整应用实例;支持白屏化配置多种...
来自: 云产品
自建Hive数仓迁移到阿里云EMR
自建Hive数仓迁移到阿里云EMR
场景描述 客户在IDC或者公有云环境自建Hadoop集群构 建数据仓库和分析系统,购买阿里云EMR集群之 后,涉及到将数据仓库和Hive元数据的数据库迁 移上云。目前主流Hive数据仓库迁移场景为1.x 版本迁移到阿里云EMR(Hive2.x版本),涉及到 数据订正更新步骤。 解决的问题 Hive数据仓库的数据迁移方案 Hive元数据库的迁移方案 Hive跨版本迁移后的数据订正 产品列表 E-MapReduce,VPC,ECS,OSS,VPN网关。
验证 EMR集群的 Hive服务功能.36 附录:Hive1.2升级到 Hive2.3部分注意事项.39 服务的改动.39 语法的兼容性.39 新增关键字和保留字(作为表名或列名需要加引号).39 行为变化.39 API变化(使使用 Hive Server或 Hive Meta Service).40 配置参数的默认值变化.40 移除的特性和参考.40 其他.40 文档版本:20210721 V 自建Hive...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,VPN网关,E-MapReduce,云速搭
基于DataWorks的大数据一站式开发及数据治理
基于DataWorks的大数据一站式开发及数据治理
概述 基于Dataworks做大数据一站式开发,包含数据实时采集到kafka通过实时计算对数据进行ETL写入HDFS,使用Hive进行数据分析。通过Dataworks进行数据治理,数据地图查看数据信息和血缘关系,数据质量监控异常和报警。 适用场景  日志采集、处理及分析  日志使用Flink实时写入HDFS  日志数据实时ETL  日志HIVE分析  基于dataworks一站式开发  数据治理 方案优势  大数据一站式开发,完善的数据治理能力。  性能优越:高吞吐,高扩展性。  安全稳定:Exactly-Once,故障自动恢复,资源隔离。  简单易用:SQL语言,在线开发,全面支持UDX。  功能强大:支持SQL进行实时及离线数据清洗、数据分析、数据同步、异构数据源计算等Data Lake相关功能 ,以及各种流式及静态数据源关联查询。
支持 Datastream API 作业开发,提供了批流统一的 Flink SQL,简 化 BI 场景下的开发;可与用户已使用的大数据组件无缝对接,更多增值特性助力 企业实时化转型。详情请查看 www.aliyun.com/product/bigdata/product/sc EMR:阿里云 E-MapReduce(EMR)是构建在阿里云云服务器 ECS 上的开源 Hadoop、Spark、HBase、Hive、Flink...
来自: 最佳实践 | 相关产品:块存储,云服务器ECS,E-MapReduce,DataWorks,实时计算,云速搭
自建K8S迁移镜像、应用至阿里云ACK最佳实践
自建K8S迁移镜像、<em>应用</em>至阿里云ACK最佳实践
云原生技术K8S以其易管控,自动化操作,自修复等特点充分满足了企业的需求,越来越多的企业都加入容器化这个队伍中。但随着技术的更新迭代,自建的K8S相关的容器镜像服务、集群管理、稳定性保障也让企业IT人员感觉到压力,所以上云成了一些企业的选择,将底层的IAAS基础设施和K8S的基础PASS能力交给阿里云来管理,企业本身抽出更多精力聚焦业务的创新。针对以上需求通过使用image-syncer、velero来介绍如何平滑、便捷的迁移自建的K8S镜像和应用至阿里云容器镜像服务和ACK。 针对以上需求场景通过使用image-syncer、velero来介绍如何平滑、便捷的迁移自建的K8S镜像和应用至阿里云容器镜像服务和ACK;本文通过使用河源的ECS自建K8S集群和Harbor镜像仓库来模拟IDC环境
存储服务>对象存储 OSS 拖拽至右 侧面版,后双击 ECS和 OSS图标进行资源配置 5 文档版本:20200525 自建 K8S迁移镜像、应用至阿里云 ACK 完成所有资源的配置后,点击右上角“保存”按钮,然后选择部署>“部署验证”。6 文档版本:20200525 自建 K8S迁移镜像、应用至阿里云 ACK 点击“下一步 价格清单”,可看到对应的资源...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,容器服务 ACK,容器镜像服务 ACR
基于k8s多集群隔离环境下的devops实现
基于k8s多集群隔离环境下的devops实现
场景描述 DevOps是一组过程、方法与系统 的统称,并通过工具实现自动化部署, 确保部署任务的可重复性、减少部署出 错的可能性。随着微服务、中台架构的 兴起,devops重要性日益显著。 本方案使用两个独立的k8s集群: 用户已有的k8s模拟测试,ack集群模 拟生产环境,保证环境的高度隔离,互 不影响。通过gitlab+Jenkins的黄金组 合,实现容器应用的自动化构建和持续 部署,提高迭代效率。 解决问题 1.微服务应用的CI/CD。 2.测试和生产环境的高度隔离。 3.自动化的测试与部署。 4.现有CI对接ACK。 产品列表 专有网络VPC 容器服务ACK 容器镜像服务ACR 弹性公网IP 负载均衡SLB
文档版本:20220121 5 基于 K8S多集群隔离环境下的 DevOps实现 准备工作 步骤6 按界面提示依次完成资源验证应用询价并下单创建资源。文档版本:20220121 6 基于 K8S多集群隔离环境下的 DevOps实现 准备工作 文档版本:20220121 7 基于 K8S多集群隔离环境下的 DevOps实现 准备工作 步骤7 等待资源创建完成。说明:如果采用...
来自: 最佳实践 | 相关产品:专有网络 VPC,弹性公网IP,容器服务 ACK,容器镜像服务 ACR
函数计算实现弹性音视频处理系统
函数计算实现弹性音视频处理系统
场景描述 本示例通过函数计算部署一个高弹性高可用的 音视频处理系统。尤其适合视频网站使用,每天 有大量的上传视频,需要及时转码处理以适配各 种终端及网络条件,要求短时间内准备大量的计 算资源进行大规模并行转码处理,同时希望基于 FFmpeg自建的转码服务能简单迁移。 解决问题 1.如何使用函数计算部署音视频处理系统。 2.如何进行系统的压测。 产品列表 函数计算服务 文件存储NAS 对象存储OSS 函数工作流FnF 日志服务SLS
性能压测 验证功能正常后,现在需要考虑的问题是如何评价这套能够支撑多大的业务量,下面 文档版本:20201228(发布日期)39 Function Compute 实现弹性音视频处理系统 应用测试 使用压测脚本进行压测。注意:在压测之前,为展示 FC的实际能力,提工单将并发申请提高到 350,再进行以 下步骤的压测。步骤1 下载测试脚本。...
来自: 最佳实践 | 相关产品:专有网络 VPC,对象存储 OSS,文件存储NAS,日志服务(SLS),Serverless 工作流
基于弹性计算的AI推理
基于弹性计算的AI推理
场景描述 本方案适用于使用GPU进行AI在线推理的场 景。在推理之前,模型已经训练完成。例如,刷脸 支付中,我们在刷脸的时候,就是推理的一个过 程。再比如图像分类,目标检测,语音识别,语 义分析等返回结果的过程。 解决问题 使用GPU云服务器搭建推理环境 使用容器服务Kubernetes版构建推理 环境 使用NAS存储模型数据 使用飞天AI加速推理工具加速推理 产品列表 GPU云服务器 容器服务Kubernetes版 NAS共享存储
Perseus Inference Client提供客户端 API接口应用程序调用这些接口去请求 Perseus Model Server的推理服务。Perseus Inference目前提供容器的部署方式,它依赖于 CUDA10、CUDNN7和 TensorRT5,用户需要在 NVIDIA GPU 机器上安装 docker 和 nvidia-docker 运行环境以满足 Perseus Inference容器的运行需求。阿里云提供 ...
来自: 最佳实践 | 相关产品:云服务器ECS,文件存储NAS,容器服务 ACK
数据库异地灾备
数据库异地灾备
场景描述 适用于不满足于单地域,对数据可靠性 (RPO)和服务可用性(RTO)要求更高 的,希望防范断电、断网等机房故障,抵 御地震、台风等自然灾害,具备异地容灾 备份恢复能力的客户业务场景。 解决问题 1.实时备份,RPO达到秒级 2.表级恢复,故障恢复时间大大缩短 3.长期归档,自动管理备份生命周期 4.异地灾备,构建数据库灾备中心 产品列表 专有网络VPC 云服务器ECS 弹性公网IP(EIP) 负载均衡SLB 云数据库RDSMySQL 数据库备份服务DBS 对象存储服务OSS 数据湖分析服务DLA 数据管理服务DMS 数据传输服务DTS
具有与平台无关的 RESTful API接口,您可以在 任何应用、任何时间、任何地点存储和访问任意类型的数据。详见:https://www.aliyun.com/product/oss DLA:数据湖分析服务(Data Lake Analytics,简称 DLA)。无服务器(Serverless)化的云上交互式查询分析服务。无需 ETL,就可通过此服务在云上通过标准 JDBC 直接对阿里云 ...
来自: 最佳实践 | 相关产品:云数据库RDS MySQL 版,对象存储 OSS,数据管理,数据湖分析,数据库备份DBS,云速搭CADT
基于Flink的资讯场景实时数仓
基于Flink的资讯场景实时数仓
场景描述 本实践针对资讯聚合类业务场景,Step by Step介绍 如何搭建实时数仓。 解决问题 1.如何搭建实时数仓。 2.通过实时计算Flink实现实时ETL和数据流。 3.通过实时计算Flink实现实时数据分析。 4.通过实时计算Flink实现事件触发。 产品列表 实时计算 专有网络VPC 云数据库RDSMySQL版 分析型数据库MySQL版 消息队列Kafka 对象存储OSS NAT网关 DataV数据可视化
实时计算 Flink独享模式可开放 UDF/UDAF/UDTF接口,为用户提供更强大的数 据处理能力。文档版本:20220223(发布日期)1 基于 Flink的资讯场景实时数仓 前置条件 前置条件 在进行本文操作前,您需要完成以下准备工作:注册阿里云账号,并完成实名认证。您可以登录阿里云控制台,并前往实名认证页 面(account.console....
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,NAT网关,云原生数据仓库AnalyticDB My,云速搭CADT
RI和SCU全链路使用实践
RI和SCU全链路使用实践
场景描述 随着云计算的不断发展,更多的企业会使用云计算,且会有越来 越多的企业和用户开始重视云上使用成本。 其中计算和存储是云资源使用的主要服务之一。采用预留实例券 业务架构(RI)和存储容量单位包(SCU)可以帮助客户灵活的节省成本。 本文提供全链路使用实践,帮助客户快速验证云上服务,更合理 的使用RI/SCU。借助覆盖率指标和智能推荐,有效管理云上资 源成本。 用户价值 使用RI 和SCU,可以灵活抵扣相关资源。随时创建释放, 稳态业务资源效率提高。 一份RI 可以抵扣ECS+ACK+EMR+ECI 等服务,跨服务高 度灵活,无需再分开购买。 SCU可以跨可用区抵扣某个地域下所有类型的按量付费云 盘,简化购买与管理复杂度。 RI+SCU 大幅降低按量场景的计算和存储成本。 产品列表 专有网络VPC、容器服务Kubernetes 版ACK 云服务器ECS、预留实例券RI、存储容量单位包SCU
文档版本:20200608(发布日期)13 RI和SCU全链路使用实践 RI/SCU购买验证 服务状态,单击 gateway后面的外部端点,稍等几分钟后,打开应用如下:文档版本:20200608(发布日期)14 RI和SCU全链路使用实践 RI/SCU购买验证 4.2.PiggyMetrics介绍 PiggyMetrics是 github上的一个 SpingCloud应用项目,包含了完整的源代码及...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,负载均衡 SLB,容器服务 ACK,存储容量单位包,预留实例券
通过私网访问云服务
通过私网访问云服务
使用PrivateLink就可以通过私网访问其他VPC提供的服务,无需创建NAT网关或EIP等公网出口,更好的保障安全性和网络质量。支持同账号和跨账号的VPC间私网访问。另外 私网调用阿里云OpenAPI也有两种可选方案
以上,ECS A 已安装好 Python SDK 且没有访问公网的能力,下一步验证私网访问 API。2.3.SDK调用 2.3.1.方法一:request_network 查询核心库下的 request对象,字段 request_network的默认取值是 public,表示通过 公网访问 API。文档版本:20210325 15 通过私网访问云服务最佳实践 通过 VPC接入地址调用API 通过修改子类 ...
来自: 最佳实践 | 相关产品:云解析 PrivateZone,私网连接
< 1 2 3 4 ... 9 >
共有9页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用