自建Hive数据仓库跨版本迁移到阿里云Databricks数据洞察
场景描述 客户在IDC或者公有云环境自建Hadoop集群构建数据仓库和分析系统，购买阿里云Databricks数据洞察集群之后，涉及到数仓数据和元数据的迁移以及Hive版本的订正更新。 方案优势 1. 全托管Spark集群免运维，节省人力成本。 2. Databricks数据洞察与阿里云其他产品（OSS、RDS、MaxCompute、EMR）进行深度整合，支持以这些产品为数据源的输入和输出。 3. 使用Databricks Runtime商业版引擎相比开源Spark性能有3-5倍的提升。 解决问题 1. Hive数仓数据迁移OSS方案。 2. Hive元数据库迁移阿里云RDS方案。 3. Hive跨版本迁移到Databricks数据洞察使用Delta表查询以提高查询效率。
自建 Hive数据仓库跨版本迁移到阿里云 Databricks数据洞察 业务架构 场景描述 客户在 IDC或者公有云环境自建 Hadoop集群 构建数据仓库和分析系统，购买阿里云 Databricks数据洞察集群之后，涉及到数仓数 据和元数据的迁移以及 Hive版本的订正更新。方案优势 1.全托管 Spark集群免运维，节省人力成 本。2.Databricks数据洞察...
混合云使用Ali-Perseus
场景描述 本文介绍了混合云场景中，自建 Kubernetes服务，线下集群+云上弹性扩 展阿里云GPU服务实例+飞天AI加速工 具，并采用阿里云CPFS存储，运行AI训 练+AI推理作业的操作步骤。 解决问题 1.利用云企业网打通两个地域的VPC， 自建Kubernetes集群 2.使用飞天AI加速工具运行训练和推理 作业 3.使用CPFS存储共享数据 产品列表 云企业网CEN GPU云服务器 并行文件存储CPFS 文件存储NAS
类别 配置项 说明 基础配置 计费方式 按量付费 地域 华东 2（上海）可用区 G 实例 架构：x86计算 分类：通用型 19 混合云使用飞天AI加速工具 创建 ECS实例 规格：通用型 g6 ecs.g6.large(2 vCPU,8 GiB)购买实例数量：1 台 镜像 公共镜像 CentOS 7.6 64位 存储 系统盘 高效云盘 120 GiB 说明：建议系统盘至少 120GB。...
RAPIDS加速图像搜索
场景描述 本方案适用于使用RAPIDS加速平台 +GPU云服务器来对图像搜索任务进行加 速的场景。相比CPU，利用GPU+ RAPIDS在图像搜索场景下可以取得非常 明显的加速效果。 解决问题 1.搭建RAPIDS加速图像搜索环境 2.使用容器服务Kubernetes版部署图 像搜索环境 3.使用NAS存储计算数据 产品列表 容器服务Kubernetes版 GPU云服务器 文件存储NAS
权限组 VPC默认权限组（全部允许）44 RAPIDS加速图像搜索 使用容器服务 ACK部署 RAPIDS环境 步骤7 单击文件系统 ID，进入文件系统详情页面。45 RAPIDS加速图像搜索 使用容器服务 ACK部署 RAPIDS环境 6.4.登录集群并绑定 NAS实例 步骤1 登录容器服务-Kubernets控制台。步骤2 单击集群 ack-rapids操作列下的管理。步骤3 可...
大模型RAG对话系统部署
大模型RAG对话系统最佳实践，旨在指引AI开发人员如何有效地结合LLM大语言模型的推理能力和外部知识库检索增强技术，从而显著提升对话系统的性能，使其能更加灵活地返回用户查询的内容。适用于问答、摘要生成和其他依赖外部知识的自然语言处理任务。通过该实践，您可以掌握构建一个大模型RAG对话系统的完整开发链路。
步骤6 点击查看 Web应用 文档版本：20240131 36 大模型 RAG对话系统部署最佳实践 RAG对话系统部署 步骤7 在 RAG服务 WebUI界面的 Settings选项卡中，配置本系统的参数，并测试连接是否 正常，具体参数配置详情如下：Emebdding Model：支持选择 5种 embedding model和对应的维度（Emebdding Dimension）。推荐使用 SGPT-125M...
基于云速搭CADT快速构建药物筛选批量计算环境-serverless版
本方案基于云速搭 CADT提供一个快速构建云上Serverless版HPC批量计算环境的模板，针对生物制药领域的药物筛选场景，提供开箱即用的整套解决方案工具包，整个云上环境仅需1个小时即可完成自动化部署搭建。
产品服务开通.5 3.2.ECS密钥创建.6 3.3.CADT模板配置.7 3.4.CADT一键部署应用.12 3.5.环境初始化.15 3.5.1.ECS ram role创建.15 3.5.2.初始化脚本执行.19 3.5.3.acr镜像仓库创建.20 3.5.4.环境变量设置.22 3.5.5.容器镜像上传.24 3.5.6.创建用户.26 3.6.安全合规相关配置（可选）.27 3.6.1.操作审计配置.27 3.6.2.云防火墙...
系统运维管理 OOS
阿里云系统运维管理（简称OOS）提供的云上自动化运维服务，通过执行模板来完成任务的自动化运行，可以使用OOS管理ECS、RDS、SLB、VPC等云产品，提升日常运维管理效率
分类管理实例资源批量对ECS实例进行分类标签资源管理，标签可按照OSType、AppVersion、Env等不同用途进行分类批量操作的风险控制通过运维编排分批执行云助手命令，验证内容符合预期后再进行后续批次相关产品系统运维管理OOS本产品云服务器ECS云助手在线咨询管理抢占式实例抢占式实例适用于无状态的应用场景，比如可弹性伸缩...
来自：
云产品
CentOS到Alinux操作系统迁移
2020年12月08日，CentOS官方宣布了停止维护CentOS Linux的计划，操作系统迁移解决方案为企业提供ECS实例运行的操作系统EOL（生命周期结束）后的替换或升级服务。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云备案控制台CentOS到Alinux操作系统迁移方案介绍方案优势应用场景方案部署方案权益CentOS到Alinux操作系统迁移2020年12月08日，CentOS官方宣布了停止维护CentOS Linux的计划，并推出了CentOS Stream项目。操作系统停止维护会带来一系列安全的影响，...
来自：
解决方案
云基础产品与基础设施
云基础产品与基础设施作为阿里云产品六大版块之一，主要包含弹性计算、存储、网络、安全、云原生应用平台以及无影和基础设施类产品，向客户提供高度自动化的标准化产品对网络功能、计算机（虚拟或专用硬件）和数据存储空间进行访问，同时支持灵活扩展，可以直接使用自助服务界面。
查看阿里云所有产品.阿里云提供高度自动化的标准化产品对网络功能、计算机（虚拟或专用硬件）和数据存储空间进行访问，同时可支持灵活扩展，客户可以直接使用自助服务界面，包括基于网页的用户界面和API接口，对 IT 资源进行轻松的管理控制。云基础产品与基础设施主要包含弹性计算、存储、网络、安全、云原生应用平台以及...
来自：
云产品
大数据系统基准性能测试最佳实践
本方案适用于在阿里云上进行大数据基准性能测试的场景，包括 Teragen和Terasort测试，TestDFSIO测试。本文采用CADT工具结合阿里云的E-MapReduce服务快速构建测试集群，并提供了Teragen和Terasort测试，TestDFSIO测试的测试脚本，便于迅速开展测试。
大数据系统基准性能测试 最佳实践 部署架构图 场景描述 本方案适用于大数据系统基准性能测 试的场景，这里以 Terasort&Teragen 测试，以及 TestDFSIO测试，来衡量 大数据系统的基准能力。解决问题 1.使用 CADT快速构建大数据系统 测试环境 2.进行 Terasort&Teragen 3.进行 TestDFSIO测试 产品列表 EMR 云服务器 ECS 云速搭 ...
Function Compute搭建前端CICD系统
场景描述 传统动静不分离的产品架构，随着访问量在增 长，性能会成为瓶颈。在这种情况下，用户可以 通过利用OSS和CDN对网站进行架构优化， 做到网站文件的动静分离，提升用户访问体验， 实现成本可控。本方案使用函数计算监听前端代 码库提交的分支变更，上传分支文件至OSS，通 过CDN进行前端资源加速。 方案优势 1.面向serverless：无需购买服务器 2.免运维：无需部署配置Jenkins 3.提供日志查询、性能监控和报警等功能 4.一站式：事件驱动方式触发响应 5.费用极低：按需付费 产品列表 专有网络VPC 对象存储OSS 日志服务SLS 函数计算 CDN
Function Compute计算搭建前端 CICD系统最佳实践 业务架构图 场景描述 传统动静不分离的产品架构，随着访问量在增 长，性能会成为瓶颈。在这种情况下，用户可 以通过利用 OSS和 CDN对网站进行架构优 化，做到网站文件的动静分离，提升用户访问 体验，实现成本可控。本方案使用 Function Compute监听前端代码 库提交的分支...
密钥管理服务KMS
阿里云密钥管理服务KMS使用国家密码管理局检测认证的硬件加密机，提供安全合规的密钥托管和云数据加密服务，助您全面升级云数据安全防护能力。产品为蚂蚁金服提供安全合规的密钥管理服务，保障全球金融交易安全。
密钥产品使用实践.支持阿里云80+云产品包含ECS、RDS、OSS等.落盘/透明.实时访问-云产品调用.不限制.否.是.遵循各个云产品.免费.¥ 0.0元/月 免费.云产品落盘/透明加密.支持文件、数据字段、证书链等加密.应用加密.实时访问/缓存访问.十万+QPS.是.JAVA、Go、PHP、Python等.是.QPS、密钥数量、VPC等.数据字段加密.支持AK/SK、...
来自：
云产品
Function Compute构建高弹性大数据采集系统
当前互联网很多场景都存在需要将大量的数据信息采集起来然后传输到后端的各类系统服务中，对数据进行处理、分析，形成业务闭环。比如游戏行业中的游戏发行、游戏运营，产互行业中的数字营销，物联网、车联网行业中的硬件、车辆信息上报等等。这些场景普遍存在数据采集量大、数据传输需要稳定且吞吐量大的特点，给整个数据采集传输系统带来很大的挑战。在这个场景中，有三个关键的环节，数据采集、数据传输、数据处理。该最佳实践主要涉
性能压测.51 文档版本：20210806（发布日期）1 Function Compute构建高弹性大数据采集系统 最佳实践概述 最佳实践概述 概述 当前互联网很多场景都存在需要将大量的数据信息采集起来然后传输到后端的各类系 统服务中，对数据进行处理、分析，形成业务闭环。比如游戏行业中的游戏发行、游 戏运营，产互行业中的数字营销，...
云上高并发系统改造
场景描述 随着业务的发展，系统并发压力越来越大，如何 进行系统改造以满足高并发场景的业务需求成 为了一个技术难题。本实践抽象于客户的实际场 景，提供高并发下系统改造的理论指导和部分实 操演示。主要适用于以下场景： 1.系统并发压力大，需要进行系统应用改造。 2.数据层并发压力大，需进行分库分表改造。 3.数据库数据量巨大，亟待分库分表解决查询 和写入瓶颈的场景。 方案优势/解决问题 1.在水平扩展阶段，我们除了通过SLB做负载 均衡外，我们可以通过SLB下挂nginx的方 式，增加负载均衡侧的可扩展性 2.在数据库拆分阶段，在做好数据规划后，我 们借助DTS进行数据迁移，通过DRDS将 RDS MySQL的数据拆分到多个分库和分 表中。 产品列表 专用网络VPC 负载均衡SLB 云服务器ECS 数据库RDSMySQL 数据传输服务DTS PrivateZone 分布式关系型数据库DRDS
尽可能避免跨库查询：关联查询的数据尽量分散到同一个分片中，跨库查询对系 统性能损耗很大。避免跨分表联表查询的方式有：a)剥离出高频访问的表，与核心表 1:1关系的，进行反范式设计，将核心表加 宽 b)如果与核心表是 N：1关系的，将高频访问字段冗余到核心表中 c)低频访问数据，业务功能设计上，避免一页展示大而全，...
云速搭部署 NAS 文件系统
本实践通过云速搭构建一个 NAS，并将 NAS 文件系统挂载到 ECS 的目录上。
已开通以下服务：ￚ 专有网络 VPC ￚ 云速搭 CADT ￚ 云服务器 ECS ￚ 文件存储 NAS 文档版本：20211027 2 云速搭部署 NAS文件系统 产品介绍 产品介绍 云速搭 CADT：是一款为上云应用提供自助式云架构管理的产品，显著地降低应 用云上管理的难度和时间成本。本产品提供丰富的预制应用架构模板，同时也支 持自助拖拽方式定义...
阿里云数据库快速搭建疫情分析系统最佳实践
疫情态势分析和防控任务迫在眉睫，如果快速搭建高效的疫情态势分析系统是众多部门和单位的难题，阿里云polardb for PG+Ganos解决方案可在极短时间内完成分析系统搭建，有效助力疫情防。 方案优势： 1、性能优越：Ganos作为自研的时空数据库引擎，相比postgis性能更优秀。 2、安全稳定：故障自动切换自愈，资源隔离，多副本存储。 3、简单易用：开箱即用，兼容postgresql，打通quickbi快速搭建数据分析展示。 4、功能强大：相比postgis在时空模型上做了较多扩充，支持几何模型，栅格模型，网络模型，时空轨迹模型，点云模型，拓扑网络模型。
存储资源规划.45 文档版本：20210725 IV 阿里云数据库快速搭建疫情分析系统最佳实践 最佳实践概述 最佳实践概述 概述 疫情态势分析和防控任务迫在眉睫，如果快速搭建高效的疫情态势分析系统是众多部 门和单位的难题，阿里云 polardb for PG+Ganos解决方案可在极短时间内完成分析系 统搭建，有效助力疫情防。技术架构 本实践...
基于日志服务构建业务可观测性系统
现在已知的各种监控数据的工具，以及对应的监控系统有非常多的选择，比如ZABBIX，Prometheus，Skywalking等。但是这些系统都存在同样的一个问题，只覆盖了可观察性的一部分，举个简单的类比，大家在日常开车的过程中，会用到很多的辅助设备，仪表盘，行车记录仪，导航，倒车影像等等，这些设备都各自承载了一部分的功能，但是都存在着如下的问题： l 数据覆盖不完整 l 存在数据孤岛（无法关联协同） l 使用门槛高，不够人性化 核心价值 l 全覆盖，统一协议，支持各类平台。 l 数据关联，统一Schema，关联Metrics/Logs。 l 云原生，SaaS服务，拥抱云原生。 l 简单易用，自动化埋点，数十项易用功能。 智能化，异常诊断，根因分析。
基于阿里云创建的自定义私有网络,不 同的专有网络之间二层逻辑隔离，可以在自己创建的专有网络内创建和管理云产 品实例，比如 ECS、负载均衡、RDS等。在创建前，您需要结合具体业务，规划 VPC和交换机的数量及网段等。详见：https://www.aliyun.com/product/vpc CADT：是一款为上云应用提供自助式云架构管理的产品，显著地...
函数计算实现弹性音视频处理系统
场景描述 本示例通过函数计算部署一个高弹性高可用的 音视频处理系统。尤其适合视频网站使用，每天 有大量的上传视频，需要及时转码处理以适配各 种终端及网络条件，要求短时间内准备大量的计 算资源进行大规模并行转码处理，同时希望基于 FFmpeg自建的转码服务能简单迁移。 解决问题 1.如何使用函数计算部署音视频处理系统。 2.如何进行系统的压测。 产品列表 函数计算服务 文件存储NAS 对象存储OSS 函数工作流FnF 日志服务SLS
这使您的函数可以像访问本地文件系 统一样编写访问存储在其中一个 NAS 文件系统上的文件。详见 https://cn.aliyun.com/product/nas 对象存储 OSS：海量、安全、低成本、高可靠的云存储服务，提供 99.9999999999%的数据可靠性。使用 RESTful API 可以在互联网任何位置存储和访问，容量和处 理能力弹性扩展，多种存储类型供...
- 产品推荐
- 这些文档可能帮助您