EMR本地盘实例大规模数据集测试
场景描述 阿里云为了满足大数据场景下的存储需求，在云 上推出了本地盘D1机型，这个系列提供了本地 盘而非云盘作为存储，提高了磁盘的吞吐能力， 发挥Hadoop的就近计算优势。阿里云EMR 产品针对本地盘机型，推出了一整套的自动化运 维方案，帮助用户方便可靠地使用本地盘机型， 不需要关注整个运维过程同时数据的高可靠和 服务的高可用。 解决问题 1.云盘多份冗余数据导致成本高 2.磁盘吞吐量不高 3.节点的高可靠分布问题 4.本地盘与节点的故障监控问题 5.数据迁移时自动决策问题 6.自动故障节点迁移与数据平衡问题 产品列表 EMR(E-MapReduce) 本地盘 VPC
本实践采用并行模式、使用 tez作为测试引擎进行测试：注释掉 security模式相关的 两行配置并且添加后面六行配置以便适合 hive-testbench进行大规模数据集测试（比 如 1TB规模的数据集），然后保存配置文件；步骤2 修改 hive执行引擎为 tez set hive.execution.engine=tez;步骤3 注释掉 security相关的两行配置-set hive....
SLS多云日志采集、处理及分析
场景描述 从第三方云平台或线下IDC服务器上采集 日志写入到阿里云日志服务，通过日志服务 进行数据分析，帮助提升运维、运营效率， 建立DT 时代海量日志处理能力。 针对未使用其他日志采集服务的用户，推荐 在他云或线下服务器安装logtail采集并使用 Https安全传输；针对已使用其他日志采集 工具并且已有日志服务需要继续服务的情 况，可以通过Log producer SDK写入日志 服务。 解决问题 1.第三方云平台或线下IDC客户需要使用 阿里云日志服务生态的用户。 2.第三方云平台或线下IDC服务器已有完 整日志采集、处理及分析的用户。 产品列表 E-MapReduce 专有网络VPC 云服务器ECS 日志服务LOG DCDN
这些组件一起工作来读取文 件（tail file）并将事件数据发送到您指定的输出。启动 Filebeat时，它会启动一个或多个查找器，查看您为日志文件指定的本地路径。对于 prospector 所在的每个日志文件，prospector 启动 harvester。每个 harvester 都会为新内容读取单个日志文件，并将新日志数据发送到 libbeat，后者将聚合事件...
自建Hadoop迁移MaxCompute
场景描述 客户基于ECS、IDC自建或在友商云平台自建了大数 据集群，为了降低企业大数据计算平台的成本，提高 大数据应用开发效率，更有效保障数据安全，把大数 据集群的数据、作业、调度任务以及业务数据库整体 迁移到MaxCompute和其他云产品。 解决的问题 自建Hadoop集群搬迁到MaxCompute 自建Hbase集群搬迁到云Hbase 自建Kafka或应用数据准实时同步到 MaxCompute 自建Azkaban任务迁移到Dataworks任务 产品列表 MaxCompute，Dataworks、云数据库Hbase版、Datahub、VPC，ECS。
名词解释 HDFS Hadoop 分布式文件系统（HDFS）被设计成适合运行在通用硬件上的分布式文 件系统，它和现有的分布式文件系统有很多共同点。但同时，它和其他的分布式 文件系统的区别也是很明显的。HDFS是一个高度容错性的系统，适合部署在廉 价的机器上。HDFS能提供高吞吐量的数据访问，非常适合大规模数据集上的应 用。VPN...
PolarDB 应对大并发复杂查询实践
MySQL架构是单线程处理SQL，遇到大并发复杂查询时，需要排队长时间等待，容易形成慢查询，影响业务。PolarDB并发查询能力可以很好解决此问题。
PolarDB如何应对大并发复杂查询最佳实践 业务架构 场景描述 MySQL架构是单线程处理 SQL，遇到大并 发复杂查询时，需要排队长时间等待，容易 形成慢查询，影响业务。PolarDB并发查询 能力可以很好解决此问题。方案优势 1.应用便捷，无需换数据库。2.效果明显，针对大并发复杂查询场 景，业务效果立竿见影。解决问题 1.消除慢...
基于OSS Object FC实现非结构化文件实时处理最佳实践
现在绝大多数客户都有很多非结构化的数据存在OSS中，以图片，视频，音频居多。举一个图片处理的场景，现在各种终端种类繁多，不同的终端对图片的格式、分辨率要求也不同，所以一张图片往往会有很多张衍生图，那如果所有的衍生图都存在OSS中，那存储的成本会增加，所以就可以通过OSS Object FC的方案，在不同的终端请求时，对OSS中的原图基于终端的要求做实时处理，然后响应返回，这样OSS中只需要存储原图即可。音视频也有类似的场景。
基于OSSObjectFC实现非结构化文件实时处理最佳实践 业务架构 场景描述 基于阿里云OSS和函数计算共同实现的产品化 集成解决方案OSSObjectFC，实现可以OSS 中的非结构化数据在读取时插入自定义业务逻 辑，对非结构化数据做实时处理后再返回。应用场景 现在绝大多数客户都有很多非结构化的数据存 在OSS中，以图片，视频，音频...
大模型RAG对话系统部署
大模型RAG对话系统最佳实践，旨在指引AI开发人员如何有效地结合LLM大语言模型的推理能力和外部知识库检索增强技术，从而显著提升对话系统的性能，使其能更加灵活地返回用户查询的内容。适用于问答、摘要生成和其他依赖外部知识的自然语言处理任务。通过该实践，您可以掌握构建一个大模型RAG对话系统的完整开发链路。
大模型 RAG对话系统部署 最佳实践 业务架构 场景描述 大语言模型（LLM）在生成准确和实时的回复方面存 在局限性，不适合直接用于需要精确信息的客服或问 答等场景。当前业界普遍采用基于检索增强的 RAG 技术来改善 LLM的表现。该方法通过结合 LLM的归 纳生成能力和向量检索库的检索能力，增强对用户查 询的理解，并产生更加...
系统运维管理 OOS
阿里云系统运维管理（简称OOS）提供的云上自动化运维服务，通过执行模板来完成任务的自动化运行，可以使用OOS管理ECS、RDS、SLB、VPC等云产品，提升日常运维管理效率
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云备案控制台系统运维管理产品简介产品优势产品功能入门与试用技术解决方案安全合规常见问题系统运维管理 OOS云上统一的自动化管理与运维平台，支持对ECS、RDS、SLB等多种云产品进行编排，提升日常运维管理效率。立即购买免费试用快捷入口控制台文档API...
来自：
云产品
数据库文件存储DBFS
阿里云数据库文件存储DBFS基于共享存储架构，支持数据库定制和共享读写的线性扩展能力，提供低成本、高性能、高可用的存储服务，助力客户数据库业务无缝迁移上云。
快速了解数据库文件存储.数据库文件存储API手册.产品使用最佳实践.常见问题供查阅参考.存储容量.性能.功能.生态.业务场景.min{1800+50*容量,1000000}.min{100+0.5*容量,4000}MBps.OLTP、OLAP、NoSQL等.min{1800+50*容量,8000000}.min{100+0.5*容量,32000}MBps.中大型OLTP、高性能OLAP、NoSQL等.通过原子写，用户态IO、分离...
来自：
云产品
云速搭部署 NAS 文件系统
本实践通过云速搭构建一个 NAS，并将 NAS 文件系统挂载到 ECS 的目录上。
已开通以下服务：ￚ 专有网络 VPC ￚ 云速搭 CADT ￚ 云服务器 ECS ￚ 文件存储 NAS 文档版本：20211027 2 云速搭部署 NAS文件系统 产品介绍 产品介绍 云速搭 CADT：是一款为上云应用提供自助式云架构管理的产品，显著地降低应 用云上管理的难度和时间成本。本产品提供丰富的预制应用架构模板，同时也支 持自助拖拽方式定义...
基于云速搭CADT快速构建药物筛选批量计算环境-serverless版
本方案基于云速搭 CADT提供一个快速构建云上Serverless版HPC批量计算环境的模板，针对生物制药领域的药物筛选场景，提供开箱即用的整套解决方案工具包，整个云上环境仅需1个小时即可完成自动化部署搭建。
文件存储 NAS：阿里云文件存储 NAS是一个可共享访问，弹性扩展，高可靠，高性 能的分布式文件系统。它基于 POSIX 文件接口，天然适配原生操作系统，提供共 享访问，同时保证数据一致性和锁互斥。文件存储 NAS中的数据自动地在可用区 内以多副本冗余方式存储，避免数据的单点故障风险，提供高达 99.999999999%的 数据可靠性...
Function Compute构建高弹性大数据采集系统
当前互联网很多场景都存在需要将大量的数据信息采集起来然后传输到后端的各类系统服务中，对数据进行处理、分析，形成业务闭环。比如游戏行业中的游戏发行、游戏运营，产互行业中的数字营销，物联网、车联网行业中的硬件、车辆信息上报等等。这些场景普遍存在数据采集量大、数据传输需要稳定且吞吐量大的特点，给整个数据采集传输系统带来很大的挑战。在这个场景中，有三个关键的环节，数据采集、数据传输、数据处理。该最佳实践主要涉
性能压测.51 文档版本：20210806（发布日期）1 Function Compute构建高弹性大数据采集系统 最佳实践概述 最佳实践概述 概述 当前互联网很多场景都存在需要将大量的数据信息采集起来然后传输到后端的各类系 统服务中，对数据进行处理、分析，形成业务闭环。比如游戏行业中的游戏发行、游 戏运营，产互行业中的数字营销，...
企业用户多账号合并之存储迁移集中
场景描述 本文介绍使用在线迁移服务，将分布在各个云 账号中的对象存储、文件存储数据集中到一个 账号的对象存储或文件存储下。 解决问题 1.安全治理需求，统一的账户体系、身份、权 限及资源管理。 2.业务系统相互访问，数据统一需求。 3.系统架构及资源成本优化需求，多账号下的 带宽、流量、存储包等资源整合优化。 4.企业或部门合并时云账号的合并。 产品列表 RAM OSS NAS 在线迁移
开通以下服务：ￚ 云速搭 CADT ￚ 对象存储 OSS ￚ 文件存储 NAS ￚ 数据迁移服务 遇到问题，请扫钉钉二维码联系我们获取支持。文档版本：20220505 2 企业用户多账号合并之存储迁移集中部署 基础环境准备 1.基础环境准备 本章介绍如何开通产品及服务，并利用云速搭 CADT快速部署整个 demo系统。1.1.开通产品及服务 步骤1 ...
CentOS到Alinux操作系统迁移
2020年12月08日，CentOS官方宣布了停止维护CentOS Linux的计划，操作系统迁移解决方案为企业提供ECS实例运行的操作系统EOL（生命周期结束）后的替换或升级服务。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云备案控制台CentOS到Alinux操作系统迁移方案介绍方案优势应用场景方案部署方案权益CentOS到Alinux操作系统迁移2020年12月08日，CentOS官方宣布了停止维护CentOS Linux的计划，并推出了CentOS Stream项目。操作系统停止维护会带来一系列安全的影响，...
来自：
解决方案
Function Compute搭建前端CICD系统
场景描述 传统动静不分离的产品架构，随着访问量在增 长，性能会成为瓶颈。在这种情况下，用户可以 通过利用OSS和CDN对网站进行架构优化， 做到网站文件的动静分离，提升用户访问体验， 实现成本可控。本方案使用函数计算监听前端代 码库提交的分支变更，上传分支文件至OSS，通 过CDN进行前端资源加速。 方案优势 1.面向serverless：无需购买服务器 2.免运维：无需部署配置Jenkins 3.提供日志查询、性能监控和报警等功能 4.一站式：事件驱动方式触发响应 5.费用极低：按需付费 产品列表 专有网络VPC 对象存储OSS 日志服务SLS 函数计算 CDN
此方案虽然比较灵活，但存在如下的劣势：ￚ 需要购买服务器自建 Jenkins，涉及计算存储费用 ￚ 需要专业的运维人员保障服务器稳定运行 ￚ 集成 OSS的 SDK实现比较重 方案概述 本方案功能是 Function Compute监听前端代码库提交的分支变更，上传分支文件 文档版本：20211008 VI Function Compute计算搭建前端 CICD系统 最佳...
基于日志服务构建业务可观测性系统
现在已知的各种监控数据的工具，以及对应的监控系统有非常多的选择，比如ZABBIX，Prometheus，Skywalking等。但是这些系统都存在同样的一个问题，只覆盖了可观察性的一部分，举个简单的类比，大家在日常开车的过程中，会用到很多的辅助设备，仪表盘，行车记录仪，导航，倒车影像等等，这些设备都各自承载了一部分的功能，但是都存在着如下的问题： l 数据覆盖不完整 l 存在数据孤岛（无法关联协同） l 使用门槛高，不够人性化 核心价值 l 全覆盖，统一协议，支持各类平台。 l 数据关联，统一Schema，关联Metrics/Logs。 l 云原生，SaaS服务，拥抱云原生。 l 简单易用，自动化埋点，数十项易用功能。 智能化，异常诊断，根因分析。
在 trace数据接入 SLS后，在 SLS内部会对应提供 trace的存 储，预聚合，ETL数据计算，以及 AIops的算法，最终呈现给我们的用户各式的 trace 分析功能。1.4.架构优势 整体上来说，SLS基于 OpenTelemetry构建的可观察性功能，具有以 OpenTelemetry 为统一协议，能够支持各类平台；支持统一的元数据结构，能够轻松实现 Metrics...
系统可信
系统可信是用于实现云租户计算环境底层高等级安全的主要功能之一。通过在可信ECS实例等计算环境中提供虚拟信任根、启动信任链和远程证明机制，系统可信为用户提供了针对环境启动阶段和运行阶段的全方位可信保障，构建了基于硬件的完善安全体系。系统可信的主体功能是保护系统启动过程中的关键组件，以及保护用户指定的关键应用。产品的优势在于：第一，针对国家等级保护2.0规范要求，助力用户计算环境高分通过合规测评；第二，基于安全芯片，构建涵盖计算环境各层面的完整可信链。产品所针对的场景，主要是用户需要高分通过等级保护测评，彰显安全可信方面的先进性，以及需要底层高等级安全的场景。
可信ECS实例内部提供高安全等级的虚拟可信芯片，对ECS实例启动过程中的UEFI、BootLoader、内核镜像和初始文件系统等进行可靠度量和安全存证.基于数字签名技术向用户上报系统启动过程中收集的信息，保证用户及时、准确感知系统底层安全状态，有效对抗RootKit/BootKit等底层安全威胁.监视系统启动过程，及时提示异常启动情况....
来自：
云产品
阿里云数据库快速搭建疫情分析系统最佳实践
疫情态势分析和防控任务迫在眉睫，如果快速搭建高效的疫情态势分析系统是众多部门和单位的难题，阿里云polardb for PG+Ganos解决方案可在极短时间内完成分析系统搭建，有效助力疫情防。 方案优势： 1、性能优越：Ganos作为自研的时空数据库引擎，相比postgis性能更优秀。 2、安全稳定：故障自动切换自愈，资源隔离，多副本存储。 3、简单易用：开箱即用，兼容postgresql，打通quickbi快速搭建数据分析展示。 4、功能强大：相比postgis在时空模型上做了较多扩充，支持几何模型，栅格模型，网络模型，时空轨迹模型，点云模型，拓扑网络模型。
存储资源规划.45 文档版本：20210725 IV 阿里云数据库快速搭建疫情分析系统最佳实践 最佳实践概述 最佳实践概述 概述 疫情态势分析和防控任务迫在眉睫，如果快速搭建高效的疫情态势分析系统是众多部 门和单位的难题，阿里云 polardb for PG+Ganos解决方案可在极短时间内完成分析系 统搭建，有效助力疫情防。技术架构 本实践...
- 产品推荐
- 这些文档可能帮助您