相比原生OSS存储，OSS-HDFS与Hadoop生态计算引擎无缝集成，在典型的基于Hive和Spark的离线ETL场景拥有更好的表现，在完全兼容HDFS文件系统接口的同时，提供充分的POSIX能力支持，可以更好地满足大数据和AI等领域的数据湖计算场景。...
适配阿里云MaxCompute、E-MapReduce、Hologres、Flink、AnalyticDB、StarRocks、PAI 等数十种大数据和AI计算服务，为数据仓库、数据湖、湖仓一体、Data+AI解决方案提供全链路智能化的数据集成、大数据AI一体化开发、数据分析与主动式数据...
实时计算-HBase增强版（Lindorm）+Blink/Spark 基于数据的应用，如算法、智能运营、监控大屏等系统。通常需要实时获取业务系统产生的数据，基于数据更新进行实时计算。HBase具有高吞吐，低延迟，schemaFree，水平扩展等能力，被很多大数据...
Hologres致力于高性能、高可靠、低成本、可扩展的实时数仓引擎研发，为用户提供海量数据的实时数据仓库解决方案和亚秒级交互式查询服务，广泛应用在实时数据中台建设、精细化分析、自助式分析、营销画像、人群圈选、实时风控等场景。...
阿里云流数据处理平台数据总线 DataHub 是流式数据（Streaming Data）的处理平台，提供流式数据的发布(Publish)、订阅（Subscribe）和分发功能，支持构建基于流式数据的分析和应用。产品概述 数据总线（DataHub）是阿里云提供的一款流式...
背景信息 Hadoop生态的优势是处理大规模数据集，但是其缺点也很明显，就是当用于交互式分析时，查询时延会比较长。而Elasticsearch擅长于交互式分析，对于很多查询类型，特别是对于Ad-hoc查询（即席查询），可以达到秒级。ES-Hadoop的推出...
MapReduce处理数据的完整流程如下：输入数据：在正式执行Map前，需要对输入数据进行分片（即将输入数据切分为大小相等的数据块），将每片内的数据作为单个Map Worker的输入，以便多个Map Worker同时工作。Map阶段：每个Map Worker读取数据...
EMR基于开源的Apache Hadoop和Apache Spark，让您可以方便地使用Hadoop和Spark生态系统中的其他周边系统分析和处理数据。EMR还可以与阿里云其他的云数据存储系统和数据库系统（例如，阿里云OSS和RDS等）进行数据传输。产品介绍 阿里云EMR...
270 CDH_HIVE CDH Spark 通用的大数据分析引擎，具有高性能、易用和普遍性等特点，可用于进行复杂的内存分析，构建大型、低延迟的数据分析应用。271 CDH_SPARK CDH Spark SQL 可实现分布式SQL查询引擎对结构化数据的处理，提高作业的执行...
新增支持X-数据质量智能应用，针对数据质量规则校验异常结果和在使用资产过程中反馈的问题，基于大模型进行问题分析，形成关键证据链，并给出整改意见。X-分析优化，支持选择是否使用样例数据，使用样例数据可有效提升SQL生成的准确性；...
一、数据集成 DataWorks的数据集成模块为您提供读取和写入数据至EMR Hive的能力，您需要将Hive组件创建为 DataWorks的 Hive数据源，实现将其他数据源的数据同步至Hive数据源，或将Hive数据源的数据同步至其他数据源。同时，可根据需要选择...
步骤六：基于MaxCompute分析数据湖数据 通过DataWorks控制台的数据湖集成界面创建External Project，对数据湖中的数据进行分析。步骤一：授予MaxCompute访问DLF和OSS的权限 操作MaxCompute项目的账号未经授权无法访问DLF、OSS服务，您需要...
产品描述 Dataphin是集产品、技术、方法论于一体的智能大数据平台建设引擎，为您提供数据引入、规范定义、建模研发、资产管理、数据服务等全链路智能数据建设及治理服务。功能 描述 Dataphin共享模式（全托管版）全托管又称公共云多租户...
数据应用：基于StarRocks生成实时业务报表（如GMV监控、用户留存分析），并与BI工具（例如Quick BI）对接，以构建数据大屏，推动T+0决策。数据服务场景 阿里云EMR 数据服务集群 集成了OSS-HDFS、HBase、Phoenix等核心组件，构建了从海量...
为什么设计一个新的Quick引擎 随着数字化进程的深入，数据应用的价值被越来越多的企业所重视。基于数据进行决策分析是应用价值体现的重要场景，不同行业和体量的公司广泛依赖BI产品制作报表、仪表板和数据门户，以此进行决策分析。在利用BI...
本教程提供数据仅作为阿里云大数据开发治理平台DataWorks数据应用实操使用，所有数据均为人工Mock数据。本教程使用 数据开发（Data Studio）（新版）进行数据加工。EMR环境准备 本教程需要您创建一个EMR集群并集成到DataWorks，以便在...
DataWorks支持基于CDH（Cloudera's Distribution Including Apache Hadoop，以下简称CDH）和CDP（Cloudera Data Platform，以下简称CDP）集群创建Hive、MR、Presto和Impala等节点，实现CDP/CDH任务工作流的配置、定时调度和元数据管理等...
迁移类型 文档 是否支持 数据写入 使用INSERT ON CONFLICT覆盖写入数据 支持 使用COPY ON CONFLICT覆盖导入数据 支持 基于Client SDK数据写入 支持 表级迁移 通过DataWorks导入数据 支持 通过DTS从云数据库同步数据 支持 通过DTS从自建数据...
2025-07-31 全部地域 基于时间计算函数的自动分区表 MaxCompute支持基于数据写入时间的自动分区表 支持在数据写入时自动获取写入时间，并结合用户指定的时间计算函数（TRUNC_TIME），根据计算结果生成分区列的值，从而实现对表的分区。...
本文介绍 云原生多模数据库 Lindorm 与其他开源数据库的区别。背景信息 云原生多模数据库 Lindorm 兼容...生态 开源大数据生态Hadoop/Spark等、阿里云数据生态 开源大数据生态Hadoop/Spark等 易用性 免运维，维护简单 有状态服务，维护较复杂
大数据分析与机器学习 在大数据分析与机器学习场景中，应用对数据访问的吞吐性能和延迟有较高要求。而 文件存储 HDFS 版 能够提供高吞吐量和低延迟的访问能力，无需将数据迁移到计算资源本地，因此在该场景下推荐使用 文件存储 HDFS 版 ...
MaxCompute平台支持丰富的数据上传和下载工具（其中大部分工具已经在GitHub公开源代码，以开源社区的方式进行维护）。您可以根据实际应用场景，选择合适的工具进行数据的上传和下载。阿里云数加产品 MaxCompute客户端（Tunnel通道系列）...
完善的数据连通性 对接多个阿里云大数据计算分析引擎，数据与计算引擎解耦，可以在Flink、Spark、Presto或Hive间无缝流转。深度打磨DB入湖场景 与Flink CDC连接器联动，降低开发门槛。提供企业级特性 包括集成DLF统一元数据视图、自动且轻...
这些物理执行单元直接在指定的BE节点上执行，实现了数据计算的本地化，避免了不必要的数据传输和复制，从而极大的提升了查询性能。尽管存算一体架构在查询性能上具有显著优势，但也存在一些局限性：成本高：为了确保数据的可靠性，BE节点...
X-数据安全针对圈选的数据表，基于大模型进行语义分析，识别核心字段，并智能推荐对应的分类分级，您可对推荐的识别结果执行应用、弃用等操作。本文为您介绍如何使用X-数据安全。前提条件 已配置并开启X-数据安全，详情请参见 智能助手。...
说明 多模超融合 支持宽表、时序、对象、文本、队列、空间等 多种数据模型，模型之间数据互融互通，具备数据接入、存储、检索、计算、分析等 一体化融合处理与服务的能力，帮助应用开发更加敏捷、灵活、高效。高性价比 支持 千万级高并发...
申请、续期和交还表权限 授权与回收表权限 数据源管理 数据源连接测试新增成功有风险状态，该状态下的数据源仅可用于数据服务、数据质量功能，不可用于数据开发和数据集成功能。ElasticSearch数据源新增支持HTTPS连接；支持自签名证书。...
服务 版本 Hadoop-Common 2.8.5 HDFS 2.8.5 OSS-HDFS 1.0.0 YARN 2.8.5 OpenLDAP 2.4.46 Ranger 2.3.0 Ranger-plugin 1.0.0 Zookeeper 3.8.4 Knox 1.5.0 Flink 1.17.2 Paimon 1-ali-6.2 DataServing集群 服务 版本 Hadoop-Common 2.8.5 ...
通过将开放数据安装到绑定MaxCompute计算资源的工作空间中，您可以在数据开发与分析中利用MaxCompute Package视图授权共享元数据，快速获取标准化、可追溯的元数据，从而实现高效的数据治理与分析。2025-10-14 所有地域 DataWorks企业版...
产品介绍 DataV是一款数据可视化应用搭建产品，让数据可视、价值可见。DataV数据可视化应用搭建平台以丰富的图表组件和二三维时空地理组件为特色，搭配强大的低代码可视化搭建编排能力，可以高效、低成本地完成可视化大屏、PC数据看板、...
单击控制台左上角的 图标，选择 全部功能 Data+AI 数据应用 数据分析。说明 若您使用的是非极简模式的控制台，在顶部菜单栏中，选择 Data+AI 数据应用 数据分析。进入数据分析页面，单击 数据集 页签。单击 新建数据集，配置如下信息：配置...
提供PB级数据实时交互式分析、ETL/ELT、BI报表展示功能，支持数据高吞吐实时写入与批量导入，提供ACID保证和标准事务隔离级别，采用MPP全并行架构，是一款具有高性价比的云原生数仓产品，提供基于阿里云生态的公共云和混合云服务。...
Hadoop MapReduce是一个使用简易的软件框架，基于它写出来的应用程序能够运行在由上千个商用机器组成的大型集群上，并以一种可靠容错的方式并行处理上T级别的数据集。一个MapReduce作业通常会把输入的数据集切分为若干独立的数据块，由Map...
EMR基于开源的Apache Hadoop和Apache Spark，让您可以方便地使用Hadoop和Spark生态系统中的其他周边系统分析和处理数据。EMR还可以与阿里云其他的云数据存储系统和数据库系统（例如，阿里云OSS和RDS等）进行数据传输。阿里云EMR提供了on ...
Tablestore+DeltaLake（快速开始）架构原理-架构设计思想 数据中台之结构化大数据存储设计 结构化大数据分析平台设计 云上应用系统数据存储架构演进 Lambda plus：云上大数据解决方案 场景实战-典型场景架构与实现 AI实战 向量数据库是AI...
不提供永久文件存储功能，会定期(7+天)清除您的文件，重要转储文件请务必提前使用OSS或其他方式存储 应用诊断分析平台免费提供50GB临时可用空间供您分析 应阿里云安全监管要求，为了最大程度保护用户数据，应用诊断分析平台只能访问以 ...
产品为客户提供资产建模、数据采集、数据分析、设备监控和数据分析五大产品能力：资产建模：定义设备资产标准模型，管理设备资产数据 提供设备资产全维度数据建模工具 快速构建实体资产数据模型 对设备资产进行全生命周期管理 为数据应用...
混合云大数据容灾提供近0 RPO的大数据容灾，可以将Hadoop集群容灾至阿里云OSS或EMR，在Hadoop集群间双向实时复制，构建大数据湖。应用级容灾和数据级容灾 支持将Windows、Linux应用服务器做高效的容灾复制和云上恢复，实现应用级容灾。您...
调用链分析 基于已存储的链路明细数据，自由组合筛选条件与聚合维度进行实时分析，可以满足不同场景下的自定义诊断需求。数据库分析 了解业务链路中所有数据库的请求数、慢请求数、平均耗时，以及各数据库关联的SQL分析、异常分析和调用链...
标准定义基于圈选的数据表通过大模型结合语义分析，识别核心字段，针对核心字段进行数据探查，从而智能抽取标准定义，您可对标准执行编辑、应用、弃用等操作。本文为您介绍如何配置智能抽取标准定义。前提条件 需购买数据标准功能和X-数据...