例如，于2023年08月28日，电商公司发现2023年08月17日收集的某个产品的报表数据有误，需要重新输出2023年08月17日的报表数据，可以使用补数据来纠正报表数据。操作步骤 登录 数据管理DMS 5.0。在顶部菜单栏中，选择 Data+AI 数据开发 任务...
背景信息 您可以在数据传输控制台创建从 OceanBase 数据库迁移数据至 OceanBase 数据库同类型租户的数据迁移任务，通过结构迁移、全量迁移和增量同步，无缝迁移源端数据库中的存量业务数据和增量数据至目标端数据库。前提条件 数据传输已...
实用性：实时收集不同来源数据并实时处理，快速响应业务。易用性 提供包括C++、Java、Python、Go等语言的SDK包。提供Restful API规范，支持自定义实现访问接口。提供包括Fluentd、Logstash、Flume等常用的客户端插件。支持强Schema的结构化...
数据采集：MaxCompute支持将开源 Logstash 收集的日志数据流式写入MaxCompute。Flink实时写入：您可以通过 Flink 平台对流式数据进行实时写入。解决方案的可靠性 MaxCompute具有服务等级协议（SLA），因批量数据通道、流式数据通道默认使用...
Flume高效写入OSS Flume高效写入OSS 2021-06-01 Flume是一个分布式、可靠、高可用的系统，支持从不同数据源高效地收集、聚合、迁移大量日志数据，聚合到中心化的数据存储服务，被广泛用于日志收集场景中。由于OSS本身不支持Flush功能，而...
这些应用需要收集并分析时间序列数据来检测异常、性能瓶颈和趋势，以支持决策制定。传统的数据库在处理高并发写入、数据压缩和高效查询时间序列数据方面存在局限。大数据分析与预测需求：随着数据分析技术的发展，企业和研究机构越来越重视...
数据安全中心（敏感数据保护）是 数据安全中心 DSC（Data Security Center）的一款产品，可以通过收集和分析数据资产的信息，提供云上数据中敏感数据识别的分类（数据标签）分级（敏感等级）能力。本文介绍如何快速在DSC控制台实现敏感数据...
步骤二：连接数据库 数据库连接方式说明 DSC通过收集和分析数据库中存储的数据、数据库活动，提供数据的分类分级、数据审计、安全态势监控等能力。DSC需要连接您的数据库，才能实现相应能力。DSC支持使用一键连接和账密连接两种方式连接...
风险审计功能搜集和评估数据库在使用过程中产生的各类风险，更多信息，请参见 风险审计报告。（分享）：通过该功能可以向相关人员分享该数据库的控制台与命令，更多信息，请参见 分享SQL窗口。（超级SQL模式）：开启超级SQL模式后，管理员...
Kafka（离线与实时）Logstash（流式）支持将开源Logstash收集的日志数据写入MaxCompute。Logstash（流式）阿里云Flink（流式）支持使用Flink在高并发、高QPS场景下写入MaxCompute。阿里云Flink（流式）DataHub（实时）DataHub是MaxCompute...
Kafka是应用较为广泛的分布式、高吞吐量、高可扩展性消息队列服务，普遍用于日志收集、监控数据聚合、流式数据处理、在线和离线分析等大数据领域，是大数据生态中不可或缺的产品之一。通过数据传输服务DTS（Data Transmission Service），...
DM（达梦）数据源 Milvus数据源 TiDB数据源 DRDS（PolarDB-X 1.0）数据源 MongoDB数据源 TSDB数据源 Elasticsearch数据源 MySQL数据源 Vertica数据源 FTP数据源 OpenSearch数据源 TOS数据源 GBase8a数据源 Oracle数据源 HBase数据源 Graph ...
若您需要通过 AnalyticDB PostgreSQL版 访问外部异构数据源（HDFS、Hive和JDBC）时，可以使用异构数据源访问功能将外部数据转换为 AnalyticDB PostgreSQL版 数据库优化后的格式进行查询和分析。功能说明 外部数据源管理提供高性能的结构化...
同步自动收集统计信息 由于异步自动收集统计信息存在延时（约1分钟），作为异步自动收集统计信息的补充，云原生数据仓库 AnalyticDB PostgreSQL 版 也有同步自动收集统计信息的功能。即在表中数据发生变更的命令执行结束前，同步地自动收集...
云数据库RDS、云原生数据库PolarDB、云数据库MongoDB、云数据库 Tair（兼容 Redis）、云原生数据仓库AnalyticDB PostgreSQL版产品的备份恢复功能均由 数据灾备 提供，各产品功能动态详情如下。功能发布更新 2025年 09月 功能名称 变更类型 ...
Amazon S3数据源 Graph Database（GDB）数据源 PolarDB数据源 Amazon Redshift数据源 HDFS数据源 PolarDB-X 2.0数据源 AnalyticDB for MySQL 2.0数据源 Hive数据源 PostgreSQL数据源 AnalyticDB for MySQL 3.0数据源 Hologres数据源 Redis...
元数据 API 标题 API概述 目录 目录 CreateCatalog 创建数据湖数据目录 创建数据湖数据目录。DeleteCatalog 删除数据湖数据目录 删除数据目录。UpdateCatalog 更新目录 更新数据目录内容。ListCatalogs 获取数据目录列表 分页查询，获取...
企业管理员使用数据域可以基于业务属性、组织架构、数据特征等维度对数据资产进行分类管理。通过将拥有共同属性的数据资产集中到同一个数据域中，管理员可以高效管理数据资产及资产中的敏感数据。本文介绍如何使用数据域功能分类管理资产。...
在弹出的添加 数据对话框 中，选择需要添加的数据源类型，支持添加 RDS for PostgreSQL数据源、RDS for MySQL数据源、兼容MySQL数据库的数据源、实时数仓Hologres数据源、AnalyticDB for MySQL数据源。操作数据集 在数据集管理页面右上角...
元数据管理是构建数据湖重要一环，通过有效的集中式元数据管理，可以提升数据资产价值。本文为您介绍数据湖构建中数据库、数据表及函数的相关操作。数据库 创建数据库 登录 数据湖管理控制台。在左侧菜单栏，选择 元数据 元数据管理。单击 ...
数据资源平台为用户提供了一站式数据资产定义、生产、管理与服务平台，提供企业级数据资产构建能力和一致性使用体验，助力客户快速构建数据智能平台，实现数据资源统一管理，挖掘潜在规律，优化业务决策，让大数据真正的驱动客户业务。...
数据库 数据库 ListDatabases 查询数据地图数据库列表 查询数据地图中给定实例/集群/数据目录下的数据库列表。对于dlf/starrocks类型，查询给定数据目录下的数据库列表，其中starocks类型仅支持查询Internal Catalog；对于其他类型，查询...
DLF数据权限：主要控制DLF内部资源的访问和使用权限，包括数据库、数据表、数据列、函数、数据目录等，以及数据权限的操作权限。数据权限详细说明，请参见 数据权限。数据授权相关的操作，请参见 数据授权。湖管理 湖管理包括Location托管...
在ChatBI中进行交互式会话之前，需要通过数据集来圈定开展分析的数据范围。数据集可以是目标数据源中的数据表，也可以是本地文件。准备工作 已在使用ChatBI功能的对应地域创建 Serverless资源组。适用范围 数据源类型的数据集，仅支持选择...
数据管理功能，以数据源维度展示了数据看板中所有组件使用的数据源合集，您可在该界面查看/编辑数据源配置，或批量替换目标组件所使用的数据源类型。批量替换数据源时，仅会更改数据来源（例如，由Hologres更改为RDS for MySQL），数据源已...
当线上数据库中的历史数据（访问率很低的数据）越来越多，占用的存储越来越大，以至于会影响数据库的查询性能与业务运转，此时您可以使用 数据管理DMS 的数据归档功能，周期性地将符合筛选条件的表数据归档至其他数据库或存储服务中。...
数据传输（DTS）数据同步 数据同步功能帮助您实现数据源之间的数据实时同步，适用于数据异地多活、数据异地灾备、本地数据灾备、跨境数据同步、云BI及实时数据仓库等多种业务场景。更多信息，请参见 数据同步方案概览。数据迁移 数据迁移...
MaxCompute提供多种渠道，以便您从业务系统或外部数据源写入数据到MaxCompute，或者从MaxCompute写出数据到外部系统或外部数据源。数据传输渠道 SDK-Tunnel渠道 外表（湖仓一体）JDBC渠道 场景数据写入MaxCompute 离线数据批量写入（数据...
监控告警 数仓和数据湖 功能集 功能 功能描述 参考文档 数据存储 数据缓存 云数据库SelectDB支持数据缓存功能，当您需要管理缓存数据并提升云数据库 SelectDB 版的访问速度时，可以根据该文档对缓存进行有效管理，并利用LRU和TTL管理策略，...
在数据管理DMS离线集成中，可以组合各类任务节点，形成数据流，通过周期调度运行达到数据加工、数据同步的目的。本文介绍创建数据流和配置的方法。前提条件 支持的数据库类型：MySQL：RDS MySQL、PolarDB MySQL版、MyBase MySQL、PolarDB...
基础产品品类繁多，数据保护机制各异，缺乏一个集中策略的平台，导致分散管理，负责人难以查看整体灾备架构，数据保护审计时信息的收集，报表的制作也面临很大挑战。为什么需要灾备中心 通过大屏展示阿里云存储数据的保护情况，同时提供...
若您要使用DataV-Note（智能分析）对您的数据库、数据仓库（例如，RDS MySQL、MaxCompute）、本地文件数据进行分析及报告制作，则需先将相应数据创建为DataV-Note的数据源或导入至DataV-Note。本文为您介绍DataV-Note支持接入的数据类型，...
数据源用于连接各类数据库和存储服务（如MaxCompute、MySQL、OSS等），是 数据集成同步任务 的必备配置，决定任务读取（数据来源）和写入（数据去向）的数据库。数据源的作用 在数据集成任务中，数据源扮演着数据流动两端的“端点”角色：...
数据分类分级是保障数据安全的重要前提。它为各行业提供对敏感数据类型及其级别的识别与划分能力，能够有效检测组织数据资产中是否存在敏感信息，并根据其敏感程度进行等级划分。分类分级不仅有助于准确掌握数据资产中的敏感内容，还为后续...
数据源适配组件 数据源方式接入业务数据流程如下：先接入数据，再通过 数据响应结果 观察业务数据和组件数据的结构差距，通过 数据映射 或 过滤器 进行数据的适配处理，最终得到适配数据。本示例基于一份关键数据字段为 category 产品类别...
您可以使用 DMS 录入云数据库 OceanBase 的数据，通过 DMS 的全域数据资产管理、数据治理、数据库设计开发、数据集成、数据开发和数据消费等功能，帮助企业高效、安全地挖掘数据价值，助力企业数字化转型。什么是数据管理DMS 支持的数据库...
功能介绍 多数据源类型接入：Dataphin内置丰富的数据源类型，支持对接的数据源包括大数据存储型数据源、文件型数据源、消息队列型数据源、关系型数据源和NoSQL数据源。更多信息，请参见 Dataphin支持的数据源。自定义数据源类型：在内置的...
本文介绍数据迁移的最佳实践，包含将其他业务平台的业务数据或日志数据迁移至MaxCompute，或将MaxCompute的数据迁移至其它业务平台。背景信息 传统关系型数据库不适合处理海量数据，如果您的数据存放在传统的关系型数据库且数据量庞大时，...
不支持 认证身份与鉴权说明 数据目录是否能够正常读取数据源下的数据信息，取决于数据源添加至数据目录的方式，具体规则如下：从工作空间绑定的数据源实例添加到数据目录时，该数据目录将使用 数据源配置的身份信息 从数据源读取数据至...
功能介绍 多数据源类型接入：Dataphin内置丰富的数据源类型，支持对接的数据源包括大数据存储型数据源、文件型数据源、消息队列型数据源、关系型数据源和NoSQL数据源。更多信息，请参见 Dataphin支持的数据源。自定义数据源类型：在内置的...