在数据管理DMS离线集成中，可以组合各类任务节点，形成数据流，通过周期调度运行达到数据加工、数据同步的目的。本文介绍创建数据流和配置的方法。前提条件 支持的数据库类型：MySQL：RDS MySQL、PolarDB MySQL版、MyBase MySQL、PolarDB...
本产品（敏感数据保护/2019-01-03）的OpenAPI采用 RPC 签名风格，签名细节参见 签名机制说明。我们已经为开发者封装了常见编程语言的SDK，开发者可通过 下载SDK 直接调用本产品OpenAPI而无需关心技术细节。如果现有SDK不能满足使用需求，可...
2024.2.21 所有地域 所有DataWorks用户 DataWorks On CDP/CDH使用说明 数据服务支持实例模式的StarRocks数据源 开通E-MapReduce Serverless StarRocks集群后，您可在DataWorks中通过实例模式新增StarRocks数据源，DataWorks数据服务支持...
本文介绍如何将大表数据归档至DBS内置OSS中。前提条件 支持如下类型的源数据库：MySQL类型：RDS MySQL、PolarDB MySQL版。PolarDB PostgreSQL版。PolarDB-X 2.0。说明 MySQL数据库账号必须具有REPLICATION CLIENT权限。您的系统角色需要...
MaxCompute平台提供了丰富的数据上传下载工具，可以广泛应用于各种数据上云的应用场景，本文为您介绍三种经典数据上云场景。Hadoop数据迁移 您可使用MMA、Sqoop和DataWorks进行Hadoop数据迁移。使用DataWorks结合DataX进行Hadoop数据迁移的...
具体请参见本手册文档 导入和导出。下载 下载视图对象的 SQL 文件。复制 选择对象名、Select 语句、Insert 语句、Update 语句或 Delete 语句。删除 删除当前视图对象。属性和数据页签 属性页签：基本信息：查看 视图名称、检查项 和 创建人...
数据资产：数据资源平台中存在大量的数据表、标签、API等各类数据资产，数据管理者通过数据汇聚、数据治理、数据分析后，需要对整个平台数据进行统一管控，了解平台的核心数据资产，提供对应的数据资产管理规范。统一服务 应用：是调用API...
本文为您介绍如何将数据归档用户OSS（您开通的阿里云OSS服务），以及恢复已归档数据至源库。前提条件 源数据库类型如下：MySQL类型：RDS MySQL、PolarDB MySQL版、AnalyticDB MySQL 3.0。PostgreSQL类型：RDS PostgreSQL、PolarDB ...
本教程提供数据仅作为阿里云大数据开发治理平台DataWorks数据应用实操使用，所有数据均为人工Mock数据，并且只支持在数据集成模块读取数据。在 私有OSS环境准备 步骤中创建的OSS对象存储的 Bucket 将用于接收MySQL数据源的用户信息数据与...
本文为您介绍如何新建HttpFile和MySQL数据源来访问本教程所提供的用户信息与网站日志数据，配置数据同步链路至私有OSS数据源，并通过EMR Hive节点建表查询同步后的数据，完成数据同步的操作过程。前提条件 开始本文的操作前，请准备好需要...
注意事项 当在全局搜索框搜索表时，需要保证其所属的数据库的管控模式为安全协同，否则会出现搜不到表的情况。更多管控模式信息，请参见 管控模式。说明 搜索实例、数据库时，不存在管控模式限制。若您使用全局搜索功能无法搜索到对应的...
本文介绍进入数据可视化功能的3种方法。方式一：通过顶部菜单栏进入数据可视化 登录 数据管理DMS 5.0。进入数据可视化功能。旧版数据可视化功能：在顶部菜单栏中，选择 集成与开发 数据应用 数据可视化（老）。新版数据可视化功能：在顶部...
本文为您介绍Tableau如何连接 AnalyticDB PostgreSQL版 并可视化分析数据。背景信息 Tableau是安全并且灵活的端到端数据分析平台，提供从连接到协作的一整套功能。AnalyticDB PostgreSQL版 支持直接连接Tableau并可视化分析数据。前提条件 ...
本教程以MySQL中的用户基本信息（ods_user_info_d）表及OSS中的网站访问日志数据（user_log.txt）文件，通过数据集成离线同步任务分别同步至MaxCompute的ods_user_info_d、ods_raw_log_d表为例，为您介绍如何通过DataWorks数据集成实现异构...
本教程以MySQL中的用户基本信息（ods_user_info_d）表及OSS中的网站访问日志数据（user_log.txt）文件，通过数据集成离线同步任务分别同步至MaxCompute的ods_user_info_d、ods_raw_log_d表为例，为您介绍如何通过DataWorks数据集成实现异构...
说明 目前OpenSearch对热搜进行的数据统计指标各包括：核心指标，流量指标，点击指标，引导搜索指标，四个维度：核心指标 指标名 定义 计算公式 依赖 意义 热搜PV 请求热搜且返回成功的次数，即不包括被限流等原因导致返回错误的请求 每...
方案亮点：百TB级数据，毫秒级实时查询、高维度随机组合，亚秒级订单搜索。客户感言 使用云数据库Lindorm集群和服务将近一年，在方案制定和实施过程中，阿里云数据库专家们为我们提供了大量珍贵的建议以及实战经验。遇到任何问题都能得到...
本文介绍访问数据分析功能的三种方式。通过顶部菜单栏直接进入数据可视化 登录 数据管理DMS 5.0。单击控制台左上角的 图标，选择 全部功能 集成与开发 数据应用 数据分析。说明 若您使用的是非极简模式的控制台，在顶部菜单栏中，选择 集成...
离线数据集是通过指标映射创建离线标签的前提条件。可以选择表映射、SQL加工以及表单加工的方式对离线数据集进行定义。并通过预定义加工的方式，以便后续的离线标签创建。功能概述 您可根据业务需求创建所需的离线数据集。离线数据集的加工...
数据源配置 基于业务数据源是否区分生产数据源和开发数据源：如果业务数据源区分生产数据源和开发数据源，则选择 生产+开发数据源。如果业务数据源不区分生产数据源和开发数据源，则选择 生产数据源。标签 您可以根据标签给数据源进行分类...
通过创建Lindorm数据源能够实现Dataphin读取Lindorm的业务数据或向Lindorm写入数据。本文为您介绍如何创建Lindorm数据源。背景信息 Lindorm是阿里云推出的自研数据库，提供宽表、时序、文件、搜索等多种数据模型，支持毫秒级在线数据处理、...
通过创建Lindorm数据源能够实现Dataphin读取Lindorm的业务数据或向Lindorm写入数据。本文为您介绍如何创建Lindorm数据源。背景信息 Lindorm是阿里云推出的自研数据库，提供宽表、时序、文件、搜索等多种数据模型，支持毫秒级在线数据处理、...
通过创建Lindorm（计算引擎）数据源能够实现Dataphin读取Lindorm（计算引擎）的业务数据或向Lindorm（计算引擎）写入数据。本文为您介绍如何创建Lindorm（计算引擎）数据源。背景信息 Lindorm（计算引擎）是阿里云推出的自研数据库，提供宽...
通过创建Lindorm（计算引擎）数据源能够实现Dataphin读取Lindorm（计算引擎）的业务数据或向Lindorm（计算引擎）写入数据。本文为您介绍如何创建Lindorm（计算引擎）数据源。背景信息 Lindorm（计算引擎）是阿里云推出的自研数据库，提供宽...
索引是加速数据库查询的重要方法。云原生多模数据库 Lindorm 宽表引擎除了支持高性能原生二级索引，也支持一种新的索引类型，称为搜索索引（SearchIndex），搜索索引主要面向复杂的多维查询场景，能够覆盖分词、模糊查询、聚合分析、排序...
数据管理DMS整合了数据库自治服务DAS的部分功能，可以帮助您掌握数据库实例的性能状况，快速、精准、有效地优化数据库服务。前提条件 如果您的数据库的管控模式为自由操作或稳定变更，并且您拥有实例的登录权限，当您登录目标实例后您将...
若您要在DataWorks中进行数据建模、数据开发或使用运维中心周期性调度任务，需先将已创建的数据源或集群绑定至数据开发（DataStudio）模块。绑定后，才可读取数据源或集群中的数据，并进行相关开发操作。前提条件 您需根据后续要开发和调度...
当数据库中表的数据量过大时，可能会影响查询数据速率，在不考虑将数据迁移到其他数据库的情况下，您可以将数据库中的历史数据或使用频率低的冷数据归档在当前数据库下的其他表中。同时，结合DMS提供的归档时清理源表功能，帮助您提升数据...
本文为您介绍如何通过数据质量实现表数据监控。前提条件 在进行本实验前，请确保已完成 同步数据 和 加工数据。已通过数据集成将存储于RDS MySQL的用户基本信息（ods_user_info_d）同步至MaxCompute的ods_user_info_d表。已通过数据集成将...
本文为您介绍如何通过数据质量实现表数据监控。前提条件 在进行本实验前，请确保已完成 同步数据 和 加工数据。已通过数据集成将存储于RDS MySQL的用户基本信息（ods_user_info_d）同步至MaxCompute的ods_user_info_d表。已通过数据集成将...
使用BI分析模式配置组件数据是一个全新的数据配置功能，需要与您准备的数据集内容相结合，您可以使用BI分析模式，为组件自由分配所需数据集的字段内容，合理配置图表数据映射和其他数据筛选等功能。本文介绍BI分析模式下组件数据配置面板...
实验设计 实验背景 为了更好地制定企业经营策略，现需要从用户网站行为中获取网站用户群体基本画像数据，例如，用户群体地理属性、社会属性等，实现定时定点进行画像分析，进而实现网站流量精细化运营操作，通过DataWorks在线学习的方式...
本文为您介绍将数据归档至 RDS MySQL 的操作步骤。前提条件 支持如下类型的源数据库：MySQL类型：RDS MySQL、PolarDB MySQL版、AnalyticDB MySQL 3.0。PostgreSQL类型：RDS PostgreSQL、PolarDB PostgreSQL版。PolarDB-X 2.0。说明 MySQL...
本教程以用户画像为例，在华东2（上海）地域演示如何使用DataWorks完成数据同步、数据加工和质量监控的全流程操作。...在下一个教程中，您将学习将用户基本信息数据、用户网站访问日志数据同步至StarRocks中。详情请参见 同步数据。
功能介绍 多数据源类型接入：Dataphin内置丰富的数据源类型，支持对接的数据源包括大数据存储型数据源、文件型数据源、消息队列型数据源、关系型数据源和NoSQL数据源。更多信息，请参见 Dataphin支持的数据源。自定义数据源类型：在内置的...
功能介绍 多数据源类型接入：Dataphin内置丰富的数据源类型，支持对接的数据源包括大数据存储型数据源、文件型数据源、消息队列型数据源、关系型数据源和NoSQL数据源。更多信息，请参见 Dataphin支持的数据源。自定义数据源类型：在内置的...
Lindorm SQL语法手册 存储能力 功能集 功能 功能描述 参考文档 数据存储 数据读写 支持多种数据模型和查询语言，支持kv型、文档型、时间序列型等多种数据模型，支持使用SQL语言或开源API进行查询和操作，用户可以根据实际需求选择进行读写...
数据安全与合规 概述 MaxCompute以数据保护三要素保密性、完整性和可用性为基础，构建全面的数据安全保护屏障，并提供完善的数据访问控制能力和安全可信的计算环境。通过集群高可用和容灾方案确保业务的连续性，系统详细记录用户操作日志和...
对于Java语言的应用开发，建议基于Java JDBC Driver构建时序引擎的应用程序，具体请参见 Java JDBC Driver开发手册。说明 单机版不支持此功能。请求路径与方法 请求路径 请求方法 描述/api/v2/sql POST 发送并执行SQL语句。请求内容 请求...
本文为您介绍如何将数据归档至专属存储中（存储在 DMS），以及删除归档至专属存储的数据等操作。前提条件 源数据库类型为：MySQL：RDS MySQL、PolarDB MySQL版、AnalyticDB MySQL 3.0。说明 MySQL数据库账号必须具有REPLICATION CLIENT权限...