数据质量 数据质量校验事件 批量创建数据质量规则前置事件 批量更新数据质量规则前置事件 更新数据质量规则前置事件 批量删除数据质量规则前置事件 创建数据质量监控前置事件 更新数据质量监控前置事件 克隆数据质量监控前置事件 创建数据...
登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的 数据开发与运维 数据开发，在下拉框中选择对应工作空间后单击 进入数据开发。鼠标悬停至 图标，单击 新建节点 数据集成 实时同步。您也可以展开业务流程，右键单击目标业务流程...
登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的 数据开发与运维 数据开发，在下拉框中选择对应工作空间后单击 进入数据开发。鼠标悬停至 图标，单击 新建节点 数据集成 实时同步。您也可以展开目标业务流程，右键单击 数据集成...
DataHub是流式数据（Streaming Data）的处理平台，为您提供发布、订阅和分发流式数据的功能，让您可以轻松构建基于流式数据的分析和应用。前提条件 配置DataHub输出节点前，您需要先配置好相应的输入或转换数据源，实时同步支持的数据源。...
迁移其它业务平台的业务数据至MaxCompute：迁移Hadoop数据至MaxCompute，详情请参见 迁移Hadoop数据至MaxCompute最佳实践（视频）。数据迁移和脚本迁移遇到的问题及解决方案请参见 迁移自建Hadoop数据至MaxCompute实践。迁移Oracle数据至...
迁移其它业务平台的业务数据至MaxCompute：迁移Hadoop数据至MaxCompute，详情请参见 迁移Hadoop数据至MaxCompute最佳实践（视频）。数据迁移和脚本迁移遇到的问题及解决方案请参见 迁移自建Hadoop数据至MaxCompute实践。迁移Oracle数据至...
通过本教程，您可以了解如何使用DataWorks和MaxCompute产品组合进行数仓开发与分析，并通过案例体验DataWorks数据集成、数据开发和运维中心模块的相关能力。案例介绍 为了更好地制定企业经营策略，现需要从用户网站行为中获取网站用户群体...
进入编辑器界面 登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的 数据开发与运维 数据开发，在下拉框中选择对应工作空间后单击 进入数据开发。进入节点的代码编辑器。在数据开发页面的左侧目录树查找目标节点，双击节点名称即可...
调试运行单个任务 数据开发概述，在左侧导航栏的数据开发或手动业务流程模块，双击业务流程目录下的目标节点，进入该节点的编辑页面。调试运行任务。在节点编辑页面，使用节点工具栏中的运行或高级运行调试代码逻辑，也可通过快捷运行调试...
登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的 数据开发与运维 数据建模，在下拉框中选择对应工作空间后单击 进入数据建模。（可选）如果您尚未开通DataWorks智能数据建模，首次进入时请单击 立即开通。重要 DataWorks智能...
DataWorks的数据对比节点可实现对不同表之间的数据进行多种方式的对比，并可在工作流中使用。本文为您介绍使用数据对比...运行日志查看：若仅在数据开发页面对数据对比节点运行，可在数据开发页面单击下图链接，将跳转至数据校验报告页面。
登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的 数据开发与运维 数据开发，在下拉框中选择对应工作空间后单击 进入数据开发。单击左上方的 图标，选择 全部产品 数据建模 维度建模。在顶部菜单栏单击 行业模型模版，进入行业...
登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的 数据开发与运维 数据开发，在下拉框中选择对应工作空间后单击 进入数据开发。鼠标悬停至 图标，单击 新建节点 自定义 Data Lake Analytics。您也可以打开相应的业务流程，右键...
DataWorks为您提供了 数据开发/数据地图展示脱敏、数据集成静态脱敏、数据分析展示脱敏、MaxCompute引擎层脱敏、Hologres引擎层脱敏 等一级脱敏场景，您可直接使用。若该类场景指定生效的数据范围及用户范围无法满足您更细化的脱敏需求，则...
登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的 数据开发与运维 数据建模，在下拉框中选择对应工作空间后单击 进入数据建模。在 智能数据建模 页面的顶部菜单栏，单击 维度建模。在 维度建模 页面，鼠标悬停至 图标，单击 概念...
Presto（即PrestoDB）是一款灵活、可...A：请确保集群类型为 旧版Hadoop数据湖集群。Q：节点运行出现连接超时？A：请确保 资源组 和 集群 的 网络联通。请进入计算资源的列表页，单击资源初始化，在弹窗中单击 再次初始化，确保成功初始化。
DataWorks是一站式智能大数据开发治理平台，适配阿里云MaxCompute、E-MapReduce、Hologres、Flink、AnalyticDB、StarRocks、PAI 等数十种大数据和AI计算服务，为数据仓库、数据湖、湖仓一体、Data+AI解决方案提供全链路智能化的数据集成、...
开发和测试 学习和培训 小型项目 生产环境 高可用性和容错性要求高的场景 多用户和多任务 大规模数据存储和处理 快速部署 您可以单击 一键运行 进入Terraform Explorer查看并执行Terraform代码，从而实现自动化地在ECS实例中搭建Hadoop环境...
Presto（即PrestoDB）是一款灵活、可...A：请确保集群类型为 旧版Hadoop数据湖集群。Q：节点运行出现连接超时？A：请确保 资源组 和 集群 的 网络联通。请进入计算资源的列表页，单击资源初始化，在弹窗中单击 再次初始化，确保成功初始化。
登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的 数据开发与运维 数据开发，在下拉框中选择对应工作空间后单击 进入数据开发。鼠标悬停至 图标，单击 新建节点 数据集成 实时同步。您也可以展开业务流程，右键单击目标业务流程...
当您所需要管理多个DataWorks工作空间且需要复用一套数仓规划时，面对跨多个工作空间的复杂数据体系，可以通过设计空间来共享一套数据建模工具，针对整个数据体系进行统一的数仓规划、维度建模及指标定义等工作。本文为您介绍DataWorks建模...
本文为您介绍新版数据开发的基本开发流程。前提条件 已创建DataWorks工作空间并开通新版数据开发。本指南适用于新版数据开发，如需使用，请确保您的工作空间已开通新版数据开发。开通方式如下：创建工作空间 时，选择 使用新版数据开发...
登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的 数据开发与运维 数据开发，在下拉框中选择对应工作空间后单击 进入数据开发。右键单击目标业务流程，选择 新建节点 AnalyticDB for MySQL ADB for MySQL。在 新建节点 对话框中...
在数据开发DataStudio界面中，您可在 操作历史 界面通过操作类型、操作人、操作时间进行筛选，查看人员在当前工作空间中的操作记录。使用说明 仅支持查看DataStudio中以下几类操作记录：任务责任人变更操作、任务调度属性变更操作、任务及...
DataWorks的 业务流程 开发结构满足根据业务视角来组织数据开发任务的需求，也提供了 周期业务流程 和 手动业务流程 两种，以满足需要周期性调度和无需周期性调度手动触发运行的场景。本文为您介绍如何创建、设计、提交和查看业务流程，...
发布模型可将逻辑模型物化为MaxCompute、Hologres等物理引擎中的物理表或视图，用于后续的数据开发与分析。限制条件 发布模型前，需满足以下条件：目标引擎：支持发布至 MaxCompute、Hologres、EMR Hive、CDH、MySQL 引擎。发布类型：发布...
Spark是一种通用的大数据计算框架，拥有Hadoop MapReduce所具有的计算优点，能够通过内存缓存数据为大型数据集提供快速的迭代功能。与MapReduce相比，减少了中间数据读取磁盘的过程，进而提高了处理能力。本文介绍如何通过ES-Hadoop实现...
进入数据开发节点的编辑页面，单击右侧导航栏的 调度配置，在 基础属性 区域配置调度节点的基本信息。参数 描述 名称 新建数据开发节点时输入的节点名称，不可以修改。节点ID 数据开发节点提交后会生成唯一的节点ID，不可以修改。节点类型 ...
新增Hadoop数据源。在 数据源列表 页面，单击 新增数据源。在 新增数据源 页面，搜索并选择 HDFS。在 新增HDFS数据源 页面，配置数据源参数。配置详情，请参见 配置HDFS数据源。单击 测试连通性，连通状态显示为 可连通 时，表示连通成功。...
数据源用于连接各类数据库和存储服务（如MaxCompute、MySQL、OSS等），是 数据集成同步任务 的必备配置，决定任务读取（数据来源）和写入（数据去向）的数据库。数据源的作用 在数据集成任务中，数据源扮演着数据流动两端的“端点”角色：...
HDP（Hortonworks Data Platform）是由Hortonworks发行的大数据平台，包含了Hadoop、Hive、HBase等开源组件。HDP 3.0.1版本中的Hadoop 3.1.1版本已支持OSS，但是低版本的HDP不支持OSS。本文以HDP 2.6.1.0版本为例，介绍如何配置HDP 2.6版本...
DataWorks的DataStudio（数据开发）支持将本地的CSV文件或自定义文本文件数据直接上传至MaxCompute表中，本文为您介绍相关操作。前提条件 已创建用于接收本地数据的MaxCompute开发表。建表操作请参见 创建并使用MaxCompute表。使用限制 ...
登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的 数据开发与运维 数据开发，在下拉框中选择对应工作空间后单击 进入数据开发。鼠标悬停至 图标，单击 新建节点 数据集成 实时同步。您也可以展开业务流程，右键单击目标业务流程...
登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的 数据开发与运维 数据开发，在下拉框中选择对应工作空间后单击 进入数据开发。鼠标悬停至 图标，单击 新建节点 数据集成 实时同步。您也可以展开业务流程，右键单击目标业务流程...
适用场景 该功能仅支持 标准模式且使用了新版数据开发 的工作空间，在同一工作空间下，将节点、函数、资源、组件等对象批量从开发环境发布至生产环境。说明 标准模式的旧版数据开发同空间批量发布流程请参见 发布任务。使用限制 权限限制 ...
ide：DataStudio（数据开发）。scheduler.backfill：运维中心-补数据实例。da：数据分析。scheduler.auto：运维中心-周期实例。ide ConfigValue string 配置值。{"spark.driver.memory":"1g"} EnableOverwrite boolean 是否覆盖数据开发中...
DataWorks提供了全链路的数据开发治理能力，为您提供了统一的数据开发治理流程，支持您基于自己的业务需求，在关键的流程节点上进行流程管控。本文为您介绍DataWorks在数据开发过程中支持的流程管控能力。背景信息 DataWorks的工作空间分为...
本文为您介绍如何新建HttpFile和MySQL数据源来访问本教程所提供的用户信息与网站日志数据，配置数据同步链路至私有OSS数据源，并通过EMR Hive节点建表查询同步后的数据，完成数据同步的操作过程。前提条件 开始本文的操作前，请准备好需要...
提交到开发环境 提交表至DataWorks的开发环境，即在开发环境对应的Hologres数据库创建当前表。提交后您可在DataWorks数据开发相应业务流程（即创建表时所选的路径）的Hologres目录，查看该表结构。从生产环境加载 用于从生产环境加载生产表...
DataWorks提供了全链路的数据开发治理能力，为您提供了统一的数据开发治理流程，同时也支持您在DataWorks的默认流程上基于自己的业务需求在关键的流程节点进行流程管控。本文为您介绍DataWorks在数据开发过程中支持的流程管控能力。背景...