数据系统开发

_相关内容

配置PolarDB输入

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。鼠标悬停至 图标,单击 新建节点 数据集成 实时同步。您也可以展开业务流程,右键单击目标业务流程...

使用旧版数据开发体验

通过本教程,您可以了解如何使用DataWorks和MaxCompute产品组合进行大数据开发和分析,并通过用户画像分析案例体验DataWorks在数据集成、数据开发和运维中心模块方面的相关能力。案例介绍 为了更好地制定企业经营策略,现需要从用户网站...

DataWorks HoloStudio下线公告

尊敬的DataWorks用户:为给您提供一致的开发体验,DataWorks HoloStudio 产品能力将整合至 DataWorks 数据开发(DataStudio)中,从 2024年2月29日 开始,HoloStudio将不再提供服务,届时您可使用DataStudio相关功能继续进行Hologres的数据...

实践示例:E-MapReduce底层脱敏使用方法

新增脱敏场景 DataWorks提供的 数据开发/数据地图展示脱敏、数据分析展示脱敏、MaxCompute引擎层脱敏、Hologres引擎层脱敏 等动态脱敏,及 数据集成静态脱敏 等一级脱敏场景为固定场景,不支持执行新增、编辑、删除等操作,可基于业务需要...

运维阶段

开发人员根据需求将代码发布上线后,还需要及时处理数据、程序、调度、监控告警等的异常事件,保障数据产出时效、程序高效运行和生产稳定性。背景信息 数据开发人员主要需要处理以下事项:程序异常处理、性能优化。调度异常处理。数据质量...

数据开发定制化展示

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。调整DataStudio左侧导航栏模块(即区域2展示的功能)。新用户可根据区域1的提示,在DataStudio界面...

元数据中心

管理元数据是对所涉及的技术元数据、业务元数据采用科学有效的机制进行梳理、集成及管理,并对相关业务、开发等用户提供元数据服务,以满足不同用户的业务需求场景,为企业的业务系统数据分析的开发、维护等过程提供支持。元数据入口 在...

技术架构选型

在数据模型设计之前,您需要首先完成技术架构的选型。本教程中使用阿里云大数据产品MaxCompute配合DataWorks,完成整体的数据建模和研发流程。...DataWorks则包括数据开发数据质量、数据安全、数据管理等在内的一系列功能。

创建临时查询

背景信息 若您仅需在数据开发(DataStudio),即开发环境,查询数据及相关SQL代码、测试代码的实际运行情况与期望值是否相符,或验证代码的正确性,而无需将数据或SQL代码发布至生产环境并操作生产环境引擎,则可通过 新建临时查询文件 ...

数据集成实时任务配置Check节点

使用限制 支持数据集成首页以及数据开发新建的数据集成实时任务。支持数据集成实时任务通道为:MySQL实时同步至MaxCompute Kafka实时同步至MaxCompute MySQL实时同步至Hologres 支持 使用Serverless资源组。如果您使用旧版资源组出现如下报...

配置数据过滤转换

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。鼠标悬停至 图标,单击 新建节点 数据集成 实时同步。您也可以展开业务流程,右键单击目标业务流程...

用户价值

用户角色 功能 能力 详述 数据生产方 数据开发 设计数据模型 开发数据加工逻辑 设计标准、稳定的数据模型:通过数据标准和数据建模,设计标准化数据模型,提高数据模型的稳定性,减少重复开发工作。高效完成数据加工与运维:通过数据同步、...

更多场景案例/教程

数据集成 数据开发 数据分析与可视化 相关教程 说明 教程使用的计算引擎 涉及模块 使用公开数据集体进行数据查询、分析和可视化 DataWorks汇聚了丰富的官方真实数据(敏感数据已脱敏),每份数据均提供了具体业务场景的查询SQL,您可选择感...

查看公共表

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。在左侧导航栏,单击 公共表。单击左下方的 图标,即可展开或折叠左侧导航栏。选择引擎类型和引擎...

配置字符串替换

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。鼠标悬停至 图标,单击 新建节点 数据集成 实时同步。您也可以展开业务流程,右键单击目标业务流程...

数据源配置

数据源用于连接各类数据库和存储服务(如MaxCompute、MySQL、OSS等),是 数据集成同步任务 的必备配置,决定任务读取(数据来源)和写入(数据去向)的数据库。数据源的作用 在数据集成任务中,数据源扮演着数据流动两端的“端点”角色:...

ClusterConfig

ide:DataStudio(数据开发)。scheduler.backfill:运维中心-补数据实例。da:数据分析。scheduler.auto:运维中心-周期实例。ide ConfigValue string 配置值。{"spark.driver.memory":"1g"} EnableOverwrite boolean 是否覆盖数据开发中...

创建业务流程

DataWorks的 业务流程 开发结构满足根据业务视角来组织数据开发任务的需求,也提供了 周期业务流程 和 手动业务流程 两种,以满足需要周期性调度和无需周期性调度手动触发运行的场景。本文为您介绍如何创建、设计、提交和查看业务流程,...

运行历史

运行历史面板为您展示最近三天您在数据开发界面运行过的所有任务记录,单击相应的任务,即可查看运行日志。说明 运行历史 界面只展示当前账号在数据开发(DataStudio)最近三天的运行记录。如您需查看调度任务每日运行情况,请前往 运维...

Shell类型节点运行Python脚本

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。新建MaxCompute Python资源。在数据开发页面右键单击目标业务流程,选择 新建资源,在 MaxCompute ...

配置AnalyticDB for MySQL输出

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。鼠标悬停至 图标,单击 新建节点 数据集成 实时同步。您也可以展开目标业务流程,右键单击 数据集成...

表管理

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。在左侧导航栏单击 表管理。新建、查找及编辑目标表 新建表及导入表数据 在表管理页面,您可单击 及 ...

DataWorks新版数据源公告

若想使用创建的数据源进行数据开发,则数据源创建完成后还需进入数据开发(DataStudio)进行模块绑定。已绑定的计算引擎:已绑定的计算引擎迁移至 计算资源 进行管理。编辑计算引擎:不再支持直接编辑计算引擎,如需编辑可通过编辑数据源来...

配置DataHub输入

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。鼠标悬停至 图标,单击 新建节点 数据集成 实时同步。您也可以展开业务流程,右键单击目标业务流程...

任务调试流程

前提条件 已完成任务开发,详情请参见 数据开发概述。背景信息 您可根据业务需要,选择 调试运行单个任务 或 调试运行业务流程。运行完成后,可通过 查看运行历史、新建临时查询文件 查看运行结果,并 对查询结果进行相关操作。说明 调试...

Shell类型节点使用ossutil工具

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。新建通用Shell节点。在数据开发页面右键单击目标业务流程,选择 新建节点,在 通用 目录下选择 ...

查看代码结构

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。进入目标节点的编辑页面。您可以在 数据开发 或 手动业务流程 的目录树下,找到目标节点,双击该...

创建数据脱敏场景

DataWorks提供的 数据开发/数据地图展示脱敏、数据分析展示脱敏、MaxCompute引擎层脱敏、Hologres引擎层脱敏 等动态脱敏,及 数据集成静态脱敏 等静态脱敏均为一级脱敏场景,属于固定场景,不支持执行新增、编辑、删除等操作。同时,...

资源组编排

DataWorks的资源组编排功能,帮助您在数据开发阶段,批量修改指定业务流程下目标节点使用的调度资源组。当您的工作空间中有多个调度资源组时,可以根据实际业务需求,使用该功能快速为目标节点重新分配资源组,促进资源的合理使用。本文为...

数据开发与管理

数据库 SelectDB 版 的 数据开发与管理工具,是基于阿里云环境原生设计开发的可视化平台,用于支持您在阿里云上对 云数据库 SelectDB 版 实例 进行可视化开发与管理,可以替代Navicat等数据库客户端工具。本文介绍 云数据库 SelectDB 版 ...

配置DataHub输出

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。鼠标悬停至 图标,单击 新建节点 数据集成 实时同步。您也可以展开业务流程,右键单击目标业务流程...

数据安全概述

典型应用场景:数据分析场景的即席查询、数据开发场景的生产数据写开发数据消费里的数据服务等。静态脱敏 直接修改底层数据的存储,数据存储时就已经是加密或者脱敏过的,例如常见的pn_md5。典型应用场景:数据集成时对敏感数据加密、数...

Flink资源与函数

Data Studio支持可视化创建并管理Flink Jar资源,创建的资源可用于创建自定义函数或在数据开发。本文将介绍如何通过资源管理来创建Flink不同类型的资源和函数。前提条件 已 绑定全托管Flink计算资源,创建资源与函数均基于Flink计算资源...

旧版资源组升级

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。在左侧导航栏,单击 数据开发,找到目标业务流程,右键选择 批量操作。节点类型 选择为 离线同步 和...

附录:预设角色权限列表(空间级)

DataWorks提供项目所有者、空间管理员、数据分析师、开发、运维、部署、访客、安全管理员、模型设计师、数据治理管理员等多种角色,本文将为您介绍具体角色的权限说明。DataWorks提供的空间预设角色默认拥有所有空间级模块的可读权限,但...

AnalyticDB for MySQL

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。右键单击目标业务流程,选择 新建节点 AnalyticDB for MySQL ADB for MySQL。在 新建节点 对话框中...

Data Lake Analytics节点

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。鼠标悬停至 图标,单击 新建节点 自定义 Data Lake Analytics。您也可以打开相应的业务流程,右键...

准备环境

本案例提供数据仅作为阿里云大数据开发治理平台DataWorks数据应用实操使用,所有数据均为人工Mock数据。本教程使用 数据开发(DataStudio)(旧版)进行数据加工。MaxCompute环境准备 一、开通MaxCompute产品 本教程基于MaxCompute实现,请...

Hologres SQL节点

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。创建 业务流程。如果您已有 业务流程,则可以忽略该步骤。鼠标悬停至 图标,选择 业务流程。在 新建...

运行历史

DataWorks的运行历史面板展示您最近三天在数据开发界面的任务执行记录。使用限制 仅展示 当前账号 的运行记录。仅展示 最近三天 的运行记录。仅展示数据开发模块的运行记录。如需查看调度任务每日运行情况,请前往 运维中心 的 周期实例,...
< 1 2 3 4 ... 200 >
共有200页 跳转至: GO
新人特惠 爆款特惠 最新活动 免费试用