数据开发工作

_相关内容

工作空间发布

适用场景 该功能仅支持 标准模式且使用了新版数据开发工作空间,在同一工作空间下,将节点、函数、资源、组件等对象批量从开发环境发布至生产环境。说明 标准模式的旧版数据开发同空间批量发布流程请参见 发布任务。使用限制 权限限制 ...

工作空间模式升级

暂不支持将开启新版数据开发工作空间从简单模式升级为标准模式。升级策略 工作空间模式升级后,平台会基于原简单模式工作空间的生产环境数据源,新增对应的开发环境数据源,实现数据源环境隔离。MaxCompute数据源:平台通过判断计算资源...

DataWorks新版数据源公告

若想使用创建的数据源进行数据开发,则数据源创建完成后还需进入数据开发(DataStudio)进行模块绑定。已绑定的计算引擎:已绑定的计算引擎迁移至 计算资源 进行管理。编辑计算引擎:不再支持直接编辑计算引擎,如需编辑可通过编辑数据源来...

工作空间模式区别

仅需要授权数据开发人员“DataWorks开发角色”即可完成所有数据仓库开发工作。安全、规范。具备安全、规范的代码发布管控流程(包含代码评审、代码DIFF查看等功能),保障生产环境稳定性,避免因代码逻辑引起的脏数据蔓延或任务报错等非...

跨云发布

环境限制 源工作空间跨云发布到目标工作空间时,环境限制如下:源工作空间 目标工作空间 工作空间模式 数据开发版本 简单模式 新版数据开发 简单模式 旧版数据开发 标准模式 新版数据开发 标准模式 旧版数据开发 简单模式 新版数据开发 不...

配置工作空间

创建工作空间 工作空间是DataWorks管理任务、成员,分配角色和权限的基本单元,所有开发工作都将在具体的工作空间内完成。因此,进行任务开发前您需要先 创建工作空间。配置工作空间 进入空间配置页面 进入 DataWorks工作空间列表,在控制...

MaxCompute在不同模式工作空间访问资源与权限说明

仅需要授权数据开发人员“DataWorks开发角色”即可完成所有数据仓库开发工作。安全、规范。具备安全、规范的代码发布管控流程(包含代码评审、代码DIFF查看等功能),保障生产环境稳定性,避免不必要的因代码逻辑引起的脏数据蔓延或任务报...

发布中心

工作空间发布 该功能仅支持 标准模式且使用了新版数据开发工作空间,在同一工作空间下,将节点、函数、资源、组件等对象批量从开发环境发布至生产环境。跨工作空间发布 跨工作空间发布主要用于同地域同一阿里云账号下,将节点、函数、...

发布中心概述

工作空间发布 该功能仅支持 标准模式且使用了新版数据开发工作空间,在同一工作空间下,将节点、函数、资源、组件等对象批量从开发环境发布至生产环境。跨工作空间发布 跨工作空间发布主要用于同地域同一阿里云账号下,将节点、函数、...

DataStudio侧实时同步任务配置

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。步骤一:创建实时同步任务 新版数据开发 创建工作流。详情请参见:工作流编排。创建实时同步节点。...

管理触发器

Kafka触发器 参数 配置说明 适用工作空间 选择可使用该触发器的工作空间,仅支持新版数据开发工作空间。适用环境 触发器只适用于生产环境,在开发环境运行时,需手动填写参数。责任人 下拉配置触发器的责任人。触发器类型 选择 云消息...

Dify管理与开发

开发 该角色拥有数据开发和维护、引入数据源、执行SQL、Notebook和任务编排的开发与维护的权限。说明 能否使用数据源取决于您的阿里云账号是否有查询、变更等 权限。运维 该角色拥有发布与运维生产任务(main分支的发布和生产环境的运维)...

基于MaxCompute实现拉链表

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。创建业务流程。鼠标悬停至 图标,单击 新建业务流程。在 新建业务流程 对话框中,输入 业务名称 和 ...

进入数据质量大盘

数据质量大盘为您展示当前工作空间下,需要重点关注的数据质量总览指标、实例运行后触发的质量规则校验状态的趋势及分布情况、TOP质量问题表及质量问题责任人、质量规则覆盖保障情况等,帮助质量负责人快速了解工作空间数据质量整体情况,...

数据处理

使用限制 仅启用了新版数据开发工作空间可用。仅支持使用Serverless资源组。当前仅部分单表离线的通道开通了此功能。开启数据处理能力会额外消耗部分计算资源(CU),请关注您的资源配额。配置入口 创建或编辑的离线同步任务配置页面,向...

查看AI资产

前提条件 已 创建参加新版数据开发工作空间。您需要根据需求选择以下版本:说明 创建PAI工作空间 的租户支持搜索查看对应类型的AI资产,您需在创建工作空间时勾选 创建同名AI工作空间。DataWorks标准版:对于常规的AI资产血缘服务,您...

新旧版功能对比

如果您曾经使用过旧版数据开发(DataStudio),阅读本文档能够帮助您快速了解新旧版数据开发间功能变化,适应新版环境,衔接后续开发工作。全新用户无需阅读,可直接开始使用新版数据开发。重要 以下仅列举旧版升级新版后位置变化或功能...

工作空间

届时,您可以在工作空间中进行Data+AI的深度集成开发。注意事项 新版Notebook仅支持部分地域使用,包括:华东1(杭州)、华北2(北京)、华东2(上海)、华南1(深圳)、新加坡和印度尼西亚(雅加达)。相关文档 工作空间准备 Notebook开发

建模空间

数据模型设计空间 与 数据研发工作空间 的关系后,模型设计师在进行模型(汇总表、维度表、明细表、应用表)发布时,可以选择将模型物化到被关联的某一个研发空间,后续数据开发工程师即可在对应的工作空间进行数据开发操作。需要注意的是...

操作指南

您可以在Dataphin工作台进行数据开发、数据治理等操作。功能 文档 Dataphin共享模式(全托管版)数仓规划概述 数据引入概述 数据开发概述 发布中心概述 运维中心 分析平台概述 标签工厂概述 资产清单概述 数据标准概述 资产质量概述 资源...

新建开发环境场景并运行

您可以通过新建开发环境场景,并在开发环境场景画布中编排节点工作流、配置运行参数,来验证数据处理流程的正确性。本文以MaxCompute节点搭建流程为例介绍如何新建开发环境场景并运行。前提条件 已创建相关的云计算资源,具体操作,请参见 ...

创建临时查询

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。在左侧导航栏,单击 临时查询。您可以单击左下方的 图标,展开或折叠左侧导航栏。鼠标悬停至 图标,...

工作流编排

工作流是一种数据处理流程自动化管理工具,它通过可视化拖拽方式整合多种类型的子任务节点,便捷地建立任务上下游关系,加速数据处理流程的搭建,有效提升任务开发效率。功能说明 DataWorks提供了两种类型的工作流:周期工作流、触发式工作...

DataStudio功能引导

本文为您介绍DataWorks数据开发(DataStudio)界面的整体布局,以及进行开发操作的主界面(业务流程和节点)中各组件、按钮的功能作用,方便您快速了解及使用数据开发模块。进入数据开发 登录 DataWorks控制台,切换至目标地域后,单击左侧...

用户画像分析(MaxCompute简化版)

通过本教程,您可以了解如何使用DataWorks和MaxCompute产品组合进行数仓开发与分析,并通过案例体验DataWorks数据集成、数据开发和运维中心模块的相关能力。案例介绍 为了更好地制定企业经营策略,现需要从用户网站行为中获取网站用户群体...

RunCycleDagNodes-创建补数据工作

调用RunCycleDagNodes创建补数据工作流。接口说明 补数据相关内容,详情请参见 补数据。调试 您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的困扰。运行成功后,OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 下表...

数据开发与管理

本文介绍 云数据库 SelectDB 版 的 数据开发与管理工具的主要功能,帮助您高效完成数据开发与管理工作。SQL编辑器:支持执行SQL、查看从SQL编辑器发起执行的SQL记录、查看已保存的SQL以及查看并直接使用常见基准测试SQL模板。检索分析:...

创建EMR Kyuubi节点

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。新建EMR Kyuubi节点。右键单击目标业务流程,选择 新建节点 EMR EMR Kyuubi。说明 您也可以鼠标悬停...

创建EMR Hive节点

您可以创建EMR(E-MapReduce)HIVE节点,通过类SQL语句读写、管理存储在分布式存储系统上的大数据集的数据仓库,完成海量日志数据的分析和开发工作。前提条件 已创建阿里云EMR集群,并注册EMR集群至DataWorks。操作详情请参见 旧版数据开发...

创建EMR Impala节点

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。新建EMR Impala节点。右键单击目标业务流程,选择 新建节点 EMR EMR Impala。说明 您也可以鼠标悬停...

创建EMR Presto节点

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。新建EMR Presto节点。右键单击目标业务流程,选择 新建节点 EMR EMR Presto。说明 您也可以鼠标悬停...

创建和使用EMR资源

创建EMR资源 登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。鼠标悬停至 图标,单击 新建资源 EMR EMR JAR 或 新建资源 EMR EMR File。您也可以找到...

工作空间发布

环境限制 源工作空间跨工作空间发布到目标工作空间时,环境限制如下:源工作空间 目标工作空间 工作空间模式 数据开发版本 简单模式 新版数据开发 简单模式 旧版数据开发 标准模式 新版数据开发 标准模式 旧版数据开发 简单模式 新版数据...

数据开发问题诊断

DataWorks全新推出了实时数据开发治理功能,通过集成数据治理插件和LSP(Language Server Protocol)技术,在代码保存时可触发智能检测,并提供针对性的修复建议。开发者可以选择一键确认修复,快速解决问题。该功能依托预设的治理规则库和...

创建EMR Spark SQL节点

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。新建EMR Spark SQL节点。右键单击目标业务流程,选择 新建节点 EMR EMR Spark SQL。说明 您也可以...

创建EMR Spark Streaming节点

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。新建EMR Spark Streaming节点。右键单击目标业务流程,选择 新建节点 EMR EMR Spark Streaming。...

代码搜索

代码搜索功能仅支持搜索 数据开发、手动工作流、手动任务、回收站 目录下的节点。各目录功能,详情请参见 Data Studio功能引导。进入代码搜索 进入 DataWorks工作空间列表页,在顶部切换至目标地域,找到已创建的工作空间,单击 操作 列的 ...

个人设置

您可使用个人设置功能,自定义目标工作空间中数据开发(DataStudio)界面的布局和风格。例如,更改DataStudio左侧导航栏显示的功能模块、切换开发界面的背景颜色,以及设置编辑器可进行代码错误检查、自动换行、自动保存等。进入个人设置 ...

创建和查看DataWorks导入任务

进入迁移助手 登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。单击左上方的 图标,选择 全部产品 更多 迁移助手,进入迁移助手 首页。创建导入任务 ...

Airflow DMS Operator

操作步骤 说明 更多信息,请参见 工作开发。已进入WORKSPACE或REPOS配置代码页面。在Python文件中配置代码。Operator 说明 DMSSqlOperator 将SQL提交到DMS管理的数据库实例中执行,并获取结果。DTSLakeInjectionOperator 借助DTS的能力,...
< 1 2 3 4 ... 200 >
共有200页 跳转至: GO
新人特惠 爆款特惠 最新活动 免费试用