DataWorks提供项目所有者、空间管理员、数据分析师、开发、运维、部署、访客、安全管理员、模型设计师、数据治理管理员等多种角色,本文将为您介绍具体角色的权限说明。DataWorks提供的空间预设角色默认拥有所有空间级模块的可读权限,但...
本文为您介绍如何在DataWorks创建EMR Impala节点并进行数据开发。前提条件 已创建阿里云EMR集群,并注册EMR集群至DataWorks。操作详情请参见 新版数据开发:绑定EMR计算资源。(可选,RAM账号需要)进行任务开发的RAM账号已被添加至对应...
在节点(Shell节点、Python节点、Notebook节点)中使用数据集,以便在数据开发过程中读写NAS或OSS存储中的数据。也可以在创建个人开发环境时,将数据集作为个人开发环境实例的存储。重要 建议优先阅读 管理数据集,了解如何创建数据集。...
本文为您介绍如何通过函数计算方式开发部署扩展程序。背景信息 函数计算 是事件驱动的全托管计算服务,您可以将扩展程序部署在函数计算执行环境中,DataWorks 会将扩展点事件消息推送至 ExtensionRequest 类。在您的扩展程序代码中,通过...
前提条件 开始进行节点开发前,若您需要定制组件环境,此时即可基于官方镜像 dataworks_emr_base_task_pod 创建 自定义镜像,并在 数据开发中使用镜像。例如:在创建自定义镜像时替换Spark Jar包或是依赖特定的 库、文件 或 jar包。已创建...
传统模式下,车辆出售后,厂商很难掌握车辆基本状态信息,并且车辆软件问题修复成本非常高,也很难将更新的服务推给消费者。高效 从开通服务,到完成IoV CC SDK的获取、集成、打包,一般厂商开发者,只需要一到两周即可完成前期对接。IoV ...
本文为您介绍阿里云自动驾驶开发平台产品的核心优势。开放灵活 不绑定车上平台提供商,可适配用户任何的车上系统输出的数据格式 不绑定算法供应商,用户可自行上传预标注、数据预处理、格式转换等算法在平台上运行 不绑定工具链内各模块,...
调用此接口,可以删除指定的数据开发节点。接口说明 注意 当这个节点被发布后,无法删除,必须先下线再进行删除。调试 您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的困扰。运行成功后,OpenAPI Explorer可以自动生成SDK代码...
代码空间(CodeSpace)提供预置常用开发工具链的云端代码执行与开发环境,用于执行代码编译、运行脚本、API测试、CI/CD等开发相关任务。适用场景 云端开发环境:作为即开即用的远程开发环境,无需配置本地环境。自动化构建与测试:在CI/CD...
本文以使用MaxCompute数据源,在DataWorks上运行MaxCompute作业任务为例,为您介绍开发人员如何使用数据开发(DataStudio)创建一个周期调度任务,帮助您快速了解数据开发(DataStudio)模块的基本使用。前提条件 已完成开发前的环境准备,...
调用此接口,可以将指定的数据开发节点的路径移动到指定位置。调试 您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的困扰。运行成功后,OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。...
调用此接口,可以将指定的数据开发工作流移动到数据开发目录的目标路径。调试 您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的困扰。运行成功后,OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权...
调用此接口,可以对数据开发文件资源进行重命名。调试 您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的困扰。运行成功后,OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。请求参数 名称 ...
在工作空间层,支持为每个独立的项目精细配置其专属的计算资源、数据源和开发成员。核心概念与系统架构 在开始具体操作前,必须首先理解 DataWorks 的核心架构和实体关系。核心概念:工作空间 工作空间 是 DataWorks 中进行项目管理、权限...
调用此接口,可以重命名数据开发节点。调试 您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的困扰。运行成功后,OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 下表是API对应的授权信息,可以在RAM权限策略语句的 ...
个人目录是为每位开发者提供的私有存储与开发空间,用于代码的管理和调试。您可以在此目录中创建和维护个人代码。个人目录说明 个人目录下的文件分为两类:我的文件和本地文件。以下为这两种文件类型的介绍:目录类型 存储目录 存储提供方 ...
DataWorks推出ETL工作流模板案例集,旨在帮助您快速了解产品的最佳实践。您可以一键将案例导入至指定工作空间,快速还原案例,体验产品能力。教程列表 DataWorks当前支持的ETL工作流模板...DataWorks版本计费详情请参见 软件版本选择与计费。
本文为您介绍数据开发的相关问题。资源 如何在pyodps调用第三方包?如何在节点内使用资源?如何下载上传到DataWorks的资源?超过30M的资源如何上传?通过odpscmd上传的资源如何在DataWorks上使用?在DataWorks如何上传自己本地编写的jar并...
调用此接口,可以将指定数据开发文件资源移动到指定的数据开发目录中。调试 您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的困扰。运行成功后,OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 下表是API对应的授权...
调用该接口,在数据开发中删除指定的工作流。接口说明 注意 当这个工作流被发布后,无法删除,必须先下线再进行删除。调试 您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的困扰。运行成功后,OpenAPI Explorer可以自动生成SDK...
(可选)在 通用配置 个人开发环境 区域配置当前空间下个人开发环境实例的自动关停策略。重要 仅支持部分地域,具体以页面为准。仅 开启新版数据开发 的工作空间可配置此选项。当空间下处于运行中状态的个人开发环境实例满足该空间级自动...
调用此接口,可以重命名数据开发工作流。调试 您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的困扰。运行成功后,OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 下表是API对应的授权信息,可以在RAM权限策略语句的...
配置项 配置内容 gender email phone 敏感字段类型 gender email phone 脱敏规则名称 gender email phone 所属脱敏场景 开发展示、SQL分析 开发展示、SQL分析 开发展示、SQL分析 脱敏方式 字符替换 替换位置 替换全部 替换方式 随机替换 ...
在 开发组管理 页面可以为小程序开发组执行增删改操作,并为创建的开发组添加成员。创建小程序开发组 在小程序开放平台左侧导航栏单击 开发组管理。在 开发组管理 页面,单击 创建小程序开发组。在 新建小程序开发组 侧拉框中输入小程序...
当您需要为新的数据项目启动开发工作时,面临着如何隔离代码、资源和团队成员,以避免项目混乱和安全风险的挑战。DataWorks 工作空间正是为此设计的解决方案。它通过提供一个独立的、项目制的容器,让您能够结构化地管理开发任务、计算资源...
在将开发工程接入 mPaaS 后或基于 mPaaS 插件创建工程后,即可将开发小助手接入开发工程(点击快速了解如何使用开发小助手),使用开发小助手进行调试、帮助开发。说明 开发小助手有以下使用限制:开发小助手仅支持组件化 Portal&Bundle 接...
如果您在开发任务时,需要特定的开发环境支持,可使用DataWorks提供的自定义镜像功能,定制化构建任务执行所需的组件镜像。更多信息,请参见 自定义镜像。请勿在Shell里启动大量子进程,由于目前Shell节点没有资源限制,该操作可能会影响...
IoT Studio提供了组件开发功能,便于开发者开发、发布和管理自己研发的组件,并将其发布到可视化工作台中用于可视化页面搭建。从而满足开发者的需求,提升组件丰富性,为可视化搭建提供无限可能。使用说明 组件开发功能升级中,暂停新用户...
绑定后,在不同工作空间模式下,DataWorks模块对应操作的数据源如下表所示:DataWorks模块 标准模式 简单模式 数据开发 操作开发环境数据源(实例,项目、数据库)操作生产环境数据源(实例,项目、数据库)运维中心 开发环境运维中心:...
开发组件前,需先创建组件来定义组件名称、类型和功能特性描述,便于组件发布后引导开发者使用。本文介绍如何在组件开发工作台创建组件。新增组件 在 应用开发 页面的 开发工具 模块,单击 组件开发。在 组件开发个人组件 页签,单击 新建...
快速了解IoT Studio 物联网应用开发提供了Web可视化开发、移动可视化开发、业务逻辑开发与物联网数据分析等一系列便捷的物联网开发工具,解决物联网开发领域的开发链路长、定制化程度高、投入产出比低、技术栈复杂、协同成本高、方案移植...
调用该接口,在数据开发中删除指定的udf函数。接口说明 注意 当这个 udf 函数被发布后,无法删除,必须先下线再进行删除。调试 您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的困扰。运行成功后,OpenAPI Explorer可以自动...
DataWorks将不同类型引擎任务封装为不同节点,通过创建节点来生成数据开发任务。同时,数据开发(DataStudio)支持使用资源、函数以及不同的逻辑处理节点开发复杂任务。本文将为您介绍数据开发任务的通用开发流程。前提条件 已绑定所需数据...
若您当前使用的是简单模式工作空间,但希望将开发与生产环境隔离,可将简单模式工作空间升级为标准模式工作空间。本文为您介绍如何升级工作空间模式。操作须知 升级工作空间模式前,您需先了解以下内容:了解简单模式与标准模式工作空间的...
新增和使用Serverless资源组 使用旧版资源组 二、开发环境准备 您需先在DataWorks工作空间注册EMR集群,才可在数据开发(DataStudio)进行数据开发工作,并以工作空间为单位管理空间成员以便进行协同开发。类别 描述 相关文档 数据同步环境...
使用DataWorks进行大数据开发时,支持对开发、测试、生产等环境进行隔离,当您联合使用了其他阿里云产品时,也可根据环境隔离诉求进行对应业务的环境设置与隔离,本文以DataWorks联合EMR、OSS等产品为例,为您介绍如何实现开发生产等多套...
调用此接口,可以删除指定的数据开发文件资源。接口说明 注意 当这个文件资源被发布后,无法删除,必须先下线再进行删除。调试 您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的困扰。运行成功后,OpenAPI Explorer可以自动...
DataWorks为您提供多种MaxCompute节点,便于您根据需要开发不同类型的MaxCompute任务,并为您提供丰富的节点调度配置,帮助您灵活设置MaxCompute任务的调度,本文为您介绍创建并管理MaxCompute节点的通用操作指导。适用范围 进行MaxCompute...
旧版数据开发使用镜像 进入数据开发:登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。配置资源组:在数据开发功能中找到待测试三方包的 任务节点,...
Data Studio新版数据开发支持个人开发环境与Git仓库集成,便于代码版本管理和团队协作。本文将介绍如何在个人开发环境中对远程Git仓库代码进行拉取、新增、修改并上传提交等操作。背景信息 Data Studio支持个人开发环境与远程Git仓库集成,...