通过DataWorks的Serverless Kyuubi节点,可基于 EMR Serverless Spark计算资源 进行Kyuubi任务的开发和周期性调度,以及与其他作业的集成操作。适用范围 计算资源限制:仅支持 绑定EMR Serverless Spark计算资源,需确保资源组和计算资源...
在 新建节点 弹窗中,配置节点的 名称,完成后单击 确认,完成节点创建,后续您可在创建的节点中进行对应任务的开发与配置操作。步骤二:开发Presto任务 您可以双击已创建的节点,进入任务开发页面,进行以下任务开发操作。(可选)选择CDH...
在 新建节点 弹窗中,配置节点的 名称,完成后单击 确认,完成节点创建,后续您可在创建的节点中进行对应任务的开发与配置操作。步骤二:开发Hive任务 您可以双击已创建的节点,进入任务开发页面,进行以下任务开发操作。(可选)选择CDH...
在 新建节点 弹窗中,配置节点的 名称,完成后单击 确认,完成节点创建,后续您可在创建的节点中进行对应任务的开发与配置操作。步骤二:开发Impala任务 您可以双击已创建的节点,进入任务开发页面,进行以下任务开发操作。(可选)选择CDH...
本文描述移动开发平台 mPaaS支持的所有系统权限策略及其对应的权限描述,供您授权 RAM 身份时参考。什么是系统权限策略 权限策略是用语法结构描述的一组权限的集合,可以精确地描述被授权的资源集、操作集以及授权条件。阿里云访问控制...
权限类别 描述 MaxCompute开发项目权限 DataWorks通过空间级预设角色与开发环境MaxCompute引擎Role的映射关系,让被授予空间角色的RAM用户(子账号)拥有该角色映射的开发引擎权限,默认拥有开发环境对应的引擎项目权限,但无生产环境对应...
DataWorks作为数据加工的开发平台,提供了便捷的可视化建表方式,同时,您也可以直接使用Hologres通过DDL语句建表,详情请参见 CREATE TABLE。使用限制 当前仅华东2(上海)、华北2(北京)地域支持使用该功能。操作步骤 进入 数据开发 ...
DataWorks的CDH Spark SQL节点可进行CDH Spark SQL任务的开发和周期性调度,以及与其他作业的集成操作。本文为您介绍如何配置及使用CDH Spark SQL节点。前提条件 已创建阿里云CDH集群,并绑定至DataWorks工作空间。操作详情请参见 新版数据...
DataWorks的EMR Kyuubi节点可进行Kyuubi任务的开发和周期性调度,以及与其他作业的集成操作。本文为您介绍如何创建EMR Kyuubi节点并进行数据开发。前提条件 已创建阿里云EMR集群,并注册EMR集群至DataWorks。操作详情请参见 旧版数据开发:...
应用级别分类 云上业务应用的数量是十分巨大的,每个应用具备的业务价值和重要性是不同的,企业内部应梳理业务架构,评估业务链路中各应用的重要程度进行应用分类,以此为参考进行安全防护的成本分配投入,企业可以更有针对性地制定安全...
组件的开发形式多样,开发者可以自由定制插件、扩展等,但必须确保打包上传的文件符合打包规范,具体参见 组件资源上传规范。业务组件开发脚手架 本文中提供的脚手架(点击相应链接可下载)包含了组件开发的基础代码骨架、组件调试、组件...
您需先通过创建SSH数据源远程访问您的SSH服务器,才可在SSH节点中进行SSH任务的开发和周期性调度。创建数据源,请参见 创建SSH数据源。说明 SSH节点仅支持使用JDBC连接串方式创建的SSH数据源。同时,为避免任务运行失败,请确保数据源与...
Presto(即PrestoDB)是一款灵活、可扩展的分布式SQL查询引擎,支持使用标准的SQL查询语言进行大数据的交互式分析查询,DataWorks为您提供EMR Presto节点,便于您在DataWorks上进行Presto任务的开发和周期性调度。本文为您介绍使用EMR ...
DataWorks通过空间预设角色或空间自定义角色与开发环境引擎Role映射,来让被授予空间角色的RAM用户,拥有该空间角色映射的开发引擎Role所拥有的MaxCompute引擎权限,但默认无生产权限,本文为您介绍预设角色权限基本情况、MaxCompute权限...
DataWorks的Lindorm Spark SQL节点可进行Lindorm Spark SQL任务的开发和周期性调度。本文为您介绍使用Lindorm Spark SQL节点进行任务开发的主要流程。背景信息 Lindorm 是基于云原生架构的分布式计算服务,支持社区版计算模型、兼容Spark...
单击 确认,完成节点创建,后续您可在创建的节点中进行对应任务的开发与配置操作。步骤二:创建并引用CDH JAR资源 DataWorks支持您从本地先上传资源至DataStudio,再引用资源。具体操作如下:创建CDH JAR资源。在对应业务流程中,右键单击 ...
后续您可在节点中进行对应工作流任务的开发与配置。步骤二:开发PAI Designer节点任务 简单示例 开发任务:编写Designer工作流 编辑PAI Designer节点任务时,如选择加载已有工作流,则需提前在PAI中创建Designer工作流,通过名称搜索,载入...
Presto(即PrestoDB)是一款灵活、可扩展的分布式SQL查询引擎,支持使用标准的SQL查询语言进行大数据的交互式分析查询,DataWorks为您提供EMR Presto节点,便于您在DataWorks上进行Presto任务的开发和周期性调度。本文为您介绍使用EMR ...
在 应用开发 页面的 开发工具 模块,单击 组件开发。在 组件开发 公开组件包 页面,定位到目标组件包。选择以下操作发布组件。单击操作栏的 发布。单击操作栏的 编辑,在 编辑组件包 页面,单击组件列表右上方的 发布。在 发布 对话框,...
背景信息 除了项目目录外,Data Studio还提供了个人目录和手动目录,以满足不同的开发需求,帮助您在各种业务场景下高效进行数据开发和管理。以下是对这三种类型目录的对比,您可以根据具体需求选择合适的目录进行开发。目录类型 权限范围 ...
DataWorks的EMR Kyuubi节点可进行Kyuubi任务的开发和周期性调度,以及与其他作业的集成操作。本文为您介绍如何配置使用EMR Kyuubi节点并进行数据开发。前提条件 已创建阿里云EMR集群,并注册EMR集群至DataWorks。操作详情请参见 新版数据...
已完成资源文件的开发,文件可从本地上传。创建并使用资源 资源说明 在Data Studio资源与函数管理中,可以将本地资源通过DataWorks上传到Flink,用于在DataWorks中开发Flink作业,或用来创建 Flink自定义函数。使用限制 上传资源需符合以下...
两套系统开发、管理和维护成本高昂,数据口径难以统一。分析延迟,决策滞后:离线计算的海量数据无法被即席查询和快速分析,业务人员想要探索数据,需要等待数小时甚至一天的 T+1 报表。而实时数据又难以与海量历史数据进行有效的关联分析...
DataWorks不同版本的关键能力差异点如下:模块能力 标准版(对比基础版增加的能力)专业版(对比标准版增加的能力)企业版(对比专业版增加的能力)数据开发 控制节点/组件管理 代码评审 支持更大规模的开发 运维中心 智能基线 智能诊断、值班表...
如果您在开发任务时,需要特定的开发环境支持,可使用DataWorks提供的自定义镜像功能,定制化构建任务执行所需的组件镜像。更多信息,请参见 自定义镜像。请勿在Shell里启动大量子进程,由于目前Shell节点没有资源限制,该操作可能会影响...
后续您可在节点中进行对应任务的开发与配置。步骤二:开发PAI DLC任务 开发任务代码:简单示例 在PAI DLC节点编辑页面,您可通过如下方式编写DLC任务:基于已有DLC任务编写任务代码。通过名称搜索,载入在人工智能平台PAI已创建的DLC任务。...
DataStudio提供隔离的开发和生产环境,结合版本管理、代码评审、冒烟测试、发布管控、操作审计等配套功能,帮助企业规范地完成数据开发。运维中心支持数据时效性保障、任务诊断、影响分析、自动运维、移动运维等功能。核心技术与架构 高效...
对数据安全要求较严格的企业,其内部制定了相关授权规范,例如:敏感级别较低的数据由主管审批,较高密级的数据则由更高职位的人员审批。由于不是所有审批人都会登录至DataWorks进行审批,因此,要求审批流程能延伸至用户外部审批系统...
已完成资源文件的开发,文件可从本地上传。进入资源管理 进入 DataWorks工作空间列表页,在顶部切换至目标地域,找到已创建的工作空间,单击 操作 列的 快速进入 Data Studio,进入Data Studio。在左侧导航栏单击资源管理按钮,进入 资源...
重要 外部调度系统的触发指令仅保留24小时。如果24小时内上游任务节点没有运行完成,则触发指令会丢失,外部调度系统本次发出的调度指令失效。使用限制 HTTP触发器节点功能仅适用DataWorks企业版及以上版本,关于DataWorks版本介绍,详情请...
FOTA是Firmware Over-the-Air即固件升级,就是我们平时说的系统升级。OTA是IoV Command Center(简称iovcc)的一个核心应用模块。提供面向智联车的系统和应用的升级服务,目前主要专注于Android和YunOS平台的智联车设备的升级。OTA业务流程...
在魔笔平台中,文件转存允许开发者在应用构建过程中将魔笔系统存储的文件复制并传输到远程服务器进行存储。通过文件转存功能,开发者可以将系统文件复制到其他存储介质或服务中进行存储和使用。功能特点 系统文件转存:支持将已上传到魔笔...
在DataWorks的数据开发(DataStudio)、数据分析、安全中心...数据开发的更多介绍,请参见 数据开发(DataStudio)(旧版)、数据开发(Data Studio)(新版)。数据分析的更多介绍,请参见 数据分析。安全中心的更多介绍,请参见 安全中心。
如果您在开发任务时,需要特定的开发环境支持,可使用DataWorks提供的自定义镜像功能,定制化构建任务执行所需的组件镜像。更多信息,请参见 自定义镜像。使用限制 仅支持使用 Serverless资源组(推荐)或独享调度资源组运行该类型任务,若...
本文权威汇总了DataWorks Notebook开发的核心问题,涵盖从节点创建、多语言开发、交互式运行到高级应用场景,助您扫清开发障碍,提升数据分析与AI建模效率。
背景 Landing Zone 是阿里云的企业上云框架,它可以指导企业规划和落地云上的资源结构、访问安全、网络架构和安全合规体系,为企业搭建安全、高效和可管理的云环境。魔笔支持 Landing Zone,能够在企业内部实现多空间管理。步骤 开通 企业...
(可选,RAM账号需要)进行任务开发的RAM账号已被添加至对应工作空间中,并具有 开发 或 空间管理员(权限较大,谨慎添加)角色权限,添加成员的操作详情请参见 为工作空间添加空间成员。已购买Serverless资源组并完成资源组配置,包括绑定...
步骤一:编辑组件图标 组件图标会显示在Web可视化开发的组件列表中,便于您使用的时候快速预览。说明 组件完成开发验证后,必须上传组件icon后,才支持发布并使用。单击 IoT Studio组件开发 页面左上角的 组件icon,按照提示要求上传组件...
(可选,RAM账号需要)进行任务开发的RAM账号已被添加至对应工作空间中,并具有 开发 或 空间管理员(权限较大,谨慎添加)角色权限,添加成员的操作详情请参见 为工作空间添加空间成员。已购买Serverless资源组并完成资源组配置,包括绑定...
在接入 mPaaS 进行开发的过程中,最常见的场景就是在已有的原生 Android 工程中接入 mPaaS 后再进行开发。场景介绍 在接入 mPaaS 进行开发的过程中,最常见的场景就是在已有的原生 Android 工程中接入 mPaaS 后再进行开发。故本教程也将...