若您要使用DataWorks进行AnalyticDB for MySQL3.0任务的开发、管理,需先将您的AnalyticDB for MySQL3.0集群绑定为DataWorks的AnalyticDB for MySQL(V3.0)计算资源。创建完成后,可在DataWorks的各功能模块使用该计算资源连接AnalyticDB ...
(可选)在 通用配置 个人开发环境 区域配置当前空间下个人开发环境实例的自动关停策略。重要 仅支持部分地域,具体以页面为准。仅 开启新版数据开发 的工作空间可配置此选项。当空间下处于运行中状态的个人开发环境实例满足该空间级自动...
开发节点 在SQL编辑区域开发任务代码,您可在代码中使用${变量名} 的方式定义变量,并在节点编辑页面右侧 调度配置 的 调度参数 中为该变量赋值。实现调度场景下代码的动态传参,调度参数使用详情,请参考 调度参数支持格式,示例如下。...
开发组件前,需先创建组件来定义组件名称、类型和功能特性描述,便于组件发布后引导开发者使用。本文介绍如何在组件开发工作台创建组件。新增组件 在 应用开发 页面的 开发工具 模块,单击 组件开发。在 组件开发个人组件 页签,单击 新建...
节点开发 在SQL编辑区域开发任务代码,您可在代码中使用${变量名} 的方式定义变量,并在节点编辑页面右侧 调度配置 的 调度参数 中为该变量赋值。实现调度场景下代码的动态传参,调度参数使用详情,请参考 调度参数支持格式,示例如下。...
开发节点 在SQL编辑区域开发任务代码,您可在代码中使用${变量名} 的方式定义变量,并在节点编辑页面右侧 调度配置 的 调度参数 中为该变量赋值。实现调度场景下代码的动态传参,调度参数使用详情,请参考 调度参数支持格式,示例如下。...
在进行数据发布前,可通过检查项对数据开发功能相关的约束进行检查,当检查出不符合约束规范的内容时,系统会生成影响开发流程正常执行的问题事件,您可基于该事件处理暴露的问题,以保障数据开发流程可以正常执行。本文为您介绍如何查看并...
DataWorks支持StarRocks数据源,通过数据源对接EMR Serverless StarRocks,可实现EMR Serverless StarRocks的数据集成、开发、分析、数据服务等功能。本文为您介绍EMR Serverless StarRocks在DataWorks上的操作流程。背景信息 了解EMR ...
本文为您介绍如何在DataWorks绑定自建 Hadoop 集群并进行任务开发,以及如何自定义自建集群运行环境。背景信息 您可通过注册CDH集群时配置自建Hadoop集群服务地址的方式,在DataWorks访问您自建的Hadoop集群,并通过DataWorks默认CDH镜像...
DataWorks的EMR Kyuubi节点可进行Kyuubi任务的开发和周期性调度,以及与其他作业的集成操作。本文为您介绍如何配置使用EMR Kyuubi节点并进行数据开发。前提条件 已创建阿里云EMR集群,并注册EMR集群至DataWorks。操作详情请参见 新版数据...
Presto(即PrestoDB)是一款灵活、可扩展的分布式SQL查询引擎,支持使用标准的SQL查询语言进行大数据的交互式分析查询,DataWorks为您提供EMR Presto节点,便于您在DataWorks上进行Presto任务的开发和周期性调度。本文为您介绍使用EMR ...
DataWorks的CDH Spark SQL节点可进行CDH Spark SQL任务的开发和周期性调度,以及与其他作业的集成操作。本文为您介绍如何配置及使用CDH Spark SQL节点。前提条件 已创建阿里云CDH集群,并绑定至DataWorks工作空间。操作详情请参见 新版数据...
在DataWorks任务开发中,您可以通过创建CDH MR(MapReduce)节点处理超大规模的数据集。本文为您介绍如何在DataWorks中配置并使用CDH MR节点。前提条件 已创建阿里云CDH集群,并绑定至DataWorks工作空间。操作详情请参见 新版数据开发:...
本产品(大数据开发治理平台 DataWorks/2024-05-18)的OpenAPI采用 RPC 签名风格,签名细节参见 签名机制说明。我们已经为开发者封装了常见编程语言的SDK,开发者可通过 下载SDK 直接调用本产品OpenAPI而无需关心技术细节。如果现有SDK不能...
客户介绍 启迪公交,是中国领先的智慧公交系统方案提供商和服务运营商。旗下产品「北京公交 App」串联起了北京公共交通系统中的公交、地铁两大场景,为乘客打造了候车查车、扫码乘车、通勤娱乐等一站式交通服务。业务挑战 中国规模最大、...
准备工作:开发Spark任务并获取JAR包 在使用DataWorks调度CDH Spark任务前,您需要先在CDH中开发Spark任务代码并完成任务代码的编译,生成编译后的任务JAR包,CDH Spark任务的开发指导详情请参见 Spark概述。创建CDH JAR资源 您可将任务JAR...
DataWorks提供的EMR(E-MapReduce)Hive节点支持云端大规模数据的批处理分析,能够操作存储在分布式系统中的数据,简化大数据处理流程并提高开发效率。在EMR Hive节点中,您可以使用类SQL语句读取、写入和管理大数据集,从而高效地完成海量...
EMR Impala仅支持在 旧版数据湖集群(Hadoop)的计算资源类型上运行,且DataWorks已 不支持 新绑定Hadoop类型的集群,但已经绑定的Hadoop集群仍然可以继续使用。操作步骤 在EMR Impala节点编辑页面,执行如下开发操作。开发SQL代码 在SQL...
DataWorks支持在创建个人开发环境的自定义镜像时,同步生成MaxCompute的自定义镜像,方便您在DataWorks节点(如PyODPS 3节点、Notebook节点)中使用MaxCompute自定义镜像。本文将为您介绍在DataWorks构建并使用MaxCompute自定义镜像。背景...
DataWorks的ADB Spark SQL节点可进行AnalyticDB Spark SQL任务的开发和周期性调度,以及与其他作业的集成操作。本文为您介绍使用ADB Spark SQL节点进行任务开发的主要流程。背景信息 AnalyticDB for MySQL Serverless Spark 是AnalyticDB ...
本案例指导您完成购房群体分析,帮助您掌握DataWorks的数据开发与数据分析流程。案例介绍 本案例基于用户买房数据,分析不同群体的购房情况。通过DataWorks进行数据开发和数据分析。将本地数据通过DataWorks上传至MaxCompute的 bank_data ...
登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。在左侧导航栏,单击 数据开发,找到目标业务流程,右键选择 批量操作。节点类型 选择为 离线同步 和...
如:执行数据开发或离线同步任务时,系统自动根据任务当前所在环境,访问对应的数据库,避免生产库的数据被节点调试等操作污染。说明 数据集成 模块中仅标准模式工作空间下的单表离线同步任务支持数据源开发、生产隔离,其他类型 同步任务 ...
您可以启用 Copilot智能编程助手,以获得智能代码补全建议,提升开发效率。对于大多数节点类型,您都可以使用${变量名} 的方式定义变量,以便在下一步骤调试任务代码时可以代入不同的赋值快速调试。在执行调度任务时,您可通过${workflow....
登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。在 DataStudio(数据开发)页面的 数据开发 页签下,右键单击目标 业务流程,选择 新建节点 ...
智能代码生成:DataWorks Notebook内置智能编程助手,支持通过DataWorks Copilot辅助生成SQL代码和Python代码,提升开发效率。挂载数据集:DataWorks Notebook在 调度配置 调度策略 中,支持为Notebook 添加数据集,实现在节点运行过程中...
在工作空间层,支持为每个独立的项目精细配置其专属的计算资源、数据源和开发成员。核心概念与系统架构 在开始具体操作前,必须首先理解 DataWorks 的核心架构和实体关系。核心概念:工作空间 工作空间 是 DataWorks 中进行项目管理、权限...
前提条件 开始进行节点开发前,若您需要定制组件环境,此时即可基于官方镜像 dataworks_emr_base_task_pod 创建 自定义镜像,并在 数据开发中使用镜像。例如:在创建自定义镜像时替换Spark Jar包或是依赖特定的 库、文件 或 jar包。已创建...
创建一个新机器人。调试 您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的困扰。运行成功后,OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 示例值 描述 Action String 是 CreateRobot 系统规定参数...
SDK调用 参考 阿里云Java SDK开发指南 快速开始,了解如何使用阿里云Java SDK核心包 在pom.xml中引入如下dependency获得新零售智能助理Java SDK 公测期最新版本号随时可能更新,线下技术同学对接时提供 dependency groupId ...
本文介绍了在医疗行业中使用了移动开发平台服务的客户案例。南京儿医在线 mPaaS x 南京儿医在线:媲美原生,小程序容器提升医疗应用研发效能。项目背景「南京儿医在线」是南京儿童医院开发的官方就医 App。在 App 发展初期,采用了「原生 ...
新零售智能助理(RetailBot)是阿里巴巴自研,专注于新零售领域的智能客服产品,提供“智能客服机器人+人工客服工作台”整套SaaS方案、“智能客服机器人“PaaS方案、以及支持开发者订阅应用程序的aPaaS平台,通过流畅的人机交互、高效的人...
2021-02-07 什么是解决方案 组件开发服务 功能名称 功能描述 发布时间 相关文档 组件开发 重要通知:组件开发功能暂停新用户申请开通白名单权限。2021-02-04 组件开发 2021年01月 移动可视化开发 功能名称 功能描述 发布时间 相关文档 图表...
阿里云IoT Studio全新推出移动可视化开发工具。本文介绍通过使用该工具,快速搭建室内温度监控应用,监测室内温湿度和空气质量,并手动控制空调和空气净化器设备,调节室内温湿度和空气质量。背景信息 移动可视化开发是物联网应用开发(IoT...
新零售智能助理aPaaS平台是从阿里巴巴集团淘系智能机器人SaaS产品孵化而来,为零售域客户提供组件化的应用程序,支持开发者按需订阅后,集成至自研SaaS商品,通过低研发成本实现定制需求。应用程序包括问答知识库、商品问答能力(尺码问答...
在DataWorks的数据开发(DataStudio)、数据分析、安全中心模块下载的CSV、XLSX格式文件数据将同步保存至数据下载功能。通过该功能,您可将所需历史下载文件重新下载至本地使用,也可追溯历史下载记录的操作详情。前提条件 已通过如下模块...
登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。单击左上方的 图标,选择 全部产品 数据建模 维度建模。在 维度建模 页面单击 图标,进入 模型列表...
DataWorks全新推出了实时数据开发治理功能,通过集成数据治理插件和LSP(Language Server Protocol)技术,在代码保存时可触发智能检测,并提供针对性的修复建议。开发者可以选择一键确认修复,快速解决问题。该功能依托预设的治理规则库和...
适用于各引擎 数据建模 零售电商数据建模 DataWorks智能数据建模产品内置了零售电子商务数据仓库行业模型模板,您可以一键导入模板,本教程结合零售电子商务业务背景以及模型构建核心步骤来帮助您了解维度建模理论和智能数据建模产品。...
根据所使用系统类型,准备运行Spark on MaxCompute任务的开发环境,详情请参见 搭建Linux开发环境、搭建Windows开发环境。开发Java/Scala代码。在ODPS Spark节点执行Java或Scala语言类型代码前,需先在本地或已有环境开发好Spark on ...