本文介绍了在交通行业中使用了移动开发平台服务的客户案例。北京公交 mPaaS x 启迪公交:为北京公交 App 重构研发模式。客户介绍 启迪公交,是中国领先的智慧公交系统方案提供商和服务运营商。旗下产品「北京公交 App」串联起了北京公共...
DataWorks支持在创建个人开发环境的自定义镜像时,同步生成MaxCompute的自定义镜像,方便您在DataWorks节点(如PyODPS 3节点、Notebook节点)中使用MaxCompute自定义镜像。本文将为您介绍在DataWorks构建并使用MaxCompute自定义镜像。背景...
DataWorks的DB2节点可进行DB2任务的开发和周期性调度,以及与其他作业的集成操作。本文为您介绍使用DB2节点进行任务开发的主要流程。背景信息 DB2是一款关系型数据库管理系统(RDBMS),用于存储、检索及管理数据,适用于处理高吞吐量、大...
您可以创建EMR(E-MapReduce)HIVE节点,通过类SQL语句读写、管理存储在分布式存储系统上的大数据集的数据仓库,完成海量日志数据的分析和开发工作。前提条件 已创建阿里云EMR集群,并注册EMR集群至DataWorks。操作详情请参见 旧版数据开发...
DataWorks的DRDS节点可进行DRDS任务的开发和周期性调度,以及与其他作业的集成操作。本文为您介绍使用DRDS节点进行任务开发的主要流程。背景信息 DRDS是一种分布式数据库服务。它允许您将关系数据库水平扩展到分布式系统,支持海量数据存储...
当您需要为新的数据项目启动开发工作时,面临着如何隔离代码、资源和团队成员,以避免项目混乱和安全风险的挑战。DataWorks 工作空间正是为此设计的解决方案。它通过提供一个独立的、项目制的容器,让您能够结构化地管理开发任务、计算资源...
背景信息 达梦(DM)是集成在业务系统中的OLTP类型数据库,它融合了分布式、弹性计算与云计算的优势,具有灵活、易用、可靠、高安全等特点。更多介绍请参见 达梦(DM)官网。前提条件 已创建业务流程。数据开发(DataStudio)基于业务流程...
在数据开发过程中,可以创建SQL组件节点,利用这些预定义组件快速搭建数据处理流程,从而显著提升开发效率。1010 COMPONENT_SQL MaxCompute Script 可以将多条SQL语句整合成一个脚本进行整体编译和执行,这非常适合处理复杂的查询场景,如...
新增和使用Serverless资源组 二、开发环境准备 您需先在DataWorks工作空间注册 CDP或CDH 集群,才可在数据开发(DataStudio)进行数据开发工作,并以工作空间为单位管理空间成员,以便进行协同开发。类别 描述 相关文档 数据同步环境准备 ...
DataWorks的Vertica节点可进行Vertica任务的开发和周期性调度,以及与其他作业的集成操作。本文为您介绍使用Vertica节点进行任务开发的主要流程。背景信息 Vertica是一个高性能的列式存储数据库管理系统(DBMS),可高速处理和查询大规模...
DataWorks的SQL Server节点可进行SQL Server任务的开发和周期性调度,以及与其他作业的集成操作。本文为您介绍使用SQL Server节点进行任务开发的主要流程。背景信息 SQL Server是用于存储和处理数据的关系型数据库管理系统(RDBMS),为您...
DataWorks的Oracle节点可进行Oracle任务的开发和周期性调度,以及与其他作业的集成操作。本文为您介绍使用Oracle节点进行任务开发的主要流程。背景信息 Oracle是用于存储和处理数据的关系型数据库管理系统(RDBMS),为您提供可靠、高效且...
DataWorks的MariaDB节点可进行MariaDB任务的开发和周期性调度,以及与其他作业的集成操作。本文为您介绍使用MariaDB节点进行任务开发的主要流程。背景信息 MariaDB是一种开源的关系型数据库管理系统(RDBMS),与MySQL高度兼容。它可以无缝...
DataWorks的GBase 8a节点可进行GBase 8a任务的开发和周期性调度,以及与其他作业的集成操作。本文为您介绍使用GBase 8a节点进行任务开发的主要流程。背景信息 GBase 8a是一款关系型数据库管理系统(RDBMS),支持大数据量存储和高并发读写...
通过本教程,您可以了解如何使用DataWorks和MaxCompute产品组合进行数仓开发与分析,并通过案例体验DataWorks数据集成、数据开发和运维中心模块的相关能力。案例介绍 为了更好地制定企业经营策略,现需要从用户网站行为中获取网站用户群体...
在该阶段,DataWorks为您提供了数据分类分级、规范数据开发流程、企业级身份认证、开源身份隔离等多个场景的最佳实践,帮助企业做好数据安全治理的相关基础防护工作。场景一:数据分级分类 无论在任何行业,数据分级分类都是监管首要检查的...
PAI Flow提供端到端机器学习流程开发能力,可实现与人工智能平台 PAI 的 可视化建模 Desiger 相同的工作流功能,并能周期性调度工作流。使用限制 产品限制:PAI Flow仅支持 DataWorks工作空间(新版)。PAI Flow目前仅支持 源/目标 与 RAG...
物联网应用开发(IoT Studio)提供了三方组件功能。三方组件是由第三方开发者开发个人组件后,以组件包的方式上传到IoT Studio平台后提供给所有开发者使用的组件。本文主要介绍三方组件的上线、开通及其使用方法。背景信息 物联网应用开发...
DataWorks的PostgreSQL节点可进行PostgreSQL任务的开发和周期性调度,以及与其他作业的集成操作。本文为您介绍使用PostgreSQL节点进行任务开发的主要流程。背景信息 PostgreSQL是一款功能强大、灵活的开源关系型数据库管理系统(RDBMS),...
您可以打开某个数据开发节点,进行具体的数据清洗工作,例如MaxCompute SQL节点,如果代码开发过程中需要用到资源或函数,DataWorks也支持您通过可视化的方式来创建资源节点和函数节点。数据开发的更多细节,请参见 节点开发,创建资源和...
若您要使用DataWorks进行Hologres任务的开发、管理,需先将您的Hologres实例创建为DataWorks的Hologres计算资源。创建完成后,可在DataWorks的各功能模块使用该计算资源连接Hologres实例,进行相应的数据同步、数据开发、数据分析等操作。...
IoT Studio中可通过个人、授权或公开解决方案创建项目,该项目中会自动创建并复制解决方案中的应用、服务或产品配置,您可根据实际需求修改相关配置,完成项目开发。您也可根据解决方案内容,自行创建并开发项目。本文主要介绍使用个人、...
根据所使用系统类型,准备运行Spark on MaxCompute任务的开发环境,详情请参见 搭建Linux开发环境、搭建Windows开发环境。开发Java/Scala代码。在MaxCompute Spark节点执行Java或Scala语言类型代码前,需先在本地或已有环境开发好Spark on ...
DataWorks 文件是专为大数据平台设计的、支持多计算节点共享访问的文件存储服务。本文系统阐述了其核心概念、应用场景、功能特性与操作方法,助您构建统一、高效的数据开发与协作环境。
数据开发(DataStudio)基于业务流程对不同开发引擎进行具体开发操作,所以您创建节点前需要先新建业务流程,操作详情请参见 创建业务流程。已创建CDH集群,并注册至DataWorks。创建CDH相关节点并开发CDH任务前,您需要先将CDH集群注册至...
通过开发配置可以新增、查看、修改小程序开发的发布规则。新增发布规则 在 小程序开放平台 的 开发者后台 左侧菜单栏单击 开发配置 发布规则管理+新增规则。在 新增规则 弹窗中设置 规则名称、规则类型 和 平台。规则名称:不同灰度发布...
在数据开发DataStudio界面中,您可在 操作历史 界面通过操作类型、操作人、操作时间进行筛选,查看人员在当前工作空间中的操作记录。使用说明 仅支持查看DataStudio中以下几类操作记录:任务责任人变更操作、任务调度属性变更操作、任务及...
项目是物联网应用开发(IoT Studio)中多个应用、服务和物联网平台资源(产品、设备、数据资产等)的集合。同一个项目内的不同应用或服务共享资源。不同项目之间的应用、服务和资源都相互隔离,互不影响。重要 阿里云物联网平台新用户不...
版本管理 系统支持通过版本管理功能将手动任务还原到指定的历史版本,同时还提供版本查看与对比功能,方便您分析差异并做出调整。在左侧 手动任务 中,双击需要查看并进行版本管理的手动任务名称,进入手动任务编辑页。单击手动任务编辑页...
应用范围 系统模块 扩展点类型 扩展点 回调校验结果的OpenAPI 空间级 数据开发 文件变更事件 节点 资源 函数 文件删除前置事件 您可通过 UpdateIDEEventResult 接口将事件处理结果回调至DataWorks。文件提交前置事件 文件发布前置事件 代码...
项目目录、个人目录 或 手动任务 下的Notebook均默认使用个人开发环境的内核运行,当发布Notebook至生产环境时,系统将默认使用您在调度配置中选择的镜像环境执行。因此,发布Notebook前,请确保调度配置中选择的镜像,已包含运行Notebook...
系统内置扩展程序启用后,暂时仅支持对ODPS SQL类的节点生效。即启用后,仅ODPS SQL类节点中相应扩展点事件被触发时,流程会被阻断,通过内置扩展程序对对应的逻辑进行校验并返回校验结果。非ODPS SQL节点对应的事件被触发后,流程会被阻断...
如:执行数据开发或离线同步任务时,系统自动根据任务当前所在环境,访问对应的数据库,避免生产库的数据被节点调试等操作污染。说明 数据集成 模块中仅标准模式工作空间下的单表离线同步任务支持数据源开发、生产隔离,其他类型 同步任务 ...
DataWorks的KingbaseES节点可进行KingbaseES任务的开发和周期性调度,以及与其他作业的集成操作。本文为您介绍使用KingbaseES节点进行任务开发的主要流程。背景信息 KingbaseES是一个大型关系型数据库管理系统(RDBMS),支持SQL标准,适合...
背景信息 开源大数据开发平台E-MapReduce(简称EMR),是运行在阿里云平台上的一种大数据处理的系统解决方案。EMR基于开源的Apache Hadoop和Apache Spark,让您可以方便地使用Hadoop和Spark生态系统中的其他周边系统分析和处理数据。阿里云...
DataWorks提供的EMR(E-MapReduce)Hive节点支持云端大规模数据的批处理分析,能够操作存储在分布式系统中的数据,简化大数据处理流程并提高开发效率。在EMR Hive节点中,您可以使用类SQL语句读取、写入和管理大数据集,从而高效地完成海量...
FunModel 是一个面向 AI 模型开发、部署与运维的全生命周期管理平台。您只需提供模型文件(例如来自 ModelScope、Hugging Face 等社区的模型仓库),即可利用 FunModel 的自动化工具快速完成模型服务的封装与部署,并获得可直接调用的推理 ...
多引擎开发:DataWorks Notebook拥有SQL Cell功能,支持多种大数据引擎的SQL开发与分析。交互式分析:交互式SQL查询:通过Python编写Widgets组件,通过在组件中直观选择或设置参数的取值,后续可以进一步在SQL中引用相同参数及取值,从而...
数据接入层(STG):按应用系统划分,例如“stg_营销系统”、“stg_生产管理系统”等。任务节点:只有数据集成任务。数据表:只有原始数据,生命周期短。空间成员:各应用系统的DBA。资源倾斜:数据集成资源组、存储空间。数据清洗层(ODS...
移动可视化开发工具通过移动应用编辑器,帮助您开发一个App界面,无需编写代码,十分方便快捷。操作步骤 创建项目。操作步骤请参见 项目。在项目 主页 页面的 项目开发 下,选择 移动应用。单击应用列表上方的 新建。在 新建移动应用 ...