DataWorks的SQL Server节点可进行SQL Server任务的开发和周期性调度,以及与其他作业的集成操作。本文为您介绍使用SQL Server节点进行任务开发的主要流程。背景信息 SQL Server是用于存储和处理数据的关系型数据库管理系统(RDBMS),为您...
DataWorks的GBase 8a节点可进行GBase 8a任务的开发和周期性调度,以及与其他作业的集成操作。本文为您介绍使用GBase 8a节点进行任务开发的主要流程。背景信息 GBase 8a是一款关系型数据库管理系统(RDBMS),支持大数据量存储和高并发读写...
本文介绍了针对不同的开发进度和场景,建议使用的接入方式。三种接入方式 根据 iOS 开发工程的进展和使用场景,接入移动开发平台 mPaaS 的方式主要有以下三种:当前无工程,从头开始创建一个全新的工程:基于 mPaaS 框架接入。当前已有工程...
快速了解IoT Studio 物联网应用开发提供了Web可视化开发、移动可视化开发、业务逻辑开发与物联网数据分析等一系列便捷的物联网开发工具,解决物联网开发领域的开发链路长、定制化程度高、投入产出比低、技术栈复杂、协同成本高、方案移植...
如果您使用的是标准模式的DataWorks工作空间,则支持发布表到生产环境或开发环境。发布模式 定义模型发布到目标引擎的方式。增量发布:仅将当前模型的变更部分更新至目标引擎。建议对已发布的模型使用此模式,以保留历史数据并减少对线上...
DataWorks的 业务流程 开发结构满足根据业务视角来组织数据开发任务的需求,也提供了 周期业务流程 和 手动业务流程 两种,以满足需要周期性调度和无需周期性调度手动触发运行的场景。本文为您介绍如何创建、设计、提交和查看业务流程,...
ID-Mapping使用的资源是已有的两类信息表,即:用户属性信息,如userid、电话号码、邮箱地址和身份证号码等。用户行为信息,如用户登录游戏的信息、用户在游戏中的交易信息以及用户在游戏中的交流信息等。用户属性信息表 user_info 如下:...
DataWorks提供了全链路的数据开发治理能力,为您提供了统一的数据开发治理流程,同时也支持您在DataWorks的默认流程上基于自己的业务需求在关键的流程节点进行流程管控。本文为您介绍DataWorks在数据开发过程中支持的流程管控能力。背景...
以零售行业下的电商业务为例,构建电商集市,零售客户画像等数据集市,重点服务运营人员的分析需求。定义数据集市 新建数据集市 在 数仓规划 页面的左侧导航栏,单击 应用层 数据集市,进入 数据集市 页面。在 数据集市 页面,鼠标悬停至 ...
基础入门 Tablestore发布多元索引功能,打造统一的在线数据平台 多元索引 开始使用 技术进阶 翻页功能 Array和Nested对比 路由功能 Tablestore存储和索引引擎详解 多元索引:如何在千亿行规模的表中快速检索数据 详解Tablestore模糊查询...
数据开发(DataStudio)基于业务流程对不同开发引擎进行具体开发操作,所以您创建节点前需要先新建业务流程,操作详情请参见 创建业务流程。已创建CDH集群,并注册至DataWorks。创建CDH相关节点并开发CDH任务前,您需要先将CDH集群注册至...
数据开发(DataStudio)基于业务流程对不同开发引擎进行具体开发操作,所以您创建节点前需要先新建业务流程,操作详情请参见 创建业务流程。已创建CDH集群,并注册至DataWorks。创建CDH相关节点并开发CDH任务前,您需要先将CDH集群注册至...
访问公网或VPC网络时,请选择与目标节点网络连通的调度资源组作为周期调度任务使用的资源组。详情请参见 网络连通方案。步骤四:调试代码任务(可选)选择运行资源组、赋值自定义参数取值。在工具栏单击 图标,在 参数 对话框选择已调试...
本文为您介绍DataWorks数据开发(DataStudio)界面的整体布局,以及进行开发操作的主界面(业务流程和节点)中各组件、按钮的功能作用,方便您快速了解及使用数据开发模块。进入数据开发 登录 DataWorks控制台,切换至目标地域后,单击左侧...
在DataWorks任务开发中,您可以通过创建CDH MR(MapReduce)节点处理超大规模的数据集。本文为您介绍如何在DataWorks中创建并使用CDH MR节点。前提条件 数据开发(DataStudio)中已创建业务流程。数据开发(DataStudio)基于业务流程对不同...
Presto(即PrestoDB)是一款灵活、可扩展的分布式SQL查询引擎,支持使用标准的SQL查询语言进行大数据的交互式分析查询,DataWorks为您提供EMR Presto节点,便于您在DataWorks上进行Presto任务的开发和周期性调度。本文为您介绍使用EMR ...
开发人员在开发环境可使用测试数据进行测试,也可通过授权或申请权限,在开发环境使用生产表数据进行验证。说明 仅MaxCompute支持在安全中心可视化申请使用生产表数据权限。MaxCompute数据访问权限控制,详情请参见 MaxCompute数据权限控制...
客户简介 识货是虎扑旗下的电商导购平台,致力于为广大用户提供专业的网购决策指导,同时带来及时的运动、潮流、生活、时尚等网购资讯。近年来,电商平台商品信息持续增加,海量商品导致消费者发现和找到商品的效率低下,识货从用户视角...
如您使用的是标准模式的工作空间,任务提交成功后,需单击节点编辑页面右上方的 发布,将该任务发布至生产环境执行,操作请参见 发布任务。后续步骤 任务运维:任务提交发布后,会基于节点的配置周期性运行,您可单击节点编辑界面右上角的 ...
如您使用的是标准模式的工作空间,任务提交成功后,需单击节点编辑页面右上方的 发布,将该任务发布至生产环境执行,操作请参见 发布任务。后续步骤 任务提交发布后,会基于节点的配置周期性运行,您可单击节点编辑界面右上角的 运维,进入...
步骤一:编辑组件图标 组件图标会显示在Web可视化开发的组件列表中,便于您使用的时候快速预览。说明 组件完成开发验证后,必须上传组件icon后,才支持发布并使用。单击 IoT Studio组件开发 页面左上角的 组件icon,按照提示要求上传组件...
DataWorks基于 实时数仓...在DataWorks工作空间创建Hologres数据源并绑定至数据开发(DataStudio),以及查看各环境使用的Hologres实例,详情请参见 创建Hologres数据源。DataWorks调度任务下发逻辑,详情请参见 DataWorks调度任务下发逻辑。
如您使用的是标准模式的工作空间,任务提交成功后,需单击节点编辑页面右上方的 发布,将该任务发布至生产环境执行,操作请参见 发布任务。后续步骤 任务运维:任务提交发布后,会基于节点的配置周期性运行,您可单击节点编辑界面右上角的 ...
创建并引用EMR JAR资源 如果您使用的是DataLake(新版数据湖)集群,则可通过如下步骤引用EMR JAR资源。说明 若EMR Spark Streaming节点依赖的资源较大,则无法通过DataWorks页面上传。您可将资源存放至HDFS上,然后在代码中进行引用。代码...
新增和使用Serverless资源组 使用旧版资源组 二、开发环境准备 您需先在DataWorks工作空间注册EMR集群,才可在数据开发(DataStudio)进行数据开发工作,并以工作空间为单位管理空间成员以便进行协同开发。类别 描述 相关文档 数据同步环境...
如您使用的是标准模式的工作空间,任务提交成功后,需单击节点编辑页面右上方的 发布,将该任务发布至生产环境执行,操作请参见 发布任务。后续步骤 任务提交发布后,会基于节点的配置周期性运行,您可单击节点编辑界面右上角的 运维,进入...
三方组件是由第三方开发者开发个人组件后,以组件包的方式上传到IoT Studio平台后提供给所有开发者使用的组件。本文主要介绍三方组件的上线、开通及其使用方法。背景信息 物联网应用开发(IoT Studio)提供的三方组件包括:变配电组件、...
如您使用的是标准模式的工作空间,任务提交成功后,需单击节点编辑页面右上方的 发布,将该任务发布至生产环境执行,操作请参见 发布任务。后续步骤 任务提交发布后,会基于节点的配置周期性运行,您可单击节点编辑界面右上角的 运维,进入...
您可以创建EMR(E-MapReduce)HIVE节点,通过类SQL语句读写、管理存储在分布式存储系统上的大数据集的数据仓库,完成海量日志数据的分析和开发工作。前提条件 已创建阿里云EMR集群,并注册EMR集群至DataWorks。操作详情请参见 旧版数据开发...
人工智能平台PAI的 可视化建模Designer,用于实现端到端的机器学习开发流程的可视化建模工具。DataWorks为您提供PAI Designer节点,方便您通过该算法节点载入Designer工作流,通过调度配置实现Designer工作流的周期性任务调度。前提条件 ...
当您的团队需要在DataWorks中进行协同开发时,面临着项目隔离、权限分配和计算资源管理的挑战。工作空间正是解决这些问题的核心单元,它通过提供一个独立的环境,让您能够清晰地组织开发任务、分配成员角色并绑定所需的计算引擎,从而确保...
智能搭建提供丰富的基础组件和多个预置业务组件供您使用。此外,为满足不同业务场景的需求,智能搭建支持导入用户自定义的前端组件,以便在此基础上进行二次开发,以满足更加多样的业务场景。该功能适用于有自己的前端开发资源的客户。下面...
Data Studio新版数据开发支持将个人开发环境制作成镜像,以供数据开发与其他个人开发环境使用。本文将介绍如何在个人开发环境制作个人开发实例镜像。背景介绍 在个人开发环境开发测试时,若您想要使用不同的三方依赖,您不仅可以在个人开发...
数据开发(DataStudio)基于业务流程对不同开发引擎进行具体开发操作,所以您创建节点前需要先新建业务流程,操作详情请参见 创建业务流程。已创建CDH集群,并注册至DataWorks。创建CDH相关节点并开发CDH任务前,您需要先将CDH集群注册至...
FunModel 是一个面向 AI 模型开发、部署与运维的全生命周期管理平台。您只需提供模型文件(例如来自 ModelScope、Hugging Face 等社区的模型仓库),即可利用 FunModel 的自动化工具快速完成模型服务的封装与部署,并获得可直接调用的推理 ...
已准备所需使用的组件,详情请参见 组件管理。已创建SQL组件节点,详情请参见 创建任务节点。操作步骤 在创建SQL组件节点编辑页面,执行如下开发操作。组件引用设置 进入节点右侧的 组件设置,在 引用设置 里面 选择组件代码。说明 您可...
个人开发环境开发任务 个人开发环境支持Python编程,如需使用个人开发环境编辑Python节点任务,详情请参见 个人开发环境。通过关联角色运行 节点 支持 配置节点关联角色,使用特定RAM角色运行节点任务,实现权限的细粒度控制和安全管控。
您可以通过创建EMR(E-MapReduce)Spark SQL节点,...在数据开发中执行EMR Spark SQL节点任务时,若需将任务提交至SQL Compute执行,请确保所使用的SQL Compute状态为 运行中,否则任务将执行失败。SQL Compute状态查看可参见 管理SQL会话。
如您使用的是标准模式的工作空间,任务提交成功后,需单击节点编辑页面右上方的 发布,将该任务发布至生产环境执行,操作请参见 发布任务。后续步骤 任务提交发布后,会基于节点的配置周期性运行,您可单击编辑界面右上角的 运维,进入运维...
2011 FLINK_SQL_BATCH EMR EMR Hive 可以使用类SQL语句读取、写入和管理大数据集,从而高效地完成海量日志数据的分析和开发工作。227 EMR_HIVE EMR Impala PB级大数据的快速、实时交互式SQL查询引擎。260 EMR_IMPALA EMR MR 可以将大规模...