大数据程序开发

_相关内容

创建工作空间

当您需要为新的数据项目启动开发工作时,面临着如何隔离代码、资源和团队成员,以避免项目混乱和安全风险的挑战。DataWorks 工作空间正是为此设计的解决方案。它通过提供一个独立的、项目制的容器,让您能够结构化地管理开发任务、计算资源...

进阶:商品订单畅销类目分析

基础版 DataWorks资源组 通过DataWorks进行数据集成、数据开发数据调度等任务时,需要消耗计算资源,您需要配套购买资源组,以确保后续任务的顺利运行。资源组名称:自定义 专有网络(VPC)、交换机(V-Switch):没有VPC和交换机:如果...

准备环境

本教程提供数据仅作为阿里云大数据开发治理平台DataWorks数据应用实操使用,所有数据均为人工Mock数据。本教程使用 数据开发(Data Studio)(新版)进行数据加工。MaxCompute环境准备 一、开通MaxCompute产品 本教程基于MaxCompute实现,...

购买指引

资源组是执行数据开发数据集成等任务时,所消耗的计算资源的成本,是运行成本的核心。DataWorks推荐您使用Serverless资源组,不再推荐使用旧版资源组(独享资源组、公共资源组)。Serverless资源组具有两种付费模式,您可以根据业务负载...

准备环境

本教程提供数据仅作为阿里云大数据开发治理平台DataWorks数据应用实操使用,所有数据均为人工Mock数据。本教程使用 数据开发(Data Studio)(新版)进行数据加工。EMR环境准备 本教程需要您创建一个EMR集群并集成到DataWorks,以便在...

准备环境

本教程提供数据仅作为阿里云大数据开发治理平台DataWorks数据应用实操使用,所有数据均为人工Mock数据。本教程使用 数据开发(Data Studio)(新版)进行数据加工。OSS对象存储环境准备 本案例将使用自定义函数,注册函数所用资源将上传至...

通过函数计算节点实现GitHub实时数据分析与结果发送

开通 大数据开发治理平台DataWorks 并创建工作空间(本实践以使用标准模式工作空间为例,简单模式的操作类似)。操作详情请参见 开通DataWorks服务、创建工作空间。开通 云原生大数据计算服务MaxCompute,并创建MaxCompute项目。操作详情请...

准备环境

本教程提供数据仅作为阿里云大数据开发治理平台DataWorks数据应用实操使用,所有数据均为人工Mock数据。本教程使用 数据开发(Data Studio)(新版)进行数据加工。OSS对象存储环境准备 本教程需要您创建一个OSS Bucket,后续会将用户信息...

准备环境

本教程提供数据仅作为阿里云大数据开发治理平台DataWorks数据应用实操使用,所有数据均为人工Mock数据,并且只支持在数据集成模块读取数据。在 私有OSS环境准备 步骤中创建的OSS对象存储的 Bucket 将用于接收MySQL数据源的用户信息数据与...

同步数据

本教程提供数据仅作为阿里云大数据开发治理平台DataWorks数据应用实操使用,所有数据均为人工Mock数据,并且只支持在数据集成模块读取数据。进入数据开发 登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据开发与运维 数据...

准备环境

本案例提供数据仅作为阿里云大数据开发治理平台DataWorks数据应用实操使用,所有数据均为人工Mock数据。本案例使用 数据开发(DataStudio)(旧版)进行数据加工。EMR环境准备 创建EMR集群 本教程需要您创建一个EMR集群,用于集成到...

应用扩展程序

已完成扩展程序开发与部署,操作详情请参见 开发部署扩展程序:自建服务方式 或 开发部署扩展程序:函数计算方式。开放平台侧 开放平台管理员 和 租户管理员 可通过以下步骤完成扩展程序的测试、审核与上线操作。步骤一:进入开放平台扩展...

开发和调试

MaxCompute不提供Graph开发插件,您可以基于Eclipse开发MaxCompute Graph程序开发流程如下:编写Graph代码,使用本地调试进行基本的测试。进行集群调试,验证结果。开发示例 本节以 SSSP 算法为例,为您介绍如何使用Eclipse开发和调试...

高级应用:扩展程序参数配置

开发扩展程序代码时,DataWorks为您提供了内置参数,同时也支持您自定义参数,以提高扩展程序代码开发效率和效果,例如,结合参数实现扩展程序仅对指定工作空间生效。本文为您介绍如何使用扩展程序的参数。背景信息 使用扩展程序参数进行...

概述

您可以参考如下示例开发不同的Java程序开发UDF 开发MapReduce 开发Graph 查询非结构化数据 打包、上传和注册。Module目录 创建MaxCompute Java Module后,MaxCompute Studio会自动创建一个Module。Module目录内容如下:examples:示例...

应用示例:运维中心触发事件检查

在DataWorks开放平台中,成功注册、上线并启用扩展程序后,在该扩展程序所生效的工作空间中,使用页面部分功能(即触发扩展点事件)时,DataWorks会将事件消息发送至您的扩展程序,您可以查看扩展程序返回的结果。本文将为您介绍运维中心中...

扩展程序(Extensions)

数据质量 数据质量校验事件 批量创建数据质量规则前置事件 批量更新数据质量规则前置事件 更新数据质量规则前置事件 批量删除数据质量规则前置事件 创建数据质量监控前置事件 更新数据质量监控前置事件 克隆数据质量监控前置事件 创建数据...

开发Graph

本文为您介绍如何使用MaxCompute Studio开发Graph,包括编写Graph、调试Graph、打包上传和运行Graph。前提条件 您需要完成以下操作:管理项目连接 创建MaxCompute Java Module 编写Graph 创建MaxCompute Java Class。本文以创建 ...

OpenLake解决方案快速体验

产品列表 OpenLake免费试用会为您开通如下列表内的产品:分类 产品 开发平台 大数据开发治理平台DataWorks(DataWorks计费说明、DataWorks基础版、DataWorks通用资源组)、人工智能平台PAI 存储服务 数据湖构建DLF、对象存储OSS 计算资源 ...

使用公开数据集进行数据查询、分析和可视化

公开数据集列表 类型 数据数据来源及说明 数据类型 数字商业 阿里电商数据集 本数据集来源天池阿里移动推荐算法挑战赛,基于阿里巴巴100万条脱敏的商品数据,可以基于各类商品、操作、时间等字段,体验阿里云大数据分析能力。静态数据 ...

ListExtensions-获取扩展程序列表

12 Extensions array object 扩展程序列表 Extensions object 扩展程序详情 Status integer 扩展程序状态:0:测试中,1:上线中,3:禁用中,4:审批中,5:审批通过,6:审批不通过 0 ExtensionDesc string 扩展程序描述 This is a ...

跨云发布

环境限制 源工作空间跨云发布到目标工作空间时,环境限制如下:源工作空间 目标工作空间 工作空间模式 数据开发版本 简单模式 新版数据开发 简单模式 旧版数据开发 标准模式 新版数据开发 标准模式 旧版数据开发 简单模式 新版数据开发 不...

GetExtension-获取扩展程序详情

获取某个扩展程序详情。调试 您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的困扰。运行成功后,OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。请求参数 名称 类型 必填 描述 示例值 ...

元数据采集

代码来源 采集口径 触发采集方式 数据开发 数据开发-创建节点并编辑代码 自动采集 数据开发(旧版)数据开发(旧版)-创建节点并编辑代码 数据分析 数据分析-新建SQL查询并编辑代码 数据服务 数据服务-新建API数据推送服务 API资产 数据...

用户价值

用户角色 功能 能力 详述 数据生产方 数据开发 设计数据模型 开发数据加工逻辑 设计标准、稳定的数据模型:通过数据标准和数据建模,设计标准化数据模型,提高数据模型的稳定性,减少重复开发工作。高效完成数据加工与运维:通过数据同步、...

GetOptionValueForProject-获取扩展程序选项配置在...

获取扩展程序选项配置在项目空间下的配置。调试 您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的困扰。运行成功后,OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。请求参数 名称 类型 必...

UpdateWorkbenchEventResult-更新扩展程序的处理结果

所属扩展程序的运维中心回调API,当运维中心的流程被扩展程序卡住后,调用UpdateWorkbenchEventResult返回扩展程序的处理结果。调试 您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的困扰。运行成功后,OpenAPI Explorer可以...

概览

功能项 说明 任务编排 通过一个或多个任务编排而成的任务组,实现数据归档、数据集成、数仓数据开发数据挖掘等需求。数据服务 将DMS上管控的数据以API的形式快速对外输出。视频介绍 研发流程解决方案 数据安全解决方案 数据开发解决方案

获取已经开启的扩展程序列表

调用ListEnabledExtensionsForProject来获取项目空间下已经开启的扩展程序列表,包含系统扩展程序和自定义扩展程序。接口说明 eventCode 取值可参考文档:扩展事件编码。调试 您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的...

开发组管理

在 开发组管理 页面可以为小程序开发组执行增删改操作,并为创建的开发组添加成员。创建小程序开发组 在小程序开放平台左侧导航栏单击 开发组管理。在 开发组管理 页面,单击 创建小程序开发组。在 新建小程序开发组 侧拉框中输入小程序...

什么是EMR Notebook

EMR Notebook是一个Serverless化的交互式数据分析和探索平台,满足大数据和AI融合下的数据处理需求,为数据工程师、数据分析师和数据科学家提供了可视化的应用程序开发环境。通过EMR Notebook可以完成对SQL、Python、Markdown等多种语言...

OceanBase 数据库支持版本

MySQL 模式 基于 MySQL 模式进行应用开发 本文档是为应用程序开发人员准备的 OceanBase 数据库文档的入门文档,解释了 OceanBase 数据库开发背后的基本概念。展示并示例如何使用 OceanBase 的 MySQL 租户。普通租户(MySQL 模式)本文档为...

什么是MaxFrame

MaxFrame是阿里云MaxCompute为了满足用户在Python生态中日益增长的高效大数据处理和AI开发需求,提供的基于Python编程接口的分布式计算框架。您可直接利用MaxCompute的海量计算资源及数据通过MaxFrame进行TB/PB级数据处理、可视化数据探索...

后续指引

介绍:数据迁移 实践:数据迁移最佳实践 常见问题:数据上传下载常见问题 规模数据迁移 MaxCompute提供MMA(MaxCompute Migration Assist)迁移工具支撑规模数据迁移。开发与分析 数据类型 MaxCompute支持三种数据类型版本,为您介绍各...

程序自定义开发

本文的视频中介绍了在 Android 和 iOS 小程序开发中的一些自定义的进阶操作,包括自定义双向通道、自定义启动加载页以及自定义导航栏。Android 小程序 Android 小程序自定义双向通道-tiny2native Android 小程序自定义双向通道-native2tiny...

MaxCompute函数管理

您可以通过MaxCompute函数面板,查看在MaxCompute计算引擎中存在的函数、函数的变更历史,并可以一键添加函数至数据开发面板的业务流程中。查看函数 进入 数据开发 页面。登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据...

Notebook 查询与分析

多引擎开发:DataWorks Notebook拥有SQL Cell功能,支持多种大数据引擎的SQL开发与分析。交互式分析:交互式SQL查询:通过Python编写Widgets组件,通过在组件中直观选择或设置参数的取值,后续可以进一步在SQL中引用相同参数及取值,从而...

配置基础属性

进入数据开发节点的编辑页面,单击右侧导航栏的 调度配置,在 基础属性 区域配置调度节点的基本信息。参数 描述 名称 新建数据开发节点时输入的节点名称,不可以修改。节点ID 数据开发节点提交后会生成唯一的节点ID,不可以修改。节点类型 ...

上传数据

DataWorks的DataStudio(数据开发)支持将本地的CSV文件或自定义文本文件数据直接上传至MaxCompute表中,本文为您介绍相关操作。前提条件 已创建用于接收本地数据的MaxCompute开发表。建表操作请参见 创建并使用MaxCompute表。使用限制 ...

创建解决方案

数据开发模式全面升级,包括工作空间 解决方案 业务流程三级结构,抛弃陈旧的目录组织方式。背景信息 DataWorks对数据开发模式进行全面升级,按照业务种类组织相关的不同类型的节点,让您能够更好地以业务为单元、连接多个业务流程进行开发...
< 1 2 3 4 ... 200 >
共有200页 跳转至: GO
新人特惠 爆款特惠 最新活动 免费试用