本教程中使用阿里云大数据产品MaxCompute配合DataWorks，完成整体的数据建模和研发流程。完整的技术架构图如下图所示。其中，DataWorks的数据集成负责完成数据的采集和基本的ETL。MaxCompute作为整个大数据开发过程中的离线计算引擎。...
通过本教程，您可以了解如何使用DataWorks和EMR Serverless Spark产品组合进行大数据开发和分析，并通过用户画像分析案例体验DataWorks在数据集成、数据开发和运维中心模块方面的相关能力。案例介绍 为了更好地制定企业经营策略，现需要从...
通过本教程，您可以了解如何使用DataWorks和EMR Serverless Spark产品组合进行大数据开发和分析，并通过用户画像分析案例体验DataWorks在数据集成、数据开发和运维中心模块方面的相关能力。案例介绍 为了更好地制定企业经营策略，现需要从...
通过本教程，您可以了解如何使用DataWorks和MaxCompute产品组合进行大数据开发和分析，并通过用户画像分析案例体验DataWorks在数据集成、数据开发和运维中心模块方面的相关能力。案例介绍 为了更好地制定企业经营策略，现需要从用户网站...
通过本教程，您可以了解如何使用DataWorks和MaxCompute产品组合进行大数据开发和分析，并通过用户画像分析案例体验DataWorks在数据集成、数据开发和运维中心模块方面的相关能力。案例介绍 为了更好地制定企业经营策略，现需要从用户网站...
EMR Notebook是一个Serverless化的交互式数据分析和探索平台，满足大数据和AI融合下的数据处理需求，为数据工程师、数据分析师和数据科学家提供了可视化的应用程序开发环境。通过EMR Notebook可以完成对SQL、Python、Markdown等多种语言...
概述 电商网站的销售数据通过大数据进行分析后，可以在大屏幕展示销售指标、客户指标、销售排名和订单地区分布等业务指标数据。DataV大屏支持可视化动态展示销售数据，触控大屏支持您自助查询数据，极大地提高数据的可读性。应用场景 电商...
GitHub十大热门编程语言 DataWorks MaxCompute 函数计算 OSS 数据集成 数据开发 基于GitHub Archive公开数据集，通过DataWorks 数据集成 模块获取过去1小时GitHub中提交次数最多的代码语言数据，在DataStudio 数据开发 模块通过函数计算...
工作空间概述 工作空间是DataWorks中进行任务开发和成员权限管理的 基本单元，所有开发工作都将在DataWorks自定义的工作空间内完成。一个工作空间支持创建多种数据源，以管理数据源中存储的数据；同时支持绑定多种计算资源，以进行任务开发...
步骤一：数据库节点开发 创建好数据库节点后，即可对数据库节点进行开发。选择数据源。在 选择数据源 选择框内单击 弹出选择数据源弹窗，在弹窗内选择进行任务开发需要使用的数据源。如果没有所需数据源，可单击 新增数据源 添加相应的数据...
数据源配置 基于业务数据源是否区分生产数据源和开发数据源：如果业务数据源区分生产数据源和开发数据源，则选择 生产+开发数据源。如果业务数据源不区分生产数据源和开发数据源，则选择 生产数据源。标签 您可根据标签给数据源进行分类...
完成以上五个步骤后，您的 DataWorks 工作空间已具备基础的开发和运行能力，可以开始进行数据集成和数据开发工作。管理控制功能概览 概览与导航 控制台左侧导航栏是所有管理功能的入口，主要包括工作空间列表、资源组列表、镜像管理、已购...
EMR提供的组件包括开源和自研两大类，涵盖数据开发、计算引擎、数据服务、资源管理、数据存储、数据集成等领域，您可以按需选择和配置。说明 在创建集群时，如果没有您想使用的组件，或者想使用的开源组件仅对存量用户开放，您可以自行安装...
数据源配置 基于业务数据源是否区分生产数据源和开发数据源：如果业务数据源区分生产数据源和开发数据源，则选择 生产+开发数据源。如果业务数据源不区分生产数据源和开发数据源，则选择 生产数据源。标签 您可根据标签给数据源进行分类...
任务监控与定位处理 数据建模：智能数据建模 智能数据建模是阿里云DataWorks自主研发的智能数据建模产品，沉淀了阿里巴巴十多年来数仓建模方法论的最佳实践，包含数仓规划、数据标准、维度建模及数据指标四大模块，帮助企业在搭建数据中台...
流转 大数据系统通常是端到端的一整套数据开发和治理服务，不仅要采集数据、加工数据，更要将数据提供给业务方使用。因此，其存在错综复杂的数据流转链路，包括但不限于即席查询链路、离线传输链路、实时传输链路、数据服务API链路、其他...
当您需要为新的数据项目启动开发工作时，面临着如何隔离代码、资源和团队成员，以避免项目混乱和安全风险的挑战。DataWorks 工作空间正是为此设计的解决方案。它通过提供一个独立的、项目制的容器，让您能够结构化地管理开发任务、计算资源...
步骤五：规范建模 数据开发 基于 规范定义 明确好的统计指标口径和 规范建模 部分定义好的模型完成规范建模数据开发。包括维度逻辑表、事实逻辑表、原子指标、业务限定、派生指标。步骤一：开发维度逻辑表 步骤二：开发事实逻辑表 步骤三：...
步骤五：规范建模 数据开发 基于 规范定义 明确好的统计指标口径和 规范建模 部分定义好的模型完成规范建模数据开发。包括维度逻辑表、事实逻辑表、原子指标、业务限定、派生指标。步骤一：开发维度逻辑表 步骤二：开发事实逻辑表 步骤三：...
产品列表 OpenLake免费试用会为您开通如下列表内的产品：分类 产品 开发平台 大数据开发治理平台DataWorks（DataWorks计费说明、DataWorks基础版、DataWorks通用资源组）、人工智能平台PAI 存储服务 数据湖构建DLF、对象存储OSS 计算资源 ...
通常情况下，只有企业数据开发人员和分析人员可以在数据平台上浏览和使用数据，而不允许将详细数据下载到本地进行分析。一旦数据导出到本地，就无法对其使用行为进行审计。同时，如果数据被不当使用或者受到别有用心者的攻击，就可能导致...
在配置好 数据来源、我的资源组 和 数据去向 后，请单击 下一步，根据页面提示完成连通性测试。详细配置如下。配置项 配置内容 数据来源 数据来源：MySQL 数据源名称：user_behavior_analysis_mysql 我的资源组 选择在 准备环境 阶段购买的...
DataWorks 是阿里云提供的一站式大数据开发与治理平台，旨在帮助用户解决从数据接入、处理、治理到服务化的全链路数据问题。它通过一系列高度协同的功能模块，将复杂的数据工程流程化、可视化，显著降低了大数据开发的门槛。本文将为您逐一...
在该阶段，DataWorks为您提供了数据分类分级、规范数据开发流程、企业级身份认证、开源身份隔离等多个场景的最佳实践，帮助企业做好数据安全治理的相关基础防护工作。场景一：数据分级分类 无论在任何行业，数据分级分类都是监管首要检查的...
DataWorks的Doris节点可进行Doris任务的开发和周期性调度，以及与其他作业的集成操作。本文为您介绍使用Doris节点进行任务开发的主要流程。背景信息 Apache Doris是一个高性能、实时的分析型数据库，能较好地满足报表分析、即席查询、数据...
在大数据时代，规范地进行数据资产管理已成为推动互联网、大数据、人工智能和实体经济深度融合的必要条件。贴近业务属性、兼顾研发各阶段要点的研发规范，可以切实提高研发效率，保障数据研发工作有条不紊地运作。而不完善的研发流程，会...
您需根据后续要开发和调度的任务类型，提前创建好对应的数据源或集群。数据源或集群 说明 绑定MaxCompute计算资源 首次创建MaxCompute数据源后，DataWorks会自动将数据源绑定至数据开发（DataStudio），您无需按本文手动绑定。但后续创建的...
背景信息 若您仅需在数据开发（DataStudio），即开发环境，查询数据及相关SQL代码、测试代码的实际运行情况与期望值是否相符，或验证代码的正确性，而无需将数据或SQL代码发布至生产环境并操作生产环境引擎，则可通过 新建临时查询文件 ...
MaxCompute已被广泛应用于各大领域处理云上大数据，帮助众多企业解决了海量数据分析问题，同时降低企业运维成本，企业人员可更专注于业务开发。本文为您介绍MaxCompute的精选客户案例。MaxCompute的全量客户案例信息，请参见 行业客户案例...
您需根据后续要开发和调度的任务类型，提前创建好对应的数据源或集群。数据源或集群 说明 绑定MaxCompute计算资源 首次创建MaxCompute数据源后，DataWorks会自动将数据源绑定至数据开发（DataStudio），您无需按本文手动绑定。但后续创建的...
数据地图概述 安全中心 数据保护伞 审批中心 安全中心是集数据资产分级分类、敏感数据识别、数据授权管理、敏感数据脱敏、敏感数据访问审计、风险识别与响应于一体的一站式数据安全治理界面，帮助用户落地数据安全治理事项。安全中心概述 ...
删除场景 操作影响 删除【开发】和【生产】两个环境•生产任务将彻底失败，无法运行。在开发环境配置新任务时，该数据源不可见。仅【开发】环境•生产任务可正常运行。但编辑该任务时，无法获取元数据（如表结构）。在开发环境配置新任务时...
在左侧导航栏 产品类别 下依次打开 大数据计算 数据开发与服务，然后在右侧找到 大数据开发治理平台DataWorks 的免费试用卡片，单击 立即试用。重要 免费试用抵扣包仅适用于初次使用DataWorks产品的新用户，老客户进入此页面将展示为不符合...
通过DataWorks进行数据开发和数据分析。将本地数据通过DataWorks上传至MaxCompute的 bank_data 表，通过 MaxCompute SQL 任务节点分析用户群体，得到 result_table 表。基于 result_table 表做简单可视化展示分析，得到群体画像。说明 本...
了解DataWorks on EMR Serverless StarRocks DataWorks作为阿里云一站式大数据开发治理平台，通过数据源对接EMR Serverless StarRocks，可实现EMR Serverless StarRocks的数据集成、作业周期性调度，同时结合StarRocks引擎在数据分析和数据...
本产品（大数据开发治理平台 DataWorks/2024-05-18）的OpenAPI采用 RPC 签名风格，签名细节参见 签名机制说明。我们已经为开发者封装了常见编程语言的SDK，开发者可通过 下载SDK 直接调用本产品OpenAPI而无需关心技术细节。如果现有SDK不能...
Notebook Notebook结合大语言模型，可以给业务开发、数据开发、分析师和数据运营同学赋能，提升数据交付效率和数据自助分析的效率。用户使用该功能可以以文档形式交付查询、测试的数据及数据变化趋势等信息。文档交付后，您可以使用DMS提供...
这极大地简化数据处理流程，让数据工程师和分析师无需编写复杂的算法，即可将AI能力无缝集成到现有的ETL（数据抽取、转换、加载）链路中。准备工作 在DataWorks中部署大模型服务，详情请参见 部署模型。重要 不同模型 和资源规格的选择，将...
各个分层的功能介绍如下：数据引入层 ODS（Operational Data Store）ODS层用于接收并处理需要存储至数据仓库系统的原始数据，其数据表的结构与原始数据所在的数据系统中的表结构一致，是数据仓库的数据准备区。ODS层对原始数据的操作具体...
DataWorks数据服务的主要目标是为个人、团队和企业构建统一的数据服务总线，帮助用户统一管理面向内外部的API服务。例如，您可以将查询数据表功能快速的生成对应的API，或将已有的API注册至数据服务平台进行统一发布和管理。本文以MySQL...