用于数据仓库的任务调度 传输方式：数据迁移 对于每天处理大量事务数据的大型在线应用程序，您可能需要采用“次日仓库策略”，定期将数据传输到数据仓库。例如，您希望将迁移安排在业务低峰期，以便将当天的事务数据传输到数据仓库。通过该...
大数据开发治理平台 DataWorks基于MaxCompute/EMR/Hologres等大数据计算引擎，为客户提供专业高效、安全可靠的一站式大数据开发与治理平台，自带阿里巴巴数据中台与数据治理最佳实践，赋能各行业数字化转型。每天阿里巴巴集团内部有数万名...
TDE不会增加数据文件的大小，开发人员无需更改任何应用程序，即可使用TDE功能。更多信息，请参见 开启透明数据加密。TPS 数据库每秒执行的事务数（Transactions Per Second，简称TPS）。V VPC 专有网络（Virtual Private Cloud，简称VPC）...
本文将为您介绍数据开发DataStudio中支持的扩展点事件，以及使用扩展点触发扩展程序的操作过程。前提条件 已开启消息订阅操作，详情请参见 开启消息订阅。已完成扩展程序的开发部署操作，详情请参见 开发部署扩展程序：函数计算方式。背景...
在数据模型设计之前，您需要首先完成技术架构的选型。本教程中使用阿里云大数据产品MaxCompute配合DataWorks，完成整体的数据建模和研发流程。...DataWorks则包括数据开发、数据质量、数据安全、数据管理等在内的一系列功能。
使用DataWorks进行大数据开发时，支持对开发、测试、生产等环境进行隔离，当您联合使用了其他阿里云产品时，也可根据环境隔离诉求进行对应业务的环境设置与隔离，本文以DataWorks联合EMR、OSS等产品为例，为您介绍如何实现开发生产等多套...
DataWorks基于MaxCompute等引擎，提供统一的全链路大数据开发治理平台。本文为您介绍如何通过DataWorks使用MaxCompute服务。背景信息 DataWorks支持将计算引擎绑定至DataWorks的工作空间，绑定后您可以创建计算任务并进行周期调度。使用...
通过本教程，您可以了解如何使用DataWorks和Spark产品组合进行大数据开发和分析，并通过用户画像分析案例体验DataWorks在数据集成、数据开发和运维中心模块方面的相关能力。案例介绍 为了更好地制定企业经营策略，现需要从用户网站行为中...
通过本教程，您可以了解如何使用DataWorks和EMR产品组合进行大数据开发和分析，并通过用户画像分析案例体验DataWorks在数据集成、数据开发和运维中心模块方面的相关能力。案例介绍 为了更好地制定企业经营策略，现需要从用户网站行为中获取...
通过本教程，您可以了解如何使用DataWorks和Spark产品组合进行大数据开发和分析，并通过用户画像分析案例体验DataWorks在数据集成、数据开发和运维中心模块方面的相关能力。案例介绍 为了更好地制定企业经营策略，现需要从用户网站行为中...
通过本教程，您可以了解如何使用DataWorks和EMR产品组合进行大数据开发和分析，并通过用户画像分析案例体验DataWorks在数据集成、数据开发和运维中心模块方面的相关能力。案例介绍 为了更好地制定企业经营策略，现需要从用户网站行为中获取...
在大数据领域，阿里云为企业用户提供了一整套数据安全方案，包含用户认证、数据权限、大数据作业管理体系等。本文以联合使用DataWorks与EMR为例，为您介绍DataWorks on EMR场景下的数据安全方案。背景信息 DataWorks on EMR目前支持LDAP...
DM（达梦）数据源 Milvus数据源 TiDB数据源 DRDS（PolarDB-X 1.0）数据源 MongoDB数据源 TSDB数据源 Elasticsearch数据源 MySQL数据源 Vertica数据源 FTP数据源 OpenSearch数据源 TOS数据源 GBase8a数据源 Oracle数据源 HBase数据源 Graph ...
开源全托管服务EMR Serverless StarRocks 开源大数据平台 E-MapReduce 开源全托管服务EMR Serverless Spark 数据中台 一站式大数据开发治理DataWorks 在本案例中，DataWorks作为数据中台，用于对原始数据进行同步、加工、质量监控、数据...
操作难度 低 所需时间 30分钟 使用的阿里云产品 DataWorks：一站式大数据开发与治理平台，创建数据源并在数据开发绑定数据源后可在DataWorks上开发调度对应引擎的数据开发治理任务。MaxCompute：适用于数据分析场景的企业级SaaS模式云数据...
MySQL 模式 基于 MySQL 模式进行应用开发 本文档是为应用程序开发人员准备的 OceanBase 数据库文档的入门文档，解释了 OceanBase 数据库开发背后的基本概念。展示并示例如何使用 OceanBase 的 MySQL 租户。普通租户（MySQL 模式）本文档为...
本产品（大数据开发治理平台 DataWorks/2024-05-18）的OpenAPI采用 RPC 签名风格，签名细节参见 签名机制说明。我们已经为开发者封装了常见编程语言的SDK，开发者可通过 下载SDK 直接调用本产品OpenAPI而无需关心技术细节。如果现有SDK不能...
数据源介绍详情请参见 StarRocks数据源，数据源的创建入口及配置要点如下。进入数据源页面。登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的 更多 管理中心，在下拉框中选择对应工作空间后单击 进入管理中心。进入工作空间管理...
说明 本次实验数据仅作为阿里云大数据开发治理平台DataWorks数据应用实操使用，所有数据均为人工Mock数据。技术选型 数据建模：大数据开发治理平台 DataWorks数据建模（可选），标准版及以上版本可使用，需要单独购买。原始数据存储：云...
案例提供的数据仅用于阿里云大数据开发治理平台DataWorks数据应用体验。仅 空间管理员 角色可导入ETL模板至目标工作空间。如需给账号授予空间管理员角色，请参见 空间级模块权限管控。导入ETL工作模板时选择的资源组若是Serverless资源组，...
适配阿里云MaxCompute、E-MapReduce、Hologres、Flink、AnalyticDB、StarRocks、PAI 等数十种大数据和AI计算服务，为数据仓库、数据湖、湖仓一体、Data+AI解决方案提供全链路智能化的数据集成、大数据AI一体化开发、数据分析与主动式数据...
EMR Notebook是一个Serverless化的交互式数据分析和探索平台，满足大数据和AI融合下的数据处理需求，为数据工程师、数据分析师和数据科学家提供了可视化的应用程序开发环境。通过EMR Notebook可以完成对SQL、Python、Markdown等多种语言...
本案例提供数据仅作为阿里云大数据开发治理平台DataWorks数据应用实操使用，所有数据均为人工Mock数据。本教程使用 数据开发（DataStudio）（旧版）进行数据加工。MaxCompute环境准备 一、开通MaxCompute产品 本教程基于MaxCompute实现，请...
本教程提供数据仅作为阿里云大数据开发治理平台DataWorks数据应用实操使用，所有数据均为人工Mock数据。本教程使用 数据开发（Data Studio）（新版）进行数据加工。MaxCompute环境准备 一、开通MaxCompute产品 本教程基于MaxCompute实现，...
本教程提供数据仅作为阿里云大数据开发治理平台DataWorks数据应用实操使用，所有数据均为人工Mock数据。本教程使用 数据开发（Data Studio）（新版）进行数据加工。EMR环境准备 本教程需要您创建一个EMR集群并集成到DataWorks，以便在...
本教程提供数据仅作为阿里云大数据开发治理平台DataWorks数据应用实操使用，所有数据均为人工Mock数据。本教程使用 数据开发（Data Studio）（新版）进行数据加工。OSS对象存储环境准备 本案例将使用自定义函数，注册函数所用资源将上传至...
本案例提供数据仅作为阿里云大数据开发治理平台DataWorks数据应用实操使用，所有数据均为人工Mock数据。本案例使用 数据开发（DataStudio）（旧版）进行数据加工。EMR环境准备 创建EMR集群 本教程需要您创建一个EMR集群，用于集成到...
本教程提供数据仅作为阿里云大数据开发治理平台DataWorks数据应用实操使用，所有数据均为人工Mock数据。本教程使用 数据开发（Data Studio）（新版）进行数据加工。OSS对象存储环境准备 本教程需要您创建一个OSS Bucket，后续会将用户信息...
本教程提供数据仅作为阿里云大数据开发治理平台DataWorks数据应用实操使用，所有数据均为人工Mock数据，并且只支持在数据集成模块读取数据。进入数据开发 登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的 数据开发与运维 数据...
本教程提供数据仅作为阿里云大数据开发治理平台DataWorks数据应用实操使用，所有数据均为人工Mock数据，并且只支持在数据集成模块读取数据。在 私有OSS环境准备 步骤中创建的OSS对象存储的 Bucket 将用于接收MySQL数据源的用户信息数据与...
您在本地完成应用程序的开发、调试和测试后，可以使用在IDE（如IntelliJ IDEA或Eclipse）中安装的Cloud Toolkit插件，通过图形配置的方式连接到云端部署环境并将应用程序快速部署到云端。功能概览 功能 描述 文档 安装Cloud Toolkit 在...
本文介绍了 OceanBase 数据库应用开发常用的文档链接。规划数据库对象 二级目录 文档名称 规划数据对象 创建数据库 创建表 创建索引 数据写入 二级目录 文档名称 数据写入 插入数据 更新数据 删除数据 替换数据 数据读取 二级目录 文档名称...
使用OpenTSDB或时间序列数据库TSDB的应用开发步骤 Lindorm时序引擎兼容相关接口，对于已有使用OpenTSDB或者时间序列数据库TSDB的应用程序，您可以按照以下步骤进行应用迁移：应用适配 修改应用程序中的连接字符串，连接的目标从原有的...
公开数据集列表 类型 数据集 数据来源及说明 数据类型 数字商业 阿里电商数据集 本数据集来源天池阿里移动推荐算法挑战赛，基于阿里巴巴100万条脱敏的商品数据，可以基于各类商品、操作、时间等字段，体验阿里云大数据分析能力。静态数据 ...
通常的解决办法是重启应用程序或保证应用程序具备重连机制，但由于开发周期等原因，在开发设计应用程序的前期可能并未考虑到该问题，导致出现大量的非预期行为甚至应用程序的服务不可用。因此 PolarDB 新增支持连接保持功能，避免由于一些...
若您选择 不带地址回切（应用程序需要改为源实例连接配置），操作步骤如下：选中 不带地址回切（应用程序需要改为源实例连接配置），在迁移切换完成后，您需要尽快修改应用程序端的数据库连接地址。单击 确定。此时RDS实例为 可读可写，...
语言 相关文档 Java 基于Java JDBC接口的应用开发 基于Java连接池Druid的应用开发 基于LindormDataSource的应用开发 基于Java ORM框架MyBatis的应用开发 Python 基于Python的应用开发 基于Python ORM框架的应用开发 Go 基于Go的应用开发 ...
概念名称 说明 模板 预置的应用定义，用于快速部署应用程序，便于开发者体验或二次开发。项目 项目就像一个应用程序栈或一组相关的组件，您可以基于模板创建项目，也可以创建空白项目。一个项目可以包含多个服务，项目用于管理服务及其资源...
Schema验证改进 Schema验证（模式验证）是对MongoDB进行数据应用管理控制的一种方式。MongoDB 5.0中，模式验证变得更加简单和友好，当操作验证失败时都会产生描述性的错误信息，帮助您了解不符合集合验证器的验证规则的文档及原因，以快速...
脱敏方案对比 脱敏方案 说明 优点 缺点 动态脱敏 当应用程序发起数据查询请求时，系统会在数据库内部对敏感数据进行变换后再返回给应用程序。开始查询前，仅需指定需要进行脱敏查询的数据库账号，以及需要脱敏的数据库、表或列的名称即可。...