数据集成管理

_相关内容

管理数据集成任务

背景信息 数据集成任务支持的管理操作及对应的影响请参见下表。操作 影响 停止数据集成任务 数据集成任务将转变为 已暂停 状态,暂停调度该任务。说明 处于该状态的任务,可执行 恢复数据集成任务,让任务继续运行。恢复数据集成任务 数据...

集成与开发概览

DMS的数据集成与开发功能模块,针对数据全生命周期的集成、开发、服务三个阶段提供界面化的功能支持。功能简介 数据集成与开发功能模块支持多种计算、存储引擎,支持结构化、半结构化、非结构化数据的实时集成、离线集成、开发、服务,能够...

离线集成概述

说明 若您使用的是极简模式的控制台,请单击控制台左上角的 图标,选择 全部功能>集成与开发(DTS)>数据集成>离线集成。单击 新增数据流,输入 数据流名称,单击 确认。在数据流详情页面,创建数据流节点。具体操作,请参见 创建数据流。...

功能发布记录(2022年)

2022.7.29 华东1(杭州),华东2(上海),华北2(北京),华北3(张家口),华南1(深圳),西南1(成都),德国(法兰克福)所有DataWorks用户 系统管理 数据集成DataStudio智能 支持Postgres数据库,SSL认证时支持.crt 和.key 双文件...

运维中心概述

任务运维管理:支持运维管理数据集成、建模研发、编码研发和数据萃取模块生成的代码任务,同时包括单节点及其上下游依赖任务或实例的状态查看及管理操作。运行资源管控:在计算引擎出现性能瓶颈、资源分配不足或需控制任务下发时间和顺序等...

配置离线数据集成节点

离线数据集成节点赋予任务流进行数据传输的能力,帮助您实现数据源之间的数据同步。本文介绍配置离线数据集成节点的方法。应用场景 离线集成节点主要用于数据迁移、数据传输等场景。功能特性 不限制来源表和目标表数据库类型。支持字段映射...

数据集成审批策略

进入审批中心页面后,在左侧导航栏选择 审批策略管理>数据集成,进入数据集成的审批策略管理页面。单击页面右上角的 新建审批策略,在新建审批策略页面配置审批策略信息。填写基本信息 根据实际审批策略应用场景,填写 审批策略名称 和 ...

创建ClickHouse数据

数据集成页面支持创建的数据源类型,具体请以实际界面为准。创建数据源 配置基础信息。您可根据界面提示配置数据源的名称等基础信息,核心配置参数如下表所示。说明 标准模式工作空间,需分别创建开发环境数据源和生产环境数据源。工作空间...

创建AnalyticDB for PostgreSQL数据

数据集成页面支持创建的数据源类型,具体请以实际界面为准。创建数据源 DataWorks支持通过如下两种方式创建数据源。说明 标准模式工作空间,需分别创建开发环境数据源和生产环境数据源。工作空间模式介绍,详情请参见 必读:简单模式和标准...

创建AnalyticDB for MySQL3.0数据

数据集成页面支持创建的数据源类型,具体请以实际界面为准。创建数据源 DataWorks支持通过如下两种方式创建新版数据源。说明 标准模式工作空间,需分别创建开发环境数据源和生产环境数据源。工作空间模式介绍,详情请参见 必读:简单模式和...

数据集成

接入数据总线的应用,对项目隔离空间内的数据的操作,是...进入项目详情内的“数据集成”页面,可以看到当前项目中涉及到的数据模型列表。进入 授权 操作页面,进行授权操作。此外,你也可以点击模型列表右侧的“管理”按钮,直接操作数据。

创建MaxCompute数据

数据集成页面支持创建的数据源类型,具体请以实际界面为准。创建数据源 DataWorks支持通过如下两种方式创建新版数据源。说明 标准模式工作空间,需分别创建开发环境数据源和生产环境数据源。工作空间模式,详情请参见 必读:简单模式和标准...

功能更新动态(2022年之前)

业务板块 发布管理 新增数据集成、实时计算任务的发布管理管理发布任务 运维调度 全局运维中新增实时任务和实时实例。概述 监控报警 新增实时报警记录和实时监控配置,方便您及时了解任务运行的状况。配置实时监控报警规则 数据处理 新增...

表设计规范

合理的表设计和数据集成周期管理能够降低数据在存储期间的成本。不合理的数据导入及存储(小文件)会影响整体的存储性能、计算性能、运维稳定性。MaxCompute优先按照业务逻辑对批量数据进行计算,例如,按照分区进行计算。表设计步骤 确定...

整体架构

在周边生态上,提供数据迁移、数据同步、数据管理数据集成、数据安全等配套工具,方便使用,使您能更加专注于业务发展。湖仓版(3.0)在 数仓版(3.0)基础上,同时满足低成本离线处理和高性能在线分析的湖仓一体化版本,称为 湖仓版(3....

数据集成侧同步任务配置

说明 DataWorks的离线同步任务通过调度资源组将其下发到数据集成任务执行资源组上执行,所以离线同步任务除了涉及数据集成任务执行资源组外,还会占用调度资源组资源。如果使用了独享调度资源组,将会产生调度实例费用。您可通过 任务下发...

通过操作审计查询行为事件日志

DIManageDatasourcePermission 数据集成数据源权限管理 DICreateTableByDDL DataStudio数据集成一键生成目标表结构 DIPreviewData DataStudio数据集成预览离线任务 DIUpdateDataxJob DataStudio数据集成更新离线任务 DIUpdateStreamxJob ...

DataWorks OpenAPI概述

DataWorks为您提供了涵盖租户、元数据、数据开发、运维中心、数据集成等多个功能模块的OpenAPI接口,不同API的QPS限制、每日调用次数上限和支持使用的DataWorks服务版本存在差异。您可参考本文了解各OpenAPI支持的DataWorks版本及地域、...

配置并管理实时同步任务

您需要在数据集成同步任务配置前,配置好您需要同步的源端和目标端数据库,以便在同步任务配置过程中,可通过选择数据源名称来控制同步任务的读取和写入数据库。实时同步支持的数据源及其配置详情请参见 实时同步支持的数据源。说明 数据源...

查看及管理离线集成任务列表

在Dataphin的离线集成任务列表为您展示了离线集成任务的基本信息及相关管理操作选项,方便您查看创建的离线集成任务并进行管理。本文为您介绍离线集成任务列表支持的管理功能。离线集成列表入口 在Dataphin首页,单击顶部菜单栏中的研发。...

查看及管理离线集成任务列表

在Dataphin的离线集成任务列表为您展示了离线集成任务的基本信息及相关管理操作选项,方便您查看创建的离线集成任务并进行管理。本文为您介绍离线集成任务列表支持的管理功能。离线集成列表入口 在Dataphin首页,单击顶部菜单栏中的研发。...

什么是DataWorks

中国国际大数据产业博览会十佳大数据案例 中国信通院:数据集成工具、数据管理工具、数据开发平台、数据脱敏工具、数据分类分级等评测 学习路径 您可以通过DataWorks文档首页的 学习路径,快速了解DataWorks的相关概念、基础操作及进阶操作...

什么是数据库网关

DMS提供全域数据资产管理数据治理、数据库设计开发、数据集成、数据开发和数据消费等功能,致力于帮助企业高效、安全地挖掘数据价值,助力企业数字化转型。数据库网关与数据管理DMS搭配可为您提供高稳定性、低成本、统一的非阿里云数据库...

什么是数据库网关

DMS提供全域数据资产管理数据治理、数据库设计开发、数据集成、数据开发和数据消费等功能,致力于帮助企业高效、安全地挖掘数据价值,助力企业数字化转型。数据库网关与数据管理DMS搭配可为您提供高稳定性、低成本、统一的非阿里云数据库...

应用场景

典型使用场景——批量管理 DAS提供企业级数据管理服务,贴近业务管理视角,支持全局、应用组、实例的多种管理维度,并且提供了自定义大盘、批量管理、巡检等企业级能力,同时支持与企业原有数据管理系统集成。典型使用场景——智能诊断...

权限自查建议

分组如管理组、数据集成组、数据模型组、算法组、分析组、运维组、安全组等。数据流动控制 限制部分项目的数据导出,控制部分人员的权限。数据随意在各个项目之间流动,不但会导致云平台数据架构混乱,同样也会导致数据泄露。所以,针对大...

公共数据集成(调试)资源组

本文为您介绍公共数据集成(调试)资源组相关问题。公共数据集成(调试)资源组怎么收费?公共数据集成(调试)资源组支持哪些类型的任务?公共数据集成(调试)资源组支持哪些网络类型?公共数据集成(调试)资源组的性能限制 公共数据...

数据集成:全领域数据汇聚

DataWorks的数据集成功能模块是稳定高效、弹性伸缩的数据同步平台,致力于提供复杂网络环境下、丰富的异构数据源之间高速稳定的数据移动及同步能力。功能概述 DataWorks数据集成支持离线同步、实时同步,以及离线和实时一体化的全增量同步...

收费常见问题

本文为您介绍数据集成收费相关问题及解决方案。数据集成是怎么收费的?数据集成收费包含三种途径,详情请参见 独享数据集成资源组计费说明:包年包月、公共数据集成(调试)资源组:按量计费、公网流量计费说明。

产品优势

同时数据库网关可以与其他阿里云产品(例如数据传输服务DTS,数据库备份DBS,数据管理DMS)集成使用。安全可靠 无需暴露数据库公网地址,确保用户数据资产的安全和稳定。本地网关启动时,需要在控制台生成一个临时令牌,该令牌会在网关启动...

DataWorks公共数据集成(调试)资源组下线公告

已经配置了DataWorks公共数据集成资源组的任务可继续正常运行,但不能对这些任务进行修改,若您需修改这些任务,请于 2024年4月1日 前切换为 DataWorks独享数据集成资源组。2024年9月1日 起,DataWorks公共数据集成资源组不再提供服务,...

数据引入概述

Dataphin支持通过数据集成和数据同步的方式,将业务数据源的数据引入Dataphin平台。背景信息 如果您是在 2020年4月之后 购买的Dataphin,则数据同步能力通过数据集成功能实现(即系统 不再提供数据同步的功能入口)。数据集成为您提供简单...

数据引入概述

Dataphin支持通过数据集成和数据同步的方式,将业务数据源的数据引入Dataphin平台。背景信息 如果您是在 2020年4月之后 购买的Dataphin,则数据同步能力通过数据集成功能实现(即系统 不再提供数据同步的功能入口)。数据集成为您提供简单...

配置监控报警

数据集成任务提供了监控报警功能,您可以通过控制台对重要的监控指标设置报警规则,让您第一时间了解该任务的运行状态。前提条件 已创建数据集成任务,相关案例请参见 配置RDS MySQL间的数据集成任务。背景信息 DTS目前支持的监控项为 延迟...

数据集成概述

数据集成是基于Dataphin构建的简单高效的数据同步平台,致力于提供具有强大的数据预处理能力、丰富的异构数据源之间数据高速稳定的同步能力。背景信息 面对各行各业对大数据的应用,数据集成会有很多的诉求,包括能够简单高效的配置大量...

配置SQLServer数据

说明 您也可以在 数据集成 页面进入 数据源管理 配置数据源,但此方式只支持生产环境的数据源。在 数据源管理 页面,单击右上角的 新增数据源。在 新增数据源 对话框中,选择数据源类型为 SQLServer。在 新增SQLServer数据源 对话框中,...

附录:ECS自建数据库的安全组配置

添加安全组 进行ECS自建数据源的数据同步时,如果同步任务运行在:独享数据集成资源组上 需要将独享数据集成资源组的EIP地址段或独享数据集成资源组绑定的交换机网段添加至ECS安全组上。通过外网同步数据时,需获取并添加独享资源组本身的...

计费方式

运行数据集成任务会产生DataWorks相关费用,此外还可能其他产品费用,具体如下:DataWorks相关收费 数据集成资源组(独享数据集成资源组计费说明:包年包月,如果使用 公共数据集成(调试)资源组:按量计费,则还包括公共数据集成资源组...

修改调度策略

对于已经配置完成的数据集成任务,如果由于业务需求变更需要重新调整调度策略,您可以参照本文的方法修改调度策略。前提条件 已创建数据集成任务,相关案例请参见 配置RDS MySQL间的数据集成任务。操作步骤 登录 数据传输控制台。在左侧...

通过数据集成导入导出MongoDB数据

数据集成DataWorks是稳定高效、弹性伸缩的数据同步平台,为阿里云大数据计算引擎(MaxCompute、AnalyticDB和OSS等)提供离线、批量数据的进出通道。本文介绍如何通过数据集成导入导出MongoDB数据。关于通过数据集成导入导出MongoDB数据的...
< 1 2 3 4 ... 200 >
共有200页 跳转至: GO
新人特惠 爆款特惠 最新活动 免费试用