类型 典型场景 数据库Binlog采集 数据集成-数据库实时数据同步。DTS。日志采集 数据集成-实时数据同步（SLS）。SLS数据投递。日志采集客户端LogStash。流计算任务写入 Flink写入MaxCompute结果表。流数据同步任务写入 DataHub数据同步...
更新数据集成新版任务，当前支持的任务类型包括：MySQL到Hologres整库实时、MySQL到Hive整库离线解决方案。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。...
目前支持使用CreateDISyncTask接口创建数据集成离线同步任务（DI_OFFLINE），实时同步任务（DI_REALTIME）和解决方案（DI_SOLUTION）。TaskContent String 是 {"type":"job","version":"2.0","steps":[{"stepType":"mysql","parameter":{...
在数据集成任务高并发执行且无法错峰运行的情况下，需要专有的计算资源组来保障数据快速、稳定的传输时，建议您选择使用DataWorks的独享数据集成资源组。本文为您概要介绍独享数据集成资源组。功能介绍 独享数据集成资源组的功能亮点如下：...
数据集成模块与同步解决方案的更多介绍，详情请参见 支持的数据源及同步方案。使用限制 您需要拥有 开发 角色权限，才可以在数据开发（DataStudio）界面创建同步任务。授权详情，请参见 添加空间成员并管理成员角色权限。离线同步任务 场景...
调用UpdateDISyncTask更新数据集成同步任务。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 示例值 描述 Action String 是 ...
公共数据集成（调试）资源组仅支持 离线数据同步，不支持 实时数据同步、同步解决方案。适用于任务量相对较少、对任务时效性要求不高的场景。对于时效性、稳定性要求高，需要保障的任务建议使用独享数据集成资源组。公共数据集成（调试）...
实时数据分析场景解决方案 步骤如下：实时摄入：通过直接读取Kafka数据来实现。提供了Flink-Connector来支持Flink数据流的直接写入，并保证了exactly-once语义。此外，还支持Flink CDC来捕捉TP数据更新，并实时地将结果更新到StarRocks中。...
实时数据流场景 DataFlow集群类型提供了Flink、Kafka、Paimon等服务，主要用于解决实时计算端到端的各类问题，广泛应用于实时数据ETL和日志采集分析等场景。通过采集程序将业务数据、日志和埋点数据等投递到EMR Kafka，利用Flink的实时计算...
背景信息 数据集成基于源端数据库与目标端数据库类型为您提供丰富的数据同步任务，同步类型包括：整库离线同步（一次性全量同步、周期性全量同步、离线全增量同步、一次性增量同步、周期性增量同步）、一键实时同步（一次性全量同步，实时...
任务组成 当前方案将分别创建用于全量数据初始化的离线同步子任务，和用于增量数据实时同步的数据集成实时同步子任务，方案产生的离线同步子任务个数与最终读取的表个数有关。数据写入 支持全增量数据实时写入，也支持仅进行增量数据实时...
入仓解决方案包括：实时同步任务：基于离线数据集成的数据传输服务。新建实时同步任务，请参见 新建实时同步任务。实时迁移任务：基于数据传输服务DTS的数据传输服务。新建实时迁移任务，请参见 新建实时迁移任务。说明 基于DTS的数据同步...
任务组成 当前方案将分别创建用于全量数据初始化的离线同步子任务，和用于增量数据实时同步的数据集成实时同步子任务，方案产生的离线同步子任务个数与最终读取的表个数有关。数据写入 支持全增量数据实时写入，也支持仅进行增量数据实时...
步骤九：执行同步解决方案任务 进入 数据集成>同步任务 界面，找到已创建的同步方案。单击操作列的 启动/提交执行 按钮，启动同步的运行。单击操作列的 执行详情，查看任务的详细执行过程。后续步骤 完成任务配置后，您可以对已创建的任务...
Hologres与大数据生态无缝打通，您可以通过DataWorks数据集成、Flink以及Hologres Connector等多种方式将Kafka数据实时同步至Hologres，再进行高并发低延时的查询分析处理。相关原理请参见 Kafka Reader 和 Hologres Writer。Kafka通过...
解决方法：进入 数据集成>同步任务 找到目标任务，单击 更多>修改配置 编辑全增量同步任务，可以通过先减表，提交执行流程，再加表，提交执行流程，触发此表的重新同步，跳过该表不支持的DDL。实时任务启动时，修改DDL策略，修改该类型的...
本文将以MySQL分库分表实时写入实时数仓Hologres场景为例，为您介绍分库分表写入Hologres数据集成最佳实践。前提条件 已完成Hologres和MySql数据源配置。您需要将数据库添加至DataWorks上，以便在同步任务配置时，可通过选择数据源名称来...
本文为您介绍如何通过DataWorks数据集成将MySQL全增量数据一体化同步至MaxCompute表中。前提条件 已完成MaxCompute和MySql数据源配置。您需要将数据库添加至DataWorks上，以便在同步任务配置时，可通过选择数据源名称来控制同步读取和写入...
本文为您介绍如何通过DataWorks数据集成将MySQL全增量数据一体化同步至MaxCompute表中。前提条件 已完成MaxCompute和MySql数据源配置。您需要将数据库添加至DataWorks上，以便在同步任务配置时，可通过选择数据源名称来控制同步读取和写入...
步骤二：配置资源组 实时同步任务仅支持使用独享数据集成资源组，您可以在实时同步任务编辑页面的右侧导航栏，单击 基本配置。在 资源组 下拉框选择已经与数据库网络连通的独享数据集成资源组。说明 建议实时同步任务与离线同步任务运行在...
调用StartDISyncInstance接口，启动实时同步任务和解决方案同步任务。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 示例值 ...
运维大屏为您展示工作空间的运维稳定性评估、重点关注的运维指标、调度资源使用及周期任务运行概况，以及数据集成同步任务的运行详情，助力您从宏观角度快速了解空间任务的整体概况，及时发现并处理异常任务，提升运维效率。使用说明 运维...
查看和设置报警联系人 2021-05 功能名称 功能描述 发布时间 发布地域 相关文档 DataWorks数据集成新增实时同步数据至 AnalyticDB for MySQL 3.0的解决。DataWorks支持实时同步MySQL、OceanBase、PolarDB等数据库数据至 AnalyticDB for ...
实时增量同步 参数 描述 选择实时任务独享资源组 选择运行实时任务时需要使用的独享数据集成资源组。目前解决方案仅支持使用独享数据集成资源组，此处可配置为准备操作中已购买并配置的独享数据集成资源组，详情请参见 资源规划与配置。...
取值如下：DI_REALTIME：表示数据集成实时同步任务。DI_SOLUTION：表示数据集成同步解决方案。FileId Long 是 100 当TaskType为DI_REALTIME时，则FileId为实时同步任务的文件ID。当TaskType为DI_SOLUTION时，则FileId为同步解决方案的任务...
任务组成 当前方案将分别创建用于全量数据初始化的离线同步子任务，和用于增量数据实时同步的数据集成实时同步子任务，方案产生的离线同步子任务个数与最终读取的源端表个数有关。数据写入 运行同步任务后，生成的离线同步任务将全量数据...
很多业务场景并不要求延时秒级更新可见或者行级更新，更多的需求是分钟级或者小时级的近实时数据处理叠加海量数据批处理场景，MaxCompute支持基于Transaction Table2.0实现近实时的增全量一体的数据存储、计算解决方案，本文为您介绍本方案...
实时同步需求：当进行数据实时同步时，您需要使用独享数据集成资源组。自定义数据源资源组支持情况：部分数据源仅支持使用独享数据集成资源组，详情请参见 实时同步支持的数据源。数据服务资源组 公共数据服务资源组为租户共享资源。在对...
本文为您介绍如何通过DataWorker数据集成和Flink两种方式将MySQL分库分表的数据写入至Hologres同一个表中，通过本实践您可以根据业务场景选择合适的方式将MySQL分库分表数据写入Hologres。背景信息 实际业务场景下数据同步通常不能通过一个...
新功能 创建Impala数据源、新建AnalyticDB for MySQL 3.0数据源、Dataphin支持的数据源 2021年08月24日 数据集成：数据集成读取和写入组件拓展、支持为AnalyticDB for PostgreSQL目标数据源一键建表操作、数据源权限申请的交互优化 新增...
完成数据集成任务的配置后，您可以停止、恢复或删除该数据集成任务。前提条件 已创建数据集成任务，相关案例请参见 配置RDS MySQL间的数据集成任务。背景信息 数据集成任务支持的管理操作及对应的影响请参见下表。操作 影响 停止数据集成...
并进行至少一条数据的变更，同时切换数据集成实时同步开始点位到当前时间。实时任务，运行报错：com.alibaba.otter.canal.parse.exception.CanalParseException: command : 'show master status' has an error!pls check.you need(at least...
并进行至少一条数据的变更，同时切换数据集成实时同步开始点位到当前时间。实时任务，运行报错：com.alibaba.otter.canal.parse.exception.CanalParseException: command : 'show master status' has an error!pls check.you need(at least...
并进行至少一条数据的变更，同时切换数据集成实时同步开始点位到当前时间。实时任务，运行报错：com.alibaba.otter.canal.parse.exception.CanalParseException: command : 'show master status' has an error!pls check.you need(at least...
可能原因2：等待数据集成任务执行资源 解决方案2：若日志出现长时间WAIT状态，说明当前任务运行所使用的独享数据集成资源组剩余可运行的并发数不足以运行当前任务。具体原因及解决方案详情请参见：为什么数据集成任务一直显示wait？说明 ...
整库离线写、单表/整库全增量实时写同步任务配置指导 操作流程请参见 数据集成侧同步任务配置。附录：脚本Demo与参数说明 附录：离线任务脚本配置方式 如果您配置离线任务时使用脚本模式的方式进行配置，您需要在任务脚本中按照脚本的统一...
规划 业务实体 编辑 业务实体新建、编辑、删除、下线 数据集成 数据集成 访问目录 实时集成目录-查看、搜索、筛选 管道任务目录-查看、搜索、筛选 查看详情 实时集成-查看（画布、算子、属性、历史）管道任务-查看（画布、算子、属性、历史...
业务实体 编辑 业务实体新建、编辑、删除、下线 数据集成 数据集成 访问目录 实时集成目录-查看、搜索、筛选 管道任务目录-查看、搜索、筛选 查看详情 实时集成-查看（画布、算子、属性、历史）管道任务-查看（画布、算子、属性、历史）...
说明 实时同步任务暂不支持在运维中心修改数据集成资源组，请在数据集成控制台或数据开发控制台修改，具体请参见 数据集成页面、数据开发页面。在左侧导航栏单击 周期任务运维>周期任务。节点类型 筛选条件设置为 离线同步，然后选中需要...
整库实时写 实时数据同步任务仅支持使用 独享数据集成资源组。实时数据同步任务暂不支持同步没有主键的表。单表、整库全增量实时写 同步数据至Hologres时，目前仅支持将数据写入分区表子表，暂不支持写入数据至分区表父表。支持的字段类型 ...