如何确认是否使用新的解析结果 节点提交时，若发现节点当前调度依赖解析结果与生产环境节点调度依赖关系的配置存在差异，请确认该节点当前的调度依赖是否符合业务需要，避免由于依赖关系变更导致产出数据出现问题。重要 若当前节点存在众多...
对于无主键且包含 LOB 类型字段的表，反向增量会出现数据质量问题。数据源标识和用户账号等，在数据传输系统内全局唯一。Oracle 数据库的增量日志解析最大支持 5T/天。Oracle 数据库 11G 及之前版本不支持创建超过 30 个字节的数据库对象。...
解决措施 为了防止出现TOCTOU问题，对于用户申请导出的表，建议项目所有者确保没有任何其他用户能对该表执行更新（Update）操作或重建同名表操作（Drop+CreateTable）。在上述示例中，为防止出现TOCTOU问题，建议项目所有者在第一步中创建...
解决方案：DMS任务编排 DMS的任务编排功能即可解决上述问题，它并不依赖数据库内核的事件调度能力，而是一个外部独立的任务编排与调度系统。任务编排功能的特点如下：支持多种数据库引擎（MySQL、Oracle、PostgreSQL、SQL Server等）和多种...
根据表血缘来配置节点调度依赖后，可以保障调度任务在运行时能取到正确的数据，避免下游节点取数据时，上游表数据还未正常产出，导致下游节点取数出现问题。在DataWorks依赖配置中，上游节点的输出作为下游节点的输入，形成节点依赖关系。...
Mycat前期人力成高、后期需要部署维护，问题解决成本高、时间长。PolarDB-X 商务成本相对可接受，产品化能力丰富，运维便捷，最后选型阿里云 PolarDB-X。解决方案 Ping+业务早期均构建于RDS MySQL之上，数据体量从2016年1个亿至2017年5个亿...
默认节点的上下游产出表存在强依赖关系（即下游表数据的产出需要依赖上游产出的表数据），因此，任务在配置调度依赖时，需确认是否存在强血缘依赖，即确认当前任务是否会因为上游数据未产出而导致当前任务取数出现问题。若下游节点中表数据...
背景信息 在数据传输控制台创建从 OceanBase 数据库 Oracle 租户迁移数据至 Oracle 数据库的数据迁移项目，您可以通过结构迁移、全量迁移和增量同步，无缝迁移源端数据库中的存量业务数据和增量数据至 Oracle 数据库。同时，数据传输支持将...
强制重跑 在某些特殊情况下，例如发现源端数据被污染、数据链路出现问题等，您可以单击 操作 列 更多>强制重跑 强制对源端所有表进行全增量初始化操作，将源端数据重新迁移到目标表中，以快速恢复数据。说明 仅Hologres和MaxCompute支持...
DataWorks的全流程数据质量监控功能为您提供35种预设表级别、...数据质量为您解决以下问题：数据库频繁变更问题 业务频繁变化问题 数据定义问题 业务系统的脏数据问题 系统交互导致质量问题 数据订正引发的问题 数据仓库自身导致的质量问题
解决添加OSS数据源时部分hadoop命令不可用问题。解决“java.text.ParseException:Unparseable date”问题。优化emr-core支持本地调试运行。兼容老版本的产生的“_$folder$”文件，解释成目录，不再当作普通文件处理。Hadoop和Spark读写OSS...
为了避免依赖关系配置错误导致数据出现问题，DataWorks会在提交节点时对表数据血缘关系的输入输出与调度配置的输入输出进行比较，如果不一致会给您提示，详情可参见 提交节点时提示：输入输出和代码血缘分析不匹配。不是DataWorks每天调度...
未基于表血缘配置节点依赖的影响 场景一：存在强血缘依赖但未设置节点依赖，导致下游取数出现问题 若当前节点 Job_B 代码中配置了依赖A表的数据，但未将产出A表数据的节点 Job_A 作为当前节点依赖的上游，则可能会出现A表数据未产出，当前...
解决措施 选择不并行，一个补数据实例下的多个业务日期串行执行，即上一个业务日期的补数据实例执行完，下一个业务日期的补数据实例才会执行。选择并行，您可以设置同时使用2组、3组、4组或5组等多个补数据实例进行补数据，即多个补数据...
本文将为您列举一些常见数据质量方面的场景，方便您排查是否存在符合的场景，根据对应解决方案解决数据同步质量问题。背景信息 讲述数据集成数据同步的原理机制，理解数据同步的过程，进而对数据同步的执行效果有判断能力，判断数据同步...
本文介绍目标数据库PolarDB O引擎在预检查过程中遇到的常见问题和解决方案。目标库账号权限错误 问题描述 目标库账号无权限：目标库账号权限不足。原因 生成迁移计划时，用户名 为目标数据库的普通账号。解决方案 重新生成迁移计划，用户名...
配置节点依赖关系可以保障节点在运行时能取到正确的数据（读取上游表数据时，上游表的最新数据已产生），避免当前节点读取数据时，上游表数据还未产出，导致当前节点读取数据出现问题，所以，当节点存在上游节点依赖时，当前节点的执行，...
一般性质：数据主要用于日常数据分析，出现问题带来的影响极小。标记为A4。未知性质：无法明确数据的应用场景。标记为Ax。这些性质的重要性依次降低，即重要程度为A1>A2>A3>A4>Ax。如果一份数据出现在多个应用场景汇总，则根据其最重要程度...
发布日期：2023-09-22 版本号：polarx-cdc-kernel-2.3.0_4755313 类别 说明 优化 优化Binlog数量较多时show binary logs语句的查询效率，并解决出现的卡慢问题。修复 修复对JSON数据类型进行数据整形时缓冲区溢出的问题。修复CDC升级过程中...
上游任务是否为成功状态，决定当前任务是否执行 节点依赖关系设置后，默认当前任务与当前任务依赖的上游存在数据依赖（即上游任务未执行，将导致当前节点依赖的上游数据未产出，当前节点执行会产生数据质量问题）。因此，当前任务除了要...
避免下游节点取数据时，上游表数据还未正常产出，导致下游节点取数出现问题。DataWorks上如何设置调度依赖？在DataWorks上，上游节点的输出作为下游节点的输入，形成节点依赖关系。说明 SQL任务会以如下方式自动配置节点输入输出：select ...
并且一旦出现数据安全问题，线上业务将无法进行。随着数据恢复时间的增加，造成的损失也会越大。数据库备份DBS提供的应急恢复功能，将自动获取备份集并合成快照点，可按需在短时间内恢复出（即创建）一个新的DBS沙箱实例。您可以在DBS沙箱...
如何解决Jar依赖冲突问题？如何使用Local模式进行调试？作业报错 运行Spark作业时，报错User signature dose not match，如何解决？运行Spark作业时，报错You have NO privilege，如何解决？运行Spark作业时，报错Access Denied，如何解决...
栅格数据中是否存在透明的瓦片，如果存在透明瓦片则可能会出现蓝色的地球，解决这个问题可以尝试新增一个栅格数据源并在Tab中拖动到后面，或者新增一个可被浏览器访问的静态图片地址作为新增XYZ数据源的地址。栅格数据源是否只在指定城市...
查看实时任务日志，若报错信息为 InternalServerError、Exception when calling callable.Exception Msg:Read timed out 错误提示（例如图中报错），表示Tunnel服务端出现了问题，请联系MaxCompute值班同学排查，问题解决后，重启实时任务...
如果在使用过程中出现版本冲突，请检查这几个包的版本并解决冲突。离线Jar包下载链接：adb4pgclient-1.0.4.jar。接口列表 表 1.DatabaseConfig类 接口名 描述 setHost(String adbHost)需要连接的 AnalyticDB PostgreSQL版 的连接地址。...
功能优化 修复TSQL条件中出现BOOLEAN数据类型的数据时可能出现异常的问题。3.4.17（稳定版本）发布日期 类型 说明 2022年06月17日 新特性 支持设置写入的最大时间（即当前时间和偏移时间），超过偏移时间后写入的数据会被丢掉。功能优化 ...
问题原因 出现上述报错通常都是选择了非连接串模式创建的MySQL数据源导致。解决方案 重新选择使用连接串模式创建的数据源。您可以参考 配置MySQL数据源 进入 数据源管理 页面，单击目标数据源 操作 列的 编辑，在数据源编辑页面查看创建...
操作步骤 数据管理DMS连接 数据管理DMS是一种集数据管理、结构管理、用户授权、安全审计、数据趋势、数据追踪、BI图表、性能与优化和服务器管理于一体的数据管理服务。数据管理DMS的更多信息，请参见 什么是数据管理DMS。访问 RDS实例列表...
操作步骤 数据管理DMS连接 数据管理DMS是一种集数据管理、结构管理、用户授权、安全审计、数据趋势、数据追踪、BI图表、性能与优化和服务器管理于一体的数据管理服务。数据库管理DMS的更多信息，请参见 什么是数据管理DMS。访问 RDS实例...
此时将无法通过数据集成任务设置解决延迟问题，需要从Kafka、DataHub和Loghub系统的上游数据生产侧解决数据写入倾斜问题后，延迟问题才能恢复。您可以通过在上述任务 运行详情 中切换到 运行信息 页签，查看不同Reader线程总字节数统计，...
可以尝试使用MaxCompute的SQL UDF过滤出doc表和query表中的问题数据。多类目情况下，某个类目doc数目为0，query数目不为0导致的jni调用异常 报错信息 解决方法 这种情况被认为是用户输入问题，在设计时发现这样的情况时通过报错终止来提示...
问题现象 提交节点时，系统出现提示：输入输出和代码血缘分析不匹配。可能原因 当代码中SELECT的表与节点的依赖的父节点配置不一致，或代码中INSERT、CREATE的表与节点的本节点的输出不一致时，会出现该提示。以上图为例，说明：您提交的...
为了保证升级链路的顺利进行以及更好的升级体验，PolarDB 为大版本升级提供了升级评估功能，您可以在开始升级前，对集群状态、升级任务依赖、源集群属性信息等前提条件进行预校验，提前发现影响升级进度的前置条件并处理，以降低升级过程中...
类或依赖问题 调用MaxCompute UDF运行代码时的常见类或依赖问题如下：问题现象一：运行报错描述为 ClassNotFoundException 或 Some dependencies are missing。产生原因：原因一：创建MaxCompute UDF时指定的资源JAR包不正确。原因二：...
为了保证迁移链路的顺利进行以及更好的迁移体验，PolarDB 提供了迁移评估功能，您可以在开始迁移前，对实例状态、迁移任务依赖、源实例属性信息等前提条件进行预校验，提前发现影响迁移进度的前置条件并处理，以降低迁移过程中的处理成本和...
另外，Cassandra 需要定期对所有副本进行全量数据修复，否则会出现”幽灵key“等问题，但是修复过程会因为消耗大量系统资源从而影响服务稳定性。而Lindorm由底层的存储组件负责一致性，当您的数据写入时，就会按照您设定的副本数写入，不会...
任务调度属性配置概述 2023年2月更新记录 时间 特性 类别 描述 产品文档 2023.2.28 新增功能 数据治理中心 DataWorks支持您根据业务需要，将 治理工作台>治理项问题 页面待解决的治理项问题以通知的形式，通过系统提示、邮件、钉钉群消息等...
云原生多模数据库 Lindorm 支持水平无限扩展，在访问比较均衡的情况下，如果出现高负载、高延迟、业务抖动等情况时，可以通过水平增加节点数量解决。但是当节点遇到瞬时的大请求或者偶发的热点流量时，单机的规格决定了抗热点的能力，此时...
数据库账号的权限要求 数据库 结构迁移 全量迁移 Amazon RDS for PostgreSQL pg_catalog的usage权限 迁移对象的select权限 阿里云RDS PostgreSQL 迁移对象的create、usage权限 schema的owner权限 全量数据迁移流程 为解决对象间的依赖，...