MaxCompute支持自动分区(AUTO PARTITION)表,自动分区表的分区列支持基于时间计算函数或基于数据写入时间两种方式自动生成。本文介绍基于时间计算函数生成的自动分区表的使用方式。功能介绍 MaxCompute支持普通分区表和自动分区表(AUTO ...
SQL代码的处理过程通常是引入一到多个源数据表,通过过滤、连接和聚合等操作,加工出新的业务需要的目标表。组件是带有多个输入参数和输出参数的SQL代码过程模板。依赖关系 任务间通过 依赖关系 定义任务的运行顺序。如果节点A运行后,节点...
先清空表数据:先清空目标表数据,再将数据全量导入至目标表中相应的映射字段。追加:将待上传数据追加至目标表相应映射字段中。目标表 新建表 表名 自定义新建表表名。说明 MaxCompute引擎新建表过程,使用的是DataWorks计算资源里面配置...
通过 AnalyticDB for MySQL 提供的元数据发现服务,可以自动建立元数据层次(库、表、分区),并自动识别数据格式和字段信息,生成表结构。通过建立元数据,可以让数据被其他分析引擎识别并进行后续分析。Hive数据迁移场景 当您希望由 ...
AnalyticDB PostgreSQL版 提供的智能诊断数据膨胀功能,可以定期自动诊断数据库内的所有表,并生成诊断信息表。您可以通过诊断信息表,查看表的膨胀情况并获得相应的处理建议(如执行VACUUM或VACUUM FULL操作)。注意事项 智能诊断数据膨胀...
Agent支持如下功能:资产盘点:Agent通过扫描和解析元数据,可以自动生成表、字段的业务描述、SQL注释以及数据库业务目录等。此外,知识库 模块将为用户提供生成知识的自主管理服务。DMS将基于生成的知识,实现更为精准的AI服务。资产问答...
场景画布中引用物理表,自动生成质量检查节点 如果配置了质量规则的数据模型在场景画布中被引用,且场景画布中开启了自动质量规则校验开关,场景中自动生成质量检查节点。当算法运行时,画布中引用的数据质量规则也会自动运行,以检查算法...
说明 若待迁移表的主键为自动生成的_adb_auto_id_,则DTS不支持迁移该表的数据。在库表结构迁移和全量迁移阶段,请勿执行库或表结构变更的DDL操作,否则会导致实例运行失败。若仅执行全量数据迁移,请勿向源实例中写入新的数据,否则会导致...
等待数据导入完成后,单击 完成,系统将自动跳转至数据表详情页。查看已上传数据表详情,包括但不限于数据地图、数据量、数据表大小及项目引用情况。刷新数据库/文件夹/表 选择需要查看的层级,单击右上角的 图标,完成刷新操作。改变数据...
AnalyticDB PostgreSQL版 提供的智能诊断数据倾斜功能,可以每小时定期自动诊断数据库内的所有表,并生成相应的诊断信息表,供您检测库内所有表的倾斜情况。注意事项 智能诊断数据倾斜功能仅支持存储弹性模式实例,且内核版本须满足以下...
配置项 配置要点 读取Hive方法 基于HDFS文件读取数据:Hive Reader插件通过访问HiveMetastore服务,解析出您配置的数据表的HDFS文件存储路径、文件格式、分隔符等信息后,再通过读取HDFS文件的方式读取Hive中的表数据。基于Hive Jdbc读取...
其他限制 一个同步实例仅支持同步一张数据表,若您需要同步多张数据表,请创建多个同步实例。目标库中需存在自定义主键,或者在 库表列配置 阶段配置 主键列,否则可能会导致数据同步失败。暂不支持数据校验功能。暂不支持修改同步对象功能...
③ 血缘 您展示数据表之间的血缘关系,血缘来源包括集成同步任务、自定义血缘的计算任务及系统可自动解析血缘的SQL计算任务和逻辑表任务,详情请参见 表级血缘。说明 系统在任务提交时,解析开发环境的表的血缘关系;发布时,解析生产环境...
③ 血缘 您展示数据表之间的血缘关系,血缘来源包括集成同步任务、自定义血缘的计算任务及系统可自动解析血缘的SQL计算任务和逻辑表任务,详情请参见 表级血缘。说明 系统在任务提交时,解析开发环境的表的血缘关系;发布时,解析生产环境...
系统根据已配置的识别规则和血缘继承配置自动生成识别结果,此外,您也可以手动指定识别结果或通过Excel批量上传识别结果,本文为您介绍如何添加及管理识别结果。使用限制 数据源表不支持基于规则或基于血缘继承自动扫描生成自动识别结果,...
系统根据已配置的识别规则和血缘继承配置自动生成识别结果,此外,您也可以手动指定识别结果或通过Excel批量上传识别结果,本文为您介绍如何添加及管理识别结果。使用限制 数据源表不支持基于规则或基于血缘继承自动扫描生成自动识别结果,...
生成查询SQL 基于数据表,快速生成查询SQL并完成配置与执行。如需了解更多操作可参见 新建SQL查询。在数据目录的列表中找到目标数据源,依次单击左侧的 图标,从 表 中定位到需要查询的目标表。右键单击目标表,选择 生成查询SQL。您可在...
OceanBase MySQL、MySQL 数据源下,若表中无主键或者唯一键,不支持自动生成回滚语句。UPDATE 语句的修改字段(Set)和条件字段(Where)相同,不支持自动生成回滚语句。最大支持生成的自动回滚语句脚本大小为 256MB。新建数据库变更任务 ...
本文为您介绍如何创建及管理智能生成表、技术指标资产。前提条件 需购买X-目录管理功能和资产运营功能才能使用智能生成。已开通智能研发版或已购买资产运营-高级版增值模块才能智能生成指标。使用限制 仅表、字段及技术指标资产类型支持...
本文为您介绍如何创建及管理智能生成表、技术指标资产。前提条件 需购买X-目录管理功能和资产运营功能才能使用智能生成。使用限制 仅表、字段及技术指标资产类型支持智能生成部分系统属性。仅保留最近90天的智能生成的任务记录。权限说明 ...
创建超表 将一张普通数据表转为超表的语法如下:SELECT create_hypertable('table_name','time_column_name','partitioning_column_name',number_partitions,'associated_schema_name','associated_table_prefix',chunk_time_interval,...
对象 对象拖放生成语句类型 通过拖拽数据库对象(如表、视图)到编辑区,自动生成指定类型的 SQL 语句。样式 主题 编辑器主题,包括 OceanBase、VSCode、GitHub 等。样式 字体 编辑器字体大小,支持小、正常、大三种。快捷键 运行 SQL 设置...
智能开发流程:首先通过AI IDE设计表,其次通过DMS MCP自动执行建表SQL、IDE自动生成DAO代码、MCP智能构建数据,最后预览数据。场景二:通过DMS NL2SQL直接获取数据统计结果 市场分析部门可以使用DMS NL2SQL能力,直接使用自然语言获取数据...
临时缓存表会在Paging Cache启用时自动生成。说明 缓存数据库不能设置为外部数据库(External Database)。以下示例指定数据库paging_cache作为缓存数据库。您也可以指定其他任意数据库。SET ADB_CONFIG PAGING_CACHE_SCHEMA=paging_cache;...
Dataphin自动生成步骤名称,您也可以根据业务场景修改。命名规则如下:只能包含汉字、字母、下划线(_)、数字。不能超过64个字符。数据源 在数据源下拉列表中,展示所有AnalyticDB for PostgreSQL类型的数据源,包括您已拥有同步写权限的...
本文为您介绍数据湖构建中Format数据表的基本操作。表类型介绍 数据管理:数据由DLF完全管理,包括元数据和实际数据文件。存储系统:数据存储路径由DLF基于UUID自动生成,用户无需手动指定存储路径。删除行为:删除表时,默认保留数据1天以...
存储系统 数据存储路径由DLF基于UUID自动生成,用户无需手动指定存储路径。删除行为 删除表时,默认保留数据1天以降低误删风险,超过1天后数据会被彻底删除。新建数据表 登录 数据湖构建控制台。在 Catalog 列表页面,单击Catalog名称,...
分区表是指拥有分区空间的表,即将表数据按照某个列或多个列进行划分,从而使表中的数据分散存储在不同的物理位置上。合理设计和使用分区,可以提高查询性能、简化数据管理,同时支持更灵活的数据访问与操作。分区表类型 MaxCompute支持...
Dataphin自动生成步骤名称,您也可以根据业务场景修改。命名规则如下:只能包含汉字、字母、下划线(_)、数字。不能超过64个字符。数据源 在数据源下拉列表中,展示所有MaxCompute类型的数据源,包括您已拥有同步写权限的数据源和没有同步...
例如,将orders_test表的部分数据归档到同库后,会在该库中自动生成tmp_orders_test_121*表。数据归档任务执行成功后,您可在当前 工单详情 页的 基本信息 区域,单击 目标库 右侧的 查看。进入SQL Console页面后,在左侧表列表区域,选择...
Dataphin自动生成步骤名称,您也可以根据业务场景修改。命名规则如下:只能包含汉字、字母、下划线(_)、数字。不能超过64个字符。数据源 在数据源下拉列表中,展示所有TDH Inceptor类型的数据源,包括您已拥有同步写权限的数据源和没有...
Dataphin自动生成步骤名称,您也可以根据业务场景修改。命名规则如下:只能包含汉字、字母、下划线(_)、数字。不能超过64个字符。数据源 在数据源下拉列表中,展示所有Hive类型的数据源,包括您已拥有同步写权限的数据源和没有同步写权限...
我可用的 页面可以作为您个人的资产消费门户,展示您当前所拥有的查表数据权限及权限过期时间在90天内的生产环境的资产对象,并可对有权限的对象快捷创建对应的分析任务及数据预览等。本文为您介绍如何查看及管理我可用的资产。5分钟快速...
说明 Kudu表数据集成请使用Impala输出组件。更多信息,请参见 配置Impala输出组件。前提条件 已创建Hive数据源。具体操作,请参见 创建Hive数据源。进行Hive输出组件属性配置的账号,需具备该数据源的同步读权限。如果没有权限,则需要申请...
因为归档表具有提前归档的特性,会保存在线所有的数据,所以当存在查询跨在线表和归档表数据时,您可以直接使用归档表查询。如果按行清理冷数据的速度若跟不上在线表的新增数据的产生速度,这种情况如何处理?TTL表按行清理的算法,默认是...
维度与事实逻辑表数据延迟用于自动重跑逻辑表在 最大延迟天数 周期内的全部数据。本文为您介绍如何配置维度与事实逻辑表数据延迟。使用限制 事实逻辑表数据时效须为天时效(离线T+1)且该逻辑表设置了 事件时间 字段,才可配置是否开启数据...
维度与事实逻辑表数据延迟用于自动重跑逻辑表在 最大延迟天数 周期内的全部数据。本文为您介绍如何配置维度与事实逻辑表数据延迟。使用限制 事实逻辑表数据时效须为天时效(离线T+1)且该逻辑表设置了 事件时间 字段,才可配置是否开启数据...
Dataphin自动生成步骤名称,您也可以根据业务场景修改。命名规则如下:只能包含中文、字母、下划线(_)、数字。不能超过64个字符。数据源 在数据源下拉列表中,展示所有TDH Inceptor类型的数据源,包括您已拥有同步写权限的数据源和没有...
元数据抽取 元数据抽取可以分析数据湖中特定格式的数据,并自动生成元数据信息。详情请参见 元数据抽取。元数据迁移 元数据迁移可以快速地将Hive Metastore的元数据迁移到数据湖构建(DLF)中。详情请参见 元数据迁移。权限管理 数据湖构建...
数据表 名称 必填,数据库下不可重名。数据表描述 可选,输入描述信息。列 定义表中的列信息,包括列名称、是否为主键、是否非空、是否为分区字段、数据类型、长度/类型、描述及操作。表自定义属性 可以添加自定义属性,在创建过程中会覆盖...