表扫描数据量倾斜 问题 AnalyticDB MySQL版 是分布式执行架构，大表的数据一般需要指定分布字段，数据写入时根据分布字段分散到不同的存储节点上。如果分布字段的值分布不均匀，那么数据存储在各个节点上时也会不均匀，最终导致数据读取时...
DSC 扫描数据库类型和数据表类型数据源中的字段名称和字段值，同时根据字段名称和值综合判断该数据是否为敏感数据。例如：年龄数据。如果只通过字段值无法判断数据是否敏感，DSC 会结合数据源列中的字段名称和对应的数值来综合判断。首次...
本文以开源项目RedPajama在GitHub中的少量数据为例，为您介绍如何使用PAI提供的LLM大语言模型数据处理组件，对GitHub代码数据进行数据清洗和处理。前提条件 已创建工作空间，详情请参见 创建工作空间。已将MaxCompute资源关联到工作空间，...
您可以通过交互式分析Hologres的实时写入能力，构建实时数仓。前提条件 配置Hologres输出节点前，您需要先配置好相应的输入或转换数据源，详情请参见 实时同步支持的数据源。...同步任务会根据字段的映射关系同步数据。单击工具栏中的 图标。
接口说明 仅管控模式为安全协同的数据库实例可调用此 API。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 下表是API对应的授权信息，可以在...
主表（数据输入1）中的字段和数据将全部展示，次表（数据输入2）中相同的字段对应的数据将在行上进行扩展，不同的字段与数据不会展示。字段列表：展示主表数据输入1的字段。清洗加工 去掉数据表中不需要的列和行，并新增需要的列和行。从...
在 请先选择数据库 对话框中，搜索并选择目标数据库，单击 确认。调整字段敏感等级。右键单击目标表名，选择 敏感数据管理>安全级别调整，字段敏感等级调整完成后，单击 提交流程到安全部门。单击表列表 图标，在目标表的 操作 列下选择 更...
RDS MariaDB、其他来源MariaDB PolarDB PostgreSQL版（兼容Oracle）PolarDB分布式版 OceanBase Oracle DB2 达梦数据库 Lindorm：Lindorm_CQL、Lindorm_SQL OpenGauss 数据仓库：AnalyticDB MySQL版 AnalyticDB PostgreSQL版 DLA（Data Lake...
如果您是第一次安装FineReport，需要安装MySQL服务器（例如阿里云RDS MySQL），用于导入FineReport的元数据，FineReport提供了两种数据链接方式：方式一：在数据决策系统中进行连接，请参见 JDBC连接数据库。方式二：在设计器中进行连接，...
OceanBase Oracle DB2 达梦数据库 Lindorm：Lindorm_CQL、Lindorm_SQL OpenGauss 数据仓库：AnalyticDB MySQL版 AnalyticDB PostgreSQL版 DLA（Data Lake Analytics）ClickHouse MaxCompute Hologres Hive 实例已开通敏感数据保护功能。...
数据库（Database）是表、索引、视图、存储过程、操作符的集合。您可以在一个 AnalyticDB PostgreSQL 实例中创建多个数据库，但是客户端程序一次只能连接上并且访问一个数据库，无法跨数据库进行查询。创建数据库 使用 CREATE DATABASE ...
查询结果会额外提供一个字段表示数据来源的数据库、表信息，单击则可以跳转至对应的物理库表并带入查询SQL与查询条件信息。查询也可以不带路由字段作为条件，进行全表（所有分表）扫描查询操作，如汇总统计。说明 同时也支持 GROUP BY 等...
背景信息 OceanBase 开发者中心（OceanBase Developer Center，ODC）提供模拟数据功能供用户在测试数据库性能或者验证功能等需要大量模拟数据的场景下，能够快速根据表中的字段类型生成数据。注意事项 单次模拟数据上限为 1 亿行。拥有检查...
ALTER DATABASE 更改一个数据库的属性。简介 ALTER DATABASE 更改一个数据库的属性。第一种形式更改某些针对每个数据库的设置。只有数据库拥有者或者超级用户可以更改这些设置。第二种形式更改数据库的名称。只有数据库拥有者或者超级用户...
类型 说明 源库限制 待同步的表需具备主键或唯一约束，且字段具有唯一性，否则可能会导致目标数据库中出现重复数据。若同步对象为表级别，且需进行编辑（如表列名映射），单次同步任务的表数量超过5000或时，建议您拆分待同步的表，分批...
在数据库审计系统查看会话日志 登录数据库审计系统。具体操作，请参见 登录数据库审计系统。在左侧导航栏，选择 查询分析>会话日志。选择资产名称、时间范围等检索条件后，单击 查询。单击 会话标识，可查看会话详情。在日志服务控制台查看...
本文为您介绍逻辑表DML操作语句。操作 语法 说明 INSERT OVERWRITE insert overwrite table[partition()](,<col_name>.)<select_statement>from;插入或覆写数据。...指定字段时，先清空目标字段的全部数据，非目标字段的数据保留。
根据存储业务的数据性质差异，字段如手机号码、身份证号码等属于敏感数据，常规查询数据时此类字段的值应该加密展现。为了根据数据的敏感程度对数据进行不同策略的脱敏和管理，数据管理DMS将敏感数据分为3个安全级别。根据数据的敏感程度，...
Schema字段映射 默认会从日志服务的投递任务配置中获取字段，如LogStore没有配置投递任务，会默认根据最近的日志数据获取字段。支持的数据类型：BOOLEAN、INT、BIGINT、FLOAT、DOUBLE、STRING。支持同步SLS保留字段，详情请参见 保留字段。...
CREATE DATABASE 用于创建一个新的PolarDB数据库。简介 CREATE DATABASE 创建一个新的PolarDB数据库。要创建一个数据库，你必须是一个超级用户或者具有特殊的 CREATEDB 特权。默认情况下，新数据库将通过克隆标准系统数据库 template1 被...
本文为您介绍迁移 MySQL 数据库的数据至 OceanBase 数据库 MySQL 租户时，ALTER TABLE DDL 字段操作支持的转换范围。总览 ALTER TABLE tbl_name[alter_option[,alter_option].]alter_option:{ ADD[COLUMN]col_name column_definition[FIRST...
为了满足不同业务场景数据集成的诉求，Dataphin支持用户自定义当前系统不支持的RDBMS数据库（关系型数据库）类型的组件，并进行数据同步。您只需要准备关系型数据库的驱动，即可自定义RDBMS数据库类型的组件。本教程以MySQL为例，为您介绍...
为了满足不同业务场景数据集成的诉求，Dataphin支持用户自定义当前系统不支持的RDBMS数据库（关系型数据库）类型的组件，并进行数据同步。您只需要准备关系型数据库的驱动，即可自定义RDBMS数据库类型的组件。本教程以MySQL为例，为您介绍...
添加字段 单击图层数据下的 添加字段，在当前数据表中选择需要添加的字段，单击 确定。删除字段 在图层数据下，选择需要删除的字段，单击 图标，删除当前字段。显示坐标 单击 显示图标 右侧的 图标，控制当前数据的经纬度坐标在标签上的...
在日志服务控制台查看审计日志 日志服务存储了数据库审计系统审计到的数据库操作日志，在数据库审计系统查看到的审计日志来源是日志服务。您可以在日志服务控制台查看和下载数据库审计服务创建的Project和Logstore中记录的审计日志数据。...
② 数据库列表 展示了 所属库、表名、表类型、存储大小、描述、创建时间 和 更新时间，且支持根据 表名、存储大小、创建时间 或 更新时间 进行排序。单击目标 表名，还支持查看表的详细信息。序号 区域 说明 ① 表信息 展示了 所属库、表名...
用途 字段加工算子可以将节点的数据进行逻辑加工，然后作为输出字段在之后的节点使用。适用场景 计算链路 计算引擎 是否支持 离线 MaxCompute 是 Hive 是 HiveStorage 是 RDS/MySQL 是 使用说明 加工逻辑 对于需要加工的字段，需要输入字段...
Ganos FDW提供了对于多种空间数据类型的统一访问，会自动将几何空间数据类型映射为Geometry字段类型，从而允许与数据库内部表进行统一地访问与查询。操作步骤 创建时空引擎FDW插件。您可以通过以下两种方式创建扩展。直接创建Ganos_FDW扩展...
接口说明 注意 使用该接口需将 OceanBase 数据传输服务器的 IP 地址（请至 OMS 数据源添加页面查询）加入到您的阿里云数据库实例的白名单、ECS 的安全规则或自建数据库对应的安全设置（通常为您自建数据库的防火墙）中以确保 OceanBase ...
新建逻辑表 手动新建逻辑表 通过可视化的形式创建逻辑表的基本信息、字段信息、关联信息，提供DDL语句新建、引用现有表字段、引用标准库字段、手动添加字段等方式快速创建逻辑表字段及字段信息功能。具体操作，请参见 手动新建逻辑表。通过...
新建逻辑表 手动新建逻辑表 通过可视化的形式创建逻辑表的基本信息、字段信息、关联信息，提供DDL语句新建、引用现有表字段、引用标准库字段、手动添加字段等方式快速创建逻辑表字段及字段信息功能。具体操作，请参见 手动新建逻辑表。通过...
授权查询数据库中的视图 grant select on<数据库名>.<视图名>to<用户名>;示例 授权用户test01查询数据库rds001的视图view_test1。grant select on rds001.view_test1 to test01;授权更新或查询表中的字段 grant update(<字段名>)on table...
本文介绍多表合并算子的使用方法及注意事项。用途 多表合并算子可以将多张数据表按照设置的对齐字段进行数据合并。多表合并 算子是 两表...勾选去重合并后，节点的输出数据将会过滤重复的记录。去重合并的效果示例参考 对齐字段 中的示意图。
API 解释 org.apache.hadoop.hive.ql.io.avro.AvroContainerOutputFormat Parameters object 键值对的映射数组 string 键值对 key SerDeInfo SerDeInfo 序列化/反序列化信息 SkewedInfo SkewedInfo 一个字段中的大量重复值（数据倾斜）的...
org.apache.hadoop.hive.ql.io.avro.AvroContainerOutputFormat Parameters object 键值对的映射数组 string 键值对 key SerDeInfo SerDeInfo 序列化/反序列化信息 SkewedInfo SkewedInfo 一个字段中的大量重复值（数据倾斜）的设定 ...
数据安全中心DSC根据为不同行业预先定义的敏感数据关键字段，扫描MaxCompute、OSS、阿里云数据库服务（RDS、PolarDB-X、PolarDB、OceanBase、表格存储等）和自建数据库中的数据，通过敏感数据规则，判断和打标敏感数据，为数据安全审计、...
数据脱敏可以对实时同步的单表数据进行脱敏，然后存储到指定的数据库位置。前提条件 配置数据脱敏节点前，您需要先配置好相应的输入节点，详情请参见 实时同步支持的数据源。操作步骤 进入 数据开发 页面。登录 DataWorks控制台。在左侧...
支持的数据库 支持全量数据迁移的数据源均支持数据集成功能，详情请参见 迁移方案概览。费用说明 迁移类型 链路配置费用 公网流量费用 结构迁移和全量数据迁移 不收费。通过公网将数据迁移出阿里云时将收费，详情请参见 计费概述。配置方法...
MySQL输入基于Binlog实时订阅的方式，实时读取您配置的MySQL数据库表数据。本文为您介绍，如何配置MySQL输入，以及配置输入之前需要准备的网络环境及账号权限。前提条件 配置MySQL输入之前，请确保已完成以下规划与准备工作。已配置同步...
用途 空间关联算子可以将两张数据表中的几何字段根据指定的空间关系进行属性关联。适用场景 计算链路 计算引擎 是否支持 离线 PostgreSQL 是 Polar_PG 是 AnalyticDB PostgreSQL(ADB_PG)是 使用说明 来源节点 空间关联算子必须指定2个 来源...