通过讲述数据集成数据同步的原理机制，理解数据同步的过程，进而对数据同步的执行效果有判断能力，判断数据同步效果具体包括：数据同步的数据量、目标端数据实际数量等。本文将为您列举一些常见数据质量方面的场景，方便您排查是否存在符合...
ArgoDB中的DML语句包括插入、更新和删除数据操作。...修改数据-用查询结果批量修改 UPDATE TABLE table_name SET(column,column,.)=(SELECT select_statement WHERE filter_statement)更多信息请参见 修改数据-用查询结果批量修改。
数据预览：若您拥有当前表的查表数据权限，可以使用数据预览功能，仅查询您有select权限（包括字段权限和行级权限）的字段的对应结果，可预览前50条数据。如何申请查询权限（若开通资产消费功能，请参见申请消费权限），请参见 申请、续期...
注意事项 若某一行数据同时包含热数据和冷数据，例如更新了部分列导致一行数据中既存在热数据又存在冷数据的场景，开启查询热数据优先功能会导致该行的查询结果分两次返回，即Scanner返回的Result集合中，对于同一个Rowkey会有两个对应的...
需要注意的是，脱敏保护后的数据无法展示为原值，因此推荐用在临时查询等场景，不推荐在数据交换等场景中使用。加解密方案 Dataphin支持在数据集成中针对敏感数据进行加密或者解密。Dataphin支持常见的商密和国密，如AES、RSA、SM4等算法；...
需要注意的是，脱敏保护后的数据无法展示为原值，因此推荐用在临时查询等场景，不推荐在数据交换等场景中使用。加解密方案 Dataphin支持在数据集成中针对敏感数据进行加密或者解密。Dataphin支持常见的商密和国密，如AES、RSA、SM4等算法；...
2.数据建模 针对业务场景进行数据建模，需要确定创建数据库和时序数据表，确定时序数据表的标签、时间戳和量测值，并根据数据特征确定PRIMARY KEY用于数据分片。关于数据模型，请参见 数据模型。时序引擎提供了三种Schema约束策略，分别为...
数据什么时候进入冷存储？Lindorm通过 compaction 机制异步将冷数据从热存储归档至冷存储，系统触发时间默认为冷热分界线的一半，最小为1天，最大为 major compaction 周期的一半，major compaction 周期默认为20天。例如，冷热分界线为3天...
数据地图新建表搜不到 若数据地图表和表目前状态不一致，请使用数据地图手工同步功能手动同步该表最新状态。表管理数据地图表结构未更新 新建表在数据地图找不到 数据集成搜不到新建的表 当前表业务逻辑变更如何通知下游？您可以通过 数据...
资产使用方：主要进行数据查找和使用申请，目标是找到需要使用的数据资产，进行权限获取以完成后续业务使用。资产管理员：对所有可对外服务的高价值数据资产进行管理维护与编目上线，进行资产对外服务的生命周期维护，同时针对申请使用进行...
运营主要面向租户资产管理员，为用户提供数据资产编目、数据资产上线、数据资产下线等能力。通过获取资产元数据信息，并同步到数据资产目录完成数据资产注册。数据资产管理涉及三种用户角色，包括资产使用方、租户资产管理员、工作组管理员...
EMR提供的组件包括开源和自研两大类，涵盖数据开发、计算引擎、数据服务、资源管理、数据存储、数据集成等领域，您可以按需选择和配置。说明 在创建集群时，如果没有您想使用的组件，或者想使用的开源组件仅对存量用户开放，您可以自行安装...
本文为您介绍什么是Catalog，以及如何使用Catalog管理和查询内外部数据。基本概念 内部数据：指保存在StarRocks中的数据。外部数据：指保存在外部数据源中的数据，例如Apache Hive、Apache Iceberg、Apache Hudi、Delta Lake及JDBC等。...
本文为您介绍什么是Catalog（数据目录），以及如何使用Catalog管理和查询内外部数据。基本概念 内部数据：保存在StarRocks中的数据。外部数据：保存在外部数据源（例如Apache Hive、Apache Iceberg和Apache Hudi）中的数据。Catalog ...
背景信息 在海量大数据场景下，一张表中的部分业务数据随着时间的推移仅作为归档数据或者访问频率很低，同时这部分历史数据体量非常大，比如订单数据或者监控数据，降低这部分数据的存储成本将会极大的节省企业的成本。因此，如何以极简的...
INSERT 当您使用INSERT插入一条数据时，具体过程如下：从数据文件中读取一个数据块到内存中，并将这行数据写入这个数据块，系统生成一条INSERT的WAL日志。当执行COMMIT命令后，系统会产生一条COMMIT的WAL日志。INSERT WAL日志和COMMIT WAL...
本文汇总了Lindorm时序引擎在数据写入、删除、查询时的常见问题，方便您更加熟悉时序引擎的使用方法，规避因为不当操作可能导致的性能问题，提高使用效率。问题导览 数据写入 推荐的最优数据写入方式是什么？时序引擎支持的时间精度是什么...
DataWorks内置多种一级脱敏场景供用户使用，若该类场景无法满足您更细化的脱敏需求，则可根据业务需要，基于一级脱敏场景自定义二级场景。本文为您介绍如何创建数据脱敏场景。脱敏场景介绍 DataWorks的脱敏场景分为静态脱敏和动态脱敏。...
通过即席查询您可以根据当前的业务情况自定义并执行查询语句和下载查询的数据。例如，当完成计算任务开发后，您可以通过即席查询验证计算任务是否符合预期。本文为您介绍如何新建即席查询并下载结果数据。前提条件 若您需下载即席查询的...
DescribeOssObjectDetailV2 查询OSS存储对象的详细信息V2 调用本接口查询数据安全中心连接授权的OSS的单个存储对象的详细信息 DescribePackages 查询数据包的信息 调用本接口查询已完成扫描授权的MaxCompute数据包的信息，例如数据包的名称...
使用预降采样查询提升查询性能 大范围的时间查询 预降采样 通过存储引擎将写入的数据降低精度后单独存储，查询时按查询条件中指定的降采样精度自动查询最接近预降采样精度的数据，然后再对查询的数据进行聚合计算，减少实时查询的计算数据...
云原生多模数据库 Lindorm 使用容量型云存储作为冷数据存储介质。本文介绍时序引擎的冷数据归档功能的使用方法。功能概要 在时序数据库持续写入的场景下，早先写入的时序数据会随着时间推移，查询频度逐渐降低。这样的数据通常被称为“冷...
本文将为您介绍在Dataphin中使用代码方式查询数据时存在的限制和规则。使用限制 Dataphin最多返回10000条查询结果的记录。您可以在查询语句后增加 limit 返回条数，自定义返回记录的条数，例如 select*from ht5_out limit 20;即返回20条...
本文将为您介绍在Dataphin中使用代码方式查询数据时存在的限制和规则。使用限制 Dataphin最多返回10000条查询结果的记录。您可以在查询语句后增加 limit 返回条数，自定义返回记录的条数，例如 select*from ht5_out limit 20;即返回20条...
通过即席查询您可以根据当前的业务情况自定义并执行查询语句和下载查询的数据。例如，当完成计算任务开发后，您可以通过即席查询验证计算任务是否符合预期。本文为您介绍如何新建即席查询并下载结果数据。背景信息 即席查询任务使用您当前...
本文介绍了更新、删除和导入的方法。...说明 导入数据到 AnalyticDB MySQL版 时，导入任务使用 AnalyticDB MySQL版 中的资源，如果查询数据期间需要导入数据，建议在QPS（Query Per Second，每秒查询率）较低时进行导入操作。
使用场景 数据分析使用场景 数据分析的 SQL查询 功能使用场景如下：您可以通过数据分析的 SQL查询 功能查询数据，并通过分析模式的Web Excel对查询结果进行分析。您也可以下载查询结果至本地，减少数据流动，保障数据安全。MaxCompute任务...
如果需要快速地对数据进行查询与分析，您可以使用SQL语句查询MaxCompute、EMR Hive、Hologres等数据源。本文为您介绍如何通过SQL语句查询数据源。重要 本文档适用于新版数据分析，旧版操作请参见 SQL查询（旧版）。您可通过导航栏切换新旧...
DataWorks支持通过配置脱敏规则将敏感数据进行脱敏，保障数据查询或存储安全。当前DataWorks支持多种脱敏场景，同时您还可根据需要自定义脱敏场景，以满足不同数据脱敏场景下的脱敏需求。本文为您介绍DataWorks数据脱敏能力及操作引导。...
Delta Lake以数据为中心，围绕数据流走向（数据从流入数据湖、数据组织管理和数据查询到流出数据湖）推出了一系列功能特性，协助您搭配第三方上下游工具，搭建快捷、易用和安全的数据湖。背景信息 通常的数据湖方案是选取大数据存储引擎...
我可用的 页面可以作为您个人的资产消费门户，展示您当前所拥有的查表数据权限及权限过期时间在90天内的生产环境的资产对象，并可对有权限的对象快捷创建对应的分析任务及数据预览等。本文为您介绍如何查看及管理我可用的资产。5分钟快速...
本文介绍查询用户OSS或专属存储的归档数据的操作步骤以及常见问题。前提条件 已完成 数据归档至用户OSS 或 数据归档至专属存储 的用户，包含老用户和新用户。说明 老用户：数据归档查询功能未上线（上线时间：2022年09月14日）前，使用过...
如果需要快速地对数据进行查询与分析，您可以使用SQL语句查询MaxCompute、EMR Hive、Hologres等数据源。本文为您介绍如何通过SQL语句查询数据源。重要 DataWorks推荐您体验 新版数据分析，以获得最新功能和更好体验。支持的数据源 SQL查询...
Lindorm宽表引擎在集群管理系统中提供了SQL查询入口，您可以使用SQL语法来查询Lindorm宽表数据。本节介绍通过集群管理系统查询宽表数据。前提条件 已登录目标实例的集群管理系统，具体操作请参见 登录集群管理系统。使用限制 为确保数据...
为了更好地指导您使用数据管理DMS（Data Management），DMS推出解决方案系列文档，旨在通过最佳实践（Step by Step）的形式向您介绍DMS研发流程、数据安全、数据开发的解决方案。研发流程解决方案 DMS为在线流程化系统，可统一管理企业内...
数据库 数据库 ListDatabases 查询数据地图数据库列表 查询数据地图中给定实例/集群/数据目录下的数据库列表。对于dlf/starrocks类型，查询给定数据目录下的数据库列表，其中starocks类型仅支持查询Internal Catalog；对于其他类型，查询...
PolarDB PostgreSQL版 提供了网络通道管理功能，通过网络通道您可以基于fdw外部表、dblink等多种方式实现跨库访问数据，使得跨库访问数据变得更为灵活和便捷。本文介绍如何通过网络通道跨库查询数据。前提条件 已创建源集群和目标集群。...
当数据库中表的数据量过大时，可能会影响查询数据速率，在不考虑将数据迁移到其他数据库的情况下，您可以将数据库中的历史数据或使用频率低的冷数据归档在当前数据库下的其他表中。同时，结合DMS提供的归档时清理源表功能，帮助您提升数据...
使用RDS MySQL数据库代理时，您可以随时查看数据库代理的CPU利用率，了解数据库代理的负载情况，以便及时调整代理数量（规格）。本文介绍如何通过控制台和API接口查看RDS MySQL数据库代理的CPU利用率。关于RDS数据库代理的使用问题和更多...
DataWorks 是阿里云提供的一站式大数据开发与治理平台，旨在帮助用户解决从数据接入、处理、治理到服务化的全链路数据问题。它通过一系列高度协同的功能模块，将复杂的数据工程流程化、可视化，显著降低了大数据开发的门槛。本文将为您逐一...