这些不同来源、不同格式的数据，各自又有不同的访问和分析方式，而大量传统企业基于关系数据库构建自己的业务系统，已经非常熟悉按SQL的方式去使用数据，这无疑增加了企业存储和使用数据的成本。分析不实时 企业运营的形式越来越多样化，...
本文汇总了StarRocks数据导入的常见问题。通用问题 如何选择导入方式？影响导入性能的因素都有哪些？报错“close index channel failed“或“too many tablet versions”，该如何处理？报错“Label Already Exists”，该如何处理？报错...
本文介绍如何通过DTS控制台的物理网关迁移上云功能将ECS、IDC或其他云服务器中的自建SQL Server数据库迁移到RDS SQL Server。该功能采用物理网关协议的接入方式，具有速度快、操作简单、稳定性好、场景覆盖全等特点，能够有效提高迁移效率...
本文介绍如何通过DTS控制台的物理网关迁移上云功能将ECS、IDC或其他云服务器中的自建SQL Server数据库迁移到RDS SQL Server。该功能采用物理网关协议的接入方式，具有速度快、操作简单、稳定性好、场景覆盖全等特点，能够有效提高迁移效率...
典型应用场景 以一个典型数仓架构为例，通过ETL将在线数据（关系数据库或者应用服务日志）导入离线分析平台做计算分析，分析的结果（如数仓模型的数据集市层ADS）再导入关系数据库中，用于对接BI报告、监控和广告计算等应用。该架构有几个...
识别任务所需时间和需扫描的数据量有关系，如果需扫描的数据量较大时，需要花费较多时间，请您耐心等待。扫描状态为完成后，才可查看分类分级结果。说明 除系统默认任务外，您可以根据业务所处的行业将对应的行业模板设置为主用模板进行...
JindoFS是阿里云开源大数据E-MapReduce产品提供的一套Hadoop文件系统，主要对Hadoop和Spark大数据生态系统使用阿里云OSS提供多层次的封装支持和优化。基础功能提供适配OSS和支持访问，您可以直接使用JindoFS SDK；标准功能针对OSS提供分布...
在导入流程中主要负责数据的ETL和存储。Tablet StarRocks表的逻辑分片，一个表按照分区、分桶规则可以划分为多个分片，详情请参见 数据分布。基本原理 导入执行流程如下图所示。一个导入作业主要分为以下五个阶段。阶段 描述 PENDING 非...
在导入流程中主要负责数据的ETL和存储。Tablet StarRocks表的逻辑分片，一个表按照分区、分桶规则可以划分为多个分片，详情请参见 数据分布。基本原理 导入执行流程如下图所示。一个导入作业主要分为以下五个阶段。阶段 描述 PENDING 非...
复杂业务资源隔离：例如ETL和AdHoc业务通过实例实现物理资源隔离，ETL结果通过数据共享给AdHoc的实例。跨业务协作：例如数据研发、销售、运营、财务在需要分析同一份数据时，该数据可以通过数据共享允许组织内不同业务组的访问。目前数据...
说明 如为增量同步任务，DTS要求源数据库的Redo Log和Archive Log保存24小时以上，如为全量同步和增量同步任务，DTS要求源数据库的Redo Log和Archive Log至少保留7天以上（您可在全量同步完成后将Redo Log和Archive Log保存时间设置为24...
代理个数和代理地址个数有关系吗？数据库代理的性能会随着代理地址的增多而提升吗？数据库代理对用户的连接数有限制吗？使用数据库代理地址连接时报超时错误怎么办？数据库代理地址（读写分离地址）可以修改吗？主实例写的频率不高，能不能...
确认源端数据是否有倾斜或者是否需要扩展分区或shard的数量 对于源端是Kafka、DataHub和Loghub三种类型的实时同步任务，如果根据上述步骤未发现异常或Failover，则需要检查源端系统数据是否有倾斜或者分区、shard的读取流量是否达到了同步...
为什么Redis内存报警与监控的内存使用率不一致 如何解决Redis内存使用率突然升高 如何搜索大Key 查看Redis集群实例的架构图和监控数据 查看Redis集群子实例内存 查看当前账号所有实例内存的使用信息 使用memtier-benchmark测试Redis集群版...
警告 由于此场景属于异构数据库间的数据同步，数据类型无法一一对应，可能会导致任务失败或数据丢失，请谨慎评估数据类型的映射关系对业务的影响，详情请参见 结构初始化涉及的数据类型映射关系。不支持结构初始化的结构对象有：assemblies...
DMS提供全域数据资产管理、数据治理、数据库设计开发、数据集成、数据开发和数据消费等功能，致力于帮助企业高效、安全地挖掘数据价值，助力企业数字化转型。视频介绍 功能特性 详情信息，请参见 功能概览。为什么选择数据管理DMS 全域数据...
代理个数和代理连接地址个数有关系吗？没有。每个RDS PostgreSQL实例在开通数据库代理后，都可以申请1~7个代理连接地址（原代理终端），每个代理连接地址都可以申请1个内网地址和1个外网地址，更多信息，请参见 新建数据库代理连接地址。...
应用场景 为满足企业处理实时数据的需求，ETL提供了流式数据抽取、加工和加载功能，能够高效整合海量实时数据，支持拖拽式操作和低代码开发方式，帮助企业轻松完成商业决策分析、报表提速、实时数据计算等。企业在数字化转型过程中，涉及...
PolarDB 列存索引（In Memory Column Index，IMCI）功能推出了完备的虚拟列与列式JSON功能等，可以快速处理大数据和多种数据类型（包括结构化数据与半结构化数据等），并提供高效的数据分析、查询与流计算能力，适用于数据分析、数据仓库与...
数据传输服务DTS（Data Transmission Service）支持将 RDS MySQL 实例的全量或增量数据同步至函数计算FC的指定函数。您可以编写函数代码，结合同步至函数中的数据，对数据进行二次加工。前提条件 已创建源 RDS MySQL 实例。创建方式，请...
Spark是一个通用的大数据分析引擎，具有高性能、易用和普遍性等特点，可用于进行复杂的内存分析，构建大型、低延迟的数据分析应用。...大规模ETL任务：进行大数据集的抽取、转换和加载，为数据仓库或其他存储系统准备数据。
是EMR平台上提供的实时计算一站式解决方案，拥有分布式、高吞吐量和高可扩展性的消息系统Kafka和基于Apache Flink官方产品Ververica提供的Flink商业内核两大组件，专注于解决实时计算端到端的各类问题，广泛应用于实时数据ETL和日志采集...
数据传输服务DTS（Data Transmission Service）支持将 云数据库MongoDB版（副本集架构）实例的增量数据同步至函数计算FC的指定函数。您可以编写函数代码，结合同步至函数中的数据，对数据进行二次加工。前提条件 已创建源 云数据库MongoDB...
行存储与列存储 云原生数据仓库AnalyticDB PostgreSQL版在表数据存储格式上支持行存储和列存储，二者在不同使用场景下各有优劣势，直接关系到实例的性能和存储空间。用户在创建表时，支持指定数据存储格式，即支持按行组织存储，也支持按列...
数据传输服务DTS（Data Transmission Service）支持将 RDS SQL Server 实例的数据同步至 云原生数据仓库AnalyticDB PostgreSQL版，帮助您轻松实现数据的流转。通过 AnalyticDB PostgreSQL版 提供的数据在线分析服务和离线数据处理功能，您...
数据传输服务DTS（Data Transmission Service）支持将 RDS SQL Server 实例的数据同步至 云原生数据仓库AnalyticDB PostgreSQL版，帮助您轻松实现数据的流转。通过 AnalyticDB PostgreSQL版 提供的数据在线分析服务和离线数据处理功能，您...
注意事项 DTS在执行全量数据迁移时将占用源库和目标库一定的读写资源，可能会导致数据库的负载上升，在数据库性能较差、规格较低或业务量较大的情况下（例如源库有大量慢SQL、存在无主键表或目标库存在死锁等），可能会加重数据库压力，...
DMS商品订单与数据库实例是绑定关系吗？已购买的包年包月和按量付费商品，在DMS使用上有没有区别？已退订DMS按量付费商品订单，为何还会收到账单提示信息？在DMS进行管理的RDS实例已经在RDS控制台释放，但未从DMS中移除，DMS还会继续收费吗...
大数据计算服务MaxCompute（原名ODPS）为您提供完善的数据导入方案，能够快速解决海量数据的计算问题。前提条件 配置MaxCompute输出节点前，您需要先配置好相应的输入或转换数据源，详情请参见 实时同步能力说明。背景信息 写入数据不支持...
DTS支持迁移全量数据及增量数据，您可以通过DTS迁移MySQL数据库（例如自建MySQL、RDS MySQL和PolarDB MySQL）同步或迁移至 云数据库 SelectDB 版，并在 云数据库 SelectDB 版 上完成亚秒级响应海量数据查询、万级高并发点查询以及高吞吐...
更多信息，请参见 数据类型映射关系 和 数据模型。若未选择 增量迁移，为保障数据一致性，数据迁移期间请勿在源实例中写入新的数据。目标已存在表的处理模式 预检查并报错拦截：检查目标数据库中是否有同名的表。如果目标数据库中没有同名...
数据传输服务DTS（Data Transmission Service）支持将 RDS SQL Server 的数据迁移至 云原生数据仓库AnalyticDB PostgreSQL版，帮助您轻松实现数据的传输。通过 AnalyticDB PostgreSQL版 提供的数据在线分析服务和离线数据处理功能，您可以...
警告 此场景属于异构数据库间的数据迁移，DTS在执行结构迁移时数据类型无法完全对应，请谨慎评估数据类型的映射关系对业务的影响，详情请参见 异构数据库间的数据类型映射关系。全量数据迁移 DTS会将自建Oracle数据库迁移对象的存量数据，...
警告 此场景属于异构数据库间的数据迁移，DTS在执行结构迁移时数据类型无法完全对应，请谨慎评估数据类型的映射关系对业务的影响，详情请参见 异构数据库间的数据类型映射关系。不兼容触发器。建议您删除源库的触发器，以避免因触发器而...
“Lakehouse”是基于数据湖的数仓，一种新的大数据范式，最根本出发点就是为了解决单纯Data Lake应用下的各种问题，例如不支持UPSERT，不支持多版本，不支持增量ETL，小文件太多，格式不是分析型的，元信息不统一，Schema没有约束，缺乏...
数据传输服务DTS（Data Transmission Service）支持将 PolarDB MySQL版 集群迁移至ClickHouse集群，帮助您实现数据地流转，将企业数据集中分析。前提条件 已创建20.8及以上版本的目标ClickHouse集群，详情请参见 新建集群。说明 ClickHouse...
背景信息 PolarDB PostgreSQL版（兼容Oracle）作为一款企业级关系型数据库管理系统，具有广泛的应用和强大的社区支持。每个新版本的发布都带来了许多改进和新特性，以提高性能、可用性和安全性。目前，升级到 PolarDB PostgreSQL版（兼容...
MaxCompute 读写权限 数据类型映射关系 详情请参见 结构初始化涉及的数据类型映射关系。操作步骤 进入迁移任务的列表页面。登录 DMS数据管理服务。在顶部菜单栏中，单击 集成与开发（DTS）。在左侧导航栏，选择 数据传输（DTS）>数据迁移。...
在数据模型设计之前，您需要首先完成技术架构...其中，DataWorks的数据集成负责完成数据的采集和基本的ETL。MaxCompute作为整个大数据开发过程中的离线计算引擎。DataWorks则包括数据开发、数据质量、数据安全、数据管理等在内的一系列功能。
警告 此场景属于异构数据库间的数据迁移，DTS在执行结构迁移时数据类型无法完全对应，请谨慎评估数据类型的映射关系对业务的影响，详情请参见 异构数据库间的数据类型映射关系。全量数据迁移 DTS会将自建Oracle数据库迁移对象的存量数据，...