本文为旧版DTS迁移操作界面,新版DTS迁移步骤,请参见 自建数据库MongoDB版(分片集群架构)迁移至云数据库MongoDB版(分片集群架构)。迁移原理介绍 DTS通过迁移分片集群中的每个Shard节点来实现分片集群数据库的整体迁移,您需要为每个...
如果源或目标数据库是阿里云数据库实例(例如 RDS MySQL、云数据库MongoDB版 等),DTS会自动将对应地区DTS服务的IP地址添加到阿里云数据库实例的白名单中;如果源或目标数据库是ECS上的自建数据库,DTS会自动将对应地区DTS服务的IP地址添...
在使用Mongo Shell连接数据库时,您可以启用SSL(Secure Sockets Layer)加密功能提高数据链路的安全性。通过SSL加密功能可以在传输层对网络连接进行加密,在提升通信数据安全性的同时,保障数据的完整性。前提条件 实例类型为副本集实例,...
AnalyticDB PostgreSQL版基于开源数据库Greenplum构建,兼容Greenplum和PostgreSQL的语法、接口和生态。本文介绍如何通过FineBI连接AnalyticDB PostgreSQL版。前提条件 下载并安装FineBI。已创建AnalyticDB PostgreSQL版。已在AnalyticDB ...
迁移数据的方法如下:云数据库MongoDB版(单节点架构)全量迁移至云数据库MongoDB版(所有架构)云数据库MongoDB版(副本集架构)迁移至云数据库MongoDB版(副本集架构或分片集群架构)自建数据库MongoDB版(分片集群架构)迁移至云数据库...
配置离线同步任务,当您选择使用多个数据库时,则每个数据库均需要配置一个数据源。用户名 登录数据库的用户名称。密码 登录数据库的密码。密码中避免使用@符号。说明 您需要先添加RDS白名单才能连接成功,详情请参见 设置白名单。以新增 ...
相比原生Redis,云数据库Redis版 提供了维度更广、种类更多及功能更强大的可观测性能力(Observability)。背景信息 可观测性是以系统的指标、日志、链路追踪三大数据支柱为基础,衍生出如数据监控、问题分析、系统诊断等一系列的能力。...
相比原生Redis,云原生内存数据库Tair 提供了维度更广、种类更多及功能更强大的可观测性能力(Observability)。背景信息 可观测性是以系统的指标、日志、链路追踪三大数据支柱为基础,衍生出如数据监控、问题分析、系统诊断等一系列的能力...
整库迁移 适用于将本地数据中心或在ECS上自建的数据库,同步数据至离线数仓(Hive)、大数据计算服务等场景。例如,将ECS上自建的MySQL数据库的数据迁移至MaxCompute中。离线集成支持的数据源 数据源 读取 写入 大数据存储型数据源 ...
说明 若集群当前数据库代理Proxy或内核引擎DB的版本已经是最新版本,则 同时升级数据库代理(Proxy)和内核引擎、仅升级内核引擎 或 仅升级数据库代理(Proxy)选项将置灰不可选。若选择 仅升级数据库代理(Proxy),将只升级读写分离相关...
示例:访问postgresql数据库 云原生数据仓库 AnalyticDB PostgreSQL 版 后台技术人员配置完成后,您可以在 云原生数据仓库 AnalyticDB PostgreSQL 版 数据库中采用以下SQL语句创建外表并查询。postgres=CREATE EXTERNAL TABLE pxf_ext_pg(a...
背景信息 PolarDB-X 1.0 是由阿里巴巴自主研发的 PolarDB 分布式版数据库,融合分布式 SQL 引擎和分布式自研存储 X-DB,基于云原生一体化架构设计。PolarDB-X 1.0 可以支撑千万级并发规模,以及百 PB 级海量存储。详情请参见 产品概述。...
本文为您介绍迁移评估如何通过离线评估的方式,进行数据库评估。背景信息 由于用户的系统可能存在不方便从公有云连接至源端数据库的情况,迁移评估支持离线评估。您可以提供需要评估的文件,离线评估通过 SQL 文件、Mybatis、Ibatis 等持久...
DLA Spark和云数据库Lindorm无缝衔接,支持数据工作台、作业调度、SQL,支持构建离线数据仓库等;通过DLA Spark Streaming进行实时ETL,并把结果写入云数据库HBase版;通过DLA Spark进行离线分析解决客户的报表等需求。客户价值 迁移到云...
在任务中心,当离线同步实例未成功运行时,您可以重跑离线同步实例,重新运行离线任务。本文主要介绍如何重跑离线同步实例。背景信息 只有全量任务支持重跑,增量任务不支持。操作步骤 登录企业数据智能平台。在页面左上角,单击 图标,...
在任务中心,您可以重跑离线计算实例,重新运行离线任务。本文主要介绍如何重跑离线计算实例。背景信息 只有全量任务支持重跑,增量任务不支持。操作步骤 登录企业数据智能平台。在页面左上角,单击 图标,选择 协同。在顶部菜单栏,单击 ...
本文将以LogHub数据同步至MaxCompute为例,为您介绍如何通过数据集成功能同步LogHub数据至数据集成已支持的目的端数据源(例如MaxCompute、OSS、Tablestore、RDBMS和DataHub等)。前提条件 准备好相关的数据源,详情请参见 创建MaxCompute...
对执行失败或异常的离线计算实例标记后,实例的状态会标记为成功,方便对实例进行筛选。本文主要介绍如何标记离线计算实例。操作步骤 登录企业数据智能平台。在页面左上角,单击 图标,选择 协同。在顶部菜单栏,单击 图标,选择目标工作组...
任务中心对 企业数据智能平台 中的数据同步、数据开发、标签同步、质量评估等任务和实例进行运维管理。企业数据智能平台 各模块发起的任务,如数据同步、数据开发、标签加工 等,都会发到对应的任务流,不同的任务来源通过业务类型区分。...
离线计算任务是由智能标签、表加工、质量评估、数据加工等业务产生的任务,运维监控支持查看离线计算任务详情,包括任务信息、任务代码、实例列表。本文介绍如何查看离线计算任务详情。操作步骤 登录企业数据智能平台。在页面左上角,单击 ...
任务中心对 数据资源平台 中的数据同步、数据开发、标签同步、质量评估等任务和实例进行运维管理。数据资源平台 各模块发起的任务,如数据同步、数据开发、标签加工 等,都会发到对应的任务流,不同的任务来源通过业务类型区分。根据业务...
任务中心对数据资源平台中的数据同步、数据开发、标签加工等任务和实例进行运维管理。数据资源平台各模块发起的任务,如数据同步、数据开发、标签加工等,都会发到对应的任务流,不同的任务来源通过业务类型区分。根据业务流程,任务流中...
离线计算任务是由智能标签、表加工、质量评估、数据加工等业务产生的任务,运维监控支持查看离线计算任务详情,包括任务信息、任务代码、实例列表。本文介绍如何查看离线计算任务详情。操作步骤 登录 数据资源平台控制台。在页面左上角,...
数据集成的离线同步功能为您提供数据读取(Reader)和写入插件(Writer),方便您通过定义来源与去向数据源,并结合DataWorks调度参数使用,将源端数据库中全量或增量数据的同步至目标数据库中。本文为您介绍离线同步的相关能力。使用限制 ...
DataWorks数据集成支持复杂网络环境下的数据同步,您可在数据开发(DataStudio)界面直接 创建离线同步节点,用于离线(批量)数据周期性同步;实时同步任务运维,用于单表或整库增量数据实时同步。本文为您介绍数据同步的相关内容。背景...
为了满足不同业务场景数据集成的诉求,Dataphin支持用户自定义当前系统不支持的RDBMS数据库(关系型数据库)类型的组件,并进行数据同步。您只需要准备关系型数据库的驱动,即可自定义RDBMS数据库类型的组件。本教程以MySQL为例,为您介绍...
为了满足不同业务场景数据集成的诉求,Dataphin支持用户自定义当前系统不支持的RDBMS数据库(关系型数据库)类型的组件,并进行数据同步。您只需要准备关系型数据库的驱动,即可自定义RDBMS数据库类型的组件。本教程以MySQL为例,为您介绍...
离线计算实例是由智能标签、表加工、质量评估、数据加工等业务产生的任务实例,运维监控支持查看离线计算任务实例的详情,包括实例信息、任务代码、实例日志。本文介绍查看离线计算实例详情。操作步骤 登录企业数据智能平台。在页面左上角...
离线计算模板节点类型不支持数据库SQL。在Dev-Prod模式的项目下使用仅配置了生产环境的数据源,在开发环境下进行补数据或运行操作可能变更生产数据,请谨慎使用。操作步骤 在Dataphin首页,单击顶部菜单栏 研发。默认进入数据 开发 页面。...
离线计算模板节点类型不支持数据库SQL。在Dev-Prod模式的项目下使用仅配置了生产环境的数据源,在开发环境下进行补数据或运行操作可能变更生产数据,请谨慎使用。操作步骤 在Dataphin首页,单击顶部菜单栏 研发。默认进入数据 开发 页面。...
本文描述了如何通过PolarDB for AI在数据库中生成含有AI模型推理列的数据表PolarDB for AI Augmented Table(下文简称AAT)。经过人工智能增强的数据表可广泛应用于Data+AI的多个场景,以协助用户进行数据洞察,并根据实际情况调整其决策。...
离线集成是一种低代码的数据开发工具,您可以组合各类任务节点,形成数据流,通过周期调度运行达到数据加工、数据同步的目的,进而对在线数据库、数据仓库的数据进行加工处理并同步至目的端。流式ETL。更多信息,请参见 流式ETL。通过可视...
数据集成概述 离线研发 数据源接入Dataphin中后,支持在Dataphin创建数据库SQL任务进行开发。新建数据库SQL任务 实时研发 接入的数据源支持用于创建实时元表创建与实时任务的开发。Flink_SQL任务开发方式 全域质量 全域质量即资产质量,是...
该场景可实现:在离线一体化 支持数据实时增删改、具备在线分析和ETL计算一体化,实现大数据与数据库的融合。通过资源组隔离让在离线计算任务不相互影响,保证业务稳定运行。计算存储资源弹性 采用计算存储分离架构,计算资源和存储资源按...
整库迁移 适用于将本地数据中心或在ECS上自建的数据库,同步数据至离线数仓(Hive)、大数据计算服务等场景。例如,将ECS上自建的MySQL数据库的数据迁移至MaxCompute中。实时集成 适用于将来源端数据源中整库或全部表的数据变化实时集成至...
同步ECS自建的数据库的数据时,如何保障数据库与DataWorks的网络连通?数据库和DataWorks不在同一个地域(Region)下,进行数据同步时如何保障数据库与DataWorks的网络连通?数据库和DataWorks不在同一个阿里云账号下,进行数据同步时如何...
DataWorks支持您在 数据集成主站 新建整库离线同步方案,快速将来源数据源内所有表上传至目标数据源,帮助您节省大量初始化数据上云的批量任务创建时间。支持的数据源 当前DataWorks支持各类数据源的数据整库迁移至MaxCompute、OSS、...
您可以调用数据库自治服务DAS(Database Autonomy Service)的相关API接口来执行实时Top Key统计或离线全量Key分析任务。功能介绍 实时Top Key统计:实时展示实例中的大Key和热Key信息,同时支持查看4天内的大Key和热Key历史信息。该功能可...
相比现有基于大数据平台的历史数据离线分析方案,DBS沙箱功能提供原始数据库SQL接口,不需要开发人员编写离线分析脚本,并由于使用快照存储机制,存储成本也更低。费用说明 更多信息,请参见 DBS沙箱费用。后续步骤 自建MySQL应急恢复...
离线同步任务执行过程分为4个阶段:前置准备 系统将根据您的配置,将前置SQL下发至数据库执行,但并非所有任务都存在前置准备。以MySQL Writer为例,若您的任务配置了 PreSQL,即存在执行数据同步任务之前先执行的SQL语句时,该SQL将在此...