上传本地文件的方式导入业务所需的数据集，以便在模型画布中编辑业务模型时使用导入的数据集。本文介绍如何通过上传本地数据新建数据集。前提条件 已创建云计算资源作为存储数据源，具体操作，请参见 新建计算资源。已准备好待上传的数据表...
数据库网关DG（Database Gateway）是一种支持私网数据库远程访问的数据库连接服务。通过数据库网关，您可以安全且低成本地将第三方云或本地的数据库接入至阿里云。同时，数据库网关可以与其他阿里云产品（例如数据传输服务DTS，数据灾备...
数据同步为用户提供批量、实时多源异构数据的便捷同步或接入能力，系统提供完善的数据接入配置、任务运行监控等功能，有效保障数据接入的稳定性和可控性，满足各类平台、数据源及应用系统间的数据汇聚需求。同时支持对存储在基于ArcGIS、...
数据集成是基于Dataphin构建的简单高效的数据同步平台，致力于提供强大的数据预处理能力和丰富的异构数据源之间数据高速稳定的同步能力。5分钟快速了解 背景信息 面对各行各业对大数据的应用，数据集成会有很多的诉求，包括能够简单高效地...
数据迁移 数据迁移功能帮助您实现同构或异构数据源之间的数据迁移，适用于数据上云迁移、阿里云内部跨实例数据迁移、数据库拆分扩容等业务场景。功能集 功能 功能描述 参考文档 同构迁移 逻辑迁移 支持同构数据库间的数据迁移。自建MySQL...
单击编辑器右侧的 数据 图标。在 数据 面板中，单击 配置数据源。在 设置数据源 页面中，可修改数据源的类型和脚本、配置数据过滤器并查看数据响应结果。修改数据源的类型和脚本 在 设置数据源 页面中，在 数据源类型 列表中可修改数据源...
通过讲述数据集成数据同步的原理机制，理解数据同步的过程，进而对数据同步的执行效果有判断能力，判断数据同步效果具体包括：数据同步的数据量、目标端数据实际数量等。本文将为您列举一些常见数据质量方面的场景，方便您排查是否存在符合...
DSC支持的数据库类型和地域，请参见 支持的数据资产类型 和 支持的地域。本示例规划使用已创建的华北3（张家口）地域的RDS SQL Server实例的数据库表进行敏感数据识别扫描。RDS SQL Server实例、数据库管理账号及数据库的创建，请参见 快速...
当应用程序使用 testAcc 连接数据库，并查询某个表中的 name、age 和 hobby 时，Proxy会将 name 和 age 列的数据进行脱敏后再返回，hobby 列的数据则未进行脱敏原样返回。Proxy会对不同类型的数据进行不同的脱敏处理，具体脱敏处理说明如下...
全局数据源管理 添加的数据源会按照类型分别放至数据库、其他、应用网关、文件等页签，平台支持以页签为单位（即相关操作的结果会展示在相应页签下），执行如下全局操作：查看数据源：可查看当前已添加的数据源名称、类型、创建时间等基本...
Oracle输入组件用于读取Oracle数据源的数据。同步Oracle数据源的数据至其他数据源的场景中，您需要先配置Oracle输入组件读取的源数据源信息，再配置数据同步的目标数据源。本文为您介绍如何配置Oracle输入组件。前提条件 在开始执行操作前...
通过兼容MySQL数据库的数据源，您可以使用旧版本的MySQL数据库作为组件的数据源。前提条件 已准备好待添加的兼容MySQL数据库数据源。重要 您必须先将对应区域的白名单IP地址添加到您的数据源白名单中，以确保DataV-Board能正常访问您的数据...
数据服务功能支持在项目中为数据源创建可以被访问调用的数据服务，本文为您介绍DataV-Atlas（分析地图）如何创建和管理数据服务。发布数据服务 为项目中的数据源创建可被访问和调用的数据服务。登录 DataV-Atlas控制台 并进入目标项目的...
通过数据订阅功能，您可以实时订阅源库的增量数据，轻松帮助业务实现轻量级缓存更新、业务异步解耦、含ETL逻辑的数据实时同步等场景。本文将介绍如何创建RDS MySQL数据订阅通道。注意事项 由于使用gh-ost或pt-online-schema-change等类似...
数据订阅功能可以帮助您获取数据库的实时增量数据，适用于缓存更新策略、业务异步解耦、异构数据源的数据实时同步和复杂ETL的数据实时同步等多种业务场景。本文介绍数据订阅功能的具体使用流程，帮助您快速掌握创建、监控、管理数据订阅...
在左侧导航栏，选择全部资源列表下，目标数据源的数据表。在数据集管理页面，单击 目标数据表卡片，查看数据集详情信息。说明 另一入口：单击全部资源页面左上角的 图标，在 操作 列单击 探查。在 数据预览 页签，查看数据集的表数据信息。...
数据扫描会影响我的数据库性能吗？数据安全中心DSC（Data Security Center）采用全量扫描、增量扫描和定时扫描策略扫描您的数据库。全量扫描会对您的数据库性能产生较小的影响，不会影响您数据库的正常业务。增量扫描只扫描修改后的文件，...
整体选型说明 架构概述 本架构围绕“数据采集—数据计算—数据架构—数据服务”的逻辑展开，以DataWorks和MaxCompute为核心技术栈，结合标准化的数据建模方法与治理体系，构建稳定、高效、可扩展的数据服务能力。最终目标是支撑商家增长、...
功能简介 DMS Data+AI模块支持多种计算、存储引擎，支持结构化、半结构化、非结构化数据的实时集成、离线集成、开发、服务，能够满足企业各类数据加工、集成、开发、服务需求。您可以通过流批一体的数据集成对在线数据进行入仓、加工处理，...
MaxCompute目前提供了三种不同类型的数据类型版本，包括1.0数据类型、2.0数据类型以及Hive兼容数据类型，您可以根据业务需求选择合适的数据类型版本。本文为您介绍三种数据类型版本、选择数据类型版本以及查看和修改项目的数据类型版本。...
通过选择已注册的数据源端数据和目标端，实现全量任务自动建表的方式创建离线同步周期任务，本文介绍如何创建MySQL to MaxCompute离线全量数据同步一次性调度的任务。前提条件 已新建工作组，具体操作，请参见 新建工作组。已在工作组中...
本文适用的数据库范围 DSC仅支持为阿里云上的数据库资产提供数据安全服务，支持的数据库类型详情，请参见 支持的数据资产类型。本文以RDS数据库为例介绍授权和接入的完整流程，可参考本文接入DSC的数据库类型包括：RDS、PolarDB、PolarDB-X...
为满足多样化的数据导入需求，AnalyticDB for MySQL 提供了多种数据导入方式，包括：通过外表导入数据、通过DataWorks导入数据、通过DTS导入数据以及使用JDBC通过程序导入数据等。您可以通过本文了解各导入方式的特性及适用场景，帮助您...
热力层是三维城市构建器的数据映射图层，能够使用热力网格点的形式表现地理位置上的点数据信息。热力层图层支持独立的样式和数据配置，包括热力层网格数、透明度、热力半径和色带等参数。本文介绍热力层配置项的含义。在场景编辑器左侧图层...
云数据库ClickHouse提供了多种数据迁移和同步方案，可满足不同业务场景下数据库的数据迁移和同步需求。使用场景 数据源 文档链接 从Kafka同步 Kafka 从Kafka同步数据 从Flink导入 Flink 使用JDBC Connector导入 从Flink SQL导入 从大数据...
支持的数据源 DataWorks支持多种数据源创建数据库节点，以下为支持的数据库节点：说明 应用于数据库节点的数据源在创建时均需以 JDBC连接串 形式创建数据源。部分数据库本身支持存储过程，但在DataWorks数据开发中暂不支持使用存储过程。...
在DataV-Board（数据看板）中使用达梦数据库之前，需要先将达梦数据库实例添加为DataV-Board的数据源。本文为您介绍如何添加达梦数据库。前提条件 已准备好待添加的达梦数据库实例信息。使用限制 仅支持DataV企业版及以上版本。通过内网...
基本概念 内部数据：保存在StarRocks中的数据。外部数据：保存在外部数据源（例如Apache Hive、Apache Iceberg和Apache Hudi）中的数据。Catalog StarRocks 2.3及以上版本支持Catalog功能，方便您轻松访问并查询存储在各类外部源的数据。...
如果您需要独立设置脱敏规则，请将行业模板中的数据类型设置为停用，并添加新的数据类型。在数据脱敏页面，点击 动态脱敏 页签，进入动态脱敏设置页面。单击动态脱敏页签内的 规则 页签，进入脱敏规则设置页面。单击左上角的 新增规则 按钮...
RDS SQL Server支持实例间的数据库复制功能，可满足用户在不同场景下的数据迁移和同步等需求。您可以通过RDS控制台或API将一个实例中的单个或多个数据库，以及源数据库的所属用户和权限复制到另外一个实例中。功能说明 RDS SQL Server将...
是否支持再次分享已被分享的数据源？数据源的创建者是否有权控制该数据源？什么是私有模式的数据源？哪些用户能够收回数据源的分享权限？如何检查数据源分享关系的移除、关联情况？分享数据源后，其资源组的连通状态是否会被同步分享？分享...
基于冷温热数据的数据量以及查询频度的特点，Lindorm时序引擎实现了对时序数据冷温热分层存储。如下所示：对于数据量最大的冷数据，时序引擎会自动根据用户设置的基于业务时间戳的冷热分界线自动将冷数据归档到冷存储中。当需要查询冷数据...
同步其他数据源的数据至Hive数据源的场景中，完成源数据源的信息配置后，需要配置Hive输出组件写入数据的目标数据源。本文为您介绍如何配置Hive输出组件。使用限制 Hive输出组件支持写入文件格式为 orc、parquet、text、iceberg（iceberg...
DataWorks为您提供的实时数据同步功能，方便您使用单表或整库同步方式，将源端数据库中部分或全部表的数据变化实时同步至目标数据库中，实现目标库实时保持和源库的数据对应。核心能力 实时同步支持的能力如下图所示：能力 描述 多种数据源...
数据集成的离线同步功能为您提供数据读取（Reader）和写入插件（Writer），方便您通过定义来源与去向数据源，并结合DataWorks调度参数使用，将源端数据库中全量或增量数据的同步至目标数据库中。本文为您介绍离线同步的相关能力。核心能力 ...
DataWorks数据集成支持复杂网络环境下的数据同步，您可在数据开发（DataStudio）界面直接 创建离线同步节点，用于离线（批量）数据周期性同步；实时同步任务运维，用于单表或整库增量数据实时同步。本文为您介绍数据同步的相关内容。背景...
同步其他数据源的数据至ClickHouse数据源的场景中，完成源数据的信息配置后，需要配置ClickHouse输出组件写入数据的目标数据源。本文为您介绍如何配置ClickHouse输出组件。前提条件 在开始执行操作前，请确认您已完成ClickHouse数据源及...
公有云实例中创建数据源：公有云的实例中，单击 登录数据库，输入用户名，跳转至 ODC 后输入密码，会自动创建以该实例和用户名命名的数据源。操作步骤 方法一：ODC 首页中创建数据源 新建 OceanBase 数据源 重要 拥有 AdministratorAccess ...
MaxCompute支持通过DataWorks的 数据集成功能 以离线或实时方式导入其他数据源的数据，也支持导入部分类型的本地文件数据。本文介绍如何使用DataWorks将数据导入MaxCompute的。操作步骤 已 创建MaxCompute项目 和 创建表。用于存储后续同步...
数据集成：全领域数据汇聚 DataWorks的数据集成功能模块是稳定高效、弹性伸缩的数据同步平台，致力于提供复杂网络环境下、丰富的异构数据源之间高速稳定的数据移动及同步能力。功能概述 DataWorks的 数据集成 支持离线同步、实时同步以及离...