建设数据源系统

_相关内容

数据引入层(ODS)

数据同步加载与处理 ODS的数据需要由各数据源系统同步、存储到MaxCompute,才能用于进一步的数据开发。本教程建议您使用Dataphin的数据集成功能完成数据同步。在使用数据引入功能的过程中,建议您遵循以下规范:一个系统的源表只允许同步...

配置SAP HANA输出组件

选择Dataphin系统已配置的数据源,且数据源需同时具备以下两个条件:数据源的类型与输出组件的类型一致。执行 属性配置 的账号具有该数据源的同步写权限,如果没有权限,则需要申请数据源权限,详情请参见 申请数据源权限。同时您也可以...

Hive数据导入

数据源名称 系统默认会按数据源类型与当前时间生成名称,可按需修改。数据源描述 数据源备注描述,例如湖仓应用场景、应用业务限制等。部署模式 如果您使用的是E-MapReduce的Hive服务,请选择阿里云实例。实例 选择数据源指向的E-MapReduce...

通过整库迁移配置集成任务

说明 同步至AnalyticDB for PostgreSQL数据源系统每日会为目标表创建一个日期分区。若有其他分区需要,可以在生成管道后,单击单条管道修改分区相关的 准备语句。数据源 选择目标数据源。若无所需数据源,您也可以单击 新建数据源 进行...

通过数据同步功能同步SLS至湖仓版(推荐)

数据源名称 系统默认按数据源类型与当前时间生成名称,可按需修改。数据源描述 数据源备注描述,例如湖仓应用场景、应用业务限制等。部署模式 目前仅支持阿里云实例。SLS Project所在地域 SLS Project所在地域。是否跨阿里云主账号 SLS数据...

功能更新动态(2022年之前)

2020年11月17日 华北2(北京)数据服务概述 2020年11月26日 华南1(深圳)2020年12月15日 华东2(上海)2020年9月 功能名称 功能描述 发布时间 发布地域 相关文档 新建项目 绑定离线计算源时,新增同步创建对应的数据源系统通过项目粒度...

文档更新动态(2022年之前)

通用功能 数据服务概述 2020年09月 时间 特性名称 类别 描述 使用范围 产品文档 2020-09-17 新建项目 功能拓展 绑定离线计算源时,新增同步创建对应的数据源系统通过项目粒度的方式,管控项目中的元表和物理表的读取和写入数据的权限申请...

通过数据同步功能同步SLS数据至湖仓版

数据源名称 系统默认按数据源类型与当前时间生成名称,可按需修改。数据源描述 数据源备注描述,例如应用场景、应用业务限制等。部署模式 目前仅支持 阿里云实例。SLS Project所在地域 SLS Project所在地域。SLS Project所在地域。说明 ...

通过数据同步功能同步SLS数据至数仓版

数据源名称 系统默认按数据源类型与当前时间生成名称,可按需修改。数据源描述 数据源备注描述,例如应用场景、应用业务限制等。部署模式 目前仅支持 阿里云实例。SLS Project所在地域 SLS Project所在地域。说明 目前仅支持选择 ...

通过整库迁移配置集成任务

说明 同步至AnalyticDB for PostgreSQL数据源系统每日会为目标表创建一个日期分区。若有其他分区需要,可以在生成管道后,单击单条管道修改分区相关的 准备语句。数据源 选择目标数据源。若无所需数据源,您也可以单击 新建数据源 进行...

通过数据同步功能同步Kafka至湖仓版(推荐)

数据源名称 系统默认按数据源类型与当前时间生成名称,可按需修改。数据源描述 数据源备注描述,例如湖仓应用场景、应用业务限制等。部署模式 目前仅支持阿里云实例。Kafka实例 Kafka实例ID。登录 云消息队列 Kafka 版 控制台,在 实例列表...

新建自定义数据源

说明 系统支持配置 生产数据源 和 开发数据源 为相同的数据源,也可以配置为不同的数据源。标签 选择数据源所属的标签分类。非必选。链接地址 填写数据库的链接地址。如 jdbc:mysql:/host:port/dbname。用户名 填写登录数据库的用户名。...

新建自定义数据源

说明 系统支持配置 生产数据源 和 开发数据源 为相同的数据源,也可以配置为不同的数据源。标签 选择数据源所属的标签分类。非必选。链接地址 填写数据库的链接地址。如 jdbc:mysql:/host:port/dbname。用户名 填写登录数据库的用户名。...

采集数据

在 新增OSS数据源 对话框,配置各项参数,主要参数配置描述如下:主要参数 描述 数据源名称 输入数据源名称,该名称为数据源在您工作空间中的标识,本案中设置数据源名称为 oss_workshop_log。数据源描述 对数据源进行简单描述。适用环境 ...

技术架构选型

其中,Dataphin的数据集成及同步负责完成业务系统数据引入。MaxCompute作为整个大数据开发过程中的离线计算引擎。Dataphin则基于OneData方法论——OneModel、OneID、OneService,囊括了数据建模研发、运维中心、监控报警、数据资产等在内...

管理数仓规划待发布对象

说明 发布数据源时,系统将会校验数据源的连通性。当您批量发布多个数据源且存在不可并发的数据源时,可能导致批量发布过慢,请您耐心等待。不支持并发的数据源包括SAP Table和HDFS、Hive、Impala、Kudu、Kafka以及其他支持Kerberos的数据...

管理数仓规划待发布对象

说明 发布数据源时,系统将会校验数据源的连通性。当您批量发布多个数据源且存在不可并发的数据源时,可能导致批量发布过慢,请您耐心等待。不支持并发的数据源包括SAP Table和HDFS、Hive、Impala、Kudu、Kafka以及其他支持Kerberos的数据...

设置资产数据源

本文介绍DataV设置资产数据源的方法,以及 设置数据源 页面的内容,包括数据源、数据过滤器以及数据响应结果等。配置资产数据源 登录 DataV控制台。在 我的可视化 页面,单击您创建的可视化应用项目上方的 编辑 按钮。在画布编辑器页面,...

配置Log Service输入组件

数据源 选择Dataphin系统中已配置的数据源,且需同时具备以下两个条件:数据源类型与输入组件的类型一致。执行 属性配置 的账号具有该数据源的同步读权限,如果没有权限,则需要申请数据源权限,详情请参见 申请、续期和交还数据源权限。...

配置Log Service输入组件

数据源 选择Dataphin系统中已配置的数据源,且需同时具备以下两个条件:数据源类型与输入组件的类型一致。执行 属性配置 的账号具有该数据源的同步读权限,如果没有权限,则需要申请数据源权限,详情请参见 申请、续期和交还数据源权限。...

实时同步任务延迟解决方案

对于端是Kafka、DataHub和Loghub三种类型的实时同步任务,每个分区或者shard只能由一个并发消费,如果存在写入系统数据集中在个别分区或者shard,而其他分区或shard数据很少的情况,则很可能导致数据倾斜分区或shard的消费瓶颈,...

自动添加数据源

数据库备份DBS 支持自动添加数据源功能,可以将阿里云上的RDS实例自动同步到DBS数据源中,以便后续对数据源进行管理与备份。功能说明 该功能当前仅支持自动接入RDS实例,包含 RDS MySQL、RDS SQL Server、RDS PostgreSQL、RDS MariaDB。...

配置SAP HANA输出组件

选择Dataphin系统已配置的数据源,且数据源需同时具备以下两个条件:数据源的类型与输出组件的类型一致。执行 属性配置 的账号具有该数据源的同步写权限,如果没有权限,则需要申请数据源权限,详情请参见 管理数据源权限。同时您也可以...

自定义RDBMS数据库及同步数据

说明 系统支持配置 生产数据源 和 开发数据源 为相同的数据源,也可以配置为不同的数据源。标签 非必填,配置数据源的标签分类。生产数据源 或 生产+开发数据源 链接地址 填写数据源的链接地址。链接地址的格式为:jdbc:mysql:/{Public ...

自定义RDBMS数据库及同步数据

说明 系统支持配置 生产数据源 和 开发数据源 为相同的数据源,也可以配置为不同的数据源。标签 非必填,配置数据源的标签分类。生产数据源 或 生产+开发数据源 链接地址 填写数据源的链接地址。链接地址的格式为:jdbc:mysql:/{Public ...

PolarDB PostgreSQL版间的迁移

通过数据传输服务DTS(Data Transmission Service),可以实现 PolarDB PostgreSQL版 集群间的迁移。前提条件 已创建和目标 PolarDB PostgreSQL版 数据库集群,详情请参见 创建PolarDB PostgreSQL版数据库集群。...例如,网络连接、系统权限...

PolarDB PostgreSQL版(兼容Oracle)间的迁移

背景信息 PolarDB PostgreSQL版(兼容Oracle)作为一款企业级关系型数据库管理系统,具有广泛的应用和强大的社区支持。每个新版本的发布都带来了许多改进和新特性,以提高性能、可用性和安全性。目前,升级到 PolarDB PostgreSQL版(兼容...

成员管理、数据源、变更管控权限列表

权限点 超级管理员 系统管理员 数据源管理员 安全管理员 质量管理员 板块架构师 普通成员 成员管理 账号系统同步 Y Y N N N N N 查看成员列表 Y Y Y Y Y Y Y 查看成员详情 Y Y N N N N N 编辑成员信息 Y Y N N N N N 编辑角色 Y Y N N N N ...

成员管理、数据源、变更管控权限列表

权限点 超级管理员 系统管理员 数据源管理员 安全管理员 质量管理员 板块架构师 普通成员 成员管理 账号系统同步 Y Y N N N N N 查看成员列表 Y Y Y Y Y Y Y 查看成员详情 Y Y N N N N N 编辑成员信息 Y Y N N N N N 编辑角色 Y Y N N N N ...

功能简介

数据同步为用户提供批量、实时多源异构数据的便捷同步或接入能力,系统提供完善的数据接入配置、任务运行监控等功能,有效保障数据接入的稳定性和可控性,满足各类平台、数据源及应用系统间的数据汇聚需求。通过数据同步的自定义同步任务...

数据同步

数据同步提供批量、实时多源异构数据的便捷同步或接入能力,系统提供完善的数据接入配置、任务运行监控等功能,有效保障数据接入的稳定性和可控性,满足各类平台、数据源及应用系统间的数据汇聚需求。同时支持对存储在基于ArcGIS、超图等...

功能简介

数据同步为用户提供批量、实时多源异构数据的便捷同步或接入能力,系统提供完善的数据接入配置、任务运行监控等功能,有效保障数据接入的稳定性和可控性,满足各类平台、数据源及应用系统间的数据汇聚需求。同时支持对存储在基于ArcGIS、...

数据同步

数据同步为用户提供批量、实时多源异构数据的便捷同步或接入能力,系统提供完善的数据接入配置、任务运行监控等功能,有效保障数据接入的稳定性和可控性,满足各类平台、数据源及应用系统间的数据汇聚需求。前提条件 已根据快速入门教程...

功能特性

Hive数据源 Iceberg数据源 本文介绍云数据库 SelectDB 版与Iceberg数据源进行对接使用的流程,帮助您对Iceberg数据源进行联邦分析。Iceberg数据源 Hudi数据源 本文介绍云数据库 SelectDB 版与Hudi数据源进行对接使用的流程,帮助您对Hudi...

OpenAPI列表

会进行数据回刷:影响历史数据 会进行节点的数据回刷,造成计算费用以及存储费用。GetPhysicalNode 查询物理调度节点。GetPhysicalNodeByOutput 根据输出名查询物理节点。仅支持离线代码节点及集成任务节点。GetPhysicalNodeContent 查询...

资产权限列表

权限点 超级管理员 系统管理员 数据源管理员 安全管理员 质量管理员 板块架构师 板块管理员 项目管理员 普通成员 权限申请 申请数据表权限 Y Y-Y 申请数据源权限 Y Y-Y 申请函数权限 Y Y-Y 申请变量权限 Y Y-Y 申请密钥权限 Y Y-Y 申请数据...

资产权限列表

权限点 超级管理员 系统管理员 数据源管理员 安全管理员 质量管理员 板块架构师 板块管理员 项目管理员 普通成员 权限申请 申请数据表权限 Y Y-Y 申请数据源权限 Y Y-Y 申请函数权限 Y Y-Y 申请变量权限 Y Y-Y 申请密钥权限 Y Y-Y 申请数据...

配置GoldenDB输出组件

选择Dataphin系统已配置的数据源,且数据源需同时具备以下两个条件:数据源的类型与输出组件的类型一致。执行 属性配置 的账号具有该数据源的同步写权限,如果没有权限,则需要申请数据源权限,详情请参见 申请数据源权限。同时您也可以...

配置GoldenDB输出组件

选择Dataphin系统已配置的数据源,且数据源需同时具备以下两个条件:数据源的类型与输出组件的类型一致。执行 属性配置 的账号具有该数据源的同步写权限,如果没有权限,则需要申请数据源权限,详情请参见 申请数据源权限。同时您也可以...

配置Impala输出组件

选择Dataphin系统已配置的数据源,且数据源需同时具备以下两个条件:数据源的类型与输出组件的类型一致。执行 属性配置 的账号具有该数据源的同步写权限,如果没有权限,则需要申请数据源权限,详情请参见 申请、续期和交还数据源权限。...
< 1 2 3 4 ... 200 >
共有200页 跳转至: GO
新人特惠 爆款特惠 最新活动 免费试用