数据工程 和 大数据

_相关内容

外部表概述

随着大数据业务的不断扩展,新的数据使用场景在不断产生,MaxCompute计算框架也在不断演化。MaxCompute原来主要面对内部特殊格式数据的强大计算能力,正一步步地开放给不同的外部数据。现阶段MaxCompute SQL处理的主要是以 cfile 列格式...

入仓解决方案

入仓解决方案可添加运行多个实时同步任务、实时迁移任务,实现全量或近实时增量迁移集成数据,用于满足项目空间内业务场景的数据迁移集成需求。根据所需的同步效率、同步数据量需求,创建入仓解决方案同步线上库数据。入仓解决方案...

新建 TiDB 数据

新建数据源是创建数据迁移或数据同步项目的前提。本文为您介绍如何在数据传输中新建 TiDB 数据源。前提条件 已获取相关数据库的 IP 地址端口号。已存在用于数据迁移的数据库用户。建议您为数据迁移项目创建一个专属的数据库用户,该用户...

图层配置项说明

基底道路图层示例数据面板样式 数据图元组件、栅格瓦片、地形瓦片、三维瓦片 其他:在这五个类型图层数据面板中,数据配置普通图表组件一致,可配置自己的数据源内容。图 2.数据图元三维图标图层数据面板示例 配置空间构建数据源 如果...

图层配置项说明

数据图元组件、栅格瓦片、地形瓦片、三维瓦片 其他:在这五个类型图层数据面板中,数据配置普通图表组件一致,可配置静态数据源、API数据空间构建数据源内容,还可将图层数据接口作为区块数据接口,在可视化应用中配置更丰富的...

什么是数据传输服务DTS

数据传输服务DTS(Data Transmission Service)是阿里云提供的实时数据流服务,支持关系型数据库(RDBMS)、非关系型的数据库(NoSQL)、数据多维分析(OLAP)等数据源间的数据交互,集数据同步、迁移、订阅、集成、加工于一体,助您构建...

图层配置项说明

数据图元组件、栅格瓦片、地形瓦片、三维瓦片 其他:在这五个类型图层数据面板中,数据配置普通图表组件一致,可配置静态数据源、API数据空间构建数据源内容,还可将图层数据接口作为区块数据接口,在可视化应用中配置更丰富的...

图层配置项说明

数据图元组件、栅格瓦片、地形瓦片、三维瓦片 其他:在这五个类型图层数据面板中,数据配置普通图表组件一致,可配置静态数据源、API数据空间构建数据源内容,还可将图层数据接口作为区块数据接口,在可视化应用中配置更丰富的...

产品功能

数据和实例安全 TSDB 提供以下方案保证您的数据和实例的安全:提供 VPC 的实例访问方式,充分保证实例访问的安全性。提供网络白名单功能:您可以通过设置允许访问实例的机器名单,进一步保证实例和数据的访问安全。如果一台机器在 VPC 内部...

自定义RDBMS数据库及同步数据

操作流程 自定义并应用MySQL数据库组件的流程如下:步骤 描述 步骤一:配置网络创建数据表 在您开始自定义并应用RDBMS数据库组件前,需要配置RDS MySQL实例Dataphin间的网络,及创建同步数据的源表目标表。步骤二:创建自定义数据源 ...

自定义RDBMS数据库及同步数据

操作流程 自定义并应用MySQL数据库组件的流程如下:步骤 描述 步骤一:配置网络创建数据表 在您开始自定义并应用RDBMS数据库组件前,需要配置RDS MySQL实例Dataphin间的网络,及创建同步数据的源表目标表。步骤二:创建自定义数据源 ...

创建数据

数据管理DMS离线集成中,可以组合各类任务节点,形成数据流,通过周期调度运行达到数据加工、数据同步的目的。本文介绍创建数据配置的方法。前提条件 支持的数据库类型:MySQL:RDS MySQL、PolarDB MySQL版、MyBase MySQL、PolarDB...

DataWorks on EMR数据安全方案

大数据领域,阿里云为企业用户提供了一整套数据安全方案,包含用户认证、数据权限、大数据作业管理体系等。本文以联合使用DataWorks与EMR为例,为您介绍DataWorks on EMR场景下的数据安全方案。背景信息 DataWorks on EMR目前支持LDAP...

资源组操作及网络连通

如果您需要使用独享数据集成资源组通过内网同步ECS自建的数据库,您需要为独享数据集成资源组做相关的网络配置,详情可参见 新增使用独享数据集成资源组,连通方案核心点为:独享数据集成资源组绑定ECS所在VPC,会自动添加一个路由指向...

操作流程

新建数据字典并物理化 通过新建并维护数据模型中使用的数据字典,制定并管理平台遵循的统一数据标准,为数据元、指标、维度引用数据字典提供数据基础,帮助平台管理者和数据管理者管控治理后数据的一致性和数据质量。具体操作,请参见 新建...

操作流程

新建数据字典并物理化 通过新建并维护数据模型中使用的数据字典,制定并管理平台遵循的统一数据标准,为数据元、指标、维度引用数据字典提供数据基础,帮助平台管理者和数据管理者管控治理后数据的一致性和数据质量。具体操作,请参见 新建...

新建 ADB 数据

配置好数据源是创建数据迁移或数据同步项目的前提。本文为您介绍如何在数据传输中新建云原生数据仓库 AnalyticDB MySQL 版(简称 ADB)数据源。背景信息 ADB 的基本介绍请参见 基础数据类型。ADB 的建表、分区表分布表的详情请参见 ...

定义敏感数据

为了能够明确区分普通数据和敏感数据,全密态数据库为敏感数据单独定义了新的数据类型,并提供了常用的SQL算子。更多敏感数据类型及其SQL算子请参见 支持的数据类型和相关算子。全新定义敏感数据 您需要根据业务场景特性,判断哪些数据属于...

划分数据

数据域是联系较为紧密的数据主题的集合,是业务对象高度概括的概念,目的是便于管理应用数据。通常,您需要阅读各源系统的设计文档、数据字典和数据模型,研究逆向导出的物理数据模型。进而,可以进行跨源的主题域合并,跨源梳理出整个...

定义敏感数据

为了能够明确区分普通数据和敏感数据,全密态数据库为敏感数据单独定义了新的数据类型,并提供了常用的SQL算子。更多敏感数据类型及其SQL算子请参见 支持的数据类型和相关算子。全新定义敏感数据 您需要根据业务场景特性,判断哪些数据属于...

空间数据管理概览

空间数据管理页面内提供了我的主页、我的项目、我的数据和空间档案四大功能模块,用户可以在这里创建项目,上传数据和添加模型等。本文为您介绍空间数据管理页面的结构与功能,帮助您快速使用空间构建平台。进入空间构建平台 空间构建平台...

访问数据分析功能

本文介绍访问数据分析功能的三种方式。通过顶部菜单栏直接进入数据可视化 登录 数据管理DMS 5.0。在顶部菜单栏中,选择 集成与开发(DTS)>数据应用>数据分析。通过数据库的SQL窗口进入数据可视化 登录 数据管理DMS 5.0。在顶部菜单栏中,...

新建 PostgreSQL 数据

新建数据源是创建数据迁移或数据同步项目的前提。本文为您介绍如何在数据传输中新建 PostgreSQL 数据源。前提条件 已创建 RDS PostgreSQL 实例。详情请参见 创建 RDS PostgreSQL 实例。重要 数据传输不支持 Serverless 模式实例只读实例...

引擎功能

数据和实例安全 Lindorm时序引擎提供以下方案保证用户数据和实例的安全:提供使用VPC网络进行访问的实例访问方式,充分保证实例访问的安全性。提供网络白名单功能:您可以通过设置允许访问实例的机器名单,进一步保证实例和数据的访问安全...

查看数据迁移项目的详情

启动数据迁移项目后,您可以在数据迁移项目的详情页面查看相应项目的基本信息、项目执行的进度状态等信息。进入详情页面 您可以在数据迁移项目的详情页面,查看计划的迁移环节、各个环节的进度状态,帮助您了解数据库迁移的整体进度,...

创建数据库

若要使用云数据库RDS,您需要在实例中创建数据库。...如果您使用 一键上云 等迁移方式将本地自建数据库迁移上云时,表空间将与本地自建数据库表空间名称相同,支持将数据表的表空间修改为 pg_default。下一步 连接PostgreSQL实例。

数据标准概述

Dataphin支持创建并管理数据标准,以保障数据的标准化生产与管理,节约数据应用处理的成本。背景信息 数据标准目标是为 业务、技术 管理 提供服务支持。数据标准管理的过程就是对数据以及数据的属性信息的标准化定义应用的过程。...

数据标准概述

Dataphin支持创建并管理数据标准,以保障数据的标准化生产与管理,节约数据应用处理的成本。背景信息 数据标准目标是为 业务、技术 管理 提供服务支持。数据标准管理的过程就是对数据以及数据的属性信息的标准化定义应用的过程。...

新建 PolarDB-X 1.0 数据

配置好数据源是创建数据迁移或数据同步项目的前提。本文为您介绍如何在数据传输中新建 PolarDB 数据源。背景信息 PolarDB-X 1.0 是由阿里巴巴自主研发的 PolarDB 分布式版数据库,融合分布式 SQL 引擎分布式自研存储 X-DB,基于云原生...

Catalog概述

本文为您介绍什么是Catalog(数据目录),以及如何使用Catalog管理查询内外部数据。基本概念 内部数据:保存在StarRocks中的数据。外部数据:保存在外部数据源(例如Apache Hive、Apache IcebergApache Hudi)中的数据。Catalog ...

新建 MySQL 数据

配置好数据源是创建数据迁移或数据同步项目的前提。本文为您介绍如何在数据传输新建 MySQL 数据源。操作步骤 登录 OceanBase 管理控制台。在左侧导航栏,单击 数据传输>数据源管理。在 数据源列表 页面,单击右上角的 新建数据源。在 新建...

数据服务概述

数据安全查询性能无法保障:在数据接口开发时往往只考虑数据的获取性,数据资源访问安全性和数据访问的稳定性考虑少。维护成本高:缺乏线上平台化管理,异常情况无法监控告警,线上业务问题暴露后再排查代码修复上线。数据服务价值 为了...

新建 Oracle 数据

配置好数据源是创建数据迁移或数据同步项目的前提。本文为您介绍如何在数据传输中新建 Oracle 数据源。操作步骤 登录 OceanBase 管理控制台。在左侧导航栏,单击 数据传输>数据源管理。在 数据源列表 页面,单击右上角的 新建数据源。在 ...

功能特性

添加安全组 透明数据加密 Lindorm支持透明数据加密TDE功能,可以对实例数据和操作日志全加密,保护数据在传输和存储过程中的安全性和隐私性。透明数据加密 审计日志 通过审计日志可以精准分析指定时间段的所有数据操作,同时可以按照指定...

离线同步能力说明

功能概述 离线同步支持的能力如下图所示:功能 描述 异构数据源间的数据同步 数据集成目前支持40+数据源类型,包括关系型数据库、非结构化存储、大数据存储、消息队列间的数据同步。您可以通过定义来源与去向数据源,并通过数据集成提供的...

系统管理

上传数据至EMR Hive、Hologres引擎:仅支持使用独享资源组(即 数据分析>系统管理 相应引擎必须配置为独享调度资源组独享数据集成资源组)。所选资源组需绑定至待接收数据的表所在的DataWorks工作空间,且需确保数据上传任务使用的数据源...

DLF+EMR之统一权限最佳实践

背景说明 元数据和数据权限是DLF产品提供的数据湖构建所需的基础能力,数据湖上引擎及产品。通过DLF提供的统一元数据视图访问湖上数据,解决湖上数据面临的元数据一致性及数据难以共享的问题,同时各引擎也可通过集成DLF统一权限服务获得...

数据集成:全领域数据汇聚

DataWorks的数据集成功能模块是稳定高效、弹性伸缩的数据同步平台,致力于提供复杂网络环境下、丰富的异构数据源之间高速稳定的数据移动及同步能力。功能概述 DataWorks数据集成支持离线同步、实时同步,以及离线实时一体化的全增量同步...

管理数据

本文介绍数据树的管理功能。前提条件 已登录DataV-Atlas控制台。已添加可用数据库。上传数据 在左侧数据树中单击已添加的数据库名称。单击右上角的 上传数据。在 选择文件 页签,将文件拖拽至添加处或单击 浏览 从本地文件选择需要上传的...

Catalog概述

外部数据:保存在外部数据源(例如,Apache Hive、Apache IcebergApache Hudi)中的数据。Catalog StarRocks 2.3及以上版本支持Catalog功能,方便您轻松访问并查询存储在各类外部源的数据。当前StarRocks提供Internal CatalogExternal ...
< 1 2 3 4 ... 200 >
共有200页 跳转至: GO
新人特惠 爆款特惠 最新活动 免费试用