您可以在 云原生数据仓库 AnalyticDB MySQL 版 空间总览页面查看集群和表的总数据量、冷数据量、热数据量、索引数据量、分区数量、节点的磁盘使用率等指标。查看集群级别的数据量 通过 空间总览 可以查看当前集群的 总数据量、热数据量、冷...
Elasticsearch 版 在阿里云App上使用检索分析服务Elasticsearch版 大数据开发治理平台 DataWorks-云原生大数据计算服务 MaxCompute-数据库 云数据库 RDS 在阿里云App上使用RDS 云数据库 MongoDB 版-云原生数据库 PolarDB-云数据库 Tair...
数据分析业务 云数据库 Memcache 版搭配大数据计算服务 MaxCompute。实现对大数据的分布式分析处理,适用于商业分析、挖掘等大数据处理场景。通过数据集成服务可自助实现数据在云数据库 Memcache 版与 MaxCompute 间的同步,简化数据操作...
技术生态 学习中心:3000+免费课程,覆盖云计算/大数据/AI。安全 认证机制:支持MFA多因素身份验证。数据加密:采用TLS 1.3协议实现端到端安全传输。系统兼容性说明 iOS 9.0及以上版本。Android 4.0及以上版本。HarmonyOS 5.0.0及以上版本...
数据地图支持对当前租户下所有工作空间的数据服务API进行搜索和定位,实现数据服务API的高效查找。进入API查找界面 进入数据地图页面。登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据治理 数据地图,在右侧页面中单击 ...
时序数据计算能力 TSDB 提供专业全面的时序数据计算函数,支持降采样、数据插值和空间聚合计算,能满足各种复杂的业务数据查询场景。监控运维 TSDB 提供实例运维系统,让您可以实时的掌握实例的运行情况、性能指标和存储空间使用情况,并...
创建MySQL数据源 创建Oracle数据源 创建Microsoft SQL Server数据源 创建OceanBase数据源 创建IBM DB2数据源 创建MaxCompute数据源 创建FTP数据源 创建TDengine数据源 创建PostgreSQL数据源 创建达梦(DM)数据源 创建Amazon Redshift数据...
时序数据计算能力 Lindorm时序引擎提供专业全面的时序数据计算函数,支持降采样、数据插值和空间聚合计算,能满足各种复杂的业务数据查询场景。监控运维 Lindorm时序引擎提供实例运维系统,用户可以实时掌握实例的运行情况、性能指标和存储...
包含但不限于如下场景:数据迁移与同步 使用DMS任务编排配置和管理数据迁移或数据同步任务,将数据从一个数据源迁移到另一个数据源,或实现同数据源、不同数据源之间的数据实时同步。数据清洗与加工 DMS任务编排可以用于数据清洗和加工任务...
对于非ONLINE状态的同名数据库,根据不同场景解决:场景1:OSS备份数据恢复上云时选择不打开数据库 产生原因 在使用 OSS备份数据恢复到RDS SQL Server 时如果选择了 不打开数据库(还有差异备份或日志文件)选项,数据库会处于非ONLINE状态...
在阿里巴巴的数据体系中,我们建议将数据仓库分为三层,自下而上为:数据引入层(ODS,Operation Data Store)、数据公共层(CDM,Common Data Model)和数据应用层(ADS,Application Data Service)。数据仓库的分层和各层级用途如下图所...
在阿里巴巴的数据体系中,我们建议将数据仓库分为三层,自下而上为:数据引入层(ODS,Operation Data Store)、数据公共层(CDM,Common Data Model)和数据应用层(ADS,Application Data Service)。数据仓库的分层和各层级用途如下图所...
数据源用于连接各类数据库和存储服务(如MaxCompute、MySQL、OSS等),是 数据集成同步任务 的必备配置,决定任务读取(数据来源)和写入(数据去向)的数据库。数据源的作用 在数据集成任务中,数据源扮演着数据流动两端的“端点”角色:...
DataWorks基于MaxCompute等引擎,提供统一的全链路大数据开发治理平台。本文为您介绍如何通过DataWorks使用MaxCompute服务。背景信息 DataWorks支持将计算引擎绑定至DataWorks的工作空间,绑定后您可以创建计算任务并进行周期调度。使用...
支持的数据库部署位置 有公网IP的自建数据库 无公网IP:Port的数据库(通过数据库网关DG接入)通过云企业网CEN接入的自建数据库 ECS上的自建数据库 通过专线/VPN网关/智能接入网关接入的自建数据库 ECS上的自建数据库 通过专线/VPN网关/智能...
本实践以电商行业为例,通过MaxCompute、DataWorks对业务数据和日志数据进行ETL处理,并同步至分析型数据库MySQL(AnalyticDB MySQL)进行实时分析,再通过Quick BI进行可视化展示。背景信息 MaxCompute:用于进行大规模数据计算,详情请...
基于阿里巴巴OneData方法论最佳实践,在阿里巴巴的数据体系中,建议将数据仓库分为三层:数据引入层(ODS,Operational Data Store)、数据公共层(CDM,Common Dimensions Model)和数据应用层(ADS,Application Data Store)。数据仓库...
前提条件 开始本实验前,请先完成 同步数据 和 加工数据 的操作。数据源版本 是否手动采集 前提操作 MaxCompute 否 需完成 简单用户画像分析(MaxCompute版)。EMR 否 需完成 简单用户画像分析(EMR版)。StarRocks 是 需完成 用户画像分析...
本教程以简单的用户画像分析为例,带您了解DataWorks和EMR如何配合使用完成数据同步、数据开发和任务运维等操作。您可以通过本文了解实验背景、工作流设计、模块及实验相关数据等信息,方便顺利完成教程操作。实验设计 实验背景 为了更好地...
通过我的资产清晰掌握可使用、可管理、已授权的数据表和数据服务API数据资产相关信息。通过不同的权限来源,用户可获取数据表、API等类型数据资产的使用权限。我的资产以用户的视角展示自有权限或申请授权成功的数据表、数据服务API数据...
DataWorks数据洞察是指通过深度数据分析和解读来获取深刻的数据理解和发现,支持数据探索和可视化。通过数据洞察了解数据分布,创建数据卡片,并组合成数据报告。此外,数据洞察结果能够通过长图形式的报告进一步分享。该功能利用AI技术...
通过选择已注册的数据源端数据和目标端,实现全量任务自动建表的方式创建离线同步周期任务,本文介绍如何创建MySQL to MaxCompute离线全量数据同步一次性调度的任务。前提条件 已新建工作组,具体操作,请参见 新建工作组。已在工作组中...
RDS MariaDB、其他来源MariaDB OceanBase MySQL模式 PolarDB PostgreSQL版(兼容Oracle)背景信息 功能测试或者性能测试时,往往需要准备测试数据,通常有以下几种方法:手工编写:效率低,不适用于大数据量场景。维护生成测试数据脚本:成...
同步其他数据源的数据至Hive数据源的场景中,完成源数据源的信息配置后,需要配置Hive输出组件写入数据的目标数据源。本文为您介绍如何配置Hive输出组件。使用限制 Hive输出组件支持写入文件格式为 orc、parquet、text、iceberg(iceberg...
数据图元组件、栅格瓦片、地形瓦片、三维瓦片 和 其他:在这五个类型图层数据面板中,数据配置和普通图表组件一致,可配置静态数据源、API数据源和空间构建数据源内容,还可将图层数据接口作为区块数据接口,在可视化应用中配置更丰富的...
基底道路图层示例数据面板样式 数据图元组件、栅格瓦片、地形瓦片、三维瓦片 和 其他:在这五个类型图层数据面板中,数据配置和普通图表组件一致,可配置自己的数据源内容。图 2.数据图元三维图标图层数据面板示例 配置空间构建数据源 如果...
数据图元组件、栅格瓦片、地形瓦片、三维瓦片 和 其他:在这五个类型图层数据面板中,数据配置和普通图表组件一致,可配置静态数据源、API数据源和空间构建数据源内容,还可将图层数据接口作为区块数据接口,在可视化应用中配置更丰富的...
数据图元组件、栅格瓦片、地形瓦片、三维瓦片 和 其他:在这五个类型图层数据面板中,数据配置和普通图表组件一致,可配置静态数据源、API数据源和空间构建数据源内容,还可将图层数据接口作为区块数据接口,在可视化应用中配置更丰富的...
在数据管理DMS离线集成中,可以组合各类任务节点,形成数据流,通过周期调度运行达到数据加工、数据同步的目的。本文介绍创建数据流和配置的方法。前提条件 支持的数据库类型:MySQL:RDS MySQL、PolarDB MySQL版、MyBase MySQL、PolarDB...
DataWorks数据集成 单表实时 任务支持在来源与去向组件间新增数据脱敏组件,对来源的数据指定字段进行脱敏,并将脱敏后的数据写入目标表。步骤一:配置单表实时任务 新建数据源,详情请参见:数据源管理。新建数据集成任务,详情请参见:...
通过讲述数据集成数据同步的原理机制,理解数据同步的过程,进而对数据同步的执行效果有判断能力,判断数据同步效果具体包括:数据同步的数据量、目标端数据实际数量等。本文将为您列举一些常见数据质量方面的场景,方便您排查是否存在符合...
单击选中画布中的区块,在右侧配置面板中选择 数据 页签,即可查看该区块的数据接口中的所有配置信息,您可以参见 配置组件数据 和 设置组件数据源,修改区块的数据内容。实时预览数据接口配置 在 数据接口设置 页签中,对话框左侧是用于...
数据服务功能支持在项目中为数据源创建可以被访问调用的数据服务,本文为您介绍DataV-Atlas(分析地图)如何创建和管理数据服务。发布数据服务 为项目中的数据源创建可被访问和调用的数据服务。登录 DataV-Atlas控制台 并进入目标项目的...
免费版是 数据安全中心 DSC(Data Security Center)为所有阿里云用户提供的固定配额的数据资产防护版本,提供分类分级、基线检查、数据审计等能力。适用对象 已完成个人认证或企业认证的阿里云账号和RAM用户。当前账号没有购买过数据安全...
新建数据字典并物理化 通过新建并维护数据模型中使用的数据字典,制定并管理平台遵循的统一数据标准,为数据元、指标、维度引用数据字典提供数据基础,帮助平台管理者和数据管理者管控治理后数据的一致性和数据质量。具体操作,请参见 新建...
深度参与和推动全球大数据领域标准化建设 MaxCompute代表阿里巴巴计算平台,成为国际TPC(Transaction Processing Performance Council)委员会大数据评测标准BigBench的委员会委员,是中国担任此国际性能标准化测试组织委员的唯一企业。...
操作流程 自定义并应用MySQL数据库组件的流程如下:步骤 描述 步骤一:配置网络和创建数据表 在您开始自定义并应用RDBMS数据库组件前,需要配置RDS MySQL实例和Dataphin间的网络,及创建同步数据的源表和目标表。步骤二:创建自定义数据源 ...
操作流程 自定义并应用MySQL数据库组件的流程如下:步骤 描述 步骤一:配置网络和创建数据表 在您开始自定义并应用RDBMS数据库组件前,需要配置RDS MySQL实例和Dataphin间的网络,及创建同步数据的源表和目标表。步骤二:创建自定义数据源 ...
如果您需要使用独享数据集成资源组通过内网同步ECS自建的数据库,您需要为独享数据集成资源组做相关的网络配置,详情可参见 新增和使用独享数据集成资源组,连通方案核心点为:独享数据集成资源组绑定ECS所在VPC,会自动添加一个路由指向...
功能模块 操作指南链接 管理数据库审计实例 启用数据库审计实例 配置数据库审计实例 管理数据库审计实例的标签 管理数据库 登录数据库审计系统 添加数据库实例 部署Agent程序 查看SQL语句存储空间用量 开启系统管理员和系统审计员角色 ...