创作数据报告 您可以从卡片库挑选合适的卡片，快速创建数据报告，支持多种精美主题随意切换，只需调整卡片顺序、编辑标题文字即可完成作品创作，轻松打造个性化作品。在左侧导航栏，单击报告图标，进入报告界面。单击右上角的 创建报告，在...
在数据库备份场景下，有4个概念：数据库磁盘空间、数据文件空间、备份数据量、存储数据量。数据量 说明 数据库磁盘空间 由数据库的数据文件空间、数据库的日志文件空间、操作系统文件空间和空闲空间组成。说明 RDS中为：购买时选择的存储...
您可以通过数据洞察了解数据分布，创建数据卡片，并组合成数据报告。此外，数据洞察结果能够通过长图形式的报告进一步分享。该功能利用AI技术辅助数据分析，帮助您解析复杂数据，并为业务决策提供支持。权限说明 已拥有数据分析权限，查看...
新建业务流程 数据服务基于业务流程实现以业务为单元的数据服务API开发，并通过业务流程对API及创建API所使用的函数等文件进行组织管理。因此，在数据服务创建API前，需先新建业务流程。创建API 将数据表快速生成数据API 数据服务支持通过...
数据过期策略 和开源 Memcached 策略一致，采用 LRU 算法过期数据，但已过期数据不会被立即删除回收空间，回收空间操作由后台程序定期执行。连接处理 云数据库 Memcache 版服务端不会主动关闭空闲的客户端连接。数据过期 Key 过期时间建议...
本文介绍 数据库备份DBS 中备份数据量的概念。名词解释 备份数据量，是指通过DBS备份链路的数据量。常见概念 在数据库备份场景下，有4个概念：数据库磁盘空间、数据文件空间、备份数据量、存储数据量。数据量 说明 数据库磁盘空间 由数据库...
DataWorks及MaxCompute：DataWorks基于MaxCompute等大数据引擎，支持您在线进行SQL分析、业务洞察、编辑和分享数据，以及将查询结果保存为可视化图表卡片，快速搭建可视化数据报告。订阅账单数据后，用户中心会将相关账单数据同步至指定...
设置审批流程 自定义工单审批流程 数据库开发管理 功能集 功能 功能描述 参考文档 结构变更 结构设计 可以实现对目标库、表进行符合研发规范的表结构设计。您可按需自定义不同业务线的研发流程，保障多套环境（例如开发环境、测试环境、...
DataWorks开放平台提供开放API（OpenAPI）、开放事件（OpenEvent）、扩展程序（Extensions）的能力，可以帮助您快速实现各类应用系统对接DataWorks、方便快捷的进行数据流程管控、数据治理和运维，及时响应应用系统对接DataWorks的业务状态...
产品版本 入门版 标准版 高级版 版本选择建议 小型数据团队 中小型数据团队 中型数据团队 功能规格 数据同步 离线数据同步 离线数据同步 实时数据同步 配置化数据同步 离线数据同步 实时数据同步 配置化数据同步 多引擎数据计算任务编排 ...
云原生数据仓库AnalyticDB MySQL版 提供的多种数据导入方法，满足不同场景下的数据导入需求。然而数据导入性能依然受各种各样的因素影响，如表的建模不合理导致长尾、导入配置低无法有效利用资源等。本文介绍不同场景下的数据导入调优方法...
云原生数据仓库AnalyticDB MySQL版 提供的多种数据导入方法，满足不同场景下的数据导入需求。然而数据导入性能依然受各种各样的因素影响，如表的建模不合理导致长尾、导入配置低无法有效利用资源等。本文介绍不同场景下的数据导入调优方法...
重要 该配置项为一个数组，配合数据分级使用，从类型1到类型n为递增的设置，例：类型1设置为10，则表示value值为0~10的数据将展示为10的大小，类型2设置为20，则表示value值为11~20的数据将展示为20的大小，如果数据分级配置项设置为3级，...
例如，在规范化设计表的同时对数据通道中的数据采集方式进行优化，可以减少分布式系统中小文件的问题，降低表和分区的维护数量。表设计主要影响 表设计影响的操作有：创建表、导入数据、更新表、删除表及管理表。其中，导入数据场景按照...
本文以分析公共数据集的数据示例，为您展示如何使用DataWorks进行简单数据分析工作。本教程以申请免费资源为例为您展示详细操作步骤，您也可以使用付费资源，操作类似。教程简介 阿里云DataWorks基于多种大数据引擎，为数据仓库、数据湖、...
在一些数据同步场景，脏数据的出现会导致任务同步效率下降，以关系数据库写出为例，默认是执行batch批量写出模式，在遇到脏数据时会退化为单条写出模式（以找出batch批次数据具体哪一条是脏数据，保障正常数据正常写出），但单条写出效率会...
本文为您介绍资产质量中的数据对象、质量规则、强规则和弱规则等基本概念。概念 描述 质量规则 数据对象进行质量校验时的规则，质量规则可以覆盖到字段。例如，如果您需要关注某个表中的行数变化及主键是否重复，则您可以将行数变化和主键...
本文以Stream同步数据至DataHub的脚本模式为例，为您介绍如何通过数据集成导入离线DataHub数据。前提条件 准备阿里云账号，并创建账号的访问密钥。详情请参见 开通DataWorks服务。开通MaxCompute，自动产生一个默认的MaxCompute数据源，并...
数据源 单击 配置数据源，可在 设置数据源 面板中修改数据源类型和数据查询代码、预览数据源返回结果以及查看数据响应结果，详情请参见 配置资产数据。数据过滤器 数据过滤器提供数据结构转换、筛选和一些简单的计算功能。单击 添加过滤器...
DataHub数据源作为数据中枢，为您提供读取和写入DataHub数据库的双向通道，能够快速解决海量数据的计算问题。本文为您介绍DataWorks的DataHub数据同步的能力支持情况。支持的版本 DataHub Reader通过DataHub的Java SDK读取DataHub中的数据...
扩展程序Extensions 数据湖集成（湖仓一体）阿里云的湖仓一体是以MaxCompute为数仓，以Hadoop平台、云对象存储OSS为数据湖的“一仓多湖”的架构，可以打破数据湖与数据仓库割裂的体系，并将数据湖的灵活性、生态丰富能力与数据仓库的企业级...
当您的数据库中有数据需要被保护时，可以使用RDS MySQL全密态数据库功能，该功能提供的加密解决方案能够在遵守数据保护法规的前提下保障您的数据安全，使被保护数据免受未授权访问。本文将详细介绍RDS MySQL全密态数据库功能的优势，帮助您...
背景信息 ODC 支持在源数据库中的数据归档到目标数据库后，删除源数据库中的数据，以提高数据库查询性能，降低在线存储成本。本文档旨在介绍如何通过提交数据清理工单实现归档数据。原理介绍 前提条件 清理的表中必须包含主键。注意事项 ...
PostgreSQL数据库会为同步数据程序启动 wal_sender 进程来给订阅者发送日志。对于每一个需要同步的表，需要手动执行 ALTER TABLE[tableName]REPLICA IDENTITY FULL 语句进行授权，否则实时同步任务会报错。PostgreSQL实时同步任务启动后，...
本文汇总了 PolarDB 冷数据归档相关的常见问题。出现"[Data Lifecycle Management]DLM storage engine is not support.The value of polar_dlm_storage_mode is OFF."报错，如何处理？您需要在 PolarDB控制台 上开启冷数据归档功能。详情请...
计算 MaxCompute向用户提供了多种经典的分布式计算模型，提供TB、PB、EB级数据计算能力，能够更快速的解决用户海量数据计算问题，有效降低企业成本。功能集 功能 功能描述 参考文档 SQL开发 DDL语句 DDL语句 DDL DML操作 DML操作 DML操作 ...
整体流程 不管是按时间点恢复还是按备份集（快照）恢复，两者的关键流程是一致的：先将全量数据恢复到一个新集群。在新集群验证数据并确认无误后，您可选择将恢复后的数据迁移回原集群，也可以直接将您的业务切换至新的集群。整体流程如下...
背景信息 ODC 支持定时将源数据库中的表数据归档至其它目标数据库中，以解决因线上数据增多影响查询性能与业务运作的问题。本文档旨在介绍如何通过提交数据归档工单实现归档数据。原理介绍 前提条件 归档的表中必须包含主键。注意事项 前置...
新功能 MaxCompute提供湖仓一体方案，该方案可以打破数据湖与数据仓库割裂的体系，并将数据湖的灵活性、生态丰富能力与数据仓库的企业级部署能力进行融合，助力构建数据湖和数据仓库相融合的数据管理平台。MaxCompute湖仓一体概述 2021年2...
新建数据标准 数据标准-编辑数据标准 数据标准-克隆数据标准 数据标准-提交上线数据标准 数据标准-下线数据标准 数据标准-删除数据标准 数据标准-编辑关联标准 数据标准-编辑关联文档 数据标准-批量导入数据标准（同时拥有标准模板-批量...
如上图所示：左边流程是MaxCompute离线架构，一般以小时或天级别批量导入增量数据至新表或新分区中，然后配置对应的离线ETL处理链路，将增量数据和存量表数据进行Join Merge操作，生成新的全量数据。此离线链路的延时较长，资源和存储也会...
背景信息 ODC 支持批量导出数据库对象的结构和数据。通过 ODC 导出任务可以分别导出数据库对象的结构和数据、仅导出数据或者仅导出结构。导出结构和数据：同时导出数据库对象的定义语句及其数据。仅导出数据：仅导出表/视图对象的数据。仅...
DataWorks的全流程数据质量监控功能为您提供35种预设表级别、字段级别和自定义的监控模板。数据质量帮助您第一时间感知到源端数据的变更与ETL（Extract Transformation Load）中产生的脏数据，自动拦截问题任务，有效阻断脏数据向下游蔓延...
用户使用流程 数据湖构建将帮助您快速简洁抽取源数据到统一数据湖的服务，用户使用流程如下：开通公测流程后，登录阿里云管理控制台，选择 数据湖构建，进入 数据湖管理控制台。参见 数据源管理 章节，创建数据源，选择希望导入到数据湖的...
推送流程 数据订阅功能将 云原生多模数据库 Lindorm 表格的增量数据消息主动推送至下游Kafka，推送流程如下。前提条件 已将客户端IP添加至白名单中，具体操作请参见 设置白名单。确保源实例、目标实例和LTS服务网络互通，详细信息请参见 ...
推送流程 数据订阅功能将云数据库HBase增强版（云原生多模数据库Lindorm）表格的增量数据消息主动推送至下游Kafka，推送流程如下。功能特点 实时数据订阅功能的信息投递方式有以下特点：支持主键级别保序，对于同一个主键的更新操作，会...
开发流程 数据开发任务的通用开发流程如下。步骤 描述 相关文档 步骤一：新建业务流程 DataWorks数据开发基于业务流程组织与开发代码，您需先新建业务流程，才可进行后续的开发工作。创建业务流程 步骤二：新建数据表 DataWorks支持使用...
自动负载信息库AWR（Automatic Workload ...PolarDB除了提供 查看视图 中的实时视图和函数外，还提供对这些实时视图采集后保存的历史数据，通过这些数据可以生成类似Oracle的AWR报告，关于历史数据及AWR报告的详细说明请参见 AWR使用说明。
数据探查报告模板，如下表所示。字段顺序 字段名 字段注释 字段类型 总行数 空值个数 空值比例 唯一个数 均值（number）：TOP1（string）最小值：TOP2 1%分位数：TOP3 5%分位数：TOP4 25%分位数：TOP5 中位数：BOT5 75%分位数：BOT4 95%分...
调试运行业务流程 数据开发概述，在左侧导航栏的数据开发或手动业务流程模块，双击目标业务流程，进入该业务流程面板。调试运行业务流程。单击业务流程面板工具栏的运行（图标），即可按照依赖关系，依次运行整个业务流程中的任务。说明 当...