LocalDiskReadBytes 所有Connector Scan执行节点从本地缓存读取的压缩数据大小之和。该指标仅适用于存算分离实例。RemoteReadBytes 所有Connector Scan执行节点从OSS对象存储读取的压缩数据大小之和。该指标仅适用于存算分离实例。...
200 TB的存储空间加上X-Engine数据压缩能力，可提供500 TB以上的原始数据存储容量，同时存储空间采用Serverless方式，购买时无需选择容量，随着数据增长而在线自动扩容，只按实际数据量大小收费。PolarDB 高压缩引擎（X-Engine）与官方...
主索引LSM-Tree分为3层，大部分数据集中在第1层和第2层，其中第0层是从内存直接转储的数据，不进行数据压缩。因此，查询压缩率的SQL语句中使用 LEVEL in(1,2)来计算这两层压缩比的加权平均值，从而得到X-Engine中的表数据的压缩比。如果要...
物联网平台的数据压缩，支持设备与物联网平台之间的传输压缩数据。通过对消息的压缩，达到节约设备流量和提高传输速度的效果。本文介绍数据压缩功能的使用。前提条件 已获取设备认证信息。具体操作，请参见 获取设备认证信息。已获取C Link...
支持 不支持 数据压缩 阿里巴巴自研的基于LSM-tree架构的存储引擎X-Engine提供了强大的数据压缩能力，满足了归档数据库低存储成本的要求。支持 不支持 OSS外表 若集群中某些库表的数据几乎没有更新、插入和修改操作，且读取频率非常低，...
数据压缩功能支持设备与物联网平台之间的消息传输，压缩数据，从而节约设备流量、提高传输速度。本文介绍数据压缩功能的使用。前提条件 已获取设备认证信息。已获取SDK。使用限制 数据压缩仅支持 尊享型企业版实例 和 标准型企业版实例。更...
数据压缩类型：压缩算法支持ZLIB、ZSTD和LZ4等，高压缩率可显著降低数据存储成本，并通过高带宽解压缩性能降低IO时间。外表OSS存储：数据可远端低成本存储于OSS上，查询和写入行为与本地表完全一致。数据分区：支持数据多级分区，且可按...
数据压缩：时序引擎内置数据压缩能力，结合自研时序压缩算法以及通用块压缩，压缩率最高可达10:1。时序索引：时序引擎内置时序索引能力，支持百亿级时间线多维数据高性能查询。时序计算：时序引擎提供丰富的时序聚合计算能力，聚合引擎支持...
大数据专家服务 大数据专家服务（Bigdata Expert Service）是由阿里云大数据专家基于阿里云多年大数据架构、应用、运维、AI算法建模等最佳实践经验及方法论为用户提供全方位的大数据产品技术、咨询服务及售后专家服务运维保障，帮助用户...
Lindorm宽表支持多种表属性，例如列值保留版本数、数据压缩方式、数据有效期、冷热分界线等。您可以通过集群管理系统，为已创建的宽表添加或修改表属性。操作 步骤 登录集群管理系统。在左侧导航栏中，选择 数据管理>表变更管理。在 变更...
LZ4：一种无损数据压缩算法，压缩速度大于每核500 MB/s。具体可参见 LZ4 GitHub。ZSTD（全称Zstandard）：一种无损数据压缩算法，压缩速度与LZ4相当。具体可参见 Zstandard GitHub。建表时设置压缩算法 语法：在建表时，您只需要在 CREATE ...
版本兼容性问题，SQL Server企业版或者SQL Server 2016以上的标准版才支持数据压缩功能。解决方案 以下是两种解决方法：使用支持压缩功能的数据库版本。取消压缩功能，关于如何取消数据库压缩功能，请参见 对表或索引禁用压缩功能。更多...
实时数据通道 1.1 接入多种异构数据并投递到下游多种大数据系统 通过数据总线，您可以实时接入APP、WEB、IoT和数据库等产生的异构数据，统一管理，并投递到下游的分析、归档等系统，构建清晰的数据流，让您更好的释放数据的价值。...
DataWorks为您提供智能建模、数据清洗、周期调度运维、数据治理等一站式大数据开发管理能力，本文以一个零售电商行业的数仓搭建实验为例，为您介绍DataWorks在数仓搭建过程中的技术选型、技术流程以及流程实现，帮助您深入了解阿里云...
支持自研字典压缩，进一步提升数据压缩比，节省存储空间。易用开放 完全兼容开源Kafka协议，可通过开源Kafka客户端直接访问。可通过MySQL客户端直接访问Lindorm消息引擎，进行数据读写，查看消费组状态。高性能 通过VirtualLog IO合并、...
DataWorks基于MaxCompute、Hologres、EMR、AnalyticDB、CDP等大数据引擎，为数据仓库、数据湖、湖仓一体等解决方案提供统一的全链路大数据开发治理平台。从2009年起，DataWorks不断沉淀阿里巴巴大数据建设方法论，支撑数据中台建设，同时与...
高效时序存储技术 时序数据压缩 Lindorm时序引擎使用高效的数据压缩技术，将单个数据点的平均使用存储空间降为1~2个字节，可以降低90%存储使用空间，同时加快数据写入的速度。冷数据归档能力 Lindorm时序引擎支持将长期存储的冷数据归档到...
如果拥有RDS SQL Server实例的备份数据，您可以将备份数据恢复到已有实例或新实例上，可用于误操作后恢复以及分析历史数据等场景。功能介绍 您可以通过多种方式恢复RDS SQL Server实例的数据。恢复到已有实例 恢复到新实例 通过临时实例...
概述 电商网站的销售数据通过大数据进行分析后，可以在大屏幕展示销售指标、客户指标、销售排名和订单地区分布等业务指标数据。DataV大屏支持可视化动态展示销售数据，触控大屏支持您自助查询数据，极大地提高数据的可读性。应用场景 电商...
数据压缩功能支持设备与物联网平台之间的消息传输，压缩数据，从而节约设备流量、提高传输速度。本文介绍数据压缩功能的使用。前提条件 已获取设备认证信息。已获取SDK。使用限制 数据压缩仅支持 尊享型企业版实例 和 标准型企业版实例。更...
高效压缩存储 TSDB 使用高效的数据压缩技术，将单个数据点的平均使用存储空间降为1~2个字节，可以降低90%存储使用空间，同时加快数据写入的速度。时序数据计算能力 TSDB 提供专业全面的时序数据计算函数，支持降采样、数据插值和空间聚合...
关键性里程碑 2009年9月，ODPS（即现在的MaxCompute）大数据平台飞天项目正式启动。2010年10月，阿里巴巴集团自主研发的第一代云计算平台稳定运行。2013年8月，平台的单集群规模已达到5000台。2014年7月，平台开始对外提供服务，完全替换...
云数据库HBase的数据压缩详情介绍请参见 数据压缩与编码。alter 'test',NAME=>'cf',COMPRESSION=>'SNAPPY' 为指定表的列族设置Block Encoding类型。将test表列族的Block Encoding类型设置为DATA_BLOCK_ENCODING。alter 'test',NAME=>'cf',...
数据分析业务 云数据库 Memcache 版搭配大数据计算服务 MaxCompute。实现对大数据的分布式分析处理，适用于商业分析、挖掘等大数据处理场景。通过数据集成服务可自助实现数据在云数据库 Memcache 版与 MaxCompute 间的同步，简化数据操作...
本教程中使用阿里云大数据产品MaxCompute配合DataWorks，完成整体的数据建模和研发流程。完整的技术架构图如下图所示。其中，DataWorks的数据集成负责完成数据的采集和基本的ETL。MaxCompute作为整个大数据开发过程中的离线计算引擎。...
大数据分析是大数据完成数据价值化的重要手段之一，而进行大数据分析的第一步是让数据成功上云。解决方案 IoT数据自动化同步至云端解决方案主要包括存储原始数据和同步数据至分析系统两部分。IoT设备大量的数据通常以半结构化的形式存储。...
列存表可以提供平均 3-5倍的较高数据压缩率。示例：列存表必须是追加优化表。例如，要创建一个列存表，必须指定为"appendonly=true。CREATE TABLE bar(a int,b text)WITH(appendonly=true,orientation=column)DISTRIBUTED BY(a);压缩 压缩...
存储 众所周知，大数据系统以数据类型多（结构化、非结构化、半结构化）、数据量大（动辄PB级别）著称，某些巨头组织一天就能新增数十万甚至数百万张表，如此体量给数据分级分类带来了极大挑战，通过人工进行数据分级分类显然是不现实的，...
在大数据领域，阿里云为企业用户提供了一整套数据安全方案，包含用户认证、数据权限、大数据作业管理体系等。本文以联合使用DataWorks与EMR为例，为您介绍DataWorks on EMR场景下的数据安全方案。背景信息 DataWorks on EMR目前支持LDAP...
DataWorks具有通过可视化方式实现数据开发、治理全流程相关的核心能力，本文将为您介绍DataWorks在构建云上大数据仓库和构建智能实时数据仓库两个典型应用场景下的应用示例。构建云上大数据仓库 本场景推荐的架构如下。适用行业：全行业...
什么是E-MapReduce 开源大数据开发平台E-MapReduce（简称EMR），是运行在阿里云平台上的一种大数据处理的系统解决方案。EMR基于开源的Apache Hadoop和Apache Spark，让您可以方便地使用Hadoop和Spark生态系统中的其他周边系统分析和处理...
所属行业：自媒体 网站地址：易撰 客户介绍 长沙营智信息技术有限公司是专业的新媒体大数据服务商，其旗下知名品牌易撰，基于新媒体大数据挖掘技术及NLP算法分析，为各内容创客、广告主提供全面、科学、精准的大数据分析服务以及大数据架构...
DataWorks在多个行业中均有典型的案例落地，帮助多个行业的企业解决数据痛点，挖掘数据价值，本文为您介绍典型行业中已落地的客户案例。新零售行业：大润发云上数据中台建设 客户架构如下。客户简介 为了快速数字化转型，拥抱新零售，...
数据安全中心DSC（Data Security Center）可扫描和识别海量数据，帮您实时获取数据的安全状态。本文介绍 数据安全中心 的产品优势。合规性 使用数据安全中心产品，可以帮助企业满足等保2.0对“云计算环境下安全审计”及“个人信息保护”的...
通常数据开发的总体流程包括数据产生、数据收集与存储、数据分析与处理、数据提取和数据展现与分享。说明 上图中，虚线框内的开发流程均可基于阿里云大数据平台完成。数据开发的流程如下所示：数据产生：业务系统每天会产生大量结构化的...
本文介绍数据管理DMS支持录入的云数据库、他云/自建的数据库类型。支持的云数据库 关系型数据库 RDS MySQL RDS SQL Server RDS PostgreSQL RDS MariaDB PolarDB MySQL版 PolarDB PostgreSQL版 PolarDB PostgreSQL版（兼容Oracle）PolarDB...
大数据与数据库一体化：早期大数据技术以牺牲一定程度一致性为基础提供分布式能力，解决了传统单机数据库的扩展性不足问题，在MapReduce基础上提供了标准SQL接口，架构上也逐步采用了部分MPP数据库技术；另一方面，分布式数据库也快速发展...
DataWorks作为阿里云一站式大数据开发与治理平台，通常会与计算引擎产品联合使用，此外使用DataWorks进行数据集成时通常联合进行数据传输的数据源产品一起使用。本文为您介绍典型场景下，使用DataWorks时通常会使用到的其他云产品。计算...
数据是由特定的环境产生的，这些环境因素包括生产者、时间、系统等，从而造成了同一个语义的数据，有多种不同的定义方法，给后期进行数据汇集和整合带来障碍。因此，数据处理的前奏就是数据标准化，数据标准作为一个统一的数据共识，在标准...
DataWorks及MaxCompute：DataWorks基于MaxCompute等大数据引擎，支持您在线进行SQL分析、业务洞察、编辑和分享数据，以及将查询结果保存为可视化图表卡片，快速搭建可视化数据报告。订阅账单数据后，用户中心会将相关账单数据同步至指定...