MaxCompute Hologres EMR Spark 数据分析 大数据AI公共数据集分析 本教程通过DataWorks，联合云原生大数据计算服务MaxCompute，使用大数据AI公共数据集（淘宝、飞猪、阿里音乐、Github、TPC等公共数据），指导您如何快速进行大数据分析，...
查看空间使用情况 RDS MySQL实例存储空间包含用户数据库数据、系统数据库数据、各类日志和临时表文件等，您可以通过RDS标准监控查看存储空间使用情况。登录 RDS控制台，单击实例ID进入实例详情页。在 监控与报警 功能中选择 标准监控，通过...
元数据支持丰富的采集源类型，如传统数据库MySQL、Oracle，大数据存储 Hive、Hologres、应用系统等，可一览不同数据源类型或应用系统已创建的采集任务数、采集对象类型等信息。前提条件 需先在 管理中心 数据源管理 应用系统 创建应用系统...
冷数据归档功能介绍 技术架构 为了降低不断累积的历史数据的存储成本，PolarDB-X 2.0企业版 为您提供冷数据归档功能，区别于之前数据默认存储在本地盘，冷数据归档功能可以把数据按照时间维度将数据分为冷热数据，并且把过期的冷数据从源表...
Dataphin是阿里巴巴集团OneData数据治理方法论内部实践的云化输出，一站式提供数据采、建、管、用全生命周期的大数据能力，以助力企业显著提升数据治理水平，构建质量可靠、消费便捷、生产安全经济的企业级数据中台。Dataphin兼容多种计算...
在阿里巴巴的数据体系中，我们建议将数据仓库分为三层，自下而上为：数据引入层（ODS，Operation Data Store）、数据公共层（CDM，Common Data Model）和数据应用层（ADS，Application Data Service）。数据仓库的分层和各层级用途如下图所...
如下图所示，与传统方案相比，Lindorm系统极大地简化数据存储技术架构设计，大幅度提升系统稳定性，降低建设成本投入。核心能力 Lindorm具备弹性、低成本、简单易用、开放、稳定等优势，适合元数据、日志、账单、标签、消息、报表、维表、...
在阿里巴巴的数据体系中，我们建议将数据仓库分为三层，自下而上为：数据引入层（ODS，Operation Data Store）、数据公共层（CDM，Common Data Model）和数据应用层（ADS，Application Data Service）。数据仓库的分层和各层级用途如下图所...
背景信息 Lindorm列存是面向海量半结构化、结构化数据设计的列格式分布式存储服务，适用于车联网、物联网、订单、日志等大规模存储场景，核心能力包括：计算分析 Lindorm计算引擎可以访问列存数据，完成海量数据的交互式分析和离线计算。...
数据实时分析 传输方式：数据订阅 数据分析在提高企业洞察力和用户体验方面发挥着举足轻重的作用，且实时数据分析能够让企业更快速、灵活地调整市场策略，适应快速变化的市场方向和消费者体验。DTS提供的数据订阅功能，可以在不影响线上...
EMR Serverless StarRocks架构 EMR Serverless StarRocks的产品架构主要由以下三个层次构成：存储层：存算一体版：StarRocks内表使用云盘或本地盘作为数据存储的介质，使用StarRocks Table Format存储格式。存算分离版：StarRocks内表使用...
任务编排中的跨库Spark SQL节点，主要针对各类跨库数据同步和数据加工场景，您可以通过编写Spark SQL，完成各种复杂的数据同步或数据加工的任务开发。前提条件 支持的数据库类型：MySQL：RDS MySQL、PolarDB MySQL版、MyBase MySQL、...
随着业务发展，数据库系统中会积累大量访问频率很低甚至为0的数据，这些数据的积累容易导致如下问题：历史数据和最新数据存储在同一数据库系统中，导致磁盘空间不足。大量数据共享数据库系统的内存、缓存空间、磁盘IOPS等，导致性能问题。...
FTP输入组件适用于从FTP中将数据读取至大数据平台对接的存储系统内，进行数据整合和再加工。本文为您介绍如何配置FTP输入组件。前提条件 已创建FTP数据源，详情请参见 创建FTP数据源。进行FTP输入组件属性配置的账号，需具备该数据源的同步...
云数据库ClickHouse云原生版基于对象存储OSS实现了基于多计算节点共享存储的存算分离架构，通过应用引擎的缓存能力保证了云原生版本的查询性能。其他特性 22.8版本除了以上的重要的特性发布之外，还带来一些其他特性，例如：Projection：源...
背景信息 在海量大数据场景下，一张表中的部分业务数据随着时间的推移仅作为归档数据或者访问频率很低，同时这部分历史数据体量非常大，比如订单数据或者监控数据，降低这部分数据的存储成本将会极大的节省企业的成本。因此，如何以极简的...
与多模引擎共享存储，LDFS支撑，充分利用了对象存储的低成本与高可靠、块存储的高性能等优势，并通过高低速分层存储、副本共享去重、智能冷热转存等技术，面向用户提供弹性低成本、100%HDFS协议兼容的云原生大数据存储能力，可使用开源HDFS...
Flink核心是一个流式的数据流执行引擎，其针对数据流的分布式计算提供了数据分布、数据通信以及容错机制等功能。基于流执行引擎，Flink提供了更高抽象层的API以便您编写分布式任务。背景信息 EMR Flink完全兼容开源Flink，相关内容请参见...
背景 随着业务系统的不断运转，将产生大量的历史数据，导致表的规模越来越大，一般会将数据按照时间、user_id 等维度进行分区，每个分区只保留部分的数据。原生PostgreSQL在查询时也会通过分区裁剪来避免无关数据的读取。PolarDB ...
慢日志问题极大地影响数据库的稳定性，当数据库出现负载高、性能抖动等问题时，数据库管理员或开发首先会查看是否有慢日志在执行。数据库自治服务DAS（Database Autonomy Service）支持慢日志分析功能，会统计并分析数据库中执行时间超过...
数据存储在对象存储有更低的成本，存算分离更为彻底，按需弹性扩展计算资源，在计算资源组中通过大吞吐量读对象存储数据来满足大数据量的分析需求。此外，还可额外通过加速器来提升性能。在离线混合分析 在离线混合分析将在线和离线分析的...
慢日志问题极大地影响数据库的稳定性，当数据库出现负载高、性能抖动等问题时，数据库管理员或开发首先会查看是否有慢日志在执行。数据库自治服务DAS（Database Autonomy Service）支持慢日志分析功能，会统计并分析数据库中执行时间超过...
如果一个主实例有多个列存只读实例，系统会自动采用大规模多级并行处理（Massively Parallel Processing，MPP）调度执行。自动路由配置步骤：登录 PolarDB分布式版控制台。在页面左上角选择目标实例所在地域。在 实例列表 页，单击 PolarDB...
支持 支持 大吞吐写入/更新 CTS事务系统 PolarDB 重构了InnoDB的事务系统，由原来的基于活跃事务数据的事务系统，变为基于提交时间序（CTS）的事务系统，大幅度提升了读写混合场景下的性能，同时支持了全局严格强一致/MPP等功能的跨节点...
存算分离：计算资源与存储资源完全解耦，计算节点专注于执行查询任务，而数据则存储在外部分布式存储系统中。提升了系统的灵活性和可靠性。适合处理大规模数据存储和支持弹性计算需求。DLF统一元数据 勾选 默认勾选，表示元数据存储在数据...
配置DM（达梦）输出组件，可以将外部数据库中读取的数据写入到DM（达梦），或从大数据平台对接的存储系统中将数据复制推送至DM（达梦），进行数据整合和再加工。本文为您介绍如何配置DM（达梦）输出组件。前提条件 已创建DM（达梦）数据源...
配置DM（达梦）输出组件，可以将外部数据库中读取的数据写入到DM（达梦），或从大数据平台对接的存储系统中将数据复制推送至DM（达梦），进行数据整合和再加工。本文为您介绍如何配置DM（达梦）输出组件。前提条件 已创建DM（达梦）数据源...
云原生数据仓库 AnalyticDB PostgreSQL 版 数据冷热分层存储功能支持将不常访问的数据放到冷存介质以降低存储成本。除通过转冷函数手动将数据从热存迁移到冷存外，AnalyticDB PostgreSQL 7.0版 数据存储冷热分层支持对分区表设置自动冷热...
需分析、大数据量聚合 的数据列：创建列存索引，存储在列存引擎内。超高性能，降本增效 Lindorm的宽表引擎支持千万级并发写入与点查，有效分流搜索库负载，同时通过深度压缩算法优化实现存储成本降低。与原Elasticsearch方案相比，Lindorm...
支持 支持 全密态 PolarDB MySQL版 提供全密态数据库功能，数据在用户侧加密后传入数据库管理系统，数据明文对于数据库服务端不可见，实现了端到端的全程加密的数据强安全性。支持 支持 连接管理 连接池 PolarDB 支持会话级连接池和事务级...
本文介绍数据迁移的最佳实践，包含将其他业务平台的业务数据或日志数据迁移至MaxCompute，或将MaxCompute的数据迁移至其它业务平台。背景信息 传统关系型数据库不适合处理海量数据，如果您的数据存放在传统的关系型数据库且数据量庞大时，...
使用列存索引 创建列存索引可以增强宽表海量数据的分析计算能力，您可以在SELECT查询语句中指定相关HINT参数，将查询请求路由至计算引擎执行并使用列存索引加速查询，从而提升大数据计算的效率。示例一：大数据统计 SELECT/*+_use_ldps_(cg...
本文介绍数据迁移的最佳实践，包含将其他业务平台的业务数据或日志数据迁移至MaxCompute，或将MaxCompute的数据迁移至其它业务平台。背景信息 传统关系型数据库不适合处理海量数据，如果您的数据存放在传统的关系型数据库且数据量庞大时，...
FTP输入组件适用于从FTP中将数据读取至大数据平台对接的存储系统内，进行数据整合和再加工。本文为您介绍如何配置FTP输入组件。前提条件 已创建FTP数据源，详情请参见 创建FTP数据源。进行FTP输入组件属性配置的账号，需具备该数据源的同步...
您可以参考业务规划设计文档以及业务运行（开发、设计、变更等）相关文档，全面分析数据仓库涉及的源系统及业务管理系统：每个业务会生成哪些数据，存在于什么数据库中。对业务过程进行分解，了解过程中的每一个环节会产生哪些数据，数据的...
您可以参考业务规划设计文档以及业务运行（开发、设计、变更等）相关文档，全面分析数据仓库涉及的源系统及业务管理系统：每个业务会生成哪些数据，存在于什么数据库中。对业务过程进行分解，了解过程中的每一个环节会产生哪些数据，数据的...
阿里云EMR凭借弹性扩展的计算集群、多源异构数据融合治理以及实时流批一体处理等卓越能力，已经广泛应用于金融风控、电商精准营销、物联网时序数据处理等多个领域。本文为您介绍EMR在数据湖、数据分析、实时数据流、数据服务四个场景的典型...
新增 自动归档冷数据（DLM）支持将带有 列存索引（IMCI）的分区表归档至OSS外表。新增动态开关，用于控制只读（RO）节点上的游标位置调整功能。新增 列存索引（IMCI）支持列存全文索引。该功能利用列存技术加速文本的模糊搜索，相比传统行...
用户在业务系统中，通过埋点或日常积累的方式，获取了充足的业务数据。为梳理数据之间的逻辑关系和流向，需要理解用户的业务过程及数据系统。您可以采用过程分析法，列出整个业务过程涉及的每个环节，包括技术、数据、系统环境等。分析完...
配置列存数据库 在使用DuckDB进行分析实例之前，您需要为RDS PostgreSQL主实例配置需要转换为列存的数据库。前提条件 RDS PostgreSQL主实例需满足以下条件：已 创建DuckDB分析实例，且DuckDB分析实例的状态为运行中。已 创建高权限账号。...