什么是AnalyticDB AnalyticDB是阿里云自研的云原生实时数据仓库,支持从OLTP数据库和日志文件中实时写入数据,并秒级完成PB级数据分析。AnalyticDB采用云原生存算分离的架构,存储按量付费,计算弹性伸缩,同时具备离线处理与在线分析资源...
说明 通常情况下,生产数据源和开发数据源需配置为非同一个数据源,以实现开发数据源与生产数据源的环境隔离,降低开发数据源对生产数据源的影响。但Dataphin也支持配置成同一个数据源,即相同参数值。参数 描述 JDBC URL Presto的连接地址...
在数据库备份场景下,有4个概念:数据库磁盘空间、数据文件空间、备份数据量、存储数据量。数据量 说明 数据库磁盘空间 由数据库的数据文件空间、数据库的日志文件空间、操作系统文件空间和空闲空间组成。说明 RDS中为:购买时选择的存储...
背景信息 在海量数据场景下,传统数据库备份服务面临两大越来越严重的困难:存储成本:为了保障数据恢复点目标(Recovery Point Objective,RPO),周期性的全量和增量备份产生大量重复数据,导致存储成本过高。使用成本:您必须待数据完成...
为满足多样化的数据导入需求,AnalyticDB for MySQL 提供了多种数据导入方式,包括:通过外表导入数据、通过DataWorks导入数据、通过DTS导入数据以及使用JDBC通过程序导入数据等。您可以通过本文了解各导入方式的特性及适用场景,帮助您...
背景信息 企业依赖大数据平台快速地从海量数据中获得洞察从而更及时和有效地决策的同时,也对处理数据的新鲜度和处理本身的实时性要求越来越高。大数据平台普遍采用离线、实时、流三种引擎组合的方式以满足用户实时性和高性价比的需求。...
类型 数据源 关系型数据库 云数据库RDS MySQL 云数据库RDS SQL Server 云原生数据库PolarDB MySQL版 云原生数据库PolarDB分布式版(简称“PolarDB-X”)自建MySQL数据库 自建Oracle数据库 非关系型数据库 云数据库MongoDB 云原生多模数据库...
解决方案 数据归档 数据归档功能支持定时将大表的数据归档至其他数据库,同时支持源表数据删除、表空间整理回收等。一键建仓 一键创建实时同步的数据仓库,数据在秒级的延迟下,同步至 AnalyticDB for MySQL 数据库中。数据库迁移 通过创建...
概述 GanosBase(简称Ganos)是阿里云自主研发的新一代时空数据库引擎,它将时空数据处理能力融入了云原生关系型数据库PolarDB中,为数据库构建了面向新型时空多模多态数据的一体化存储、查询、分析与渲染支撑能力。Ganos 取名于大地女神...
冷数据指的是 30 日内没有访问的数据,但是 90 日以内有访问的数据。freezeDataSize:极冷数据数的据量大小。极冷数据指的是 90 日以内都没有访问的数据。totalDataSize:总数据量大小。hotDataRatio:热数据的数据量大小占比。热数据指的是 7...
概述 GanosBase(简称Ganos)是阿里云自主研发的新一代时空数据库引擎,它将时空数据处理能力融入了云原生关系型数据库PolarDB中,为数据库构建了面向新型时空多模多态数据的一体化存储、查询、分析与渲染支撑能力。Ganos 取名于大地女神...
当线上数据库中的历史数据(访问率很低的数据)越来越多,占用的存储越来越大,以至于会影响数据库的查询性能与业务运转,此时您可以使用 数据管理DMS 的数据归档功能,周期性地将符合筛选条件的表数据归档至其他数据库或存储服务中。...
解决方案 数据归档 数据归档功能支持定时将大表的数据归档至其他数据库,同时支持源表数据删除、表空间整理回收等。一键建仓 一键创建实时同步的数据仓库,数据在秒级的延迟下,同步至 AnalyticDB for MySQL 数据库中。数据库迁移 通过创建...
数据归档 数据归档功能定时将大表的数据归档至其他数据库,支持源表数据删除、表空间整理回收等功能。数据库迁移 通过创建工单实现数据库迁移、校验和清理的闭环操作。运维管理 通知管理 可根据您的业务需求,订阅不同功能模块的消息事件,...
对于非ONLINE状态的同名数据库,根据不同场景解决:场景1:OSS备份数据恢复上云时选择不打开数据库 产生原因 在使用 OSS备份数据恢复到RDS SQL Server 时如果选择了 不打开数据库(还有差异备份或日志文件)选项,数据库会处于非ONLINE状态...
数据集成的离线同步功能为您提供数据读取(Reader)和写入插件(Writer),方便您通过定义来源与去向数据源,并结合DataWorks调度参数使用,将源端数据库中全量或增量数据的同步至目标数据库中。本文为您介绍离线同步的相关能力。核心能力 ...
您可以借助Iceberg快速地在HDFS或者阿里云OSS上构建自己的数据湖存储服务,并借助开源大数据生态的Spark、Flink、Hive和Presto等计算引擎来实现数据湖的分析。核心能力 Apache Iceberg设计初衷是为了解决Hive数仓上云的问题,经过多年迭代...
AnalyticDB PostgreSQL版 向量分析可以通过AI算法提取非结构化数据的特征,并利用特征向量作为非结构化数据的唯一标识,帮您快速且低成本地实现对非结构化数据检索和对结构化数据关联分析。向量数据库简介 在现实世界中,绝大多数的数据都...
背景介绍 TPC-DS是一套决策支持系统的基准测试,它对决策支持系统的几个通用方面进行建模,包括查询和数据维护,用于衡量大数据产品的分析性能。TPC-DS模拟了零售企业三种销售渠道(实体店、互联网、目录)的销售和退货业务,除了建立相关...
随着冷数据体量的不断变大,存储成本也会水涨船高。所以降低冷数据存储成本,提升热数据读取性能,对于使用时序引擎的企业用户具有现实意义。在Lindorm时序引擎中,随着时间的不断推移,数据呈现出很明显的冷温热分层。其相应的概念如下:...
MaxFrame是阿里云MaxCompute为了满足用户在Python生态中日益增长的高效大数据处理和AI开发需求,提供的基于Python编程接口的分布式计算框架。您可直接利用MaxCompute的海量计算资源及数据通过MaxFrame进行TB/PB级数据处理、可视化数据探索...
提供同步速率功能控制流量,避免同步速度过快对数据来源端或者数据去向端造成太大的压力。不限流的情况下则会提供现有硬件环境下最大的传输性能。任务运维 线上干预 支持重跑、补数据、置成功、冻结/解冻等线上干预操作。监控报警 支持配置...
MMS通过与MaxCompute Spark引擎集成,简化了从自建数据源到MaxCompute的大规模数据迁移过程,降低了配置复杂度和运维成本。功能概述 迁移架构 MaxCompute数据迁移服务MMS支持元数据和数据迁移。元数据迁移:通过元数据API(如Hive ...
同步其他数据源的数据至Hive数据源的场景中,完成源数据源的信息配置后,需要配置Hive输出组件写入数据的目标数据源。本文为您介绍如何配置Hive输出组件。使用限制 Hive输出组件支持写入文件格式为 orc、parquet、text、Hudi(Hudi格式仅...
本文介绍云数据库MongoDB支持升级的数据库大版本以及如何升级数据库大版本。注意事项 协议要求:升级分片集群实例的数据库大版本时,实例的协议类型需为 MongoDB协议。升级方式与影响:自动重启:升级采用轮转升级的方式进行,升级过程中会...
警告 为保障Kafka集群可以正常接收TiDB数据库产生的较大的Binlog数据,请适当将Broker组件中的 message.max.bytes、replica.fetch.max.bytes 参数以及Consumer组件中的 fetch.message.max.bytes 参数对应的值调大,详情请参见 Kafka配置...
OceanBase 数据库相同租户之间的数据同步 新功能特性 迁移 PostgreSQL 数据库的数据至 OceanBase 数据库 Oracle 租户时,新增支持动态修改迁移/同步对象,包括动态增加/减少对象和动态修改匹配规则,支持用户在一个数据迁移/同步任务中管理...
云数据库MongoDB提供了多种数据恢复方案,可满足不同场景下MongoDB数据库的数据恢复需求。数据恢复至云数据库MongoDB实例 重要 将数据恢复至新实例时,请注意以下事项:新实例的数据库大版本需与原实例相同。您需要根据原实例的数据库版本...
当您需要将大批量数据以附件(SQL、CSV、Excel)形式快速导入数据库时,可以使用DMS的数据导入功能。前提条件 数据库类型如下:MySQL:RDS MySQL、PolarDB MySQL版、MyBase MySQL、PolarDB分布式版、AnalyticDB for MySQL、其他来源MySQL。...
补数据可通过补历史或未来一段时间的数据,将写入数据至对应时间分区。代码中的 调度参数,将根据补数据选择的业务时间自动替换为具体值,并结合业务代码将对应时间数据写入指定分区。具体写入的分区与执行的代码逻辑,与任务定义的代码...
背景信息 OceanBase 开发者中心(OceanBase Developer Center,ODC)提供模拟数据功能供用户在测试数据库性能或者验证功能等需要大量模拟数据的场景下,能够快速根据表中的字段类型生成数据。本文档旨在介绍如何在工单中,根据数据库中存在...
已选择的恢复时间点 选择需要恢复的时间,设置的时间必须在可恢复的时间范围内 恢复目标数据库 数据库所在位置 选择恢复目标数据库所在位置,支持类型如下:无公网IP:Port的自建数据库(通过数据库网关DG接入):可通过数据库网关备份自建...
归档为CSV格式的数据的数据量可能会比归档为ORC格式的数据的数据量更大。为什么归档后的冷数据及文件在主账号下面的OSS上看不到?PolarDB 的冷数据存储在系统默认的OSS上,不在客户的OSS里,所以客户无法看到。目前只支持在PolarDB控制台上...
数据源 单击 配置数据源,可在 设置数据源 面板中修改数据源类型和数据查询代码、预览数据源返回结果以及查看数据响应结果,详情请参见 配置资产数据。数据过滤器 数据过滤器提供数据结构转换、筛选和一些简单的计算功能。单击 添加过滤器...
例如,与较大的离线维度表关联、表的多层嵌套、历史数据的回溯等。由于大部分业务实现需要多系统关联并搭建环境提取数据等,往往导致后期运维复杂。当出现问题时,不仅需要排查的组件多,而且需要对多种新知识进行学习和深度理解,才能找到...
过滤器 打开 过滤器,选择已创建的数据过滤器或新建数据过滤器,并配置数据过滤器脚本,实现数据的筛选功能。详情请参见 管理数据过滤器。数据响应结果 实时展示了组件所使用的数据。当组件数据源发生变化时,数据响应结果会对应展示最新的...
云原生数据仓库 AnalyticDB MySQL 版 支持数据同步APS(AnalyticDB Pipeline Service)功能,您可以新建Kafka同步链路,通过同步链路从指定时间位点,实时同步Kafka中的 数据入仓。本文主要介绍添加Kafka数据源、新建Kafka同步链路并启动...
图表样式 区域热力层是3D地球的子组件,支持独立的样式和数据配置,能够使用GeoJson数据展示区域边界信息并渲染区域样式,适用于在3D地球上展示某个区域的数据信息。样式面板 搜索配置:单击 样式 面板右上角的搜索配置项图标,可在搜索...
3.在单表数据量大的情况下创建索引,过程中会占用实例CPU、IO资源,如果影响实例可用性请调用CancelCreateIndexJob取消创建索引。DescribeCreateIndexJob 获取创建索引任务 获取创建索引任务 CancelCreateIndexJob 取消创建索引任务 取消...
监控告警 数仓和数据湖 功能集 功能 功能描述 参考文档 数据存储 数据缓存 云数据库SelectDB支持数据缓存功能,当您需要管理缓存数据并提升云数据库 SelectDB 版的访问速度时,可以根据该文档对缓存进行有效管理,并利用LRU和TTL管理策略,...