访问频度极高业务 如社交网络、电子商务、游戏、广告等。...实现对大数据的分布式分析处理，适用于商业分析、挖掘等大数据处理场景。通过数据集成服务可自助实现数据在云数据库 Memcache 版与 MaxCompute 间的同步，简化数据操作流程。
MaxFrame是阿里云MaxCompute为了满足用户在Python生态中日益增长的高效大数据处理和AI开发需求，提供的基于Python编程接口的分布式计算框架。您可直接利用MaxCompute的海量计算资源及数据通过MaxFrame进行TB/PB级数据处理、可视化数据探索...
EMR on ECS是指在ECS上运行EMR，它将EMR的大数据处理能力与ECS的弹性灵活优势相结合，使得您能够更加便捷地配置和管理EMR集群，同时支持多种开源和自研大数据组件，适用于复杂的大数据处理和分析场景。产品架构 EMR主要由四部分组成，分别...
开源大数据开发平台E-MapReduce（简称EMR）是运行在阿里云平台上的一种大数据处理系统解决方案。EMR基于开源的Apache Hadoop和Apache Spark，让您可以方便地使用Hadoop和Spark生态系统中的其他周边系统分析和处理数据。EMR还可以与阿里云...
Presto 通过命令行方式访问Presto 通过JDBC方式访问Presto Tez Apache Tez是一个面向大数据处理的分布式框架，提供高效、灵活的DAG（有向无环图）执行模型，主要用于替代MapReduce来优化查询和批处理任务的性能。Tez Phoenix Phoenix是构建...
前端的监控系统和大数据处理系统会利用 TSDB 的数据查询和计算分析能力进行业务监控和分析结果的实时展现。电力化工及工业制造监控分析 传统电力化工以及工业制造行业需要通过实时的监控系统进行设备状态检测，故障发现以及业务趋势分析。...
借助PolarDB和 AnalyticDB MySQL 的大数据处理能力，决策报表的生成时间从分钟级别降低至秒级，大部分报表可以在10秒内生成，部分特别复杂的报表生成时间为1分钟。业务行为和业务决策平滑对接，决策者可以通过报表数据快速进行业务决策，...
SAP HANA SAP HANA是一个高性能的内存数据库和应用平台，结合了数据库、数据处理和应用平台功能，以提供企业级内存计算的能力。更多介绍请参见 SAP HANA。Vertica Vertica是一个高性能的列式存储数据库管理系统（DBMS），可高速处理和查询...
轻量化数据加工：内置轻量化数据处理功能，帮您快速处理数据。数据实时更新：数据实时更新，确保展示内容的准确性和及时性。可视化渲染 丰富的可视化组件：提供超过400多种可视化组件和100多种地理图元，高效实现数据精准表达，呈现数据之...
数据库整库 实时同步写入-DataWorks数据集成 当前数据库系统与大数据处理引擎都有各自擅长的数据处理场景，面对一些复杂的业务需求，往往需要同时运用OLTP（联机事务处理）、OLAP（联机分析处理）及离线分析引擎来对数据进行全面且深入的...
开放API（OpenAPI）：通过OpenAPI可以实现您的自有应用与DataWorks的深度集成，例如实现批量创建任务、发布任务、运维任务等，提升您的大数据处理效率，减少人工操作成本。关于OpenAPI功能，具体请参见 开放API（OpenAPI）。开放事件...
背景信息 开源大数据开发平台E-MapReduce（简称EMR），是运行在阿里云平台上的一种大数据处理的系统解决方案。EMR基于开源的Apache Hadoop和Apache Spark，让您可以方便地使用Hadoop和Spark生态系统中的其他周边系统分析和处理数据。阿里云...
类别 描述 相关文档 OpenAPI DataWorks开放平台的OpenAPI功能，为您提供开放API能力，通过开放API实现本地服务和DataWorks服务的交互，提升企业大数据处理效率，减少人工操作和运维工作，降低数据风险和企业成本。开放API（OpenAPI）开放...
类别 描述 相关文档 OpenAPI DataWorks开放平台的OpenAPI功能，为您提供开放API能力，通过开放API实现本地服务和DataWorks服务的交互，提升企业大数据处理效率，减少人工操作和运维工作，降低数据风险和企业成本。开放API（OpenAPI）开放...
类别 描述 相关文档 OpenAPI DataWorks开放平台的OpenAPI功能，为您提供开放API能力，通过开放API实现本地服务和DataWorks服务的交互，提升企业大数据处理效率，减少人工操作和运维工作，降低数据风险和企业成本。开放API（OpenAPI）开放...
PolarDB IMCI采用精简二进制方式存储JSON列存数据，且使用RapidJSON库解析JSON数据，处理过程中按需读取数据且利用列存压缩技术等有效减少IO量，同时充分利用SIMD和向量化及并行等加速运算。以实际测试数据为例展示列存中JSON用法及其行列...
由于全量数据迁移会并发执行INSERT操作，导致目标数据库的表产生碎片，因此全量迁移完成后目标数据库的表存储空间会比源实例的表存储空间大。请确认DTS对数据类型为FLOAT或DOUBLE的列的迁移精度是否符合业务预期。DTS会通过 ROUND(COLUMN,...
阿里云EMR Workbench是一个综合性的大数据分析和开发环境，作为阿里云E-MapReduce的一部分，它提供了EMR Notebook和EMR Workflow两个核心功能。通过EMR Workbench，您可以轻松进行数据开发，以及交互式数据分析，并设计复杂的数据处理工作...
用户无需编写底层模型调用代码，即可通过标准SQL或MaxFrame（分布式Python引擎）直接调用大模型或机器学习模型，显著降低用户在数据处理、大数据分析等场景的AI使用门槛。场景概述 随着大模型对于数据的理解能力显著增强，具备了从多模态...
PyODPS DataFrame提供了很多pandas-like的接口，但扩展了它的语法，比如增加了MapReduce API来扩展以适应大数据环境。内置聚合、排序、去重、采样、可视化绘图等常用函数。Mars 在Python生态中，有NumPy、Pandas、Scikit-Learn等丰富的科学...
DataWorks的Data Studio模块提供多种节点以满足不同数据处理需求：数据集成节点用于同步，引擎计算节点（如MaxCompute SQL、Hologres SQL、EMR Hive）用于数据清洗，通用节点（如虚拟节点和do-while循环节点）用于复杂逻辑处理。...
MaxFrame API包含两大类，一类是为了方便用户进行数据处理，用于兼容各类标准库（如Pandas）的API，另一类是为了任务的分布式执行而引入的MaxFrame特有API。使用MaxFrame的API开发作业，您可以享受到与标准数据库类似的数据操作体验，并将...
DLF与多个阿里云大数据计算引擎无缝对接，打破数据孤岛，帮助用户快速实现云原生数据湖及OpenLake解决方案的构建与管理。该平台能够实现元数据的统一、湖表格式的统一以及数据存储的统一，显著简化客户在数据湖构建和管理过程中的运维工作...
同时MaxFrame结合大数据的处理需求，引入了特有的API接口，如读写MaxCompute表格数据（read_odps_table、to_odps_table）、执行延迟计算（execute）等，让您可以更高效地在大数据环境下进行数据分析，不受本地计算资源的限制。数据准备 ...
云原生大数据计算服务MaxCompute（原名ODPS）是阿里云自主研发的集 高性价比、多模计算、企业级安全 和 AI驱动 于一体的 企业级SaaS化智能云数据仓库（AI-Native Datawarehouse）。视频简介 产品简介 MaxCompute是面向分析的 企业级 SaaS ...
数据处理方式 描述 场景示例 拉取到本地处理（不推荐，易OOM）例如DataWorks中的PyODPS节点，内置了PyODPS包以及必要的Python环境，是一个资源非常受限的客户端运行容器，并不使用MaxCompute计算资源，有较强的内存限制。PyODPS提供了 to_...
大数据量处理：支持快速处理较大规模的数据（十万条以上数据）。Spark SQL语法：基于Spark 3.1.2版本部署，提供该版本所有语法特性和原生函数。原生函数包括聚合函数、窗口函数、数组函数、Map函数、日期和时间处理函数、JSON处理函数等。...
近年来，针对半结构化和非结构化数据分析（例如日志数据）的业务诉求越来越多，因此，AnalyticDB for MySQL 推出了基于弹性模式的 湖仓版，提供Spark计算引擎满足大数据离线处理需求。新推出的 企业版 和 基础版，融合了 数仓版预留模式、...
MaxCompute预置了多种函数，可满足大部分数据处理需求。本文介绍MaxCompute提供的函数类型及函数使用相关说明。函数类型 函数类型 说明 日期与时间函数 支持处理DATE、DATETIME、TIMESTAMP等日期类型数据，实现加减日期、计算日期差值、...
大数据AI（MaxFrame）Logview 2.0适配MaxFrame，支持以下MaxFrame的相关功能，详情请参见 通过Logview 2.0查看MaxFrame作业：查看MaxFrame Session中提交的所有DAG的执行记录、运行耗时等信息。交互式查看每个DAG中的SubDAG的执行顺序、...
通过引入这两种更新模式，Flink Connector为用户提供了更加灵活和强大的数据处理能力，允许他们根据实际情况选择最合适的数据更新策略，从而保障了数据的准确性和完整性。以下是不同模式每次更新同样数据后的结果：说明 本示例数据的第一列...
如下图所示，某个大表分布不均，存储节点0上的Shard_0和Shard_1中数据量较大，而在存储节点1上的Shard_2和Shard_3中数据量较小，那么当您查询这个大表时，较大概率会出现存储节点0需要处理的数据多，存储节点1上需要处理的数据少的情况，...
数据传输服务DTS（Data Transmission Service）支持数据迁移、数据订阅和数据实时同步功能，帮助您实现多种典型应用场景。不停机迁移数据库 传输方式：数据迁移 为了保证数据的一致性，传统的迁移过程需要您在迁移数据时停止向源数据库写入...
请求地理边界geojson数据接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如区域热力层配置了API数据源为 https://api.test ，传到 请求地理边界geojson数据接口 动作的数据为 { id:'1'}，则最终请求接口为 ...
请求自定义topojson数据接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如自定义区域下钻层配置了API数据源为 https://api.test ，传到 请求自定义topojson数据接口 动作的数据为 { id:'1'}，则最终请求接口...
请求地理边界geojson数据接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如区域热力层配置了API数据源为 https://api.test ，传到 请求地理边界geojson数据接口 动作的数据为 { id:'1'}，则最终请求接口为 ...
请求数据接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如水波图配置了API数据源为 https://api.test ，传到 请求数据接口 动作的数据为 { id:'1'}，则最终请求接口为 https://api.test?id=1 。更新组件...
请求数据接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如水波图配置了API数据源为 https://api.test ，传到 请求数据接口 动作的数据为 { id:'1'}，则最终请求接口为 https://api.test?id=1 。移动 将组件...
动作 动作 说明 请求地理边界geojson数据接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如区域热力层配置了API数据源为 http://api.test ，传到 请求地理边界geojson数据接口 动作的数据为 { id:'1'}，则...
请求数据接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如自定义区域下钻层配置了API数据源为 https://api.test ，传到 请求数据接口 动作的数据为 { id:'1'}，则最终请求接口为 https://api.test?id=1 。...