阿里云E-MapReduce产品构建于阿里云云服务器ECS上，基于开源的Apache Hadoop和Apache Spark，做了大量优化。本文为您介绍E-MapReduce（简称EMR）Spark相对开源增强的功能。背景信息 阿里云EMR 100%采用社区开源组件，随开源版本升级迭代，...
如何减少Spark2命令行工具的日志输出？Spark SQL 如何使用Spark3的小文件合并功能？如何处理SparkSQL数据倾斜?PySpark 如何指定PySpark使用Python 3版本？Spark Streaming 为什么Spark Streaming作业运行一段时间后无故结束？为什么Spark ...
对比项 Data Warehouse Data Lake Delta Lake 架构 计算存储一体或分离 计算存储分离 计算存储分离 存储管理 严格、非通用 原生格式 通用格式、轻量级 场景 报表、分析 报表、分析、数据科学 报表、分析、数据科学 灵活性 低 高 较高 数据...
基本特性 Presto使用Java语言进行开发，具备易用、高性能和强扩展能力等特点，具体如下：完全支持ANSI SQL。支持丰富的数据源，例如，Hive、Hudi、Iceberg、Delta Lake、MySQL和PostgreSQL。支持高级数据结构，具体如下：数组和Map数据 ...
本文以ECS连接EMR Serverless Spark为例，介绍如何通过EMR Serverless spark-submit命令行工具进行Spark任务开发。前提条件 已安装Java 1.8或以上版本。如果使用RAM用户（子账号）提交Spark任务，需要将RAM用户（子账号）添加至Serverless ...
EMR on ECS 功能集 功能 功能描述 参考文档 集群管理 创建集群 您可以轻松构建和运行Hadoop、Spark、Hive、Presto等开源大数据框架，以进行大规模数据处理和分析等操作。创建集群 释放集群 在完成EMR集群任务后及时释放集群，可以释放资源...
问题描述 查询报表中报错 INTERNAL:Java.sqlSQLSyntaxErrorExceptlon:Unknown column 'n2.pr0Ject name' In 'where clause'。问题原因 由于SQL脚本中存在不识别的列，导致查询时报错。解决方案 打开SQL数据集编辑界面，修改SQL脚本，验证...
OpenLDAP是一种开源软件，您可以使用OpenLDAP提供的命令行工具ldapadd、ldapdelete、ldapmodify等来管理用户，使用ldif文件进行用户管理。这种方式需要参考OpenLDAP开源社区的文档来进行操作。开源文档请参见 OpenLDAP。
java.lang.IllegalArgumentException:Wrong FS:jfs:/emr-jfs/tmp/.,expected:hdfs:/emr-header-1.cluster-*:9000 at org.apache.hadoop.fs.FileSYstem.checkPath(FileSystem.java:666)at org.apache.hadoop.hbase.regionServer....
卸载环境 使用 rpm 包管理器的系统（如 Alibaba Cloud Linux、CentOS、Fedora等）列出所有已安装的Java相关包。sudo rpm-qa|grep java 每个列出的包，您可以使用以下命令删除（将包名替换为实际的Java包名）。sudo rpm-e-nodeps 包名 使用 ...
Notebook 促进了数据分析师和数据工程师之间的协作，支持快速原型设计和实验，是探索数据、开发机器学习模型以及进行数据驱动决策的关键工具。EMR Serverless Spark支持通过Notebook进行交互式开发。本文带您快速体验Notebook的创建、运行...
EMR Serverless StarRocks兼容开源StarRocks的SQL语法和函数，您可以参考以下文档进行开发设计。StarRocks版本 参考文档 3.3系列 SQL参考 函数参考 3.2系列 SQL参考 函数参考 2.5系列 SQL参考 函数参考
阿里云的 云消息队列 RabbitMQ 版 支持AMQP 0-9-1协议，兼容开源的RabbitMQ客户端，您可以使用开源的客户端SDK接入 云消息队列 RabbitMQ 版 服务端进行消息收发。前提条件 创建实例 创建Vhost 背景信息 借助访问控制RAM的RAM用户，您可以...
兼容开源 EMR Notebook兼容开源Jupyter Notebook，您可以通过文件导入、导出的方式实现开发工具的自由切换，从而降低了使用门槛。产品功能 交互式编程环境 支持逐步执行SQL和Python代码，并根据运行结果调整后续代码。多种数据源类型 支持...
阿里云E-MapReduce SDK包含阿里云Java SDK公共部分和E-MapReduce部分，公共部分依赖 aliyun-java-sdk-core，E-MapReduce部分依赖 aliyun-java-sdk-emr。我们推荐您采用Maven的方式来管理您的工程。Maven依赖 dependency groupId ...
云消息队列 RabbitMQ 版 SDK（RAM角色跨账号授权场景）如果您是RAM STS角色授权的使用场景，需要通过 云消息队列 RabbitMQ 版 SDK收发消息，该SDK只比开源SDK多一个加签依赖。云消息队列 RabbitMQ 版 支持的多语言或框架SDK如 云消息队列 ...
创建了包含Presto服务的集群后，如果您需要进行复杂的数据查询、分析和处理操作，或者需要将查询结果集成到Java应用程序中，则可以使用Presto提供的JDBC Driver连接数据库。在Maven中引入JDBC Driver 您需要根据您的E-MapReduce集群版本，...
功能变更 JindoFS存储优化 JindoFS缓存优化 JindoTable计算优化 JindoManager系统管理 JindoTools工具集 JindoFS生态支持 JindoFS存储优化 支持文件的checksum功能，对齐开源HDFS checksum相关接口，支持MD5MD5CRC和COMPOSITE_CRC两种算法...
由于ACK控制台上 访问链接与端口 不可用，您可通过以下配置访问开源组件的Web UI。登录 容器服务管理控制台。在 集群列表 页面，单击EMR on ACK所关联集群的 集群名称。鼠标悬浮在左边菜单栏 网络，单击 服务，在服务页面更新YAML文件。...
E-MapReduce Doctor（简称EMR Doctor）是E-MapReduce产品自研的面向开源大数据集群的智能运维诊断系统。通过EMR Doctor（即 监控诊断 页面的“健康诊断”和“集群日报”功能）可以全局了解集群的健康状况和动态走势，为运维决策和资源优化...
如果是本地的元数据库，您可以使用集群上的Hue工具来管理。E-MapReduce后台RDS统一管理元数据的方式，仅限小容量的用户使用。对于大容量场景，建议您自建RDS作为统一元数据。默认限制为：总容量：200MiB。小时query数量限制：720000/h。...
EMR-5.11.0及之前版本，EMR-3.45.0及之前版本 重要 如果您的EMR版本较低，没有相应的LDAP认证配置按钮，则需要参考开源软件的社区文档进行手动配置，以启用LDAP认证功能。在 组件列表 区域，选择 SparkThriftServer 操作列的 enableLDAP。...
E-Mapreduce（简称EMR）开源组件运行过程中会产生大量的日志。日志管理功能将EMR与日志服务SLS相结合，允许您在EMR控制台直接查询开源组件的日志。前提条件 已在EMR控制台上创建集群，具体操作请参见 创建集群。已 开通日志服务。使用限制 ...
Hive语法 EMR产品最大程度的保持了开源社区的语法以及体验，在Hive语法上保持与开源社区Hive语法100%的兼容性。关于Apache Hive的更多介绍，请参见 Apache Hive官网。相关文档 如何使用Hive客户端连接Hive，请参见 Hive连接方式。Hive服务...
本文介绍如何将开源HBase客户端升级到对应版本的阿里云HBase客户端。前提条件 已安装Java环境且JDK为1.8及以上版本。使用须知 开源HBase 1.x版本客户端升级后为阿里云HBase 1.x版本客户端。开源HBase 2.x版本客户端升级后为阿里云HBase 2.x...
您可以根据业务需要使用对应的报表。本文介绍支持的报表类型，以及如何通过报表中心查看或导出报表。支持的报表类型 报表类型 报表名称 说明 综合分析报表 综合分析报表 从SQL语句执行情况分析、会话连接分析、风险事件分析、SQL性能分析和...
引擎类型 连接方式 参考文档 宽表引擎 通过Lindorm宽表SQL连接宽表引擎 基于Java JDBC接口的应用开发 基于Python DB-API的应用开发 通过Lindorm-cli连接并使用宽表引擎 通过HBase API连接宽表引擎 基于HBase Java API的应用开发 基于HBase...
云数据库HBase增强版全文索引服务支持多语言访问，并且完全兼容开源Apache Solr API，本文介绍如何使用Solr Java API访问云数据库HBase增强版全文索引服务。使用Solr Java API访问云数据库HBase增强版全文索引服务的操作和使用Solr Java ...
开源K8s环境中的应用接入MSE治理中心 为开源K8s环境中的Spring Cloud和Dubbo应用提供无侵入的微服务治理能力，包含无损下线、离群实例摘除、服务查询、服务鉴权、服务测试和金丝雀发布，大幅提升线上微服务的稳定性和开发效率。详情可参见 ...
通过 JDBC 方式连接 重要 在执行本操作之前，请确保您已安装Java环境及Java编程工具，并已正确配置相关环境变量。在 pom.xml 文件中配置项目依赖（hadoop-common和hive-jdbc）。本示例新增的项目依赖如下所示。dependencies dependency ...
创建包含HBase服务的...HBase主要通过命令行工具（HBase Shell）、Java API以及其他一些接口（如REST API和Thrift）来提供数据的增删改查操作。相关文档 您可以查看Apache HBase Shell官方文档了解更多信息，详情请参见 Apache HBase官网。
EMR ClickHouse完全兼容开源版本的产品特性，同时提供集群快速部署、集群管理、扩容、缩容和监控告警等云上产品功能，并且在开源的基础上优化了ClickHouse的读写性能，提升了ClickHouse与EMR其他组件快速集成的能力。特性 特性 描述 列式...
从以下五个方面介绍Doris技术：在使用接口方面，Doris采用MySQL协议，高度兼容MySQL语法，支持标准SQL，您可以通过各类客户端工具来访问Doris，并支持与BI工具的无缝对接。在存储引擎方面，Doris采用列式存储，按列进行数据的编码压缩和...
JindoSDK Java使用JindoSDK时，JindoSDK日志输出到Java日志中，以提高可诊断性。新增SDK端使用内存统计日志，可以看到当前JindoSDK使用的内存大小。JindoTable计算优化 JindoTable新增native加速功能，可以对使用Spark、Hive或Presto读取...
有开源产品同样可以实现分布式任务调度，本文介绍SchedulerX和开源产品的对比，帮助您更好的了解分布式任务调度和SchedulerX。产品名称 定时调度 工作流 分布式任务 白屏化任务治理 任务类型 报警监控 使用成本 Quartz Cron 不支持 不支持 ...
EMR-3.27.x及之前版本使用Flink社区开源版本，EMR-3.27.x之后版本使用完全兼容开源Flink的企业版（VVR）。本文介绍如何配置Flink（VVR）类型的作业。背景信息 Flink企业版由Apache Flink创始团队官方出品，拥有全球统一商业化品牌。VVR提供...
org.apache.zeppelin.interpreter.InterpreterException:java.io.IOException:Interpreter process is not running 解决方式：您可以参照以下命令解决该问题。rm-f/usr/lib/zeppelin-current/interpreter/zeppelin-interpreter-shaded-0.10...
EMR on ECS是指在ECS上运行EMR，它将EMR的大数据处理能力与ECS的弹性灵活优势相结合，使得您能够更加便捷地配置和管理EMR集群，同时支持多种开源和自研大数据组件，适用于复杂的大数据处理和分析场景。产品架构 EMR主要由四部分组成，分别...
Superset是一款轻量级BI工具。您可以使用Superset连接多个数据源自助分析并可视化、定义图表和看板、导入或导出看板，并且可以对用户和角色进行权限管理。本文以EMR-3.34.0版本的集群为例为您介绍如何使用Superset。背景信息 Superset对E-...
JindoData是阿里云开源大数据团队自研的数据湖存储加速套件，面向大数据和AI生态，为阿里云和业界主要数据湖存储系统提供全方位访问加速解决方案。JindoData套件基于统一架构和内核实现，主要包括 JindoFS 存储系统（原JindoFS Block模式）...