Spark接入 SMQ 示例代码如下。val conf=new SparkConf().setAppName("Test MNS Streaming")val batchInterval=Seconds(10)val ssc=new StreamingContext(conf,batchInterval)val queuename="queuename"val accessKeyId=System.getenv(...
前提条件 通过SSH隧道方式才能访问Web UI，详情请参见 通过SSH隧道方式访问开源组件Web UI。访问JindoFS Web UI 打通SSH隧道后，您可以通过 http://emr-header-1:8101/ 访问JindoFS Web UI功能。JindoFS 3.0.x版本提供总览信息（Overview）...
前提条件 通过SSH隧道方式才能访问Web UI，详情请参见 通过SSH隧道方式访问开源组件Web UI。访问JindoFS Web UI 打通SSH隧道后，您可以通过 http://emr-header-1:8101/ 访问JindoFS Web UI功能。JindoFS 3.0版本提供总览信息（Overview）、...
目前EMR Notebook支持以下类型的单元格：SQL：用于编辑和运行SQL代码。Python：用于编辑和运行Python程序。Markdown：用于进行文本编辑，支持Markdown的语法。新建笔记本 进入EMR Notebook页面。登录 E-MapReduce控制台。在左侧导航栏，...
与开源Delta Lake对比 EMR-Delta Lake丰富了开源Delta Lake的特性，例如对SQL和Optimize的支持等。下表列出了Delta Lake的基本特性，并对比EMR-Delta Lake与开源Delta Lake（0.6.1）。特性 EMR-Delta 开源Delta SQL ALTER CONVERT CREATE ...
在这种高安全级别的集群中，所有开源组件均采用Kerberos安全模式启动，确保只有经过Kerberos认证的客户端能够访问集群提供的服务（例如HDFS）。背景信息 集群开启Kerberos之后：客户端：可以对可信任的客户端提供认证，使得可信任客户端...
由于ACK控制台上 访问链接与端口 不可用，您可通过以下配置访问开源组件的Web UI。登录 容器服务管理控制台。在 集群列表 页面，单击EMR on ACK所关联集群的 集群名称。鼠标悬浮在左边菜单栏 网络，单击 服务，在服务页面更新YAML文件。...
高性能计算引擎：内置 Fusion Engine，性能可达开源 Spark 的 4 倍；支持 Remote Shuffle Service Celeborn，提供 PB 级 Shuffle 能力并降低计算成本。高扩展性与弹性：基于阿里云 Serverless 底座，提供秒级资源弹性伸缩，按实际计算资源...
Hadoop DistCp和Jindo DistCp的区别 DistCp类型 功能 使用场景 Hadoop DistCp 开源Hadoop内置的DistCp工具，用于大型集群间或集群内数据的复制。HDFS到HDFS间的数据复制。Jindo DistCp JindoFS的数据迁移工具，支持OSS、OSS-HDFS服务、兼容...
您可以将开源大数据服务部署在阿里云容器服务Kubernetes版（ACK）之上，利用ACK在服务部署和容器应用管理的优势，减少对底层集群资源的运维投入，以便于您可以更加专注大数据任务本身。前置概念 阅读本文前，您可能需要了解如下概念：什么...
阿里云EMR Serverless Spark SDK支持Java、TypeScript、Go、PHP、Python、C#、C++、Swift语言SDK开发，封装了2023-08-08版本API，以访问密钥（AccessKey）识别调用者身份，提供自动签名等功能。安装EMR Serverless Spark SDK 各语言SDK的...
背景信息 OpenAPI开发者门户 提供在线调试API和动态生成SDK示例代码的功能，能显著降低API的使用难度，推荐您使用。环境准备 在Eclipse项目中使用阿里云E-MapReduce OpenAPI Java SDK。请确保代码运行环境设置了环境变量ALIBABA_CLOUD_...
通过Spark访问MQ 代码示例如下。val Array(cId,topic,subExpression,parallelism,interval)=args val accessKeyId=System.getenv("ALIBABA_CLOUD_ACCESS_KEY_ID")val accessKeySecret=System.getenv("ALIBABA_CLOUD_ACCESS_KEY_SECRET")val...
运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。请求语法 POST/api/v1/kyuubi/{workspaceId}/{kyuubiServiceId}/start HTTP/1.1 路径参数 名称 类型 必填 描述 示例值 workspaceId string ...
通过Kyuubi Gateway，以兼容开源Kyuubi的方式提交SQL任务。数据目录 支持使用RAM用户（子账号）身份访问DLF。支持访问DLF 2.0 Hive Catalog。资源观测 支持观测工作空间、队列的资源消耗情况。运行环境 Spark Submit工具支持通过配置参数-...
运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。请求语法 POST/api/v1/kyuubi/{workspaceId}/{kyuubiServiceId}/stop HTTP/1.1 路径参数 名称 类型 必填 描述 示例值 workspaceId string ...
运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 下表是API对应的授权信息，可以在RAM权限策略语句的 Action 元素中使用，用来给RAM用户或RAM角色授予调用此API的权限。具体说明如下：操作：是指具体的权限点。访问...
运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。请求语法 DELETE/api/v1/kyuubi/{workspaceId}/{kyuubiServiceId} HTTP/1.1 路径参数 名称 类型 必填 描述 示例值 workspaceId string 否 ...
本文描述开源大数据平台E-MapReduce支持的所有系统权限策略及其对应的权限描述，供您授权RAM身份时参考。什么是系统权限策略 权限策略是用语法结构描述的一组权限的集合，可以精确地描述被授权的资源集、操作集以及授权条件。阿里云访问...
本文介绍开源大数据平台E-MapReduce使用过程中遇到的常用名词的基本概念和简要描述。集群 E-MapReduce产品中的一个独立的机器组合，为上层业务提供一些基础的引擎服务。一个E-MapReduce集群是由一个或多个阿里云ECS实例组成的。ECS实例 在E...
alluxio fs mount-option fs.oss.accessKeyId=OSS_ACCESS_KEY_ID \-option fs.oss.accessKeySecret=OSS_ACCESS_KEY_SECRET \-option fs.oss.endpoint=OSS_ENDPOINT \/oss_dir path/代码示例中的参数描述如下：OSS_ACCESS_KEY_ID：阿里云...
您可以将开源大数据服务部署在阿里云容器服务Kubernetes版（ACK）之上，利用ACK在服务部署和容器应用管理的优势，减少对底层集群资源的运维投入，以便于您可以更加专注大数据任务本身。收费标准 阿里云EMR on ACK正式商业化后，将根据集群...
运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 下表是API对应的授权信息，可以在RAM权限策略语句的 Action 元素中使用，用来给RAM用户或RAM角色授予调用此API的权限。具体说明如下：操作：是指具体的权限点。访问...
本文为您介绍如何在阿里云EMR Serverless Spark环境中使用Notebook进行开发，包括创建、编辑、运行、发布、导入和导出Notebook，以及在Notebook之间共享代码的操作。前提条件 已创建工作空间和Notebook会话，详情请参见 创建工作空间 和 ...
操作步骤 使用SSH隧道方式访问Web页面，详情请参见 通过SSH隧道方式访问开源组件Web UI。说明 建议您首次使用Kafka Manager时修改默认密码。为了防止8085端口暴露，建议使用SSH隧道方式来访问Web界面。如果使用 http://localhost:8085 方式...
说明 代码中的 myfunc 是UDF函数的名称，org.example.MyUDF 是开发UDF中创建的类，hdfs:/user/hive/warehouse/hiveudf-1.0-SNAPSHOT.jar 为上传JAR包到HDFS的路径。执行以下命令，使用UDF函数。该函数与内置函数使用方式一样，直接使用函数...
Kudu table list {YourKuduMasterAddress} 说明 本文代码示例中的 {YourKuduMasterAddress} 为Kudu集群的Master节点内网IP地址，多个IP地址之间使用英文逗号（,）隔开。使用Kudu Backup工具备份现有的Kudu集群表。默认的Kudu Backup可以...
Alluxio是一个面向基于云的数据分析和人工智能的开源的数据编排技术。Alluxio为数据驱动型应用和存储系统构建了桥梁，将数据从存储层移动到距离数据驱动型应用更近的位置，从而能够更容易被访问，同时使得应用程序能够通过一个公共接口连接...
2023年6月1日起，E-MapReduce Serverless StarRocks服务等级协议（SLA）生效。详情请参见 开源大数据平台E-MapReduce Serverless服务等级协议。
拷贝如下代码到新增的SparkSQL页签（users_task）中。CREATE DATABASE IF NOT EXISTS ss_hudi_db;CREATE TABLE ss_hudi_db.hudi_tbl(id INT,name STRING)USING hudi TBLPROPERTIES(type='cow',primaryKey='id');INSERT INTO ss_hudi_db....
运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 下表是API对应的授权信息，可以在RAM权限策略语句的 Action 元素中使用，用来给RAM用户或RAM角色授予调用此API的权限。具体说明如下：操作：是指具体的权限点。访问...
Java代码 JavaSparkContext jsc=new JavaSparkContext(sparkConf);try { List byte[]list=new ArrayList();list.add(Bytes.toBytes("1"));list.add(Bytes.toBytes("5"));JavaRDD byte[]rdd=jsc.parallelize(list);Configuration conf=...
运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 下表是API对应的授权信息，可以在RAM权限策略语句的 Action 元素中使用，用来给RAM用户或RAM角色授予调用此API的权限。具体说明如下：操作：是指具体的权限点。访问...
val resultData=inputData.map(e=s"$e has been processed.")odpsOps.saveToTable(project,table,dataRDD,write)在上面的代码中，您还需要定义一个write函数，用来进行数据预处理，代码如下所示。def write(s:String,emptyRecord:Record,...
按量付费 欠费即时提醒。系统会自动对按量付费资源进行扣费。当您的账户余额小于0时，系统会通过短信或邮件通知您。欠费后EMR停止服务。从您的账户余额小于0开始，在24小时内您可以继续使用集群且继续扣费。24小时后，集群将暂停服务，且...
运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 下表是API对应的授权信息，可以在RAM权限策略语句的 Action 元素中使用，用来给RAM用户或RAM角色授予调用此API的权限。具体说明如下：操作：是指具体的权限点。访问...
Java代码 JavaSparkContext jsc=new JavaSparkContext(sparkConf);try { List byte[]list=new ArrayList();list.add(Bytes.toBytes("1"));list.add(Bytes.toBytes("5"));JavaRDD byte[]rdd=jsc.parallelize(list);Configuration conf=...
运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 示例值 描述 Action String 是 AddClusterService 系统规定参数。取值：AddClusterService。ClusterId String 是 C-F32FB31D8295*待添加服务的集群ID。...
内置函数清单 Serverless Spark 兼容开源内置函数的使用，开源具体函数说明请参见 Spark SQL Functions。此外，Serverless Spark 还支持多个特有内置函数，以下是特有支持的内置函数及其相关说明。函数 说明 PARQUET_SCHEMA 获取Parquet...
管理工作空间 数据开发 SQL开发和批任务支持自定义变量管理，可简化代码的维护和调整，提升开发效率。数据开发变量 支持在Notebook中使用Hadoop命令操作OSS/OSS-HDFS。在Notebook中使用Hadoop命令操作OSS/OSS-HDFS 流任务和批处理任务已...