排查方法:任务报错时,可以在Logview的Job Details页签中,快速通过DAG图判断报错的Task中是否包含UDF。可以看到报错的Task R 4_3包含用户使用Java语言编写的UDF,如...
删除DataWorks中同步任务和数据源登录DataWorks管理控制台-同步任务页面,找到目标任务,在操作列单击更多删除,按照界面提示删除同步任务。登录DataWorks管理控制台-数据源...
例如Java版本、操作系统。columns STRING Tunnel下载数据时指定列的集合。quota_name STRING Tunnel Quota组名称。ds STRING数据采集日期,例如ds=20190101。按请求的end_time的UTC+8...
背景信息MaxCompute的包年包月计算资源有限,在实际数据开发过程中,系统需要优先保障重要作业的计算资源。例如,系统必须在06:00点前产出某些数据,则需要保障产出这些...
返回结果Name Type Comment ID BigInt用户ID Name String用户名称DS String分区时间服务器端连接控制最大连接数:默认为100。连接超时:默认为288000 s(2小时)。服务连接到...
当不使用FeatureDB时,需要您自己建任务将数据写入到离线数据引擎对应的离线表中。或者使用PAI-Rec中的推荐算法定制,可以离线生产出模拟实时数据,作为对应的...
输入过滤即填写输入字段的过滤信息,例如ds=${bizdate}。输入过滤适用于以下两种场景:固定的某一部分数据。参数过滤。输出字段输出字段即需要同步数据的字段。本教程中...
输入过滤即填写输入字段的过滤信息,例如ds=${bizdate}。输入过滤适用于以下两种场景:固定的某一部分数据。参数过滤。输出字段输出字段即需要同步数据的字段。本教程中...
tablestore.timeseries.tablename.dataSource string是ds将JSON中的key值为ds对应的value值作为_data_source字段写入对应时序表中。配置项名称中tablename为时序表名称的...
但是有些特定的应用程序如3 ds MAX必须用的文件锁特性,如果缺失这个特性会导致应用程序执行不正确。访问权限:考虑到多个节点向OSS写入文件的一致性问题,InputMapping...
修复在MySQL高可用切换过程中,低版本的Java驱动会断连的问题。修复相关联子查询条件推导结果中缺少OR条件,导致分区裁剪结果不正确的问题。修复当多语句(即用...
本文创建的内部表中只保留了原始JSON数据的部分键值,并将事件id、日期ds设为主键,将事件id设为Distribution Key,将日期ds设为分区键,将事件发生时间created_at...
背景信息MaxCompute提供了MapReduce编程接口,您可以使用MapReduce提供的接口(Java API)编写MapReduce程序处理MaxCompute的中的数据。新版本MaxCompute支持将MapReduce作业...
返回,由于Flink中的数据为随机生成,实际MaxCompute查询结果与本示例不一定完全一致+-+-+-+-+|c 1|c 2|gt|ds|+-+-+-+-+|0|Skaar|2023-06-16 01:59:41.116|2023061517|21|Supah Century|...
例如,数据类型为String的分区ds,希望分区名大于'd',则代码为-c"ds'd'。否-b/before before days只有创建时间距离现在超过一定天数的表或分区才会被归档。否-p/-...
project名称dp-p test_project注意:删除Project前需要删除Project下所有的资源(包括Topic以及Topic中的订阅和同步任务),否则删除报错获取Project列表lp Topic操作创建...
Query示例-下面是一个不规范的Python UDF示例,实际代码有两个输入参数,但是annotation中只有一个输入参数from odps.udf import annotate@annotate("bigint-bigint")class MyPlus...
在升级过程中通过DataWorks提交的MaxCompute任务小概率会出现ClassNotFound、NoClassDefFoundError等Java类加载异常,出现异常后重试任务即可。此次升级带来的不便,望您...
问题描述Dataphin中数据集成任务运行报错“java.io.IOException:Failed on local exception:java.io.IOException:javax.security.sasl.SaslException:GSS initiate failed[Caused by GSSException...
问题描述代码任务中运行JAR包报错“Java heap space”,本地运行正常。Exception in thread"main"java.lang.OutOfMemoryError:Java heap space at org.apache....
问题描述Dataphin中Hive数据通过管道任务同步到Hbase数据库,运行报错"java.lang.IllegalArgumentException:KeyValue size too large。具体日志如下所示:2021-12-22 14:39:38.179[0-0-99...
问题描述Dataphin输入组件中来源表的数据在上游通过UDF函数进行了加密,管道任务通过解密组件对数据进行解密之后再同步到目标表。管道任务运行报错“解密数据异常,请...
问题描述管道任务将MySQL数据同步到Maxcompute,运行报错“[同步数据出现业务脏数据情况,数据类型转换错误.]-String['']不能转为BigDecimal.-java.lang.NumberFormatException”。...
问题描述用户使用同步任务从HIVE同步数据到别的数据库,同步表数据,源表和目标表表名均正确,同步过程出现“java.lang.NullPointerException”。问题原因1.用户设置的分割...
Java调度任务可以在您的应用进程中执行。本文介绍如何管理Java类型的任务。执行模式Java任务类型支持单机、广播、可视化MapReduce、MapReduce和分片运行模式:单机:在...
Java调度任务可以在您的应用进程中执行。本文介绍如何管理Java类型的任务。执行模式Java任务类型支持单机、广播、可视化MapReduce、MapReduce和分片运行模式:单机:在...
Java调度任务可以在您的应用进程中执行。本文介绍如何管理Java类型的任务。执行模式Java任务类型支持单机、广播、可视化MapReduce、MapReduce和分片运行模式:单机:在...
问题描述用户在使用集成任务同步数据到MySQL过程中,同步任务报错“java.sql.SQLException:Incorrect string value:'\xF 4\x 80\x 80\x 8 E\xF 4\x 80.'for column'XXX'at...
问题描述Dataphin中代码任务运行报错“Logical table translate failed:Failed to validate Table XXX Partition XXX Consistent of Column:[XXX]”完整的报错信息如下:!SQL Failed!Error...
本文将介绍如何在Java应用中使用JDBC连接PolarDB PostgreSQL版(兼容Oracle)数据库。前提条件已经在PolarDB集群创建用户,如何创建用户请参见创建数据库账号。已经将需要...
任务运行资源是指在Dataphin中创建任务并在运行时任务所占的调度资源,即CPU和内存的大小。本文为您介绍在Dataphin中如何自定义任务运行资源,助力您根据自身需求...
SchedulerX支持定时调度程序、多语言脚本和HTTP接口,也支持...SchedulerX平台支持Java和Kubernetes任务类型,能够实现离线与在线定时任务的混布调度,灵活满足不同需求。
本文介绍如何使用云效以JAR包或者WAR包的方式将Java语言的任务模板部署至SAE。前提条件已注册阿里云账号。已开通云效。背景信息如果您首次使用云效,请先了解云效...
本文介绍如何使用云效以JAR包或者WAR包的方式将Java语言的任务模板部署至SAE。前提条件已注册阿里云账号。已开通云效。背景信息如果您首次使用云效,请先了解云效...
本文介绍如何使用日志服务Java SDK管理投递任务。前提条件已开通日志服务。更多信息,请参见开通日志服务。已创建RAM用户并完成授权。具体操作,请参见创建RAM用户并完成...
本文为您介绍如何使用Java SDK获取任务(Task)的执行进度。背景信息Java SDK提供了Instance#getTaskProgress方法用于获取所有Stage中Worker的状态,通过Worker的状态可以...
问题描述Dataphin中提交Spark任务报错“Missing application resource”。2022-07-29 09:19:39.660-Shell command logs are shown below-Exception in thread"main"java.lang....
本文介绍通过Java SDK创建定时SQL任务的代码示例。前提条件已创建RAM用户并完成授权。具体操作,请参见创建RAM用户并完成授权。已配置环境变量ALIBABA_CLOUD_ACCESS_KEY_ID...