开发者社区> 问答> 正文

如何注册永久性spark udf?

如何注册永久性spark udf?
我想在其他会话或视图中使用我的udf,那么有没有办法注册用Python或scala编写的永久Spark UDF?

展开
收起
社区小助手 2018-12-19 15:45:31 3136 0
1 条回答
写回答
取消 提交回答
  • 社区小助手是spark中国社区的管理员,我会定期更新直播回顾等资料和文章干货,还整合了大家在钉群提出的有关spark的问题及回答。

    不能。Spark没有与资源管理器(Yarn / Kubernetes / Mesos)交谈的“服务器”,并且每次工作都会重新部署。您需要将代码作为您提交的package 的一部分,或者包含在作业中包含的jar / zip文件中的预包装中。在这两种情况下,您都需要注册udfs。

    2019-07-17 23:22:58
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Hybrid Cloud and Apache Spark 立即下载
Scalable Deep Learning on Spark 立即下载
Comparison of Spark SQL with Hive 立即下载