azkaban – 上传zip太大怎么办?

因为azkaban任务需要用到spark,打出来的jar包好几百兆,打包成.zip上传azkaban就会卡住很久很久,甚至失败。

怎么办呢?

jar包之所以大,是因为pom.xml中使用了shade插件将依赖的spark/hadoop-client等依赖全部包含到了jar包中。

解决方法很简单,只需要修改pom.xml,令hadoop/spark相关的depenency全部改成provided模式,这样编译代码没有问题,而打包时则不会把它们打入jar包中,就像这样:

为什么可以这样做呢?因为hadoop/spark服务器环境中已经自带了这些jar包,当我们用spark-submit/hadoop命令启动jar包时,都会自动通过-classpath指向。

我们看一下服务器上的情况:

[root@10 spark]# pwd
/usr/local/service/spark

[root@10 spark]# ll jars/spark-hive_2.12-3.0.0.jar
-rw-r–r– 1 hadoop hadoop 693523 Jul 20 16:06 jars/spark-hive_2.12-3.0.0.jar

[root@10 spark]# ll jars/spark-sql_2.12-3.0.0.jar
-rw-r–r– 1 hadoop hadoop 7119016 Jul 14 11:59 jars/spark-sql_2.12-3.0.0.jar

正常来说这些jar包都是随hadoop/spark/hive环境一起安装的,如果没有也可以手动把这些jar包分发到Hadoop集群里,这样就不需要把这些依赖jar打入我们的jar里面了(注意,非hadoop/spark/hive相关的jar包还是需要打到jar里的,除非你手动分发到hadoop集群上)。

 

如果文章帮助了你,请帮我点击1次谷歌广告,或者微信赞助1元钱,感谢!

知识星球有更多干货内容,对我认可欢迎加入:

发表评论

电子邮件地址不会被公开。