立即注册 登录
About云-梭伦科技 返回首页

admin的个人空间 https://www.aboutyun.com/?1 [收藏] [复制] [分享] [RSS]

日志

spark开发必须注意Scala版本

已有 922 次阅读2018-9-3 21:15 |系统分类:Spark

使用的版本是spark2.3:
spark发布,都会在官网公布所支持的Scala版本,但是新手开发往往容易忽略这个问题,所以在出现错误的时候,根本无从下手。下面错误是由于Scala版本问题所造成的错误。
Exception in thread "main" java.lang.NoSuchMethodError: scala.Predef$.ArrowAssoc(Ljava/lang/Object;)

Ljava/lang/Object;
        at org.apache.spark.sql.SparkSession$Builder.config(SparkSession.scala:803)
        at org.apache.spark.sql.SparkSession$Builder.master(SparkSession.scala:856)
        at WordCount$.main(Wordcount.scala:7)
        at WordCount.main(Wordcount.scala)

Process finished with exit code 1


根据官网
http://spark.apache.org/docs/latest/
截图如下:
 

Spark runs on Java 8+, Python 2.7+/3.4+ and R 3.1+. For the Scala API, Spark 2.3.1 uses Scala 2.11. 

You will need to use a compatible Scala version (2.11.x).



更换Scala版本为:Scala 2.11问题解决

其他版本的spark遇到这个问题,可以到官网找到对应Scala即可

路过

雷人

握手

鲜花

鸡蛋

评论 (0 个评论)

facelist doodle 涂鸦板

您需要登录后才可以评论 登录 | 立即注册

关闭

推荐上一条 /2 下一条