分享

请教spark shell出问题 Unable to load native-hadoop library for your platform

本帖最后由 howtodown 于 2014-4-28 11:32 编辑

请教 Unable to load native-hadoop library for your platform... using builtin-java classes where applicable

hadoop2.2.0  | spark-0.9.1-bin-hadoop2

服务可正常启动 , 用spark-shell 就报错
hadoop.jpg


run-example 没问题, 就是用shell时 有问题


已有(8)人评论

跳转到指定楼层
pig2 发表于 2014-4-28 11:31:29
你看看spark shell 启动脚本


回复

使用道具 举报

howtodown 发表于 2014-4-28 11:33:47
搜了很多地方 , 还是没解决。 不太了解 spark load 的哪里的native lib。  有可能是版本不对 32 | 64
hadoop 是自己编过的, spark 直接官网下的
回复

使用道具 举报

pig2 发表于 2014-4-28 11:35:03
指定一下hadoop home,然后看看在spark shell里面 指定了么?


回复

使用道具 举报

howtodown 发表于 2014-4-28 11:36:26
在spark shell里面 指定了么?  在这要配置东西?
回复

使用道具 举报

pig2 发表于 2014-4-28 11:37:45
howtodown 发表于 2014-4-28 11:36
在spark shell里面 指定了么?  在这要配置东西?

shell也是个 进程,现在shell 有问题,看看shell变量
回复

使用道具 举报

pig2 发表于 2014-4-28 11:43:07
本帖最后由 pig2 于 2015-2-11 19:41 编辑

上述问题解决:  spark-shell  会调用 spark-class , 在spark-class中 会设置JAVA_OPTS
所以在spark-env.sh  设置此变量指向

hadoop native lib dir

即可

回复

使用道具 举报

zhujun182104906 发表于 2015-3-20 15:19:27
貌似是这个问题
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条