分享

hadoop集群,如何运行Java jar包---如何运行mapreduce程序

pig2 2014-4-16 14:29:20 发表于 实操演练 [显示全部楼层] 回帖奖励 阅读模式 关闭右栏 9 215346
导读:
本篇主要介绍了在hadoop集群上运行mapreduce方式。
可能你所关心的只是一条运行命令:
hadoop jar  x.jar  ×××.MainClassName inputPath outputPath
如果更详细了解,可以查看下面内容。





hadoop集群运行mapreduce有两种方式:1.一种是打包,在hadoop集群运行
2.一种是开发环境运行。
下面详细讲一下:
1.一种是打包,在hadoop集群运行
首先我们要打包程序,打包具体可以参考
(hadoop编程:解决eclipse能运行,打包放到集群上ClassNotFoundException:经验总结)
http://www.aboutyun.com/thread-7086-1-1.html
,打包完毕,我们该如何运行
首先显示一个比较简单的:
上面命令:hadoop jar x.jar 是运行包的一种方式,完成的方式为
hadoop jar  x.jar  ×××.MainClassName inputPath outputPath
同时解释一下:
x.jar为包的名称,包括路径,直接写包名称,则为默认路径
×××.MainClassName为运行的类名称
inputPath为输入路径
outputPath为输出路径。
这里需要注意的是:
输入路径和输出路径,一定要对应。
比如
输入路径
  1. hdfs://192.168.1.100:9000/user/hadoop/filetest/word.txt
复制代码

输出路径:
  1. hdfs://192.168.1.100:9000/user/hadoop/output
复制代码

二者就不一致,output后面需要加入文件名,二者对应起来。

2.mapreduce在eclipse中运行
对于下面按照步骤单击Java Application就ok了。



已有(10)人评论

跳转到指定楼层
aqi915 发表于 2015-8-27 10:15:32
怎么看楼主的下一篇文章呢?
回复

使用道具 举报

arsenduan 发表于 2015-8-27 10:51:55
回复

使用道具 举报

unbelieve 发表于 2016-2-25 13:02:38
如果输入数据文件是多个路径,调用命令应该怎么写啊
回复

使用道具 举报

atsky123 发表于 2016-2-25 21:01:46
unbelieve 发表于 2016-2-25 13:02
如果输入数据文件是多个路径,调用命令应该怎么写啊

那你就写多个输入路径,最后一个输出
回复

使用道具 举报

unbelieve 发表于 2016-2-29 19:33:28
atsky123 发表于 2016-2-25 21:01
那你就写多个输入路径,最后一个输出

数据路径,我用分号隔开也不好使,最后还是在文件里直接写好路径了。
回复

使用道具 举报

gvsagrew 发表于 2016-11-29 15:57:01
Exception in thread "main" java.io.IOException: Error opening job jar: /home/hadoop/score.jar
        at org.apache.hadoop.util.RunJar.run(RunJar.java:160)
        at org.apache.hadoop.util.RunJar.main(RunJar.java:136)
Caused by: java.util.zip.ZipException: error in opening zip file
        at java.util.zip.ZipFile.open(Native Method)
        at java.util.zip.ZipFile.<init>(ZipFile.java:215)
        at java.util.zip.ZipFile.<init>(ZipFile.java:145)
        at java.util.jar.JarFile.<init>(JarFile.java:154)
        at java.util.jar.JarFile.<init>(JarFile.java:91)
        at org.apache.hadoop.util.RunJar.run(RunJar.java:158)
        ... 1 more
楼主,我报这样的错怎么解决

点评

可能是路径,权限或则环境变量的问题  发表于 2016-11-29 16:39
回复

使用道具 举报

gvsagrew 发表于 2016-11-29 16:32:55
gvsagrew 发表于 2016-11-29 15:57
Exception in thread "main" java.io.IOException: Error opening job jar: /home/hadoop/score.jar
        at o ...

已解决
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条