分享

spark开发环境详细教程3:IntelliJ IDEA创建项目

pig2 2017-8-7 14:02:50 发表于 入门帮助 [显示全部楼层] 回帖奖励 阅读模式 关闭右栏 3 16805
本帖最后由 pig2 于 2017-8-24 22:01 编辑
问题导读

1.如何使用IntelliJ IDEA创建sbt项目?
2.sbt项目需要做哪些设置,才能开始写代码?
3.如何创建Scala项目?




相关文章
spark开发环境详细教程1:IntelliJ IDEA使用详细说明
http://www.aboutyun.com/forum.php?mod=viewthread&tid=22320

spark开发环境详细教程2:window下sbt库的设置
http://www.aboutyun.com/forum.php?mod=viewthread&tid=22409

spark开发环境详细教程3:IntelliJ IDEA创建项目
http://www.aboutyun.com/forum.php?mod=viewthread&tid=22410

spark开发环境详细教程4:创建spark streaming应用程序
http://www.aboutyun.com/forum.php?mod=viewthread&tid=22465

安装插件之后,接着我们就可以创建项目了。
我们通过IntelliJ IDEA创建sbt、Scala项目。

创建sbt项目

通过file-new Project,弹出下面对话框

sbt.jpg

下面创建项目:包括了项目名称,路径,,jdk版本,sbt版本,Scala版本

项目说明.jpg

对于Scala版本,由于当前Scala2.12.3可能在项目中存在一些问题。所以最好使用2.10版本
项目创建完毕后,我们只能看到aboutyun。如下图所示

注释.jpg


双机aboutyun,项目就展开了。展开后,我们看到下面内容

展开内容.jpg

其中说build.sbt内容
build.sbt,这里面存放相关依赖
如在下面加入
[mw_shl_code=bash,true]libraryDependencies += "org.apache.spark" % "spark-streaming_2.11" % "1.6.3"
libraryDependencies += "org.apache.spark" % "spark-streaming-kafka_2.11" % "1.6.3"[/mw_shl_code]
加入后就会下载相关项目了,还可以通过refresh project刷新项目

1.jpg

这个时间很长。上面我们会加就可以。如果比较慢的话,可参考下面文章更改sbt库
spark开发环境详细教程2:window下sbt库的设置
http://www.aboutyun.com/forum.php?mod=viewthread&tid=22409


如果不能忍受的话,可以通过添加本地jar包。如添加spark依赖。
将spark-1.6.3-bin-hadoop2.6\lib添加到开发环境中。这应该跟eclipse中添加第三库是一样的。

spark lib.jpg

社区版中,可能找不到选项卡,可以通过快捷键:Ctrl+Alt+Shift+S调出来。

lib.jpg

添加选择库:下面选择Scala库
Scala下面有三个,可以看到三个不同的版本

sdk.jpg
选择在系统中可能不会显示在第三方库中。如果选择Ivy库,会显示如下图所示。

extra.jpg

同样还有添加spark lib的库,名称为spark lib

add spark lib.jpg
找到spark lib路径,然后选择相关包,点击确定

add spark.jpg

添加后即可看到全部

extraall.jpg


如何写代码

sbt写代码,在项目中,还不能直接创建代码文件。需要做一些设置。
如下图main和test中的scala文件目录.
单击scala目录->Mark as Directory as->Source Root,


source root.jpg


点击后,目录由灰色变为蓝色,即可创建代码文件,如下图
可以创建Scala和Java等代码文件。

source.jpg


注意:
这里面需要添加Scala第三方库,否则看不到Scala文件。如何添加上面已经提到了。

scala库.jpg


对于test目录下的Scala同样也是需要做下设置,才能创建代码文件。如果是灰色的如下图,看不到代码文件。与上面形成对比。
无代码文件.jpg



上面关于sbt的项目就到这里了。

创建Scala项目

社区版创建Scala项目与收费版有些区别。

创建Scala项目,在右侧不会看到Scala logo,而是看到IDEA。选择IDEA即可
Scala pro.jpg

点击next,选择jdk,以及Scala版本

添加.jpg

看到下图

创建完毕.jpg

Scala项目不需要sbt中一些复杂的设置。我们可以看到src不需要额外设置,默认为蓝色,可以创建代码文件。无需额外添加第三库。

完毕.jpg

这样Scala项目就完成了。




相关文章
spark开发环境详细教程1:IntelliJ IDEA使用详细说明
http://www.aboutyun.com/forum.php?mod=viewthread&tid=22320

spark开发环境详细教程2:window下sbt库的设置
http://www.aboutyun.com/forum.php?mod=viewthread&tid=22409

spark开发环境详细教程3:IntelliJ IDEA创建项目
http://www.aboutyun.com/forum.php?mod=viewthread&tid=22410

spark开发环境详细教程4:创建spark streaming应用程序
http://www.aboutyun.com/forum.php?mod=viewthread&tid=22465














本帖被以下淘专辑推荐:

已有(3)人评论

跳转到指定楼层
aaronping 发表于 2017-8-8 08:56:11
谢谢楼主,讲解详细
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条