分享

hortonworks中hive on spark如何搭建

zhuqitian 发表于 2017-4-28 08:53:39 [显示全部楼层] 回帖奖励 阅读模式 关闭右栏 5 11372
最近在搞环境,使用ambari搭建了hortonworks平台,其中hive模块默认有两个执行引擎:tez,mr哪位朋友在此平台上玩过hive on spark,望指教

已有(5)人评论

跳转到指定楼层
arsenduan 发表于 2017-4-28 09:22:51
hortonworks平台在国内很少的。比较流行的是cloudera和原生态。
回复

使用道具 举报

zhuqitian 发表于 2017-4-28 09:44:20
arsenduan 发表于 2017-4-28 09:22
hortonworks平台在国内很少的。比较流行的是cloudera和原生态。

是的,我过几天申请的机器下来了就cloudera搞一个,就算出问题了解决方案也多
两者各有优缺点,cdh中的hive默认两个执行引擎:spark,mr
hortonworks中的hive是:tez,mr
回复

使用道具 举报

2017 发表于 2017-4-28 12:02:19
zhuqitian 发表于 2017-4-28 09:44
是的,我过几天申请的机器下来了就cloudera搞一个,就算出问题了解决方案也多
两者各有优缺点,cdh中的h ...

tez与hive好像也能自己整合。tez很多企业再用。应该还不错。
回复

使用道具 举报

zixia 发表于 2017-10-10 14:32:53
你好,请问你最后弄好了吗?hive on spark。求指教。我也遇到这个问题,自己编译了spark的包,最后都是不成功,不知道是不是自己编译的不对还是步骤不对
回复

使用道具 举报

zixia 发表于 2017-10-10 14:39:01
我的hive时1.2版本,spark是1.3的,官网没有spark源码了,我自己找地方下载的,然后步骤如下:
1)编译spark的源码,without hive,但是中间好像有报错;
2)将编译好的jar包放到$HIVE_HOME/lib下;
3)执行hive命令,set hive.execution.engine=spark;select count(*) from test;
结果报错:Exception in thread "main" java.lang.NoSuchMethodError: org.apache.hadoop.yarn.client.api.TimelineClient.putDomain(Lorg/apache/hadoop/yarn/api/records/ApplicationAttemptId;Lorg/apache/hadoop/yarn/api/records/timeline/TimelineDomain;)V
        at org.apache.tez.dag.history.ats.acls.ATSV15HistoryACLPolicyManager.createTimelineDomain(ATSV15HistoryACLPolicyManager.java:132)
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条