彻底弄清Hive安装过程中的几个疑问点

http://www.aboutyun.com/thread-7881-1-1.html
在此博主的基础上我补充几个自己的疑惑

8.hive 是否需要每个datanode都安装？
9. <property>
    <name>hive.metastore.uris</name>
    <value>uri1,uri2,... </value>//可配置多个 uri   
    <description>JDBC connect string for a JDBC metastore</description>
    </property>
这个配置的含义是什么？
10.当在Hadoop的HA环境中Hive Server安装在哪里比较合适？
11.每个DataNode上都已经安装了Hbase，是否都要安装Hive?




第8问回答：Hive的安装其实有两部分组成，一个是Server端、一个是客户端，所谓服务端其实就是Hive管理Meta的那个Hive,服务端可以装在任何节点上，可以是Namenode上也可以是Datanode的任意一个节点上，至于哪个节点做Hive的服务端，由自己决定，不过在Hadoop的HA环境里我想应该是在两个NameNode里都装成Hive的Server，并且hive.metastore.warehouse.dir 配置成hdfs://****，这样其他节点安装的Hive就都是客户端了，并且hive.metastore.uris值可以指向这两个NameNode的Ip.（仅代表个人理解，如果有不对的地方请多多指教）

主要属性解释：
hive.metastore.uris：指定hive元数据访问路径
hive.metastore.warehouse.dir：（HDFS上的）数据目录
hive.exec.scratchdir：（HDFS上的）临时文件目录
hive.metastore.warehouse.dir默认值是/user/hive/warehouse
hive.exec.scratchdir默认值是/tmp/hive-${user.name}

第9问回答：这个属性都配置在客户端，ip地址指向的是Hive服务端Ip地址，端口是默认的。 可以看到value可以指向多个ip，意思应该是多个Hive Server所在主机。（仅代表个人理解，不吝赐教）

第10问回答：个人认为安装在NameNode所在节点（假如集群有两个NameNode,那么两个NameNode都要安装）。

第11问回答：其实根据前面问题的回答，这个问题已经不需解释，这个问题的底层意思应该是说Hive数据的存储问题，比如Hbase在每个节点上都部署了，并且存储会根据数据的分裂存储在各个Datanode上，那么是不是没有安装Hive的DataNode上就无法存储Hive的数据？其实，Hive数据的存储是根据hive.metastore.warehouse.dir这个属性来配置，这个属性加入制定的是HDFS集群，那么Hive数据的存储已经指向了所有的DataNode了。


对于以上这些疑问已经纠结两天，这是我昨天在论坛的提问http://www.aboutyun.com/thread-10917-1-1.html；对于以上有说错的地方，请不吝赐教，以免误人子弟，谢谢！


下面分享个Hive三种配置的介绍，加深下概念的理解:
一、本地derby这种方式是最简单的存储方式，只需要在hive-site.xml做如下配置便可

<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
<property>
  <name>javax.jdo.option.ConnectionURL</name>
  <value>jdbc:derby:;databaseName=metastore_db;create=true</value>
</property>
<property>
  <name>javax.jdo.option.ConnectionDriverName</name>
  <value>org.apache.derby.jdbc.EmbeddedDriver</value>
</property>
<property>
  <name>hive.metastore.local</name>
  <value>true</value>
</property>
<property>
  <name>hive.metastore.warehouse.dir</name>
  <value>/user/hive/warehouse</value>
</property>
<property>
  <name>hive.metastore.warehouse.dir</name>
  <value>/user/hive/warehouse</value>
</property>
</configuration>

注：使用derby存储方式时，运行hive会在当前目录生成一个derby文件和一个
metastore_db目录。这种存储方式的弊端是在同一个目录下同时只能有一个hive客户端能使用数据库，否则会提示如下错误

hive> show tables;
FAILED: Error in metadata: javax.jdo.JDOFatalDataStoreException: Failed to start database 'metastore_db', see the next exception for details.
NestedThrowables:
java.sql.SQLException: Failed to start database 'metastore_db', see the next exception for details.
FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.DDLTask

二、本地mysql这种存储方式需要在本地运行一个mysql服务器，并作如下配置（下面两种使用mysql的方式，需要将mysql的jar包拷贝到$HIVE_HOME/lib目录下）。

<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<configuration>
<property>
  <name>hive.metastore.warehouse.dir</name>
  <value>/user/hive_remote/warehouse</value>
</property>

<property>
  <name>hive.metastore.local</name>
  <value>true</value>
</property>

<property>
  <name>javax.jdo.option.ConnectionURL</name>
  <value>jdbc:mysql://localhost/hive_remote?createDatabaseIfNotExist=true</value>
</property>

<property>
  <name>javax.jdo.option.ConnectionDriverName</name>
  <value>com.mysql.jdbc.Driver</value>
</property>

<property>
  <name>javax.jdo.option.ConnectionUserName</name>
  <value>hive</value>
</property>

<property>
  <name>javax.jdo.option.ConnectionPassword</name>
  <value>password</value>
</property>
</configuration>


三、远端mysql
这种存储方式需要在远端服务器运行一个mysql服务器，并且需要在Hive服务器启动meta服务。这里用mysql的测试服务器，ip位192.168.1.214，新建hive_remote数据库，字符集位latine1

<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<configuration>

<property>
  <name>hive.metastore.warehouse.dir</name>
  <value>/user/hive/warehouse</value>
</property>

<property>
  <name>javax.jdo.option.ConnectionURL</name>
  <value>jdbc:mysql://192.168.1.214:3306/hive_remote?createDatabaseIfNotExist=true</value>
</property>

<property>
  <name>javax.jdo.option.ConnectionDriverName</name>
  <value>com.mysql.jdbc.Driver</value>
</property>

<property>
  <name>javax.jdo.option.ConnectionUserName</name>
  <value>hive</value>
</property>

<property>
  <name>javax.jdo.option.ConnectionPassword</name>
  <value>password</value>
</property>

<property>
  <name>hive.metastore.local</name>
  <value>false</value>
</property>

<property>
  <name>hive.metastore.uris</name>
  <value>thrift://192.168.1.188:9083</value>
</property>

</configuration>

注：这里把hive的服务端和客户端都放在同一台服务器上了。服务端和客户端可以拆开，将hive-site.xml配置文件拆为如下两部分

1）、服务端配置文件

<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<configuration>

<property>
  <name>hive.metastore.warehouse.dir</name>
  <value>/user/hive/warehouse</value>
</property>

<property>
  <name>javax.jdo.option.ConnectionURL</name>
  <value>jdbc:mysql://192.168.1.214:3306/hive_remote?createDatabaseIfNotExist=true</value>
</property>

<property>
  <name>javax.jdo.option.ConnectionDriverName</name>
  <value>com.mysql.jdbc.Driver</value>
</property>

<property>
  <name>javax.jdo.option.ConnectionUserName</name>
  <value>root</value>
</property>

<property>
  <name>javax.jdo.option.ConnectionPassword</name>
  <value>test1234</value>
</property>
</configuration>


  2）、客户端配置文件

<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<configuration>
<property>
  <name>hive.metastore.warehouse.dir</name>
  <value>/user/hive/warehouse</value>
</property>

<property>
  <name>hive.metastore.local</name>
  <value>false</value>
</property>
<property>
  <name>hive.metastore.uris</name>
  <value>thrift://192.168.1.188:9083</value>
</property>
</configuration>

启动hive服务端程序
$ hive --service metastore

客户端直接使用hive命令即可

root@my188:~$ hive
Hive history file=/tmp/root/hive_job_log_root_201301301416_955801255.txt
hive> show tables;
OK
test_hive
Time taken: 0.736 seconds
hive>

http://blog.csdn.net/reesun/article/details/8556078

他们确实不一样的，下面是一些使用经验，仅供参考：

1.hiveserver:hive以thrift服务的服务器形式运行，允许不同的语言编写客户端进行访问，通过thrift，jdbc，odbc连接器和hive服务器与hive通信，这种方式很适合java编程人员通过jdbc接口去访问hive，但是在实践中，发现并发调用时，很容易出现hiveserver无故宕机，没有jvm的dump文件，hiveserver的程序也毫无输出。

2.metastore:
2.1.内嵌metastore:默认情况下,metastore和hive是运行在同一个进程里,这种方式经过测试，在并发中是最稳定的，使用这种方式，暂时没有出现问题。
2.2.远程metastore:通过配置hive.metastore.local为false,让metastore作为一个单独的进程运行,hive客户端都要连接远程metastore才能执行任务，但是在实践中，一样很容易出现远程metastore无故宕机，同样没有jvm的dump文件，远程metastore程序也毫无输出。

楼主总结的很不错，顶顶。

对于第十个问题：个人认为：
hive只要namenode即可，应该不需要两个节点都安装

desehawk 发表于 2014-12-30 15:55
楼主总结的很不错，顶顶。

对于第十个问题：个人认为：

     <property>
     <name>hive.metastore.uris</name>
     <value>uri1,uri2,... </value>//可配置多个 uri   
    <description>JDBC connect string for a JDBC metastore</description>
    </property>

那这个可配置多个Value 该怎样理解？我感觉这个应该是对应的多个Hive Server吧？

redhat1986 发表于 2014-12-30 15:58
hive.metastore.uris
     uri1,uri2,... //可配置多个 uri   
    JDBC connect string  ...

确实是多个server，一般默认是连接第一个server，如果一旦第一个宕机，就会连接第二个、第三个。

下面是找到的依据：

The Hive metastore is stateless and thus there can be multiple instances to achieve High Availability. Using hive.metastore.uris it is possible to specify multiple remote metastores. Hive will use the first one from the list by default but will pick a random one on connection failure and will try to reconnect.

AdminManual MetastoreAdmin





不过这个hive HA确实有些沉重，因为需要多个服务端数据需同步。

hive HA有另外的方式
Hive HA使用说明及Hive使用HAProxy配置HA(高可用)

上面其实不是hive server，而是metastore server主机




1.hive.metastore.uris指向的是运行metastore服务的主机，并不是指向运行hiveserver的主机，那台主机不用启动hiveserver也ok；
2.直接使用hive命令启动shell环境时，其实已经顺带启动了hiveserver，所以远程模式下其实只需要单独启动metastore，然后就可以进入shell环境正常使用；
3.hiveserver和metastore进程名都叫RunJar。

谢谢楼主分享，总结的很好，很有帮助。
通过大家讨论，学到不少内容

谢谢楼主，这个总结我收藏了

谢谢楼主，这个总结我收藏了

thanks a lot