分享

Hive的起源及详细介绍

w123aw 2014-1-11 01:19:09 发表于 介绍解说 [显示全部楼层] 回帖奖励 阅读模式 关闭右栏 8 56752
Hive最初是应Facebook每天产生的海量新兴社会网络数据进行管理和机器学习的需求而产生和发展的。那么,到底什么是Hive,我们先看看Hive官网Wiki是如何介绍Hive的。

Apache Hive数据仓库软件提供对存储在分布式中的大型数据集的查询和管理,它本身是建立在Apache Hadoop只上,主要提供以下功能:它提供了一系列的工具,可用来对数据进行提取/转化/加载(ETL);是一种可以存储、查询和分析存储在HDFS(或者HBase)中的大规模数据的机制;查询是通过MapReduce来完成的(并不是所有的查询都需要MapReduce来完成,比如select * from XXX就不需要;在Hive0.11对类似select a,b from XXX的查询通过配置也可以不通过MapReduce来完成,

Hive是一种建立在Hadoop文件系统上的数据仓库架构,并对存储在HDFS中的数据进行分析和管理;那么,我们如何来分析和管理那些数据呢?

  Hive定义了一种类似SQL的查询语言,被称为HQL,对于熟悉SQL的用户可以直接利用Hive来查询数据。同时,这个语言也允许熟悉 MapReduce 开发者们开发自定义的mappers和reducers来处理内建的mappers和reducers无法完成的复杂的分析工作。Hive可以允许用户编写自己定义的函数UDF,来在查询中使用。Hive中有3种UDF:User Defined Functions(UDF)、User Defined Aggregation Functions(UDAF)、User Defined Table Generating Functions(UDTF)。

  今天,Hive已经是一个成功的Apache项目,很多组织把它用作一个通用的、可伸缩的数据处理平台。

  当然,Hive和传统的关系型数据库有很大的区别,Hive将外部的任务解析成一个MapReduce可执行计划,而启动MapReduce是一个高延迟的一件事,每次提交任务和执行任务都需要消耗很多时间,这也就决定Hive只能处理一些高延迟的应用(如果你想处理低延迟的应用,你可以去考虑一下Hbase)。同时,由于设计的目标不一样,Hive目前还不支持事务;不能对表数据进行修改(不能更新、删除、插入;只能通过文件追加数据、重新导入数据);不能对列建立索引(但是Hive支持索引的建立,但是不能提高Hive的查询速度。如果你想提高Hive的查询速度,请学习Hive的分区、桶的应用)。

已有(8)人评论

跳转到指定楼层
june_fu 发表于 2015-3-8 20:34:32
回复

使用道具 举报

AlexFeng 发表于 2015-6-26 14:58:36
回复

使用道具 举报

ymhua 发表于 2015-8-4 17:16:22
讲的很明白,很容易看懂,谢谢!
回复

使用道具 举报

dfsj77118 发表于 2015-8-4 18:13:54
回复

使用道具 举报

duan5638 发表于 2015-11-15 22:05:59
谢谢共享 太感谢了
回复

使用道具 举报

spftoto 发表于 2018-6-14 15:43:04
数据仓储跟数据库有什么区别?
回复

使用道具 举报

arsenduan 发表于 2018-6-14 16:24:37
spftoto 发表于 2018-6-14 15:43
数据仓储跟数据库有什么区别?

数据仓库存储的是历史数据数据库存储的是线上数据
形式上区别不大,可以通过用途、价值区分。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条