立即注册 登录
About云-梭伦科技 返回首页

pig2的个人空间 https://www.aboutyun.com/?61 [收藏] [复制] [分享] [RSS]

日志

置顶 ·分享 spark开发基础:一文能帮助大家阅读比较常见的Scala程序
2016-11-6 19:52
问题导读 1.Scala中有哪些常见符号? 2.本文讲了哪些符号? 3.你对符号的理解是什么? 4.-,-,=,Int=,_ 它们含义是什么?用在什么地方? 当我们学习spark的时候,我们知道spark是使用Scala语言开发的,由于语言是相通的,所以对于传统程序员【Java,.net,c等】,我们能看懂Scala程序是 ...
1720 次阅读|0 个评论
置顶 ·分享 hadoop、hbase、hive、zookeeper版本对应关系
2014-4-9 21:58
最新版本: hadoop、hbase、hive、zookeeper版本对应关系续 hadoop与HBase版本对应关系: Hbase Hadoop 0.92.0 1.0.0 0.92.1 1.0.0 0.92.2 1.0.3 0.94.0 1.0.2 0.94.1 1.0.3 0.94.2 1.0.3 0 ...
25828 次阅读|7 个评论 热度 17
分享 hadoop、hbase、hive数据倾斜解决记录
2014-6-15 17:39
hbase hbase的话 看你是想要有序还是想要均匀了 如果想要有序,局部region多split几次 可以解决 如果均匀优先,key可以先hash作为前缀再存进去 hive hive 记得数据是直接存的hdfs hdfs的均衡方法还是可以的 mapreduce MapReduce 数据分布倾斜性 http://www.aboutyun.com/thread-8131-1-1.html
2469 次阅读|0 个评论 热度 1
分享 开发人员该如何理解Linux(ubuntu)工具及在Linux上安装hadoop、openstack配置总结
2014-6-13 11:05
开发人员该如何理解Linux(ubuntu)工具及在Linux上安装hadoop、openstack配置总结
刚接触大数据被软件的安装和配置给困扰,每次总是找各种安装文档,这让很多传统开发人员摸不着头脑。 Linux工具的认识 大数据与云技术的产生,使得我们重新使用Linux,但是对于惯用window我们,对于Linux很不适应。 比如我们使用工具的使用都是很直观的,我们打开word就是word界面 ,我们打开txt就是,就 ...
815 次阅读|0 个评论
分享 hadoop与云技术、云计算混肴澄清
2014-6-10 00:38
问题导读: 1.什么是云技术 2.目前比较火的云技术包含哪些? 3.hadoop是否是云技术 一、初学者问题: 请教个问题在实际的生产环境里面,数据源产生的地方部署Hadoop,还是需要程序把数据给迁移到Hadoop云上面去啊 回答: (1)hadoop不是云,hadoop是处理大数据的 (2)如果产 ...
1462 次阅读|1 个评论 热度 3
分享 大数据中级入门问题汇总
2014-6-6 20:58
大数据中级入门问题汇总
1.hadoop2.2.0的Eclipse开发环境搭建,能不能部署在非hadoop节点的机器上啊? 可以的 Windows上使用Eclipse远程连接Hadoop进行程序开发 http://www.aboutyun.com/thread-6001-1-1.html 2. 请教个问题在namenode1上面启动start-yarn.sh总是&nbs ...
3160 次阅读|2 个评论 热度 4
分享 让你系统认识flume及安装和使用flume1.5传输数据到hadoop2.2
2014-6-2 12:55
问题导读: 1.什么是flume? 2.如何安装flume? 3.flume的配置文件与其它软件有什么不同? 一、认识flume 1.flume是什么? 这里简单介绍一下,它是Cloudera的一个产品 2.flume是干什么的? 收集日志的 3.flume如何搜集日志? 我们把flume比作情报人员 (1)搜集信息 (2)获取记忆信息 ...
7252 次阅读|3 个评论 热度 3
分享 hadoop2.2 hbase0.96 hive0.12安装整合详细高可靠文档
2014-5-28 16:21
网上这个文档非常流行,但是感觉缺乏一些细节的指导,除非对Linux和hadoop有一定的认识。否则新手很难从这些文档中安装成功。这里重新实践了一下,hadoop2.2 ,hbase0.96,hive0.12的安装及他们的整合,这里整理一下。 1.首先hadoop2.2的安装 hadoop2.2完全分布式最新高可靠安装文档 http://www.aboutyun.com/thread- ...
856 次阅读|0 个评论
分享 hbase0.96与hive0.12整合高可靠文档及问题总结
2014-5-28 14:48
网上有很多资料,看到大部分都是一致的,看到一篇国外的文章,原来都是翻译的,并没有经过实践。这里记录一下实践的过程。 本篇是在: hadoop2.2完全分布式最新高可靠安装文档 http://www.aboutyun.com/thread-7684-1-1.html hbase 0.96整合到hadoop2.2三个节点全分布式安装高可靠文档 http://www.aboutyu ...
3345 次阅读|0 个评论
分享 云技术、大数据(hadoop)入门常见问题回答
2014-5-26 17:16
本文链接: http://www.aboutyun.com/thread-7826-1-1.html 问题导读: 当我们学习一门新技术的时候,我们总是产生各种各样的问题,这些问题整理出来,包括该 1.如何学习hadoop? 2.hadoop常见问题? 3.还有hbase、hive安装使用等? 1.你知道搭建hadoop平台需要些什么软件? 简单来 ...
878 次阅读|1 个评论 热度 1
分享 虚拟机正常使用,不能正常与宿主主机之间复制的原因,可能被360结束进程
2014-5-25 23:53
虚拟机正常使用,不能正常与宿主主机之间复制的原因,可能被360结束进程
原先虚拟机Linux(ubuntu),可以与宿主机之间进行“复制”,“粘帖”,并且可以上网。 偶尔一天出现,虚拟机出现各种状况: 1.以前都能上网,但是今天不能ping通外网,虚拟机之间和宿主主机之间能ping通。虚拟机之间也能ping通。 但是在ping外网的时候,显示的unkonwn host,出现这个的一般是原因是dns未设置,但是 查看 ...
860 次阅读|0 个评论
分享 cdh 和 hadoop的版本 对应关系(可收藏)
2014-5-22 12:48
问题导读: 1.hadoop2.2.0以上分别对应CDH什么版本? 2.CDH3对应hadoop的哪个版本? 3.hadoop2.3对应CDH哪个版本? 4.目前hadoop2.4是否有CDH版本? 了解CDH与hadoop的对应关系,有助于我们升级、编程等,这里附上一张图 对于不太了解CDH和hadoop之间关系的,可以看 大数据入门:各种大数据技 ...
2389 次阅读|1 个评论 热度 1
关闭

推荐上一条 /2 下一条