分享 cloudera manager 5添加设备DNS反向解析问题
howtodown 2014-9-15 18:35
添加设备时agent会使用host命令反向解析获取cloudera manager server 主机名,我这里服务器默认安装了bind,而且/etc/hosts解析也不能成功,导致无法获取server主机名,错误信息如下: BEGIN host -t PTR 172.16.11.25 25.11.16.172.in-addr.arpa domain name pointer localhost. END (0) usin ...
718 次阅读|0 个评论
分享 cloudera manager 4.8 添加设备DNS反向解析问题
howtodown 2014-9-15 18:35
添加设备时agent会使用host命令反向解析获取cloudera manager server 主机名,我这里服务器默认安装了bind,而且/etc/hosts解析也不能成功,导致无法获取server主机名,错误信息如下: BEGIN host -t PTR 172.16.11.25 25.11.16.172.in-addr.arpa domain name pointer localhost. END (0) usin ...
544 次阅读|0 个评论
分享 apache kafka v0.8入门遇到问题
howtodown 2014-9-15 18:34
官方文档: https://kafka.apache.org/documentation.html 说下quick start遇到问题: 运行kafka二进制项目不需要scala 文档API栏目,每个API后面有example,字比较小,打开里面有示例 错误: 1. producer的配置只需要kafka server ip即可,但如果kafka server使用hostname作为zookeeper地 ...
946 次阅读|0 个评论
分享 cloudera cdh中hadoop-client包的作用
howtodown 2014-9-15 18:33
hadoop-client是为了让开发者可以很方便的使用当前节点hadoop的jar包,ch4版本的hadoop将目录分为“/usr/lib/hadoop-hdfs”、“/usr/lib/hadoop-mapreduce”,“/usr/lib/hadoop-yarn”等多个目录,这样引用jar包也会比较麻烦。通过yum安装hadoop-client后会生成软链接: MRv1:/usr/lib/hadoop/client-0.20 YA ...
1023 次阅读|0 个评论
分享 cloudera CDH5正式版(与CDH4比较)
howtodown 2014-9-15 18:33
要求JDK7以上,JDK6不被支持 基于apache hadoop2.2稳定版 YARN(MR2) 推荐使用(具备生成环境使用条件),MR1和MR2同时被支持 HDFS快照( Snapshots) 集成Spark Resource Manager HA
398 次阅读|0 个评论
分享 编写接口用于获取Hadoop Job conf 信息
howtodown 2014-9-15 18:33
Hadoop Job完成后可以设置回调接口,一个自定义的URL,比如我的: http://x.x.x.x/log/notify/stat_job/{jobId}/{jobStatus} 之后我在Servlet中可以拿到jobId,通过jobId,就可以拿到Job对象(RunningJob),代码如下: public static RunningJob getJobById(String jobId) { Con ...
536 次阅读|0 个评论
分享 远程Hadoop调试——mapreduce函数调试篇
howtodown 2014-9-15 18:31
,这次记录为调试mapreduce函数,和前几个应用不同,mapreduce为Child进程,不能直接通过bin/hadoop文件中开启远程调试端口,具体操作如下: 1. 选定一台调试机器,修改mapred-site.xml文件,添加如下配置: property namemapred.child.java.opts/name &nb ...
531 次阅读|0 个评论
分享 添加和删除hadoop集群中的节点
howtodown 2014-9-15 18:29
1:添加节点 A:新节点中添加账户,设置无密码登陆 B:Name节点中设置到新节点的无密码登陆 C:在Name节点slaves文件中添加新节点 D:在所有节点/etc/hosts文件中增加新节点(所有节点保持一致) E:在新节点中执行 ./bin/hadoop-daemon.sh start datanode ./bin/hadoop-daemon.sh start t ...
4024 次阅读|2 个评论 热度 3
分享 hbase 自学英文资料很不错
howtodown 2014-9-12 18:30
The Apache HBase™ Reference Guide https://hbase.apache.org/book/book.html
580 次阅读|0 个评论
分享 hive、hbase、zookeeper的关系
howtodown 2014-9-12 11:04
补充一些内容: hive、hbase、zookeeper的关系
776 次阅读|0 个评论
关闭

推荐上一条 /2 下一条