立即注册 登录
About云-梭伦科技 返回首页

langke93的个人空间 https://www.aboutyun.com/?1415 [收藏] [复制] [分享] [RSS]

日志

分享 hive下UDF函数的使用
2015-3-6 15:40
1、编写函数 package com.example.hive.udf; import org.apache.hadoop.hive.ql.exec.UDF; import org.apache.hadoop.io.Text; public final class LowerCase extends UDF { public Text evaluate(final Text s) { &nb ...
1320 次阅读|0 个评论
分享 Hadoop简单API的web应用开发
2015-1-22 22:01
Hadoop简单API的web应用开发
最近写了个web程序来调用hadoop的api,对hadoop自带的管理方式进行了二次开发,加强了可操作性。现在简单的介绍下功能和方法。 hadoop版本为1.xx 文件查看功能 先来个页面截图 这个功能实现主要是利用了Hadoop的FileSystem类得到HDFS文件的对象,并利用此提供的方法对HDFS进行操作。其中文件类型的判断用到 ...
485 次阅读|1 个评论 热度 1
分享 Hadoop 2.x中fsimage和edits合并源码分析及配置等说明
2015-1-5 11:44
为了让Standby NN的状态和Active NN保持同步,即元数据保持一致,它们都将会和JournalNodes守护进程通信。当Active NN执行任何有关命名空间的修改,它需要持久化到一半以上的JournalNodes上(通过edits log持久化存储),而Standby NN负责观察edits log的变化,它能够读取从JNs中读取edits信息,并更新其内部的命名空间。一 ...
1208 次阅读|1 个评论 热度 1
分享 kafka0.8.1.1彻底删除topic并清空log内容
2014-12-31 01:45
kafka0.8.1.1以及之前版本都无法使用类似一条命令就彻底删除topic,以前看过网上一些删除命令不过只是在zookeeper注销信息而已,但是实际的日志内容还是保存在kafka log中,因为个人需要所以慢慢琢磨了方法彻底清除topic(ps:kafka0.8.2好像直接支持直接删除,不过现在还是beta版 )。 本人机器环境如下: Kafka目录:/u ...
16880 次阅读|0 个评论
1234
关闭

推荐上一条 /2 下一条