立即注册 登录
About云-梭伦科技 返回首页

maizhu的个人空间 https://www.aboutyun.com/?8077 [收藏] [复制] [分享] [RSS]

日志

hadoop中counter的使用

已有 1071 次阅读2014-10-27 21:59 |个人分类:HADOOP_MAPRED| counter

1、首先定义一个枚举类型
public static enum LOG_PROCESSOR_COUNTER {
         BAD_RECORDS
  };

2、在mapper或者reducer中增加计数器
context.getCounter(LOG_PROCESSOR_COUNTER.BAD_RECORDS).increment(1);
3、在driver当中获取定义的counters
    Job job = new Job(getConf(), "log-analysis");
      ……
    Counters counters = job.getCounters();
   Counter badRecordsCounter = counters.findCounter(LOG_PROCESSOR_COUNTER.BAD_RECORDS);
    System.out.println("# of Bad Records:"+badRecordsCounter.getValue());

4、执行job,观察输出的结果



路过

雷人

握手

鲜花

鸡蛋

评论 (0 个评论)

facelist doodle 涂鸦板

您需要登录后才可以评论 登录 | 立即注册

关闭

推荐上一条 /2 下一条