分享

spark读取hbase数据报错java.io.NotSerializableException: org.apache.hadoop.hba...

bioger_hit 发表于 2015-1-8 12:20:52 [显示全部楼层] 回帖奖励 阅读模式 关闭右栏 2 37799
本帖最后由 bioger_hit 于 2015-1-8 12:24 编辑
遇到此问题整理下,加入下面代码即解决

spark读取hbase数据
老是报错
15/01/08 10:30:27 ERROR Executor: Exception in task 0.0 in stage 1.0 (TID 1)
java.io.NotSerializableException: org.apache.hadoop.hbase.io.ImmutableBytesWritable
但如果这个表的记录为0,则不报错,只要有数据就报错

欢迎加入about云群425860289432264021 ,云计算爱好者群,关注about云腾讯认证空间

已有(2)人评论

跳转到指定楼层
bioger_hit 发表于 2015-1-8 12:23:10




  1. class MyRegistrator extends KryoRegistrator {
  2. override def registerClasses(kryo: Kryo) {
  3. kryo.register(classOf[org.apache.hadoop.hbase.io.ImmutableBytesWritable])
  4. kryo.register(classOf[org.apache.hadoop.hbase.client.Result])
  5. }
  6. }
复制代码



然后
  1. System.setProperty("spark.serializer","org.apache.spark.serializer.KryoSerializer")
  2. System.setProperty("spark.kryo.registrator", "MyRegistrator")
复制代码









回复

使用道具 举报

高帝斯法则 发表于 2015-1-8 14:32:14


  • System.setProperty("spark.serializer","org.apache.spark.serializer.KryoSerializer")
  • System.setProperty("spark.kryo.registrator", "MyRegistrator")

上面这两行代码位置是不是放错了?
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条