分享

oracle是否能直接写数据到HDFS上?

allenpony 发表于 2013-10-16 13:39:39 [显示全部楼层] 回帖奖励 阅读模式 关闭右栏 3 5263
ORACLE的loader可以直接把HDFS上的数据读出来,请问反过来有工具么?ORACLE直接写HDFS。因为SQOOP倒数据的效率实在是慢的吓死人
              
               
               

已有(3)人评论

跳转到指定楼层
allenpony 发表于 2013-10-16 13:40:17
            

没人知道么,还是完全没这东东
        
回复

使用道具 举报

0flying0 发表于 2013-10-16 13:40:54

            oracle提供大数据相关的插件 《Oracle大数据机和连接器产品支持与Hadoop和Cloudera Manager集成》 http://www.r66r.net/?p=2508   笔者还没有使用过。不过,感觉sqoop的效率还是很高的。笔者在局域网可以基本做到每秒1万条
        
回复

使用道具 举报

allenpony 发表于 2013-10-16 13:41:42

            引用 2 楼 0flying0 的回复:oracle提供大数据相关的插件 《Oracle大数据机和连接器产品支持与Hadoop和Cloudera Manager集成》 http://www.r66r.net/?p=2508   笔者还没有使用过。不过,感觉sqoop的效率还是很高的。笔者在局域网可以基本做到每秒1万条
sqoop有个很要命的问题,就是当指定了split-by字段后,如果该字段数据分布不均匀,比如最大为100,最小为1,但是20-80都没数据,那么会导致无论多少个--num-mappers,都会有大量的map在空跑
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条