立即注册 登录
About云-梭伦科技 返回首页

xuanxufeng的个人空间 https://www.aboutyun.com/?53 [收藏] [复制] [分享] [RSS]

日志

分享 Multi-Node Lab
2015-12-21 12:01
Here is OpenStack in a realistic test configuration with multiple physical servers. Prerequisites Linux Network Minimal Install You need to have a system with a fresh install of Linux. You can download the Minimal CD for Ubuntu releases since DevStack will download install all the ...
1322 次阅读|0 个评论
分享 Openstack文件和元数据注入
2015-11-30 11:54
openstack在创建实例的时候可以将文件注入到实例中,也可以传一些参数到实例,这在有些情况下会非常有用,比如修改root密码,注入ssh密钥,对实例的个性化定制(后面会举例子) Note: 只有注入文件失败才会使创建实例过程失败 对注入的支持可以有loop, guestfs, nbd, mount等,其中 mount 不安全。缺省使用:&n ...
1142 次阅读|0 个评论
分享 大型网站之分布式会话管理
2015-11-20 15:38
大型网站之分布式会话管理 随着网站的功能和用户越来越多,单机器服务部署的Web应用已经不能再支持了。这时候就需要优化或调整目前的架构,具体怎么优化,或先优化哪部分,这取决于网站的具体情况, 并非总是一个套路。 如根据使用情况得知,数据库压力大,则就可以先设施读写分离,分库分表,是垂直划分(可以简单的理解 ...
1099 次阅读|0 个评论 热度 1
分享 yum localinstall 解决本地rpm包的依赖问题,以及yum 命令常用方法
2015-10-21 22:00
今天在Fedora 12上安装VBox的时候遇到一点麻烦,还好yum localinstall 帮我轻松的解决这个问题. $ rpm -ivh VirtualBox-3.1-3.1.0_55467_fedora12-1.i686.rpm warning: VirtualBox-3.1-3.1.0_55467_fedora12-1.i686.rpm: Header V4 DSA signature: NOKEY, key ID 6dfbcbae error: Failed dependencies: libQtCore.so.4 is ...
2873 次阅读|0 个评论
分享 Hive调优实战
2015-9-18 17:33
优化时,把hive sql 当做map reduce 程序来读,会有意想不到的惊喜。 理解hadoop 的核心能力,是hive 优化的根本。这是这一年来,项目组所有成员宝贵的经验总结。 长期观察hadoop处理数据的过程,有几个显著的特征 : 1.不怕数据多,就怕数据倾斜。 2.对jobs数比较多的作业运行效率相对比较低 ...
997 次阅读|0 个评论 热度 1
分享 nutch1.4:爬虫定时抓取设置
2015-9-8 16:02
nutch1.4定时爬取数据配合linux定时任务可以实现nutch的自动定时爬取,linux定时任务请参考 linux crontab 配置定时mapreduce job http://www.aboutyun.com/thread-6289-1-1.html (出处: about云开发) 步骤如下: 1、首先查看当前用户的 crontab服务执行命令: crontab -l 执行结果: no ...
1633 次阅读|1 个评论 热度 1
分享 java.lang.NullPointerException记录下来
2015-8-24 18:22
java.lang.NullPointerException atorg.apache.hadoop.hive.ql.io.HiveInputFormat.init(HiveInputFormat.java:255) atorg.apache.hadoop.hive.ql.io.HiveInputFormat.pushProjectionsAndFilters(HiveInputFormat.java:440) a ...
884 次阅读|0 个评论
分享 运行mr例子,卡在Running job: job_1440140081964_0002。
2015-8-21 16:31
运行mr例子,卡在Running job: job_1440140081964_0002。resourcemanager的日志最后显示State change from SUBMITTED to SCHEDULED,nodemanager没有日志。这应该如何解决啊?网上查到的都解决不了
541 次阅读|0 个评论
分享 solr和elasticsearch总结
2015-7-28 17:45
前段时间在系统的学习solr和elasticsearch,前者是之前就接触过的,后者是其他部门过来一个大神带过来的技术。之前我们用solr搭建的是单核(core)全文检索,一个网站,一个solr,一个索引库,一个表,很有局限性,最近搭起了一个多核(cores)的solr,同时通过配置 Scripts文件( solr_home/conf/scripts.conf )里内容搭 ...
1261 次阅读|0 个评论
分享 Hadoop2.X异常No FileSystem for scheme: hdfs
2015-7-22 21:41
把eclipse中的hadoop项目,换了一个工作空间,再次启动任务时,发现报如下异常: lt;pre name="code" class="java"gt;java.io.IOException: No FileSystem for scheme: hdfs at org.apache.hadoop.fs.FileSystem.getFileSystemClass(FileSystem.jav ...
784 次阅读|0 个评论
关闭

推荐上一条 /2 下一条