分享 impala集成LDAP
阿飞 2014-12-26 23:46
目的: 为解决kerberos安全机制下的impala,resin cache kerberos tgt maxrenewlife天失效问题。 说明: impala启用LDAP后,会优先选择LDAP用户密码认证,当LDAP认证失败时自动选择kerberos安全认证。 步骤: 关闭防火墙,设置开机不启动防火墙 sudo /etc/init.d/iptab ...
1425 次阅读|0 个评论
分享 HBase Compaction入门
阿飞 2014-12-26 21:05
1. Compaction是什么 合并多个HFile生成一个HFile Compaction有两种: Minor Compaction(部分文件合并) Major Compaction(完整文件合并) 2.为什么要Compaction? 减少HFile文件的个数 提高性能 清除过期和删除数据 HBase在split和major compact的一些非通常情况下的触发条件 ...
1822 次阅读|0 个评论
分享 Hadoop上的中文分词与词频统计实践
阿飞 2014-12-1 23:05
首先来推荐相关材料: http://xiaoxia.org/2011/12/18/map-reduce-program-of-rmm-word-count-on-hadoop/ 。小虾的这个统计武侠小说人名热度的段子很有意思,照虎画猫来实践一下。 与其不同的地方有:   0)其使用Hadoop Streaming,这里使用MapReduce框架。   1)不同的中文分词方法,这里使用IKAnalyzer, ...
1112 次阅读|0 个评论
分享 namenode gc导致的故障及解决办法记录
阿飞 2014-11-5 20:29
故障现象: Hadoop集群异常,所有的hdfs操作都出现问题。 几十个 job报以下错 FAILED: RuntimeException org.apache.hadoop.ipc.RemoteException(org.apache.hadoop.ipc.StandbyException): Operation category WRITE is not supported in state standby 或者: FAILED: RuntimeExceptio ...
16737 次阅读|0 个评论 热度 2
分享 OpenStack 本地存储 Resize 的一些问题
阿飞 2014-7-28 12:24
Resize 分为 本机 Resize 和跨机器迁移 Resize 两种,而跨机器迁移 Resize 又涉及到本地磁盘存储和共享存储两种方式。这里只说利用本地存储进行跨机器 Resize. Resize 依赖: 本机 Resize 时候,需要在 nova.conf 中加入 allow_resize_to_same_host = True, my_ip 指向自己。 跨机器 Resize 时候,需要在 nova.conf ...
1166 次阅读|0 个评论
分享 install openQRM for rhel6.2
阿飞 2014-7-28 12:22
openQRM在RHEL6.2平台部署安装 平台环境 * RHEL6.2x86_64 * 部署KVM虚拟机 安装openQRM * 采用svn安装方法,首先安装subversion 1.#yum install subversion * 安装mysql数据库服务器(这个步骤在后续web设置中需要使用到mysql数据库) 此步骤重要, 因为后续openQRM初始化需要依赖这一步中的安装的mysql ...
743 次阅读|0 个评论
分享 使用swift作为glance后端存储
阿飞 2014-7-28 12:20
假设: 你的swift和glance都可以正常工作(可以通过glance index和swift stat验证) swift使用keystone认证 swift使用keystone认证 keystone认证url: http://192.168.6.2:5000/v2.0 swift用户: service:swift swift用户密码: abc123 要使glance使用swift作为后端存储,只需要修改/etc/glance/glance-a ...
976 次阅读|0 个评论
分享 Swift应用于网站数据的存储
阿飞 2014-7-28 12:19
这两天有一个项目,客户只要求基于openstack平台上两个实例里跑web服务,实现HA。 我用nginx做的两个网站负载均衡,负载均衡里默认有宕机踢出机制。 至于web的数据存哪里?做的是负载均衡,两个web服务器数据必须是同步的,需要放在共享存储上边,nova-volumes只能一个实例对应一个逻辑卷,保证不了数据的一致性和 ...
645 次阅读|0 个评论
分享 测试用swift来存放实例
阿飞 2014-7-28 12:18
用cloudfuse挂载swift到/var/lib/nova/instance上。 具体cloudfuse配置请参阅: http://blog.lightcloud.cn/?p=29 挂载swift id nova uid=162(nova) gid=162(nova) 组=162(nova),99(nobody),497(fuse),107(qemu) rm -fr /var/lib/nova/instance/* cloud -o uid=162 -o gid=162 -o allow_other /var/lib/nova/ ...
751 次阅读|0 个评论
分享 OpenStack中给实例的fixed和float Ip 设置iptables策略
阿飞 2014-7-28 12:17
创建instance时候,compute节点上会添加一些针对这个instance的iptables策略。 目录 1 fixed ip策略 2 floating ip策略 fixed ip策略 例如instances-00000032这个实例 instances_gateway='10.0.0.2' fixed_range='10.0.0.0/24' instance_fixed_ip='10.0.0.3' #nova-compute-inst-32的'32'等于instances ...
1334 次阅读|0 个评论
关闭

推荐上一条 /2 下一条