分享

Solr学习(四)DIH全量导入并索引数据

本帖最后由 xioaxu790 于 2014-12-7 20:30 编辑
问题导读
1、如何在data-config.xml文件中指定数据源?

2、怎样加入一个请求处理者的配置?
3、如何使用Tomcat?



本文接上一篇:Solr学习(三) 牛刀小试之SolrJ
根据前面的步骤,我们已经配置好了Solr,以及加入了中文分词器。
下面介绍怎么利用DIH从Oracle数据库和Mysql数据库导入数据,并为数据建立索引。

(一)Oracle数据库的全量DIH
(1)数据库中创建一个表,并插入两条数据:
  1. create table UserInfo   
  2. (   
  3.     userID number constraint userID_pk primary key,   
  4.     userName varchar(30) not null,   
  5.     userAge number not null        
  6. )   
  7.    
  8. insert into UserInfo values(1,'jiyiqin',25)  
  9. INSERT INTO USERINFO VALUES ( 2, '我的名字是季义钦', 25 );  
  10.    
  11. select USERID,USERNAME,USERAGE from USERINFO
复制代码


(2)配置solrconfig.xml:
打开Solr主目录的conf文件夹下(E:\SOLR_HOME\solr\collection1\conf)的配置文件solrconfig.xml,加入一个请求处理者配置:
  1. <requestHandler name="/dataimport" class="org.apache.solr.handler.dataimport.DataImportHandler">  
  2.     <lst name="defaults">  
  3.         <str name="config">data-config.xml</str>   
  4.     </lst>  
  5.   </requestHandler>
复制代码


(3)新建data-config.xml:
就在这个同级目录conf下新建一个配置文件data-config.xml,加入下面内容:
  1. <dataConfig>  
  2.     <dataSource type="JdbcDataSource" driver="oracle.jdbc.driver.OracleDriver" url="jdbc:oracle:thin:@//192.168.1.108:1521/baseinfo" user="JIYIQIN" password="passok" />   
  3.     <document>  
  4.         <entity name="id" query="select USERID,USERNAME,USERAGE from USERINFO">  
  5.             <field column="USERID" name="id"/>   
  6.             <field column="USERNAME" name="userName"/>   
  7.             <field column="USERAGE" name="userAge"/>   
  8.         </entity>  
  9.     </document>  
  10. </dataConfig>  
复制代码



file域配置数据库表的列名,到scheme.xml配置文件中配置的的索引字段名称的映射。
(4)配置schema.xml:
在schema.xml文件中加入这几个字段的配置:
  1. <field name="userName" type="text_general" indexed="true" stored="true" />   
  2. <field name="userAge" type="int" indexed="true" stored="true" />
复制代码


因为id字段已经配置了,所以不需要我们加了,它可是必须的,是一个唯一主键。
配置结束。

(5)加入JDBC驱动:
将oracle的JDBC驱动(ojdbc6.jar)放到部署到tomcat的webapps下的solr的lib文件夹(E:\apache-tomcat-7.0.47\webapps\solr\WEB-INF\lib)下。
我的jdk是版本7的,oracle是11.2.0.1的,到官网下载对应的这个JDBC的jar包就可以。

(6)加入导入相关的jar包:
到solr的解压包的dist目录(E:\solr-4.5.1\dist)下找到solr-dataimporthandler-4.5.1.jar和solr-dataimporthandler-extras-4.5.1.jar这两个jar包,同样放到部署到tomcat的webapps下的solr的lib文件夹(E:\apache-tomcat-7.0.47\webapps\solr\WEB-INF\lib)下。
注意:要进行增量导入还需要另外一个jar包,但是我们这里是先测试全量导入。

好了。启动Tomcat,在浏览器中输入: http://localhost:80/solr/dataimport?command=full-import 进行全量导入。
到查询界面,查询userName这个字段,包含“名字”这个中文词的记录。如图:
1.png

(二)MYSQL数据库的全量DIH
所有步骤与Oracle的一模一样,只是有些步骤有些细微差别。
(1)data-config.xml文件中指定的数据源:
  1. <dataSource type="JdbcDataSource" driver="com.mysql.jdbc.Driver" url="jdbc:mysql://localhost:3306/test" user="root" password="passwd" /><span style="line-height: 1.5; background-color: rgb(255, 255, 255);"> </span>
复制代码

(2)引入的JDBC驱动:
引入的JDBC驱动是:mysql-connector-java-5.1.27-bin.jar
about云下载:http://pan.baidu.com/s/1o6HTyqe

其他步骤就都是一样的了,配置好了之后启动Tomcat,在浏览器中输入: http://localhost:80/solr/dataimport?command=full-import 进行全量导入。
之后便可以进行查询了。





已有(1)人评论

跳转到指定楼层
漂泊一剑客 发表于 2015-7-26 09:20:19
多谢楼主分享
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条