将数据库中的数据导入到了solr中之后,如果数据库中的数据有变动,solr中还是第一次导入的旧的数据,因此需要定时检测数据库中的数据变化,并实时将变化的数据同步到solr中。
下载地址:http://download.csdn.net/detail/vtopqx/9891724
将下载的solr-dataimport-scheduler.jar拷贝到solr的lib目录下,
如:G:\solr\server\solr-webapp\webapp\WEB-INF\lib
配置数据库字段,其中关键字段updateTime,该字段非常重要,有了这样一个字段,Solr才能判断增量导入的时候,哪些数据是新的。
因为Solr在dataimport.properties文件中会存储一个默认值last_index_time,记录最后一次做full import或者是delta import(增量导入)的时间。
1、修改数据库连接文件配置db-data-config.xml文件,配置如下:
<dataConfig>
<dataSource type="JdbcDataSource"driver="com.mysql.jdbc.Driver"url="jdbc:mysql://localhost:3306/solr" user="root"password="root" />
<document>
<entity name="solr_user"pk="id"
query="SELECT* FROM solr_user where isdelete =0 "
deltaImportQuery="SELECT* FROM solr_user where id = '${dih.delta.id}'"
deletedPkQuery="SELECTid FROM solr_user where isdelete =1 "
deltaQuery="SELECTid FROM solr_user where updateTime >'${dataimporter.last_index_time}'">
<field column="id"name="id"/>
<field column="name"name="name"/>
<fieldcolumn="updateTime" name="updateTime"/>
</entity>
</document>
</dataConfig>
属性说明:
**data-config.xml里面的数据 **
<!-- transformer 格式转化:HTMLStripTransformer 索引中忽略HTML标签 --->
<!-- query:查询数据库表符合记录数据 --->
<!-- deltaQuery:增量索引查询主键ID ---> 注意这个只能返回ID字段
<!-- deltaImportQuery:增量索引查询导入数据 --->
<!-- deletedPkQuery:增量索引删除主键ID查询 ---> 注意这个只能返回ID字段
配置说明:
query查询是指 查询出表里所有的符合条件的数据,因为笔者测试的有删除业务,所以
where 后面有一个限定条件isdelete=0,意思为查询未被删除的数据
(注意这个query查询只对第一次全量导入有作用,对增量导入不起作用)
deltaQuery的意思是,查询出所有经过修改的记录的ID
可能是修改操作,添加操作,删除操作产生的
(此查询只对增量导入起作用,而且只能返回ID值)
deletedPkQuery此操作值查询那些数据库里伪删除的数据的ID(即isdelete标识为1的数据)
solr通过它来删除索引里面对应的数据
(此查询只对增量导入起作用,而且只能返回ID值)
deltaImportQuery此查询是获取以上两步的ID,然后把其全部数据获取,根据获取的数据
对索引库进行更新操作,可能是删除,添加,修改
(此查询只对增量导入起作用,可以返回多个字段的值,一般情况下,都是返回所有字段的列)
注:
** **
**1.如果只涉及添加,与修改业务,那么数据库里只需额外有一个timpstamp字段
就可以了,默认值为当前系统时间,CURRENT_TIMESTAMP(笔者的数据为mysql的)
**2.**如果还涉及删除业务,那么数据里就需额外再多添加一个字段isdelete,int类型的
用0,1来标识,此条记录是否被删除,当然也可以用其他字段标识,ture或false都可以 **
2、修改managed-schema文件,新增索引字段
<field name="name"type="string" indexed="true" stored="true"multiValued="false"/>
<field name="content"type="string" indexed="true" stored="true"multiValued="false"/>
<field name="updateTime"type="date" indexed="true" stored="true" />
由于solr5.x中已经有默认<uniqueKey>id</uniqueKey>属性配置,因此当数据库字段名称为id时可以不用配置,主键字段为其它名称时需要配置<field>
进入solr_home目录,如:/solr/server/solr/
新建conf目录,并创建dataimport.properties文件,内容如下:
#################################################
# #
# dataimport scheduler properties #
# #
#################################################
# tosync or not to sync
# 1- active; anything else - inactive
# 这里的配置不用修改
syncEnabled=1
# which cores to schedule
# ina multi-core environment you can decide which cores you want syncronized
# leave empty or comment it out if using single-core deployment
# 修改成你所使用的core,我这里是我自定义的core:simple
syncCores=solr_db_scheduler
# solr server name or IP address
# [defaults to localhost if empty]
这个一般都是localhost不会变
server=localhost
# solr server port
# [defaults to 80 if empty]
# 安装solr的tomcat端口,如果你使用的是默认的端口,就不用改了,否则改成自己的端口就好了
port=8983
# application name/context
# [defaults to current ServletContextListener's context (app) name]
# 这里默认不改
webapp=solr
# URL params [mandatory]
# remainder of URL
# 这里改成下面的形式,solr同步数据时请求的链接
params=/dataimport?command=delta-import&clean=false&commit=true
# schedule interval
# number of minutes between two runs
# [defaults to 30 if empty]
#这里是设置定时任务的,单位是分钟,也就是多长时间你检测一次数据同步,根据项目需求修改
# 开始测试的时候为了方便看到效果,时间可以设置短一点
interval=1
# 重做索引的时间间隔,单位分钟,默认7200,即5天;
# 为空,为0,或者注释掉:表示永不重做索引
reBuildIndexInterval=7200
# 重做索引的参数
reBuildIndexParams=/select?qt=/dataimport&command=full-import&clean=true&commit=true
# 重做索引时间间隔的计时开始时间,第一次真正执行的时间=reBuildIndexBeginTime+reBuildIndexInterval*60*1000;
# 两种格式:2012-04-11 03:10:00 或者 03:10:00,后一种会自动补全日期部分为服务启动时的日期
reBuildIndexBeginTime=03:10:00
以上配置可以简单修改红色部分即可,默认为一分钟检测一次,如果有数据变动则同步。
以上配置完成后,停止solr,并重启
Solr.cmd stop –all
Solr.cmd start
浏览器访问:http://localhost:8983/solr/ 选择相应的core后,可以看到之前的已导入的数据库数据有三条,
然后修改数据库数据,新增一条和修改一条以及删除一条:
改完之后,再次查询solr(注:由于前面配置的是1分钟后刷新,所以需要等一分钟),再次查询如下图:
可以看到张三已经被删除,王五做了修改,test新增。
至此solr与数据库数据同步完成。
版权说明 : 本文为转载文章, 版权归原作者所有 版权申明
原文链接 : https://blog.csdn.net/vtopqx/article/details/74910305
内容来源于网络,如有侵权,请联系作者删除!