最新文章专题视频专题问答1问答10问答100问答1000问答2000关键字专题1关键字专题50关键字专题500关键字专题1500TAG最新视频文章推荐1 推荐3 推荐5 推荐7 推荐9 推荐11 推荐13 推荐15 推荐17 推荐19 推荐21 推荐23 推荐25 推荐27 推荐29 推荐31 推荐33 推荐35 推荐37视频文章20视频文章30视频文章40视频文章50视频文章60 视频文章70视频文章80视频文章90视频文章100视频文章120视频文章140 视频2关键字专题关键字专题tag2tag3文章专题文章专题2文章索引1文章索引2文章索引3文章索引4文章索引5123456789101112131415文章专题3
当前位置: 首页 - 正文

solr_学习笔记_v1.1

来源:动视网 责编:小OO 时间:2025-09-29 23:23:39
文档

solr_学习笔记_v1.1

高性能搜索SOLR学习笔记分享相应Module学习总结开发类型Web开发文件内容本文主要介绍solr中query参数、query用法和functionQuery的基本应用,solr,query,参数,functionQuery,查询语法,函数查询!版本作者/修改人日期V1.0全国妖防组V1.1闲杂人等2012-12-07一.Query参数1.CoreQueryParam查询的参数1)q:查询字符串,必须的。2)q.op:覆盖schema.xml的defaultOperator(有空格时用"AN
推荐度:
导读高性能搜索SOLR学习笔记分享相应Module学习总结开发类型Web开发文件内容本文主要介绍solr中query参数、query用法和functionQuery的基本应用,solr,query,参数,functionQuery,查询语法,函数查询!版本作者/修改人日期V1.0全国妖防组V1.1闲杂人等2012-12-07一.Query参数1.CoreQueryParam查询的参数1)q:查询字符串,必须的。2)q.op:覆盖schema.xml的defaultOperator(有空格时用"AN
高性能搜索SOLR 学习笔记 分享

相应Module

学习总结
开发类型Web开发

文件内容本文主要介绍solr中query参数、query用法和functionQuery的基本应用, solr,query,参数,functionQuery,查询语法,函数查询!

  

   

版本作者/修改人

日期
V1.0全国妖防组
V1.1闲杂人等2012-12-07
一.Query参数

1.CoreQueryParam查询的参数

1)q: 查询字符串,必须的。

2)q.op: 覆盖schema.xml的defaultOperator(有空格时用"AND"还是用"OR"操作逻辑),一般默认指定。

3)df: 默认的查询字段,一般默认指定。

4)qt: query type,指定查询使用的Query Handler,默认为“standard”。

5)wt: writer type。指定查询输出结构格式,默认为“xml”。在solrconfig.xml中定义了查询输出格式:xml、json、python、ruby、php、phps、custom。

6)echoHandler:是否在查询结果中显示使用的Query Handler名称。

7)echoParams:是否显示查询参数。none:不显示;explicit:只显示查询参数;all:所有,包括在solrconfig.xml定义的Query Handler参数。

8)indent - 返回的结果是否缩进,默认关闭,用 indent=true|on 开启,一般调试json,php,phps,ruby输出才有必要用这个参数。

9)version - 查询语法的版本,建议不使用它,由服务器指定默认值。

2.CommonQueryParameters

1)sort:排序,格式:sort=+[,+]… 。示例:(inStock desc, price asc)表示先 “inStock” 降序, 再 “price” 升序,默认是相关性降序。

2)start:用于分页定义结果起始记录数,默认为0。

3)rows:用于分页定义结果每页返回记录数,默认为10。

4)fq:filter query。使用Filter Query可以充分利用Filter Query Cache,提高检索性能。作用:在q查询符合结果中同时是fq查询符合的,例如:q=mm&fq=date_time:[20081001 TO 20091031],找关键字mm,并且date_time是20081001到20091031之间的。

5)fl:field list。指定返回结果字段。以空格“ ”或逗号“,”分隔。

6)debugQuery:设置返回结果是否显示Debug信息。

7)explainOther:设置当debugQuery=true时,显示其他的查询说明。

8)defType:设置查询解析器名称。

9)timeAllowed:设置查询超时时间。

10)omitHeader:设置是否忽略查询结果返回头信息,默认为“false”。

二.查询语法

1.匹配所有文档:*:*

2.强制、阻止和可选查询:

1)Mandatory:查询结果中必须包括的(for example, only entry name containing the word make)

Solr/Lucene Statement:+make, +make +up ,+make +up +kiss

2)prohibited:(for example, all documents except those with word believe)

Solr/Lucene Statement:+make +up -kiss

3)optional:

Solr/Lucene Statement:+make +up kiss

3.布尔操作:AND、OR和NOT布尔操作(必须大写)与Mandatory、optional和prohibited相似。

1)make AND up = +make +up :AND左右两边的操作都是mandatory

2)make || up = make OR up=make up :OR左右两边的操作都是optional

3)+make +up NOT kiss = +make +up –kiss

4)make AND up OR french AND Kiss不可以达到期望的结果,因为AND两边的操作都是mandatory的。

4.子表达式查询(子查询):可以使用“()”构造子查询。

For ex:(make AND up) OR (french AND Kiss)

5.子表达式查询中阻止查询的:

For ex:make (-up):只能取得make的查询结果;要使用make (-up *:*)查询make或者不包括up的结果。

6.多字段fields查询:通过字段名加上分号的方式(fieldName:query)来进行查询

For ex:entryNm:make AND entryId:3cdc86e8e0fb4da8ab17caed42f6760c

7.通配符查询(wildCard Query):

1)通配符?和*:“*”表示匹配任意字符;“?”表示匹配出现的位置。

For ex:ma?*(ma后面的一个位置匹配),ma*(ma后面两个位置都匹配)

2)查询字符必须要小写:+Ma +be**可以搜索到结果;+Ma +Be**没有搜索结果

3)查询速度较慢,尤其是通配符在首位:主要原因一是需要迭代查询字段中的每个term,判断是否匹配;二是匹配上的term被加到内部的查询,当terms数量达到1024的时候,查询会失败。

4)Solr中默认通配符不能出现在首位(可以修改QueryParser,设置

setAllowLeadingWildcard为true)

5)set setAllowLeadingWildcard to true.

8.模糊查询、相似查询:不是精确的查询,通过对查询的字段进行重新插入、删除和转换来取得得分较高的查询解决(由Levenstein Distance Algorithm算法支持)。

1)一般模糊查询:for ex:make-believ~

2)门槛模糊查询:对模糊查询可以设置查询门槛,门槛是0~1之间的数值,门槛越高表面相似度越高。For ex:make-believ~0.5、make-believ~0.8、make-believ~0.9

9.范围查询(Range Query):Lucene支持对数字、日期甚至文本的范围查询。结束的范围可以使用“*”通配符。

For ex:

1)日期范围(ISO-8601 时间GMT):sa_type:2 AND a_begin_date:[1990-01-01T00:00:00.000Z TO 1999-12-31T24:59:99.999Z]

2)数字:salary:[2000 TO *]

3)文本:entryNm:[a TO a]

10.日期匹配:YEAR, MONTH, DAY, DATE (synonymous with DAY) HOUR, MINUTE, SECOND, MILLISECOND, and MILLI (synonymous with MILLISECOND)可以被标志成日期。

For ex:

1)r_event_date:[* TO NOW-2YEAR]:2年前的现在这个时间

2)r_event_date:[* TO NOW/DAY-2YEAR]:2年前前一天的这个时间

三.函数查询(Function Query)

函数查询 可以利用 numeric域的值 或者 与域相关的的某个特定的值的函数,来对文档进行评分。

1.使用函数查询的方法

这里主要有三种方法可以使用函数查询,这三种s方法都是通过solr http接口的。

1)使用FunctionQParserPlugin。ie: q={!func}log(foo)

2)使用“_val_”内嵌方法

内嵌在正常的solr查询表达式中。即,将函数查询写在 q这个参数中,这时候,我们使用“_val_”将函数与其他的查询加以区别。

ie:entryNm:make && _val_:ord(entryNm)

3)使用dismax中的bf参数

使用明确为函数查询的参数,比如说dismax中的bf(boost function)这个参数。  注意:bf这个参数是可以接受多个函数查询的,它们之间用空格隔开,它们还可以带上权重。所以,当我们使用bf这个参数的时候,我们必须保证单个函数中是没有空格出现的,不然程序有可能会以为是两个函数。

For ex:

 q=dismax&bf="ord(popularity)^0.5 recip(rord(price),1,1000,1000)^0.3

2.函数的格式(Function Query Syntax)

目前,function query 并不支持 a+b 这样的形式,我们得把它写成一个方法形式,这就是 sum(a,b).

3.使用函数查询注意事项

1)用于函数查询的field必须是被索引的;

2)字段不可以是多值的(multi-value)

4. 可以利用的函数 (available function)

1)constant:支持有小数点的常量; 例如:1.5 ;SolrQuerySyntax:_val_:1.5 

2)fieldvalue:这个函数将会返回numeric field的值,这个域必须是indexd的,非multiValued的。格式很简单,就是该域的名字。如果这个域中没有这样的值,那么将会返回0。

3)ord:对于一个域,它所有的值都将会按照字典顺序排列,这个函数返回你要查询的那个特定的值在这个顺序中的排名。这个域,必须是非multiValued的,当没有值存在的时候,将返回0。例如:某个特定的域只能去三个值,“apple”、“banana”、“pear”,那么ord(“apple”)=1,ord(“banana”)=2,ord(“pear”)=3.需要注意的是,ord()这个函数,依赖于值在索引中的位置,所以当有文档被删除、或者添加的时候,ord()的值就会发生变化。当你使用MultiSearcher的时候,这个值也就是不定的了。

4)rord:这个函数将会返回与ord相对应的倒排序的排名。

格式: rord(myIndexedField)。

5)sum:这个函数的意思就显而易见啦,它就是表示“和”啦。

格式:sum(x,1) 、sum(x,y)、 sum(sqrt(x),log(y),z,0.5)

6)product:product(x,y,...)将会返回多个函数的乘积。格式:product(x,2)、product(x,y)

7)div:div(x,y)表示x除以y的值,格式:div(1,x)、div(sum(x,100),max(y,1))

8)pow:pow表示幂值。pow(x,y) =x^y。例如:pow(x,0.5) 表示开方pow(x,log(y))

9)abs:abs(x)将返回表达式的绝对值。格式:abs(-5)、 abs(x)

10) log:log(x)将会返回基数为10,x的对数。格式: log(x)、 log(sum(x,100))

11) Sqrt:sqrt(x) 返回 一个数的平方根。格式:sqrt(2)、sqrt(sum(x,100))

12) Map:如果 x>=min,且x<=max,那么map(x,min,max,target)=target.如果 x不在[min,max]这个区间内,那么map(x,min,max,target)=x. 

格式:map(x,0,0,1)

13)Scale:scale(x,minTarget,maxTarget) 这个函数将会把x的值在[minTarget,maxTarget]范围内。

14)query :query(subquery,default)将会返回给定subquery的分数,如果subquery与文档不匹配,那么将会返回默认值。任何的查询类型都是受支持的。可以通过引用的方式,也可以直接指定查询串。

例子:q=product(popularity, query({!dismax v='solr rocks'}) 将会返回popularity和通过dismax 查询得到的分数的乘积。

q=product(popularity, query($qq)&qq={!dismax}solr rocks 跟上一个例子的效果是一样的。不过这里使用的是引用的方式

q=product(popularity, query($qq,0.1)&qq={!dismax}solr rocks 在前一个例子的基础上又加了一个默认值。

15) linear: inear(x,m,c)表示 m*x+c ,其中m和c都是常量,x是一个变量也可以是一个函数。例如: linear(x,2,4)=2*x+4.

16)Recip:recip(x,m,a,b)=a/(m*x+b)其中,m、a、b是常量,x是变量或者一个函数。当a=b,并且x>=0的时候,这个函数的最大值是1,值的大小随着x的增大而减小。例如:recip(rord(creationDate),1,1000,1000)

17)Max: max(x,c)将会返回一个函数和一个常量之间的最大值。

例如:max(myfield,0)

四.数据导入(DataImportHandler-DIH)

DIH 是solr 提供的一种针对数据库、xml/HTTP、富文本对象导入到solr 索引库的工具包。这里只针对数据库做介绍。

A、准备以下jar包

apache-solr-dataimporthandler-4.0.0.jar

apache-solr-dataimporthandler-extras-4.0.0.jar

apache-solr-dataimportscheduler-1.1.jar(增量导入使用)

数据库对应的jdbc驱动包这里使用的是Oracle oracle10g.ja放入Tomcat6.0.36/webapps/sol/WEB-INF/lib 中

B、配置solrconfig.xml

在solrconfig.xml中加入如下配置:

        xx-data-config.xml

C、配置数据源

     在与solrconfig.xml文件同级的目录中建立上述配置中的xx-data-config.xml文件,配置如下

 

query属性为全导入的时候使用。其他为增量导入使用。

              driver="oracle.jdbc.driver.OracleDriver"

              url="jdbc:oracle:thin:@192.168.0.129:1521:orcl" 

              user="username" 

password="password"/>

       query="select t.ID id,business_name,bussiness_type from business t"

           deltaImportQuery="select t.ID id,business_name,bussiness_type from business t where id='${dataimporter.delta.ID}'"

           deltaQuery="select t.ID id,business_name,bussiness_type from business t where  to_char(updatetime,'yyyy-mm-dd hh24:mi:ss')> '${dataimporter.last_index_time}'">

            

至此所有DIH的配置完成,在浏览器中输入命令:

全导入:

 http://localhost:8085/solr/core0/dataimport?command=full-import&commit=ture

增量导入:

http://localhost:8085/solr/core0/dataimport?command=delta-import&clean=false&commit=ture

查看导入状态

  http://localhost:8085/solr/core0/dataimport?command=status

D、处理CLOB字段

            

    

ClOB 字段的 column 必须大写!!

E、DIH内存溢出错误

在使用DIH时,容易报内存溢出错误。可以通过设置jvm大小来解决。设置方法如下:

在tomcat\\bin\\startup.bat 加入SET JAVA_OPTS=-Xms128m -Xmx1024m 配置 这里设置的是1024M,根据情况可以适量增大 

F、自动全导入和自动增量导入

此功能可以自己写程序实现,也可利用apache-solr-dataimportscheduler-1.0.jar包完成此功能。配置如下:

修改solr.war中WEB-INF/web.xml, 在servlet节点前面增加:

     

        

                org.apache.solr.handler.dataimport.scheduler.ApplicationListener

        

       

将apache-solr-dataimportscheduler-.jar 中 dataimport.properties 取出并根据实际情况修改,然后放到 solr.home/conf (不是solr.home/core/conf) 目录下面

  具体配置可参考:http://code.google.com/p/solr-dataimport-scheduler/

  五、webLogic下solr3.6的配置

首先去官网下载solr,不多说。

1.解压打开找到dist文件夹,找到以.war结尾的文件,改成solr.war。打开,删除META-INF下面的MANIFEST.MF文件。

2.打开WEB-INF下面的web.xml  找到

                   solr/home

                   /put/your/solr/home/here

                   java.lang.String

            

将注释去掉。这里需要注意默认的配置这里是注释掉的。然后

/put/your/solr/home/here这里需要配置你的solr的地方。

Solr去刚下载的文件的的example文件夹下找到solr文件夹,放到合适的位置。将这里改成你的solr存放的位置。例如这里我放到f盘下F:\\solr

3.打开weblogic服务器的控制台。将solr.war部署到weblogic上。

4.访问http://localhost:7001/solr/这是出现

点击Solr Admin链接,进入到

这个时候solr就已经配置好了哦~下一步就可以使用了

文档

solr_学习笔记_v1.1

高性能搜索SOLR学习笔记分享相应Module学习总结开发类型Web开发文件内容本文主要介绍solr中query参数、query用法和functionQuery的基本应用,solr,query,参数,functionQuery,查询语法,函数查询!版本作者/修改人日期V1.0全国妖防组V1.1闲杂人等2012-12-07一.Query参数1.CoreQueryParam查询的参数1)q:查询字符串,必须的。2)q.op:覆盖schema.xml的defaultOperator(有空格时用"AN
推荐度:
  • 热门焦点

最新推荐

猜你喜欢

热门推荐

专题
Top