您的位置:首页 > 编程语言 > Java开发

java 大文件数据搜索技术

2013-05-31 10:40 225 查看
分享到

一键分享
QQ空间
新浪微博
百度搜藏
人人网
腾讯微博
百度相册
开心网
腾讯朋友
百度贴吧
豆瓣网
搜狐微博
百度新首页
QQ好友
和讯微博
更多...

百度分享

百度首页
|
登录注册





新闻网页贴吧知道音乐图片视频地图百科文库

帮助

首页
自然
文化
地理
历史
生活
社会
艺术
人物
经济
科技
体育
图片
数字博物馆
核心用户
百科商城


Lucene

百科名片

Lucene是apache软件基金会4 jakarta项目组的一个子项目,是一个开放源代码的全文检索引擎工具包,即它不是一个完整的全文检索引擎,而是一个全文检索引擎的架构,提供了完整的查询引擎和索引引擎,部分文本分析引擎(英文与德文两种西方语言)。Lucene的目的是为软件开发人员提供一个简单易用的工具包,以方便的在目标系统中实现全文检索的功能,或者是以此为基础建立起完整的全文检索引擎。

目录

简介历史创始人特点及优势

突出的优点
前提

搜索 展开

简介历史创始人特点及优势

突出的优点
前提

搜索建立索引展开

编辑本段简介

Lucene是一套用于全文检索搜寻的开源程式库,由Apache软件基金会支持和提供。Lucene提供了一个简单却强大的应用程式接口,能够做全文索引和搜寻。在Java开发环境里Lucene是一个成熟的免





开源工具。就其本身而言,Lucene是当前以及最近几年最受欢迎的免费Java资讯检索程式库。人们经常提到资讯检索程式库,虽然与搜寻引擎有关,但不应该将资讯检索程式库与搜索引擎相混淆。[1]

编辑本段历史

Lucene最初是由Doug Cutting开发的,在SourceForge的网站上提供下载。在2001年9月做为高质量的开源Java产品加入到Apache软件基金会的 Jakarta家族中。随着每个版本的发布,这个项目得到



Lucene 图片

明显的增强,也吸引了更多的用户和开发人员。2004年7月,Lucen



Lucene分析图

e1.4版正式发布,10月的1.4.2版本做了一次bug修正。表1.1显示了Lucene的发布历史。
版本 发布日期 里程碑
0.01 2000年3月 第一个开源版本(SourceForge)
1.0 2000年10月
1.01b 2001年7月 最后的SourceForge版本
1.2 2002年6月 第一个Apache Jakarta版本
1.3 2003年12月 复合索引格式,查询分析器增加,远程搜索,token定位,可扩展的API
1.4 2004年7月 Sorting, span queries, term vectors
1.4.1 2004年8月 排序性能的bug修正
1.4.2 2004年10月 IndexSearcher optimization and misc. fixes
1.4.3 2004年冬 Misc. fixes2.4.1 2009年3月8日发布新版本
2.3.0 2008年1月 更新为2.3.0
2.4.0 2008年10月 更新为2.4.0
2.4.1 2009年 5月 更新为 2.4.1
2.9.0 2009年9月25号 更新为2.9.0
2.9.1 2009年11月6号 更新为2.9.1
3.0.0 2009年11月25号 更新为3.0.0
3.0.1 2010年2月26号 更新为3.0.1
3.0.2 2010年6月18号 更新为3.0.2
3.0.3 2010年12月3号 更新为3.0.3
3.3.0 2011年7月初 更新为3.3.0
3.4.0 2011年9月14日 更新为3.4.0
3.5.0 2011年11月26日 更新为3.5.0
3.6.0 2012年4月12日更新为3.6.0
3.6.1 2012年7月23日更新为3.6.1
4.0 2012年10月12日更新为4.0[2]
4.2 2013年3月11日更新为4.2

编辑本段创始人

Lucene['lusen]的原作者是Doug Cutting,他是一位资深全文索引/检索专家,曾经是V-Twin搜索引擎的主要



Lucene

开发者,后在Excite担任高级系统架构设计师,当前从事于一些Internet底层架构的研究。早先发布在作者自己的,他贡献出Lucene的目标是为各种中小型应用程式加入全文检索功能。后来发布在SourceForge,2001年年底成为apache软件基金会jakarta的一个子项目。

编辑本段特点及优势

作为一个开放源代码项目,Lucene从问世之后,引发了开放源代码社群的巨大反响,程序员们不仅使用它构建具体的全文检索应用,而且将之集成到各种系统软件中去,以及构建Web应用,甚至某些商业软件也采用了Lucene作为其内部全文检索子系统的核心。apache软件基金会的网站使用了Lucene作为全文检索的引擎,IBM的开源软件eclipse[9]的2.1版本中也采用了Lucene作为帮助子系统的全文索引引擎,相应的IBM的商业软件Web
Sphere[10]中也采用了Lucene。Lucene以其开放源代码的特性、优异的索引结构、良好的系统架构获得了越来越多的应用。
Lucene是一个高性能、可伸缩的信息搜索(IR)库。它可以为你的应用程序添加索引和搜索能力。Lucene是用java实现的、成熟的开源项目,是著名的Apache Jakarta大家庭的一员,并且基于Apache软件许可 [ASF, License]。同样,Lucene是当前非常流行的、免费的Java信息搜索(IR)库。

突出的优点

Lucene作为一个全文检索引擎,其具有如下突出的优点:
(1)索引文件格式独立于应用平台。Lucene定义了一套以8位字节为基础的索引文件格式,使得兼容系统或者不同平台的应用能够共享建立的索引文件。
(2)在传统全文检索引擎的倒排索引的基础上,实现了分块索引,能够针对新的文件建立小文件索引,提升索引速度。然后通过与原有索引的合并,达到优化的目的。
(3)优秀的面向对象的系统架构,使得对于Lucene扩展的学习难度降低,方便扩充新功能。
(4)设计了独立于语言和文件格式的文本分析接口,索引器通过接受Token流完成索引文件的创立,用户扩展新的语言和文件格式,只需要实现文本分析的接口。
(5)已经默认实现了一套强大的查询引擎,用户无需自己编写代码即使系统可获得强大的查询能力,Lucene的查询实现中默认实现了布尔操作、模糊查询(Fuzzy Search[11])、分组查询等等。
面对已经存在的商业全文检索引擎,Lucene也具有相当的优势。
首先,它的开发源代码发行方式(遵守Apache Software License[12]),在此基础上程序员不仅仅可以充分的利用Lucene所提供的强大功能,而且可以深入细致的学习到全文检索引擎制作技术和面向对象编程的实践,进而在此基础上根据应用的实际情况编写出更好的更适合当前应用的全文检索引擎。在这一点上,商业软件的灵活性远远不及Lucene。
其次,Lucene秉承了开放源代码一贯的架构优良的优势,设计了一个合理而极具扩充能力的面向对象架构,程序员可以在Lucene的基础上扩充各种功能,比如扩充中文处理能力,从文本扩充到HTML、PDF[13]等等文本格式的处理,编写这些扩展的功能不仅仅不复杂,而且由于Lucene恰当合理的对系统设备做了程序上的抽象,扩展的功能也能轻易的达到跨平台的能力。
最后,转移到apache软件基金会后,借助于apache软件基金会的网络平台,程序员可以方便的和开发者、其它程序员交流,促成资源的共享,甚至直接获得已经编写完备的扩充功能。最后,虽然Lucene使用Java语言写成,但是开放源代码社区的程序员正在不懈的将之使用各种传统语言实现(例如.net
framework[14]),在遵守Lucene索引文件格式的基础上,使得Lucene能够运行在各种各样的平台上,系统管理员可以根据当前的平台适合的语言来合理的选择。

前提

lucene有7个包需要导入:analysis,document,index,queryParser,search,store,util

编辑本段搜索

IndexSearcher searcher= new IndexSearcher("E:/index") Query query = new TermQuery(new Term("title", "lucene"));//单个字节查询
//Query query = new FuzzyQuery(new Term("title", "lucena"));//模糊查询
//Query query = new WildcardQuery(new Term("title", "lu*"));//通配符查询 ?代表一个字符,*代表0到多个字符
//BooleanQuery query = new BooleanQuery();//条件查询
//BooleanQuery qson1 = new BooleanQuery();
//Query q1 = new TermQuery(new Term("title", "lucene"));
//qson1.add(q1, Occur.MUST);//MUST是必须满足的
//BooleanQuery qson2 = new BooleanQuery();
//Query q2= new TermQuery(new Term("sex", "woman"));
//qson2 .add(q2, Occur.MUST_NOT);//MUST_NOT是必须不满足
//query.add(qson1, Occur.SHOULD);
//query.add(qson2, Occur.SHOULD);//SHOULD代表满足qson1或者满足qson2都可以
//PhraseQuery query = new PhraseQuery();//近距离查询
//query.setSlop(5);//距离设置为5
//query.add(new Term("title", "lucene"));
//query.add(new Term("title", "introduction"));//查询出title中lucene和introduction距离不超过5个字符的结果
//Query query = new PrefixQuery(new Term("title", "lu"));//WildcardQuery的lu*一样
//RangeQuery query = new RangeQuery(new Term("time", "50"),new Term("time", "60"), true);
//true代表[50,60],false代表(50,60)
Hits hits = searcher.search(query);
for (int i = 0; i < hits.length(); i++) {
Document d = hits.doc(i);
String title= d.get("title");
System.out.print(title+ " ");
}
这样,基本上就可以使用了
注:以上代码为lucene早些版本的写法。lucene3.02的写法有所改变。

编辑本段建立索引

IndexWriter writer = new IndexWriter("E:/index", new StandardAnalyze(),true,MaxFieldLength.UNLIMITED); //true代表覆盖原先数据,maxFieldLength用来限制Field的大小
Document doc = new Document();
doc.add(new Field("title", "lucene introduction", Field.Store.YES, Field.Index.ANALYZED,
Field.TermVector.WITH_POSITIONS_OFFSETS));
doc.add(new Field("time", "60", Field.Store.YES, Field.Index.ANALYZED,
Field.TermVector.WITH_POSITIONS_OFFSETS));
writer.addDocument(doc);
writer.optimize(); //优化
writer.close();

Apache软件基金会

顶级项目

ActiveMQ

Ant

Apache HTTP Server

APR

Beehive

Camel

Cassandra

Cayenne

Cocoon

Commons

Derby

Directory

Excalibur

Felix

Forrest

Geronimo

Gump

Hadoop

Harmony

HBase

iBATIS

Jackrabbit

James

Lenya

Lucene

Maven

mod_perl

MyFaces

OFBiz

OpenEJB

OpenJPA

POI

Roller

Shale

SpamAssassin

stdcxx

Struts

Subversion

Tapestry

Tomcat

Traffic Server

Tuscany

Velocity

Wicket

XMLBeans
其他项目

Jakarta项目

Apache XML

Apache Incubator
子项目

BCEL

BSF

Cactus

JMeter

Slide

Xerces

Batik

FOP

Log4j

XAP

River

ServiceMix

Log4Net

Abdera

Ivy

CXF

ODE

Solr
参考资料

1._371811] Java搜索引擎
Lucene .开源社区网[引用日期2012-08-18].

2._371811] Apache
Lucene .Apache Lucene.2012-11-7[引用日期2012-11-7].

开放分类:计算机

搜索引擎
开源软件
应用科学
技能
科学
计算机技术
计算机科学
计算机编程
索引 ,
Apache项目

我来完善
“Lucene”相关词条:

javaJAVA2000全文检索apacheSolarisMVC模式

java

JAVA2000
全文检索
apache
Solaris
MVC模式

百度百科中的词条正文与判断内容均由用户提供,不代表百度百科立场。如果您需要解决具体问题(如法律、医学等领域),建议您咨询相关领域专业人士。
965本词条对我有帮助

添加到搜藏

分享到:
更多

合作编辑者
Mikenchen

小小小刁儿 ,
apdplat_ysc ,
泡面很方便 ,
深谙度娘心 ,
lhyblue ,
xq1111xq
更多

如果您认为本词条还需进一步完善,百科欢迎您也来参与
编辑词条 在开始编辑前,您还可以先学习如何编辑词条

如想投诉,请到百度百科投诉中心;如想提出意见、建议,请到百度百科吧

百度百科内容方针

提倡有可靠依据、权威可信的内容
鼓励客观、中立、严谨的表达观点
不欢迎恶意破坏、自我或商业宣传

在这里你可以

编辑

质疑

投诉

全方位的质量监督

学术委员会:为亿万网友提供权威意见
编修院:把控质量,做更好的知识

词条统计浏览次数:约 213525次编辑次数:51次
历史版本词条讨论:1次
讨论历史最近更新:2013-05-06创建者:ossou

更多贡献光荣榜
辛勤贡献者:
冷威龙



版本
java2000_n...



版本
lyw985



版本
最新动态
李彦宏呼吁拒绝二手烟:



百科消息:恭喜你获得全民大卡秀PK召集令
高考加油!一起冲刺高考
美食美客 来五彩城 品鉴世界美食百科1.4版客户端上线 离线查词条
写游记,免费游英国喽!

© 2013 Baidu
使用百度前必读 | 百科协议 | 百度百科合作平台



Lucene

简介

历史

创始人

特点及优势

突出的优点

前提

搜索

建立索引



参考资料


内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: 
相关文章推荐