?? lucene
字號:
該組件免費安裝使用傳播,無限制商業應用,但暫不開源,也不提供任何保證 分詞效率: 第一次分詞需要1-2秒(讀取詞典),之后速度基本與Lucene自帶分詞持平 運行環境: Lucene 1.9+ 內存消耗: 30M+ 1.4.0 —— 2006-08-21 增加詞典的動態擴展能力 1.3.3 —— 2006-07-23 修正無法多次增加詞典的問題 1.3.2 —— 2006-07-03 修正細粒度分詞錯誤的問題 1.3.1 —— 2006-06-23 修正在某些情況下分詞遺漏的問題 1.3 —— 2006-06-22 實現了詞尾消歧算法中第一層的過濾 增加日期時間的匹配 1.2.2 —— 2006-06-13 完善了中英文噪聲詞典 1.2.1 —— 2006-06-10 修正中文數字成語無法識別的問題 1.2 —— 2006-06-08 增加中文數字的匹配(如:二零零六) 數量詞采用“n”作為數字通配符 優化詞典結構以便修改調整 1.1 —— 2006-06-06 增加擴展詞典的靜態讀取方法 1.0.1 —— 2006-06-02 修正無法識別生僻字的問題 1.0 —— 2006-05-29 支持英文、數字、中文(簡體)混合分詞 常用的數量和人名的匹配 超過22萬詞的詞庫整理 實現正向最大匹配算法 //采用正向最大匹配的中文分詞算法,相當于分詞粒度等于0 MMAnalyzer analyzer = new MMAnalyzer(); //參數為分詞粒度:當字數等于或超過該參數,且能成詞,該詞就被切分出來 MMAnalyzer analyzer = new MMAnalyzer(2); //增加一個新詞典,采用每行一個詞的讀取方式 MMAnalyzer.addDictionary(reader); //增加一個新詞 MMAnalyzer.addWord(newWord); package demo.analysis; import java.io.IOException; import jeasy.analysis.MMAnalyzer; public class Segment { public static void main(String[] args) { String text = "據路透社報道,印度尼西亞社會事務部一官員星期二(29日)表示," + "日惹市附近當地時間27日晨5時53分發生的里氏6.2級地震已經造成至少5427人死亡," + "20000余人受傷,近20萬人無家可歸。"; MMAnalyzer analyzer = new MMAnalyzer(); try { System.out.println(analyzer.segment(text, " | ")); } catch (IOException e) { e.printStackTrace(); } } } 生成效果: 據 | 路透社 | 報道 | 印度尼西亞 | 社會 | 事務 | 部 | 官員 | 星期二 | 29日 | 表示 | 日惹 | 市 | 附近 | 當地時間 | 27日 | 晨 | 5時 | 53分 | 發生 | 里氏 | 6.2級 | 地震 | 已經 | 造成 | 至少 | 5427人 | 死亡 | 20000 | 余人 | 受傷 | 近 | 20萬人 | 無家可歸 | package demo.analysis; import jeasy.analysis.MMAnalyzer; import org.apache.lucene.analysis.Analyzer; import org.apache.lucene.document.Document; import org.apache.lucene.document.Field; import org.apache.lucene.index.IndexWriter; import org.apache.lucene.queryParser.QueryParser; import org.apache.lucene.search.Hits; import org.apache.lucene.search.IndexSearcher; import org.apache.lucene.search.Query; import org.apache.lucene.store.Directory; import org.apache.lucene.store.RAMDirectory; public class Segment { public static void main(String[] args) { String fieldName = "text"; String text = "據路透社報道,印度尼西亞社會事務部一官員星期二(29日)表示," + "日惹市附近當地時間27日晨5時53分發生的里氏6.2級地震已經造成至少5427人死亡," + "20000余人受傷,近20萬人無家可歸。"; //檢索內容 //采用正向最大匹配的中文分詞算法 Analyzer analyzer = new MMAnalyzer(); Directory directory = new RAMDirectory(); //Directory directory = FSDirectory.getDirectory("/tmp/testindex", true); try { IndexWriter iwriter = new IndexWriter(directory, analyzer, true); iwriter.setMaxFieldLength(25000); Document doc = new Document(); doc.add(new Field(fieldName, text, Field.Store.YES, Field.Index.TOKENIZED)); iwriter.addDocument(doc); iwriter.close(); IndexSearcher isearcher = new IndexSearcher(directory); QueryParser parser = new QueryParser(fieldName, analyzer); Query query = parser.parse("印度尼西亞 6.2級地震");//檢索詞 Hits hits = isearcher.search(query); System.out.println("命中:" + hits.length()); for (int i = 0; i < hits.length(); i++) { Document hitDoc = hits.doc(i); System.out.println("內容:" + hitDoc.get(fieldName)); } isearcher.close(); directory.close(); } catch (Exception e) { e.printStackTrace(); } } } 生成效果: 命中:1 內容:據路透社報道,印度尼西亞社會事務部一官員星期二(29日)表示,日惹市附近當地時間27日晨5時53分發生 的里氏6.2級地震已經造成至少5427人死亡,20000余人受傷,近20萬人無家可歸。 package demo.analysis; import jeasy.analysis.MMAnalyzer; import org.apache.lucene.analysis.Analyzer; import org.apache.lucene.analysis.TokenStream; import org.apache.lucene.document.Document; import org.apache.lucene.document.Field; import org.apache.lucene.index.IndexReader; import org.apache.lucene.index.IndexWriter; import org.apache.lucene.index.TermPositionVector; import org.apache.lucene.queryParser.QueryParser; import org.apache.lucene.search.Hits; import org.apache.lucene.search.IndexSearcher; import org.apache.lucene.search.Query; import org.apache.lucene.search.highlight.Highlighter; import org.apache.lucene.search.highlight.QueryScorer; import org.apache.lucene.search.highlight.TokenSources; import org.apache.lucene.store.Directory; import org.apache.lucene.store.RAMDirectory; public class Segment { public static void main(String[] args) { String fieldName = "text"; String text = "據路透社報道,印度尼西亞社會事務部一官員星期二(29日)表示," + "日惹市附近當地時間27日晨5時53分發生的里氏6.2級地震已經造成至少5427人死亡," + "20000余人受傷,近20萬人無家可歸。"; //檢索內容 //采用正向最大匹配的中文分詞算法 Analyzer analyzer = new MMAnalyzer(); Directory directory = new RAMDirectory(); //Directory directory = FSDirectory.getDirectory("/tmp/testindex", true); try { IndexWriter iwriter = new IndexWriter(directory, analyzer, true); iwriter.setMaxFieldLength(25000); Document doc = new Document(); doc.add(new Field(fieldName, text, Field.Store.YES, Field.Index.TOKENIZED, Field.TermVector.WITH_POSITIONS_OFFSETS)); iwriter.addDocument(doc); iwriter.close(); IndexSearcher isearcher = new IndexSearcher(directory); QueryParser parser = new QueryParser(fieldName, analyzer); Query query = parser.parse("印度尼西亞 6.2級地震");//檢索詞 Hits hits = isearcher.search(query); System.out.println("命中:" + hits.length()); Highlighter highlighter = new Highlighter(new QueryScorer(query)); for (int i = 0; i < hits.length(); i++) { text = hits.doc(i).get(fieldName); TermPositionVector tpv = (TermPositionVector) IndexReader.open( directory).getTermFreqVector(hits.id(i), fieldName); TokenStream tokenStream = TokenSources.getTokenStream(tpv); String result = highlighter.getBestFragments(tokenStream, text, 3, "..."); System.out.println("內容:" + result); } isearcher.close(); directory.close(); } catch (Exception e) { e.printStackTrace(); } } } 生成效果: 命中:1 內容:據路透社報道,印度尼西亞社會事務部一官員星期二(29日)表示,日惹市附近當地時間27日晨5時53分發生的 里氏6.2級地震已經造成至少5427人死亡,20000余人受傷,近20萬人無家可歸
?? 快捷鍵說明
復制代碼
Ctrl + C
搜索代碼
Ctrl + F
全屏模式
F11
切換主題
Ctrl + Shift + D
顯示快捷鍵
?
增大字號
Ctrl + =
減小字號
Ctrl + -