java分词工具

㈠ java word分词器怎样安装在java中

word分词是一个Java实现的分布式的中文分词组件，提供了多种基于词典的分词算法，并利用ngram模型来消除歧义。

如果需要安装word分词器可以参考下面的步骤：

1、确保电脑上已经安装了JDK软件和Eclispe工具，没有安装的可以到对应的官网下载安装：

JDK官网：http://www.oracle.com/technetwork/java/javase/downloads/index.html

Eclipse官网：http://www.eclipse.org

2、下载word分词器的相关jar包：

打开word分词器的官方github主页：https://github.com/ysc/word

导入成功之后就可以在自己的项目中使用word分词器了。

㈡ java中文分词组件word怎么使用

参考如下
1、快速体验
运行项目根目录下的脚本demo-word.bat可以快速体验分词效果
用法: command [text] [input] [output]
命令command的可选值为：demo、text、file
demo
text 杨尚川是APDPlat应用级产品开发平台的作者
file d:/text.txt d:/word.txt
exit

2、对文本进行分词
移除停用词：List<Word> words = WordSegmenter.seg("杨尚川是APDPlat应用级产品开发平台的作者");
保留停用词：List<Word> words = WordSegmenter.segWithStopWords("杨尚川是APDPlat应用级产品开发平台的作者");
System.out.println(words);

输出：
移除停用词：[杨尚川, apdplat, 应用级, 产品, 开发平台, 作者]
保留停用词：[杨尚川, 是, apdplat, 应用级, 产品, 开发平台, 的, 作者]

3、对文件进行分词
String input = "d:/text.txt";
String output = "d:/word.txt";
移除停用词：WordSegmenter.seg(new File(input), new File(output));
保留停用词：WordSegmenter.segWithStopWords(new File(input), new File(output));

4、自定义配置文件
默认配置文件为类路径下的word.conf，打包在word-x.x.jar中
自定义配置文件为类路径下的word.local.conf，需要用户自己提供
如果自定义配置和默认配置相同，自定义配置会覆盖默认配置
配置文件编码为UTF-8

5、自定义用户词库
自定义用户词库为一个或多个文件夹或文件，可以使用绝对路径或相对路径
用户词库由多个词典文件组成，文件编码为UTF-8
词典文件的格式为文本文件，一行代表一个词
可以通过系统属性或配置文件的方式来指定路径，多个路径之间用逗号分隔开
类路径下的词典文件，需要在相对路径前加入前缀classpath:

指定方式有三种：
指定方式一，编程指定（高优先级）：
WordConfTools.set("dic.path", "classpath:dic.txt，d:/custom_dic");
DictionaryFactory.reload();//更改词典路径之后，重新加载词典
指定方式二，Java虚拟机启动参数（中优先级）：
java -Ddic.path=classpath:dic.txt，d:/custom_dic
指定方式三，配置文件指定（低优先级）：
使用类路径下的文件word.local.conf来指定配置信息
dic.path=classpath:dic.txt，d:/custom_dic

如未指定，则默认使用类路径下的dic.txt词典文件

6、自定义停用词词库
使用方式和自定义用户词库类似，配置项为：
stopwords.path=classpath:stopwords.txt，d:/custom_stopwords_dic

7、自动检测词库变化
可以自动检测自定义用户词库和自定义停用词词库的变化
包含类路径下的文件和文件夹、非类路径下的绝对路径和相对路径
如：
classpath:dic.txt，classpath:custom_dic_dir,
d:/dic_more.txt，d:/DIC_DIR，D:/DIC2_DIR，my_dic_dir，my_dic_file.txt

classpath:stopwords.txt，classpath:custom_stopwords_dic_dir，
d:/stopwords_more.txt，d:/STOPWORDS_DIR，d:/STOPWORDS2_DIR，stopwords_dir，remove.txt

8、显式指定分词算法
对文本进行分词时，可显式指定特定的分词算法，如：
WordSegmenter.seg("APDPlat应用级产品开发平台", SegmentationAlgorithm.BidirectionalMaximumMatching);

SegmentationAlgorithm的可选类型为：
正向最大匹配算法：MaximumMatching
逆向最大匹配算法：ReverseMaximumMatching
正向最小匹配算法：MinimumMatching
逆向最小匹配算法：ReverseMinimumMatching
双向最大匹配算法：BidirectionalMaximumMatching
双向最小匹配算法：BidirectionalMinimumMatching
双向最大最小匹配算法：
全切分算法：FullSegmentation
最少分词算法：MinimalWordCount
最大Ngram分值算法：MaxNgramScore

9、分词效果评估
运行项目根目录下的脚本evaluation.bat可以对分词效果进行评估
评估采用的测试文本有253 3709行，共2837 4490个字符
评估结果位于target/evaluation目录下：
corpus-text.txt为分好词的人工标注文本，词之间以空格分隔
test-text.txt为测试文本，是把corpus-text.txt以标点符号分隔为多行的结果
standard-text.txt为测试文本对应的人工标注文本，作为分词是否正确的标准
result-text-***.txt，***为各种分词算法名称，这是word分词结果
perfect-result-***.txt，***为各种分词算法名称，这是分词结果和人工标注标准完全一致的文本
wrong-result-***.txt，***为各种分词算法名称，这是分词结果和人工标注标准不一致的文本

㈢ 你常用的Java工具库都有哪些

JavaSDK肯定是使用最广的库，所以本文的名单焦点是流行的第三方库。该列表可能并不完善，所以如果你觉得有什么应该出现在列表中的，请留下您的评论。非常感谢！

1、核心库

• Apache Commons Lang：来自Apache的核心库，为java.lang API补充了许多常用的工具类，如字符串操作、对象的创建等。

• Google Guava：来自谷歌的核心库，包括集合（Collection）、缓存（Caching）、支持原语（Primitives）等。（示例）

2、HTML、XML Parser

• Jsoup：一个简化了的 HTML操作的库。（示例）

• STaX：一组可以高效处理XML的API。 （示例）

3、Web框架

• Spring：Java平台上众所周知的开源框架和依赖注入容器。（示例）

• Struts2：来自Apache的流行Web框架。 （示例）

• GoogleWebToolkit：Google提供的开发工具库，主要用于构建和优化复杂的Web程序用。 （示例）

• Strips：使用最新Java技术构建的Web程序框架，推荐使用。

• Tapestry：面向组件的框架，用于使用Java创建动态、健壮、扩展性高的Web应用程序。

请猛击这里查看以上面框架之间的比较。

4、图表、报表、图像

• JFreeChart：用于创建如条形图、折线图、饼图等图表。

• JFreeReport：创建于输出PDF格式的报表。

• JGraphT：创建图像，其中只包含由线段连接的点集。

5、窗口

• Swing：SDK提供的GUI库。（示例）

• SWT：eclipse提供的GUI库。

SWT与Swing的比较。

6.、GUI框架

• EclipseRCP。（示例）

7、自然语言处理

• OpenNLP：来自Apache的自然语言处理库。 （示例）

• StanfordParser：斯坦福大学提供的自然语言处理库。（示例）

如果你是一名NLP专家，请猛击这里查看更多工具库介绍。

8、静态分析

• EclipseJDT：由IBM提供的静态分析库，可以操作Java源代码。（示例）

• WALA：可以处理jar包文件（即字节码）的工具库。（示例）

9、JSON

• Jackson： 用于处理JSON数据格式的多用途的Java库。Jackson 旨在快速、准确、轻量、对开人员友好之间找到最好的平衡点。

• XStream：一个简单用于对象和XML互相转换的库。

• GoogleGson：一个专门用于Java对象和Json对象相互转换的工具库。（示例）

• JSON-lib：用于beans、maps、collections、javaarrays、XML和JSON之间相互转换操作的工具库。

10、数学

• ApacheCommonsMath：提供数学计算和数值统计需函数的工具库。

11、日志

• ApacheLog4j：风行一时的日志记录操作库。（示例）

• Logback：当前流行的log4j项目的继任者。

• SLF4J（TheSimpleLoggingFacadeforJava）： 各种日志框架的一个简单的外观或抽象（如java.util.logging 、logback、log4j等），允许用户在部署时加入需要的日志框架。

12、Office

• ApachePOI：利用其提供的APIs，可以使用纯Java代码操作各种基于微软OLE2合成文档格式的文档。

• Docx4j：一个用于创建、操作微软公开的XML文件的库（支持Worddocx、 Powerpointpptx和Excelxlsx）。

13、日期和时间

• Joda-Time：如有质量问题包退包换的Java日期和时间类。

14、数据库

• Hibernate、EclipseLink、JPA

• JDO

• jOOQ

• SpringJDBC、SpringData

• ApacheDbUtils

15、开发工具

• Lambok： 旨在减少代码编写的Java开发库。