Chinaunix首页 | 论坛 | 博客
  • 博客访问: 2021348
  • 博文数量: 392
  • 博客积分: 7040
  • 博客等级: 少将
  • 技术积分: 4138
  • 用 户 组: 普通用户
  • 注册时间: 2009-06-17 13:03
个人简介

范德萨发而为

文章分类

全部博文(392)

文章存档

2017年(5)

2016年(19)

2015年(34)

2014年(14)

2013年(47)

2012年(40)

2011年(51)

2010年(137)

2009年(45)

分类: Java

2012-11-28 16:20:44

转载请注明出处:
开始进入IK分词的另一个核心模块,分词歧义处理,这里使用了组合遍历的一些代码,代码有点绕
总体思路是这样:
  • 从三个子分词器(见前一篇文章)得到的分词结果中取出不相交的分词块,假如分词结果为abcd(abcd代表词),abcd是按其在文本中出现的位置排序的,从前到后。假如a与b相交,b与c相交,c与d不相交,则将分词结果切成abc和d两个块分别处理
  • 如果选择了useSmart(智能分词),则从相交的块中选举一个相对最优的分词结果输出,这是由judge()完成的
  • 如果没有选择useSmart,则输出所有分词结果,包括相交的结果

点击(此处)折叠或打开

  1. void process(AnalyzeContext context , boolean useSmart){
  2.         QuickSortSet orgLexemes = context.getOrgLexemes();
  3.         Lexeme orgLexeme = orgLexemes.pollFirst();
  4.         
  5.         LexemePath crossPath = new LexemePath();
  6.         while(orgLexeme != null){
  7.             //jw出现不相交的分词,把之前的所有词进行歧义处理
  8.             if(!crossPath.addCrossLexeme(orgLexeme)){
  9.                 //找到与crossPath不相交的下一个crossPath
  10.                 //jw非智能歧义处理,即使相交,也直接输出分词结果
  11.                 if(crossPath.size() == 1 || !useSmart){
  12.                     //crossPath没有歧义 或者 不做歧义处理
  13.                     //直接输出当前crossPath
  14.                     context.addLexemePath(crossPath);
  15.                 }else{
  16.                     //jw出现一个不相交的分词,将之前相交的词开始歧义处理
  17.                     //对当前的crossPath进行歧义处理
  18.                     QuickSortSet.Cell headCell = crossPath.getHead();
  19.                     LexemePath judgeResult = this.judge(headCell, crossPath.getPathLength());
  20.                     //输出歧义处理结果judgeResult
  21.                     context.addLexemePath(judgeResult);
  22.                 }
  23.                 //jw只要出现不相交的词,即进行歧义处理,选出当前最优结果,然后继续处理后面的词
  24.                 //把orgLexeme加入新的crossPath中
  25.                 crossPath = new LexemePath();
  26.                 crossPath.addCrossLexeme(orgLexeme);
  27.             }
  28.             orgLexeme = orgLexemes.pollFirst();
  29.         }
  30.         
  31.         
  32.         //处理最后的path
  33.         if(crossPath.size() == 1 || !useSmart){
  34.             //crossPath没有歧义 或者 不做歧义处理
  35.             //直接输出当前crossPath
  36.             context.addLexemePath(crossPath);
  37.         }else{
  38.             //对当前的crossPath进行歧义处理
  39.             QuickSortSet.Cell headCell = crossPath.getHead();
  40.             LexemePath judgeResult = this.judge(headCell, crossPath.getPathLength());
  41.             //输出歧义处理结果judgeResult
  42.             context.addLexemePath(judgeResult);
  43.         }
下面来看最重要的judge()方法

点击(此处)折叠或打开

  1. /**
  2.      * 歧义识别
  3.      * @param lexemeCell 歧义路径链表头
  4.      * @param fullTextLength 歧义路径文本长度
  5.      * @param option 候选结果路径
  6.      * @return
  7.      */
  8.     private LexemePath judge(QuickSortSet.Cell lexemeCell , int fullTextLength){
  9.         //候选路径集合
  10.         TreeSet<LexemePath> pathOptions = new TreeSet<LexemePath>();
  11.         //候选结果路径
  12.         LexemePath option = new LexemePath();
  13.         
  14.         //对crossPath进行一次遍历,同时返回本次遍历中有冲突的Lexeme栈
  15.         Stack<QuickSortSet.Cell> lexemeStack = this.forwardPath(lexemeCell , option);
  16.         
  17.         //当前词元链并非最理想的,加入候选路径集合
  18.         pathOptions.add(option.copy());  
  19.         //jw这种处理方式应该不是最优的,只是采用贪心的方法获取近似最优方案,并没有遍历所有的可能集合
  20.         //jw每次从一个歧义位置开始,贪心的获取一种分词方案
  21.         //存在歧义词,处理
  22.         QuickSortSet.Cell c = null;
  23.         while(!lexemeStack.isEmpty()){
  24.             System.out.println("jwdebug one option begin");
  25.             c = lexemeStack.pop();
  26.             //回滚词元链
  27.             this.backPath(c.getLexeme() , option);
  28.             //从歧义词位置开始,递归,生成可选方案
  29.             this.forwardPath(c , option);
  30.             pathOptions.add(option.copy());
  31.         }
  32.         
  33.         //jw跳转到LexemePath.java中的compareTo()接口查看最优方案选择策略
  34.         //返回集合中的最优方案
  35.         return pathOptions.first();

  36.     }
这个TreeSet用来保存候选分词结果集,并按照排序策略对分词结果集进行排序,排序策略后面说

点击(此处)折叠或打开

  1. TreeSet<LexemePath> pathOptions = new TreeSet<LexemePath>();
接下来是forwardPath
  • 将相交的分词块传入,进行歧义处理
  • 贪心选择其中不相交的分词结果,存放到分词候选结果集option中
  • 把存在歧义的词,也就是和option中的词相交的词放入conflickStack中

点击(此处)折叠或打开

  1. /**
  2.      * 向前遍历,添加词元,构造一个无歧义词元组合
  3.      * @param LexemePath path
  4.      * @return
  5.      */
  6.     private Stack<QuickSortSet.Cell> forwardPath(QuickSortSet.Cell lexemeCell , LexemePath option){
  7.         //发生冲突的Lexeme栈
  8.         Stack<QuickSortSet.Cell> conflictStack = new Stack<QuickSortSet.Cell>();
  9.         QuickSortSet.Cell c = lexemeCell;
  10.         //迭代遍历Lexeme链表
  11.         while(c != null && c.getLexeme() != null){
  12.             if(!option.addNotCrossLexeme(c.getLexeme())){
  13.                 //词元交叉,添加失败则加入lexemeStack栈
  14.                 conflictStack.push(c);
  15.             }
  16.             c = c.getNext();
  17.         }
  18.         return conflictStack;
  19.     }
然后就是分词结果组合遍历方法:
  • 从conflictStack中选出一个歧义词c,从option结尾回滚option词元链,直到能放下词c
  • 从词c的位置执行forwardPath,生成一个可选分词结果集
  • 直到conflictStack中的所有歧义词处理完毕
  • 可以看出,该方法没有遍历所有可能的集合,只是从当前替换歧义词的位置贪心的生成其中一种可选方案,只是一种近似最优的选取结果。个人估计,分词的冲突不会太复杂,这样的选取结果可以接受
最后来看分词结果集的排序方案,不复杂,简单做下说明:
  • 比较有效文本长度,有效文本长度是指所有分词结果最靠后的一个词距离最靠前的一个词的长度(这里的靠前和靠后是指词在待匹配文本中的位置)
  • 词元个数,即分出来的词的个数
  • 路径跨度,指所有词的长度的加和
  • 逆向切分、词元长度、位置权重就不解释鸟

点击(此处)折叠或打开

  1. public int compareTo(LexemePath o) {
  2.         //比较有效文本长度
  3.         if(this.payloadLength > o.payloadLength){
  4.             return -1;
  5.         }else if(this.payloadLength < o.payloadLength){
  6.             return 1;
  7.         }else{
  8.             //比较词元个数,越少越好
  9.             if(this.size() < o.size()){
  10.                 return -1;
  11.             }else if (this.size() > o.size()){
  12.                 return 1;
  13.             }else{
  14.                 //路径跨度越大越好
  15.                 if(this.getPathLength() > o.getPathLength()){
  16.                     return -1;
  17.                 }else if(this.getPathLength() < o.getPathLength()){
  18.                     return 1;
  19.                 }else {
  20.                     //根据统计学结论,逆向切分概率高于正向切分,因此位置越靠后的优先
  21.                     if(this.pathEnd > o.pathEnd){
  22.                         return -1;
  23.                     }else if(pathEnd < o.pathEnd){
  24.                         return 1;
  25.                     }else{
  26.                         //词长越平均越好
  27.                         if(this.getXWeight() > o.getXWeight()){
  28.                             return -1;
  29.                         }else if(this.getXWeight() < o.getXWeight()){
  30.                             return 1;
  31.                         }else {
  32.                             //词元位置权重比较
  33.                             if(this.getPWeight() > o.getPWeight()){
  34.                                 return -1;
  35.                             }else if(this.getPWeight() < o.getPWeight()){
  36.                                 return 1;
  37.                             }
  38.                             
  39.                         }
  40.                     }
  41.                 }
  42.             }
  43.         }
  44.         return 0;
  45.     }
到此,IK分词中两个最核心的模块:3个子分词器+歧义处理已经介绍完了。到这里,对IK分词的思路应该了解大部分了。
还有几个部分需要考虑:
1.非词典中的词语切不出来,怎么处理的?
2.停用词处理在哪里?
后续会继续介绍






阅读(4637) | 评论(2) | 转发(1) |
给主人留下些什么吧!~~

jiangwen1272014-02-21 17:29:40

cyuhui:您好!我看了您对代码的解释,非常的精彩,但是我有一段代码还是没看到,就是分词歧义处理这一块,我也看了源代码,但是还是不明白,您能和我说说吗?》

分词歧义是什么意思呢,如果有需要的话可以给我发邮件jiangwen127@gmail.com,这里响应不太及时

回复 | 举报

cyuhui2014-01-10 14:41:33

您好!我看了您对代码的解释,非常的精彩,但是我有一段代码还是没看到,就是分词歧义处理这一块,我也看了源代码,但是还是不明白,您能和我说说吗?》