分词是中文搜索引擎特有的步骤。搜索引擎存储和处理页面,以及用户搜索都是以词为基础。 英文等语言单词与单词之间有空格分隔,搜索引擎索引程序可以直接把句子划分为单词的集合。 而中文词与词之间没有任何分隔符,一个句子中的所有字和词都是连在一起的。搜索引擎必须 首先分辨哪几个字组成一个词,哪些字本身就是一个词。比如“减肥方法”将被分词为“减 肥”和“方法”两个词。
中文分词方法基本上有两种,一是基于词典匹配,另一个是基于统计。
哈尔滨SEO基于词典匹配的方法是指,将待分析的一段汉字与一个事先造好的词典中的词条进行匹配,哈尔滨SEO在 待分析汉字串中扫描到词典中已有的词条则匹配成功,或者说切分出一个单词。
按照扫描方向,基于词典的匹配法可以分为正向匹配和逆向匹配。按照匹配长度优先级的不同, 又可以分为最大匹配和最小匹配。将扫描方向和长度优先混合,又可以产生正向最大匹配、逆 向最大匹配等不同方法。
词典匹配方法计算简单,其准确度很大程度上取决于词典的完整性和更新情况。
哈尔滨SEO基于统计的分词方法指的是分析大量文字样本,计算出字与字相邻出现的统计概率,几个字相 邻出现越多,就越可能形成一个单词。基于统计的方法优势是对新出现的词反应更快速,也有 利于消除歧义。
基于词典匹配和统计的两种分词方法各有优劣,哈尔滨SEO实际使用中的分词系统都是混合使用两种方法, 达到快速高效,又能识别生词、新词,消除歧义。
|