探索Python数据分析(一):NLTK库和文本处理

用户输入的搜索关键词往往是模糊的,甚至包含大量的错词,我们无法直接使用这样的数据进行诸如分类、聚类等下一步分析工作,第一步是对它们进行词干提取。

什么是词干提取?

在语言形态学和信息检索里,词干提取是去除词缀得到词根的过程─—得到单词最一般的写法。对于一个词的形态词根,词干并不需要完全相同;相关的词映射到同一个词干一般能得到满意的结果,即使该词干不是词的有效根。从1968年开始在计算机科学领域出现了词干提取的相应算法。很多搜索引擎在处理词汇时,对同义词采用相同的词干作为查询拓展,该过程叫做归并。

一个面向英语的词干提取器,例如,要识别字符串“cats”、“catlike”和“catty”是基于词根“cat”;“stemmer”、“stemming”和“stemmed”是基于词根“stem”。一根词干提取算法可以简化词 “fishing”、“fished”、“fish”和“fisher” 为同一个词根“fish”。

技术方案的选择

Python和R是数据分析的两种主要语言;相对于R,Python更适合有大量编程背景的数据分析初学者,尤其是已经掌握Python语言的程序员。所以我们选择了Python和NLTK库(Natual Language Tookit)作为文本处理的基础框架。此外,我们还需要一个数据展示工具;对于一个数据分析师来说,数据库的冗繁安装、连接、建表等操作实在是不适合进行快速的数据分析,所以我们使用Pandas作为结构化数据和分析工具。

环境搭建

我们使用的是Mac OS X,已预装Python 2.7.

安装NLTK

安装Pandas

对于数据分析来说,最重要的是分析结果,iPython notebook是必备的一款利器,它的作用在于可以保存代码的执行结果,例如数据表格,下一次打开时无需重新运行即可查看。

安装iPython notebook

创建一个工作目录,在工作目录下启动iPython notebook,服务器会开启http://127.0.0.1:8080页面,并将创建的代码文档保存在工作目录之下。

文本处理

数据表创建

使用Pandas创建数据表 我们使用得到的样本数据,建立DataFrame——Pandas中一个支持行、列的2D数据结构。

显示结果

Words
0 pets insurance
1 pets insure
2 pet insurance
3 pet insur
4 pet insurance”
5 pet insu

 

NLTK分词器介绍

RegexpTokenizer:正则表达式分词器,使用正则表达式对文本进行处理,就不多作介绍。
PorterStemmer:波特词干算法分词器,原理可看这里:http://snowball.tartarus.org/algorithms/english/stemmer.html
第一步,我们创建一个去除标点符号等特殊字符的正则表达式分词器:

接下来,对准备好的数据表进行处理,添加词干将要写入的列,以及统计列,预设默认值为1:

读取数据表中的Words列,使用波特词干提取器取得词干:

Good!到这一步,我们已经基本上实现了文本处理,结果显示如下:

Words Stemming Words Count
0 pets insurance pet insur 1
1 pets insure pet insur 1
2 pet insurance pet insur 1
3 pet insur pet insur 1
4 pet insurance” pet insur 1
5 pet insu pet insu 1

 

分组统计

在Pandas中进行分组统计,将统计表格保存到一个新的DataFrame结构uniqueWords中:

Stemming Words Count
0 pet insu 1
1 pet insur 5

注意到了吗?依然还有一个pet insu未能成功处理。

拼写检查

对于用户拼写错误的词语,我们首先想到的是拼写检查,针对Python我们可以使用enchant:

使用enchant进行拼写错误检查,得到推荐词:

但是,结果依然不是我们预期的“insur”。能不能换种思路呢?

算法特殊性

用户输入非常重要的特殊性来自于行业和使用场景。采取通用的英语大词典来进行拼写检查,无疑是行不通的,并且某些词语恰恰是拼写正确,但本来却应该是另一个词。但是,我们如何把这些背景信息和数据分析关联起来呢?

经过一番思考,我认为最重要的参考库恰恰就在已有的数据分析结果中,我们回来看看:

 

Stemming Words Count
0 pet insu 1
1 pet insur 5

已有的5个“pet insur”,其实就已经给我们提供了一份数据参考,我们已经可以对这份数据进行聚类,进一步除噪。

相似度计算

对已有的结果进行相似度计算,将满足最小偏差的数据归类到相似集中:

查看结果,已经匹配成功!

Stemming Words Count
0 pet insur 1
1 pet insur 5

最后一步,重新对数据结果进行分组统计:

到此,我们已经完成了初步的文本处理。

Stemming Words Count
0 pet insur 6
1 3 收藏 评论

相关文章

可能感兴趣的话题



直接登录
跳到底部
返回顶部