《电子技术应用》

面向云计算的数据挖掘分类算法研究

作者:卢龙1,2,王静宇1,王超3
2017/4/8 22:54:00

  卢龙1,2,王静宇1,王超3

  (1. 内蒙古科技大学 信息工程学院,内蒙古 包头 014010;2. 中国北方稀土(集团)

  高科技股份有限公司,内蒙古 包头 014010;3. 中国移动通信集团山东有限公司莱芜分公司,山东 莱芜 271100)

       摘要:针对传统贝叶斯分类算法在处理海量数据时存在的运行时间长和分类准确率低等问题,在对传统的贝叶斯分类算法和云计算进行了深入研究后,提出了面向云计算环境的基于 MapReduce模型的朴素贝叶斯分类算法。该算法实现了朴素贝叶斯分类算法的并行化,实现了大规模数据在云计算环境下的集群中进行贝叶斯分类处理。实验结果证明,该算法具有较高的分类准确率,在运行时间和加速比方面也有很好的效果。

  关键词:云计算;朴素贝叶斯算法;MapReduce

  中图分类号:TP393文献标识码:ADOI: 10.19358/j.issn.1674-7720.2017.06.003

  引用格式:卢龙,王静宇,王超. 面向云计算的数据挖掘分类算法研究[J].微型机与应用,2017,36(6):7-9,12.

0引言

  *基金项目:国家自然科学基金项目(61662056,61462069 );内蒙古自然科学基金(2015MS0622,2016MS0609)随着云计算、大数据等信息技术的快速发展,数据量呈现出了爆炸式的增长,数量级别从原来的MB级别迅猛增长到TB级别甚至是PB级别,这一严峻问题的出现给数据挖掘技术带来了前所未有的巨大挑战,海量数据的积累让人们有更多的数据可以利用,从这些海量数据中提取出对用户有价值的数据变得尤为重要。传统的数据挖掘算法通常要做的处理是先把数据从外存读入内存,然后进行分析处理,但是现如今数据量增大到惊人的级别时,由于对CPU、内存等资源的急剧消耗,导致算法执行时间显著增加,算法的性能大幅度下降,根本无法达到用户的预期结果。在对海量数据进行挖掘处理时,要想获得理想结果,采用的数据挖掘算法必须要呈现出良好的可伸缩性和可并行性。云计算可以提供一种用于实现并行计算的模型[1],它将大规模数据的存储和计算能力均匀地分散到集群中,这些集群是由若干机器构成的,由许多的廉价机器搭建,在很大程度上降低了成本。云计算平台所具有的高速处理海量数据和计算海量数据这两大优势,更是为提高数据挖掘算法的效率和准确性提供了有力支撑,使传统的数据挖掘算法面临的难题得以解决。

  数据分类作为一种重要的数据分析形式,常出现在数据挖掘领域中。目前比较常用的分类算法主要有:朴素贝叶斯分类算法、决策树分类算法、人工神经网络等。其中,在机器学习和数据挖掘研究领域,朴素贝叶斯分类算法是比较重要和常用的数据处理方法之一。朴素贝叶斯分类算法在简单、高效、分类效果稳定这个三个方面优势比较明显,它还具有牢固的理论基础,在实际应用中得到广泛的重视和应用。近年来,各国学者对贝叶斯分类方法展开了深入研究。

  文献[2]提出了一种基于Kmeans的贝叶斯分类算法,该算法主要思想是利用Kmeans聚类算法对原始数据集进行聚类分析,计算缺失数据子集中的每条记录与k个簇重心之间的相似度,把该记录分配到与其相似度最大的一个簇, 用该簇中相应的属性均值来填充记录的缺失值,再用朴素贝叶斯分类算法对处理后的数据集进行分类,实验表明,在分类准确率上,与传统朴素贝叶斯分类算法相比,该算法分类准确率较高。文献[3]是基于Hadoop平台提出的朴素贝叶斯数据分类算法,该算法对特征选择方法进行了改进,并利用MapReduce编程模型实现了朴素贝叶斯并行分类算法。实验结果表明,该算法不仅提高了分类的正确率,而且在训练和测试集规模较大时体现出了很好的加速比,性能方面也有很大的提高。文献[4]则是通过对Hadoop基础平台MapReduce并行化编程模型进行深入研究后,对传统的朴素贝叶斯分类算法进行了MapReduce并行化改进,用以提高朴素贝叶斯分类算法对大规模数据处理的能力和计算效率。实验表明: 改进后朴素贝叶斯分类算法在加速比和对中文网页进行分类识别率上都有很大的改进。

  本文在对传统的贝叶斯分类算法和云计算相关技术深入研究后,提出了一种面向云计算并基于 MapReduce模型的贝叶斯分类算法,利用提出的面向云计算的贝叶斯分类方法,对大规模数据在云计算环境下的集群中进行贝叶斯分类处理,通过实验证明该方法具有较高的执行效率。通过对大规模数据在云计算环境下的集群中进行贝叶斯分类处理,并对比大规模数据在不同节点上的运行时间和加速比可知,本文提出的算法具有较高的执行效率,平均分类正确率显著提高,适合用于海量数据的快速离散化处理。

1相关工作

  1.1MapReduce编程模型

  MapReduce是一种并行编程模型[5],采用的是主(Master)/从(Slave)结构,在处理大规模数据时,将其分块后,分配到由普通机器组成的超大集群上并发执行。MapReduce编程模型主要分为两个阶段:Map和Reduce。Map阶段指的是映射,Reduce指的是规约;Map函数处理数据的形式是一个给定的键值对<key1,value1>,处理后生成另一个键值对< key2,value2>。随后MapReduce模型将Map阶段输出的相同的key2键值进行合并,形成一个新的键值对<key2,lsit(v2)>。Reduce函数则处理Map阶段合并的键值对<key2,lsit(v2)>,处理后形成一个形似<key3,value3>的键值对,并将这个键值对写入文件。

  1.2朴素贝叶斯数据分类算法

  朴素贝叶斯算法(NBC) 是简单常用的统计学分类算法[6],该算法使用概率统计领域的知识对文本数据进行分类。它具体描述为:设样本数据集D={D1,D2,…,Dn},对于某一特定c∈C,数据集有n个属性A1,A2,…,An,测试样本x={a1,a2,…,an}∈X,则进行分类时,朴素贝叶斯分类器对每个类c计算后验概率:p(x|c), 为使p(x|c)估算有效,朴素贝叶斯分类算法通常假设数据各属性之间是相互独立的。则类条件概率p(x|c)表示为:

  p(x|c)=∏ni=1p(ai|c)=p(a1|c)p(a2|c)…p(an|c)

  结合贝叶斯公式,朴素贝叶斯分类器对每个类c计算后验概率:

  V_GWX%}69S2}EWEOF2ES01F.png

  由于p(x)对所有的c是固定不变的,因此只要找出p(c)∏di=1p(ai|c)最大类,这个类就是未分类x元组所属的类。

  朴素贝叶斯分类算法包括两个过程:训练过程和测试过程[7]。训练过程是该算法消耗系统资源最集中的部分,如果将此过程带来的压力分解到一群机器上,那么在一定程度上会解决系统资源消耗严重的问题,而MapReduce并行编程模型完全可以实现此想法。

2面向云计算的贝叶斯分类算法

  随着信息技术的快速发展以及互联网的迅速普及流行,网络中的有价值数据越来越丰富,数据量也以指数的速度快速增长,这就给传统的数据挖掘算法带来了许多挑战和难题。为此需要通过对传统贝叶斯分类挖掘算法原理进行分析,寻找算法可并行的点,将传统的贝叶斯分类算法[7]应用到云计算环境下,利用MapReduce编程模式,实现传统贝叶斯分类算法的并行化,改变传统算法在单机模式上的局限,最终解决对海量数据训练和测试过程计算耗时长和分类正确率低的难题。

  2.1贝叶斯分类算法的可并行性

  贝叶斯分类算法的训练过程是该算法消耗系统资源最集中的过程[8],一般在处理一个或多个大文件时,顺序读写和计算会耗费很多系统资源,并且效率也不高。用户在处理大量数据时,数据文件间一般是独立的,可以借助数据分块的思想来处理。MapReduce并行编程模型完全可以实现此想法,这可以在很大程度上提高算法的运行速度和分类的准确率。

  2.2面向云计算的贝叶斯分类算法设计

  利用Hadoop分布式系统基础架构中的HDFS存储能力和MapReduce的计算能力,实现对朴素贝叶斯分类算法的并行运行。贝叶斯的并行运行基本思路是[9]:由于训练数据集中数据之间并无关联,可以把数据集分块,这让传统的串行算法读取训练数据集的过程可以在多台机器上并行实现。在这个基础上,Hadoop分布式系统的处理机制对切块的数据分别处理。本文通过以下两部分实现朴素贝叶斯分类算法的并行化,关键是将MapReduce模型引入其中:

  第一部分:MapReduce在处理大数据集时,Mapper依照默认的输入格式读取大规模的文本数据,输入数据后再利用分词开源库对文本数据进行分词处理[10],将近义词等去除,从而降低其特征维度,这个过程中还要建立相应的子目录,作为核心关键词的计算。为了实现筛选功能,在统计核心关键词时需要增加一个过滤器。按照<word,class>的形式输出,这一步的输出作为下一步操作的输入,Combiner将一类的词归集在一起,计算出同一个Mapper的频率和,再把结果保存在 HDFS中。过程如图1所示。

  

001.jpg

  第二部分:贝叶斯分类文本分类算法利用MapReduce模型进行并行实现,分类模型先由Mapper加载,然后将数据拆分成多个模块,分配给各个节点,通过模型向量计算出各个节点的概率和,以<file,<Probability,class> >的形式输出,作为Mapper Task的输入,其中file代表文件名,Probability表示条件概率,class代表类别。Combiner将通过一个文件的特征集进行集中处理,完成Reducer任务,将全部条件概率计算出,得到先验概率后将数据保存在HDFS。过程如图2所示。

 

002.jpg

  朴素贝叶斯分类算法并行实现后,算法中最耗时的运算被分布到集群中多个节点上,这在很大一定程度上减轻了一台机器的计算压力。假设训练集有m 个类别,n个特征项,待分类样本共有k个特征项,如果每个节点平均完成t个任务,则计算速度提高了t倍,复杂度为O(m*n/k)。

3实验与结果分析

  3.1实验平台与实验数据

  实验平台集群共4台计算机,搭建4个节点,软件环境为:操作系统:CentOS 6 ,JDK版本:1.7 ,Hadoop版本:2.5.2 ,Mahout版本:0.10.1。搭建好Hadoop平台后开始运用Mahout实现本文提出的算法。Mahout是Hadoop的一种高级应用[11],运行Mahout需要提前安装好Hadoop。Hadoop安装完成,下面就开始运用Mahout运行本文提出的面向云计算的贝叶斯分类算法。实验数据来源于UCI中的20-Newsgroups。

  3.2实验结果分析

  本实验中,选取的文档集分别是20Newsgroups中的motorcycle,electronics,religion,baseball,politics。实验的分类准确性结果如表1所示。

004.jpg

  从表1中可以得出,本实验的平均正确率为93.54%,比传统的串行算法提高了0.97%。

  实验还对改进的贝叶斯分类算法分别从运行时间和加速比进行了测试。在1个、2个、3个、4个节点上分别从运行时间和加速比方面对实验结果进行分析。从图3可以看出,随着节点数的增加,分类的运行时间显著缩短。同时,基于 MapReduce模型的贝叶斯分类算法具有比较良好的加速比,实际加速比与理想的线性加速比十分接近,能够实现快速的分类,并且随着节点的增加,算法的加速比增长率逐渐变慢,这是因为Hadoop平台下节点之间的通信时间花费逐渐变大,同时实验选择的数据量越大,其算法的加速比增加越接近线性,如图4所示。

003.jpg

4结束语

  传统的贝叶斯分类分类算法应用广泛,但其也存在运行时间长和分类准确率低等问题,云计算环境下,基于 MapReduce模型的贝叶斯分类算法可以很好地解决此类

  问题,缩短数据处理时间和提高数据处理的分类准确率。实验结果表明,随着节点的增加,并行化的贝叶斯分类算法的数据处理的运行时间在不断下降,实际加速比与理想的线性加速比十分接近,该算法具有较高的执行效率,平均分类正确率为93.54%,比传统的串行算法提高了0.97%。因此,并行化的贝叶斯分类算法在处理海量数据时具有现实意义。

  参考文献

  [1] 冯登国, 张敏, 张妍,等. 云计算安全研究[J]. 软件学报, 2011, 22(1):7183.

  [2] 张亚萍,胡学钢. 基于Kmeans的朴素贝叶斯分类算法的研究[J]. 计算机技术与发展,2007,17(11):33-35.

  [3] 张红蕊, 张永, 于静雯. 云计算环境下基于朴素贝叶斯的数据分类[J]. 计算机应用与软件, 2015,32(3):27-30.

  [4] 江小平, 李成华, 向文,等. 云计算环境下朴素贝叶斯文本分类算法的实现[J]. 计算机应用, 2011, 31(9):2551-2554.

  [5] DEAN J, GHEMAWAT S. MapReduce: simplified data processing on large clusters[C]. Proceedings of Operating Systems Design and Implementation (OSDI), 2004:107-113.

  [6] 郑炜, 沈文, 张英鹏. 基于改进朴素贝叶斯算法的垃圾邮件过滤器的研究[J]. 西北工业大学学报, 2010, 28(4):622-627.

  [7] 张增伟, 吴萍. 基于朴素贝叶斯算法的改进遗传算法分类研究[J]. 计算机工程与设计, 2012, 33(2):750-753.

  [8] 李军华. 云计算及若干数据挖掘算法的MapReduce化研究[D]. 成都:电子科技大学,2010.

  [9] 蒋婉婷, 孙蕾, 钱江. 基于Hadoop的朴素贝叶斯算法在中文微博情感分类中的研究与应用[J]. 计算机应用与软件, 2015, 32(7):60-62.

  [10] 向小军, 高阳, 商琳,等. 基于Hadoop平台的海量文本分类的并行化[J]. 计算机科学, 2011, 38(10):184-188.

  [11] RUI M E, RUI P, RONG C. K-means clustering in the CloudA Mahout test[C].IEEE Workshops of International Conference on Advanced Information networking and Applications,IEEE, 2011:514--519.


继续阅读>>