《电子技术应用》
您所在的位置:首页 > 其他 > 设计应用 > Apriori改进算法综述
Apriori改进算法综述
来源:微型机与应用2013年第6期
何云峰
(泉州医学高等专科学校,福建 泉州 362011)
摘要: 介绍了近十几年中国学者对Apriori算法的宽度优先算法的改进研究。
Abstract:
Key words :

摘  要: 介绍了近十几年中国学者对Apriori算法宽度优先算法的改进研究。
关键词: Apriori算法; Apriori改进算法; 宽度优先算法

    AGRAWL R等人于1993年提出了挖掘关联规则最具影响力的Apriori算法。该算法的基本思想是先找出事务数据库中具有最小支持度的项目集(即最大项目集),再根据最大项目集生成关联规则。其中生成最大项目集是核心问题,其思想为:第一步,统计所有含一个元素项目集出现的频率,并找出不小于最小支持度的项目集,从第二步开始循环处理直到再没有最大项目集生成。循环过程是:在第k步中,根据第k-1步生成的k-1维最大项目集产生k维候选项目集,然后对数据库进行搜索,得到候选项目集的项集支持度,并与最小支持度比较,从而找到k维最大项目集。
    之后,AGRAWL R等人又提出了Apriori算法的改进算法AprioriTid算法和AprioriHybird算法。AprioriTid算法对Apriori算法做了调整,它的特点是在第一次遍历数据库之后,就不再扫描数据库,而是用上次扫描生成的候选项目集,扫描的同时还会计算出频繁项目集的支持度。该算法以候选项目集来代替原数据库,从而减少了总是要扫描原数据库统计支持计数的开销。AprioriHybird算法则是Apriori和AprioriTid的结合,初始扫描数据库时采用Apriori算法,当生成的候选项目集大小可以存放到内存中进行处理时采再转成AprioriTid算法。1995年PARK等人提出了DHP算法,即在生成频繁2-项目集时由于运算量大而引入Hash技术来产生频繁2-项目集。以上4种算法属于宽度优先算法,还有深度优先算法(如FP-growth算法、OP算法、TreeProjection算法)、数据集划分算法、采样算法、增量式更新算法等,由于后几种算法本质上已不同于Apriori算法,所以本文对其不再详述。
    我国学者开始研究关联规则挖掘较晚,约在2000年左右。起初是跟着国外学者的思路先研究Apriori的改进算法AprioriTid[1]、AprioriHybird和DHP,随后从Apriori算法的性质、扫描数据库的次数、消减数据库容量、转换数据库存储方式及与其他技术(如Hash)和算法联合等方面对Apriori算法进行了改进。下面以改进内容为序,予以详述。
1 利用Apriori算法性质的改进
    2002年有学者根据Apriori算法中生成k维数据项集的一个推论:Tk 是k维数据项集,如果所有k-1维高频数据项集集合Lk-1中包含Tk的k-1维子集的个数小于k,则Tk不可能是k维最大数据项集,从而在原Apriori算法从Ck中取元素,然后求该元素的子集,判断该子集是否在|Ck|中需进行的计算次数减少,即在判断某一项集是频繁时减少了判断次数[2]。
    2004年有学者根据性质:若k维数据项目集X={i1,i2,…,ik}中,存在一个j∈X使得?襔Lk-1(j)︳<k-1,则X不是频繁项目集。其中?襔Lk-1(j)︳表示k-1维频繁项目集的集合Lk-1中所包含j的个数。在修剪频繁集时进行了改进。又在连接步骤引入头、尾结点生成函数和优化连接函数改进了连接步骤,同时按事务压缩技术原理压缩了数据库容量[3]。
    2006年有学者发现性质:生成候选项集Ck时,在Lk-1中的一个项集I与Lk-1中所有项集进行连接,把连接得到的不同k_项集存入TQ,然后立即确定包含项集I的所有符合剪枝后的候选k_项集。根据这一性质省略了在Lk-1中寻找k_项集的所有(k-1)_子集的费时剪枝操作[4]。
    2008年有学者根据k_维频繁项集所有k-1维子集均是频繁的且子集个数为k这一性质提出两点改进:(1)如果Ck-1中存在不符合最小支持度的元素,则删除它;而且将项数等于(k-1)的事务与k项事务有交集的事务删除。(2)二次扫描数据库,分别产生频繁1、2项集L1、L2,在生成频繁3项集时,首先由频繁2项集自乘生成候选3项集C3,依次取出L2中各元素,检查其是否为C3的子集,若是则计数加1,扫描完L2中各元素后,看C3中各元素的计数,最终计数等于3的则为3项频繁的。更多项频繁集也是这种方法的重复[5]。
2 数据库扫描次数和消减容量的改进
    2003年有学者以减少扫描数据库的次数为目的,引入了概率估算候选频繁项集的思想[6]。
    2005年有学者利用频繁项集Lk-1对数据库进行筛选,如果在Lk-1没有包含它们的集合则从数据库中删掉这部分不符合最小支持度的元素,而且将项数等于k-1的事务删除,从而减少了数据库容量[7]。
    2008年有学者通过第一次扫描数据库及最小支持度确定频繁1项集,之后根据频繁1项集重新组织数据库,再次扫描,把每个子集出现的次数统计出来,再根据最小支持度筛出频繁k_项集[8]。该方法仅扫描2次数据库,节约了时间,但在处理数据库中每项事务(即拆成子集)、统计其次数等上需花费一定的空间和时间。
   2009年有学者利用如果某事务项目数小于k_频繁项目集的项目个数,则在更新频繁项目集时可以不扫描的性质,压缩了数据库事务集;为提高剪枝效率,首次支持度裁剪后,比较非频繁项集项目数和频繁项集项目数,取小值进行剪枝操作[9]。
    2011年有学者引入了用户兴趣项,从而可以比较大范围地缩减数据库容量;同时使用数组方式表示数据库,减少了数据库的扫描次数[10]。
3 转换数据库存储方式
    2004年有学者把数据库转换成矩阵表示,事务为行,具体的项目为列,若第i条事务在第j列有项目,则该处记为1,否则为0。扫描数据库时,该矩阵的对应项也随之以加1的频率改写。最后考察矩阵的对应项与支持度的关系[11]。
    2006年有学者在以往学者提出的把数据库转为矩阵的基础上[11],使用自定义的矩阵运算,产生新的数据库矩阵及完成相应的剪枝步骤。在生成关联规则时使用了概率论的基本性质,减少了计算量[12]。
    2007年有学者在以往学者提出的把数据库转为矩阵的基础上[11],使用行向量内积的方法搜寻频繁项集,该方法仅扫描一次数据库,但要多次使用矩阵相乘获取频繁项集[13]。
    2009年有学者提出了一种事务的二元组表示法,该二元组直接用字段的值串和串的出现次数来替换原始事务数据库,并在此基础上扫描一遍数据库。例如通过扫描、处理后得到项目串和支持数[I1I2,2]。该表示法所占内存大小只取决于数据库的基,即各元素取值种类的乘积。例,数据库有4个字段,每个字段的取值个数分别为(2,3,5,3),则该二元组数目不大于2×3×5×3=90。同时用链表结构来表示该二元组,能加快一定速度[14]。
    2009年有学者改变了数据库的存储形式,即由原来的第几条事务包含有哪几个元素(例如“T1 A,B,E”)变为哪个元素被哪些事务包含(例如“A T1 T4 T8 T9”)。根据最小支持度可生成1_项频繁集,再通过交集运算生成2_项频繁集(例如 “AB T1 T8”)。又根据连接时的一个定理,即Lk-1和L1连接时只需考察Lk-1的最后一项与L1中各项在L1中索引的大小关系,从而减少了不必要的重复连接[15]。
    2009年有学者把数据库的事务转为十字链表方式存储。该方法仅扫描一次数据库,节约了时间,但十字链表结构复杂,其生成也需消耗时间[16]。
4 Hash技术与数据库扫描次数及数据库消减的合用
    2003年有学者用散列技术把生成的(k+1)_项集散列到散列表中并计数,同时考察支持度;同时使用性质:不包含任何k_项集的事务不可能包含任何(k+1)_项集[17],来压缩事务数据库。
    2004年有学者提出在扫描数据库时引入散列技术,以达到降低数据库的扫描次数,同时根据支持度的要求减少不可能成为频繁项目集的候选项,从而了提高数据项集频度的统计速度[18]。
     2007年有学者提出在产生1_频繁项目集和2_频繁项目集时,使用Hash技术;在产生k_频繁项目集时使用事务压缩优化方法[19]。
5 转换数据库存储方式与Apriori性质或其他方面的联合使用
     2008年有学者在原数据库转成布尔矩阵的基础上,根据交易记录各项是按字典排序的,从而生成的候选项集和频繁项集也是有序的这一性质,减少了判断次数;同时利用k_维数据项目集的频繁项集的必要条件使它的所有k-1维子集均是频繁项目集这一性质,在一定程度上优化了频繁项集的修剪[20]。
    2011年有学者对2_项集使用了散列表技术,能较快速地获得频繁2_项集。同时对数据库生成候选k_项集(k≥3)时转为前学者[15]的矩阵方式存储,如ABC出现在第1、3、4条事务中则表示为(1011),再根据支持度就可生成频繁k_项集[21]。
    2012年有学者在前学者[16]十字链表的基础上,利用k维频繁项集的所有k-1维子集均是频繁项集这一性质,优化了候选频繁项集的生成和数据库的扫描[22]。同时也引出了其他学者对十字链表的改进。
6 Apriori算法与其他算法的联合使用
    2007年有学者提出Apriori算法与聚类算法相结合应用于IDS日志分析中[23]。
    2010年有学者提出用遗传算法对数据库进行性编码、评估和遗传,再使用Apriori的连接、剪枝和提取步骤完成整个挖掘过程[24]。
    2012年有学者把Apriori算法应用于矩阵聚类法中[25]。
    2012年有学者把云计算的两个重要步骤:Map函数(映射)和Reduce函数(归约),分别引入到Apriori算法的连接和剪枝步骤中,该思想丰富了Apriori的内容[26]。
    从上面的论述中可以看到,起初对Apriori算法的改进着重于算法本身,比如利用其性质改进频繁项集的生成、缩减数据库容量、扫描次数等。后来算法本身的改进点基本都被挖掘出来了,就转向了数据库存储方式的改进,如转成布尔型矩阵、链表,数据库存储方式的改进可谓是开创了Apriori算法改进的一个新纪元。可是接下来似乎有点山穷水尽的味道,研究转向了与其他算法的合作,如与遗传算法、云计算的合作。Apriori算法的宽度优先算法改进前途是否依然光明,我们拭目以待。
参考文献
[1] 颜雪松,蔡之华.一种基于Apriori的高效关联规则挖掘算法的研究[J].计算机工程与应用,2002,32(10):209-211.
[2] 李绪成,王保保. 挖掘关联规则中Apriori算法的一种改进[J].计算机工程,2002,28(7):104-105.
[3] 徐章艳,刘美玲,张师超,等.Apriori算法的三种优化方法[J].计算机工程与应用,2004,40(36):190-192.
[4] 胡吉明,鲜学丰.挖掘关联规则中Apriori算法的研究与改进[J].计算机技术与发展,2006,16(4):99-101.
[5] 杨启昉,马广平.关联规则挖掘Apriori算法的改进[J].计算机应用,2008,28(12):217-218.
[6] 陈江平,傅仲良,徐志红.一种Apriori的改进算法[J].武汉大学学报(信息科学版),2003,28(1):94-98.
[7] 冯兴杰,周谆.Apriori算法的改进[J].计算机工程,2005,31(增刊):172-173.
[8] 郭健美,宋顺林,李世松.基于Apriori算法的改进算法[J].计算机工程与设计,2008,29(11):2814-2815.
[9] 吴斌,肖刚,陆佳炜.基于关联规则挖掘领域的Apriori算法的优化研究[J].计算机工程与科学,2009,31(6):116-118.
[10] 刘维晓,陈俊丽,屈世富,等.一种改进的Apriori算法[J].计算机工程与应用,2011,47(11):149-151.
[11] 马盈仓.挖掘关联规则中Apriori算法的改进[J].计算机应用与软件,2004,21(11):82-83.
[12] 李超,余昭平.基于矩阵的Apriori算法改进[J].计算机工程,2006,32(23):68-69.
[13] 刘以安,羊斌.关联规则挖掘中对Apriori算法的一种改进研究[J].计算机应用,2007,27(2):418-420.
[14] 张春生.改进的数据库一次扫描快速Apriori算法[J].计算机工程与设计,2009,30(16):3811-3813.
[15] 刘华婷,郭仁祥,姜浩.关联规则挖掘Apriori算法的研究与改进[J].计算机应用与软件,2009,26(1):146-148.
[16] 黄建明,赵文静,王星星.基于十字链表的Apriori改进算法[J].计算机工程,2009,35(2):37-38.
[17] 黄进,尹治本.关联规则挖掘的Apriori算法的改进[J].电子科技大学学报,2003,32(1):76-79.
[18] 王创新.关联规则提取中对Apriori算法的一种改进[J].计算机工程与应用,2004,40(34):183-185.
[19] 柴华昕,王勇.Apriori挖掘频繁项目集算法的改进[J].计算机工程与应用,2007,43(24):158-161.
[20] 钱光超,贾瑞玉,张然,等.Apriori算法的一种优化方法[J].计算机工程,2008,34(23):196-198.
[21] 栗晓聪,滕少华. 频繁项集挖掘的Apriori改进算法研究[J].江西师范大学学报(自然科学版),2011,35(5):498-501.
[22] 刘玉文.基于十字链表的Apriori算法的研究与改进[J].计算机应用与软件,2012,29(5):267-269.
[23] 朱金清,王建新,陈志泊.基于APRIORI的层次化聚类算法及其在IDS日志分析中的应用[J].计算机研究与发展,2007,44(增刊):326-330.
[24] 詹芹,张幼明.一种改进的动态遗传Apriori挖掘算法[J].计算机应用研究,2010,27(8):2929-2930.
[25] 陈立宁,罗可.基于Apriori算法的确定指定精度矩阵聚类方法[J].计算机工程与应用,2012,48(7):139-141.
[26] 吴琪.基于云计算的Apriori挖掘算法[J].计算机测量与控制,2012,20(6):1653-1655.

此内容为AET网站原创,未经授权禁止转载。