收稿日期:2023-03-28基金项目:江苏开放大学“十四五”规划重点项目(2022KF007)作者简介:韩雪(1976—),女,副教授,硕士,主要从事计算机应用技术、机器学习、深度学习、大数据算法等研究.第38卷第2期徐州工程学院学报(自然科学版)2023年6月Vol.38No.2JournalofXuzhouInstituteofTechnology(NaturalSciencesEdition)Jun.2023贝叶斯优化在垃圾邮件过滤中的应用研究韩雪(徐州开放大学信息工程学院,江苏徐州221000)摘要:朴素贝叶斯算法利用数据的先验概率计算出后验概率,现在已成为机器学习中流行的文本分类算法,在邮件分类中具有良好的垃圾邮件过滤效果,但朴素贝叶斯算法受属性独立性与重要性一致的假设限制,没有考虑特征词在各类别间的分布,邮件样本中条件依赖性不足等问题导致分类精度不高.鉴于贝叶斯优化在自然语言处理方面已经广泛应用,采用信息增益技术对贝叶斯进行优化,引入词语权重及信息增益的概念,提出了一种基于权重的贝叶斯分类模型,把信息增益应用到词语在各个类的分布比例权重.将信息增益权重计算方法用于改进向量空间模型(VSM)的特征权重计算,并将之应用于改进朴素贝叶斯算法来进行邮件分类,通过在中英文邮件测试集上的实验,证明了改进的算法相比于传统邮件过滤方法,其分类精度和准确率有了显著提高.关键词:邮件过滤;信息增益;向量空间模型;贝叶斯优化;机器学习中图分类号:TP18文献标志码:A文章编号:1674-358X(2023)02-0077-07朴素贝叶斯(naivebayes,NB)算法作为目前流行的一种机器学习,常用于文本分类、强化学习、自然语言处理、文字识别、图像处理等人工智能领域,但其算法中属性独立性与重要性一致的假设,导致分类精度不如K-最近邻(K-nearestneighbor,KNN)、支持向量机(supportvectormachine,SVM)等算法.但因其算法的简单性和高效性,许多研究者尝试改进朴素贝叶斯算法,并在文本分类领域得到了成功应用.Tang等[1]通过考虑特征词之间的属性关联性,提出多项式朴素贝叶斯和贝叶斯网络相结合的算法模型,提升了分类效果.赵博文等[2]将泊松随机变量引入特征词权重,提出了基于泊松分布的加权朴素贝叶斯文本分类算法,削弱传统算法属性独立性假设造成的影响.宋晓敏[3]将词频-逆文档频率特征权重合并到贝叶斯的条件概率公式中,对朴素贝叶斯进行改进,削弱其特征独立性假设的影响.王斯琴[4]提出了结合主动学习的K-近邻局部加权朴素贝叶斯算法,在一定程度上提高分类的精确度和效率.在上述文本分类任务中朴素贝叶斯算法改进研究取得了一定的研究成果,然...
