2023年4月ChineseJournalofNetworkandInformationSecurityApril2023第9卷第2期网络与信息安全学报Vol.9No.2人工智能安全知识图谱构建技术研究沈晓晨1，葛寅辉1，陈波1，于泠2（1.南京师范大学计算机与电子信息学院/人工智能学院，江苏南京210023；2.南京师范大学数学科学学院，江苏南京210023）摘要：人工智能技术在飞速发展的同时引发众多安全隐患，现阶段人工智能安全数据来源广泛、种类复杂并且缺乏规范描述，为此提出了一种人工智能安全知识图谱构建方法，利用知识图谱对当前多源异构数据进行分析与整合，将复杂关联的数据进行科学表示，挖掘潜在价值并形成领域知识库。针对人工智能安全领域概念的多样性和关联性，提出一种分层结构人工智能安全本体，使本体结构更加多元化和扩展化，为知识图谱构建过程提供规则约束，并基于此形成人工智能安全知识库；为了有效利用特征信息及减少噪声干扰，采取基于双向长短时记忆网络−条件随机场（BiLSTM-CRF）的命名实体识别算法和基于卷积神经网络−注意力机制（CNN-ATT）的关系抽取算法进行信息抽取，利用构建的人工智能安全数据集证明算法性能；以提出的安全本体为知识体系，以3D效果展现人工智能安全知识图谱多层次可视化结果，有效关联多源安全数据信息。实验结果表明，信息抽取算法性能良好，取得了比传统方法更好的效果；构建的人工智能安全知识图谱直观展示了层次结构及相互关系，符合准确性、一致性、完整性、时效性维度的知识图谱多维度评估标准，能够为人工智能安全研究提供支持。关键词：人工智能安全；知识图谱；本体构建；信息抽取；可视化中图分类号：TP391文献标志码：ADOI:10.11959/j.issn.2096−109x.2023030ResearchonconstructiontechnologyofartificialintelligencesecurityknowledgegraphSHENXiaochen1,GEYinhui1,CHENBo1,YULing21.SchoolofComputerandElectronicInformation/SchoolofArtificialIntelligence,NanjingNormalUniversity,Nanjing210023,China2.SchoolofMathematicalScience,NanjingNormalUniversity,Nanjing210023,ChinaAbstract:Asamajorstrategictechnology,artificialintelligenceisdevelopingrapidlywhilebringingnumeroussecurityrisks.Currently,securitydataforartificialintelligenceiscollectedfromdisparatesourcesandlacks收稿日期：2022−07−09；修回日期：2022−12−25通信作者：陈波，bchen@njnu.edu.cn基金项目：教育部科技司赛尔网络下一代互联网技术...
