收藏本站
《中国科学技术大学》 2017年
收藏 | 手机打开
二维码
手机客户端打开本文

贝叶斯网络结构学习与应用研究

曹杰  
【摘要】:进入到21世纪以来,人们对于人工智能领域的研究取得了极大的进步。作为表示不确定性知识的一种重要方法,贝叶斯网络已经成为了人工智能研究中的热点和重要成果之一,建立有效的贝叶斯网络结构也是学习和应用贝叶斯网络的基础和核心。在贝叶斯网络结构方面,以传统的专家知识构建结构为代表的方法已经逐渐被通过数据学习结构的方法取代。然而,由于可能的网络结构数多,会导致搜索空间巨大。通过训练数据学习贝叶斯网络的方法通常存在着精度低或复杂度高等问题,使得所学习的结构与实际相差较大,从而对贝叶斯网络的推理及实际应用带来很大的影响,因此研究合适的贝叶斯网络结构学习方法具有重要的理论和实际应用的意义。本文针对贝叶斯网络的结构学习及应用问题进行研究。主要围绕根据结构的复杂性,提出相应的结构学习方法,进一步地将贝叶斯网络知识应用于多标签分类中。本文的主要工作和创新性可以概括如下。第一,针对搜索评分的结构学习方法存在着搜索效率低以及容易陷入到局部最优结构问题,提出一种基于离散人工蜂群的结构学习方法。首先,将贝叶斯网络的有向无环图结构抽象成人工蜂群中的食物源,这样将结构学习问题转化成人工蜂群算法中寻找最优食物源问题;然后采用人工蜂群的搜索框架,结合差分进化算法中的变异、交叉算子,从可能的搜索空间中寻找评分最高的食物源;同时利用深度优先搜索的方法,提出一种有环图修正算法;最后通过建立对应的马尔科夫链对算法的搜索过程进行描述,理论上分析算法能够依概率1收敛到最优结构。实验仿真表明所提的基于离散人工蜂群的结构学习算法学习到的结构评分更优,且收敛性更好。第二,针对结点数庞大会导致搜索评分的结构学习方法复杂度高的问题,提出一种混合约束与搜索评分的结构学习方法。首先,利用条件独立性测试从数据中学习出结点所对应的无向独立图结构;然后利用递归的思想对无向独立图进行递归分解,从而构建出多个子图结构;对于每个子无向图结构,利用搜索评分的方法来确定出结构中的边及其对应的方向;最后,提出子结构合成规则将这些子结构重新组合成对应的有向无环图结构。实验仿真表明混合约束和搜索评分的方法能够更有效地处理结点数众多的结构学习问题。第三,考虑到多标签分类中标签之间存在着相关性的问题,提出基于贝叶斯网络的多标签分类方法。首先利用训练数据学习标签贝叶斯网络模型,其中每个结点代表着一类标签,结点间的边和条件概率分布描述标签之间的相关程度;然后利用最大似然估计的参数学习方法学习结构中的参数;对于每个测试集,通过计算其与训练样本的欧式距离来选择与其相邻的样本集,并将相邻样本集中的标签类别信息作为证据输入到标签贝叶斯网络中;最后利用联合树推理来预测测试集最可能属于哪些类标签中。
【关键词】:贝叶斯网络 结构学习 搜索评分 人工蜂群算法 条件独立性测试 无向独立图 多标签分类
【学位授予单位】:中国科学技术大学
【学位级别】:博士
【学位授予年份】:2017
【分类号】:TP18
【目录】:
  • 摘要5-7
  • ABSTRACT7-17
  • 第1章 绪论17-27
  • 1.1 贝叶斯网络学习18-20
  • 1.1.1 结构学习18-19
  • 1.1.2 参数学习19-20
  • 1.2 贝叶斯网络推理20-21
  • 1.2.1 后验概率问题20-21
  • 1.2.2 最大可能解释MPE问题21
  • 1.2.3 最大后验假设MAP问题21
  • 1.3 贝叶斯网络的应用21-24
  • 1.3.1 故障诊断22
  • 1.3.2 可靠性分析22-23
  • 1.3.3 态势评估23-24
  • 1.4 本文的主要工作及贡献24-25
  • 1.5 本文的组织结构25-27
  • 第2章 相关知识及研究工作27-45
  • 2.1 贝叶斯网络27-31
  • 2.1.1 数学模型27-29
  • 2.1.2 有向分离29-31
  • 2.2 主要结构学习方法31-40
  • 2.2.1 基于约束的方法32-35
  • 2.2.2 基于搜索评分的方法35-40
  • 2.3 基于进化计算的结构学习方法40-42
  • 2.4 混合约束和搜索评分的结构学习方法42-43
  • 2.5 小结43-45
  • 第3章 基于离散人工蜂群算法的结构学习45-67
  • 3.1 引言45
  • 3.2 人工蜂群算法45-49
  • 3.2.1 算法流程46-47
  • 3.2.2 离散人工蜂群算法47-49
  • 3.3 基于MABC-BNL的结构学习49-54
  • 3.3.1 问题抽象49-50
  • 3.3.2 算法描述50-54
  • 3.4 复杂度和收敛性54-58
  • 3.4.1 复杂度分析54-56
  • 3.4.2 收敛性分析56-58
  • 3.5 实验与分析58-65
  • 3.5.1 标准贝叶斯网络数据集59
  • 3.5.2 参数选择59-62
  • 3.5.3 对比实验62-65
  • 3.6 小结65-67
  • 第4章 基于混合约束的结构学习67-85
  • 4.1 引言67-68
  • 4.2 基于图分解的结构学习68-69
  • 4.3 理论分析69-73
  • 4.4 基于分解评分合成的结构学习73-79
  • 4.4.1 DSC流程73-74
  • 4.4.2 构建无向独立图74-76
  • 4.4.3 递归分解76-77
  • 4.4.4 搜索评分77-78
  • 4.4.5 子结构合成78-79
  • 4.5 实验与分析79-82
  • 4.5.1 实验数据79-80
  • 4.5.2 实验对比与分析80-82
  • 4.6 小结82-85
  • 第5章 基于贝叶斯网络的多标签分类85-97
  • 5.1 引言85-86
  • 5.2 多标签分类86-87
  • 5.3 基于贝叶斯网络的多标签分类87-90
  • 5.3.1 标签贝叶斯网络模型87-88
  • 5.3.2 K邻域88-89
  • 5.3.3 不确定性标签推理89-90
  • 5.3.4 算法步骤90
  • 5.4 实验结果及分析90-96
  • 5.4.1 实验数据90-91
  • 5.4.2 评价标准91-92
  • 5.4.3 对比算法92-93
  • 5.4.4 实验结果及分析93-96
  • 5.5 小结96-97
  • 第6章 总结与展望97-101
  • 6.1 本文总结97-98
  • 6.2 有待进一步研究的内容98-101
  • 参考文献101-111
  • 致谢111-113
  • 在读期间发表的学术论文与取得的研究成果113-114

【相似文献】
中国期刊全文数据库 前10条
1 贾海洋;陈娟;刘大有;;贝叶斯网结构学习搜索空间分析[J];计算机工程与科学;2010年09期
2 王双成;林士敏;陆玉昌;;贝叶斯网络结构学习分析[J];计算机科学;2000年10期
3 高晓光;肖秦琨;;非平稳随机系统动态贝叶斯结构学习关系网[J];航空学报;2007年06期
4 冀俊忠;张鸿勋;胡仁兵;刘椿年;;基于禁忌搜索的贝叶斯网结构学习算法[J];北京工业大学学报;2011年08期
5 周本达;田旭;;基于遗传算法和强化学习的贝叶斯网络结构学习算法[J];微型机与应用;2007年S1期
6 张少中,王秀坤;基于约束最大信息熵的贝叶斯网络结构学习算法[J];小型微型计算机系统;2005年06期
7 马壮,杨善林,胡小建;贝叶斯网结构学习的研究现状及发展趋势[J];合肥工业大学学报(自然科学版);2005年08期
8 程泽凯;秦锋;徐浩;;TANC-BIC结构学习算法的改进[J];计算机技术与发展;2006年05期
9 肖秦琨;高晓光;高嵩;王海芸;;DBN结构学习度量分解性能分析[J];系统工程与电子技术;2009年04期
10 郭文强;高晓光;任佳;;分段平稳变结构DBN模型区域内的结构学习[J];系统工程与电子技术;2012年04期
中国重要会议论文全文数据库 前3条
1 邓志东;张秀苇;;具有结构学习的神经模糊推理模型及其在fRNA基因预测中的应用[A];2005年中国智能自动化会议论文集[C];2005年
2 刘向南;王浩;姚宏亮;;一种基于x~2测试的贪婪搜索结构学习算法[A];2011中国仪器仪表与测控技术大会论文集[C];2011年
3 程泽凯;泰锋;;贝叶斯网络分类器结构学习:基于启发式的G2算法[A];2005年“数字安徽”博士科技论坛论文集[C];2005年
中国博士学位论文全文数据库 前4条
1 曹杰;贝叶斯网络结构学习与应用研究[D];中国科学技术大学;2017年
2 张韬政;结构学习中的辅助问题研究[D];北京邮电大学;2011年
3 雷菊阳;复杂环境下动态系统结构学习[D];上海交通大学;2009年
4 李刚;知识发现的图模型方法[D];中国科学院软件研究所;2001年
中国硕士学位论文全文数据库 前10条
1 赵梦梦;同调结构学习算法及其应用研究[D];苏州大学;2015年
2 许晴;基于Finsler几何的结构学习算法研究[D];苏州大学;2015年
3 刘培娜;基于非负编码和SPNs结构学习的图像分类算法研究[D];哈尔滨工业大学;2015年
4 张顺;不完全数据图模型的结构学习[D];山东师范大学;2016年
5 李国梁;贝叶斯网络结构学习的混合优化方法研究[D];西北工业大学;2015年
6 李硕豪;基于图分块的贝叶斯网络结构学习研究[D];国防科学技术大学;2014年
7 曾杰鹏;基于继承的贝叶斯网络结构学习算法研究与应用[D];华南理工大学;2012年
8 胡仁兵;动态贝叶斯网络结构学习的研究[D];北京工业大学;2009年
9 张鸿勋;基于K2评分的贝叶斯网结构学习算法的研究[D];北京工业大学;2009年
10 胡谦谦;Markov逻辑网及其在社会网络中的应用研究[D];北京交通大学;2010年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62791813
  • 010-62985026