贝叶斯网络

(学习这部分内容大约需要2.3小时)

摘要

贝叶斯网络是表达概率模型的结构的图示. 即随机变量间可能的互相依赖形式. 直观地来说, 贝叶斯网络擅于表示因果关系, 图中的边确定哪些变量直接影响哪些变量. 它们可以被看作等价于联合概率分布的分解结构, 或者编码关于分布的一组条件独立假设.

预备知识

学习这个概念需要以下预备知识

• 随机变量: 贝叶斯网络是一种组织随机变量信息的方式
• 条件独立: 贝叶斯网络可以被看作编码了一组条件独立假设.
• 贝叶斯规则: 贝叶斯网络用于基于贝叶斯规则的推理形式

核心资源

(阅读/观看其中一个)

免费

• Coursera: Machine Learning
  简介: 一门进阶本科生的在线机器学习课程

  • Lecture "Bayesian networks"

  • Lecture "Inference in Bayesian networks"

  网站

  作者: Pedro Domingos

  备注

  • 点击"Preview"观看视频

• Coursera: Probabilistic Graphical Models (2013)
  简介: 一门概率图模型的在线课程

  • Lecture "Semantics & factorization"
  • Lecture "Reasoning patterns"
  • Lecture "Naive Bayes"
  • Lecture "Application -- medical diagnosis"

  网站

  作者: Daphne Koller
  备注:

  • 点击"Preview"观看视频

• Artificial Intelligence II (IIT video lectures)
  位置: Lecture - 22 Bayesian Networks (from 9:35 to 47:00)
  网站
  作者: Pallab Dasgupta
  备注:

  • 用户"SiddharthBhaiVideos"的 Youtube 评论提供了一个很好的课程导图

• CMU 10-701, Machine Learning (2011)
  简介: CMU的机器学习课程讲座视频
  位置: Lecture "Graphical models 1"
  作者: Tom Mitchell

付费

• Probabilistic Graphical Models: Principles and Techniques
  简介: 一个非常全面的研究生概率AI教材
  位置: Sections 3.1-3.2.2, pages 45-60
  网站
  作者: Stuart Russell,Peter Norvig
• Artificial Intelligence: a Modern Approach
  简介: 一本广泛概述所有AI技术的教科书
  位置: Sections 14.1-14.2, pages 492-499
  网站
  作者: Stuart Russell,Peter Norvig

增补资源

(以下为可选内容, 你可能发现他们很有用)

付费

• Machine Learning: a Probabilistic Perspective(MLAPP)
  简介: 一本非常全面的研究生机器学习教材
  位置: Sections 10.1-10.2.4, pages 307-318
  网站
  作者: Kevin P. Murphy
• Pattern Recognition and Machine Learning(PRML)
  简介: 一本研究生机器学习课程的教材, 专注于贝叶斯方法
  位置: Sections 8-8.1.3, pages 359-369
  作者: Christopher M. Bishop
  其他依赖知识:
  • 线性回归

相关知识

• 贝叶斯网络与马尔科夫随机场(Markov random fields, MRFs)有亲密的关系, MRFs良好地表示了变量之间的软约束.

• 贝叶斯网也可以根据其条件独立性来表征, 条件独立性可以使用d-separation来找到

• 通常我们对以下问题感兴趣

  • 在给定其他变量的情况下推断一些变量的条件概率
  • 从数据中学习网络的参数

  贝叶斯网络这种表示假设了与问题相关的所有信息被包含在所有变量的联合分布中. 因果网络(causal networks)是一种捕捉了更多因果关系细节的网络.

---

返回贝叶斯机器学习路线图