AI2613: Stochastic Processes (Spring 2025)
Lecture Notes in Chinese
Lecture 14 (May 26) 马尔可夫过程、郎之万蒙特卡洛与去噪扩散概率模型
Lecture 13 (May 19) 扩散过程、伊藤积分
Lecture 12 (May 12) 布朗运动
Lecture 11 (Apr. 28) 鞅与集中不等式
Lecture 10 (Apr. 27) 离散鞅与可选停时定理
Lecture 9 (Apr. 21) σ-代数与条件期望
Lecture 8 (Apr. 14) 连续时间离散空间马尔可夫过程
Lecture 7 (Apr. 07) 泊松近似
Lecture 6 (Mar. 31) 泊松过程
Lecture 5 (Mar. 24) 马尔科夫基本定理的一般形式,2-CNF上的随机游走
Lecture 4 (Mar. 17) 无限状态马尔可夫链,常返与正常返
Lecture 3 (Mar. 10) 马尔可夫链基本定理,耦合
Lecture 2 (Mar. 03) 离散马尔可夫链,Metropolis-Hastings
Lecture 1 (Feb. 24) 独立随机变量,集中不等式
Lecture 0 (Feb. 17) 课程简介
随机过程是研究一列随机变量 X1, X2, ..., Xn, ... 相互关系和性质的学科。我们的内容将就随机变量之间的相互关系分成三类。
- [独立关系] 在概率论里面我们已经研究过独立的一列随机变量的一些性质,比如大数定律,中心极限定理等。在这门课里,我们会简要的讨论相关的内容,特别是所谓的集中不等式,即“非渐进的中心极限定理”,以及一些常见的离散模型(如balls-into-bins)。这些内容将作为数学工具在后面的课程中反复用到。
- [马尔可夫性/无记忆性] 我们课程的核心是满足马尔可夫性/无记忆性的随机变量,根据时间或者样本空间的离散/连续性区别,我们把他们称之为马尔可夫链/马尔可夫过程等。我们会以马尔可夫链蒙特卡洛方法为主线,在各个不同等级的一般性程度上发展其理论。从有限空间离散时间的马尔可夫链开始,到一般的马尔可夫半群理论,我们会介绍基本的耦合法以及伊藤积分等工具。作为在人工智能方向的应用,我们最终会给出扩散模型作为一个非时间齐次的马尔可夫过程采样一般分布的相关推导。
- [鞅] 我们要研究的第三类过程是鞅过程。我们首先会把它作为一个对问题建模的工具来研究,探讨它的一些性质,解决一些实际问题。其次,我们会把鞅作为一个基本的数学工具和语言,在发展马尔可夫过程的时候反复使用。
这门课需要对于概率论有一定基础。我推荐大家查看我的讲义。助教也为大家准备了一份这门课会用到的内容的精简版。