《应用随机过程教程及在算法和智能计算中的随机模型》是200年
清华大学出版社出版的图书，作者是龚光鲁。
图书简介
本书概述了应用随机过程的基本内容以及近代的重要进展与重要方法，且并不要求读者具有测度论的知识，在使用不严格的推理的情况下，遵循强调想法、背景与思路的原则，尽力做到理论与算法兼顾。
全书共分17章，内容包括概率论精要回顾与补充、随机样本生成法、随机过程的一般概念与独立增量过程、更新现象及其理论、离散时间的Markov链、连续时间的Markov链、排队过程简介、Markov链Monte Carlo方法、以图像信息为背景的随机场与迭代Markov系统以及Bayes统计方法、隐Markov模型及其应用、Gauss系二阶矩过程与时间序列、连续状态的Markov过程、鞅ItÖ积分与随机微分方程、金融证券未定权益的定价、随机过程在精算与风险模型中的应用、与数据建模有关的几个算法、离散状态的Markov控制与决策过程简介、Poisson随机分析简介与典型的点过程。
本书的内容是随机建模的基本工具，适合于作为理、工及管理学科的本科高年级学生和研究生的教材或参考书；也是教师、研究人员以及使用应用随机过程分析数据资料工作者的重要参考书。
目录
前言1
符号说明19
第1章概率论精要回顾与补充1
1基本框架与典型分布1
1.1概率1
1.2随机变量1
1.3d维随机向量3
1.4独立性3
1.5Chebyshev 不等式4
1.6基本极限与基本极限定理(大数定律与中心极限定理) 4
1.7典型分布7
1.8次序随机变量的分布11
2条件概率、条件分布、条件(数学)期望11
2.1条件概率11
2.2条件分布12
2.3条件（数学）期望13
2.4期望与方差的Wald等式
17
3统计简要19
3.1用样本作矩估计19
3.2最大似然估计 19
3.3线性模型的最小二乘估计及其推广20
习题121
第2章随机样本生成法28
1一维随机数28
1.1均匀随机变量的计算机模拟28
1.2分布函数F(x)的随机数28
1.3正态随机数29
1.4Poisson随机数30
1.5混合分布随机数30
1.6Von Neuman 取舍原则 31
1.7Gamma随机数与Beta随机数的生成
32
2多维随机数33
2.1连续型多维随机数33
2.2离散型多维随机数33
2.3多维正态随机数33
2.4多维Beta随机数（Dirichlet随机数）的生
成34
*3附录——用Matlab生成随机数34
3.1Matlab语言的简单提示
34
3.2Matlab生成随机数的语句36
习题238
40
1一般概念40
1.1随机过程与有限维分布族40
1.2独立增量过程40
2Poisson 过程与复合Poisson过程41
2.1事故申报次数的概率模型与Poisson过程
41
2.2Poisson过程与指数流的关系43
2.3与指数流有关的一些随机变量与分布46
2.4常见的推广49
2.5复合Poisson过程50
3Brown 运动(Wiener 过程)及其函数51
3.1历史背景与物理模型51
3.2Brown 运动 (数学模型)53
3.3Brown运动的简单性质54
3.4Brown运动的反射原理及首达性质55
3.5与Brown运动有关的几个简单随机过程58
3.6漂移Brown运动 59
3.7几何Brown运动60
4简单随机徘徊60
4.1双侧吸收壁的吸收概率61
4.2随机徘徊的对称原理62
4.3随机徘徊的首达时刻62
4.4简单随机徘徊与首达时63
习题365
第4章更新现象及其理论
68
1Stieltjes 积分简述68
2更新过程的概念 69
2.1作为Poisson过程推广的更新过程69
2.2更新函数的更新方程 71
2.3年龄与剩余寿命73
3更新定理与更新次数的正态近似75
3.1更新定理75
*3.2更新过程的正态近似75
*3.3Blackwell定理与主更新定理76
3.4更新间隔为正整值随机变量的更新过程77
4更新过程的变种模型77
4.1交错更新过程77
4.2延迟更新过程78
4.3带酬更新过程78
5再生过程与其相系的更新过程79
5.1再生过程的概念79
5.2与再生过程相系的更新过程80
5.3比例极限定理在再生过程中的应用80
5.4存储模型的一个例子81
*6Erlang 更新过程82
6.1Erlang更新过程的定义82
6.2Erlang 更新过程的矩母函数83
习题484
第5章离散状态Markov链86
1Markov链的概念86
1.1定义与Markov性质86
1.2概率转移矩阵88
1.3时齐的Markov链89
1.4Markov链的例90
2Markov链的状态分类94
2.1首达分解、n步转移概率的递推式、矩母函数、常返性94
2.2常返性再访与Markov链的基本结构98
2.3平均回访时间与正常返性101
3Markov链的转移概率的极限与不变分布102
3.1不变分布与平稳Markov链102
3.2有限状态Markov链的不变分布与极限分布102
3.3转移矩阵的平均极限105
4Dobrushin 不等式与指数收敛性107
4.1Dobrushin 不等式107
4.2Dobrushin 收敛定理108
5与常返态相系的延迟更新流,互通常返Markov链的极限定理
109
5.1与常返态相系的延迟更新流109
5.2互通常返链的极限定理109
6停时与强Markov性114
6.1停时114
6.2强Markov性114
7禁忌概率与首达分布115
7.1禁忌概率115
7.2首达时与首达分布115
7.3禁忌概率, 首达分布与平均首达时间115
8可逆Markov链与可逆分布117
8.1可逆Markov链117
8.2例118
8.3可逆初分布存在性判别法119
9分支Markov链(Galton?Watson简单分支过程)120
习题5123
第6章连续时间的Markov链129
1连续时间的Markov链及其转移矩阵129
1.1连续时间的Markov链的定义及等价性叙述129
1.2连续时间的Markov链概率转移矩阵129
1.3连续时间的时齐的Markov链130
2Poisson 过程与复合Poisson 过程再访131
3由转移速率矩阵确定连续时间的Markov链133
3.1Kolmogorov 方程及Master 方程133
3.2转移速率矩阵的概率含义134
4连续时间的Markov链的极限分布135
4.1连续时间的Markov链的转移矩阵的平均极限135
4.2连续时间的Markov链的极限分布
135
5连续时间的Markov链的转移矩阵P(t)的不变分布137
5.1连续时间的Markov链的转移矩阵P(t)的不变分布
与其嵌入链的不变分布137
5.2连续时间的Markov链的遍历极限138
5.3对称的与可逆的连续时间的Markov链139
6例140
6.1连续时间分支过程140
6.2有限格点上的Ising模型与Gauber动力学142
6.3生灭类过程143
6.4系统与有效度149
7连续时间的Markov链的模拟与加速收敛156
7.1连续时间的Markov链的模拟156
7.2加速收敛的均匀化方法156
习题6156
第7章排队过程简介160
1排队过程的描述160
1.1排队系统 160
1.2排队系统的一般框图,输入过程与输出过程160
1.3可逆性引理161
2最简单排队过程——Markov排队过程161
2.1最简单的排队过程——M/M/1系统
161
2.2N个服务员的简单排队过程——M/M/N 系统163
*2.3序贯排队与排队网络系统166
2.4M/M/∞排队系统167
3排队系统的一般概念169
3.1关于排队论的一般注记169
3.2M/M/N消失制170
*3.3M/G/1排队系统171
*3.4G/M/1排队系统174
3?5关于M/G/∞系统的注记
176
*4半Markov过程 177
4.1半Markov过程的定义177
4.2半Markov过程的渐近性质178
*5有限位相型分布( PH?分布)179
5.1背景179
5.2有限位相型分布(PH?分布)179
5.3离散PH?分布182
5.4PH?分布类的封闭性183
习题7184
第8章Markov 链Monte Carlo 方法
186
1计算积分的Monte Carlo方法与采样量估计
186
1.1用频率估计概率来计算积分的Monte Carlo方法
186
1.2用样本函数的平均值估计的期望来计算积分的
Monte Carlo方法——期望法188
1.3减少方差的技术189
2Markov 链Monte Carlo191
2.1Gibbs 采样法192
2.2Metropolis采样法194
2.3通过条件分布对分布π作随机采样的Gibbs方法197
2.4MCMC应用于Bayes参数估计201
3模拟退火203
3.1模拟退火方法的基本想法203
3.2有关模拟退火算法的非时齐马氏链的理论背景205
习题8208
第9章以图像信息为背景的随机场迭代Markov系统
209
1有限格点上的Markov随机场与图像209
1.1有限格点上的Markov随机场209
1.2相邻系统的Gibbs分布与Gibbs随机场（??邻位势Gibbs场）211
1.3图像处理的随机过程方法的思路原则概述213
1.4Gibbs分布的样本的Gibbs采样法214
1.5Gibbs分布的模拟退火216
2时间离散状态连续的Markov链218
2.1概率空间再访218
2.2时间离散状态连续的Markov链219
2.3概率转移核221
2.4时齐的连续状态Markov链222
2.5例223
2.6寻找Rd上可微函数f(x)的最小值位置的模拟退火算法224
2.7Dobrushin 不等式、指数遍历性与收敛性225
3随机的迭代函数系统228
3.1局部相似性的基本想法228
3.2轮廓图全体组成的距离空间229
4统计中的Bayes方法与图像的处理、分割与重建237
4.1Bayes统计要义237
4.2Bayes方法在图像中的应用与观测量不是状态变量时的
参数估计240
习题9242
第10章隐Markev模型及其应用243
1熵与相对熵243
1.1离散分布的熵与相对熵243
1.2分布密度的熵与相对熵245
2隐Markov 模型 247
2.1一个实例247
2.2隐Markov 模型的描述249
2.3隐Markov模型的等价表述249
2.4非线性滤波作为隐Markov模型的特例250
2.5在应用中研究隐Markov模型的主要方面
250
3解码问题——已知模型λ与观测Y=y时状态X的估计251
3.1出现当前的观测的概率P(Y=y|λ)的计算251
3.2解码问题——已知模型λ与观测Y=y
时状态X的估计252
4学习问题——由观测Y=y估计模型参数λ253
4.1状态链样本已知时的参数频率估计
253
4.2模型参数估计的EM算法的思想253
4.3隐Markov模型中M步骤的求解255
5关于隐Markov模型的评注258
5.1隐Markov模型包容度大有非常宽的应用面258
5.2隐Markov模型的更为一般的形式259
6隐Markov模型的应用例子梗概 260
6.1语音的机器识别260
6.2脱机手写体汉字识别262
6.3DNA序列片断装配及启动子识别262
习题10264
第11章Gauss系二阶矩过程与时间序列266
1全体方差有限的随机变量构成的Hilbert空间266
1.1实值情形266
1.2复值情形266
2随机变量族的均方信息空间与滤波267
2.1均方信息空间267
2.2滤波问题267
3Gauss系与投影再访268
3.1Gauss过程的定义、等价条件及其性质268
3.2Gauss过程的投影——线性滤波270
3.3复Gauss过程271
3.4Gauss过程的特征泛函271
4平稳性与宽平稳性271
4.1平稳序列与宽平稳序列271
4.2渐近平稳序列与渐近宽平稳序列273
4.3平稳增量序列273
5ARMA模型274
5.1ARMA(p, q)274
5.2AR模型的定阶与偏相关系数以及模型参数的估计
275
5.3MA模型的定阶与参数估计279
5.4ARMA模型的定阶与参数估计280
5.5ARMA模型的预报问题282
6ARCH 模型284
6.1ARCH(q)284
6.2ARCH（q）的定阶与参数估计285
6.3ARCH(q)模型的方差预报286
*7GARCH (p,q) 模型与其他随机方差模型
286
7.1GARCH模型286
7.2金融证券模型中的GARCH(1,1)287
7.3GARCH（p,q）的参数估计288
7.4SV模型（随机条件异方差模型）
289
8二阶矩序列滤波的再访291
8.1线性滤波再访291
8.2Kalman?Bucy滤波292
*9二阶自相似时间序列与长程相关性295
9.1统计自相似性295
9.2二阶自相似性297
9.3长程相关性298
10.1非线性AR模型301
10.2非线性AR模型的常见例子303
10.3二重ARMA模型305
习题11305
第12章连续时间连续状态的Markov过程、鞅、It?积分
与随机微分方程307
1连续时间连续状态的 Markov过程307
1.1平稳Gauss过程307
1.2时间与状态都连续的时齐Markov过程310
2鞅列与鞅311
*2.1条件期望再访311
2.2鞅列313
2.3连续时间参数的鞅320
3It?积分——对 Brown 运动的积分323
3.1对 Brown运动的积分与其特殊性323
3.2It?公式328
4随机微分方程与扩散过程简介332
4.1随机微分方程332
4.2扩散过程335
*4.3Girsanov定理与Feyman?Kac公式
341
5随机微分方程的解的数值模拟算法342
5.1随机微分方程在固定时刻附近的随机Taylor展开
与解的差分近似343
5.2It?过程的一个光滑函数f复合在时刻t
附近的随机Taylor展开344
5.3差分近似模型的改进345
习题12346
第13章金融证券未定权益的定价350
1Black?Scholes模型的欧式未定权益的定价
350
1.1术语与基本假定350
1.2定价的套期方法352
1.3风险中性概率方法354
1.5倒向随机微分方程方法358
1.6时变的Black?Scholes模型359
2二叉模型与Black?Scholes模型的二叉近似 359
2.1二叉模型359
2.2Black?Scholes模型的二叉近似362
3二叉模型的美式未定权益简述363
3.1美式未定权益363
3.2二叉模型美式未定权益{f(Sn),n≤N}的
定价与定价函数组
366
4随机利率与债券利率的期限结构368
4.1s?零息债券368
4.2零息债券导出的各种随机利率概念
369
4.3资产定价基本定理与利率衍生证券
371
4.4利率的风险中性模型371
*5基于证券的随机利率的债券为币值单位折现的证券及其
未定权益的定价376
习题13377
第14章随机过程在精算与风险模型中的应用
379
1基本概念379
1.1保险中的利率概念379
1.2生存模型的寿命分布与精算模型中的余寿380
2风险模型与破产理论介绍382
2.1盈余过程与永不破产的概率382
2.2时刻t前不破产的概率的公式与估计383
2.3有准备金时最终破产概率的上界与调节系数386
2.4破产概率的方程388
2.5保险费的效用函数与保险费策略的制定389
2.6最大损失的分布390
3考虑利率与投资的保险模型简述391
习题14391
第15章与数据建模有关的几个算法 393
1EM算法——具有隐状态变量的分布中参数的最大似然估计393
1.1EM算法的基本想法393
1.2Rubin算法394
1.3EM算法的变通—— 广义EM算法
395
*2在数据不完全时，用增补潜在数据后对参数的Bayes分布作估计
——Tann
er?Wong的潜变量法396
2.1基本想法——估计后验分布396
2.2未知参数的后验分布的迭代估计
396
3几种智能算法397
3.1背景397
3.2决定性的人工神经网络398
3?2?2一般的决定性的人工神经网络模型
（神经元未必只取1或0）401
3.3随机的人工神经网络401
3?3?1随机因素及其作用401
3?3?2递归（或反馈）（recurrent）网络与Boltzman机401
3.4演化算法，遗传算法405
4聚类，Kohonen 自组织学习, 自适应算法409
4.1k?平均聚类409
4.2自适应聚类的基本思路409
4.3固定规模的Kohonen网络410
4.4网络的规模的竞争学习412
5适应
最小二乘法——一种适应的变步长的随机逼近413
第16章离散状态的Markov控制与决策过程简介414
1例414
1.1随机决策模型的简单例子414
1.2简单模型的启示 416
2动作只依赖当前所处状态的简单决策模型417
2.1简单模型的一般描述417
2.2有限时段总报酬准则下的最佳Markov策略的构造
419
2.3无穷时段下的总报酬情形
420
第17章Poisson随机分析简介与典型的点过程423
1非时齐的Poisson过程、非时齐的复合Poisson过程及其特征泛函423
1.1数值函数对Poisson过程的积分423
1.2Poisson过程的特征泛函423
1.3非时齐Poisson过程的统计性质424
1.4数值函数对非时齐Poisson过程的积分及非时齐的Poisson
过程的特征泛函426
1.5非时齐的复合Poisson过程及其特征泛函
428
2与非时齐的复合Poisson过程相系的Poisson点过程
429
2.1将非时齐复合Poisson过程表示为非时齐Poisson过程的积分（用时间积分表示）429
2.2将非时齐复合Poisson过程表示为Poisson点过程的积分（用空间积分表示）430
2.3将非时齐复合Poisson过程表示为时空Poisson过程的积分（用时空积分表示）432
3过滤的Poisson过程433
4Poisson随机微积分简介434
4.1关于时空Poisson点过程的随机积分434
4.2以Poisson过程或以时空Poisson点过程驱动的随机微分
方程与Poisson
随机微积分的复合函数的It?公式436
4.3由Brown运动和时空Poisson过程联合驱动的随机微分方程
439
5自激点过程440
5.1自激点过程的强度过程与条件计数强度
440
5.2自激点过程的绝对概率440
5.3自激点过程的事件到达时刻的联合分布
441
5.4具有限记忆的自激点过程442
5.5对于自激点过程的随机积分443
5.6二重Poisson过程443
习题17445
参考文献447
索引449