本书参考了国际一流大学相关的研究生课程的教学内容,增加了许多近年来随机过程理论与应用方面的研究新成果.围绕现代随机过程的理论、方法及其工程应用背景和发展前景作了深入细致的讨论,着重论述了基本理论及其应用潜力,强化计算与编程方面的理论分析,力求在内容的广度和深度上与国际水平接轨.
本书内容包括: 随机过程的基本概念和分类、平稳过程与二阶矩过程、离散鞅论、Poisson过程与更新过程、Brown运动、Markov链与连接参数Markov过程等.同时在内容的处理上通过讨论和注解的方式使之层次分明,以适应不同类型读者的需求.
本书是现代应用随机过程理论的入门教材,可作为高年级本科生及研究生的必修课教材,也可作为本科生、研究生、教师、科研与工程技术人员的参考书.
本书是作者在清华大学为电子工程、计算机科学与技术、自动化和生物医学与工程等系的研究生授课的讲稿基础上加以整理、扩充和完善的结果.
本书的特点在于:
(1) 对读者所需的数学基础要求的起点较低:读者只需具备微积分、概率论和线性代数的基本知识.
(2) 着重揭示一些基本概念的来源及背景,加强了对基本理论应用潜力的探讨.
(3) 在每一章中,力求能够反映基本理论的概貌和在工程中可能的使用模式,加深读者对相关知识的理解.
(4) 结合应用,加强了计算与编程方面的理论分析,给出相关的矩阵算法和统一的编程模式.
(5) 本书的内容要点致力于反映本学科在现代科学技术应用中所必须具备的基础知识和基本技巧,有助于开展相关学科领域的科学研究.
(6) 内容的选材和设置以国际一流大学(如MIT, Berkeley, Cornell, Gatech, Caltech等) 同类专业或相近专业的研究生课程为参考,力求在内容上呈现同等的广度和深度.
(7) 展示了现代随机过程基础理论研究和应用最为活跃的一些领域的基本思想和方法.
本书是现代应用随机过程理论的入门教材,可作为高年级本科生及研究生的必修课教材,也可作为本科生、研究生、教师、科研与工程技术人员的参考书.
本书的撰写原则是,强调理论的背景与思路,从应用的角度,力求内容的广度和深度与国际先进水平接轨.对于命题与定理的处理,强调了证明的思路,不追究数学上的严格性.对于一些重要的概念与定理的理解,采用了讨论和注解模式,进一步揭示了其理论内涵和潜在的应用方式,例如对Markov链转移概率基本关系式,我们从5个方面加以讨论,解释它的应用;对于Metropolis 算法,我们从3个方面进行了理论分析.深刻体会和理解如何灵活运用随机过程理论是本书撰写中反复强调的重点.作者希望通过这些讨论和注解使读者能更深刻地体会随机过程理论的实质.此外,这些注解和讨论也使本书在内容的层次化处理上更具灵活性,对于那些只强调理论应用的读者,可以跳过一些繁琐的理论证明,通过阅读有关定理、注解及讨论就可体会其本质.而对于那些追求理论分析技巧的读者,可以通过仔细阅读本书提供的引理和理论证明,提高其数学分析的能力.
本书的内容组织如下:第1章在介绍随机过程基本概念的基础上,强调了随机过程的二重性:随机性和函数特性,并简述了随机过程所研究问题的范畴与分类.第2章讨论了平稳过程和二阶矩过程,通过引入线性系统,解释了功率谱与时域平均的关系;重点讨论了过程特征参数的遍历性理论;在谱分解理论和随机预测的证明与讨论中,采用了线性代数的方法而非测度论的方法.第3章讨论了离散鞅论与应用.通过许多示例解释了鞅的概念,并给出了构造鞅的一些基本方法.通过对停时的讨论,解释了停时定理在平均时间估计和首达概率计算方面的应用.此外,本章的重点在于强调鞅论的应用,如上穿不等式、极大值不等式、Doob估值定理、Azuma不等式和推广的Azuma不等式等及其在拖尾概率估计中的应用.第4章在阐述Poisson过程和更新过程的基本理论的基础上,重点介绍了Poisson过程的分流和非时齐Poisson过程的应用、复合Poisson恒等式以及Wald恒等式.第5章,在讨论Brown运动之前,对正态分布的有关理论从8个方面如:Cauchy分布、区域分布与互相关系数的关系、条件分布、联合分布的条件边缘分布、反正弦率、零交叉、拖尾概率的Mill比值估计等进行了总结分析,在此基础上讨论了Brown运动的8个特性以及过零点的反正弦定理,并对Brown运动的变形、带漂移的Brown运动以及Brown桥的性质与应用进行了讨论,部分证明和事例分析采用了鞅论的方法.值得一提的是对首中时的Laplace 变换给出了一个相对简洁的证明.第6章,在阐述Markov链基本理论的基础上,给出了计算平稳分布的矩阵算法,吸收概率的矩阵计算理论以及近年提出的用于系统仿真的Metropolis 算法与其理论分析.第7章以时间齐次连续Markov链的定义为基础,讨论了Kolmogorov前后向方程与应用,给出了平稳分布的矩阵计算方法.通过对生灭过程的讨论,解释了平衡方程、详细平衡方程在网络性能分析中的应用方法.本章的另一个重点是系统地讨论了嵌入Markov链、半Markov过程、Q过程的内在联系以及系统仿真的一致性理论.关于平稳分布与时间可逆性理论,通过排队论中Burke定理解释了它的应用方法,展示了它在网络分析方面的应用前景.
本书的内容选取和设置得到了清华大学研究生精品课建设基金的支持.在本书的编写与修改过程中,作者的博士生导师冯重熙教授给予了大量的鼓励、关心和支持,在此表示衷心的感谢.同时感谢清华大学电子工程系陆大纟金教授、张颢博士、清华大学数学科学系葛余博教授,中国矿业大学北京校区数学系高运良主任,与他们有益的讨论,使本书的内容更加充实、丰富.感谢曹志刚教授、陆建华教授、林孝康教授及电子工程系教务科罗淑云教授等同事的大力支持和帮助.同时也感谢参加听课的研究生们及我所在的微波与数字通信技术国家重点实验室的同事们;他们对更新工科学生“随机过程”课程内容的建议和要求,促使作者加快了编写和整理本书的进度.本书的出版得到清华大学出版社的大力支持,特别是刘颖编辑对稿件认真细致的审阅和校对.最后,感谢我的妻子和孩子对我的支持、鼓励和帮助.
第1章概论
1.1随机过程的基本特点
1.2随机过程的研究范围
1.3随机过程的分类方法(1)
1.4随机过程的示例
1.5随机过程的数字特征及基本概念
1.6随机过程的分类方法(2)
1.7习题
第2章平稳过程与二阶矩过程
2.1相关函数
2.2功率谱
2.3功率谱与时域平均
2.4线性系统
2.4.1平均值和自相关
2.4.2功率谱
2.5随机连续性
2.5.1引言
2.5.2平均值的连续性
2.6随机微分 (均方意义)
2.6.1关于微分运算的性质
2.6.2平稳过程的微分特性
2.7Taylor级数
2.8随机微分方程
2.9随机积分
2.10遍历性讨论
2.10.1平均值的遍历性
2.10.2自相关的遍历性
2.10.3分布函数的遍历性
2.11抽样定理与随机预测
2.11.1随机过程抽样定理
2.11.2信号的随机预测
2.12习题
第3章离散鞅论
3.1条件概率
3.1.1条件概率的物理解释
3.1.2条件概率的性质
3.2鞅的定义与基本性质
3.3鞅的举例与基本构造方法
3.3.1鞅的示例
3.3.2关于鞅的构造方法
3.4上鞅、下鞅的定义及基本性质
3.4.1基本定义
3.4.2上、下鞅的基本性质
3.5Jensen不等式与下鞅的构造
3.6分解定理
3.7停时与停时定理
3.7.1停时的基本概念
3.7.2几个基本的停时定理
3.7.3停时定理的证明
3.7.4停时定理的应用
3.8关于停时的Wald恒等式
3.9上穿不等式及应用
3.10极大值不等式与Doob定理
3.10.1Markov不等式
3.10.2Chernoff界
3.10.3极大值不等式
3.10.4最大值估计定理
3.11鞅论的应用(1)
3.11.1三人赌博问题
3.11.2关于对称随机移动
3.12Azuma不等式
3.13Azuma不等式的推广
3.14鞅论的应用(2)
3.14.1Azuma不等式在古典概率估计中的应用
3.14.2无线Ad Hoc网络中网络编码的容量计算
3.15连续鞅论介绍
3.16习题
第4章Poisson过程与更新过程
4.1Poisson过程的定义
4.2Poisson过程的基本性质
4.3Poisson过程与指数分布的关系
4.4到达时间的条件分布
4.5Poisson过程的分流
4.6非时齐Poisson过程
4.7复合Poisson过程
4.7.1复合Poisson过程的定义
4.7.2复合Poisson恒等式
4.8条件Poisson过程
4.9双重随机Poisson过程
4.10更新过程
4.11更新函数的性质与应用
4.12更新过程的剩余寿命与年龄
4.13Wald等式
4.14习题
第5章Brown运动
5.1Brown运动的概念
5.2正态分布的有关理论
5.2.1Cauchy分布与正态随机变量
5.2.2区域分布与互相关系数的关系
5.2.3Bayes定理与条件分布密度表示理论
5.2.4联合正态分布的边缘分布密度与条件分布密度
5.2.5几个基本关系式
5.2.6反正弦率
5.2.7零交叉问题
5.2.8正态分布的拖尾概率估计——Mill 比值
5.3随机移动和Brown运动
5.4Brown运动的有限维联合概率密度
5.5Brown运动的性质
5.5.1Brown运动的Markov性
5.5.2正态过程
5.5.3反射性
5.5.4时间可逆性
5.6最大值与首中时的分布特性
5.7过零点的反正弦定理
5.8Brown运动的推广
5.8.1带吸收点的Brown运动
5.8.2原点反射的Brown运动
5.8.3几何Brown运动
5.8.4Brown运动的积分
5.8.5Brown运动的形式导数
5.9Brown桥与经验分布
5.9.1Brown桥的基本概念与性质
5.9.2经验分布与Brown桥的关系
5.9.3经验分布的误差估计
5.10带漂移的Brown运动
5.10.1移出区间的概率计算
5.10.2首中时问题
5.11Brown运动的轨道性质
5.12N维Brown运动
5.12.1N维Brown运动的定义与性质
5.12.2二维Brown运动的从属过程
5.12.3辐射型Brown运动
5.13习题
第6章Markov链
6.1引言
6.2基本概念
6.3转移概率矩阵
6.4Markov链状态的分类
6.4.1关于Markov链状态的一些基本定义
6.4.2一些基本关系式
6.4.3状态之间的等价关系
6.5状态空间的分解
6.6极限特性与平稳分布
6.6.1极限特性
6.6.2平稳分布
6.6.3平衡方程及其应用
6.7转移矩阵的平均极限
6.8有限状态不可约Markov链平稳分布的矩阵计算
6.9吸收概率的计算
6.9.1非常返状态子矩阵的特性
6.9.2从非常返态到吸收态转移概率的计算
6.9.3从非常返态到吸收态转移时间的计算
6.10Metropolis抽样算法
6.10.1Metropolis抽样算法的描述
6.10.2Metropolis抽样算法的理论分析
6.11习题
第7章连续参数Markov链
7.1定义与基本概念
7.2转移率矩阵: Q矩阵与其概率意义
7.3Q矩阵的计算
7.4Kolmogorov前向后向微分方程
7.5平稳分布与极限分布及其矩阵计算
7.5.1极限分布存在性
7.5.2平稳分布及其矩阵计算
7.6平稳分布的计算与应用
7.7一致性规则与强Markov链
7.7.1引言与工程问题示例
7.7.2强Markov过程
7.7.3指数分布与嵌入Markov链的应用
7.7.4连续Markov链的一致性规则
7.8Q过程的一致性处理
7.9有限状态不可约连续Markov链的计算机仿真
7.10平稳分布与时间可逆性
7.11时间可逆过程在排队论中的应用
7.12习题
参考文献