随机过程知识点

随机过程复习

第一章：预备知识

§1.1 概率空间

随机试验，样本空间记为Ω。

定义1.1 设Ω是一个集合，F是Ω的某些子集组成的集合族。如果 （1）??F； （2）若A?F ，则A??\\A?F；

?，2，?，则（3）若An?F ，n?1?A?F；

nn?1则称F为??代数(Borel域)。(?,F)称为可测空间，F中的元素称为事件。

由定义易知： (4)??F； （5)若A,B?F,则A\\B?F；（6）若Ai?F，i?1，2，?则?Ai，?Ai，?Ai?F.i?1i?1i?1nn?定义1.2 设(?,F)是可测空间，P(·)是定义在F上的实值函数。如果

(1)任意A?F,0?P?A??1；（2）P????1；????P???Ai????P?Ai??i?1?i?1（3）对两两互不相容事件A1,A2,??当i?j时，Ai?Aj???,有

则称P是??,F?上的概率，（?，F，P）称为概率空间，P(A)为事件A的概率。

定义1.3 设（?，F，P）是概率空间，G?F，如果对任意A1,A2,?,An?G，

?n?1,2,?有： P??A??i????P?Ai?,

?i?1?i?1nn则称G为独立事件族。

§1.2 随机变量及其分布

随机变量X，分布函数F(x)，n维随机变量或n维随机向量，联合分布函数，

?Xt,t?T?是独立的。

§1.3随机变量的数字特征

定义1.7 设随机变量X的分布函数为F(x)，若

????|x|dF(x)??，则称

E(X)＝?xdF(x)

???为X的数学期望或均值。上式右边的积分称为Lebesgue-Stieltjes积分。 方差，BXY?E??X?EX??Y?EY??为X、Y的协方差，而 ?XY?为X、Y的相关系数。若?XYBXYDXDY?0,则称X、Y不相关。

22

（Schwarz不等式）若EX??,EY??,则

?EXY??EX2EY2.

2§ 1.4 特征函数、母函数和拉氏变换

定义1. 10 设随机变量的分布函数为F（x），称 g(t)?E(ejtX)??ejtxdF?x?,??????t??

1

随机过程复习

为X的特征函数

随机变量的特征函数具有下列性质： (1)g(0)?1,g(t)?1,g(?t)?g(t)1

( 2 ) g (t)在???,?? 上一致连续。（3）g(k)(0)?ikE(Xk)

(4)若X1,X2,?,Xn是相互独立的随机变量，则X?X1?X2???Xn的特征函数

g(t)?g1(t)g2(t)?gn(t)，其中gi(t)是随机变量Xi的特征函数，i?1,2,?,n.

定义1 . 11 设 X?(X1,X2,?,Xn)是n维随机变量，t = (t1,t2,?,tn) ?R, 则称

g(t)?g(t1,t2,?,tn)?E(eitX?)?E[exp(i?tkXk)],

k?1n为X的特征函数。

定义1.12 设X是非负整数值随机变量，分布列 则称

pk?P?X?xk?,k?1,2,?

P(s)?E(s)＝?Pksk

Xdef?k?0为X的母函数。

§ 1.5 n维正态分布

定义1.13 若n维随机变量X?(X1,X2,?,Xn)的联合概率密度为

f(x)?f(x1,x2,?,xn)?1?1Texp{?(x?a)B(x?a)} n/2n/22(2?)B1 式中，a?(a1,a2,?,an)是常向量，B?(bij)n?n是正定矩阵，则称X为n维正态随机变量或服从n维正态分布，记作X~N(a,B)。

可以证明，若X~N(a,B)，则X的特征函数为

1g(t)?g(t1,t2,?,tn)?exp{iat??iBt?}

2 为了应用的方便，下面，我们不加证明地给出常用的几个结论。

性质1 若X~N(a,B)则E(Xk)?ak,BXkXl?bkl,l?1,2,?,n。

性质2 设X~N(a,B)，Y?XA，若A?BA正定，则Y~N(aA,A?BA)。即正态随机变量的线性变换仍为正态随机变量。

性质3 设X?(X1,X2,X3,X4)是四维正态随机变量，E(Xk)?0,k?1,2,3,4，则

E(X1X2X3X4)?E(X1X2)E(X3X4)?E(X1X3)E(X2X4)?E(X1X4)E(X2X3)

§ 1.6 条件期望

给定Y=y时，X的条件期望定义为

E(X|Y?y)??xdF(x|y)??xf(x|y)dx

由此可见除了概率是关于事件｛Y=y｝的条件概率以外，现在的定义与无条件的情况完全一

样。

E(X|Y=y)是y的函数，y是Y的一个可能值。若在已知Y的条件下，全面地考虑X的均值，需要以Y代替y，E(X|Y)是随机变量Y的函数，也是随机变量，称为 X在 Y下的条件期望。

条件期望在概率论、数理统计和随机过程中是一个十分重要的概念，下面我们介绍一个极其有用的性质。

性质 若随机变量X与Y的期望存在，则

E(X)?E[E(X|Y)]??E(X|Y?y)dFY(y) --------(1)

2

随机过程复习

如果Y是离散型随机变量，则上式为

E(X)??E(X|Y?y)P{Y?y}

y如果Y是连续型，具有概率密度f(x)，则（1）式为

??E(X)??E(X|Y?y)f(y)dy

??第二章 随机过程的概念与基本类型

§2.1 随机过程的基本概念

定义2.1 设（?，F，P）是概率空间,T是给定的参数集,若对每个t∈T，有一个随机变量X(t,e)与之对应，则称随机变量族{X(t,e),t?T}是（?，F，P）的随机过程,简记为随机过程{X(t),t?T}。T称为参数集，通常表示时间。

通常将随机过程{X(t,e),t?T}解释为一个物理系统。X(t)表示在时刻t所处的状态。X(t)的所有可能状态所构成的集合称为状态空间或相空间，记为I。

从数学的观点来说，随机过程{X(t,e),t?T}是定义在T×Ω上的二元函数。对固定的t，X(t,e)是定义在T上的普通函数，称为随机过程{X(t,e),t?T}的一个样本函数或轨道，样本函数的全体称为样本函数的空间。

§ 2.2 随机过程的函数特征

Xt={X(t),t∈T }的有限维分布函数族。

有限维特征函数族：

??{gt1,?,tn(?1,?2,?,?n):t1,t2,?,tn?T,n?1}

其中：

gt1,?,tn(?1,?2,?,?n)?E(exp{i??kx(tk)})

k?1n定义2.3 设Xt={X(t),t∈T }的均值函数mX(t)defE[X(t)]，t?T。

2二阶矩过程，协方差函数：DX(t)?BX(t,t)defE[X(t)?mX(t)],t ?T

相关函数： RX(s,t)?E[X(s)X(t)]

定义2.4 设{X(t),t∈T }，{Y(t),t∈T }是两个二阶矩过程，

互协方差函数，互相关函数。

§ 2.3 复随机过程

定义 2.5 设{Xt,t?T}，{Yt,t?T}是取实数值的两个随机过程，若对任意t?T Zt?Xt?iYt，

其中 i??1，则称{Zt,t?T}为复随机过程．

定理 2.2 复随机过程{Xt,t?T}的协方差函数 B(s,t)具有性质 （1）对称性：B(s,t)?B(t,s)；

（2）非负定性

§2.4 几种重要的随机过程

一、正交增量过程

定义2.6 设???t?,t???是零均值的二阶矩过程，若对任意的t1?t2?t3?t4??,有公

式

则称??t?正交增量过程。

????t2????t1?????t4????t3???0，

3

随机过程复习

变量??t2????t1?,??t3????t2?,?,??tn????tn?1?是互相独立的，则称???t?,t???是独立增量过程，又称可加过程。

定义 2.8 设???t?,t???是平稳独立增量过程，若对任意s?t,随机变量??t????s?的分布仅依赖于t?s，则称???t?,t???是平稳独立增量过程。

???s,t??R??s,t?????min?s,t??

二、独立增量过程

定义2.7 设???t?,t???是随机过程，若对任意的正整数n和t1?t2???tn??,随机

2则称?X?t?,t?T?为马尔可夫过程。

三、马尔可夫过程

定义2.9设?X?t?,t?T?为随机过程，若对任意正整数n及t1?t2,??tn,P?X(t1)?x1,?,X?tn?1??xn?1??0，且其条件分布

(2.6) P?X(tn)?xn|X?t1??x1,?,X?tn?1??xn?1?=P?X(tn)?xn|X?tn?1??xn?1?，

四、正态过程和维纳过程

定义 2.10 设?X?t?,t?T?是随机过程，若对任意正整数n和t1,t2,?t??T,(X?t1?,X?t2?,?,X?tn?)是n维正态随机变量，则称?X?t?,t?T?是正态

过程或高斯过程。

W(t),???t???为随机过程，如果 定义 2.11 设?（1）W(0)?0； （2）它是独立、平稳增量过程；

W(t),???t???（3）对?s,t，增量W(t)?W(s)~N0,?2|t?s|,?2?0，则称?为维纳过程，也称布朗运动过程。

W(t),???t???是参数为?2的维纳过程，则 定理 2.3 设?（1） 任意t?(??,?),W(t)~N0,?2|t|；

（2） 对任意???a?s,t??,

????E?(W(s)?W(a))(W(t)?W(a))???2min(s?a,t?a),

2特别： Rw?s,t???min?s,t?。

五、平稳过程

定义 2.12 设?X?t?,t?T?是随机过程，如果对任意常数?和正整数n,当t1,?,tn??,t1??,?,tn????时，???t1?,??t2?,???tn??

程，也称狭义平稳过程。

定义 2.13 设?X?t?,t?T?是随机过程，如果

（1）?X?t?,t?T?是二阶矩过程；

（2）对于任意t??,m??t??????t???常数；

与???t1???,??t2???,?,??tn????有相同的联合分布，则称?X?t?,t?T?为严平稳过

（3）对任意的s,t??,R??s,t??R??t?s?，则称?X?t?,t?T?为广义平稳过程，简称为平稳过程。

若T为离散集，则称平稳过程?X?t?,t?T?为平稳序列。

第三章 泊松过程

§３.1 泊松过程的定义和例子

定义3.1 计数过程

定义3.2 称计数过程{X(t),t?0}为具有参数?＞0的泊松过程，若它满足下列条件 (1) X(0)= 0；

4