第一章 随机过程的基本概念与基本类型 一.随机变量及其分布
1.随机变量X, 分布函数F(x)?P(X?x)
离散型随机变量X的概率分布用分布列 pk?P(X?xk) 分布函数F(x)?连续型随机变量X的概率分布用概率密度f(x) 分布函数F(x)?2.n维随机变量X?(X1,X2,?,Xn)
其联合分布函数F(x)?F(x1,x2,?,xn)?P(X1?x1,X2?x2,?,Xn?xn,) 离散型 联合分布列 连续型 联合概率密度 3.随机变量的数字特征
数学期望:离散型随机变量X EX?22?pk
?x??f(t)dt
?x2kpk 连续型随机变量X EX????xf(x)dx
?方差:DX?E(X?EX)?EX?(EX) 反映随机变量取值的离散程度 协方差(两个随机变量X,Y):BXY?E[(X?EX)(Y?EY)]?E(XY)?EX?EY 相关系数(两个随机变量X,Y):?XY?BXYDX?DY 若??0,则称X,Y不相关。
独立?不相关???0
4.特征函数g(t)?E(eitX) 离散 g(t)??eitxkpk 连续 g(t)??eitxf(x)dx
???kkk重要性质:g(0)?1,g(t)?1,g(?t)?g(t),g(0)?iEX
5.常见随机变量的分布列或概率密度、期望、方差
0-1分布 P(X?1)?p,P(X?0)?q EX?p DX?pq
kkn?k二项分布 P(X?k)?Cnpq EX?np DX?npq
泊松分布 P(X?k)?e???kk! EX?? DX?? 均匀分布略
(x?a)22?2正态分布N(a,?) f(x)?212??e? EX?a DX??
2??e??x,x?011指数分布 f(x)?? EX? DX?2
??x?0?0,6.N维正态随机变量X?(X1,X2,?,Xn)的联合概率密度X~N(a,B)
f(x1,x2,?,xn)?1(2?)|B|n2121exp{?(x?a)TB?1(x?a)}
2a?(a1,a2,?,an),x?(x1,x2,?,xn),B?(bij)n?n正定协方差阵
二.随机过程的基本概念 1.随机过程的一般定义
设(?,P)是概率空间,T是给定的参数集,若对每个t?T,都有一个随机变量X与之对应,
P)上的随机过程。简记为?X(t),t?T?。
则称随机变量族?X(t,e),t?T?是(?,含义:随机过程是随机现象的变化过程,用一族随机变量才能刻画出这种随机现象的全部统计规
律性。另一方面,它是某种随机实验的结果,而实验出现的样本函数是随机的。
当t固定时,X(t,e)是随机变量。当e固定时,X(t,e)时普通函数,称为随机过程的一个样本函数或轨道。
分类:根据参数集T和状态空间I是否可列,分四类。 也可以根据X(t)之间的概率关系分类,如独立增量过程,马尔可夫过程,平稳过程等。 2.随机过程的分布律和数字特征
用有限维分布函数族来刻划随机过程的统计规律性。随机过程?X(t),t?T?的一维分布,二维分布,…,n维分布的全体称为有限维分布函数族。随机过程的有限维分布函数族是随机过程概率特征的完整描述。在实际中,要知道随机过程的全部有限维分布函数族是不可能的,因此用某些统计特征来取代。
(1)均值函数mX(t)?EX(t) 表示随机过程?X(t),t?T?在时刻t的平均值。 (2)方差函数DX(t)?E[X(t)?mX(t)]表示随机过程在时刻t对均值的偏离程度。 (3)协方差函数
2BX(s,t)?E[(X(s)?mX(s))(X(t)?mX(t))]?E[X(s)X(t)]?mX(s)mX(t) 且有BX(t,t)?DX(t)
(4)相关函数RX(s,t)?E[X(s)X(t)] (3)和(4)表示随机过程在时刻s,t时的线性相关程度。
Y(t),t?T?是两个二阶距过程,则下式称为它们的互协方差函(5)互相关函数:?X(t),t?T?,?数。
BXY(s,t)?E[(X(s)?mX(s))(Y(t)?mY(t))]?E[X(s)Y(t)]?mX(s)mY(t),那么RXY(s,t)?E[X(s)Y(t)],称为互相关函数。
若E[X(s)Y(t)]?mX(s)mY(t),则称两个随机过程不相关。 3.复随机过程 Zt?Xt?jYt
均值函数mZ(t)?EXt?jEYt 方差函数
DZ(t)?E[|Zt?mZ(t)|]2?E[(Zt?mZ(t))(Zt?mZ(t))]
协方差函数
BZ(s,t)?E[(Zs?mZ(s))(Zt?mZ(t))]?E[ZsZt]?mZ(s)mZ(t)相关函数RZ(s,t)?E[ZsZt]
4.常用的随机过程
(1)二阶距过程:实(或复)随机过程?X(t),t?T?,若对每一个t?T,都有EX(t)??(二
2阶距存在),则称该随机过程为二阶距过程。
(2)正交增量过程:设?X(t),t?T?是零均值的二阶距过程,对任意的t1?t2?t3?t4?T,有
E[(X(t2)?X(t1))(X(t4)?X(t3))]?0,则称该随机过程为正交增量过程。
其协方差函数BX(s,t)?RX(s,t)??X(min(s,t))
(3)独立增量过程:随机过程?X(t),t?T?,若对任意正整数n?2,以及任意的t1?t2???tn?T,随机变量X(t2)?X(t1),X(t4)?X(t3),?,X(tn)?X(tn?1)是相互独立的,则称?X(t),t?T?是独立增量过程。 进一步,如?X(t),t?T?是独立增量过程,对任意s?t,随机变量X(t)?X(s)的分布仅依赖于t?s,则称?X(t),t?T?是平稳独立增量过程。
(4)马尔可夫过程:如果随机过程?X(t),t?T?具有马尔可夫性,即对任意正整数n及
2t1?t2???tn?T,P(X(t1)?x1,?,X(tn?1)?xn?1)?0,都有
P?X(tn)?xnX(t1)?x1,?,X(tn?1)?xn?1??P?X(tn)?xnX(tn?1)?xn?1?,则则称?X(t),t?T?是马尔可夫过程。
(5)正态过程:随机过程?X(t),t?T?,若对任意正整数n及t1,t2,?,tn?T,
(X(t1),X(t2)?X(tn))是n维正态随机变量,其联合分布函数是n维正态分布函数,则称
?X(t),t?T?是正态过程或高斯过程。
(6)维纳过程:是正态过程的一种特殊情形。
W(t),???t???为实随机过程,如果,①W(0)?0;②是平稳独立增量过程;③对任意s,t增设?量W(t)?W(s)服从正态分布,即W(t)?W(s)~N(0,?2t?s)?2?0。则称
?W(t),???t???为维纳过程,或布朗运动过程。
另外:①它是一个Markov过程。因此该过程的当前值就是做出其未来预测中所需的全部信息。 ②维纳过程具有独立增量。该过程在任一时间区间上变化的概率分布独立于其在任一的其他时间区间上变化的概率。③它在任何有限时间上的变化服从正态分布,其方差随时间区间的长度呈线性增加。 (7)平稳过程: 严(狭义)平稳过程:?X(t),t?T?,如果对任意常数?和正整数n及t1,t2,?,tn?T,
t1??,t2??,?,tn???T,(X(t1),X(t2)?X(tn))与(X(t1??),X(t2??)?X(tn??))有相
同的联合分布,则称?X(t),t?T?是严(狭义)平稳过程。
广义平稳过程:随机过程?X(t),t?T?,如果①?X(t),t?T?是二阶距过程;②对任意的t?T,
mX(t)?EX(t)?常数;③对任意s,t?T,RX(s,t)?E[X(s)X(t)]?RX(t?s),或仅与时间差
t?s有关。则满足这三个条件的随机过程就称为广义平稳过程,或宽平稳过程,简称平稳过程。
第二章 泊松过程
一.泊松过程的定义(两种定义方法)
?X(t),t?T?1,设随机计数过程?X(t),t?0?,其状态仅取非负整数值,若满足以下三个条件,则称:
是具有参数?的泊松过程。①X(0)?0;②独立增量过程,对任意正整数n,以及任意的
t1?t2???tn?TX(t2)?X(t1),X(t3)?X(t2),?,X(tn)?X(tn?1)相互独立,即不同时间间隔
的计数相互独立;③在任一长度为t的区间中,事件A发生的次数服从参数?t?0的的泊松分布,即对任意t,s?0,有P?X(t?s)?X(s)?n??e??t(?t)nn!n?0,1,L
E[X(t)]??t,??E[X(t)],表示单位时间内时间A发生的平均个数,也称速率或强度。 t2,设随机计数过程?X(t),t?0?,其状态仅取非负整数值,若满足以下三个条件,则称:?X(t),t?0?是具有参数
?的泊松过程。①X(0)?0;②独立、平稳增量过程;③
??P?X(t?h)?X(t)?1???h?o(h)。 ???P?X(t?h)?X(t)?2??o(h)第三个条件说明,在充分小的时间间隔内,最多有一个事件发生,而不可能有两个或两个以上事件同时发生,也称为单跳性。 二.基本性质
1,数字特征 mX(t)?E[X(t)]??t?D[X(t)] RX(s,t)????s(?t?1)??t(?s?1)s?ts?t
BX(s,t)?RX(s,t)?mX(s)mX(t)??min(s,t) 推导过程要非常熟悉
2,Tn表示第n?1事件A发生到第n次事件发生的时间间隔,?Tn,n?1?是时间序列,随机变量Tn??e??t,t?0?1?e??t,t?0服从参数为?的指数分布。概率密度为f(t)??,分布函数FTn(t)??均值
t?0t?0?0,?0,为ETn?1?
证明过程也要很熟悉 到达时间的分布 略
三.非齐次泊松过程 到达强度是t的函数
??P?X(t?h)?X(t)?1???(t)h?o(h)①X(0)?0;②独立增量过程;③?。 不具有平稳增量
??P?X(t?h)?X(t)?2??o(h)性。
均值函数mX(t)?E[X(t)]???(s)ds
0t定理:?X(t),t?0?是具有均值为mX(t)???(s)ds的非齐次泊松过程,则有
0t[mX(t?s)?mX(t)]nP?X(t?s)?X(t)?n??exp??[mX(t?s)?mX(t)]?
n!四.复合泊松过程
设?N(t),t?0?是强度为?的泊松过程,?Yk,k?1,2,L?是一列独立同分布的随机变量,且与
?N(t),t?0?独立,令X(t)??Yk
k?1N(t)则称?X(t),t?0?为复合泊松过程。
重要结论:
?X(t),t?0?是独立增量过程;若
E(Y12)??,则E[X(t)]??tE(Y1),