第一章 随机过程的基本概念与基本类型 一.随机变量及其分布
1.随机变量 X , 分布函数 F (x)
P(X x)
离散型随机变量 X 的概率分布用分布列 pk P(X x ) 分布函数 F (x)
k
pk f (t )dt
连续型随机变量 X 的概率分布用概率密度 f (x)
分布函数 F (x)
x
2.n 维随机变量 其联合分布函数
X (X1 , X 2 , , X n )
x , X
1
2
( ) ( 1, x , , xn ) P( X F x F x
2
1
x , , X n
2
xn ,)
离散型 联合分布列 连续型 联合概率密度
3.随机变量的数字特征 数学期望:离散型随机变量 方差:
2
2
X
EX
xk p
k
连续型随机变量 X EX xf ( x)dx
(
EX
) 2
反映随机变量取值的离散程度
DX E(X EX ) EX
协方差(两个随机变量
X ,Y ) BXY :
X,Y ):
E[( X EX )(Y EY)] E(XY) EX EY
BXY
若
相关系数(两个随机变量
XY
0,则称 X ,Y 不相关。
DX
独立
itX
DY
0
连续
不相关
4.特征函数
g(t) E(e )
离散
g(t )
e
itx
k
g(t)
p
k
e f x dx
itx ( )
重要性质: g( 0)
1, g(t) 1, g( t ) g(t) ,
k
g (0)
i k EX k
5.常见随机变量的分布列或概率密度、期望、方差 0-1分布 二项分布
P( X 1) p, P( X
k
k
n k
0) q EX
EX np
p DX
DX n p q
pq
P( X
P( X
k) Cn p q
k
泊松分布
k) e
k!
EX DX
均匀分布略
2
f (x)
2
( x a)
a, 正态分布 N( )
1
2
DX
EX
a
2
e
2
2
指数分布
f ( x)
e x
, x 0 0,
x 0
1 EX
DX
1
2
6.N维正态随机变量
(X1 , X , , X n ) X
2
的联合概率密度X ~ N (a, B)
f (
x1, x , , x )
2
n
1
exp{
n 2
1
1
T
1
(x a) B (x a)} 2
2
(2 ) | B |
a (a1,a2 , ,an ) , x (x1, x2 , , xn ) , B (bij )n n 正定协方差阵
二.随机过程的基本概念 1.随机过程的一般定义
( 设, P) 是概率空间, T 是给定的参数集, 若对每个 t T ,都有一个随机变量 X 与之对应,
X (t, e), t T 是 ( ,
P) 上的随机过程。简记为
X (t), t T
。
则称随机变量族
含义: 随机过程是随机现象的变化过程, 用一族随机变量才能刻画出这种随机现象的全部统计规
律性。另一方面,它是某种随机实验的结果,而实验出现的样本函数是随机的。
当 t 固定时,
X (t ,e) 是随机变量。当 e
固定时,
X (t, e) 时普通函数,称为随机过程的一个样本
函数或轨道。
分类:根据参数集 T 和状态空间 I 是否可列,分四类。 如独立增量过程,马尔可夫过程,平稳过程等。 2.随机过程的分布律和数字特征
用有限维分布函数族来刻划随机过程的统计规律性。随机过程
也可以根据 X (t) 之间的概率关系分类,
X (t), t T
的一维分布,二维分
布,? , n 维分布的全体称为有限维分布函数族。随机过程的有限维分布函数族是随机过程概率特征
的完整描述。在实际中,要知道随机过程的全部有限维分布函数族是不可能的,因此用某些统计特征 来取代。
(1)均值函数
mX (t) EX (t) 表示随机过程
2
X (t), t T 在时刻 t 的平均值。
(2)方差函数
DX (t ) E[ X (t ) mX (t)] 表示随机过程在时刻 t 对均值的偏离程度。
B (s,t )
X
E[( X ( s) m E[ X (s)
(3)协方差函数
X
(
m (s) X (t) s))
(t) m (t ))]
且有 B
(t,t) D (t)
X
X
(
X
X (t)]
m
(4)相关函数
R (s,t) E[ X (s) X (t)]
X
(3) 和(4)表示随机过程在时刻
s, t 时的线性相关程度。
(5)互相关函数: X (t ), t T , Y(t),t T 是两个二阶距过程,则下式称为它们的互协方差函
数。
B (s, t)
X Y
E[( X (s) m ( s))( Y(t) m (t ))]
X
Y
,那么 R (s,t ) E[ X (s)Y(t)]
XY
E[ X (s)Y
(t )]
m
X
(s)m (t )
Y
,称为互相关函数。
E[ X ( s)Y(t )] 若 m (s)m (t)
X
Y
,则称两个随机过程不相关。
3.复随机过程 均值函数 mZ (t)
Zt EX
t
X t jYt
方差函数
jEY
t 2
E Z m t Z m t ))] DZ (t) E[| Zt mZ (t) |] [( t Z ( ))( t Z (
B (s, t) E[( Z m (s))(Z m (t)) ]
Z
s
Z
t
Z
协方差函数
相关函数 RZ (s,t)
Z
E[Zs Zt ]
4.常用的随机过程
E[Z s Z ] m ( s)m (t)
t
Z
(1)二阶距过程:实(或复)随机过程 阶距存在),则称该随机过程为二阶距过程。 (2)正交增量过程:设
X (t), t T
,若对每一个 t T ,都有
2
E X (t)
(二
X (t), t T
是零均值的二阶距过程,对任意的
t1
t2 t3
t4 T ,有
E[( X 2 ) X (t X (t ) X (t ))] 0 ,则称该随机过程为正交增量过程。 (t ))(
1
4
3
s t 其协方差函数 BX (s,t) RX (s,t ) (min( , ))
2
X
(3)独立增量过程: 随机过程
X (t ),t T
,若对任意正整数
n 2,以及任意的 t t
1
t
2
T
,
n
随机变量 X ( 2 ) X (t ), X (t ) X (t ), , X (tn ) X (tn ) 是相互独立的, 则称 X (t), t T 是独立
1
4
3
1
t
增量过程。
布仅依赖于 t
进一步,如
X (t), t T
是独立增量过程,对任意
s t ,随机变量 X (t) X (s)的分
s ,则称 X (t), t T 是平稳独立增量过程。
T
及具 有 马尔 可夫性 ,即对 任意正 整数n
(4 )马尔 t 可夫 过 程: 如 果随 机 过程 X (t),
t1 t2
n
P( X (t1) , T
x1, , X (tn 1 ) xn 1 ) 0,都有
t