随机过程概念

随机过程可理解为“A random signal always has some element of chance associated with it”。

从字面上理解,随机过程是一个时间(过程)曲线,其每个时间点的取值都可以用一个随机变量来描述。

用下面这个例子:

X(t)=10sin(2*pi*t + θ),θ是在0~2pi之间均匀分布的随机变量。

首先要注意的是,尽管我们写下X(t),但其实并不表示X和t之间具备某种函数关系,而应理解为“X是个随机变量,且其分布形式与时间t有关”,或者说“随着t的改变,X可能有不同的分布函数”。也因此有人将随机过程写作Xt

对θ取某一个特定值(样本),就得到随机过程X(t)的一个样本函数(样本曲线)。

(这里注意θ不是t的函数,因此不能理解为“随着t的变化θ会取均匀分布着的不同值”,而应理解为“对每一个θ值,都能得到X的一个样本曲线”。)

我们可以设想有无数台信号发生器,每台信号发生器都依据某个特定的θ产生信号。不同信号发生器的θ不同,且是均匀分别的(信号相位均匀分布在0~2pi上)。对某个特定的θ的信号发生器,所产生的信号是该随机过程的一个sample realization。假如我们在某个时间t对所有信号发生器产生的信号进行采样,所得到的值需要用一个随机变量进行描述。

如果在一系列不同的时间t对各信号发生器产生的信号进行采样(比如时间t1,t2,t3……)并用随机变量描述采样结果,将得到一系列随机变量X(t1),X(t2),X(t3)……

随机过程可以是“确定性”的,意思是如果我们得知一个随机信号的某个样本过程在某时间点的值,就可以知道该样本过程在所有时间点的值,比如上面的例子X(t)=10sin(2*pi*t + θ)就是这样。当然相应的就有“非确定性”的随机过程,比如随机噪声过程。

一般来说,随机过程在两个不同时间点上可能是存在关联的。以来源于电子布朗运动的电阻热噪声为例,在相邻时间点上,电子的运动必然存在较大的关联,而在相隔较远的时间点上,几乎就没什么关联了。我们用自相关来描述:Rx(t1,t2)=E[X(t1)X(t2)]。于是,自相关是两个时间变量的函数。 然而对于平稳过程,自相关就只与时间差有关(平稳:概率分布是时不变的)。自相关是X(t1)和X(t2)的集合平均(期望)。

如果随机过程的集合平均/自相关等于其(单一样本的)时间平均/自相关,那么该随机过程是各态遍历过程。对于各态遍历过程有一个直观上的解释:单一样本曲线就已包含该过程的统计特性(期望和自相关),因此可以将集合平均转换为时间平均。如果不是各态遍历随机过程,我们需要区分集合平均/自相关和时间平均/自相关:时间自相关描述的是随机过程的某个样本(过程)在两个不同时间点上的关联。各态遍历过程必定是平稳过程,反之则未必。

[以下引自知乎 https://www.zhihu.com/question/23839061]

随机过程某个时刻对应的随机变量所有可能出现的值,也有可能在足够长的时间上,在一次对随机过程的观察中,从随机过程的不同个时刻对应的不同的随机变量出现的值里全部看到(遍历了一次,对吧)。因为随机过程每一个时刻对应的随机变量的概率分布是一样的。

[引用结束]

一个实际的随机过程的例子是测量仪器的初始零点。如果不考虑时间漂移和热噪声,一台测量仪器在开机后的初始零点是不随时间改变的,但不同仪器的初始零点总是不同的,满足一定的分布率,因此该零点是一个随机过程:

X(t)=a

a是一个满足一定分布率(如正态分布)、零均值的随机变量。

这个随机过程的任一条样本曲线是一常数,因此是平稳的。但集合平均(0)不等于时间平均(不同样本曲线的时间平均不同),因此不是各态遍历的。

另外,尽管上述过程的信号幅度a也许是正态分布的,但它不是一个高斯随机过程,因为其任意高阶概率密度函数不是正态的(对任意样本曲线,有X(t1)==X(t2))。

如果(?各态遍历的?)X(t)包含某种周期(比如噪声和正弦信号的叠加),那么其自相关也包含相同的周期(丢失相位信息)。如果X(t)不包含某种周期,那么自相关必定在τ->∞处趋向于0,以反映出“随机过程在间隔很远的两处几乎没有关联(不存在隐含的周期性)”。考虑到直流可以看作周期为0的周期信号,因此若自相关在τ->∞处趋向于0(X(t)无周期成分),那么X(t)不可能包含直流成分,即具有零均值。反过来想,按自相关计算式,一个具有直流成分的信号,其自相关计算结果不可能为0。

如果随时间差的变化自相关缓慢衰减,表明随机过程变化缓慢;如果自相关迅速衰减,表明随机过程变化迅速。因此,自相关包含随机过程的频率信息。

原文地址:https://www.cnblogs.com/byeyear/p/6556901.html