跳转至

Chapter2 随机过程的定义和分类

随机过程的定义和例子

随机过程是一族随机变量的集合,用于描述随时间变化的随机现象,其严格定义如下:

\((\Omega, \mathcal{F}, \mathbb{P})\) 是概率空间,\((E, \mathcal{E})\) 是可测空间,\(T\) 是指标集。如果对任何 \(t \in T\)\(X_t\)\((\Omega, \mathcal{F})\)\((E, \mathcal{E})\) 上的可测映射,则称 \(X = \{X_t; t \in T\}\)\((\Omega, \mathcal{F}, \mathbb{P})\) 上的以 \((E, \mathcal{E})\) 为状态空间的随机过程。

Tip

其实随机过程我们可以理解为是一组随机变量的全体,对于一个固定的 \(t\)\(X_t\) 是随机变量,即 \(\omega\) 的函数,也就是说,随机过程 \(X_t\) 可以看成是一个关于 \(t\)\(\omega\) 二元函数

用映射来表示: $$ X_t(\omega): T \times \Omega \rightarrow E $$ 即 \(X_t(\cdot)\) 是定义在 \(T \times \Omega\) 上的二元单值函数。 固定 \(t\)\(X_t(\cdot)\) 是随机变量; 固定 \(\omega\)\(X_t(\omega)\)\(T\) 的函数,称为随机过程的样本函数样本轨道,或样本曲线( 对过程的一次具体观察结果就是一条样本轨道)

随机过程的分类

如若参数集 \(T\) 至多可列,我们称其为离散时间;如果 \(T\) 是一个实数区间,则称为连续时间;如果 \(E\) 至多可列,我们称之为离散状态;如果 \(E\) 是一个区间,我们称之为连续状态。

照如上标准,随机过程可以分为以下几类:

  • 离散时间离散状态
  • 离散时间连续状态
  • 连续时间离散状态
  • 连续时间连续状态

随机过程的有限维分布

设随机过程 \(\left\{X(t),t \in T\right\}\),对每一固定的 \(t \in T\),随机变量 \(X(t)\) 的分布函数与 \(t\) 有关,记为 \(F_t(x)=P\left\{X(t)\leq x\right\},x\in R\),称为 \(\left\{X(t),t \in T\right\}\)的一维分布函数,\(\left\{F_t(x),t \in T\right\}\) 称为一维分布函数族。

对任意 \(n\) (\(n = 2, 3, \cdots\)) 个时刻,\(t_1, t_2, \cdots, t_n \in T\)\(n\) 维随机变量 \((X(t_1), X(t_2), \cdots, X(t_n))\) 的分布函数记为:

\[F_{t_1, t_2, \cdots, t_n}(x_1, x_2, \cdots, x_n) = P\{X(t_1) \leq x_1, X(t_2) \leq x_2, \cdots, X(t_n) \leq x_n\},\ x_i \in R, i = 1, 2, \cdots, n\]

称为 \(\{X(t), t \in T\}\)\(n\) 维分布函数。

\[\left\{F_{t_1, t_2, \cdots, t_n}(x_1, x_2, \cdots, x_n); t_1, t_2, \cdots, t_n \in T\right\}\]

称为 \(n\) 维分布函数族。

\[ \left\{ F_{t_1, t_2, \cdots, t_n}(x_1, x_2, \cdots, x_n), n = 1, 2, \cdots, t_i \in T \right\} \]

称为随机过程 \(\{X(t), t \in T\}\) 的有限维分布函数族。 它完全确定了随机过程的统计特性。 有限维分布函数族满足:


1. 横向相容:对 \((1, 2, \ldots, n)\) 的任何置换 \(\tau\), $$ F_{t_{\tau(1)}, \ldots, t_{\tau(n)}}(x_{\tau(1)}, \ldots, x_{\tau(n)}) = F_{t_1, \ldots, t_n}(x_1, \ldots, x_n) $$ 2. 纵向相容: $$ \lim_{x_{n+1} \to \infty} F_{t_1, \ldots, t_n, t_{n+1}}(x_1, \ldots, x_n, x_{n+1}) = F_{t_1, \ldots, t_n}(x_1, \ldots, x_n) $$

Tip

这里的横向相容的意思是对应重排后不变,这是很显然的,因为仍然是 $$ X_{t_{\tau(1)}}\leq x_{\tau(1)},\ X_{t_{\tau(2)}}\leq x_{\tau(2)},\cdot\cdot\cdot,X_{t_{\tau(n)}}\leq x_{\tau(n)} $$ 而纵向相容则反映了,交上一个必然事件概率仍为1,\(\lim _{x_{n+1}\to \infty}P(X_{t_n+1}\leq x_{n+1})=1\)

我们需要注意:随机过程在不同的时间点的随机变量不一定独立,它们的联合分布要根据具体过程的性质加以计算,而不能直接把它们当成独立处理,这点我们在后面会经常遇到。

下面我们看一些例题:

例1 设A,B独立同分布,\(P(A = \pm 1)=0.5\),写出并画出随机过程 \(X(t)=At+B,\ t \in(-\infty,\infty)\) 的所有样本函数,计算 \((X_1,X_2)\) 的联合分布律和边缘分布律

这里我们知道,\(A,B\) 是随机变量,所以这个过程由 \((A,B)\) 的取值完全决定,共有4条样本函数,分别是 $$ x(t)=t+1;\ x(t)=t-1;\ x(t)=-t+1;\ x(t)=-t-1 $$ 下面我们计算 \((X_1,X_2)\) 的联合分布律和边缘分布律,注意这里的 \(X_1,X_2\) 代表 \(t\) 分别为 \(1\)\(2\),笔者第一次做这题的时候卡在这不知道 \(X_1,X_2\) 是什么东西🤣,我们可以得到下表:

\((A,B)\) \(X(1)\) \(X(2)\)
(1,1) 2 3
(1,-1) 0 1
(-1,1) 0 -1
(-1,-1) -2 -3

下面将是一个很大的坑:在计算 \((X_1,X_2)\) 的联合分布律的时候,很多人可能会这样干 $$ P(X_1=2,X_2=3)=P(X_1=2)P(X_2=3)=\frac{1}{4}\cdot\frac{1}{4}=\frac{1}{16} $$ 这样子做的根据是 \(X_1,X_2\) 的独立性,但是试问, \(X_1,X_2\) 的独立性真的成立吗?其实是不成立的,我们知道,这个过程的取值完全是由 \((A,B)\) 这组参数决定,而一旦 \(X(1)\) 确定了取值,比如 \(X(1)=2\),此时 \((A,B)\) 的取值就确定了,为 \((1,1)\),那么 \(X(2)\) 的取值也就确定了,所以其实 \(X(1),X(2)\) 并不是独立的,这点尤其需要注意。

我们在计算 \(X(1),X(2)\) 的时候可以将其转化为 \((A,B)\) 取某个组合的概率,这是容易计算的,比如 \(P(X(1)=2,X(2)=3)=P((A,B)=(1,1))=\frac{1}{4}\),所以我们计算得到 \(X(1),X(2)\) 的联合分布律和边际分布律如下:

\[ \begin{array}{|c|c|c|c|c|c|} \hline \begin{array}{c|c} & X_2 \\ \hline X_1 & \end{array} & 3 & 1 & -1 & -3 & P(X_1=i) \\ \hline 2 & 1/4 & 0 & 0 & 0 & 1/4 \\ \hline 0 & 0 & 1/4 & 1/4 & 0 & 1/2 \\ \hline -2 & 0 & 0 & 0 & 1/4 & 1/4 \\ \hline P(X_2=j) & 1/4 & 1/4 & 1/4 & 1/4 & 1 \\ \hline \end{array} \]

例2 设随机过程 \(X(t) = Vcost, t\in(-\infty,\infty)\)\(V\)\([0,1]\) 上均匀分布,求:

(1)求在 \(t=\frac{\pi}{4},\frac{2\pi}{3}\)\(X(t)\) 的概率密度函数

(2)求 \(P[X(0)>0.5,X(\frac{\pi}{4})<0.5]\)

首先我们明确,这个随机过程由 \(V\) 的取值决定。

这里要用到一个随机变量函数的概率密度函数公式,可以复习一下概率论的笔记

\(cost \neq 0\),我们记 \(a = cost\),则 \(X(t)=aV\) 的密度函数为:

\[ f_{X(t)}(x)=f_V(\frac{x}{a})\cdot\big|\frac{1}{a}\big|=\begin{cases} \big|\frac{1}{a}\big|,&0<\frac{x}{a}<1 \\ 0,&其他 \end{cases} \]

则可以得到,若 \(cost>0\),则有 \(X(t) \sim U[0,cost]\)

\(cost<0\),则 \(X(t)\sim U[cost,0]\)

\(cost=0\),则 \(P(X(t)=0)=1\)

所以有

\[ f_{X(\frac{\pi}{4})}(x)=\begin{cases} \sqrt{2},&0<x<\frac{\sqrt{2}}{2} \\ 0,&其他 \end{cases} \qquad f_{X(\frac{2\pi}{3})}(x)=\begin{cases} 2,&-\frac{1}{2}<x<0 \\ 0,&其他 \end{cases} \]

Tip

其实除开使用这个公式来计算之外,我们也可以从分布函数的角度来考虑,比如 $$ F_{X(t)}(x)=P(x(t)\leq x)=P(Vcost \leq x) $$ 当 \(cost>0\) 的时候,有 $$ F_{X(t)}(x)=P(Vcost \leq x)=P(V\leq\frac{x}{cost})=F_V(\frac{x}{cost})=\frac{x}{cost} $$ 求导即可得到概率密度函数 $$ P_{X(t)}(x)=(\frac{x}{cost})'=\frac{1}{cost} $$

对于第二问,我们要知道 \(X(0)\)\(X(\frac{\pi}{4})\) 之间也并非独立的,它们都跟 \(V\) 的值有关,所以我们也将其转化为 \(V\) 的范围 $$ P[X(0)>0.5,X(\frac{\pi}{4})<0.5]=P[V>0.5,\frac{\sqrt{2}}{2}V<0.5]=P[0.5<V<\frac{\sqrt{2}}{2}]=\frac{\sqrt2-1}{2} $$

例3简单随机游走,醉汉行走问题)甲乙两人游戏,第 \(i\) 次甲赢的钱数为 \(X_i\) 元,设 \(X_1,\cdot\cdot\cdot,X_n,\cdot\cdot\cdot\) 独立同分布,\(P(X_i=1)=p,\ P(X_i=-1)=q=1-p\),设前 \(n\) 次甲赢的总钱数为 \(S_n\),计算

(1)\(S_n\) 的分布律

(2)\(P\left\{S_1=1,S_3=1,S_8=4\right\}\)

(3)若 \(p=0.36\),游戏一直到甲恰好赢50次为止,问游戏需要进行100次以上的概率约为多少?

(1)我们用 \(V_n\) 表示前 \(n\) 次甲赢的总次数,则有 \(V_n \sim B(n,p)\),我们可以通过 \(V_n\) 算出 \(S_n\),即有 \(S_n= V_n-(n-V_n)=2V_n-n\),则有

\[ P(S_n=k)=P(V_n=\frac{k+n}{2})=C_n^{\frac{k+n}{2}}p^{\frac{k+n}{2}}q^{\frac{n-k}{2}} \]

并且我们需要注意的是 \(k\)\(n\) 奇偶性相同,否则 \(V_n\) 不为整数,\(k\) 还需要满足 \(-n \leq k \leq n\)

(2)这题其实理解起来很好理解,就是第一次赢,第二三次中赢一次、输一次,第四五六七八次中赢四次、输一次,算是一个二项分布的问题。而从数学推理的角度,我们可以这么写

\[ P\left\{S_1=1,S_3=1,S_8=4\right\}=P\left\{S_1=1,S_3-S_1=0,S_8-S_3=3\right\} \]

这时候我们会发现,这三个事件就是独立的了,所以我们可以将交事件的概率转化为概率的乘积,也即

\[ P\left\{S_1=1\right\}P\left\{S_3-S_1=0\right\}P\left\{S_8-S_3=3\right\}\\=p(2pq)(C_5^4p^4q)=10p^6q \]

(3)这题我们如果考虑甲赢了50次的时候,游戏进行的局数,那就会变得异常困难。我们不妨这样去考虑,甲赢50次需要的局数在100次以上(这题的意思是不包含100次),其实就等价于,当游戏进行了100局时,甲获胜的局数小于等于49,也即,如若我们用 \(W_50\) 表示甲恰好赢50次时游戏进行的次数,则有

\[ \left\{W_{50}>100\right\}=\left\{V_{100}<50\right\} \]

那么由中心极限定理,我们可以得到,\(V_{100}\) 近似服从 \(N(100p,100pq)\),则有

\[ P(W_{50}>100)=P(V_{100}<50)=P(V_{100} \leq 49)\approx \Phi(\frac{49-100p}{10\sqrt{pq}})=\Phi(2.71)=0.9966 \]

这里用到了中心极限定理的近似 \(B(n,p)\sim N(np,np(1-p))\)

均值函数和协方差函数

给定随机过程 \(\left\{X(t),t\in T\right\}\),我们记

\(\mu_x(t)=E[X(t)]\)均值函数

\(\psi^2_x(t)=E[X^2(t)]\)均方值函数

\(\sigma_x^2(t)=D_X(t)=D[X(t)]\)方差函数

\(\sigma_X(t)=\sqrt{\sigma_x^2(t)}\)标准差函数

以上都是一维的,以下为二维

\(r_x(t_1,t_2)=E[X(t_1)X(t_2)]\)自相关函数

\(C_x(t_1,t_2)=Cov[X(t_1),X(t_2)]=E\left\{[X(t_1)-\mu_x(t_1)][X(t_2)-\mu_x(t_2)]\right\}\)自协方差函数

各数字特征之间的关系如下:

\(\psi_X^2(t)=r_x(t,t)\)

\(C_X(t_1,t_2)=r_X(t_1,t_2)-\mu_X(t_1)\mu_X(t_2)\)

\(\sigma_x^2(t)=C_X(t,t)=r_X(t,t)-\mu_x^2(t)\)

Tip

用均值函数和自相关函数就能够刻画出其他几个函数

那么我们就要问了,所有的随机过程都有均值函数和自相关函数吗?答案是否定的,二阶矩过程的均值函数和自相关函数总是存在的,下面我们给出二阶矩过程的定义:

对于随机过程 \(\left\{X(t),t \in T\right\}\),如果对每一个 \(t \in T\)\(E[X^2(t)]\) 都存在,则称 \(X(t)\) 是二阶矩过程。

下面我们给出二阶矩过程的均值函数和自相关函数总是存在的的证明,这里要用到一个引理,即 Cauchy-Schwarz 定理,也即 $$ E|XY|\leq \sqrt{EX^2}\sqrt{EY^2} $$ 因为随机过程 \(\left\{X(t),t \in T\right\}\) 是二阶矩过程,也即有 \(\forall t,E|X_t^2|<\infty\),则有

\[\begin{aligned} E|X_t|=E|X_t\cdot1|\leq \sqrt{EX_t^2}\sqrt{E1}=\sqrt{EX_t^2}<\infty \\ E|X_{t_1}\cdot X_{t_2}|\leq \sqrt{EX_{t_1}^2}\sqrt{EX_{t_2}^2}<\infty \end{aligned}\]

下面我们看一道例题

例1 求随机向位余弦波 \(X(t)=a\cos(wt+\theta),-\infty<t<\infty,(\theta\sim U(0,2\pi))\) 的均值函数、方差函数和自相关函数

Tip

这题没啥难的,主要是要记得几个函数的定义和公式是什么

\[\mu_X(t)=E[X(t)]=\int_0^{2\pi}a\cos(\omega t+\theta)\cdot\frac{1}{2\pi}d\theta=0\]
\[D[X(t)]=E[X(t)^2]-[EX(t)]^2=\frac{a^2}{2\pi}\int_0^{2\pi}\cos^2(\omega t+\theta)d\theta=\frac{a^2}{2}\]
\[r_X(t_1,t_2)=E(X(t_1)X(t_2))=E[a^2\cos(\omega t_1+\theta)cos(\omega t_2+\theta)]=a^2\int_0^{2\pi}\cos(\omega t_1+\theta)cos(\omega t_2+\theta)\cdot \frac{1}{2\pi}d\theta=\frac{a^2}{2}\cos \omega(t_2-t_1)\]

例2\(X(t)=\frac{1}{U^t},t\geq 0\),这里 \(U\sim U(0,1)\),问 \(\left\{X(t):t \geq 0\right\}\) 是否是二阶矩过程

验证某随机过程是否是二阶矩过程,其实就是验证 \(E[X(t)^2]\) 是否存在 $$ E[X(t)^2]=\int_0^1\frac{1}{u^{2t}}du $$ 这里其实也是一个很经典的结论,对于 \(\frac{1}{x^p}\)\((0,1)\) 上的积分是否收敛与 \(p\) 范围的关系。我们知道,当 \(p \in(0,1)\) 时积分收敛,\(p\in(1,+\infty)\) 时积分发散,所以有

\[ E[X(t)^2]=\begin{cases} \frac{1}{1-2t}, &t<\frac{1}{2} \\ \infty,&t \geq \frac{1}{2} \end{cases} \]

所以 \(\left\{X(t):t\geq 0\right\}\) 不是二阶矩过程,因为 \(E[X(t)^2]\) 并不是一直存在的

上面部分我们看的都是统一随机过程不同时间参数的情况,下面我们来看看两个随机过程之间的关系

\(\{X_t; t \in T_1\}\)\(\{Y_s; s \in T_2\}\) 都是概率空间 \((\Omega, \mathcal{F}, P)\) 上的随机过程。如果对任何 \(m, n \geq 1, t_1, \cdots, t_m \in T_1\)\(s_1, \cdots, s_n \in T_2\)有,\((X_{t_1}, \cdots, X_{t_m})\)\((Y_{s_1}, \cdots, Y_{s_n})\) 相互独立,则称 \(\{X_t; t \in T_1\}\)\(\{Y_s; s \in T_2\}\) 相互独立.

Tip

从两个随机过程中任意取有限维都是相互独立的,则称这两个随机过程相互独立

我们知道,对于单个随机过程,不同时间参数的样本轨道有自相关函数,自协方差函数;而对于两个不同的随机过程,也有互相关函数、互协方差函数,下面我们给出互相关函数和互协方差函数的定义:

\(\left\{X(t),t\in T_1\right\}\)\(\left\{Y(s),s\in T_2\right\}\)的互相关函数定义如下: $$ r_{XY}(t,s)=E[X(t)Y(s)],\qquad t\in T_1,s\in T_2 $$

注意

注意,这里互相关函数的下标和时间参数是一一对应的,\(XY\)对应\(t,s\),则\(t\)是从\(T_1\)中取得的,是\(X\)的时间参数,\(s\)是从\(T_2\)中取得的,是\(Y\)的时间参数

互协方差函数定义如下: $$ C_{XY}(t,s)=Cov(X_t,Y_s)=r_{XY}(t,s)-\mu_X(t)\mu_{Y}(s),\qquad t\in T_1,s\in T_2 $$

Tip

这里其实和两个随机变量的协方差的定义是几乎一样的,在概率论中,我们有\(Cov(\xi,\eta)=E(\xi\eta)-E\xi-E\eta\),而在这里,\(Cov(X_t,X_s)=E(X_tX_s)-EX_tEX_s=r_{XY}(t,s)-\mu_X(t)\mu_{Y}(s)\)

如果对任意的 \(t\in T_1,s\in T_2\),恒有 \(C_{XY}(t,s)=0\),则称随机过程 \(\left\{X(t)\right\}\)\(\left\{Y(s)\right\}\) 是不相关的

下面我们来看一些例题

例3 某保险公司的收入由老人寿险收入和儿童平安保险收入组成。设到时刻 \(t\) 为止,老人寿险收入为 \(X(t)\),儿童平安保险收入为 \(Y(t)\),总收入为 \(Z(t)\)。已知 \(\mu_X(t),\mu_{Y}(t),C_X(t_1,t_2),C_Y(t_1,t_2)\),并且知道过程 \(\left\{X(t)\right\}\)\(\left\{Y(s)\right\}\) 是不相关的,求 \(\mu_Z(t),C_Z(t_1,t_2)\)

显然,我们可以知道 \(Z(t)=X(t)+Y(t)\),由期望的线性性可以得到 $$ \mu_Z(t)=\mu_X(t)+\mu_Y(t) $$ 我们可能不知道该怎么去算 \(C_Z(t_1,t_2)\),这也很简单,不会做的时候就回到定义去就好了 $$ C_Z(t_1,t_2)=Cov(Z(t_1),Z(t_2))=Cov(X(t_1)+Y(t_1),X(t_2)+Y(t_2)) $$

接下来利用协方差的线性性就可以得到

\[\begin{aligned} Cov(X(t_1)+Y(t_1),X(t_2)+Y(t_2))&=Cov(X(t_1),X(t_2))+Cov(X(t_1),Y(t_2))\\&+Cov(Y(t_1),X(t_2))+Cov(Y(t_1),Y(t_2)) \end{aligned}\]

而又由于过程 \(\left\{X(t)\right\}\)\(\left\{Y(s)\right\}\) 是不相关的,所以有 \(Cov(X(t_1),Y(t_2))=0,Cov(Y(t_1),X(t_2))=0\),所以 $$ Cov(Z(t_1),Z(t_2))=C_X(t_1,t_2)+C_Y(t_1,t_2) $$

一些随机过程的分类

  • 白噪声:若随机过程 \(X=\left\{X(t);t\in T\right\}\) 满足均值函数 \(\mu_X(t)=0\),对 \(\forall s \neq t,C_X(s,t)=0\),则称 \(X\)白噪声(将随机过程称为白噪声)

  • 正态过程:如果对任意 \(n\),任意 \(t_1,\cdot\cdot\cdot,t_n \in T\)\((X_{t_1},\cdot\cdot\cdot,X_{t_n})\) 服从正态分布,则称 \(X\)正态过程(或高斯过程

Tip

正态过程是二阶矩过程,它的有限维分布完全由它的均值函数和自协方差函数确定,但是并不是所有的随机过程的有限维分布都能由其均值函数和自协方差函数确定

对于正态过程,有如下的一个经典定理:

随机过程 \(X=\left\{X(t);t\in T\right\}\) 是正态过程当且仅当对任意的 \(n\geq 1,t_1,\cdot\cdot\cdot,t_n \in T\),以及实数 \(a_1,a_2,\cdot\cdot\cdot,a_n\),有 \(\sum_{i=1}^na_iX(t_i)\) 服从正态分布

Tip

也即正态过程的任意有限维线性组合均服从正态分布

下面我们看几道例题

例4\(\left\{X(t);t \geq 0\right\}\) 是正态过程,\(\mu_X(t)=t\)\(C_X(t,s)=ts+1\),求 \(X(1),X(2),X(1)+X(2)\) 的分布

\(D[X(t)]=C_X(t,t)=t^2+1\),所以可以得到 \(X(t)\sim N(t,t^2+1)\)

自然有 \(X(1)\sim N(1,2),X(2)\sim N(2,5)\),而由“正态过程的任意有限维线性组合均服从正态分布”可得,\(X(1)+X(2)\) 服从正态分布,所以我们接下来要去计算 \(X(1)+X(2)\) 的期望和方差

\[\begin{aligned} E[X(1)+X(2)]=E[X(1)]+E[X(2)]=1+2=3 \\ \\ D[X(1)+X(2)]=D[X(1)]+D[X(2)]+2Cov[X(1),X(2)]=2+5+2\cdot (1\cdot2+1)=13 \end{aligned}\]

所以有 \(X(1)+X(2) \sim N(3,13)\)

Tip

我们要时刻记得,随机过程取定时间参数之后就变成了一组随机变量

  • 宽平稳过程严平稳过程

如果 \(X\)二阶矩过程,且对任意 \(t\in T\) \(\mu_X(t)\) 为常数,一般记为 \(\mu_X\) \(C_X(t,s)\) 只是时间差 \(s-t\) 的函数(其实等价于自相关函数 \(r_X(t,s)\) 只是时间差 \(s-t\) 的函数,因为 \(C_X(t,s)=r_X(t,s)-\mu_X(t)\cdot \mu_X(s)\)),则称 \(X\)宽平稳过程

对任何 \(n \geq 2\),任何 \(t_1,\cdot\cdot\cdot,t_n \in T\) \((X_{t_1},\cdot\cdot\cdot,X_{t_n})\) 的分布只与时间差 \(t_2-t_1,\cdot\cdot\cdot,t_n-t_{n-1}\) 有关,而与时间的起点 \(t_1\) 无关,则称 \(X\)严平稳过程

Tip

严平稳过程是指有限维分布具有平移不变性,也就是任意 \(n\geq 1\),任何 \(t_1,\cdot\cdot\cdot,t_n \in T\),任意 \(h\)\((X_{t_1},\cdot\cdot\cdot,X_{t_n})\)\((X_{t_1+h},\cdot\cdot\cdot,X_{t_n+h})\) 同分布;从一维角度上来看,就有所有的 \(X_t\) 是同分布的

下面我们辨析一下严平稳过程和宽平稳过程的关系:严平稳过程不一定是宽平稳过程,但二阶矩的严平稳过程一定是宽平稳过程;宽平稳过程也不一定是严平稳过程,但是宽平稳的正态过程一定是严平稳过程

下面我们说明二阶矩的严平稳过程一定是宽平稳过程(严平稳过程本身对数字特征没有要求,只对分布有要求,而二阶矩这一条件确保了严平稳过程的均值函数和自相关函数均存在)。

\[\begin{aligned} X_t\text{与}X_s\text{同分布}\Rightarrow EX(t)=EX(s)\Rightarrow \mu_X(t)\text{是常值函数}\\ (X_t,X_s)\text{与}(X_{t+h},X_{s+h})\text{同分布}\Rightarrow E(X_sX_t)=E(X_{s+h}X_{t+h}) \end{aligned}\]

也即得到了其均值函数是常值函数,其自相关函数与时间起点没有关系,符合宽平稳过程的定义

下面我们说明宽平稳的正态过程一定是严平稳过程,要说明是严平稳过程,就要说明其分布只与时间差有关,而与时间起点无关,也即说明 \((X_{t_1},\cdot\cdot\cdot,X_{t_n})\)\((X_{t_1+h},\cdot\cdot\cdot,X_{t_n+h})\) 是同分布的,而我们又知道它们服从 \(n\) 维正态分布,要说明同分布,只需说明其均值向量和协方差矩阵是相同的即可。由于是宽平稳过程,均值函数为常数,所以均值向量均为 \((\mu_X,\cdot\cdot\cdot,\mu_X)\),下面要说明协方差矩阵相同,不妨考虑其 \(ij\) 元,为 \(Cov(X_{t_i},X_{t_j})\)\(Cov(X_{t_i+h},X_{t_j+h})\),由宽平稳过程的定义可知其相等,均为 \(C_X(t_i-t_j)\)

下面我们看一个例题

例5\(X(t)=A\cos t+B\sin t,t \in (-\infty,+\infty)\)\(A,B\) 独立,\(EA=EB=0,DA=DB=1\)

(1)计算均值函数和自相关函数,是宽平稳过程吗?

(2)如 \(P(A = \pm1)=P(B=\pm1)=0.5\),求 \(X(0),x(\frac{\pi}{4})\) 的分布律,是严平稳过程吗?

(3)如 \(A,B\) 都服从 \(N(0,1)\),求 \(X(0),X(\frac{\pi}{4}),X(0)+X(\frac{\pi}{4})\) 的分布,是严平稳过程吗?

(1)因为 \(A,B\) 独立,所以有 \(E(AB)=E(A)E(B)=0\) $$ E(A^2)=D(A)-[E(A)]^2=1,\qquad E(B^2)=D(B)-[E(B)]^2=1 $$ 所以有 \(\mu_X(t)=\cos tE(A)+\sin tE(B)=0\) 是常数

\[ r_X(t_1,t_2)=E[X(t_1)X(t_2)]=E[(A\cos t_1+B\sin t_1)(A\cos t_2+B \sin t_2)]=\cos t_1 \cos t_2+\sin t_1 \sin t_2=\cos(t_2-t_1) \]

只与 \(t_2-t_1\) 有关,所以 \(\left\{X(t)\right\}\) 是宽平稳过程

(2)\(X(0)=A,X(\frac{\pi}{4})=\frac{\sqrt{2}}{2}(A+B)\)

所以有 \(P(X(0)= \pm1)=0.5\)

\(P(X(\frac{\pi}{4})=\sqrt{2})=P(A=1,B=1)=\frac{1}{4}\)

\(P(X(\frac{\pi}{4})=-\sqrt{2})=P(A=-1,B=-1)=\frac{1}{4}\)

\(P(X(\frac{\pi}{4}))=0=P(A=1,B=-1)+P(A=-1,B=\frac{1}{2})\)

很显然,他们不同分布,所以不是严平稳过程

(3)因为 \(X(0)\sim N(0,1),X(\frac{\pi}{4})\sim N(0,1),D(X(0)+X(\frac{\pi}{4}))=2+2\cos\frac{\pi}{4}=2+\sqrt{2}\)

所以有 \(X(0)+X(\frac{\pi}{4})\sim N(0,2+\sqrt{2})\)

或者第三问也可以这么考虑,我们在考虑 \(D(X(0)+X(\frac{\pi}{4}))\) 的时候,可以将其转化为关于 \(A,B\) 的式子,这样利用 \(A,B\) 的独立性可以很好地求解 $$ D(X(0)+X(\frac{\pi}{4}))=D(A+\frac{\sqrt{2}}{2}(A+B))=D[(1+\frac{\sqrt{2}}{2})A+\frac{\sqrt{2}}{2}B]=(1+\frac{\sqrt{2}}{2})^2D(A)+\frac{1}{2}D(B)=2+\sqrt{2} $$

  • 二项过程:设 \(X_1,\cdot\cdot\cdot,X_n,\cdot\cdot\cdot\) 独立同分布,\(P(X_i=1)=p=1-P(X_i=0),0<p<1\),令 \(S_n=X_1+\cdot\cdot\cdot+X_n\) 表示 \(n\) 次伯努利试验后 \(1\) 出现的次数,则 \(\left\{S_n;n=0,1,\cdot\cdot\cdot,\right\}\) 称为参数为 \(p\) 的二项过程

二项过程有以下几个特点:


1. 平稳增量:对任何 \(n>m\geq0\),增量 \(S_n-S_m \sim B(n-m,p)\),分布仅与时间差 \(n-m\) 有关


2. 独立增量:对任何 \(k \geq 3\),任何 \(n_1<n_2<\cdot\cdot\cdot<n_k\),有 \(S_{n_2}-S_{n_1},S_{n_3}-S_{n_2},\cdot\cdot\cdot,S_{n_k}-S_{n_{k-1}}\) 相互独立


3. Markov性:对任何 \(n \geq 1\),任何状态 \(i_1,i_2,\cdot\cdot\cdot,i_{n-1},i,j\)

\[\begin{aligned} P(S_{n+1}=j|S_1=i_1,\cdot\cdot\cdot,S_{n-1}=i-1,S_n=i)=P(X_{n+1}=j-i|S_1=i_1,\cdot\cdot\cdot,S_{n-1}=i-1,S_n=i) \\=P(X_{n+1}=j-i)=P(X_{n+1}=j-i|S_n=i)=P(S_{n+1}=j|S_n=i) \end{aligned}\]
  • 独立增量过程平稳增量过程:设 \({X_t;t\in T}\) 是随机过程,\(T\)\(R\) 的子集,对 \(t>s\),称 \(X_t-x_s\) 为此过程在时间区间 \((s,t]\) 上的增量,则有

(1)对任何 \(t>s\)\(X_t-X_s\) 的分布仅与时间差 \(t-s\) 有关,则称 \(X\) 是平稳增量过程

(2)如果对任何 \(n \geq 3\),任何 $t_1


评论