跳转至

特征函数

 

约 1814 个字 预计阅读时间 10 分钟

定义

关于 随机变量 X 的指数复函数为其【特征函数】，即

\[ Q_{X}\left(u\right)=E[\mathrm{e}^{\mathrm{j}u X}],-\infty < u< \infty \]

通过它可以描述随机变量的分布特性

连续型：\(Q_{X}\left(u\right)=\int_{-\infty}^{\infty}\mathrm{e}^{\mathrm{j}u x}f\left(x\right)\mathrm{d}x\)

离散型：\(Q_{X}(u)=\sum_{i}\mathrm{e}^{\mathrm{j}u x_{i}}P\big(X=x_{i}\big)=\sum_{i}\mathrm{e}^{\mathrm{j}u x_{i}}p_{i}\)

分布函数由特征函数唯一确定

性质

  1. 有界性：\(|Q_{X}(u)|\le Q_{X}(0)=1\)
  2. 特征函数是实变量 u 在全域上的连续函数
  3. 是复值函数，即\(Q_{X}^{*}(u)=Q_{X}(-u)\)
  4. 随机变量函数 \(Y=a X+b\,\) 的特征函数\(Q_{Y}(u)={\mathrm{e}}^{\mathrm{j}ub}Q_{X}(a u)\)
  5. 独立随机变量之和 **\(=\) 特征函数的乘积**，即\(Y=\sum_{i=1}^{n}X_{i}\rightarrow Q_{Y}\left(u\right)=\prod_{i=1}^{n}Q_{X_{i}}\left(u\right)\)
  6. 若 X 的 n 阶绝对矩存在,则它的特征函数 \(\mathrm{Q_{X}}\) (u)有 n 阶导数存在，且有\(E\left[X^{k}\right]=(-j)^{k}\left.{\frac{d^{k}Q_{X}(u)}{d u^{k}}}\right|_{u=0}\)

这是继矩生成函数之后的又一个求 k 阶矩的方法

  1. 反之，特征函数可由 X 的各阶矩（若存在）唯一确定：\(Q_{X}(u)=\sum_{n=0}^{\infty}E[X^{n}]\cdot{\frac{(j u)^{n}}{n!}}\)

题外话—指数积分通用表达式

妙妙 e 指数积分公式

\[ \int_{-\infty}^{\infty}e^{-A x^{2}+2B x-C}d x={\sqrt{\frac{\pi}{A}}}\cdot e^{-{\frac{(A C-B^{2})}{A}}} \]
推导过程

首先，将指数中的二次项进行配方，便于积分计算

\[ -A x^{2}+2B x-C=-A\left(x-{\frac{B}{A}}\right)^{2}+{\frac{B^{2}}{A}}-C \]

将与 x 无关的部分提取出来，以便将其移出积分号外

\[ I=\int_{-\infty}^{\infty}e^{-A\left(x-{\frac{B}{A}}\right)^{2}+\left({\frac{B^{2}}{A}}-C\right)}\,d x \]

移出常数

\[ I=e^{{\frac{B^{2}}{A}}-C}\int_{-\infty}^{\infty}e^{-A\left(x-{\frac{B}{A}}\right)^{2}}d x \]

下面计算这一高斯积分

\[ u=x-{\frac{B}{A}} \]

则

\[ d x=d u \]

积分变为

\[ I=e^{{\frac{B^{2}}{A}}-C}\int_{-\infty}^{\infty}e^{-A u^{2}}d u \]

对于标准高斯变换，有

\[ \int_{-\infty}^{\infty}e^{-a u^{2}}d u={\sqrt{\frac{\pi}{a}}} \]

代入此，则有

\[ \int_{-\infty}^{\infty}e^{-A u^{2}}d u={\sqrt{\frac{\pi}{A}}} \]

有结果

\[ I=e^{\frac{B^{2}}{A}-C}\cdot{\sqrt{\frac{\pi}{A}}} \]

故整理得

\[ \int_{-\infty}^{\infty}e^{-A x^{2}+2B x-C}d x={\sqrt{\frac{\pi}{A}}}\cdot e^{-{\frac{(A C-B^{2})}{A}}} \]

高斯分布的特征函数

  • 标准正态分布的特征函数

\(Q_{X1}(u)=E[e^{j u X_{1}}]=\int_{-\infty}^{\infty}e^{j u x_{1}}\cdot\frac{1}{\sqrt{2\pi}}e^{-\frac{x_{1}^{2}}{2}}d x_{1}\)

\(={\frac{1}{\sqrt{2\pi}}}\int_{-\infty}^{\infty}e^{-{\frac{x_{1}^{2}}{2}}+2{\frac{j u}{2}}x_{1}}d x_{1}\quad\left(A={\frac{1}{2}},B={\frac{j u}{2}},C=0\right)\)

\(=\frac{1}{\sqrt{2\pi}}\cdot\sqrt{2\pi}\cdot e^{-u^{2}/2}=e^{-u^{2}/2}=\exp(-\frac{u^{2}}{2})\)

  • 一般正态分布 \(X_{2}\sim N(m,\sigma^{2})\)

\(Q_{X2}(u)=e^{j u m}\cdot e^{-\frac{\sigma^{2}u^{2}}{2}}=\exp[j u m-\frac{\sigma^{2}u^{2}}{2}]\)

特征函数与概率密度函数的关系

为一对伪傅里叶变换对
特征函数 ≈ 时域 | 概率密度函数 ≈ 频域

\[ F^{-1}\left[f(x)\right]=\frac{1}{2\pi}\cdot Q_{X}(u);\;f(x)=F\left[\frac{1}{2\pi}\cdot Q_{X}(u)\right] \]
\[ \begin{aligned}&不同分布的随机变量,都有它自己独特的特征函数形式。\\&\text{如:二项分布、}\begin{cases}P(Y=k)=C_n^k\cdotp^k\cdot q^{n-k},k=0,1,2,\cdots,n\\Q_Y(u)=(q+p\cdot e^{ju})^n&\end{cases}\\&\text{正态分布、}\begin{cases}f(x)=\frac{1}{\sqrt{2\pi\sigma^{2}}}\cdot e^{-\frac{(x-m)^{2}}{2\sigma^{2}}}\\\\Q_{X}(u)=\exp(jum-\frac{1}{2}\sigma^{2}u^{2})&\end{cases}\text{泊松分布、}\begin{cases}P(Y=k)=\frac{\lambda^{k}\cdot e^{-\lambda}}{k!},k=0,1,2,\cdots\\\\Q_{Y}(u)=\exp[\lambda(e^{ju}-1)]&\end{cases}\end{aligned} \]

联合特征函数

若 n 维随机变量 \(\left(X_{1},\cdot\cdot\cdot,X_{n}\right)\) 用随机矢量 \(\mathbf{X}=\left(X_{1}\quad\cdots\quad X_{n}\right)^{T}\) 表示

n 个参变量 \(\left(u_{1},\cdot\cdot\cdot,u_{n}\right)\) 用矢量 \(\mathbf{U}=\left(u_{1}\quad\cdots\quad u_{n}\right)^{T}\) 表示

据定义 n 维随机变量 \(\left(X_{1},...,X_{n}\right)\) 的联合特征函数为

\[ \begin{aligned}Q_X(u_1,\cdots,u_n)&=Q_X\left(U^\mathrm{T}\right)=E\left[\mathrm{e}^{\mathrm{j}U^\mathrm{T}X}\right]\\&=E{\left[\mathbf{e}^{\mathbf{j}(u_1X_1+u_2X_2+\cdots+u_nX_n)}\right]}=E{\left[\mathbf{e}^{\sum_{k=1}^n\mathbf{j}u_kX_k}\right]}\\&=\int_{-\infty}^{\infty}\cdots\int_{-\infty}^{\infty}\mathrm{e}^{\mathrm{j}(u_1x_1+\cdots+u_nx_n)}f_X\left(x_1,\cdots,x_n\right)\mathrm{d}x_1\cdots\mathrm{d}x_n\end{aligned} \]

n 维联合特征函数逆转公式

\[ \begin{aligned}f_X(x_1,\cdots,x_n)&=\int_{-\infty}^{\infty}\cdots\int_{-\infty}^{\infty}\mathrm{e}^{-\mathrm{j}U^{\mathrm{T}}x}Q_{X}\left(U^{\mathrm{T}}\right)\frac{\mathrm{d}u_{1}}{2\pi}\cdots\frac{\mathrm{d}u_{n}}{2\pi}\\&=\int_{-\infty}^{\infty}\cdots\int_{-\infty}^{\infty}\mathrm{e}^{-\mathrm{j}\sum_{k=1}^{n}u_{k}x_{k}}Q_{X}\left(u_{1},\cdots,u_{n}\right)\frac{\mathrm{d}u_{1}}{2\pi}\cdots\frac{\mathrm{d}u_{n}}{2\pi}\end{aligned} \]

性质

了解一下

  1. \(\left|Q_{X}(u_{1},\cdot\cdot\cdot\cdot,u_{n})\right|\leqslant Q_{X}\left(0,\cdot\cdot\cdot,0\right)=1\)
  2. 特征函数 \(Q_{x}(u_{1},...,u_{n})\) 在 n 维空间 \(R^{n}\) 中一致连续
  3. \({Q_{X}}^{*}(u_{1},...,u_{n})=Q_{X}(-u_{1},...,-u_{n})\)
  4. 若 \(Q_{X}\left(u_{1},\cdots,u_{n}\right)\) 是随机矢量\(X\)的特征函数,矩阵\(A\)是 \(r\times n\) 常系数矩阵,矢量\(B\)是\(r(r<n)\)维常数列矢量,则随机矢量\(Y=A X+B\)的特征函数为
\[ Q_{Y}(u_{1},\cdots,u_{r},0,\cdots,0)=\mathrm{e}^{\mathrm{j}U^{\mathrm{T}}\boldsymbol{B}^{\prime}}Q_{X}\left(\boldsymbol{U}^{\mathrm{T}}\boldsymbol{A}^{\prime}\right)\\B^{\prime}=\begin{bmatrix}B\\\vdots\\\mathbf{0}\end{bmatrix}_{n\times1};\mathbf{0}_{(n-r)\times1}\text{为补充的零向量};A^{\prime}=\begin{bmatrix}A_{r\times n}\\\vdots\\\boldsymbol{O}_{(n-r)\times n}\end{bmatrix}_{n\times n};\boldsymbol{O}_{(n-r)}\text{为补充的零矩阵} \]
关于第四点
  1. 当\(\(r=n\)\)时

$$ A=\left[\begin{array}{c c c}{a_{1}}&{\cdots}&{0}\ {\vdots}&{\ddots}&{\vdots}\ {0}&{\cdots}&{a_{n}}\end{array}\right],\quad B=\left[\begin{array}{c}{b_{1}}\ {\vdots}\ {b_{n}}\end{array}\right] $$

则有

$$ A X=\left[!!{\begin{array}{c}{a_{1}X_{1}}\ {\vdots}\ {a_{n}X_{n}}\end{array}}!!\right],\quad Y=A X+B=\left[!!{\begin{array}{c}{a_{1}X_{1}+b_{1}}\ {\vdots}\ {a_{n}X_{n}+b_{n}}\end{array}}!!\right] $$

特征函数为

$$ Q_{Y}\left(u_{1},u_{2},\cdot\cdot\cdot,\cdot u_{n}\right)=\mathrm{e}{\mathrm{j}\sum_{k=1}\right) $$}u_{k}b_{k}}\cdot Q_{X}\left(a_{1}u_{1},\cdot\cdot\cdot\,,a_{n}u_{n

  1. 当 \(\(r=1\)\) 时

$$ Y=A X+B=a_{1}X_{1}+\cdot\cdot\cdot+a_{n}X_{n}+b $$

为一维随机变量，特征函数为

$$ Q_{Y}(u_{1})=\mathrm{e}^{\mathrm{j}u_{1}b}\cdot Q_{X}(a_{1}u_{1},a_{2}u_{1},\cdot\cdot\cdot\cdot,a_{n}u_{1}) $$

  1. 由特征函数唯一确定性推演得，独立的另一充要条件
\[ Q_{X}\left(u_{1},\cdot\cdot\cdot,u_{n}\right)=\prod_{k=1}^{n}Q_{X_{k}}\left(u_{k}\right) \]
  1. 若 \(\left(X_{1},...,X_{n}\right)\) 的特征函数为 \(Q_{X}{\big(}u_{1},...,u_{n}{\big)}\)，则任取其中 \(\mathbf{k}\) 个 \((\mathbf{k}{<}\mathbf{n})\) 变量的联合特征函数为:\(Q\left(u_{1},...,u_{k}\right)=Q_{X}(u_{1},...,u_{k},0,...,0)\)| \(Q\left(u_{i},u_{j}\right)=Q_{X}(0,...,0,u_{i},0,...,0,u_{j},0,...,0)\) 称为 \(\mathbf{n}\) 维随机变量的边缘特征函数。
  2. 如果 X1,X2 的联合原点矩 \(E[X_{1}^{n}X_{2}^{k}]\) 存在,则有 :\(E[X_{1}^{n}X_{2}^{k}]=(-j)^{n+k}\cdot{\frac{\partial^{n+k}Q_{X}(u_{1},u_{2})}{\partial u_{1}^{n}\partial u_{2}^{k}}}\Bigg\vert_{u_{1}=u_{2}=0}\)
  3. 若对所有 \(n=0,1,2,\cdot\cdot\cdot\) 和所有 \(k=0,1,2,\cdot\cdot\cdot\) , \(E[X_{1}^{n}X_{2}^{k}]\) 均存在,则\(Q_{X}(u_{1},u_{2})=\sum_{n=0}^{\infty}\sum_{k=0}^{\infty}E[X_{1}^{n}X_{2}^{k}]\cdot{\frac{(\mathrm{j}u_{1})^{n}}{n!}}\cdot{\frac{(\mathrm{j}u_{2})^{k}}{k!}}\)