数理统计与随机过程讲义 - 图文

《数理统计与随机过程讲义》

段法兵

复杂性科学研究所

第一章 概率论回顾

下面是数理统计部分需要的掌握的，许多推导的基础知识。

§1.1 几种分布的由来

指数分布：服务台电话呼叫时间，公交车到达一个车站时间，这些时间分布的符合指数分布。设q(t)为区间t上没有事件发生的概率，x为第一次事件发生等待的时间，那么q(t)?P(x?t)，假设不同时间区间t1，t2相互不重叠且独立，那么

P(x?t1)P(x?t2)?P(x?t1?t2)

?q(t1)q(t2)?q(t1?t2)

?q(t)?e??t为非平凡（非零）有界解，这里?为状态转移概率 那么我们有分布函数

F(t)?P(x?t)?1?P(x?t)?1?q(t)?1?e??t

因此得到指数分布

Y

dF(t)??e??tt?0 f(t)???dtother?0两个指数分布之和的分布？

z?x?y

Y x=z-y X

在x-y的空间内，满足x?y?z的区域如上，那么z的累计分布

F(z)?P?x?y?z???dy?0zz?y0fxy(x,y)dx

那么

fz(z)?zdF(z)??fx(x)fy(z?x)dx 0dz例如x与y为相互独立的指数分布，fx(x)??e??x和fy(y)??e??y分别为其概率分布函数，那么z?x+y的分布为

fz(z)?fx(x)*fy(y)???e??x?ez?xdx?z?2e??z

0z

???2e??xe??(z?x)dx?z?2e??z， z?0

0z

Gamma分布：N个指数分布的随机变量之和的分布为Gamma分布。

例如x与y为相互独立的指数分布，fx(x)??e??x和fy(y)??e??y分别为其概率分布函数，那么z?x+y的分布为

fz(z)?fx(x)*fy(y)???e??x?ez?xdx?z?2e??z

0z如此卷积下去，N个相互独立的指数分布相加的概率分布为Gamma分布，其概率密度函数

?x??1?x/?ex?0??f(x)???(?)?

?0other?这里参数?,??0。Gamma函数

?(?)??x??1e?xdx。

0?性质1：利用分部积分法得到递推公式

?(??1)???(?)，

当?为整数n时，利用分部积分法得到

?(n?1)?n?(n)?n!，

而非整数??1/2，利用变量代换x?y2/2，得到

?(1/2)??，

所以有

11113311(2n?1)!!?(n?)?(n?)?(n?)?(n?)(n?)??()??。

222222222n性质2：??1 ，Gamma分布为??1/?的指数分布；

?为整数n，Gamma分布为Erlang分布，如第一次故障后再次出现n

次故障；

??n/2，??1/??1/2，Gamma分布为?2分布，抽样理论中一种重要分布。

§1.2 随机变量函数的分布

因为我们在后面统计假设，检验时将遇到随机变量的函数，因此求出随机变量函数的分布是一个非常重要的基础知识。分为单输入单输出和双输入单（双）输出三种类型。

类型一： 设x的分布fx(x)，求y?g(x)的分布fy(y)

y y=g(x) dy fx x dx1 dx2 dx3 如图所示，在dy区间y发生的概率为fy(y)dy，由于y?g(x)不一定是单调函数，dy区间y对应了多个区间dx1，dx2,dx3,…，都满足y?g(x)?y?dy，dy区间y发生的概率等于所对应的x所在区间发生的概率：

fy(y)dy??fx(xi)dxi

?fy(y)??fx(xi)dxif(x)??xi dydy/dxi我们设xi?hi(y)为逆函数，则

fy(y)??fx[hi(y)]|h'i(y)|if[h(y)]??xii|g'[hi(y)]|

例子：设x的分布fx(x)?

1?x22求平方律检波器输出y?x2的概率分布函数。 e，

2?解：x??y为反函数两支，且dx/dy?1/(2y)，则

dx1fy(y)??fx(xi)i?2*dy2y1?21?1/2?y/2e?ye,2?2?yy?0

这个分布就是Gamma分布的?(1/2,2)，也是自由度为1的?2分布。

例子：设x的分布为均匀分布fx(x)=1/?，x?[??/2,?/2]，那么y?arctan(x)的分布为柯西分布

fy(y)?1/? 21?y逆问题1：

已知x的分布fx(x)，如何构造y?g(x)函数使得y符合（0,1）之间的均匀分布fy(y)?1。 由上面推导知

fy(y)dy?fx(x)dx

将fy(y)?1代入上式，得出

dy?fx(x)dx?y??x??fx(u)du?Fx(x)

可以看出我们要找到函数g(x)就是x的累积分布函数Fx。

应用：数字图像的直方图均衡化【Gonzalez ： 数字图像处理】

数字图像的直方图就是图像灰度的分布，比如电子显微镜下花粉图像 Matlab代码：假设你有花粉图像pollen.tif >> X=imread('pollen.tif'); >> imshow(X) >> imhist(X) >> ylim('auto')