Теорема 7

Теорема 6.

Теорема 5.

Дисперсия неслучайной величины равна нулю.

D(C)=0

D(C)=M((C-M(C))²)=M((C-C)²)=M(0²)=0

Неслучайную величину можно выносить за знак дисперсии, если предварительно возвести в квадрат.

D(CX)=C²D(X)

D(CX)=M((CX-M(CX))²)=M((CX-CM(X))²)=M(C²(X-M(X))²)=C²M((X-M(X))²)=C²D(X)

Дисперсия суммы случайных величин равна сумме дисперсий этих величин плюс два их корреляционных момента.

D(X+Y)=D(X)+D(Y)+2k_xy

D(X+Y)=M((X+Y-M(X+Y))²)=M((X+Y-(+))²)=M(((X-)+(Y-))²)=M((X-)²+2(X-)(Y-)+(Y-)²)=
=M((X-)²)+2M((X-)(Y-))+M((Y-)²)=D(X)+2k_xy+D(Y)

Если величины X и Y независимы, то k_xy=0 D(X+Y)=D(X)+D(Y)

D(_j)=(X_j)+2

Если величины X₁, X₂…X_n независимы, то D(_j)=(X_j)

Теорема 8. Математическое ожидание и дисперсия биномиального распределения.

Пусть X – дискретная случайная величина, распределенная по биномиальному закону, т. е. X=0, 1…n p(X=m)=•p^m•(1-p)^n-m

Случайную величину X можно рассматривать как число успехов в серии из n испытаний Бернулли, если в каждом испытании успех происходит с вероятностью p, а а неудача с вероятностью q=(1-p).

Свяжем с испытанием Бернулли под номером j случайную величину X_j=.

p(X_j=1)=p

p(X_j=0)=q

M(X_j)=1•p+0•q=p

D(X_j)=(1-p)²•p+(0-p)²q=q²p+p²q=pq(p+q)=pq

X=_j, т. к. X₁, X₂…X_n независимы.

M(X)=M(_j)=(X_j)==np

D(X)=D(_j)=(X_j)=q=npq

1. Плотность вероятности известной функции случайной величины.

Пусть X – непрерывная случайная величина.

Y=φ(X), где φ – некоторая известная функция.

Пусть известны F_x(x) и f_x(x). Требуется определить F_y(y) и f_y(y).

Пусть y=φ(x) монотонно возрастает.

По теореме о существовании, непрерывности и монотонности обратной функции для функции y=φ(x) существует обратная функция x=ψ(y)=φ^-1(y), которая также будет монотонно возрастать.

F_y(y)=p(Y<y)

A={Y<y}

B={X<x=ψ(y)}

A=B

p(A)=p(B)

p(Y<y)=p(X<x=ψ(y))=F_x(ψ(y))

F_y(y)=F_x(ψ(y))

Пусть y=φ(x) монотонно убывает.

По теореме о существовании, непрерывности и монотонности обратной функции для функции y=φ(x) существует обратная функция x=ψ(y)=φ^-1(y), которая также будет монотонно убывать.

A={Y<y}

B={X<x=ψ(y)}

A=

p(A)=p()=1-p(B)

p(Y<y)=1-p(X<x=ψ(y))=1-F_x(ψ(y))

F_y(y)=1-F_x(ψ(y))

f_y(y)=F_y(y)===

f_y(y)=f_x(ψ(y))(*)

Если функция y=φ(x) является кусочно-монотонной, то нужно область определения этой функции разбить на участки, на которых функция y=φ(x) является строго монотонной, для каждого из участка применить формулу (*),а потом просуммировать все полученные выражения.

f_y(y)=_x(ψ_j(y))

Теорема.

Линейная функция нормальной случайной величины является нормальной случайной величиной.

Y=aX+b

f_x(x)=exp(-) при xÎ(-∞; +∞)

M(Y)=M(aX+b)=aM(X)+b=a+b=

D(Y)=D(aX+b)=D(aX)+D(B)=a²D(X)+0=a²σ_x²=σ_y²; σ_y=|a|σ_x

X=

x=ψ(y); ψ(y)=

=

f_y(y)=exp(-)=exp(-)=exp(-) – нормальный закон распределения.

Справедливо более общее утверждение: Линейное преобразование, примененное к случайной величине, не меняет характера распределения этой случайной величины.

2. Плотность распределения функции нескольких случайных аргументов.

Пусть имеется система непрерывных случайных величин (X₁, X₂…X_n) и некоторая известная функция Z=φ(X₁, X₂…X_n) (1).

Пусть плотность вероятности системы (X₁, X₂…X_n) известна. Требуется определить плотность вероятности f_z(z).

p(z≤Z<z+dz)=(z)dz=(x₁, x₂…x_n)dx₁dx₂…dx_n (2)

В соответствии с теоремой о среднем значении, интеграл, стоящий в левой части соотношения (2) равен f_z(z)dz.

Для вычисления интеграла, стоящего в правой части, перейдем к новым координатам.

Будем считать, что уравнение (1) разрешимо относительно одной из переменных X₁, X₂…X_n. Пусть
X₁=ψ(X₂, X₃…X_n, Z)

В качестве новой системы координат возьмем

x₂=x₂

x₃=x₃

……

x_n=x_n

x₁=z

В соответствии с правилами замены переменных в кратном интеграле, домножим на якобиан перехода от одной системы координат к другой.

При этом Z изменяется в пределах от z до z+dz.

С учетом этого, соотношение (2) принимает вид

f_z(z)dz=(ψ(x₂, x₃…x_n, z), x₂…x_n)|J|dx₂dx₃…dx_n=|по теореме о среднем значении|=
=f_z(z)dz=dz(ψ(x₂, x₃…x_n, z), x₂…x_n)|J|dx₂dx₃…dx_n

f_z(z)=(ψ(x₂, x₃…x_n, z), x₂…x_n)|J|dx₂dx₃…dx_n

Композиция законов распределения.

Пусть Z=X+Y – композиция случайных величин. Пусть известна плотность вероятности f(x, y). Требуется вычислить f_z(z).

В соответствии с (2)

f_z(z)dz=(x, y)dxdy==(x, z-x)dx

f_z(z)dz=dz(x, z-x)dx

f_z(z)=(x, z-x)dx (3)

f_z(z)=(z-y, y)dy (4)

Если X и Y – независимые случайные величины, то f(x, y)=f_x(x)•f_y(y)

f_z(z)=_x(x)•f_y(z-x)dx=_x(z-y)•f_y(y)dy (5)

(3), (4), (5) – композиция законов распределения (свертка законов распределения).

Композиция двух равномерных законов распределения (закон треугольника, закон Симпсона).

Пусть Z=X+Y

X и Y – независимые случайные величины

f(x, y)=f_x(x)•f_y(y)

f_x(x)=

f_y(y)=

f_z(z)=_x(x)•f_y(z-x)dx=_y(z-x)dx

f_y(z-x)=

ÛÛ

f_z(z)===•(2l-|z|) f_z(z)=

3. Распределение χ².

Пусть имеется n случайных величин ξ₁, ξ₂…ξ_n, обладающих следующими свойствами

Все эти величины центрированы, т. е. M(ξ_j)=0

Все эти величины нормированы, т. е. D(ξ_j)=1

Все эти величины независимы, т. е. f(ξ₁, ξ₂…ξ_n)=_j(ξ_j)

Все эти величины имеют нормальный закон распределения, т. е. f_j(ξ_j)=exp(-)

Рассмотрим χ_n²=_i²

χ_n=

n – число степеней свободы.

Можно показать, что плотность вероятности случайной величины χ_n будет иметь вид

(χ_n)=exp(-)χ_n^n-1 (1)

Γ(p)=^-pt^p-1dt (сходится для всех p>0)

Получим закон распределения z=χ_n²

χ_n=

f_z(z)=()•=•exp(-)•••

f_z(z)=•exp(-)•(2)

Формулы (1) и (2) используются, если число степеней свободы n≤30. Если число степеней свободы больше, чем 30, то χ-распределение и χ²-распределение не отличаются от нормального закона распределения.

4. Закон распределения Стьюдента.

Пусть имеется n+1 случайных величин ξ₀, ξ₁…ξ_n, обладающих следующими свойствами

Все эти величины центрированы, т. е. M(ξ_j)=0

Все эти величины нормированы, т. е. D(ξ_j)=1

Все эти величины независимы, т. е. f(ξ₁, ξ₂…ξ_n)=_j(ξ_j)

Все эти величины имеют нормальный закон распределения, т. е. f_j(ξ_j)=exp(-)

Закон распределения Стьюдента T_n==

Используя описанную ранее схему (получения плотности вероятности нескольких случайных величин) можно получить

f(t_n)=•(1+)

n – число степеней свободы.

При n>30 закон распределения Стьюдента не отличается от нормального.

5. Характеристическая функция системы случайных величин и ее свойства. (БИЛЕТ № 21)

Пусть имеется система двух случайных функций X и Y. Характеристической функцией этой системы называется функция двух переменных E(u₁, u₂)=M().

E(u₁, u₂)=M()=

E(u₁, 0)=M()=E_x(u₁)

E(0, u₂)=M()=E_y(u₂)

Пусть X и Y – независимые случайные величины. Тогда

E(u₁, u₂)=M(•)=M()•M()=E_x(u₁)•E_y(u₂)

f(x, y)=(u₁, u₂)du₁du₂

m_ks=

m_ks=

Глава 5. Предельные теоремы теории вероятностей.

Эти теоремы делят на два класса – закон больших чисел и центральные предельные теоремы.

Закон больших чисел устанавливает условия, при которых случайную величину можно считать неслучайной. К закону больших чисел относятся теорема Чебышева, теорема Бернулли, теорема Хинчина.

К центральной предельной теореме относятся центральная предельная теорема Ляпунова и теорема Муавра-Лапласа.

1. Неравенство Чебышева.

Пусть имеется случайная величина X, с математическим ожиданием M(X)=и дисперсией D(X).

Тогда справедливо неравенство Чебышева

"(ε>0) p(|X-|≥ε)≤

Доказательство.

Пусть X – непрерывная случайна величина. Тогда

p(|X-|≥ε)=(x)dx (1)

|X-|≥ε

(X-)²≥ε²

1≤

f(x)≤·f(x) (f(x)≥0)

(x)dx≤f(x)dx≤f(x)dx=D(x) (2)

Подставив (2) в (1), получим неравенство Чебышева.

Пусть X – дискретная случайна величина с рядом распределения

X	x1	x2	…	xn
p	p1	p2	…	pn

Тогда

p(|X-|≥ε)=_i (3)

|xi-|≥ε

≥1

p_i·≥p_i

_i≤p_i≤p_i=D(x) (4)

Подставив (4) в (3), получим неравенство Чебышева.

2. Теорема Чебышева.

Пусть имеется последовательность случайных величин X₁, X₂…X_n, обладающих следующим свойствами

Все эти величины независимы в совокупности.

Все эти величины имеют конечные математические ожидания M(X_j)=_j (j=1, 2…n).

Все эти величины имеют ограниченные дисперсии, т. е. $σ₀² D(X_j)≤σ₀² (j=1, 2…n).

Тогда среднее арифметическое этих случайных величин по вероятности сходится к среднему арифметическому математических ожиданий этих величин, т. е. выполняется соотношение

"(ε>0) p(|-|≥ε)=0

=_j

=_j

Доказательство.

Воспользуемся неравенством Чебышева, положив в этом неравенстве X=.

M()=M(_j)=M(_j)=(X_j)=_j=

D()=D(_j)=D(_j)=|величины независимы|=(X_j)≤₀²=·n·σ₀²

D()≤

0≤p(|-|≥ε)≤≤(1)

Переходя в неравенстве (1) к пределу при n→∞, получим

"(ε>0) p(|-|≥ε)=0

3. Теорема Бернулли.

Пусть проводится серия из n испытаний Бернулли, т. е. проводится серия из n независимых испытаний, в каждом их которых некоторое событие может произойти с одной и той же вероятностью p. Тогда частота появления этого события по вероятности сходится к вероятности появления этого события в каждом испытании, т. е. к p.

p*(A)=

"(ε>0) p((p*(A)-p)≥ε)=0

Доказательство.

С каждым их испытаний Бернулли свяжем случайную величину X_j, которая может принимать два значения: 1, если событие A в испытании с номером j произошло (вероятность этого p), и 0 в противном случае (вероятность этого q=1-p). (j=1, 2…n)

Величины X₁, X₂…X_j независимы (т. к. испытания независимы).

M(X_j)=1·p+0·q=p – все величины имеют конечные математические ожидания.

D(X_j)=(1-p)²·p+(0-p)²·q=q²p+p²q=pq(p+q)=pq=p(1-p)≤p-p²+-=-(-p)²≤- все величины имеют ограниченные дисперсии.

Все условия теоремы Чебышева выполнены.

=_j==p*(A)

M()=M(_j)=·np=p

Воспользовавшись теоремой Чебышева, получим

"(ε>0) p((p*(A)-p)≥ε)=0

4. Теорема Хинчина.

Пусть имеется последовательность случайных величин X₁, X₂…X_n, обладающих следующим свойствами

Все эти величины независимы в совокупности.

Все эти величины имеют одинаковый закон распределения.

Все эти величины имеют конечное математическое ожидание M(X_j)=

Тогда по вероятности среднее арифметическое этих величин сходится к их математическому ожиданию .

Доказательство.

Y=

E_y(u)=M()=

Для доказательства теоремы достаточно показать, что характеристическая функция среднего арифметического этих случайных величин при n→∞ стремится к .

(u)=()=()=|закон распределения одинаков|=(())ⁿ

Разложим (())ⁿ в ряд Маклорена.

=m_k

(())ⁿ=(E_x(+·u+·u²+…)ⁿ=(1+i·-m₂()²+…)ⁿ=(1+(i+o()))ⁿ

(u)=(1+(i+o()))ⁿ=

Теорема доказана.

3. Центральные предельные теоремы.

Теорема Ляпунова.

Пусть имеется последовательность случайных величин X₁, X₂…X_n, удовлетворяющих следующим условиям

Величины X₁, X₂…X_n независимы.

Величины X₁, X₂…X_n обладают конечными абсолютными центральными моментами третьего порядка, т. е. M(|X_j-M(X_j)|³) удовлетворяет условию →0 при n→∞. D_n=D(_j)

Тогда при n→∞ случайная величина Z_n=_j имеет нормальный закон распределения.

Теорема Ляпунова для одинаково распределенных случайных величин.

Пусть имеется последовательность случайных величин X₁, X₂…X_n, обладающих следующим свойствами

Величины X₁, X₂…X_n независимы.

Величины X₁, X₂…X_n одинаково распределены.

Величины X₁, X₂…X_n имеют конечное и одинаковое математическое ожидание M(X_j)=

Величины X₁, X₂…X_n имеют конечную и одинаковую дисперсию D(X_j)=σ²

Тогда при n→∞ случайная величина Z_n=имеет нормальный закон распределения, причем M(Z_n)=0 и D(Z_n)=1

Доказательство.

(u)=exp(-u²)

Для доказательства покажем, что характеристическая функция Zn при n→∞ стремится к exp(-u²).

Введем случайную величину Y_j=

M(Y_j)=M()=M(X_j-)=(M(X_j)-M())=(-)=0 – т. е. Y_j центрированы.

D(Y_j)=D()=D(X_j-)=(D(X_j)-D())=(σ²-0)=1 – т. е. Y_j нормированы.

Тогда Z_n=

M(Z_n)=M(_j)=(Y_j)=0

D(Z_n)=D(_j)==·n=1

(u)=M()=(0)+(u)+(u)+…=1+iM(Y_j)-D(Y_j)+…=1+0-+…

(u)=(u)=()=(())ⁿ=(1-+o())ⁿ

(u)=(1-+o())ⁿ=exp(-)

Интегральная теорема Муавра-Лапласа.

Проводится серия из n независимых испытаний Бернулли, в каждом из которых некоторое событие A появляется с одной и той же вероятностью p или не появляется с одной и той же вероятностью q=1-p.

Тогда p_n(m₁≤m≤m₂)≈Φ()-Φ()

Φ(z)=(-)dx

Свяжем с каждым испытанием случайную величину Xj. Эта величина принимает значение 1, если в испытании с номером j событие A произошло (вероятность этого p), и 0 в противном случае (вероятность этого
q=1-p).

Тогда имеется последовательность случайных величин X₁, X₂…X_n.

Величины X₁, X₂…X_n независимы, одинаково распределены, имеют конечные и одинаковые математические ожидания M(X_j)=p и конечные и одинаковые дисперсии D(X_j)=pq. Таким образом, величины X₁, X₂…X_n удовлетворяют условиям теоремы Ляпунова.

Сумма этих величин, при достаточно большом значении n имеет нормальный закон распределения, т. е. F(x)=+Φ()

=M(X)=np

σ_x==

p(m₁≤m=_j≤m₂)≈F(m₂)-F(m₁)=Φ()-Φ()

Дата добавления: 2014-01-07