Основные понятия

Событие — это явление, которое происходит в результате осуществления какого-либо события.

Классификация

Случайное — может произойти или не произойти в результате испытания $A,B,\ldots,Z.$
Достоверное — обязательно произойдет в результате испытания.
Невозможное — никогда не произойдет в результате испытания.
Совместное — появление одного не исключает появление другого.
Несовместное — появление одного исключает появление другого.
Противоположное — появление одного в результате опыта влечет появление другого $\overline A, \overline B, \ldots, \overline Z.$
Благоприятствующее — появление одного влечет появление другого.

Полная группа событий — это группа событий, в которой в результате испытания происходит только одно из них и любые два из них несовместны.

Противоположные события образуют полную группу событий.

Операции над событиями

Сумма событий — события, состоящие в наступлении хотя бы одного из них в результате испытания.

Произведение событий — сложное событие, состоящее в наступлении всех этих событий.

Вероятности

Классическое определение — численная мера объективной возможности наступления событий. $P(A)=\frac{M_A}{N}$ , где $M_A$ — общее число исходов испытания, благоприятствующих событию $A.$

A \in \emptyset, ~P(A)=0

A \in \Omega, ~P(A)=1

P(A) \in (0,1)

Статистическое определение предполагает, что число испытаний бесконечно. На практике такой подход не работает, как правило количество испытаний определено. При этом их количество должно быть не мало. В этом случае возникает статистическая устойчивость результатов $P=\frac{m}{n}.$

Комбинаторика

Комбинаторика — это раздел математики, изучающий методы решения задач, на подсчет числа различных комбинаций.

Перестановки

Перестановка — это способ последовательного расположения элементов с учетом порядка.

P_n=n!=1\cdot2\cdot\ldots\cdot n

Сколько трехзначных чисел можно составить из чисел 1, 2, 3 без повторений?

***=3!=1\cdot 2\cdot 3=6

Размещения

Размещение из n элементов по m элементов $A_n^m$ — это упорядоченный набор из m различных элементов, взятых из некоторого множества с мощностью n, где $m\leq n.$ То есть некая перестановка некоторых m выбранных элементов n.

A_n^m=\frac{n!}{(n-m)!}

Сколько трехзначных чисел можно составить из чисел 1, 2, 3, 4, 5 без повторений?

A_5^3=\frac{3!}{2!}=3

Сочетания

Сочетание из n элементов по m элементов $C_n^m$ — это неупорядоченный набор из m различных элементов, взятых из некоторого множества с мощностью n, где $m\leq n.$ То есть набор для которого порядок не имеет значения.

C_n^m=\frac{n!}{m!\cdot(n-m)!}

Сколькими способами можно извлечь любые 3 карты из колоды в 36 карт?

n=36, ~m=3, ~C_{36}^3=\frac{36!}{3!\cdot33!}=7140

В ящике 12 писем из них 7 иногородних и 5 городских, какова вероятность, что из взятых на удачу 4 писем, окажется 1 городское?

12 писем $\to$	7 иногородних	5 городских
$\downarrow$	$\downarrow$	$\downarrow$
4 письма $\to$	3 иногородних	1 городское

N=C_{12}^4=\frac{12!}{4!\cdot 8!}=495

M_A=C_7^3 \cdot C_5^1 = 175

P(A)=\frac{M_A}{N}=\frac{175}{495}=0.3535

Теоремы

Теорема сложения

Вероятность суммы двух несовместных событий равняется сумме их вероятностей.

P(B) + P(A)= P(A+B)

При определении вероятностей часто сложные события представляются в виде комбинаций более простых, при этом применяются операции сложения и умножения. Если события образуют полную группу событий, то их вероятность = 1.

\sum\limits_{i=1}^n P(A_i)=1

Так как $A_1, A_2, \ldots, A_n$ образуют полную группу событий, то появление хотя бы одного из них — достоверное событие.

Для совместных событий вероятность того, что произойдет хотя бы одно из двух событий $A$ или $B$ , равна сумме вероятностей каждого из этих событий, за вычетом вероятности того, что оба события произойдут одновременно.

P(A+B)=P(A)+P(B)-P(A\cdot B)

Событие $A$ называется независимым от события $B$ если вероятность события $A$ не зависит от того наступило $B$ или нет.

P(A) \neq P_B(A)

P(A) = P_B(A)

Теорема умножения

Вероятность произведения двух событий равна произведению одного из них на условную вероятность другого, вычисленную при условии, что первое наступило.

P(A \cdot B) = P(A)\cdot P_A(B)

Вероятность совместного наступления событий $A$ и $B$ равна произведению вероятностей каждого из этих событий, при условии, что они независимы.

P(A\cdot B)=P(A)\cdot P(B)

Методами математической индукции теорему можно обособить для любого конечного числа событий.

P \prod\limits_{i=1}^n (A_i)=\prod\limits_{i=1}^n (P(A_i))

Пусть требуется определить вероятность некоторого события $A$ , которое может произойти вместе с одним из событий $H_1, H_2, \ldots, H_n$ — называемыми гипотезами. При этом событие $H_i$ образует полную группу событий.

P(A)=\sum\limits_{i=1}^n P(H_i)\cdot P_{H_i}(A)

Теорема гипотез

$H_1, H_2, \ldots, H_i$ — гипотезы, их вероятности до опыта известны $P(H_1), P(H_2),\ldots P(H_i).$ Произведён опыт, в результате которого событие $A$ произошло. Как следует изменить вероятности гипотез в связи с появлением события $A?$ Необходимо найти вероятность гипотезы при условии, что событие $A$ наступило.

P_A(H_i)=\frac{P(H_i) \cdot P_{H_i}(A)}{P(A)}

В больницу в среднем поступают 50% пациентов с заболеванием — $x$ , 20% — $y$ , 30% — $z$ . Вероятность полного излечения болезни $x$ — 0.7, $y$ — 0.9, $z$ — 0.8. Пациент, поступивший в больницу был выписан здоровым. Найти вероятность, что он страдал болезнью $x.$

P(H_1)=0.5, ~P(H_2)=0.2, ~P(H_3)=0.3

P_{H_1}(A)=0.7, ~P_{H_2}(A)=0.9, ~P_{H_3}(A)=0.8

P_A(H_1)=\frac{P(H_1) \cdot P_{H_1}(A)}{P(H_1) \cdot P_{H_1}(A) + P(H_2) \cdot P_{H_2}(A) + P(H_3) \cdot P_{H_3}(A)}=\frac{0.5\cdot0.7}{0.5\cdot0.7+0.2\cdot0.9+0.3\cdot0.8}=0.45

Повторные независимые испытания

При решении вероятностных задач часты ситуации в которых одно и то же событие повторяется многократно (стрелок с места несколько раз стреляет в мишень), вопрос нахождения вероятности в отдельном испытании рассмотрен ранее. Представляет интерес нахождение вероятности появления конкретного события определенного числа в n-испытаниях. Несколько событий называют независимыми относительно события $A$ если вероятность события $A$ в каждом из них не зависит от исхода других испытаний.

P(A)=p=const

P(\overline A)=1-p=q=const

P_{m,n}(A) - ? ~(m\leq n)

При этом важно, что не требуется определенная последовательность появления события $A.$

\underbrace{A,A,A}_m, \ldots, \underbrace{\overline A, \overline A, \overline A}_{n-m} = p^m \cdot q^{n-m}

Формула Бернулли

Число различных комбинаций, в которых событий $A$ наступает $m$ раз из $n$ возможных определяется формулой сочетания комбинаторики.

P_{m,n}(A)=C_n^m \cdot p^m \cdot q^{n-m}

30% изделий предприятия высшего сорта. Какова вероятность того, что из 6 изделий предприятия 4 — высшего сорта?

n=6, ~m=4

P(A)=0.3=p

P(\overline A)=1-0.3=0.7=q

P_{4,6}=C_6^4\cdot0.3^4\cdot0.7^2=0.198

Формула Пуассона

Применяется если вероятность наступления события $A$ в каждом испытании постоянна, но близка к нулю, а число повторных независимых испытаний достаточно велико.

n \to \infty

P(A)=p\to0

P_{m,n}(A)=\frac{a^m \cdot e^{-a}}{m!}, ~a=n\cdot p, ~e=2.72

Вероятность появления на ферме ондатры альбиноса — 0.001. Найти вероятность того, что из 1000 выращенных животных < 2 — альбиносы.

n=1000, ~m<2

P(A)=0.001

a=n\cdot p=1

P_{m<2,~1000}(A)=P_{0,~1000}(A)+P_{1,~1000}(A)=0.3679+0.3679=0.7578

Формула Лапласа

Применяется если вероятность наступления события $A$ в каждом из $n$ независимых испытаний — постоянно, событие не является маловероятным, а число испытаний велико.

P_{m,n}=\frac{f(x)}{\sqrt{npx}}

f(x)=\frac{1}{\sqrt{2\pi}}\cdot e, ~x=\frac{m-np}{\sqrt{npq}}

При определенном технологическом процессе происходит 10 обрывов нити на 100 веретён в час. Определить вероятность того, что в течение часа на 80 веретенах произойдет 7 надрывов нити.

n=80, ~m=7

P(A)=\frac{10}{100}=0.1=p

P(\overline A)=1-0.1=0.9=q

x=0.3731, ~P_{7,80}=\frac{0.3726}{2.68}=0.139

Случайные величины

На практике приходится сталкиваться с величинами, которые в результате опыта могут принимать различные заранее неизвестные значения (число солнечных дней, количество положительных оценок в сессии, число пассажиров в маршрутке). Случайной называется величина, которая в результате опыта может принять то или иное значение неизвестное заранее, но обязательно одно.

Классификация

Дискретные — принимают целые значения.
Непрерывные — принимают значения из некоторого конечного или бесконечного интервала.

Закон распределения случайной величины

Появление тех или иных значений случайной величины можно рассматривать как события, а им соответствуют различные вероятности. Пусть дискретная величина $X$ имеет значения: $x_1,x_2,\ldots,x_n.$ В результате опыта случайная величина принимает одно и только одно значение.

\left. \begin{aligned} X=x_1\newline X=x_2\newline X=x_n \end{aligned} \right\} \Rightarrow \sum\limits_{i=1}^n P(X=x_i)=1

Определив все возможные значения случайной величины и правило нахождения соответствующих вероятностей, можно получить полное представление о случайной величине. Всякое соотношение, устанавливающее связь между возможными значениями случайной величины и соответствующими вероятностями, называется законом распределения случайной величины.

Рассмотрим табличный способ задания закона распределения.

$x_i$	$x_1$	$x_2$	$\ldots$	$x_n$
$P_i$	$P_1$	$P_2$	$\ldots$	$P_n$

Также ряд распределения случайной величины может быть представлен графически.

Операции над случайными величинами

Случайные величины $X, Y$ — называются независимыми, если закон распределения одной не зависит от того, какие возможные значения принимает другая величина. Иначе они называются зависимыми. Случайные величины $X, Y$ — называются одинаково распределенными, если их законы распределения одинаковы.

$x_i, ~y_j$	$x_1, ~y_1$	$x_2, ~y_2$	$\ldots$	$x_n, ~y_m$
$P_{x_i}, ~P_{y_j}$	$P_{x_1}, ~P_{y_1}$	$P_{x_2}, ~P_{y_2}$	$\ldots$	$P_{x_n}, ~P_{y_m}$

\sum\limits_{i=1}^n P_{x_i}=1, ~n\neq m

\sum\limits_{j=1}^n P_{y_j}=1, ~j= \overline{1,m}

Произведение случайной величины $X$ на постоянный множитель $C$ — это новая случайная величина $Z$ , которая с теми же вероятностями что и $X$ принимает значения равные произведению константы на постоянный множитель $C.$

$Cx_i$	$Cx_1$	$Cx_2$	$\ldots$	$Cx_n$
$P_{x_i}$	$P_{x_1}$	$P_{x_2}$	$\ldots$	$P_{x_n}$

$k$ -ая степень — это новая случайная величина $W$ , которая с теми же вероятностями что и $X$ принимает значения равные $k$ -ой степени её значений.

$x_i^k$	$x_1^k$	$x_2^k$	$\ldots$	$x_n^k$
$P_{x_i}$	$P_{x_1}$	$P_{x_2}$	$\ldots$	$P_{x_n}$

Сумма случайных величин $X, Y$ — это новая случайная величина $Q$ , которая принимает все значения вида: $(x_i + y_j)(i=\overline{1,n}, ~j=\overline{1,m})$ с вероятностями $P_{i,j}=P(X=x_i, ~Y=y_j)=P_{x_i}\cdot P_{y_j}.$

$x_i+y_j$	$x_1+y_1$	$x_2+y_2$	$\ldots$	$x_n+y_n$
$P_{i,j}$	$P_{x_1}P_{y_1}$	$P_{x_2}P_{y_2}$	$\ldots$	$P_{x_n}P_{y_n}$

Способы задания распределения случайной величины

Функция распределения

Для характеристики появления случайных величин целесообразно использовать вместо события $P(X = x_i), ~P(X<x).$ Если число $x$ будет меняться произвольно то и вероятности выполнения неравенства $X<x$ тоже будет меняться, следовательно вероятность есть функция аргумента. Эту функцию будем обозначать $F(x) = P(X<x).$

Геометрически это вероятность того, что случайная точка на числовой оси будет расположена левее заданной точки $x.$ Функция распределения применима как к непрерывным, так и к дискретным случайным величинам.

$x_i$	$0$	$1$	$2$	$3$
$P_i$	$0.2$	$0.1$	$0.4$	$0.3$

F(x)=\begin{cases} 0; & x \leq 0 \newline 0.2; & 0 \leq x \leq 1\newline 0.2 + 0.1 = 0.3; & 1 \leq x \leq 2\newline 0.2 + 0.1 + 0.4 = 0.7; & 2 \leq x \leq 3\newline 0.2 + 0.1 + 0.4 + 0.3 = 1; & x > 3 \end{cases}

Графически является разрывной линией, не ограниченной слева, совершающей скачки в точках возможных значений случайной величины.

F(x)=\begin{cases} 0; &x<0 \newline \frac{x^2}{36}; &0\leq x \leq 6\newline 1; &x>6 \end{cases}

F(x) \in [0;1], \forall x

P(\alpha \leq X \leq \beta) = F(\beta) - F(\alpha)

Плотность распределения

Плотность вероятности используется только для непрерывных случайных величин.

f(x)=F'(x) = \lim\limits_{\Delta x\to 0} \frac{D(x+ \Delta x)-F(\Delta x)}{\Delta x} = \lim\limits_{\Delta x\to 0} \frac{P(x<X<x+\Delta x)}{\Delta x}

P(\alpha < X < \beta) = \int\limits_\alpha^\beta f(x)dx

Геометрически интерпретация этой формулы вытекает из геометрического смысла определенного интеграла. Вероятность попадания случайной величины $(\alpha; \beta)$ — численно равна площади формулы, ограниченной кривой распределения, осью $ox$ и прямыми $x=\alpha, ~x=\beta.$

f(x)=\begin{cases} 0; &x<0 \newline \frac{x}{6}; &0 \leq x \leq 4 \newline 0; &x>4 \end{cases}

P(1<X<3)=\int\limits_1^3 \frac{x}{6} dx = \frac{1}{6} \cdot \int\limits_1^3 xdx = \frac{1}{6} \cdot \frac{x^2}{2} \Bigg\vert_1^3 = \frac{1}{6} \cdot 4 = \frac{2}{3}

\int\limits_{-\infty}^\infty f(x)dx=1

F(x)=P(X<x)=P(-\infty < X < x)=\int\limits_{-\infty}^x f(x)dx

Числовые характеристики случайной величины

Для решения многих практических задач совсем не обязательно знать все возможные значения случайной величины и соответствующие вероятности. Достаточно указать отдельные числовые характеристики, отражающие важные черты закона распределения.

Математическое ожидание

Возможные задания случайной величины могут быть сосредоточены вокруг некоторого центра — среднего значения. Математическое ожидание — это среднее значение случайной величины, взвешенное по вероятности.

M(X)=\sum\limits_{i=1}^n x_i P_i = 1

M(X)=\int\limits_{-\infty}^{\infty} xf(x)dx

M(X\pm Y)=M(X)\pm M(Y)

M(X \cdot Y)= M(X) \cdot M(Y)

M(const \cdot X)=const \cdot M(X)

M(const)=const

M(X-M(X))=0

Дисперсия

Целесообразно находить меру рассеивания значений случайной величины вокруг её математического ожидания.

D(X)=M(X^2)-M^2(X)

D(X\pm Y)=D(X)+D(Y)

D(const \cdot X)=const^2 \cdot D(X)

D(const)=0

Среднеквадратическое отклонение

Показывает вариацию значения случайной величины вокруг среднего.

\sigma(X) = \sqrt{D(X)}

Конкретные законы распределения

Конкретным называется закон дифференциальная функция, которого исследована и найдены формулы для вычисления числовых характеристик.

Равномерный закон распределения

X \sim R \in [a, b]

f(x)=\begin{cases} 0; &x<a \newline \frac{1}{b-a}; &a \leq x \leq b \newline 0; &x>b \end{cases}

F(x)=\begin{cases} 0; &x<a \newline \frac{x-a}{b-a}; &a \leq x \leq b \newline 1; &x>b \end{cases}

M(X)=\frac{b+a}{2}, ~D(X)=\frac{(b-a)^2}{12}, ~\sigma(X) = \frac{b-a}{2\sqrt{3}}

P(\alpha<X<\beta) = \frac{\beta - \alpha}{b - a}

Показательное распределение

X \sim Exp(\lambda)

f(x)=\begin{cases} 0; &x<0 \newline \lambda e^{-\lambda x}; &x \geq 0 \end{cases}

F(x)=\begin{cases} 0; &x<0 \newline 1-e^{-\lambda x}; &x \geq 0 \end{cases}

M(X)=\sigma(X) = \frac{1}{\lambda}, ~D(X)=\frac{1}{\lambda^2}

P(\alpha < X < \beta) = e^{-\lambda \alpha} - e^{-\lambda \beta}

Нормальное распределение

Распределение наиболее часто встречается, является предельным законом к которому стремятся другие законы распределения при часто встречающихся аналогичных условиях.

X \sim N (a, ~\sigma)

f(x)=\frac{1}{\sigma \sqrt{2 \pi}} \cdot e^{-\frac{(x-a)^2}{2 \sigma^2}}

F(x)=\frac{1}{\sigma \sqrt{2\pi}} \int\limits_{-\infty}^\infty e^{-\frac{(x-a)^2}{2 \sigma^2}}

M(X)=a, ~D(X)=\sigma^2, ~\sigma(X)=\sigma

P(\alpha < X < \beta) = \Phi\left(\frac{\beta - a}{\sigma}\right) - \Phi\left(\frac{\alpha - a}{\sigma} \right), ~\Phi(x)=\frac{1}{\sqrt{2 \pi}} \int\limits_{-\infty}^x ~e^{-\frac{x^2}{2}} dx

P(|X-a|\leq \xi)=2\Phi \left(\frac{\xi}{\sigma}\right)

Предельные теоремы теории вероятности

Результаты отдельных наблюдений при относительно равенстве условий их проведения всё же отличаются друг от друга, хотя средний результат обнаруживает значительную устойчивость. Условия при которых проявляется такая закономерность рассматриваются в предельных теоремах.

Закон больших чисел

Среднее значение конечной выборки из фиксированного распределения близко к математическому ожиданию этого распределения.

Неравенство Маркова

Применяется если $X$ принимает только не отрицательные значения и имеет конечное математическое ожидание.

P(X\leq\xi)> 1 - \frac{M(X)}{\xi}

P(X>\xi)<\frac{M(X)}{\xi}

Неравенство Чебышева

В основном случайная величина $X$ принимает значения, близкие к своему среднему.

P(|X-M(X)|\leq\xi)>1 - \frac{D(X)}{\xi^2}

Теорема Чебышева

Если $X_1, X_2, \ldots, X_n$ — независимые случайные величины, имеющие определенные математические ожидания $M(X_i)=a_i, ~i=\overline{1, n}$ и ограниченные дисперсии $D(X_i) \geq const,$ то при $n\to \infty$ , среднее значение $P \to 1.$

\lim\limits_{n\to\infty}(P(|\overline X - \overline{M(X)}|)\leq \xi)=1

Теорема Бернулли

При многократном повторении независимого эксперимента с двумя возможными исходами относительная частота успешных исходов стремится к вероятности успеха, если количество испытаний стремится к бесконечности.

\lim\limits_{n\to\infty}P(|\frac{m}{n}-p|\leq\xi)=1

Теорема Пуассона

Теорема Пуассона описывает распределение вероятностей для количества событий, происходящих в фиксированный промежуток времени или пространства, при условии, что эти события происходят с постоянной средней частотой и независимо друг от друга.

P_n(k)=\frac{\lambda^k}{k!} \cdot e^{-\lambda}

Центральная предельная теорема

Имеет смысл если $M(X), ~D(X)$ — конечные и ни одна из случайных величин по своим значениям резко не отличается от остальных.

\sum\limits_{i=1}^n X_i (X=\overline{1,n} \sim N), ~n\to \infty

P(|\overline X - a|\leq\xi)=2\Phi(\frac{\xi\sqrt{2n}}{\sigma})