Частота события. Статистическое определение вероятности. Понятие устойчивости и законе больших чисел. Недостатки определения

Частота случайного события и «статистическое определение» вероятности

Пусть А – случайное событие по отношению к некоторому испытанию. Представим себе, что это испытание произведено N раз и при этом событие А наступило в случаях. Тогда отношение

называется частотой события А в данной серии испытаний.

Определение. Вероятностью случайного события А называется число , около которого колеблется частота этого события в длинных сериях испытаний.

Пример 1.

Наблюдения показывают, что в среднем среди 1000 новорожденных детей 515 мальчиков. Частота рождения мальчика в такой серии наблюдений равна 0.515.

Пример 2.

Французский естествоиспытатель Бюффон (XVIII в.) бросил монету 4040 раз, и при этом герб выпал в 2048 случаях. Следовательно, частота выпадения герба в данной серии испытаний равна:

Пример 3.

Английский математик Карл Пирсон (1857-1936) бросал монету 24000 раз, причем герб выпал 12012 раз. Следовательно, частота выпадения герба в данной серии испытаний равна:

Примеры 2 и 3 подтверждают естественное предположение о том, что вероятность выпадения герба при одном бросании монеты равна 0.5.

Относительная частота наряду с вероятностью является одним из ключевых понятий тервера, но если классическое либо геометрическое определение вероятности не требуют проведения испытаний, то относительная частота рассчитывается исключительно ПОСЛЕ опытов на основе фактически полученных данных.

В том случае, если серии испытаний проводятся в неизменных условиях, то относительная частота обнаруживает свойство устойчивости, то есть колеблется около определённого значения.

Пусть некий профессиональный стрелок произвёл 100 выстрелов по мишени и попал 83 раза. Тогда относительная частота поражения цели составит: .

Предположим, что тот же самый стрелок в точно такой же «форме» и в приблизительно таких же условиях снова провёл серию из 100 выстрелов. Вероятно ли, что он снова попадёт 83 раза? Не очень. Но количество попаданий вряд ли будет сильно отличаться от предыдущего результата. Пусть, например, стрелок попал 79 раз. Тогда относительная частота поражения цели составит: .

В третьей серии из 100 выстрелов, проведённой при похожих обстоятельствах, данный стрелок попал 81 раз, и т.д.

Иногда могут случаться блестящие серии более 90 попаданий, иногда «провалы», но среднее количество попаданий будет варьироваться около 80. И когда количество фактически проведённых испытаний станет достаточно большим, то речь зайдёт о статистической вероятности. Если в одинаковых (примерно одинаковых) условиях проведено достаточно много испытаний, то за статистическую вероятность события принимают относительную частоту данного события либо близкое число.

Предположим, что на протяжении нескольких лет наш спортсмен, сохраняя стабильный уровень подготовки, совершил 10000 выстрелов и попал 8037 раз. Относительная частота поражения цели составит: и за статистическую вероятность его результативности целесообразно принять , которая становится теоретической оценкой, например, перед грядущими соревнованиями.

Представьте, что во время лекции этот профессионал зашёл с винтовкой аудиторию и прицелился. Теперь вам должен стать окончательно понятен смысл фразы «Стрелок попадает в мишень с вероятностью 0,8» =) =)

Именно так собирается богатая спортивная статистика в различных видах спорта.

Аналогичная история с утверждением «Вероятность изготовления бракованной детали на данном станке равна 0,05». Эту оценку невозможно получить с помощью классического определения вероятности – она следует только из практики! Если на станке произведены десятки тысяч деталей и на каждую, скажем, тысячу выпущенных деталей, приходится в среднем 50 бракованных, то в качестве статистической вероятности брака принимается значения .

Законы больших чисел

Определение 52. Говорят, что последовательность случайных величин с конечными первыми моментами удовлетворяет закону больших чисел (ЗБЧ), если

(22)

Законами больших чисел принято называть утверждения о том, при каких условиях последовательность случайных величин удовлетворяет закону больших чисел, т.е. обладает свойством (22).

Выясним сначала, когда выполнен ЗБЧ для последовательности независимых и одинаково распределённых случайных величин.

Теорема 33 (ЗБЧ Чебышёва). Для любой последовательности попарно независимых и одинаково распределённых случайных величин с конечным вторым моментом имеет место сходимость:

(23)

Заметим, что если величины одинаково распределены, то их математические ожидания одинаковы (и равны, например, ), поэтому свойство (22) можно записать в виде (23).

ЗБЧ утверждает, что среднее арифметическое большого числа случайных слагаемых «стабилизируется» с ростом этого числа. Как бы сильно каждая случайная величина не отклонялась от своего среднего значения, при суммировании эти отклонения «взаимно гасятся», так что среднее арифметическое приближается к постоянной величине.

В дальнейшем мы увидим, что требование конечности второго момента (или дисперсии) связано исключительно со способом доказательства, и что утверждение останется верным, если требовать существования только первого момента.

Доказательство.

Обозначим через сумму первых случайных величин. Из линейности математического ожидания получим:

Пусть . Воспользуемся неравенством Чебышёва:

(24)

так как . Заметим, что дисперсия суммы превратилась в сумму дисперсий в силу попарной независимости слагаемых, из-за которой все ковариации в свойстве 14 обратились в нуль при . Сумма же дисперсий слагаемых равняется из-за их одинаковой распределённости.

QED

Замечание 24. Мы не только доказали сходимость, но и получили оценку для вероятности среднему арифметическому любого числа попарно независимых и одинаково распределённых величин отличаться от более, чем на заданное :

(25)

Легко видеть, что попарную независимость слагаемых в ЗБЧ Чебышёва можно заменить их попарной некоррелированностью, ничего не меняя в доказательстве. ЗБЧ может выполняться и для последовательности зависимых и разнораспределённых слагаемых. Предлагаю читателям, проследив за равенствами и неравенствами (24), получить доказательство следующего утверждения, предлагающего достаточные условия выполнения ЗБЧ для последовательности произвольных случайных величин.

Теорема 34 (ЗБЧ Маркова). Последовательность случайных величин с конечными вторыми моментами удовлетворяет ЗБЧ при выполнении любого из следующих условий:

а)

если , т.е. если при ;

б)

если независимы и (т.е. если )

в)

если независимы, одинаково распределены и имеют конечную дисперсию (ЗБЧ Чебышёва).

Теорема Маркова утверждает, что ЗБЧ выполнен, если дисперсия суммы слагаемых растёт не слишком быстро с ростом .

Сильная зависимость слагаемых приводит обычно к невыполнению ЗБЧ. Если, например, и , то , и свойство (23) не выполнено (убедиться!). В этом случае ; для одинаково распределённых слагаемых дисперсия суммы быстрее расти не может.

Следующее утверждение мы докажем чуть позже. Сравните его условия с условиями ЗБЧ Чебышёва.

Теорема 35 (ЗБЧ Хинчина⁽¹⁾). Для любой последовательности независимых (в совокупности) и одинаково распределённых случайных величин с конечным первым моментом имеет место сходимость:

Более того, в условиях теоремы 35 имеет место и сходимость п. н. последовательности к . Это утверждение называется усиленным законом больших чисел (УЗБЧ) Колмогорова, и его мы доказывать не будем.

Получим в качестве следствия из ЗБЧ Чебышёва закон больших чисел Я. Бернулли. В отличие от ЗБЧ Чебышёва, описывающего предельное поведение среднего арифметического случайных величин с произвольными распределениями, ЗБЧ Бернулли имеет дело лишь со схемой Бернулли.

Теорема 36 (ЗБЧ Бернулли). Пусть событие может произойти в любом из независимых испытаний с одной и той же вероятностью , и пусть — число осуществлений события в испытаниях. Тогда . При этом для любого

Доказательство. Заметим, что есть сумма независимых, одинаково распределённых случайных величин, имеющих распределение Бернулли с параметром (индикаторов того, что в соответствующем испытании произошло ): , где

и , . Осталось воспользоваться ЗБЧ в форме Чебышёва и неравенством (25).

Алгебра событий

Вероятность - свойство случайных событий.
Понятие события - первичное понятие теории - строго не определяется.

Событие - это то, что при определенных условиях может произойти или не произойти. В общем случае событие - это множество элементов. (Иногда - один, иногда - бесконечное множество)

	Пример 1	Пример 2
Условия:	бросаем игральную кость	стрела попала в мишень
Событие А:	выпало четное число очков	стрела попала в "десятку"
Мн-во элементов А:	2, 4, 6	бесконечное множество точек, заполняющих "десятку"

Событие, которое нельзя разбить на элементы называется элементарным .
В примере 1 - это выпадение определенной грани, скажем - 4.

Событие, которое в данных условиях всегда происходит называется достоверным (U)
В примере 1 - это выпадение любой грани.

Событие, которое в данных условиях никогда не происходит называется невозможным (V)
В примере 1 - это одновременное выпадение двух или более граней при однократном бросании одной кости.

Рассматривая события как множества, можно определить действия над событиями.

a. Объединение событий или сумма событий A U B или А + В - событие, содержащее все элементы А и В

	Пример 3
Условия:	бросаем игральную кость
Событие А:	выпало четное число очков
Событие B:	выпало число очков меньше, чем 4
Событие A + B:	выпало 1, 2, 3, 4 или 6 очков

	Пример 4. См. рисунок 1.1.
Событие А:	круг
Событие B:	квадрат
Событие A + B:	заштриховано	Рисунок 1.1

b. Пересечение событий или произведение событий - A I B или АВ - событие, содержащее только общие элементы А и В

	Пример 5
Условия:	бросаем игральную кость
Событие А:	выпало четное число очков
Событие B:	выпало число очков меньше, чем 4
Событие AB:	выпало 2 очка

	Пример 6. См. рисунок 1.2.
Событие А:	круг
Событие B:	квадрат
Событие AB:	заштриховано	Рисунок 1.2

Если СЕ = V, т.е. пересечение С и Е - пустое множество, события С и Е не имеют общих элементов, то такие события называются несовместными .
На рисунке - несовместные события С, Е, D.

c. Говорят, что событие А влечет за собой событие В (обозачение А c В), если, когда происходит A, то B обязательно происходит, т.е. все элементы А входят и в В, но В может содержать и элементы, не входящие в А.

	Пример 7	Пример 8. См. рисунок 1.2.
Условия:	бросаем игральную кость
Событие А:	выпало два очка	На рисунке 1.2 AB c B
Событие B:	выпало четное число очков
	Элементы А входят в В, или A c B

Если А c В и одновременно В c А, т.е. все элементы у А и В - общие, то такие события называются равносильными , или равными .

d. Все элементарные события, в сумме составляющие достоверное образуют пространство элементарных событий . При однократном бросании одной кости пространство элементарных событий содержит 6 элементов, при одновременном бросании двух костей - 36 элементов (всевозможные сочетания числа очков на первой и второй кости), при попадании стрелы в мишень пространство элементарных событий содержит бесконечное множество точек мишени. На рисунках 1 и 2 пространство элементарных событий (достоверное событие) условно обозначено прямоугольником, ограниченным тонкой черной линией и, следовательно содержит все точки этого прямоугольника.

e. Событие, дополняющее данное (А) до достоверного, называется противоположным данному и обозначается чертой сверху (A). Т.е. А + А = U.

f. Все несовместные события, в сумме составляющие достоверное, образуют полную группу событий .

	Пример 9
Условия:	Двое играют шахматную партию. Прошло 2 часа от ее начала.
Полная группа событий:	А - выиграл первый, В - выиграл второй, С - ничья, D - партия еще не закончена.

Прежде, чем определить вероятность на данном пространстве элементарных событий, строят поле событий. Поле событий - это множество событий, которое включает в качестве элементов:

1. достоверное событие,

2. невозможное событие,

3. все элементарные события данного пространства,

4. все события, которые на этом пространстве можно построить путем сложения (объединения) событий, путем перемножения (пересечения) событий, а также путем взятия противоположных событий от любого уже построенного.

Таким образом, никакая операция алгебры событий над заданным пространством элементарных событий не порождает события, не принадлежащего полю событий. Поле событий может содержать конечное число элементов (если конечно число элементарных событий) или бесконечное множество событий.
Наиболее строгое и общее определение понятия вероятность дал русский математик А.Н. Колмогоров. Оно гласит:

Каждому событию А из поля событий сопоставляется неотрицательное число Р(А), называемое вероятностью этого события и удовлетворяющее следующим аксиомам:

1. Р(А) ≥ 0;

2. Р(U) = 1, U - достоверное событие;

3. Р(А+В) = Р(А) + Р(В), если А и В - несовместны.