Введение в теорию вероятностей

📚 Краткое содержание

Элементарное введение в теорию вероятностей для студентов математики, статистики, инженерии и наук. Охватывает основные принципы комбинаторного анализа, аксиомы вероятности, условную вероятность, случайные величины и предельные теоремы.

Классическое, всестороннее основание математической теории и приложений вероятностей.

Автор: Шелдон Росс

Благодарности: За точность и отзывы признаны Хоссейн Хамедани, Джо Блитштейн, Питер Нюэш, Иван Ардестани и несколько университетских рецензентов/участников.

🎯 Цели обучения

1. Применять базовые и обобщённые принципы подсчёта к многоэтапным экспериментам.
2. Различать и вычислять перестановки и сочетания как для различных, так и для неотличимых объектов.
3. Доказывать комбинаторные тождества с помощью алгебраической индукции и логических комбинаторных рассуждений.
4. Определять пространства выборок и события для разнообразных экспериментов и применять законы де Моргана к операциям над множествами.
5. Вычислять вероятности с использованием трёх фундаментальных аксиом вероятности и простых утверждений (дополнения, объединения, подмножеств).
6. Решать сложные комбинаторные задачи с равновероятными исходами, такие как покерные руки, задача о совпадениях и задача о дне рождения.
7. Определять и вычислять условные вероятности по формуле P(E|F) = \frac{P(EF)}{P(F)}.
8. Применять формулу Байеса для решения сложных задач с несколькими гипотезами и диагностическим тестированием.
9. Различать независимые и условно независимые события в практических ситуациях, таких как генетика и инженерия.
10. Определять дискретные случайные величины и вычислять их функции масс вероятностей (ФМВ) и функции распределения (ФР).

🔹 Урок 1: Комбинаторный анализ

Обзор: Этот урок охватывает фундаментальную математическую теорию подсчёта, известную как комбинаторный анализ. Он движется от базовых принципов умножения для независимых экспериментов до формального изучения перестановок и сочетаний. Студенты освоят биномиальную и многомерную теоремы, исследуют различные методы доказательств и решат сложные задачи распределения с помощью уравнений с целыми значениями.

Результаты обучения:

• Применять базовые и обобщённые принципы подсчёта к многоэтапным экспериментам.
• Различать и вычислять перестановки и сочетания как для различных, так и для неотличимых объектов.
• Доказывать комбинаторные тождества с помощью алгебраической индукции и логических комбинаторных рассуждений.

🔹 Урок 2: Аксиомы вероятности

Обзор: Этот урок устанавливает формальную математическую основу теории вероятностей, начиная с определения пространств выборок и событий. Вводятся три аксиомы Колмогорова, а также производные утверждения, такие как принцип включения-исключения. Материал расширяется до комбинаторных приложений, включая задачу о дне рождения и задачу о совпадениях.

Результаты обучения:

• Определять пространства выборок и события для разнообразных экспериментов и применять законы де Моргана к операциям над множествами.
• Вычислять вероятности с использованием трёх фундаментальных аксиом вероятности и простых утверждений.
• Решать сложные комбинаторные задачи с равновероятными исходами, такие как покерные руки, задача о совпадениях и задача о дне рождения.

🔹 Урок 3: Условная вероятность и независимость

Обзор: Этот урок исследует, как вероятность события корректируется с учётом новой информации. Переход от безусловной вероятности к условной модели, формализующей связь между зависимыми и независимыми событиями через формулу Байеса и правило успеха Лапласа. Студенты научатся обновлять априорные вероятности на основе эмпирических данных для достижения апостериорных выводов.

Результаты обучения:

• Определять и вычислять условные вероятности по формуле P(E|F) = \frac{P(EF)}{P(F)}.
• Применять формулу Байеса для решения сложных задач с несколькими гипотезами и диагностическим тестированием.
• Различать независимые и условно независимые события в практических ситуациях, таких как генетика и инженерия.

🔹 Урок 4: Дискретные случайные величины

Обзор: Этот урок рассматривает фундаментальную теорию и применение дискретных случайных величин — величин, возможные значения которых конечны или счётно бесконечны. Определяются их функции масс вероятностей (ФМВ) и функции распределения (ФР), а также устанавливаются основные меры центральной тенденции и рассеяния. В завершение урок изучает конкретные семейства распределений, используемые для моделирования реальных явлений.

Результаты обучения:

• Определять дискретные случайные величины и вычислять их ФМВ и ФР.
• Вычислять математическое ожидание и дисперсию случайной величины и её функций.
• Определять и применять соответствующее дискретное распределение вероятностей для решения сложных текстовых задач.

🔹 Урок 5: Непрерывные случайные величины

Обзор: Этот урок исследует свойства и применения непрерывных случайных величин, с акцентом на их математические ожидания, дисперсии и конкретные распределения вероятностей. Студенты научатся моделировать реальные явления с помощью равномерного, нормального, экспоненциального, гамма-, вейбулла, Коши и бета-распределений. Также рассматриваются методы аппроксимации дискретных распределений и преобразования случайных величин.

Результаты обучения:

• Вычислять математическое ожидание и дисперсию непрерывных случайных величин и их функций.
• Применять нормальное распределение и его аппроксимацию биномиального распределения с поправкой на непрерывность.
• Анализировать надёжность и срок службы с помощью экспоненциального распределения, свойства «без памяти» и функций интенсивности отказов.

🔹 Урок 6: Совместно распределённые случайные величины

Обзор: Этот урок исследует математическую основу для работы с несколькими случайными величинами одновременно. Рассматривается переход от индивидуальных распределений к совместным плотностям/массам вероятностей, строгое определение независимости и поведение сумм независимых переменных. Кроме того, программа охватывает продвинутые темы, включая порядковые статистики и преобразования векторов случайных величин с использованием якобианов.

Результаты обучения:

• Вычислять маргинальные распределения и условные плотности для непрерывных и дискретных совместных случайных величин.
• Применять критерии факторизации для определения независимости случайных величин и моделирования сложных процессов.
• Использовать метод детерминанта Якоби для нахождения совместного распределения функций случайных величин и вычисления распределений порядковых статистик.

🔹 Урок 7: Свойства математического ожидания

Обзор: Этот урок исследует продвинутые свойства математического ожидания, выходящие за рамки простых средних значений, включая линейность сумм, ковариацию и мощь условия. Студенты научатся применять эти инструменты для анализа алгоритмов, вероятностных границ и прогнозирования.

Результаты обучения:

• Применять линейность математического ожидания к сложным суммам, включая индикаторные переменные и бесконечные ряды.
• Вычислять и интерпретировать ковариацию, корреляцию и дисперсию сумм зависимых и независимых переменных.
• Использовать условное математическое ожидание и дисперсию для упрощения анализа составных случайных величин и решения задач оптимизации.

🔹 Урок 8: Предельные теоремы

Обзор: Этот урок охватывает фундаментальные асимптотические результаты теории вероятностей, в частности, поведение суммы и среднего случайных величин при увеличении числа наблюдений до бесконечности. Исследуются слабой и сильной законы больших чисел, а также центральная предельная теорема. Также рассматриваются специфические вероятностные границы, такие как одностороннее неравенство Чебышёва.

Результаты обучения:

• Различать слабый и сильный законы больших чисел по критериям сходимости.
• Применять центральную предельную теорему (ЦПТ) для аппроксимации вероятностей сумм случайных величин с помощью нормального распределения.
• Использовать одностороннее неравенство Чебышёва для получения верхних границ хвостовых вероятностей.

🔹 Урок 9: Стохастические процессы и энтропия

Обзор: Этот урок исследует математические модели для моделирования случайных событий во времени и количественной оценки информации. Охватываются процесс Пуассона и его временные интервалы между событиями, структура и долгосрочное поведение марковских цепей, а также основные принципы теории информации. Особое внимание уделяется энтропии и её применению в оптимальном кодировании.

Результаты обучения:

• Определять и вычислять вероятности процесса Пуассона и определять распределение интервалов между событиями.
• Строить матрицы переходов для марковских цепей и использовать уравнения Чапмена–Колмогорова для нахождения вероятностей за n шагов.
• Вычислять предельные вероятности для эргодических марковских цепей и решать задачи случайных блужданий.

🔹 Урок 10: Методы имитационного моделирования

Обзор: Этот урок исследует принципы и применение имитационного моделирования для эмпирического определения вероятностей и математических ожиданий. Охватываются генерация случайных перестановок, методы моделирования непрерывных и дискретных случайных величин, а также продвинутые методы снижения дисперсии. Эти техники повышают эффективность и точность оценок моделирования.

Результаты обучения:

• Понимать роль генераторов псевдослучайных чисел и начальных значений (семян) в моделировании.
• Реализовывать алгоритмы для генерации случайных перестановок и моделирования переменных из дискретных и непрерывных распределений.
• Применять полярный метод для генерации стандартных нормальных величин и моделирования хи-квадрат-переменных.