Що таке ймовірність: від кидка кубика до аксіом Колмогорова

Випадковий експеримент, простір елементарних подій, події та операції з ними, класична й частотна ймовірність і аксіоми, на яких стоїть усе подальше, — на прикладі двох кубиків.

12 хвилин Matěj Žalmánek 2026-10-15

Серія Основи ШІ Частина 12 з 52

1. Мапа штучного інтелекту: що є що і як усе це пов’язано
2. Коротка історія штучного інтелекту: від Тюрінга до мовних моделей
3. Дані, модель, тренування, інференс: основні поняття на одному прикладі
4. Як читати математичний запис: символи, індекси, суми та квантори
5. Множини й відношення: конструктор, з якого складаються означення в ШІ
6. Функції й відображення: чому кожна модель у ШІ — це функція
7. Логіка й доведення: правила, за якими міркують у ШІ
8. Графи й дерева: структура, на якій тримаються пошук і нейронні мережі
9. Лінійна алгебра для машинного навчання: вектори, матриці й чому ШІ передусім множить
10. Похідні, градієнт і правило ланцюжка: як модель дізнається, у якому напрямку вчитися
11. Градієнтний спуск: як навчається модель
12. Що таке ймовірність: від кидка кубика до аксіом Колмогорова
13. Умовна ймовірність і теорема Баєса: як змінити оцінку, коли дізнаєтеся щось нове
14. Випадкова величина і функція розподілу: одна функція, яка каже про розподіл усе
15. Функція щільності та функція маси ймовірності: чому неперервна величина має в точці ймовірність нуль
16. Математичне сподівання, дисперсія і коваріація: де лежить розподіл, наскільки він широкий і що з чим пов’язано
17. Огляд розподілів ймовірностей: Бернуллі, біноміальний, Пуассона, рівномірний, нормальний і експоненційний
18. Закон великих чисел і центральна гранична теорема: чому середні поводяться так передбачувано
19. Статистика й оцінювання параметрів: максимальна правдоподібність, MAP і довірчі інтервали
20. Теорія інформації: ентропія, перехресна ентропія і KL-дивергенція — звідки беруться функції втрат
21. Пошук у просторі станів: BFS, DFS, UCS і A* з анімаціями
22. Ігри та суперник: мінімакс, альфа-бета відсікання і Monte Carlo tree search
23. Задоволення обмежень: бектрекінг, поширення обмежень і AC-3 на судоку та мапі чеських країв
24. Логіка й системи, засновані на знаннях: пряме і зворотне виведення, резолюція та експертні системи
25. Планування: STRIPS, світ кубиків, евристики з релаксації та планування в AI-агентах
26. Локальний пошук та імітація відпалу: комівояжер через обласні центри Чехії
27. Генетичні алгоритми: популяція, схрещування, мутація і добір на рюкзаку для походу
28. Еволюційні стратегії і генетичне програмування: від правила однієї п’ятої до закону Кеплера
29. Оптимізація мурашиною колонією: як феромоновий слід знаходить короткий шлях
30. Оптимізація роєм частинок: інерція, власний досвід і досвід рою
31. Нейроеволюція: еволюція ваг і форми нейронних мереж та алгоритм NEAT
32. Нечіткі множини й функції належності: як записати «трохи тепло»
33. Нечітка логіка та ймовірність: чому «трохи тепло» не означає «імовірно тепло»
34. Нечітка логіка: t-норми, імплікації та правила ЯКЩО–ТО
35. Нечітке керування: Мамдані та Суґено від вентилятора до маятника на візку
36. Нечітка кластеризація: алгоритм fuzzy c-means і точки між кластерами
37. Нейро-нечіткі системи (ANFIS): нечіткі правила, які навчаються з даних
38. Марковські ланцюги: матриця переходів, стаціонарний розподіл і PageRank
39. Приховані марковські моделі: алгоритм Вітербі й нечесне казино
40. Байєсівські мережі: чому трава мокра і що з цього випливає для дощувача
41. Фільтр Калмана: як за неточними вимірюваннями оцінити, де авто і як швидко воно їде
42. Види машинного навчання: з учителем, без учителя, з частковим залученням учителя та інші
43. Промпти, контекст і RAG: як дати моделі правильну інформацію
44. Варіаційні автокодувальники (VAE): нові зображення з неперервного латентного простору
45. Генеративні змагальні мережі (GAN): фальшувальник проти детектива
46. Дифузійні моделі: як із чистого шуму постає зображення
47. Марковські процеси ухвалення рішень: стани, дії, винагороди й рівняння Беллмана
48. Q-навчання і DQN: як навчитися цінності дій — від таблиці до нейронної мережі
49. Policy gradient і PPO: навчання безпосередньо політики
50. Як працює ШІ-агент: мовна модель у циклі з інструментами
51. Програмування з AI-агентами: завдання, тести й перевірка
52. Оцінювання і безпека систем ШІ: як вимірювати і як стежити

Повна програма серії Готово: 52 з 83 тем

Мовна модель не обирає наступне слово, а обчислює ймовірності всіх слів. Класифікатор не каже «це кіт», а «з імовірністю 0,93 це кіт». Усе машинне навчання побудоване на обчисленнях із невизначеністю — а ймовірність є мовою, якою про невизначеність говорять точно.

У школі ймовірність здебільшого визначають як «кількість сприятливих випадків, поділена на кількість усіх». Це добрий початок, але його замало. У цій частині ми пройдемо від випадкового експерименту через події аж до точного означення, на якому стоїть усе подальше. Усі приклади — на двох кубиках. Вам допоможе знати частину про множини — події ж бо є множинами.

1. Випадковий експеримент і простір елементарних подій

Означення — випадковий експеримент

Випадковий експеримент — це процес, результату якого ми наперед не знаємо, але знаємо, яких результатів він може набути, і який можна (хоча б подумки) повторювати скільки завгодно разів за однакових умов.

Означення — простір елементарних подій

Простір елементарних подій Ω — це множина всіх можливих результатів випадкового експерименту. Його елементи ω ∈ Ω називаємо елементарними подіями.

2. Події

Означення — подія

Подія — це підмножина простору елементарних подій, A ⊆ Ω. Кажемо, що подія A відбулася, якщо результат експерименту є елементом A.

Означення — достовірна і неможлива подія

Достовірна подія — це весь простір Ω: вона відбувається завжди. Неможлива подія — це порожня множина ∅: вона не відбувається ніколи.

На сітці всі 36 результатів двох кубиків; рядок — перший кубик, стовпець — другий, а число в клітинці — сума. Розфарбовано дві події: A = «сума дорівнює 7» і B = «принаймні на одному кубику випала шістка»:

Подія A має 6 результатів, подія B — 11. Два результати, (1, 6) і (6, 1), належать до обох — на сітці вони фіолетові.

3. Операції з подіями

Оскільки події є множинами, їх комбінують тими самими операціями, що й множини. Але кожна операція має і природне значення у словах:

Означення — об’єднання подій

Об’єднання A ∪ B — це подія «відбудеться A або B (або обидві)».

Означення — перетин подій

Перетин A ∩ B — це подія «A і B відбудуться одночасно».

Означення — протилежна подія

Протилежна подія A^c = Ω ∖ A — це подія «A не відбудеться».

Означення — несумісні події

Події A і B несумісні, якщо вони не можуть відбутися одночасно: A ∩ B = ∅.

4. Класична ймовірність

Означення — класична ймовірність (Лаплас)

Якщо Ω скінченний і всі елементарні події рівноможливі, то P(A) = |A| / |Ω|.

Заковика у словах «рівноможливі». Для двох кубиків суми не рівноможливі — сума 2 випадає лише як (1, 1), сума 7 — шістьма способами. Тому ми рахуємо пари, а не суми. А для багатьох реальних подій рівноможливих результатів немає взагалі: яка ймовірність, що завтра піде дощ, або що лист є спамом? Тут класичне означення не допоможе.

5. Ймовірність як довготривала частота

Означення — відносна частота

Якщо повторити експеримент n разів і подія A відбудеться n_A разів, то її відносна частота дорівнює n_A / n.

За малої кількості експериментів відносна частота стрибає туди-сюди. Але коли експериментів більшає, вона стабілізується. Ось чотири незалежні симуляції підкидання монети:

Перша симуляція після 10 кидків мала 70 % гербів, після 100 кидків — 40 %, після 1000 — 49,4 %, а після 10 000 — 49,92 %. Ймовірність можна розуміти як число, до якого наближається відносна частота, — саме це згодом сформулює закон великих чисел. Так оцінюють імовірності з реальних даних: скільки листів із певним словом були спамом, скільки разів після слова «добрий» ішло «день».

6. Аксіоми Колмогорова

Класичному означенню потрібні рівноможливі результати, частотному — нескінченно багато експериментів. Андрій Колмогоров у 1933 році визначив імовірність інакше: він не каже, як її обчислити, лише яким правилам вона мусить відповідати. Кожен із попередніх поглядів тоді — лише один зі способів ці правила виконати.

Означення — ймовірність (аксіоми Колмогорова)

Ймовірність — це функція P, яка кожній події A ставить у відповідність число P(A) і задовольняє три аксіоми:

• невід’ємність: P(A) ≥ 0 для кожної події A,
• нормованість: P(Ω) = 1,
• адитивність: для попарно несумісних подій A₁, A₂, … виконується P(A₁ ∪ A₂ ∪ …) = P(A₁) + P(A₂) + …

7. Правила, що випливають з аксіом

Теорема — ймовірність протилежної події

P(A^c) = 1 − P(A). Зокрема P(∅) = 0 і 0 ≤ P(A) ≤ 1.

Теорема — ймовірність об’єднання

Для довільних подій A, B виконується P(A ∪ B) = P(A) + P(B) − P(A ∩ B).

8. Ймовірність у штучному інтелекті

• Класифікатори повертають імовірності класів; softmax із частини про класифікацію гарантує, що вони невід’ємні й у сумі дають 1 — точно за аксіомами.
• Мовні моделі — це розподіли ймовірностей над наступним словом. Під час написання тексту з них вибирають випадково.
• Оцінка з даних — це відносна частота: модель вивчає ймовірності, які «вийшли» в навчальних даних.
• Невизначеність — добра модель знає, коли вона не впевнена. Ймовірності 0,51 і 0,99 дають той самий клас, але зовсім різну міру довіри.

Наступна частина покаже, як змінити ймовірність, коли ми дізнаємося щось нове, — умовну ймовірність і теорему Баєса.

9. Підсумок

• Випадковий експеримент має простір елементарних подій Ω; подія — це підмножина Ω.
• Події комбінують як множини: об’єднання — це «або», перетин — «і водночас», протилежна подія — «не».
• Класична ймовірність — це сприятливі, поділені на можливі, — лише для рівноможливих результатів.
• Відносна частота зі зростанням кількості експериментів стабілізується; ймовірність — це число, до якого вона наближається.
• Аксіоми Колмогорова: невід’ємність, P(Ω) = 1 і додавання для несумісних подій. З них випливають правило доповнення і формула для об’єднання.

Маєте іншу думку? Напишіть на support@coden-app.com.