Умовна ймовірність і теорема Баєса: як змінити оцінку, коли дізнаєтеся щось нове

Умовна ймовірність, правило добутку, незалежність, формула повної ймовірності й теорема Баєса — і чому позитивний тест на рідкісну хворобу означає лише 16,7 %.

13 хвилин Matěj Žalmánek 2026-10-15

Серія Основи ШІ Частина 13 з 52

1. Мапа штучного інтелекту: що є що і як усе це пов’язано
2. Коротка історія штучного інтелекту: від Тюрінга до мовних моделей
3. Дані, модель, тренування, інференс: основні поняття на одному прикладі
4. Як читати математичний запис: символи, індекси, суми та квантори
5. Множини й відношення: конструктор, з якого складаються означення в ШІ
6. Функції й відображення: чому кожна модель у ШІ — це функція
7. Логіка й доведення: правила, за якими міркують у ШІ
8. Графи й дерева: структура, на якій тримаються пошук і нейронні мережі
9. Лінійна алгебра для машинного навчання: вектори, матриці й чому ШІ передусім множить
10. Похідні, градієнт і правило ланцюжка: як модель дізнається, у якому напрямку вчитися
11. Градієнтний спуск: як навчається модель
12. Що таке ймовірність: від кидка кубика до аксіом Колмогорова
13. Умовна ймовірність і теорема Баєса: як змінити оцінку, коли дізнаєтеся щось нове
14. Випадкова величина і функція розподілу: одна функція, яка каже про розподіл усе
15. Функція щільності та функція маси ймовірності: чому неперервна величина має в точці ймовірність нуль
16. Математичне сподівання, дисперсія і коваріація: де лежить розподіл, наскільки він широкий і що з чим пов’язано
17. Огляд розподілів ймовірностей: Бернуллі, біноміальний, Пуассона, рівномірний, нормальний і експоненційний
18. Закон великих чисел і центральна гранична теорема: чому середні поводяться так передбачувано
19. Статистика й оцінювання параметрів: максимальна правдоподібність, MAP і довірчі інтервали
20. Теорія інформації: ентропія, перехресна ентропія і KL-дивергенція — звідки беруться функції втрат
21. Пошук у просторі станів: BFS, DFS, UCS і A* з анімаціями
22. Ігри та суперник: мінімакс, альфа-бета відсікання і Monte Carlo tree search
23. Задоволення обмежень: бектрекінг, поширення обмежень і AC-3 на судоку та мапі чеських країв
24. Логіка й системи, засновані на знаннях: пряме і зворотне виведення, резолюція та експертні системи
25. Планування: STRIPS, світ кубиків, евристики з релаксації та планування в AI-агентах
26. Локальний пошук та імітація відпалу: комівояжер через обласні центри Чехії
27. Генетичні алгоритми: популяція, схрещування, мутація і добір на рюкзаку для походу
28. Еволюційні стратегії і генетичне програмування: від правила однієї п’ятої до закону Кеплера
29. Оптимізація мурашиною колонією: як феромоновий слід знаходить короткий шлях
30. Оптимізація роєм частинок: інерція, власний досвід і досвід рою
31. Нейроеволюція: еволюція ваг і форми нейронних мереж та алгоритм NEAT
32. Нечіткі множини й функції належності: як записати «трохи тепло»
33. Нечітка логіка та ймовірність: чому «трохи тепло» не означає «імовірно тепло»
34. Нечітка логіка: t-норми, імплікації та правила ЯКЩО–ТО
35. Нечітке керування: Мамдані та Суґено від вентилятора до маятника на візку
36. Нечітка кластеризація: алгоритм fuzzy c-means і точки між кластерами
37. Нейро-нечіткі системи (ANFIS): нечіткі правила, які навчаються з даних
38. Марковські ланцюги: матриця переходів, стаціонарний розподіл і PageRank
39. Приховані марковські моделі: алгоритм Вітербі й нечесне казино
40. Байєсівські мережі: чому трава мокра і що з цього випливає для дощувача
41. Фільтр Калмана: як за неточними вимірюваннями оцінити, де авто і як швидко воно їде
42. Види машинного навчання: з учителем, без учителя, з частковим залученням учителя та інші
43. Промпти, контекст і RAG: як дати моделі правильну інформацію
44. Варіаційні автокодувальники (VAE): нові зображення з неперервного латентного простору
45. Генеративні змагальні мережі (GAN): фальшувальник проти детектива
46. Дифузійні моделі: як із чистого шуму постає зображення
47. Марковські процеси ухвалення рішень: стани, дії, винагороди й рівняння Беллмана
48. Q-навчання і DQN: як навчитися цінності дій — від таблиці до нейронної мережі
49. Policy gradient і PPO: навчання безпосередньо політики
50. Як працює ШІ-агент: мовна модель у циклі з інструментами
51. Програмування з AI-агентами: завдання, тести й перевірка
52. Оцінювання і безпека систем ШІ: як вимірювати і як стежити

Повна програма серії Готово: 52 з 83 тем

Ймовірність — не застигле число, викарбуване в камені. Коли ви дізнаєтеся щось нове, вона змінюється. Ймовірність дощу інша, якщо ви знаєте, що надворі хмарно. Ймовірність, що лист є спамом, інша, якщо в ньому написано «ви виграли». Ця частина про те, як точно переобчислити ймовірність, коли надходить нова інформація, — і про теорему, на якій тримаються спам-фільтри, медична діагностика і чимала частина машинного навчання.

Вона продовжує частину «Що таке ймовірність» і знову використовує два кубики.

1. Умовна ймовірність

Означення — умовна ймовірність

Для подій A, B з P(B) > 0 умовна ймовірність події A за умови B дорівнює

P(A | B) = P(A ∩ B) / P(B).

Друг кинув два кубики й каже лише, що випала принаймні одна шістка. Яка ймовірність, що сума дорівнює 7? З 36 результатів лишається 11 із шісткою — і лише два з них, (1, 6) і (6, 1), дають суму 7:

P(сума 7 | принаймні одна шістка) = 2/11 ≈ 0,182 — трохи більше, ніж без умови, коли це 1/6 ≈ 0,167. І зважайте на порядок: P(принаймні одна шістка | сума 7) = 2/6 = 1/3. P(A | B) і P(B | A) — це загалом зовсім різні числа.

2. Правило добутку

Теорема — правило добутку

P(A ∩ B) = P(A | B) · P(B) = P(B | A) · P(A).

3. Незалежність

Означення — незалежні події

Події A і B незалежні, якщо P(A ∩ B) = P(A) · P(B). Для P(B) > 0 це те саме, що P(A | B) = P(A).

Незалежність уміє здивувати. «Сума дорівнює 7» і «на першому кубику випала шістка» незалежні: P обох дорівнює 1/36, і 1/6 · 1/6 = 1/36 — хай що випаде на першому кубику, на другому є рівно одне число, яке дасть суму 7. Натомість «сума дорівнює 12» і «на першому шістка» не незалежні: без умови сума 12 має ймовірність лише 1/36, а з шісткою на першому кубику — уже 1/6.

І не плутайте незалежні події з несумісними. Несумісні події, навпаки, сильно залежні: якщо відбулася одна, ви напевно знаєте, що друга не відбулася.

4. Формула повної ймовірності

Теорема — формула повної ймовірності

Якщо події H₁, …, H_k утворюють розбиття простору Ω (попарно несумісні й разом покривають Ω), то для кожної події A виконується

P(A) = ∑_i=1^k P(A | H_i) · P(H_i).

5. Теорема Баєса

Теорема — теорема Баєса

Для P(A) > 0 виконується

P(H | A) = P(A | H) · P(H) / P(A),

де знаменник P(A) обчислюють за формулою повної ймовірності.

Окремі частини теореми мають свої назви:

Означення — апріорна ймовірність

P(H) — це апріорна ймовірність гіпотези H, ще до того, як ми побачимо дані A.

Означення — правдоподібність

P(A | H) — це правдоподібність: наскільки ймовірні дані A, якби гіпотеза H була правильною.

Означення — апостеріорна ймовірність

P(H | A) — це апостеріорна ймовірність: оцінка гіпотези H після того, як ми побачили дані A.

6. Позитивний тест: чому лише 16,7 %

Хворобу має 1 % людей. Тест виявляє її у хворого в 99 % випадків, але у здорового в 5 % випадків дає хибну тривогу. Ваш тест позитивний. Наскільки ймовірно, що ви хворі? Більшість людей — зокрема й чимало лікарів — називає близько 95 %. Теорема Баєса каже:

Лише 16,7 %. Найкраще це видно на природних частотах — замість імовірностей уявіть собі 10 000 людей:

Хворих 100, і тест виявляє 99 із них. Але здорових 9 900, і навіть лише 5 % із них — це 495 хибних тривог. Позитивних разом 594, а хворих серед них лише 99 — шоста частина. Ця помилка інтуїції має назву: нехтування базовою частотою. Коли щось рідкісне, навіть точний тест дає більше хибних тривог, ніж справжніх знахідок.

7. Навчання з даних: апостеріорна стає апріорною

А що, як тест повторити і він знову буде позитивним? Тепер ми вже не починаємо з 1 % — результат першого тесту стає новою вихідною оцінкою. Апостеріорна ймовірність стає апріорною:

Після другого позитивного тесту це вже 79,8 %, після третього — 98,7 %. Кожен доказ зсуває оцінку, а наступний доказ будується на попередньому. Саме так навчаються баєсові моделі: починають із певного припущення і з кожним шматочком даних уточнюють його.

8. Баєс у штучному інтелекті

• Спам-фільтри — якщо спам становить 40 % пошти, слово «виграш» трапляється в 30 % спаму і лише в 1 % інших листів, то лист зі словом «виграш» є спамом з імовірністю 0,12 / 0,126 ≈ 0,952. Наївний баєсів класифікатор робить це для кожного слова.
• Мовні моделі обчислюють умовну ймовірність наступного слова за умови всіх попередніх: P(x_t | x₁, …, x_t−1). Увесь текст — це добуток таких умовних імовірностей, тобто правило добутку.
• Баєсові мережі записують, які величини залежать одна від одної, у вигляді орієнтованого графа і рахують з умовними ймовірностями вздовж його ребер.
• Невизначеність моделі — баєсові методи дають не одну відповідь, а розподіл: наскільки модель упевнена і де їй допомогли б додаткові дані.

9. Підсумок

• Умовна ймовірність P(A | B) рахує лише всередині B; P(A | B) ≠ P(B | A).
• Правило добутку: P(A ∩ B) = P(A | B) · P(B). Незалежні події нічого не видають одна про одну.
• Формула повної ймовірності додає всі шляхи, якими подія може відбутися.
• Теорема Баєса перевертає умову: з апріорної ймовірності й правдоподібності отримує апостеріорну.
• Для рідкісних подій навіть точний тест дає багато хибних тривог — не забувайте про базову частоту.

Маєте іншу думку? Напишіть на support@coden-app.com.