Огляд розподілів ймовірностей: Бернуллі, біноміальний, Пуассона, рівномірний, нормальний і експоненційний

Шість найважливіших розподілів з означеннями, математичними сподіваннями і дисперсіями — дошка Гальтона, гранична теорема Пуассона, правило 68–95–99,7 і коли який розподіл застосовувати.

14 хвилин Matěj Žalmánek 2026-10-15

Серія Основи ШІ Частина 17 з 52

1. Мапа штучного інтелекту: що є що і як усе це пов’язано
2. Коротка історія штучного інтелекту: від Тюрінга до мовних моделей
3. Дані, модель, тренування, інференс: основні поняття на одному прикладі
4. Як читати математичний запис: символи, індекси, суми та квантори
5. Множини й відношення: конструктор, з якого складаються означення в ШІ
6. Функції й відображення: чому кожна модель у ШІ — це функція
7. Логіка й доведення: правила, за якими міркують у ШІ
8. Графи й дерева: структура, на якій тримаються пошук і нейронні мережі
9. Лінійна алгебра для машинного навчання: вектори, матриці й чому ШІ передусім множить
10. Похідні, градієнт і правило ланцюжка: як модель дізнається, у якому напрямку вчитися
11. Градієнтний спуск: як навчається модель
12. Що таке ймовірність: від кидка кубика до аксіом Колмогорова
13. Умовна ймовірність і теорема Баєса: як змінити оцінку, коли дізнаєтеся щось нове
14. Випадкова величина і функція розподілу: одна функція, яка каже про розподіл усе
15. Функція щільності та функція маси ймовірності: чому неперервна величина має в точці ймовірність нуль
16. Математичне сподівання, дисперсія і коваріація: де лежить розподіл, наскільки він широкий і що з чим пов’язано
17. Огляд розподілів ймовірностей: Бернуллі, біноміальний, Пуассона, рівномірний, нормальний і експоненційний
18. Закон великих чисел і центральна гранична теорема: чому середні поводяться так передбачувано
19. Статистика й оцінювання параметрів: максимальна правдоподібність, MAP і довірчі інтервали
20. Теорія інформації: ентропія, перехресна ентропія і KL-дивергенція — звідки беруться функції втрат
21. Пошук у просторі станів: BFS, DFS, UCS і A* з анімаціями
22. Ігри та суперник: мінімакс, альфа-бета відсікання і Monte Carlo tree search
23. Задоволення обмежень: бектрекінг, поширення обмежень і AC-3 на судоку та мапі чеських країв
24. Логіка й системи, засновані на знаннях: пряме і зворотне виведення, резолюція та експертні системи
25. Планування: STRIPS, світ кубиків, евристики з релаксації та планування в AI-агентах
26. Локальний пошук та імітація відпалу: комівояжер через обласні центри Чехії
27. Генетичні алгоритми: популяція, схрещування, мутація і добір на рюкзаку для походу
28. Еволюційні стратегії і генетичне програмування: від правила однієї п’ятої до закону Кеплера
29. Оптимізація мурашиною колонією: як феромоновий слід знаходить короткий шлях
30. Оптимізація роєм частинок: інерція, власний досвід і досвід рою
31. Нейроеволюція: еволюція ваг і форми нейронних мереж та алгоритм NEAT
32. Нечіткі множини й функції належності: як записати «трохи тепло»
33. Нечітка логіка та ймовірність: чому «трохи тепло» не означає «імовірно тепло»
34. Нечітка логіка: t-норми, імплікації та правила ЯКЩО–ТО
35. Нечітке керування: Мамдані та Суґено від вентилятора до маятника на візку
36. Нечітка кластеризація: алгоритм fuzzy c-means і точки між кластерами
37. Нейро-нечіткі системи (ANFIS): нечіткі правила, які навчаються з даних
38. Марковські ланцюги: матриця переходів, стаціонарний розподіл і PageRank
39. Приховані марковські моделі: алгоритм Вітербі й нечесне казино
40. Байєсівські мережі: чому трава мокра і що з цього випливає для дощувача
41. Фільтр Калмана: як за неточними вимірюваннями оцінити, де авто і як швидко воно їде
42. Види машинного навчання: з учителем, без учителя, з частковим залученням учителя та інші
43. Промпти, контекст і RAG: як дати моделі правильну інформацію
44. Варіаційні автокодувальники (VAE): нові зображення з неперервного латентного простору
45. Генеративні змагальні мережі (GAN): фальшувальник проти детектива
46. Дифузійні моделі: як із чистого шуму постає зображення
47. Марковські процеси ухвалення рішень: стани, дії, винагороди й рівняння Беллмана
48. Q-навчання і DQN: як навчитися цінності дій — від таблиці до нейронної мережі
49. Policy gradient і PPO: навчання безпосередньо політики
50. Як працює ШІ-агент: мовна модель у циклі з інструментами
51. Програмування з AI-агентами: завдання, тести й перевірка
52. Оцінювання і безпека систем ШІ: як вимірювати і як стежити

Повна програма серії Готово: 52 з 83 тем

Розподіл можна щоразу вигадувати з нуля — але не обов’язково. На практиці кілька ситуацій повторюються знову і знову: так чи ні, кількість успіхів, кількість подій за годину, очікування, вимірювання з похибкою. Для кожної з них є готовий розподіл із кількома параметрами, уже обчисленим математичним сподіванням і дисперсією. Ця частина — огляд шести найважливіших розподілів і, головне, того, коли який застосовувати.

Вона продовжує частини «Функція щільності» і «Математичне сподівання і дисперсія».

1. Розподіл Бернуллі

Означення — розподіл Бернуллі

Величина X має розподіл Бернуллі з параметром p ∈ [0, 1], пишуть X ~ Bern(p), якщо

P(X = 1) = p,   P(X = 0) = 1 − p.

Математичне сподівання дорівнює p, а дисперсія — p(1 − p); вона найбільша при p = 0,5, коли результат найменш передбачуваний.

2. Біноміальний розподіл

Означення — біноміальний розподіл

Величина X має біноміальний розподіл з параметрами n ∈ ℕ і p ∈ [0, 1], X ~ Bin(n, p), якщо

P(X = k) = C_n^k · p^k · (1 − p)^n−k,   k = 0, 1, …, n,

де C_n^k = n! / (k! (n − k)!) — біноміальний коефіцієнт (число комбінацій).

Біноміальна величина — це сума n незалежних величин Бернуллі, тож за лінійністю її математичне сподівання дорівнює np, а дисперсія — np(1 − p). Це добре видно на дошці Гальтона: на кожному з десяти кілочків кулька відскакує ліворуч або праворуч, кожен відскок — одна спроба Бернуллі, а комірка, куди вона впаде, — це кількість відскоків праворуч, Bin(10; 0,5).

Кульки збираються посередині у формі дзвона — і ця форма не випадкова. Як ми побачимо на нормальному розподілі й у наступній частині, сума багатьох дрібних випадкових впливів завжди дає дзвін.

3. Розподіл Пуассона

Означення — розподіл Пуассона

Величина X має розподіл Пуассона з параметром λ > 0, X ~ Pois(λ), якщо

P(X = k) = e^−λ · λ^k / k!,   k = 0, 1, 2, …

Особливість розподілу Пуассона: і математичне сподівання, і дисперсія дорівнюють λ.

Теорема — гранична теорема Пуассона

Для фіксованого λ > 0 і кожного k виконується lim_n→∞ P(Bin(n, λ/n) = k) = e^−λ λ^k / k!.

4. Рівномірний розподіл

Означення — неперервний рівномірний розподіл

Величина X має рівномірний розподіл на відрізку [a, b], X ~ U(a, b), якщо має щільність

f(x) = 1 / (b − a) для a ≤ x ≤ b, інакше 0.

Математичне сподівання — це середина відрізка (a + b) / 2, дисперсія — (b − a)² / 12. Тож автобус ви чекаєте в середньому 5 хвилин зі стандартним відхиленням √(100/12) ≈ 2,89 хвилини.

5. Нормальний розподіл

Означення — нормальний розподіл

Величина X має нормальний (гауссів) розподіл з математичним сподіванням μ і дисперсією σ² > 0, X ~ N(μ, σ²), якщо має щільність

f(x) = 1 / (σ√(2π)) · e^{−(x − μ)² / (2σ²)},   x ∈ ℝ.

Означення — стандартний нормальний розподіл

N(0, 1) називають стандартним нормальним розподілом. Якщо X ~ N(μ, σ²), то Z = (X − μ) / σ ~ N(0, 1).

Для нормального розподілу діє правило 68–95–99,7: на відстані до σ від середнього лежить 68,27 % значень, до 2σ — 95,45 %, до 3σ — 99,73 %. Якщо зріст дорослих чоловіків має середнє 175 см і σ = 7 см, то 95 % із них мають зріст від 161 до 189 см. Нерівність Чебишова з попередньої частини гарантувала для 2σ лише 75 % — нормальний розподіл набагато «щільніший».

Щільність нормального розподілу не має первісної, яку можна записати формулою, тож відсотки вище обчислюють чисельно — тут методом Сімпсона, тобто додаванням дуже вузьких смужок.

6. Експоненційний розподіл

Означення — експоненційний розподіл

Величина X має експоненційний розподіл з параметром λ > 0, X ~ Exp(λ), якщо має щільність

f(x) = λ e^−λx для x ≥ 0, інакше 0.

Експоненційний розподіл і розподіл Пуассона описують той самий процес з двох боків. Імовірність того, що за 4 хвилини не прийде жодного листа, за Пуассоном дорівнює e⁻² ≈ 0,135 — а за експоненційним розподілом P(X > 4) = e^{−0,5 · 4}, те саме число.

Теорема — відсутність пам’яті експоненційного розподілу

Для X ~ Exp(λ) і s, t ≥ 0 виконується P(X > s + t | X > s) = P(X > t).

7. Шпаргалка: який розподіл коли

8. Розподіли в штучному інтелекті

• Бернуллі і бінарна класифікація. І логістична регресія, і мережа з одним виходом передбачають параметр p розподілу Бернуллі — «з якою ймовірністю це спам». Функція втрат (бінарна перехресна ентропія) — це від’ємний логарифм його ймовірності.
• Категоріальний розподіл — це Бернуллі для більш ніж двох варіантів. Softmax наприкінці мовної моделі повертає саме його параметри — ймовірність кожного слова в словнику.
• Нормальний розподіл усюди: початкові ваги мереж вибирають випадково з N(0, σ²), середньоквадратична похибка відповідає припущенню про нормальний шум, а дифузійні моделі генерують зображення, поступово знешумлюючи чистий N(0, 1).
• Dropout під час навчання вимикає кожен нейрон з імовірністю Бернуллі; рівномірний розподіл — джерело всіх випадкових чисел.
• Пуассонівський і експоненційний розподіли моделюють навантаження: скільки запитів надійде на сервер, коли прийде наступний, скільки потрібно GPU.

9. Підсумок

• Розподіл Бернуллі — це одна спроба так/ні, біноміальний — кількість успіхів з n незалежних спроб.
• Розподіл Пуассона рахує події за час і є границею біноміального для великої кількості спроб з малою ймовірністю.
• Рівномірний розподіл дає однакову щільність усьому відрізку; експоненційний вимірює очікування і не має пам’яті.
• Нормальний розподіл — це дзвін, заданий μ і σ; у межах ±σ, ±2σ і ±3σ лежать 68,27 %, 95,45 % і 99,73 % значень.
• Вибір розподілу — це вибір моделі: те, що описує дані, визначає і функцію втрат моделі.

Маєте іншу думку? Напишіть на support@coden-app.com.