Випадкова величина і функція розподілу: одна функція, яка каже про розподіл усе

Що таке випадкова величина, розподіл і функція розподілу, чим відрізняються дискретні й неперервні величини і як оцінити функцію розподілу з даних.

12 хвилин Matěj Žalmánek 2026-10-15

Серія Основи ШІ Частина 14 з 52

1. Мапа штучного інтелекту: що є що і як усе це пов’язано
2. Коротка історія штучного інтелекту: від Тюрінга до мовних моделей
3. Дані, модель, тренування, інференс: основні поняття на одному прикладі
4. Як читати математичний запис: символи, індекси, суми та квантори
5. Множини й відношення: конструктор, з якого складаються означення в ШІ
6. Функції й відображення: чому кожна модель у ШІ — це функція
7. Логіка й доведення: правила, за якими міркують у ШІ
8. Графи й дерева: структура, на якій тримаються пошук і нейронні мережі
9. Лінійна алгебра для машинного навчання: вектори, матриці й чому ШІ передусім множить
10. Похідні, градієнт і правило ланцюжка: як модель дізнається, у якому напрямку вчитися
11. Градієнтний спуск: як навчається модель
12. Що таке ймовірність: від кидка кубика до аксіом Колмогорова
13. Умовна ймовірність і теорема Баєса: як змінити оцінку, коли дізнаєтеся щось нове
14. Випадкова величина і функція розподілу: одна функція, яка каже про розподіл усе
15. Функція щільності та функція маси ймовірності: чому неперервна величина має в точці ймовірність нуль
16. Математичне сподівання, дисперсія і коваріація: де лежить розподіл, наскільки він широкий і що з чим пов’язано
17. Огляд розподілів ймовірностей: Бернуллі, біноміальний, Пуассона, рівномірний, нормальний і експоненційний
18. Закон великих чисел і центральна гранична теорема: чому середні поводяться так передбачувано
19. Статистика й оцінювання параметрів: максимальна правдоподібність, MAP і довірчі інтервали
20. Теорія інформації: ентропія, перехресна ентропія і KL-дивергенція — звідки беруться функції втрат
21. Пошук у просторі станів: BFS, DFS, UCS і A* з анімаціями
22. Ігри та суперник: мінімакс, альфа-бета відсікання і Monte Carlo tree search
23. Задоволення обмежень: бектрекінг, поширення обмежень і AC-3 на судоку та мапі чеських країв
24. Логіка й системи, засновані на знаннях: пряме і зворотне виведення, резолюція та експертні системи
25. Планування: STRIPS, світ кубиків, евристики з релаксації та планування в AI-агентах
26. Локальний пошук та імітація відпалу: комівояжер через обласні центри Чехії
27. Генетичні алгоритми: популяція, схрещування, мутація і добір на рюкзаку для походу
28. Еволюційні стратегії і генетичне програмування: від правила однієї п’ятої до закону Кеплера
29. Оптимізація мурашиною колонією: як феромоновий слід знаходить короткий шлях
30. Оптимізація роєм частинок: інерція, власний досвід і досвід рою
31. Нейроеволюція: еволюція ваг і форми нейронних мереж та алгоритм NEAT
32. Нечіткі множини й функції належності: як записати «трохи тепло»
33. Нечітка логіка та ймовірність: чому «трохи тепло» не означає «імовірно тепло»
34. Нечітка логіка: t-норми, імплікації та правила ЯКЩО–ТО
35. Нечітке керування: Мамдані та Суґено від вентилятора до маятника на візку
36. Нечітка кластеризація: алгоритм fuzzy c-means і точки між кластерами
37. Нейро-нечіткі системи (ANFIS): нечіткі правила, які навчаються з даних
38. Марковські ланцюги: матриця переходів, стаціонарний розподіл і PageRank
39. Приховані марковські моделі: алгоритм Вітербі й нечесне казино
40. Байєсівські мережі: чому трава мокра і що з цього випливає для дощувача
41. Фільтр Калмана: як за неточними вимірюваннями оцінити, де авто і як швидко воно їде
42. Види машинного навчання: з учителем, без учителя, з частковим залученням учителя та інші
43. Промпти, контекст і RAG: як дати моделі правильну інформацію
44. Варіаційні автокодувальники (VAE): нові зображення з неперервного латентного простору
45. Генеративні змагальні мережі (GAN): фальшувальник проти детектива
46. Дифузійні моделі: як із чистого шуму постає зображення
47. Марковські процеси ухвалення рішень: стани, дії, винагороди й рівняння Беллмана
48. Q-навчання і DQN: як навчитися цінності дій — від таблиці до нейронної мережі
49. Policy gradient і PPO: навчання безпосередньо політики
50. Як працює ШІ-агент: мовна модель у циклі з інструментами
51. Програмування з AI-агентами: завдання, тести й перевірка
52. Оцінювання і безпека систем ШІ: як вимірювати і як стежити

Повна програма серії Готово: 52 з 83 тем

У частині «Що таке ймовірність» ми працювали з подіями: «сума дорівнює 7», «випала шістка». Але здебільшого нас цікавить не те, чи щось сталося, а скільки: скільки хвилин ми чекатимемо на автобус, скільки коштуватиме акція, яку температуру покаже термометр. Для цього в математиці є випадкова величина — і функція, яка розповідає про неї абсолютно все.

1. Випадкова величина

Означення — випадкова величина

Нехай (Ω, 𝓕, P) — ймовірнісний простір. Випадкова величина — це функція X : Ω → ℝ така, що для кожного x ∈ ℝ множина {ω ∈ Ω : X(ω) ≤ x} є подією, тобто належить до 𝓕.

На одному експерименті може бути кілька величин. Кидок двох кубиків має 36 результатів; S(ω) — сума очок на обох кубиках, N(ω) — кількість шісток. Результату (3, 6) величина S ставить у відповідність число 9, а N — число 1. На рисунку S показано як функцію: кожна клітинка ліворуч несе своє значення, а стовпчик праворуч показує, скільки клітинок припадає на це значення.

2. Розподіл випадкової величини

Означення — розподіл випадкової величини

Розподіл випадкової величини X — це ймовірність на ℝ, яка множині значень B ставить у відповідність P_X(B) = P(X ∈ B) = P({ω : X(ω) ∈ B}).

Щойно ми знаємо розподіл, початкові результати ω вже не мають значення. Дві зовсім різні гри можуть мати величини з однаковим розподілом — і для обчислень вони тоді нерозрізнені.

3. Функція розподілу

Означення — функція розподілу

Функція розподілу випадкової величини X — це функція F_X : ℝ → [0, 1],

F_X(x) = P(X ≤ x).

Для суми кубиків функція розподілу — це сходинки. Між значеннями нічого не змінюється — F(7,5) і далі дорівнює 21/36, бо сума 7,5 випасти не може. У кожному можливому значенні функція підскакує рівно на ймовірність цього значення: у сімці — на 6/36. Зафарбована точка показує, скільки функція дорівнює в місці стрибка; порожній кружечок — до чого вона наближалася зліва.

Теорема — функція розподілу визначає розподіл

Дві випадкові величини мають однаковий розподіл тоді й лише тоді, коли в них однакова функція розподілу.

4. Властивості функції розподілу

Теорема — властивості функції розподілу

Кожна функція розподілу F

1. неспадна: x ≤ y ⇒ F(x) ≤ F(y);
2. має границі lim_x→−∞ F(x) = 0 і lim_x→+∞ F(x) = 1;
3. неперервна справа: lim_y→x⁺ F(y) = F(x).

І навпаки: кожна функція з цими трьома властивостями є функцією розподілу якоїсь випадкової величини.

Теорема — ймовірність інтервалу

Для a < b виконується P(a < X ≤ b) = F(b) − F(a).

5. Дискретні й неперервні величини

Означення — дискретна випадкова величина

Випадкова величина X дискретна, якщо існує скінченна або зліченна множина значень {x₁, x₂, …} з ∑_i P(X = x_i) = 1.

Означення — неперервна випадкова величина

Випадкова величина X неперервна, якщо її функція розподілу F_X неперервна. Тоді P(X = x) = 0 для кожного x ∈ ℝ.

Приклад: автобус ходить кожні 10 хвилин, а ви приходите на зупинку у випадковий момент. Час очікування X неперервний і однаково ймовірний будь-де між 0 і 10 хвилинами, тож F(x) = x/10 для 0 ≤ x ≤ 10. Ймовірність, що ви чекатимете не більше ніж 3 хвилини, дорівнює F(3) = 0,3; що від 3 до 5 хвилин — F(5) − F(3) = 0,2. Але ймовірність, що ви чекатимете рівно 3 хвилини — ані на мільярдну частку секунди довше, — дорівнює 0. Як із цим рахувати і що показує функція щільності — тема наступної частини.

6. Емпірична функція розподілу

Означення — емпірична функція розподілу

Для виміряних значень x₁, …, x_n емпірична функція розподілу — це

F̂_n(x) = (кількість i з x_i ≤ x) / n.

Ми змоделювали 10, 100 і 1 000 очікувань автобуса. Штрихова пряма — справжня функція розподілу x/10, кольорові сходинки — емпірична функція з даних:

З десяти вимірювань оцінка відрізняється від дійсності аж на 0,268, зі ста — на 0,085, а з тисячі — вже лише на 0,025. Те, що з додаванням даних емпірична функція розподілу притискається до справжньої, стверджує теорема Глівенка — Кантеллі — математична гарантія того, що розподіл можна вивчити з даних.

7. Випадкові величини в штучному інтелекті

• Дані — це випадкові величини. Вік клієнта, ціна квартири, яскравість пікселя — модель машинного навчання припускає, що навчальні дані є значеннями випадкових величин з якимось невідомим розподілом, і намагається за ними цей розподіл (або його частину) оцінити.
• Генерування випадкових чисел з будь-якого розподілу. Комп’ютер уміє насамперед рівномірне число U між 0 і 1. Беремо найменше x, для якого F(x) ≥ U, — і отримуємо значення з розподілом F. Для U = 0,6 і суми кубиків: F(7) ≈ 0,583 — ще замало, F(8) = 26/36 ≈ 0,722 — вже досить, випадає 8. Так само мовна модель вибирає наступне слово.
• Квантилі й медіана. Медіана — це значення, де F уперше досягає 0,5: для суми кубиків це 7. Коли про сервер пишуть «95 % запитів отримують відповідь за 200 мс», це означає F(200 мс) ≥ 0,95.
• Генеративні моделі (дифузійні моделі, VAE) починають із випадкового шуму — вектора випадкових величин з відомим розподілом — і вчаться перетворювати його на зображення чи текст.

8. Підсумок

• Випадкова величина — це функція, яка результату експерименту ставить у відповідність число.
• Розподіл показує, як ймовірність ділиться між значеннями; функція розподілу F(x) = P(X ≤ x) визначає його повністю.
• F неспадна, зростає від 0 до 1, неперервна справа, і P(a < X ≤ b) = F(b) − F(a).
• Дискретна величина має ступінчасту F; неперервна має F без стрибків, і кожне окреме значення має ймовірність 0.
• Емпірична функція розподілу оцінює F з даних і з ростом кількості вимірювань наближається до неї.

Маєте іншу думку? Напишіть на support@coden-app.com.