Нечітка логіка та ймовірність: чому «трохи тепло» не означає «імовірно тепло»
Випадковість і розмитість, дві пляшки Бездека, аксіоми ймовірності проти нечіткої належності, межі Фреше, імовірність нечіткої події на прогнозі погоди та слова про ймовірність як нечіткі множини.
Серія Основи ШІ Частина 33 з 52
- Мапа штучного інтелекту: що є що і як усе це пов’язано
- Коротка історія штучного інтелекту: від Тюрінга до мовних моделей
- Дані, модель, тренування, інференс: основні поняття на одному прикладі
- Як читати математичний запис: символи, індекси, суми та квантори
- Множини й відношення: конструктор, з якого складаються означення в ШІ
- Функції й відображення: чому кожна модель у ШІ — це функція
- Логіка й доведення: правила, за якими міркують у ШІ
- Графи й дерева: структура, на якій тримаються пошук і нейронні мережі
- Лінійна алгебра для машинного навчання: вектори, матриці й чому ШІ передусім множить
- Похідні, градієнт і правило ланцюжка: як модель дізнається, у якому напрямку вчитися
- Градієнтний спуск: як навчається модель
- Що таке ймовірність: від кидка кубика до аксіом Колмогорова
- Умовна ймовірність і теорема Баєса: як змінити оцінку, коли дізнаєтеся щось нове
- Випадкова величина і функція розподілу: одна функція, яка каже про розподіл усе
- Функція щільності та функція маси ймовірності: чому неперервна величина має в точці ймовірність нуль
- Математичне сподівання, дисперсія і коваріація: де лежить розподіл, наскільки він широкий і що з чим пов’язано
- Огляд розподілів ймовірностей: Бернуллі, біноміальний, Пуассона, рівномірний, нормальний і експоненційний
- Закон великих чисел і центральна гранична теорема: чому середні поводяться так передбачувано
- Статистика й оцінювання параметрів: максимальна правдоподібність, MAP і довірчі інтервали
- Теорія інформації: ентропія, перехресна ентропія і KL-дивергенція — звідки беруться функції втрат
- Пошук у просторі станів: BFS, DFS, UCS і A* з анімаціями
- Ігри та суперник: мінімакс, альфа-бета відсікання і Monte Carlo tree search
- Задоволення обмежень: бектрекінг, поширення обмежень і AC-3 на судоку та мапі чеських країв
- Логіка й системи, засновані на знаннях: пряме і зворотне виведення, резолюція та експертні системи
- Планування: STRIPS, світ кубиків, евристики з релаксації та планування в AI-агентах
- Локальний пошук та імітація відпалу: комівояжер через обласні центри Чехії
- Генетичні алгоритми: популяція, схрещування, мутація і добір на рюкзаку для походу
- Еволюційні стратегії і генетичне програмування: від правила однієї п’ятої до закону Кеплера
- Оптимізація мурашиною колонією: як феромоновий слід знаходить короткий шлях
- Оптимізація роєм частинок: інерція, власний досвід і досвід рою
- Нейроеволюція: еволюція ваг і форми нейронних мереж та алгоритм NEAT
- Нечіткі множини й функції належності: як записати «трохи тепло»
- Нечітка логіка та ймовірність: чому «трохи тепло» не означає «імовірно тепло»
- Нечітка логіка: t-норми, імплікації та правила ЯКЩО–ТО
- Нечітке керування: Мамдані та Суґено від вентилятора до маятника на візку
- Нечітка кластеризація: алгоритм fuzzy c-means і точки між кластерами
- Нейро-нечіткі системи (ANFIS): нечіткі правила, які навчаються з даних
- Марковські ланцюги: матриця переходів, стаціонарний розподіл і PageRank
- Приховані марковські моделі: алгоритм Вітербі й нечесне казино
- Байєсівські мережі: чому трава мокра і що з цього випливає для дощувача
- Фільтр Калмана: як за неточними вимірюваннями оцінити, де авто і як швидко воно їде
- Види машинного навчання: з учителем, без учителя, з частковим залученням учителя та інші
- Промпти, контекст і RAG: як дати моделі правильну інформацію
- Варіаційні автокодувальники (VAE): нові зображення з неперервного латентного простору
- Генеративні змагальні мережі (GAN): фальшувальник проти детектива
- Дифузійні моделі: як із чистого шуму постає зображення
- Марковські процеси ухвалення рішень: стани, дії, винагороди й рівняння Беллмана
- Q-навчання і DQN: як навчитися цінності дій — від таблиці до нейронної мережі
- Policy gradient і PPO: навчання безпосередньо політики
- Як працює ШІ-агент: мовна модель у циклі з інструментами
- Програмування з AI-агентами: завдання, тести й перевірка
- Оцінювання і безпека систем ШІ: як вимірювати і як стежити
Повна програма серії Готово: 52 з 83 тем
- Чим невизначеність щодо результату відрізняється від неточності поняття і чому їх не можна плутати.
- Чому нечіткі значення комбінуються просто, а ймовірності — ні, і що кажуть межі Фреше.
- Як поєднати обидві невизначеності: імовірність нечіткої події та слова на кшталт «імовірно».
Що варто знати заздалегідь: Нечіткі множини й функції належності: як записати «трохи тепло», Що таке ймовірність: від кидка кубика до аксіом Колмогорова
«Завтра буде трохи тепло». «Завтра, імовірно, буде тепло». Обидва речення містять невизначеність, і обидва можна виразити числом між нулем і одиницею. Проте кажуть вони зовсім різне. Перше говорить про те, наскільки погода буде схожа на слово «тепло»; друге — про те, чи станеться щось, чого ми поки не знаємо. Плутанина між цими двома видами невизначеності призвела до однієї з найзапекліших суперечок в історії штучного інтелекту — і досі це поширена помилка.
Продовжує частини Нечіткі множини й функції належності і Що таке ймовірність.
1. Два види невизначеності
Означення — випадковість і розмитість
Випадковість (невизначеність щодо результату) стосується події, яка або настане, або ні; ми лише не знаємо, що саме. Її описує ймовірність P(A) ∈ [0, 1] чіткої події A.
Розмитість (неточність поняття) стосується того, наскільки добре відомий елемент відповідає нечітко окресленому поняттю. Її описує ступінь належності μA(x) ∈ [0, 1] до нечіткої множини A.
У випадковості нам бракує інформації: кидаємо кубик і не знаємо, що випаде. Щойно подивимося, невизначеність зникає. У розмитості нам нічого не бракує: температуру 25 °C ми знаємо точно, просто слово «тепло» пасує до неї наполовину. І коли ми глянемо на термометр, нічого не зміниться — слово залишиться таким само нечітким.
2. Дві пляшки
Різницю чудово показує приклад Джеймса Бездека. Ви в пустелі, і вам хочеться пити. Перед вами дві пляшки. На першій написано: «Належність до множини питних рідин дорівнює 0,91». На другій: «Імовірність того, що рідина питна, дорівнює 0,91». З якої ви нап’єтеся?
У першій пляшці є щось майже питне — скажімо, трохи каламутна вода. Вона гарантовано не зашкодить вам сильно. У другій з імовірністю 0,91 чиста вода, але в дев’яти випадках зі ста — щось зовсім інше, скажімо, отрута. Після відкриття різницю видно і в числах: належність першої пляшки залишається 0,91, бо нічого нового ми не дізнаємося. Імовірність для другої стрибає до 1 або до 0 — випадкова подія або сталася, або ні.
3. Що кажуть аксіоми
Нагадування — аксіоми Колмогорова
Імовірність — це функція P на подіях з P(A) ≥ 0, P(Ω) = 1 і адитивністю: для несумісних подій P(A ∪ B) = P(A) + P(B). Звідси випливає P(A) + P(¬A) = 1 і P(A ∩ ¬A) = 0.
Виведення. Події A і ¬A несумісні й разом дають Ω, тож з адитивності P(A) + P(¬A) = P(Ω) = 1. Перетин A ∩ ¬A — це неможлива подія ∅; вона несумісна сама із собою, тож P(∅) = P(∅ ∪ ∅) = 2 P(∅), а це можливо лише для P(∅) = 0. ∎
Імовірність — це «бюджет», який розподіляється між можливими результатами й завжди дає разом одиницю. Що ви додасте одному результату, мусите забрати в іншого.
Функція належності жодного такого бюджету не має. У минулій частині 25 °C було «приємно» на 0,6 і «тепло» на 0,5 — разом 1,1, і це нормально. Відмінності підсумовує таблиця:
| Імовірність | Нечітка належність | |
|---|---|---|
| Що описує | чи настане подія | наскільки елемент відповідає поняттю |
| Після спостереження | стає 0 або 1 | залишається такою самою |
| Сума за можливостями | завжди 1 | довільна |
| A і водночас не A | завжди 0 | до 0,5 |
| A або не A | завжди 1 | щонайменше 0,5 |
| Значення «A і B» | залежить від зв’язку між A і B | min(μA, μB) |
Звідки в таблиці числа 0,5? Нечітке «і» тут — мінімум, «або» — максимум, а «не» — доповнення 1 − μ, як у частині про нечіткі множини.
Теорема — «A і не A» та «A або не A» в нечітких множинах
Для кожного a = μA(x) ∈ [0, 1] виконується min(a, 1 − a) ≤ 0,5 ≤ max(a, 1 − a), причому рівність — саме для a = 0,5.
Доведення. Числа a і 1 − a разом дають 1, тож менше з них не перевищує половини суми, а більше — щонайменше половина. Обидва дорівнюють 0,5 лише тоді, коли вони рівні між собою, тобто для a = 0,5. ∎
Приклад. При 25 °C «тепло» на 0,5. Тоді «тепло і не тепло» = min(0,5; 0,5) = 0,5, а «тепло або не тепло» = max(0,5; 0,5) = 0,5 — класичний закон суперечності вимагав би 0, закон виключеного третього 1. Для ймовірності подія «буде щонайменше 25 °C і не буде щонайменше 25 °C» завжди мала б імовірність 0.
4. Комбінування: кому потрібно більше інформації
Останній рядок таблиці, мабуть, найважливіший. Нечітка логіка істиннісно функціональна: значення «A і B» обчислюється лише зі значень A і B. З імовірністю так не вийде.
Означення — істиннісна функціональність
Зв’язка «і» істиннісно функціональна, якщо існує функція g : [0, 1]2 → [0, 1] така, що для всіх висловлень A, B значення «A і B» дорівнює g(значення A, значення B). У нечіткій логіці g = min (або інша t-норма).
Досить знати два числа, і результат ясний — не треба знати, про що висловлення і як вони пов’язані між собою.
Приклад — чому ймовірність не є істиннісно функціональною
Кидаємо кубик один раз. Подія A = «випаде парне» = {2, 4, 6} має P(A) = 3/6 = 1/2. Візьмімо три події B, усі з імовірністю 1/2:
- B = {2, 4, 6} (парне): A ∩ B = {2, 4, 6}, P = 3/6 = 1/2,
- B = {4, 5, 6} (щонайменше 4): A ∩ B = {4, 6}, P = 2/6 = 1/3,
- B = {1, 3, 5} (непарне): A ∩ B = ∅, P = 0.
Вхідні дані щоразу однакові (1/2 і 1/2), а результати — три різні. Жодна функція g не може дати з (1/2, 1/2) водночас 1/2, 1/3 і 0.
Теорема — межі Фреше
Для довільних подій A, B виконується
max(0, P(A) + P(B) − 1) ≤ P(A ∩ B) ≤ min(P(A), P(B))
і обидві межі досяжні. Не знаючи зв’язку між A і B, P(A ∩ B) точніше визначити не можна.
Доведення. Верхня межа: A ∩ B ⊆ A, тож P(A ∩ B) ≤ P(A), і так само ≤ P(B). Нижня межа: з формули для об’єднання P(A ∩ B) = P(A) + P(B) − P(A ∪ B) і з P(A ∪ B) ≤ 1 випливає P(A ∩ B) ≥ P(A) + P(B) − 1; невід’ємність дає 0. Верхня межа досягається, коли одна подія повністю лежить в іншій (A ⊆ B); нижня — коли події перекриваються якнайменше: якщо вони не несумісні, то разом покривають усе Ω. ∎
Дощ іде з імовірністю 0,7, а вітер дме з імовірністю 0,6. Яка ймовірність, що водночас і йде дощ, і дме вітер? Будь-де між 0,3 і 0,6 — залежно від того, чи дощ і вітер ходять разом (тоді 0,6), чи радше виключають одне одного (тоді 0,3). Без додаткової інформації ми цього не знаємо. Нечіткий мінімум 0,6 — це якраз верхня межа: він відповідає ситуації, коли обидві події «якнайбільше разом». А нижня межа max(0, a + b − 1) — це інша нечітка операція, з якою ми зустрінемося в частині про нечітку логіку.
max(0, P(A) + P(B) − 1) ≤ P(A ∩ B) ≤ min(P(A), P(B))
- P(A ∩ B)
- імовірність, що настануть обидві події, — те, що ми хотіли б знати, але з двох чисел не можемо
- max(0, P(A) + P(B) − 1)
- нижня межа — дві ймовірності, які разом дають більше за 1, не вмістяться в ціле без перекриття; надлишок понад одиницю мусить перекритися. Нуль там тому, що коли надлишку немає, перекриття може бути відсутнє зовсім
- min(P(A), P(B))
- верхня межа — обидві події разом не можуть ставатися частіше, ніж рідша з них
Кожне припущення про зв’язок подій дає одне число з інтервалу — і кожному відповідає одне нечітке «і» (t-норма) з частини про нечітку логіку:
| Зв’язок дощу і вітру | P(дощ ∩ вітер) | Обчислення | Нечітке «і» |
|---|---|---|---|
| якнайбільше разом | 0,60 | min(0,7; 0,6) | мінімум |
| незалежні | 0,42 | 0,7 · 0,6 | добуток |
| якнайбільше одне проти одного | 0,30 | max(0; 0,7 + 0,6 − 1) | Лукасевич |
Звідси практична відмінність. Нечітка система обчислюється легко й швидко, але мовчки припускає один конкретний зв’язок між поняттями. Імовірнісна модель мусить задати зв’язки явно — або навчитися їх із даних — і за це отримує результати, що збігаються з частотами в реальному світі.
5. Імовірність нечіткої події
Проте обидві невизначеності не виключають одна одну — часто вони з’являються разом. «Яка ймовірність, що завтра буде тепло?» містить випадковість (якою буде температура) і розмитість (що таке «тепло»).
Означення — імовірність нечіткої події (Заде, 1968)
Якщо X — випадкова величина з густиною f, а A — нечітка множина на її значеннях, то ймовірність нечіткої події A дорівнює
P(A) = E[μA(X)] = ∫ μA(x) f(x) dx.
Для чіткої множини це звичайна ймовірність. Якщо X має лише скінченну кількість значень xi з імовірностями pi, інтеграл стає сумою: P(A) = ∑i μA(xi) pi.
Кожну можливу температуру ви зважуєте тим, наскільки вона ймовірна, і водночас тим, наскільки це «тепло». Температура 28 °C зараховується повністю, 25 °C — лише наполовину, 20 °C — зовсім ні.
P(A) = ∫ μA(x) · f(x) dx
- P(A)
- імовірність нечіткої події — одне число, яке несе обидві невизначеності водночас
- f(x)
- густина прогнозу — випадковість: наскільки ймовірна температура x (на рисунку сіра крива)
- μA(x)
- належність — розмитість: яка частка температури x є «теплом»; замість чіткого «враховується / не враховується» кожна температура враховується лише своєю часткою (на рисунку бурштинова)
- ∫ … dx
- підсумовування за всіма температурами — як у звичайній імовірності, тільки підсумовується не вся густина, а густина, зважена належністю; результат — зафарбована на рисунку площа
Прогноз каже, що завтрашня температура розподілена нормально із середнім 24 °C і стандартним відхиленням 3 °C. «Тепло» — це трикутник (22, 28, 34) з минулої частини:
Приклад — інтеграл як сума з кроком в один градус
Густина нормального розподілу із середнім m = 24 і стандартним відхиленням σ = 3 дорівнює f(x) = e−(x − m)² / (2σ²) / (σ √(2π)). Для 25 °C: f(25) = e−1/18 / (3 · 2,5066) = 0,9460 · 0,1330 = 0,1258. Належність до трикутника (22, 28, 34) на висхідній стороні дорівнює (x − 22) / (28 − 22), тобто μ(25) = 3/6 = 0,5. Отже, температура 25 °C додає 0,5 · 0,1258 = 0,0629 на градус.
Поза інтервалом (22, 34) μ = 0, тож досить скласти внески цілих градусів від 23 до 33 (кожен помножений на ширину 1 °C):
| x (°C) | 23 | 24 | 25 | 26 | 27 | 28 | 29 | 30 | 31 | 32 | 33 |
|---|---|---|---|---|---|---|---|---|---|---|---|
| μ(x) | 0,17 | 0,33 | 0,50 | 0,67 | 0,83 | 1,00 | 0,83 | 0,67 | 0,50 | 0,33 | 0,17 |
| f(x) | 0,126 | 0,133 | 0,126 | 0,106 | 0,081 | 0,055 | 0,033 | 0,018 | 0,009 | 0,004 | 0,001 |
| μ · f | 0,021 | 0,044 | 0,063 | 0,071 | 0,067 | 0,055 | 0,028 | 0,012 | 0,004 | 0,001 | 0,000 |
Сума останнього рядка дорівнює 0,367 — навіть із таким грубим кроком стільки ж, скільки точний інтеграл. Найбільші внески дають не найтепліші дні (28 °C — це «тепло» повністю, але малоймовірно) і не найімовірніші (24 °C — «тепло» лише на третину), а 25–28 °C, де обидва числа достатньо великі.
Імовірність нечіткої події «буде тепло» виходить 0,367 — майже стільки ж, скільки ймовірність чіткої події «буде щонайменше 25 °C» (0,369). Це збіг для цього прогнозу. Коли ми зсунемо прогноз, вони розійдуться:
| Прогноз (середнє) | P(щонайменше 25 °C) | P(тепло) |
|---|---|---|
| 20 °C | 0,048 | 0,074 |
| 22 °C | 0,159 | 0,191 |
| 24 °C | 0,369 | 0,367 |
| 25 °C | 0,500 | 0,459 |
| 28 °C | 0,841 | 0,610 |
За холодного прогнозу нечітка подія дає більше, бо враховує й «трохи теплі» дні нижче 25 °C. За прогнозу 28 °C, навпаки, помітно менше: чітка подія «щонайменше 25 °C» гарантовано охоплює і 33 °C, але за нашою лінгвістичною змінною це вже не «тепло», а «спекотно». Нечітка подія тримається того, що слово справді означає.
6. Слова про ймовірність
У статті 1964 року аналітик ЦРУ Шерман Кент описав, що розвідувальні звіти повні слів на кшталт «імовірно» чи «майже напевно» — і що кожен читач уявляє за ними інше число. Він запропонував таблицю: «майже напевно» — близько 93 %, «імовірно» — близько 75 %, «приблизно навпіл» — близько 50 %, «мабуть, ні» — близько 30 % і «майже напевно ні» — близько 7 %, щоразу з діапазоном. Тут обидві невизначеності зустрічаються ідеально: слова про ймовірність — це нечіткі множини на ймовірностях.
Приклад — яке слово пасує до заданої ймовірності
Слова — це трикутники навколо значень Кента: «імовірно» — (0,6; 0,75; 0,9), «мабуть, ні» — (0,18; 0,3; 0,42), «приблизно навпіл» — (0,38; 0,5; 0,62). Ширина трикутників — наш вибір для ілюстрації, а не таблиця Кента. На спадній стороні трикутника (a, b, c) μ(p) = (c − p) / (c − b), на висхідній — (p − a) / (b − a).
- p = 0,8: μімовірно = (0,9 − 0,8) / (0,9 − 0,75) = 0,1 / 0,15 = 0,67; решта слів у 0,8 мають нуль.
- p = 0,37: μмабуть, ні = (0,42 − 0,37) / (0,42 − 0,3) = 0,05 / 0,12 = 0,42; «приблизно навпіл» починається лише від 0,38, тож має 0,00.
Найкраще пасує слово з найбільшою належністю: слово(p) = argmaxs μs(p).
Імовірність 0,8 — це «імовірно» на дві третини; 0,37 з нашого прогнозу найкраще описує «мабуть, ні». Схоже сьогодні працює, наприклад, Міжурядова група експертів зі змін клімату (IPCC): «likely» означає 66–100 %, а «very likely» — 90–100 %, щоб слова у звітах не підштовхували до іншого тлумачення.
7. Суперечка про невизначеність
У вісімдесятих роках спалахнула суперечка, яку добре передають два голоси. Статистик Денніс Ліндлі стверджував, що єдиний розумний опис невизначеності — це ймовірність, і що все, що робить нечітка логіка, ймовірність зробить краще. Барт Коско, навпаки, доводив, що ймовірність — лише окремий випадок нечіткості. Обидва мали частку правди. Для ухвалення рішень в умовах невизначеності, навчання з даних і ставок імовірність має міцну теоретичну опору: з тим, хто ставить за іншими числами, ніж імовірності, можна укласти серію ставок, на яких він напевно програє. Для роботи з розмитими словами, ручних правил і простого керування нечіткі множини природніші й зрозуміліші. Сьогодні обидві теорії використовують пліч-о-пліч, кожну для того, що їй пасує.
Приклад — ставки, на яких напевно програють
Аргумент сформулював Бруно де Фінетті (1931, незалежно від нього Френк Рамсей 1926); тут у спрощеному вигляді. Хто приписує події A «ступінь переконання» q(A), готовий купити за q(A) євро ставку, яка виплатить 1 євро, якщо A настане.
Гравець вірить, що завтра буде дощ, на 0,6, і що дощу не буде, теж на 0,6 — разом 1,2, усупереч P(A) + P(¬A) = 1. Продаємо йому обидві ставки:
- він платить 0,6 + 0,6 = 1,2 €,
- хоч би якою була погода, настане рівно одна з подій, тож він отримає назад рівно 1 €,
- він програє 1,2 − 1 = 0,2 € — напевно, незалежно від погоди.
Якби числа разом давали менше за 1 (скажімо, 0,4 + 0,4), ми, навпаки, купимо в нього ставки за 0,8 і виплатимо 1 — він знову програє 0,2. Безпечна лише сума рівно 1. Подібно можна показати, що захист від гарантованого програшу вимагає всіх аксіом Колмогорова (для скінченної кількості подій). Нечіткі належності не мають суми 1 — і це не вада, бо йдеться не про ставки на те, що станеться.
8. Обидві невизначеності в штучному інтелекті
- Машинне навчання переважно імовірнісне. Класифікатори й мовні моделі повертають розподіли ймовірностей; вони навчаються максимізацією правдоподібності, як показали частини про статистику й теорію інформації.
- Калібрування. Коли модель стверджує 90 %, вона має мати рацію в дев’яти випадках із десяти. Калібрування — суто імовірнісна властивість, і її можна виміряти.
- Упевненість словами. Мовні моделі часто виражають упевненість словами — «імовірно», «найпевніше», «можливо». Тут допомагає міркування Кента: слово — це нечітка множина на ймовірностях, і якщо словесна впевненість має бути корисною, вона мусить відповідати числам, що за нею стоять.
- Нечіткі правила досі використовують там, де потрібне ручне, зрозуміле керування без великої кількості даних, — від пральних машин до керування виробництвом.
9. Підсумок
- Імовірність описує випадковість — чи настане подія; нечітка належність описує розмитість — наскільки елемент відповідає поняттю.
- Після спостереження ймовірність стає 0 або 1, а належність залишається такою самою (пляшки Бездека).
- Імовірності в сумі дають одиницю і P(A ∩ ¬A) = 0; належності — ні.
- Нечітка логіка істиннісно функціональна; для ймовірності P(A ∩ B) лише лежить між межами Фреше, а нечіткий мінімум — це верхня з них.
- Обидві невизначеності можна поєднати: імовірність нечіткої події «буде тепло» — це математичне сподівання належності; слова про ймовірність — нечіткі множини на ймовірностях.
Хочете спробувати самі? Запитайте кількох людей, який відсоток вони уявляють за словами «імовірно» і «найпевніше, ні», і попросіть ШІ-агента намалювати з відповідей функції належності.
Маєте іншу думку? Напишіть на support@coden-app.com.