Czym jest prawdopodobieństwo: od rzutu kostką do aksjomatów Kołmogorowa
Doświadczenie losowe, przestrzeń zdarzeń elementarnych, zdarzenia i działania na nich, prawdopodobieństwo klasyczne i częstościowe oraz aksjomaty, na których opiera się wszystko dalej — na przykładzie dwóch kostek.
Seria Podstawy AI Część 12 z 52
- Mapa sztucznej inteligencji: co jest czym i jak to do siebie pasuje
- Krótka historia sztucznej inteligencji: od Turinga do modeli językowych
- Dane, model, trening, inferencja: podstawowe pojęcia na jednym przykładzie
- Jak czytać zapis matematyczny: symbole, indeksy, sumy i kwantyfikatory
- Zbiory i relacje: klocki, z których składają się definicje w AI
- Funkcje i odwzorowania: dlaczego każdy model AI jest funkcją
- Logika i dowody: reguły, według których rozumuje AI
- Grafy i drzewa: struktura, na której opierają się przeszukiwanie i sieci neuronowe
- Algebra liniowa dla uczenia maszynowego: wektory, macierze i dlaczego AI głównie mnoży
- Pochodne, gradient i reguła łańcuchowa: jak model ustala, w którą stronę się uczyć
- Spadek gradientu: jak uczy się model
- Czym jest prawdopodobieństwo: od rzutu kostką do aksjomatów Kołmogorowa
- Prawdopodobieństwo warunkowe i twierdzenie Bayesa: jak zmienić ocenę, gdy dowiesz się czegoś nowego
- Zmienna losowa i dystrybuanta: jedna funkcja, która mówi o rozkładzie wszystko
- Funkcja gęstości i funkcja prawdopodobieństwa: dlaczego zmienna ciągła ma w punkcie prawdopodobieństwo zero
- Wartość oczekiwana, wariancja i kowariancja: gdzie leży rozkład, jak jest szeroki i co z czym się wiąże
- Przegląd rozkładów prawdopodobieństwa: Bernoulliego, dwumianowy, Poissona, jednostajny, normalny i wykładniczy
- Prawo wielkich liczb i centralne twierdzenie graniczne: dlaczego średnie zachowują się tak przewidywalnie
- Statystyka i estymacja parametrów: największa wiarygodność, MAP i przedziały ufności
- Teoria informacji: entropia, entropia krzyżowa i dywergencja KL — skąd się biorą funkcje straty
- Przeszukiwanie przestrzeni stanów: BFS, DFS, UCS i A* z animacjami
- Gry i przeciwnik: minimax, przycinanie alfa-beta i Monte Carlo tree search
- Spełnianie ograniczeń: backtracking, propagacja ograniczeń i AC-3 na sudoku i mapie czeskich krajów
- Logika i systemy z bazą wiedzy: wnioskowanie w przód i wstecz, rezolucja i systemy ekspertowe
- Planowanie: STRIPS, świat klocków, heurystyki z relaksacji i planowanie w agentach AI
- Przeszukiwanie lokalne i symulowane wyżarzanie: komiwojażer przez czeskie miasta wojewódzkie
- Algorytmy genetyczne: populacja, krzyżowanie, mutacja i selekcja na plecaku na wycieczkę
- Strategie ewolucyjne i programowanie genetyczne: od reguły jednej piątej do prawa Keplera
- Optymalizacja kolonią mrówek: jak ślad feromonowy znajduje krótką drogę
- Optymalizacja rojem cząstek: bezwładność, własne doświadczenie i doświadczenie roju
- Neuroewolucja: ewolucja wag i kształtu sieci neuronowych oraz algorytm NEAT
- Zbiory rozmyte i funkcje przynależności: jak zapisać „trochę ciepło”
- Logika rozmyta a prawdopodobieństwo: dlaczego „trochę ciepło” nie znaczy „prawdopodobnie ciepło”
- Logika rozmyta: t-normy, implikacje i reguły JEŻELI–TO
- Sterowanie rozmyte: Mamdani i Sugeno od wentylatora po wahadło na wózku
- Klasteryzacja rozmyta: algorytm fuzzy c-means i punkty między skupieniami
- Systemy neuro-rozmyte (ANFIS): reguły rozmyte, które uczą się z danych
- Łańcuchy Markowa: macierz przejścia, rozkład stacjonarny i PageRank
- Ukryte modele Markowa: algorytm Viterbiego i nieuczciwe kasyno
- Sieci bayesowskie: dlaczego trawa jest mokra i co z tego wynika dla zraszacza
- Filtr Kalmana: jak z niedokładnych pomiarów oszacować, gdzie jest samochód i jak szybko jedzie
- Rodzaje uczenia maszynowego: nadzorowane, nienadzorowane, półnadzorowane i inne
- Prompty, kontekst i RAG: jak dać modelowi właściwe informacje
- Wariacyjne autoenkodery (VAE): nowe obrazki z ciągłej przestrzeni latentnej
- Generatywne sieci przeciwstawne (GAN): fałszerz kontra detektyw
- Modele dyfuzyjne: jak z czystego szumu powstaje obraz
- Procesy decyzyjne Markowa: stany, akcje, nagrody i równania Bellmana
- Q-learning i DQN: uczenie się wartości akcji od tabeli po sieć neuronową
- Policy gradient i PPO: uczenie się bezpośrednio polityki
- Jak działa agent AI: model językowy w pętli z narzędziami
- Programowanie z agentami AI: zadanie, testy i kontrola
- Ocena i bezpieczeństwo systemów AI: jak mierzyć i jak pilnować
Pełny program serii Gotowe: 52 z 83 tematów
- Czym jest doświadczenie losowe, przestrzeń zdarzeń elementarnych i zdarzenie — i dlaczego zdarzenia są zbiorami.
- Jak liczy się prawdopodobieństwo klasyczne i dlaczego częstość względna stabilizuje się wraz z liczbą prób.
- Trzy aksjomaty Kołmogorowa i wynikające z nich reguły: zdarzenie przeciwne i suma zdarzeń.
Warto wiedzieć wcześniej: Zbiory i relacje: klocki, z których składają się definicje w AI
Model językowy nie wybiera następnego słowa, tylko prawdopodobieństwa wszystkich słów. Klasyfikator nie mówi „to jest kot”, ale „z prawdopodobieństwem 0,93 to jest kot”. Całe uczenie maszynowe opiera się na liczeniu z niepewnością — a prawdopodobieństwo jest językiem, w którym mówi się o niepewności precyzyjnie.
W szkole prawdopodobieństwo definiuje się zwykle jako „liczbę przypadków sprzyjających podzieloną przez liczbę wszystkich”. To dobry początek, ale nie wystarczy. W tej części przejdziemy od doświadczenia losowego przez zdarzenia aż do precyzyjnej definicji, na której opiera się wszystko dalej. Wszystkie przykłady dotyczą dwóch kostek. Przyda ci się znajomość części o zbiorach — zdarzenia są bowiem zbiorami.
1. Doświadczenie losowe i przestrzeń zdarzeń elementarnych
Definicja — doświadczenie losowe
Doświadczenie losowe to proces, którego wyniku nie znamy z góry, ale wiemy, jakie wyniki może dać, i który da się (przynajmniej w myślach) powtarzać dowolnie wiele razy w tych samych warunkach.
Rzut kostką, rzut monetą, wyciągnięcie karty, ale też „który e-mail przyjdzie jako następny” albo „jakie słowo napisze człowiek”. Nie wiemy, co wypadnie, ale wiemy, co wypaść może.
Definicja — przestrzeń zdarzeń elementarnych
Przestrzeń zdarzeń elementarnych Ω to zbiór wszystkich możliwych wyników doświadczenia losowego. Jej elementy ω ∈ Ω nazywamy zdarzeniami elementarnymi.
Przestrzeń zdarzeń elementarnych to pełna lista wszystkiego, co może się wydarzyć. Dla jednej kostki to Ω = {1, 2, 3, 4, 5, 6}. Dla dwóch kostek, które rozróżniamy (pierwsza i druga), to wszystkie pary (pierwsza, druga) — 6 · 6 = 36 wyników.
2. Zdarzenia
Definicja — zdarzenie
Zdarzenie to podzbiór przestrzeni zdarzeń elementarnych, A ⊆ Ω. Mówimy, że zdarzenie A zaszło, gdy wynik doświadczenia jest elementem A.
Zdarzenie to pytanie, na które po doświadczeniu można odpowiedzieć tak albo nie: „czy suma oczek wynosi 7?” Jako zbiór zapisujemy je, wyliczając wyniki, dla których odpowiedź brzmi tak: {(1, 6), (2, 5), (3, 4), (4, 3), (5, 2), (6, 1)}.
Definicja — zdarzenie pewne i niemożliwe
Zdarzenie pewne to cała przestrzeń Ω — zachodzi zawsze. Zdarzenie niemożliwe to zbiór pusty ∅ — nie zachodzi nigdy.
„Suma oczek jest między 2 a 12” to zdarzenie pewne — inaczej skończyć się to nie może. „Suma oczek wynosi 13” to zdarzenie niemożliwe.
Siatka pokazuje wszystkie 36 wyników dwóch kostek; wiersz to pierwsza kostka, kolumna druga, a liczba w polu to suma oczek. Zaznaczone są dwa zdarzenia: A = „suma oczek wynosi 7” i B = „przynajmniej na jednej kostce wypadła szóstka”:
Zdarzenie A ma 6 wyników, zdarzenie B 11. Dwa wyniki, (1, 6) i (6, 1), należą do obu — na siatce są fioletowe.
3. Działania na zdarzeniach
Ponieważ zdarzenia są zbiorami, łączy się je tymi samymi działaniami co zbiory. Każde działanie ma jednak także naturalne znaczenie w słowach:
Definicja — suma zdarzeń
Suma A ∪ B to zdarzenie „zachodzi A lub B (albo oba)”.
„Wypadła suma 7 albo przynajmniej jedna szóstka” — na siatce wszystkie zaznaczone pola razem, jest ich 15.
Definicja — iloczyn zdarzeń
Iloczyn A ∩ B to zdarzenie „zachodzą A i B jednocześnie”.
„Suma oczek wynosi 7 i jednocześnie wypadła szóstka” — to możliwe tylko jako (1, 6) albo (6, 1), na siatce dwa fioletowe pola.
Definicja — zdarzenie przeciwne
Zdarzenie przeciwne Ac = Ω ∖ A to zdarzenie „A nie zachodzi”.
Zdarzenie przeciwne do „przynajmniej jedna szóstka” to „żadnej szóstki” — na siatce wszystkie pola poza ostatnim wierszem i kolumną, 5 · 5 = 25.
Definicja — zdarzenia rozłączne
Zdarzenia A i B są rozłączne (wykluczające się), gdy nie mogą zajść jednocześnie: A ∩ B = ∅.
„Suma oczek wynosi 7” i „wypadł dublet” (na obu kostkach to samo) nie mogą zajść jednocześnie — suma dwóch jednakowych liczb jest zawsze parzysta.
4. Prawdopodobieństwo klasyczne
Definicja — prawdopodobieństwo klasyczne (Laplace)
Jeśli Ω jest skończony i wszystkie zdarzenia elementarne są jednakowo prawdopodobne, to P(A) = |A| / |Ω|.
Gdy każdy wynik ma tę samą szansę, wystarczy policzyć, ile wyników jest „za”, i podzielić przez liczbę wszystkich. Suma 7 ma 6 sprzyjających wyników z 36, więc P(A) = 6/36 = 1/6 ≈ 0,167.
Haczyk tkwi w słowach „jednakowo prawdopodobne”. Przy dwóch kostkach sumy nie są jednakowo prawdopodobne — suma 2 wypada tylko jako (1, 1), suma 7 na sześć sposobów. Dlatego liczymy pary, a nie sumy. A w wielu prawdziwych sytuacjach jednakowo prawdopodobnych wyników w ogóle nie ma: jakie jest prawdopodobieństwo, że jutro będzie padać, albo że e-mail jest spamem? Tam definicja klasyczna nie pomoże.
5. Prawdopodobieństwo jako długoterminowa częstość
Definicja — częstość względna
Jeśli powtarzamy doświadczenie n razy, a zdarzenie A zachodzi nA razy, to jego częstość względna wynosi nA / n.
Częstość względna to to, co faktycznie wyszło: rzuciłeś monetą dziesięć razy, siedem razy wypadł orzeł — częstość względna wynosi 0,7.
Przy małej liczbie prób częstość względna skacze w tę i z powrotem. Gdy jednak prób przybywa, stabilizuje się. Oto cztery niezależne symulacje rzutów monetą:
Pierwsza symulacja miała po 10 rzutach 70 % orłów, po 100 rzutach 40 %, po 1000 rzutach 49,4 % i po 10 000 rzutach 49,92 %. Prawdopodobieństwo można rozumieć jako liczbę, do której zbliża się częstość względna — dokładnie to sformułuje później prawo wielkich liczb. Tak szacuje się prawdopodobieństwa z prawdziwych danych: ile e-maili z danym słowem było spamem, ile razy po słowie „dzień” nastąpiło „dobry”.
6. Aksjomaty Kołmogorowa
Definicja klasyczna potrzebuje jednakowo prawdopodobnych wyników, częstościowa nieskończenie wielu prób. Andriej Kołmogorow w 1933 roku zdefiniował prawdopodobieństwo inaczej: nie mówi, jak je obliczyć, tylko jakie reguły musi spełniać. Każde z wcześniejszych ujęć jest wtedy tylko jednym ze sposobów spełnienia tych reguł.
Definicja — prawdopodobieństwo (aksjomaty Kołmogorowa)
Prawdopodobieństwo to funkcja P, która każdemu zdarzeniu A przypisuje liczbę P(A) i spełnia trzy aksjomaty:
- nieujemność: P(A) ≥ 0 dla każdego zdarzenia A,
- unormowanie: P(Ω) = 1,
- addytywność: dla parami rozłącznych zdarzeń A1, A2, … zachodzi P(A1 ∪ A2 ∪ …) = P(A1) + P(A2) + …
Trzy rozsądne reguły. Prawdopodobieństwo nigdy nie jest ujemne. Coś musi się wydarzyć, więc cała przestrzeń ma prawdopodobieństwo 1. A gdy dwie rzeczy wzajemnie się wykluczają, szansa, że zajdzie jedna albo druga, jest sumą ich szans. Wszystko inne już z tego wynika.
7. Reguły wynikające z aksjomatów
Twierdzenie — prawdopodobieństwo zdarzenia przeciwnego
P(Ac) = 1 − P(A). W szczególności P(∅) = 0 oraz 0 ≤ P(A) ≤ 1.
Często łatwiej policzyć przeciwieństwo. „Przynajmniej jedna szóstka” ma przeciwieństwo „żadnej szóstki”, które ma 25 wyników z 36. Zatem P(przynajmniej jedna szóstka) = 1 − 25/36 = 11/36 ≈ 0,306.
Twierdzenie — prawdopodobieństwo sumy zdarzeń
Dla dowolnych zdarzeń A, B zachodzi P(A ∪ B) = P(A) + P(B) − P(A ∩ B).
Gdy dodajesz zdarzenia, które się nakładają, część wspólną liczysz dwa razy — i raz musisz ją odjąć. Dla sumy 7 albo szóstki: 6/36 + 11/36 − 2/36 = 15/36. Dokładnie tyle zaznaczonych pól jest na siatce.
8. Prawdopodobieństwo w sztucznej inteligencji
- Klasyfikatory zwracają prawdopodobieństwa klas; softmax z części o klasyfikacji zapewnia, że są nieujemne i sumują się do 1 — dokładnie zgodnie z aksjomatami.
- Modele językowe to rozkłady prawdopodobieństwa nad następnym słowem. Pisząc tekst, losują z nich.
- Szacowanie z danych to częstość względna: model uczy się prawdopodobieństw, które „wyszły” w danych treningowych.
- Niepewność — dobry model wie, kiedy nie jest pewny. Prawdopodobieństwa 0,51 i 0,99 dają tę samą klasę, ale zupełnie inny poziom zaufania.
Następna część pokaże, jak zmienić prawdopodobieństwo, gdy dowiemy się czegoś nowego — prawdopodobieństwo warunkowe i twierdzenie Bayesa.
9. Podsumowanie
- Doświadczenie losowe ma przestrzeń zdarzeń elementarnych Ω; zdarzenie to podzbiór Ω.
- Zdarzenia łączy się jak zbiory: suma to „lub”, iloczyn „i jednocześnie”, zdarzenie przeciwne „nie”.
- Prawdopodobieństwo klasyczne to sprzyjające podzielone przez możliwe — tylko dla jednakowo prawdopodobnych wyników.
- Częstość względna stabilizuje się wraz z liczbą prób; prawdopodobieństwo to liczba, do której się zbliża.
- Aksjomaty Kołmogorowa: nieujemność, P(Ω) = 1 i dodawanie dla zdarzeń rozłącznych. Wynikają z nich reguła dla zdarzenia przeciwnego i wzór na sumę zdarzeń.
Masz inne zdanie? Napisz na support@coden-app.com.