Funkcja gęstości i funkcja prawdopodobieństwa: dlaczego zmienna ciągła ma w punkcie prawdopodobieństwo zero

Funkcja prawdopodobieństwa, gęstość prawdopodobieństwa i pole pod krzywą — dlaczego gęstość nie jest prawdopodobieństwem, może być większa niż 1 i jak oszacować ją z danych za pomocą histogramu.

13 minut Matěj Žalmánek 2026-10-15

Seria Podstawy AI Część 15 z 52

1. Mapa sztucznej inteligencji: co jest czym i jak to do siebie pasuje
2. Krótka historia sztucznej inteligencji: od Turinga do modeli językowych
3. Dane, model, trening, inferencja: podstawowe pojęcia na jednym przykładzie
4. Jak czytać zapis matematyczny: symbole, indeksy, sumy i kwantyfikatory
5. Zbiory i relacje: klocki, z których składają się definicje w AI
6. Funkcje i odwzorowania: dlaczego każdy model AI jest funkcją
7. Logika i dowody: reguły, według których rozumuje AI
8. Grafy i drzewa: struktura, na której opierają się przeszukiwanie i sieci neuronowe
9. Algebra liniowa dla uczenia maszynowego: wektory, macierze i dlaczego AI głównie mnoży
10. Pochodne, gradient i reguła łańcuchowa: jak model ustala, w którą stronę się uczyć
11. Spadek gradientu: jak uczy się model
12. Czym jest prawdopodobieństwo: od rzutu kostką do aksjomatów Kołmogorowa
13. Prawdopodobieństwo warunkowe i twierdzenie Bayesa: jak zmienić ocenę, gdy dowiesz się czegoś nowego
14. Zmienna losowa i dystrybuanta: jedna funkcja, która mówi o rozkładzie wszystko
15. Funkcja gęstości i funkcja prawdopodobieństwa: dlaczego zmienna ciągła ma w punkcie prawdopodobieństwo zero
16. Wartość oczekiwana, wariancja i kowariancja: gdzie leży rozkład, jak jest szeroki i co z czym się wiąże
17. Przegląd rozkładów prawdopodobieństwa: Bernoulliego, dwumianowy, Poissona, jednostajny, normalny i wykładniczy
18. Prawo wielkich liczb i centralne twierdzenie graniczne: dlaczego średnie zachowują się tak przewidywalnie
19. Statystyka i estymacja parametrów: największa wiarygodność, MAP i przedziały ufności
20. Teoria informacji: entropia, entropia krzyżowa i dywergencja KL — skąd się biorą funkcje straty
21. Przeszukiwanie przestrzeni stanów: BFS, DFS, UCS i A* z animacjami
22. Gry i przeciwnik: minimax, przycinanie alfa-beta i Monte Carlo tree search
23. Spełnianie ograniczeń: backtracking, propagacja ograniczeń i AC-3 na sudoku i mapie czeskich krajów
24. Logika i systemy z bazą wiedzy: wnioskowanie w przód i wstecz, rezolucja i systemy ekspertowe
25. Planowanie: STRIPS, świat klocków, heurystyki z relaksacji i planowanie w agentach AI
26. Przeszukiwanie lokalne i symulowane wyżarzanie: komiwojażer przez czeskie miasta wojewódzkie
27. Algorytmy genetyczne: populacja, krzyżowanie, mutacja i selekcja na plecaku na wycieczkę
28. Strategie ewolucyjne i programowanie genetyczne: od reguły jednej piątej do prawa Keplera
29. Optymalizacja kolonią mrówek: jak ślad feromonowy znajduje krótką drogę
30. Optymalizacja rojem cząstek: bezwładność, własne doświadczenie i doświadczenie roju
31. Neuroewolucja: ewolucja wag i kształtu sieci neuronowych oraz algorytm NEAT
32. Zbiory rozmyte i funkcje przynależności: jak zapisać „trochę ciepło”
33. Logika rozmyta a prawdopodobieństwo: dlaczego „trochę ciepło” nie znaczy „prawdopodobnie ciepło”
34. Logika rozmyta: t-normy, implikacje i reguły JEŻELI–TO
35. Sterowanie rozmyte: Mamdani i Sugeno od wentylatora po wahadło na wózku
36. Klasteryzacja rozmyta: algorytm fuzzy c-means i punkty między skupieniami
37. Systemy neuro-rozmyte (ANFIS): reguły rozmyte, które uczą się z danych
38. Łańcuchy Markowa: macierz przejścia, rozkład stacjonarny i PageRank
39. Ukryte modele Markowa: algorytm Viterbiego i nieuczciwe kasyno
40. Sieci bayesowskie: dlaczego trawa jest mokra i co z tego wynika dla zraszacza
41. Filtr Kalmana: jak z niedokładnych pomiarów oszacować, gdzie jest samochód i jak szybko jedzie
42. Rodzaje uczenia maszynowego: nadzorowane, nienadzorowane, półnadzorowane i inne
43. Prompty, kontekst i RAG: jak dać modelowi właściwe informacje
44. Wariacyjne autoenkodery (VAE): nowe obrazki z ciągłej przestrzeni latentnej
45. Generatywne sieci przeciwstawne (GAN): fałszerz kontra detektyw
46. Modele dyfuzyjne: jak z czystego szumu powstaje obraz
47. Procesy decyzyjne Markowa: stany, akcje, nagrody i równania Bellmana
48. Q-learning i DQN: uczenie się wartości akcji od tabeli po sieć neuronową
49. Policy gradient i PPO: uczenie się bezpośrednio polityki
50. Jak działa agent AI: model językowy w pętli z narzędziami
51. Programowanie z agentami AI: zadanie, testy i kontrola
52. Ocena i bezpieczeństwo systemów AI: jak mierzyć i jak pilnować

Pełny program serii Gotowe: 52 z 83 tematów

Część o zmiennej losowej zakończyliśmy paradoksem: to, że na autobus poczekasz dokładnie 3 minuty, ma prawdopodobieństwo zero — a jednak jakiś dokładny czas poczekasz. Dystrybuanta potrafi to uwzględnić, ale nie jest zbyt poglądowa. Ta część pokazuje dwie funkcje, które dużo łatwiej narysować i odczytać: funkcję prawdopodobieństwa dla zmiennych dyskretnych i gęstość dla ciągłych.

1. Funkcja prawdopodobieństwa

Definicja — funkcja prawdopodobieństwa

Dla dyskretnej zmiennej losowej X o wartościach x₁, x₂, … funkcja prawdopodobieństwa to

p_X(x) = P(X = x), x ∈ ℝ.

Twierdzenie — własności funkcji prawdopodobieństwa

Dla funkcji prawdopodobieństwa p dyskretnej zmiennej X o dystrybuancie F zachodzi

1. p(x) ≥ 0 dla każdego x;
2. ∑_i p(x_i) = 1;
3. F(x) = ∑_{xi ≤ x} p(x_i).

2. Dlaczego zmienna ciągła nie ma prawdopodobieństwa w punkcie

Weźmy zmienną ciągłą: czas X w minutach do nadejścia następnego e-maila, gdy średnio przychodzi jeden co 2 minuty. Takie oczekiwanie ma rozkład wykładniczy z dystrybuantą F(x) = 1 − e^−0,5x dla x ≥ 0 (dlaczego akurat taką, pokaże część o rozkładach). Funkcja prawdopodobieństwa tu nie pomoże — w każdym punkcie byłaby równa zeru. Spróbujmy więc zamiast punktu wziąć przedział [2, 2 + h] i go zwężać:

szerokość h	P(2 < X ≤ 2 + h)	P / h
2	0,2325	0,1163
1	0,1447	0,1447
0,5	0,0814	0,1627
0,1	0,0179	0,1794
0,01	0,0018	0,1835
→ 0	→ 0	→ f(2) ≈ 0,1839

Prawdopodobieństwo przedziału dąży do zera — 0,2325, 0,1447, …, 0,0018 — i dlatego w pojedynczym punkcie wychodzi zero. Ale prawdopodobieństwo na jednostkę długości, czyli P / h, się stabilizuje: 0,1163, 0,1447, 0,1627, 0,1794, 0,1835 … i zbliża do 0,1839. Ta liczba już coś mówi o punkcie 2: ile prawdopodobieństwa przypada na minutę wokół drugiej minuty. To jest gęstość.

3. Pole pod krzywą: całka oznaczona

Definicja — całka oznaczona

Dla funkcji f na przedziale [a, b] podzielmy przedział na n części o szerokości Δx = (b − a) / n z punktami x_i wewnątrz części. Całka oznaczona to granica sum

∫_a^b f(x) dx = lim_n→∞ ∑_i=1ⁿ f(x_i) · Δx,

o ile istnieje i nie zależy od wyboru punktów x_i.

4. Funkcja gęstości

Definicja — gęstość prawdopodobieństwa

Funkcja f : ℝ → [0, ∞) jest gęstością zmiennej losowej X, gdy dla każdego x ∈ ℝ

F_X(x) = ∫_−∞^x f(t) dt.

Zmienną, która ma gęstość, nazywamy absolutnie ciągłą.

Twierdzenie — prawdopodobieństwo jako pole

Jeśli X ma gęstość f, to dla a < b

P(a < X ≤ b) = ∫_a^b f(x) dx = F(b) − F(a),

∫_−∞^∞ f(x) dx = 1, a w każdym punkcie, w którym F jest różniczkowalna, f(x) = F′(x).

To, że e-mail przyjdzie między pierwszą a trzecią minutą, to pole pod krzywą między 1 a 3: F(3) − F(1) = e^−0,5 − e^−1,5 ≈ 0,383.

5. Gęstość to nie prawdopodobieństwo

Wartość gęstości w punkcie nie jest prawdopodobieństwem — to prawdopodobieństwo na jednostkę. Prawdopodobieństwo dostajesz dopiero wtedy, gdy pomnożysz ją przez szerokość przedziału: dla wąskiego przedziału P(x < X ≤ x + h) ≈ f(x) · h. Dla x = 2 i h = 0,1 to 0,1839 · 0,1 ≈ 0,0184, w rzeczywistości 0,0179.

Dlatego gęstość może być większa niż 1. Gdy przychodzisz na przystanek, z którego autobus odjeżdża co pół minuty, czas oczekiwania ma rozkład jednostajny na przedziale [0; 0,5] i gęstość wynosi tam wszędzie 2 — pole prostokąta 0,5 × 2 to nadal 1. To jak gęstość zaludnienia: 2 000 mieszkańców na km² nie mówi, ile osób mieszka w jednym domu — liczbę dostajesz dopiero, gdy pomnożysz gęstość przez powierzchnię.

6. Szacowanie gęstości z danych: histogram

Definicja — histogram jako estymator gęstości

Podzielmy oś na przedziały (klasy) o szerokości w. Dla danych x₁, …, x_n histogram to funkcja, która na klasie B przyjmuje wartość

f̂(x) = (liczba takich i, że x_i ∈ B) / (n · w), x ∈ B.

Zasymulowaliśmy 100, 1 000 i 10 000 oczekiwań na e-mail (z klasą o szerokości 0,5 minuty) i na histogramach narysowaliśmy prawdziwą gęstość:

Przy 100 oczekiwaniach słupek różni się od rzeczywistości nawet o 0,098, przy 1 000 o 0,017, a przy 10 000 o 0,008. Udział oczekiwań do jednej minuty wyniósł 0,440, 0,397 i 0,390 — prawdziwe prawdopodobieństwo to F(1) ≈ 0,393. Wraz z przybywaniem danych histogram przylega do gęstości, tak samo jak dystrybuanta empiryczna przylegała do prawdziwej.

7. Dyskretne i ciągłe obok siebie

8. Gęstości i funkcje prawdopodobieństwa w sztucznej inteligencji

• Klasyfikator i model językowy zwracają funkcję prawdopodobieństwa. Ostatnia warstwa (softmax) przypisuje każdej klasie lub każdemu słowu liczbę między 0 a 1, a wszystkie razem dają 1 — dokładnie własności funkcji prawdopodobieństwa.
• Wiarygodność. Model uczy się tak, aby dane treningowe miały jak największe prawdopodobieństwo (dla danych dyskretnych) lub gęstość (dla ciągłych). Ujemny logarytm tej liczby to popularna funkcja straty.
• Wykrywanie anomalii. Model szacuje gęstość zwykłego ruchu; transakcja lub pomiar w miejscu o bardzo małej gęstości jest podejrzany.
• Modele generatywne uczą się gęstości obrazów, dźwięków czy tekstów — a nowy obraz jest próbką z tej wyuczonej gęstości.

9. Podsumowanie

• Zmienną dyskretną opisuje funkcja prawdopodobieństwa p(x) = P(X = x); słupki razem dają 1.
• Zmienna ciągła ma w każdym punkcie prawdopodobieństwo 0; sens ma prawdopodobieństwo na jednostkę długości — gęstość.
• Gęstość f jest pochodną dystrybuanty, a prawdopodobieństwo przedziału to pole pod nią — całka.
• Gęstość to nie prawdopodobieństwo i może być większa niż 1; całkowite pole pod nią zawsze wynosi 1.
• Histogram podzielony przez liczbę danych i szerokość klasy szacuje gęstość z danych.

Masz inne zdanie? Napisz na support@coden-app.com.