Náhodná veličina a distribuční funkce: jedna funkce, která o rozdělení řekne všechno

Co je náhodná veličina, rozdělení a distribuční funkce, čím se liší diskrétní a spojité veličiny a jak se distribuční funkce odhadne z dat.

12 minut Matěj Žalmánek 2026-10-15

Série Základy AI Díl 14 z 83

Celá osnova série 83 z 83 témat hotovo

Co si odnesete

Že náhodná veličina je obyčejná funkce, která výsledku pokusu přiřadí číslo.
Co je distribuční funkce, jaké má vlastnosti a jak z ní spočítat pravděpodobnost intervalu.
Čím se liší diskrétní a spojité veličiny a jak se distribuční funkce odhadne z dat.

Co se hodí znát předem: Co je pravděpodobnost: od hodu kostkou ke Kolmogorovovým axiomům, Funkce a zobrazení: proč je každý model v AI funkce

V dílu Co je pravděpodobnost jsme pracovali s jevy: „padl součet 7“, „padla šestka“. Jenže většinou nás nezajímá, jestli něco nastalo, ale kolik: kolik minut budeme čekat na autobus, kolik bude stát akcie, jakou teplotu ukáže teploměr. Na to matematika má náhodnou veličinu — a funkci, která o ní řekne úplně všechno.

1. Náhodná veličina

Definice — pravděpodobnostní prostor

Nechť Ω je neprázdná množina (prostor výsledků náhodného pokusu, viz díl Co je pravděpodobnost) a 2^Ω množina všech jejích podmnožin. Systém 𝓕 ⊆ 2^Ω je σ-algebra, právě když

Ω ∈ 𝓕;
je-li A ∈ 𝓕, pak A^c = Ω ∖ A ∈ 𝓕;
jsou-li A₁, A₂, … ∈ 𝓕, pak ⋃_i=1^∞ A_i ∈ 𝓕.

Nechť 𝓕 ⊆ 2^Ω je σ-algebra; její prvky nazýváme jevy. Funkce P : 𝓕 → ℝ je pravděpodobnost, právě když splňuje Kolmogorovovy axiomy:

P(A) ≥ 0 pro každé A ∈ 𝓕;
P(Ω) = 1;
pro každou posloupnost A₁, A₂, … ∈ 𝓕 s A_i ∩ A_j = ∅ pro všechna i ≠ j platí P(⋃_i=1^∞ A_i) = ∑_i=1^∞ P(A_i).

Pravděpodobnostní prostor je trojice

(Ω, 𝓕, P),

kde Ω je neprázdná množina, 𝓕 ⊆ 2^Ω je σ-algebra a P : 𝓕 → ℝ je pravděpodobnost. Z axiomů plyne 0 ≤ P(A) ≤ 1 pro každé A ∈ 𝓕, takže P zobrazuje do [0, 1].

Laicky řečeno

Výsledky, otázky, na které smíme odpovídat pravděpodobností, a samotná pravděpodobnost. U dvou kostek je 𝓕 prostě všech 2³⁶ podmnožin Ω. U nekonečných prostorů (třeba „náhodný bod úsečky“) se všem podmnožinám pravděpodobnost rozumně přiřadit nedá, a proto se 𝓕 vůbec zavádí: obsahuje jen ty množiny, se kterými se dá počítat — a je uzavřená na „ne“, „nebo“ (a tím i „a“).

Definice — náhodná veličina

Nechť (Ω, 𝓕, P) je pravděpodobnostní prostor. Náhodná veličina je funkce X : Ω → ℝ, která splňuje

∀x ∈ ℝ : {ω ∈ Ω : X(ω) ≤ x} ∈ 𝓕.

Funkce X je tedy náhodná veličina, právě když pro každé reálné x je množina výsledků, při kterých X vyjde nejvýš x, jev. Místo {ω ∈ Ω : X(ω) ≤ x} píšeme zkráceně {X ≤ x} a místo P({X ≤ x}) jen P(X ≤ x); obdobně {X = x}, {X ∈ B} atd.

Laicky řečeno

Náhodná veličina není nic náhodného ani žádná proměnná — je to obyčejná funkce, která každému výsledku pokusu přiřadí číslo. Náhoda je ve výsledku ω; veličina ho jen převede na číslo, se kterým se dá počítat. Podmínka v definici zaručuje, že se můžeme ptát „jaká je pravděpodobnost, že X ≤ x?“.

Na jednom pokusu může být veličin víc. Hod dvěma kostkami má 36 výsledků; S(ω) je součet obou kostek, N(ω) počet šestek. Výsledku (3, 6) přiřadí S číslo 9 a N číslo 1. Na obrázku je S jako funkce: každé políčko vlevo nese svou hodnotu a sloupec vpravo ukazuje, kolik políček na tu hodnotu padne.

Součet S přiřadí každému z 36 výsledků číslo 2 až 12

Příklad — jev {S ≤ 3} jako množina výsledků

Zápis {S ≤ 3} je zkratka za {ω ∈ Ω : S(ω) ≤ 3} — množinu výsledků, které funkce S pošle na číslo nejvýš 3 (říká se jí vzor intervalu (−∞, 3]).

{S ≤ 3} = {(1, 1), (1, 2), (2, 1)}, P(S ≤ 3) = 3/36 = 1/12

{S ≤ 1} = ∅, {S ≤ 12} = Ω

U dvou kostek je jevem každá množina výsledků, takže podmínka z definice je splněná automaticky.

2. Rozdělení náhodné veličiny

Definice — rozdělení náhodné veličiny

Nechť (Ω, 𝓕, P) je pravděpodobnostní prostor a X : Ω → ℝ náhodná veličina. Označme 𝓑 borelovskou σ-algebru na ℝ — nejmenší σ-algebru podmnožin ℝ, která obsahuje všechny intervaly (−∞, x], x ∈ ℝ (obsahuje pak i všechny ostatní intervaly, jednobodové množiny a jejich spočetná sjednocení). Z definice náhodné veličiny plyne {ω ∈ Ω : X(ω) ∈ B} ∈ 𝓕 pro každé B ∈ 𝓑. Rozdělení náhodné veličiny X je funkce P_X : 𝓑 → [0, 1],

P_X(B) = P(X ∈ B) = P({ω ∈ Ω : X(ω) ∈ B}) pro B ∈ 𝓑.

P_X je pravděpodobnost na (ℝ, 𝓑), tj. (ℝ, 𝓑, P_X) je pravděpodobnostní prostor. Rozdělení tedy každé množině čísel B přiřadí pravděpodobnost, že hodnota X padne do B.

Laicky řečeno

Rozdělení říká, jak se celková pravděpodobnost 1 rozdělí mezi možné hodnoty. U součtu dvou kostek dostane hodnota 7 šest políček ze 36, tedy 6/36, hodnoty 2 a 12 jen po jednom. Počet šestek N má jiné rozdělení: 0 s pravděpodobností 25/36, 1 s 10/36 a 2 s 1/36.

Jakmile známe rozdělení, na původních výsledcích ω už nezáleží. Dvě úplně různé hry mohou mít veličiny se stejným rozdělením — a pro výpočty jsou pak k nerozeznání.

P_X(B) = P({ω ∈ Ω : X(ω) ∈ B})

P_X(B): rozdělení — pravděpodobnost přímo na číslech; to, s čím chceme dál počítat
P: původní pravděpodobnost — umí měřit jen jevy na Ω, nová pravděpodobnost na ℝ si ji proto „půjčí“
{ω : X(ω) ∈ B}: vzor množiny B — všechny výsledky, které veličina pošle do B; tím se otázka o číslech převede zpátky na jev, který P umí změřit

Pravděpodobnost množiny čísel = pravděpodobnost všech výsledků, ze kterých ta čísla vzniknou.

Definice — pravděpodobnostní funkce

Nechť (Ω, 𝓕, P) je pravděpodobnostní prostor a X diskrétní náhodná veličina (definice v části Diskrétní a spojité veličiny), tj. existuje nejvýš spočetná množina H ⊆ ℝ s P(X ∈ H) = 1. Pravděpodobnostní funkce veličiny X je funkce p_X : ℝ → [0, 1],

p_X(x) = P(X = x) = P({ω ∈ Ω : X(ω) = x}).

Rozdělení je jí určené celé: pro každé B ∈ 𝓑 platí P(X ∈ B) = ∑_{x ∈ B ∩ H} p_X(x) — sčítáme přes možné hodnoty, které leží v B (jevy {X = x} jsou neslučitelné a jich je nejvýš spočetně, takže to plyne z aditivity).

Příklad — rozdělení součtu a počtu šestek

Součet s = a + b dají dvojice (a, s − a) s oběma čísly mezi 1 a 6. Pro s ≤ 7 je jich s − 1, pro s ≥ 7 je jich 13 − s; dohromady

p_S(s) = 6 − |s − 7|/36 pro s = 2, 3, …, 12

p_S(7) = 6/36, p_S(4) = p_S(10) = 3/36, ∑ = 1 + 2 + 3 + 4 + 5 + 6 + 5 + 4 + 3 + 2 + 1/36 = 36/36 = 1

Počet šestek N: žádná šestka znamená 5 možností na každé kostce, 5 · 5 = 25; právě jedna šestka 2 · 5 = 10 (šestka na první nebo na druhé, na té druhé jedno z 5 jiných čísel); dvě šestky 1. Kontrola: 25 + 10 + 1 = 36.

Pro konečný prostor výsledků se rozdělení dá spočítat prostým výčtem:

def rozdeleni(X, omega):
    # omega: seznam stejně pravděpodobných výsledků, X: funkce výsledek → číslo
    pocty = {}
    for w in omega:
        pocty[X(w)] = pocty.get(X(w), 0) + 1
    return {x: k / len(omega) for x, k in sorted(pocty.items())}

3. Distribuční funkce

Definice — distribuční funkce

Nechť (Ω, 𝓕, P) je pravděpodobnostní prostor a X : Ω → ℝ náhodná veličina. Distribuční funkce veličiny X je funkce F_X : ℝ → [0, 1],

F_X(x) = P(X ≤ x) = P({ω ∈ Ω : X(ω) ≤ x}) pro x ∈ ℝ.

Pravděpodobnost na pravé straně existuje, protože podle definice náhodné veličiny je {X ≤ x} ∈ 𝓕. Hodnota F_X(x) je tedy pravděpodobnost, že X vyjde nejvýš x. Kde je jasné, o kterou veličinu jde, píšeme jen F.

Laicky řečeno

Distribuční funkce v bodě x odpoví: „s jakou pravděpodobností vyjde nejvýš x?“ Pro součet dvou kostek je F(7) = 21/36 ≈ 0,583 — součet 7 a méně dává 1 + 2 + 3 + 4 + 5 + 6 = 21 políček.

U součtu kostek je distribuční funkce schodiště. Mezi hodnotami se nic nemění — F(7,5) je pořád 21/36, protože součet 7,5 padnout nemůže. V každé možné hodnotě funkce poskočí přesně o pravděpodobnost té hodnoty: v sedmičce o 6/36. Plný bod ukazuje, kolik funkce v místě skoku je; prázdný kroužek, kam se blížila zleva.

Distribuční funkce součtu dvou kostek F(7): 21/36 P(4 < S ≤ 7): 15/36

U diskrétní veličiny se distribuční funkce sečte z pravděpodobnostní funkce:

F_X(x) = ∑_{x_i ∈ (−∞, x]} p_X(x_i)

F_X(x): pravděpodobnost, že vyjde nejvýš x
∑_{x_i ∈ (−∞, x]}: projdeme všechny možné hodnoty x_i ≤ x, od nejmenší až po x včetně — jevy {X = x_i} se navzájem vylučují, takže se jejich pravděpodobnosti smějí sečíst; uzavřená závorka „]“ (tedy ≤, ne <) je důvod, proč schod v x_i už patří k hodnotě F(x_i)
p_X(x_i): pravděpodobnost jedné hodnoty — výška schodu v bodě x_i

Distribuční funkce je průběžný součet: hromadí pravděpodobnost zleva doprava.

F(7) = p(2) + p(3) + … + p(7) = 1 + 2 + 3 + 4 + 5 + 6/36 = 21/36 ≈ 0,583

F(2,5) = p(2) = 1/36, F(1,9) = 0 (prázdný součet), F(12) = 36/36 = 1

Věta — distribuční funkce určuje rozdělení

Nechť X a Y jsou náhodné veličiny (mohou být definované i na různých pravděpodobnostních prostorech) s rozděleními P_X, P_Y a distribučními funkcemi F_X, F_Y. Pak

(∀B ∈ 𝓑 : P_X(B) = P_Y(B)) ⇔ (∀x ∈ ℝ : F_X(x) = F_Y(x)).

Dvě náhodné veličiny tedy mají stejné rozdělení, právě když mají stejnou distribuční funkci.

Laicky řečeno

Jedna funkce s jednou proměnnou nese úplně všechno, co se o rozdělení dá vědět. Proto se jí říká „distribuční“ — popisuje, jak je pravděpodobnost rozdistribuovaná po číselné ose.

4. Vlastnosti distribuční funkce

Věta — vlastnosti distribuční funkce

Nechť X je náhodná veličina a F = F_X : ℝ → [0, 1] její distribuční funkce. Pak

F je neklesající: ∀x, y ∈ ℝ : x ≤ y ⇒ F(x) ≤ F(y);
lim_x→−∞ F(x) = 0 a lim_x→+∞ F(x) = 1;
F je zprava spojitá: ∀x ∈ ℝ : lim_y→x⁺ F(y) = F(x).

A naopak: je-li G : ℝ → ℝ libovolná funkce s vlastnostmi 1–3, pak existuje pravděpodobnostní prostor a na něm náhodná veličina X taková, že F_X = G.

Laicky řečeno

Schodiště jde jen nahoru (víc hodnot „nejvýš x“ přibývá, neubývá), začíná na nule a končí na jedničce (vlevo není nic, vpravo je všechno). Spojitost zprava je ten plný bod nahoře na schodu: F(7) už sedmičku zahrnuje, protože v definici je ≤.

Věta — pravděpodobnost intervalu

Nechť X je náhodná veličina s distribuční funkcí F a a, b ∈ ℝ, a < b. Pak

P(a < X ≤ b) = F(b) − F(a),

kde {a < X ≤ b} = {ω ∈ Ω : a < X(ω) ≤ b}. Důkaz je pod rozborem vzorce níže.

Laicky řečeno

Z „nejvýš b“ odečtete „nejvýš a“ a zbude „víc než a, ale nejvýš b“. Součet 5, 6 nebo 7: F(7) − F(4) = 21/36 − 6/36 = 15/36 ≈ 0,417 (barvy podle vzorce níže) — na obrázku oranžová úsečka vpravo.

P(a < X ≤ b) = F(b) − F(a)

P(a < X ≤ b): pravděpodobnost intervalu — zleva otevřeného, zprava uzavřeného; u diskrétní veličiny na tom záleží
F(b): všechno až po b včetně — horní mez se do intervalu počítá, proto ≤
F(a): odečteme všechno až po a včetně — proto je dolní mez ostrá (<): hodnota a sama v intervalu není

Důkaz: {X ≤ b} = {X ≤ a} ∪ {a < X ≤ b} jsou neslučitelné jevy, takže F(b) = F(a) + P(a < X ≤ b). ∎

Věta — pravděpodobnost jedné hodnoty je výška skoku

Nechť X je náhodná veličina s distribuční funkcí F a x ∈ ℝ. Označme F(x⁻) = lim_y→x⁻ F(y) limitu zleva (existuje, protože F je neklesající a omezená). Pak F(x⁻) = P(X < x) a

P(X = x) = F(x) − F(x⁻).

Důkaz. Pro y < x je F(x) − F(y) = P(y < X ≤ x); když y roste k x, intervaly se smršťují na jediný bod {x} a jejich pravděpodobnosti klesají k P(X = x) (spojitost pravděpodobnosti, plyne ze spočetné aditivity). ∎

P(S = 7) = F(7) − F(7⁻) = 21/36 − 15/36 = 6/36 (F(7⁻) = F(6) = 15/36)

P(4 ≤ S ≤ 7) = F(7) − F(4⁻) = 21/36 − 3/36 = 18/36 = 0,5 — o p(4) = 3/36 víc než P(4 < S ≤ 7)

5. Diskrétní a spojité veličiny

Definice — diskrétní náhodná veličina

Nechť (Ω, 𝓕, P) je pravděpodobnostní prostor a X : Ω → ℝ náhodná veličina. X je diskrétní, právě když existuje nejvýš spočetná (konečná nebo spočetná) množina H = {x₁, x₂, …} ⊆ ℝ navzájem různých čísel taková, že

P(X ∈ H) = ∑_i P(X = x_i) = 1.

Diskrétní veličina tedy s pravděpodobností 1 nabývá jen hodnot z nějakého konečného nebo spočetného seznamu.

Laicky řečeno

Hodnoty se dají spočítat na prstech (třeba i nekonečně dlouho): součet kostek, počet e-mailů za hodinu, které slovo napíše jazykový model. Distribuční funkce je schodiště.

Definice — spojitá náhodná veličina

Nechť X je náhodná veličina s distribuční funkcí F_X : ℝ → [0, 1]. X je spojitá, právě když je F_X spojitá v každém bodě, tj.

∀x ∈ ℝ : lim_y→x F_X(y) = F_X(x).

Podle věty o výšce skoku je pak P(X = x) = F_X(x) − F_X(x⁻) = 0 pro každé x ∈ ℝ. (Některé učebnice říkají „spojitá“ jen veličině, která má hustotu — ta je tématem příštího dílu; taková veličina je spojitá i v tomto smyslu.)

Laicky řečeno

Hodnoty vyplní celý interval: čas, délka, teplota. Distribuční funkce nemá žádný skok — a skok v bodě x by byl právě P(X = x). Proto má každá jednotlivá hodnota pravděpodobnost nula, i když nastat může.

Příklad: autobus jezdí každých 10 minut a vy přijdete na zastávku v náhodnou chvíli. Doba čekání X je spojitá a stejně pravděpodobná kdekoli mezi 0 a 10 minutami, takže F(x) = x/10 pro 0 ≤ x ≤ 10. Že budete čekat nejvýš 3 minuty, má pravděpodobnost F(3) = 0,3; že budete čekat 3 až 5 minut, F(5) − F(3) = 0,2. Ale že budete čekat přesně 3 minuty — ani o miliardtinu sekundy víc — má pravděpodobnost 0. Jak s tím počítat a co ukazuje funkce hustoty, je téma příštího dílu.

Definice — rovnoměrné rozdělení na intervalu

Nechť a, b ∈ ℝ, a < b, a X je náhodná veličina s distribuční funkcí F. X má rovnoměrné rozdělení na intervalu [a, b], právě když pro každé x ∈ ℝ

F(x) = 0 pro x < a, F(x) = x − a/b − a pro a ≤ x ≤ b, F(x) = 1 pro x > b.

Pravděpodobnost, že X padne do podintervalu [a, b], je tedy jeho délka dělená délkou [a, b].

Laicky řečeno

Pravděpodobnost úseku je úměrná jen jeho délce, ne tomu, kde leží: (x − a) je délka úseku od začátku, (b − a) délka celého intervalu. Autobus je případ a = 0, b = 10.

Příklad — proč je P(X = 3) přesně nula

Jev {X = 3} leží v každém intervalu (3 − ε, 3], ať je ε > 0 jakkoli malé. Pravděpodobnost podmnožiny nemůže být větší:

0 ≤ P(X = 3) ≤ F(3) − F(3 − ε) = 0,3 − 3 − ε/10 = ε/10

ε = 0,1 → nejvýš 0,01; ε = 0,001 → nejvýš 0,000 1; … tedy P(X = 3) = 0

Jediné číslo, které je ≥ 0 a zároveň menší než každé kladné ε/10, je nula.

6. Empirická distribuční funkce

Definice — empirická distribuční funkce

Nechť n ∈ ℕ, n ≥ 1, a x₁, …, x_n ∈ ℝ jsou naměřené hodnoty (mohou se opakovat). Pro konečnou množinu M značí |M| počet jejích prvků. Empirická distribuční funkce těchto hodnot je funkce F̂_n : ℝ → [0, 1],

F̂_n(x) = |{i ∈ {1, …, n} : x_i ≤ x}|/n pro x ∈ ℝ.

F̂_n(x) je tedy podíl naměřených hodnot, které jsou nejvýš x.

Laicky řečeno

Skutečnou distribuční funkci často neznáme — máme jen data. Empirická distribuční funkce je její odhad z dat: jaký podíl naměřených hodnot je nejvýš x. Každé měření přidá schod výšky 1/n.

Totéž se zapisuje pomocí indikátoru 𝟙[podmínka], který je 1, když podmínka platí, a 0, když ne — počítání se tak změní na sčítání:

F̂_n(x) = 1/n · ∑_i=1ⁿ 𝟙[x_i ≤ x]

F̂_n(x): odhad distribuční funkce z n měření — stříška značí odhad, ne skutečnou F
1/n: každé měření dostane stejnou váhu; dělení n udělá z počtu podíl, aby odhad šel od 0 do 1 jako skutečná F
∑_i=1ⁿ: projdeme všechna měření — žádné nevynecháme ani nezdvojíme
𝟙[x_i ≤ x]: hlasování jednoho měření: 1, pokud padlo „nejvýš x“, jinak 0 — stejná otázka, jakou klade F(x) = P(X ≤ x)

Relativní četnost jevu {X ≤ x} v datech — odhad jeho pravděpodobnosti.

Nasimulovali jsme 10, 100 a 1 000 čekání na autobus. Čárkovaná přímka je skutečná distribuční funkce x/10, barevné schodiště empirická funkce z dat:

Empirická distribuční funkce z 10, 100 a 1 000 čekání n = 10, největší odchylka: 0,268 n = 100, největší odchylka: 0,085 n = 1 000, největší odchylka: 0,025

Z deseti měření se odhad od skutečnosti liší až o 0,268, ze sta o 0,085 a z tisíce už jen o 0,025. Že se empirická distribuční funkce s přibývajícími daty přimkne ke skutečné, říká Glivenkova–Cantelliho věta — matematická záruka, že se z dat dá rozdělení naučit.

Příklad — deset čekání a největší odchylka

Simulace dala (seřazeno, zaokrouhleno na setiny minuty) 0,03; 2,81; 4,26; 5,27; 6,13; 6,27; 7,21; 9,68; 9,81; 9,95.

F̂₁₀(5) = 1/10 · (1 + 1 + 1 + 0 + … + 0) = 0,3, skutečně F(5) = 0,5 → rozdíl 0,2

těsně před 9,68: F̂₁₀ = 1/10 · 7 = 0,7, F(9,68) ≈ 0,968 → rozdíl ≈ 0,268

(barvy podle vzorce výše; v prvním řádku je deset sčítanců 𝟙[x_i ≤ 5])

Mezi 7,21 a 9,68 nepadlo žádné měření, schodiště tam stojí na 0,7, zatímco skutečná F stoupá dál — proto je odchylka největší právě tam.

Největší odchylka se nemusí hledat v každém bodě osy. Schodiště se mění jen v naměřených hodnotách a F mezi nimi roste, takže stačí v každém seřazeném měření porovnat F se schodem těsně nad ním i pod ním:

def nejvetsi_odchylka(data, F):
    x = sorted(data)
    n = len(x)
    d = 0
    for i in range(n):                    # i = 0, 1, …, n − 1
        d = max(d, (i + 1) / n - F(x[i]), # schod v x[i]: F̂ = (i + 1)/n
                   F(x[i]) - i / n)       # těsně pod x[i]: F̂ = i/n
    return d

Věta — Glivenkova–Cantelliho a jak rychle odchylka klesá

Nechť (Ω, 𝓕, P) je pravděpodobnostní prostor, F distribuční funkce a X₁, X₂, … : Ω → ℝ náhodné veličiny, které

mají všechny distribuční funkci F: F_{X_i} = F pro každé i ≥ 1;
jsou nezávislé: pro každé n ≥ 1 a všechna x₁, …, x_n ∈ ℝ platí P(X₁ ≤ x₁, …, X_n ≤ x_n) = F(x₁) · … · F(x_n) (srov. nezávislé jevy v dílu Podmíněná pravděpodobnost).

Pro n ≥ 1 a ω ∈ Ω nechť F̂_n je empirická distribuční funkce hodnot X₁(ω), …, X_n(ω) a

D_n = sup_{x ∈ ℝ} |F̂_n(x) − F(x)|.

Pak P(lim_n→∞ D_n = 0) = 1, tj. s pravděpodobností 1 platí D_n → 0 pro n → ∞.

Jak rychle, říká nerovnost Dvoreckého, Kiefera a Wolfowitze (1956) s konstantou 2, kterou dokázal P. Massart (1990): za stejných předpokladů pro každé n ≥ 1 a každé ε > 0 platí

P(D_n > ε) ≤ 2 exp(−2nε²).

Laicky řečeno

Položíme-li pravou stranu rovnou 5 %, vyjde ε = √ln 2/0,05/2n: s pravděpodobností aspoň 95 % je odchylka pod 0,429 pro 10 měření, pod 0,136 pro 100 a pod 0,043 pro 1 000. Naše 0,268, 0,085 a 0,025 se do toho vešly. Mez klesá jako 1/√n — desetkrát víc dat zmenší chybu jen asi třikrát. I v naší simulaci je √n · odchylka pokaždé zhruba stejná: 0,85, 0,85 a 0,80.

7. Náhodné veličiny v umělé inteligenci

Data jsou náhodné veličiny. Věk zákazníka, cena bytu, jas pixelu — model strojového učení předpokládá, že trénovací data jsou hodnoty náhodných veličin s nějakým neznámým rozdělením, a snaží se z nich to rozdělení (nebo jeho část) odhadnout.
Generování náhodných čísel z libovolného rozdělení. Počítač umí hlavně rovnoměrné číslo U mezi 0 a 1. Vezmeme nejmenší x, pro které F(x) ≥ U, a dostaneme hodnotu s rozdělením F. Pro U = 0,6 a součet kostek: F(7) ≈ 0,583 je ještě málo, F(8) = 26/36 ≈ 0,722 už stačí — padne 8. Tak vybírá i jazykový model další slovo.
Kvantily a medián. Medián je hodnota, kde F poprvé dosáhne 0,5: u součtu kostek je to 7. Když se o serveru píše „95 % požadavků odpoví do 200 ms“, říká se tím F(200 ms) ≥ 0,95.
Generativní modely (difuzní modely, VAE) začínají z náhodného šumu — vektoru náhodných veličin se známým rozdělením — a učí se ho převést na obrázek nebo text.

Kvantily a generování z rozdělení

Definice — kvantilová funkce

Nechť F : ℝ → [0, 1] je distribuční funkce (nějaké náhodné veličiny). Kvantilová funkce (zobecněná inverze F) je funkce F⁻¹ : (0, 1) → ℝ,

F⁻¹(u) = min {x ∈ ℝ : F(x) ≥ u} pro u ∈ (0, 1).

Minimum existuje: množina {x ∈ ℝ : F(x) ≥ u} je neprázdná (protože F(x) → 1 > u pro x → +∞), zdola omezená (protože F(x) → 0 < u pro x → −∞) a díky monotonii a spojitosti F zprava je to interval tvaru [c, ∞), který své infimum c obsahuje.

Pro u ∈ (0, 1) je hodnota F⁻¹(u) u-kvantil rozdělení s distribuční funkcí F; F⁻¹(0,5) je medián. Kvantil je tedy nejmenší číslo, pro které je pravděpodobnost „nejvýš tolik“ aspoň u.

Laicky řečeno

Distribuční funkce odpovídá na „jaká je šance, že vyjde nejvýš x?“, kvantilová funkce na opačnou otázku: „kam až musím jít, abych měl šanci aspoň u?“. Kde je F rostoucí a spojitá, je to obyčejná inverzní funkce; na schodišti se bere první schod, který u dosáhne. Medián součtu: F(6) = 15/36 ≈ 0,417 nestačí, F(7) ≈ 0,583 už ano — medián je 7.

Věta — metoda inverzní transformace

Nechť F : ℝ → [0, 1] je distribuční funkce, F⁻¹ : (0, 1) → ℝ její kvantilová funkce a U : Ω → (0, 1) náhodná veličina s rovnoměrným rozdělením na [0, 1] (hodnoty 0 a 1 mají pravděpodobnost 0, takže je smíme vynechat). Pak X = F⁻¹ ∘ U, tj. X(ω) = F⁻¹(U(ω)), je náhodná veličina a

F_X(x) = F(x) pro každé x ∈ ℝ.

Důkaz. Z definice minima a monotonie F plyne F⁻¹(u) ≤ x ⇔ u ≤ F(x). Proto P(X ≤ x) = P(U ≤ F(x)) = F(x), protože u rovnoměrného U je P(U ≤ t) = t. ∎

def vzorek(hodnoty, F, u):
    # hodnoty vzestupně, F(x) = P(X ≤ x), u = rovnoměrné náhodné číslo z (0, 1)
    for x in hodnoty:
        if F(x) >= u:          # první schod, který u dosáhne
            return x

součet kostek, u = 0,6: F(7) = 21/36 ≈ 0,583 < 0,6, F(8) = 26/36 ≈ 0,722 ≥ 0,6 → 8

čekání na autobus: u = F(x) = x/10 ⇒ F⁻¹(u) = 10u, u = 0,6 → 6 minut; medián je 5 minut

8. Shrnutí

Náhodná veličina je funkce, která výsledku pokusu přiřadí číslo.
Rozdělení říká, jak se pravděpodobnost rozdělí mezi hodnoty; distribuční funkce F(x) = P(X ≤ x) ho určuje celé.
F je neklesající, jde od 0 do 1, je zprava spojitá a P(a < X ≤ b) = F(b) − F(a).
Diskrétní veličina má schodovitou F; spojitá má F bez skoků a každá jednotlivá hodnota má pravděpodobnost 0.
Empirická distribuční funkce odhaduje F z dat a s rostoucím počtem měření se k ní blíží.

Máte na to jiný názor? Napište na support@coden-app.com.

Náhodná veličina a distribuční funkce: jedna funkce, která o rozdělení řekne všechno

1. Náhodná veličina

2. Rozdělení náhodné veličiny

3. Distribuční funkce

4. Vlastnosti distribuční funkce

5. Diskrétní a spojité veličiny

6. Empirická distribuční funkce

7. Náhodné veličiny v umělé inteligenci

Kvantily a generování z rozdělení

8. Shrnutí

Agent na vašem počítači, ovládaný z telefonu