Statistika a odhady parametrů: maximální věrohodnost, MAP a intervaly spolehlivosti

Výběr, odhad, nestrannost a proč výběrový rozptyl dělí n − 1, metoda maximální věrohodnosti, bayesovský odhad MAP a intervaly spolehlivosti — a proč je trénování neuronové sítě odhad parametrů.

14 minut Matěj Žalmánek 2026-10-15

Série Základy AI Díl 19 z 83

Celá osnova série 83 z 83 témat hotovo

Co si odnesete

Co je odhad parametru, kdy je nestranný a konzistentní a proč výběrový rozptyl dělí n − 1.
Jak funguje metoda maximální věrohodnosti a bayesovský odhad MAP — a proč je to trénování a regularizace.
Co přesně znamená 95% interval spolehlivosti a jaký je častý omyl při jeho čtení.

Co se hodí znát předem: Zákon velkých čísel a centrální limitní věta: proč se průměry chovají tak předvídatelně

Teorie pravděpodobnosti jde od modelu k datům: když víte, že mince je férová, spočítáte, co padne. Statistika jde opačně — od dat k modelu: padlo 6 rubů z 20, jaká je ta mince? A přesně tohle dělá strojové učení. Model má parametry, data jsou to, co padlo, a trénování je odhad parametrů. Tenhle díl ukáže, co je dobrý odhad, odkud se bere metoda maximální věrohodnosti, na které stojí skoro každá ztrátová funkce, a jak poctivě říct, jak moc si odhadem můžeme být jistí.

Navazuje na díl Zákon velkých čísel a centrální limitní věta.

1. Výběr, statistika, odhad

Definice — náhodný výběr

Nechť (Ω, 𝓕, P) je pravděpodobnostní prostor, Θ ⊆ ℝ^d množina možných hodnot parametru (parametrický prostor) a pro každé θ ∈ Θ je f(·; θ) hustota, nebo pravděpodobnostní funkce, nějakého rozdělení na ℝ. Nechť n ∈ ℕ, n ≥ 1, a θ ∈ Θ. Náhodný výběr rozsahu n z rozdělení f(·; θ) je n-tice náhodných veličin X₁, …, X_n : Ω → ℝ, pro kterou platí

X₁, …, X_n jsou nezávislé: pro všechna x₁, …, x_n ∈ ℝ je P(X₁ ≤ x₁, …, X_n ≤ x_n) = ∏_i=1ⁿ P(X_i ≤ x_i);
každá z veličin X_i, i = 1, …, n, má rozdělení s hustotou (pravděpodobnostní funkcí) f(·; θ).

Hodnota θ je pevná, ale neznámá. Čísla x_i = X_i(ω), i = 1, …, n, naměřená při konkrétním výsledku ω ∈ Ω, nazýváme realizace výběru (naměřená data).

Laicky řečeno

Data, která máme k dispozici, chápeme jako náhodně vytažená z nějakého rozdělení. Typ rozdělení si zvolíme (třeba Bernoulliho — spam ano/ne), ale jeho parametr (jaká část pošty je spam) neznáme a chceme ho z dat zjistit.

Definice — statistika a odhad

Nechť X₁, …, X_n je náhodný výběr z rozdělení f(·; θ) s neznámým parametrem θ ∈ Θ ⊆ ℝ^d. Statistika je náhodná veličina (pro k > 1 náhodný vektor)

T = t(X₁, …, X_n),

kde t : ℝⁿ → ℝ^k je funkce, jejíž předpis nezávisí na θ (a je měřitelná, aby T byla náhodná veličina). Odhad parametru θ je statistika θ̂ = t(X₁, …, X_n) s hodnotami v ℝ^d, kterou používáme jako přibližnou hodnotu θ. Číslo t(x₁, …, x_n) spočtené z realizace se nazývá odhadnutá hodnota (často také jen odhad).

Statistika je tedy cokoli, co se dá spočítat ze samotných dat, bez znalosti θ.

Laicky řečeno

Statistika je jakýkoli výpočet z dat: průměr, maximum, medián, podíl spamu. Odhad je statistika s úkolem — trefit neznámý parametr. Protože data jsou náhodná, je náhodný i odhad: s jinými daty by vyšel jinak. Proto se ptáme, jak se odhady chovají v průměru a s přibývajícími daty.

Definice — výběrový průměr

Nechť X₁, …, X_n (n ≥ 1) je náhodný výběr. Výběrový průměr je statistika

X̄ = 1/n ∑_i=1ⁿ X_i.

Pro realizaci x₁, …, x_n píšeme x̄ = 1/n ∑_i=1ⁿ x_i.

Má-li rozdělení konečnou střední hodnotu μ = E[X₁] a rozptyl σ² = var X₁, je E[X̄] = μ a var X̄ = σ²/n (díl o limitních větách): rozptyl součtu nezávislých veličin je součet rozptylů, tedy nσ², a vynásobení konstantou 1/n ho zmenší n²krát.

Příklad — průměr pěti čekání na e-mail

Naměřená čekání (minuty): 1,2; 3,5; 0,4; 2,1; 2,8. Součet je 10, takže x̄ = 10/5 = 2 minuty. S těmito daty počítáme i dál.

2. Dobrý odhad: nestrannost a konzistence

Definice — nestranný odhad

Nechť X₁, …, X_n je náhodný výběr z rozdělení f(·; θ), θ ∈ Θ ⊆ ℝ, a θ̂ je odhad θ. Symboly E_θ, var_θ a P_θ značí střední hodnotu, rozptyl a pravděpodobnost spočtené za předpokladu, že skutečná hodnota parametru je θ. Nechť E_θ[θ̂] existuje pro každé θ ∈ Θ. Vychýlení odhadu θ̂ je funkce b : Θ → ℝ,

b(θ) = E_θ[θ̂] − θ.

Odhad θ̂ je nestranný, právě když b(θ) = 0 pro všechna θ, tj.

∀θ ∈ Θ : E_θ[θ̂] = θ.

Nestranný odhad tedy v průměru přes všechna možná data míří přesně na θ, ať je skutečné θ jakékoli. Kde nehrozí nedorozumění, index θ dál vynecháváme.

Laicky řečeno

Nestranný odhad se v jednotlivých pokusech mýlí na obě strany, ale v průměru míří přesně. Výběrový průměr je nestranný odhad střední hodnoty — to jsme viděli v minulém dílu.

Definice — konzistentní odhad

Nechť X₁, X₂, … jsou nezávislé veličiny s rozdělením f(·; θ), θ ∈ Θ ⊆ ℝ, a pro každé n ≥ 1 je θ̂_n odhad θ z výběru X₁, …, X_n. Posloupnost odhadů (θ̂_n)_n≥1 je konzistentní, právě když

∀θ ∈ Θ ∀ε > 0 : lim_n→∞ P_θ(|θ̂_n − θ| ≥ ε) = 0,

tj. θ̂_n konverguje k θ v pravděpodobnosti. Pravděpodobnost, že se odhad od skutečné hodnoty liší aspoň o ε, tedy s rostoucím n klesá k nule, ať je ε jakkoli malé.

Laicky řečeno

S dost velkým množstvím dat se odhad trefí libovolně přesně. Výběrový průměr je konzistentní — to je přesně zákon velkých čísel.

Nestrannost není samozřejmost. Rozptyl se nabízí odhadnout jako průměrnou čtvercovou odchylku od průměru, 1/n ∑ (X_i − X̄)². Jenže ten odhad rozptyl soustavně podhodnocuje: odchylky měříme od X̄, které se datům přizpůsobilo, místo od skutečného μ.

Věta — výběrový rozptyl

Nechť X₁, …, X_n (n ≥ 2) je náhodný výběr z rozdělení se střední hodnotou μ a konečným rozptylem σ² a X̄ je jeho výběrový průměr. Pak

E[1/n ∑_i=1ⁿ (X_i − X̄)²] = n − 1/n σ².

Proto výběrový rozptyl

s² = 1/n − 1 ∑_i=1ⁿ (X_i − X̄)²

splňuje E[s²] = σ², tj. je nestranným odhadem σ².

Důkaz. Rozepíšeme X_i − X̄ = (X_i − μ) − (X̄ − μ). Protože ∑ (X_i − μ) = n(X̄ − μ), vyjde po roznásobení

∑ (X_i − X̄)² = ∑ (X_i − μ)² − 2(X̄ − μ) ∑ (X_i − μ) + n(X̄ − μ)² = ∑ (X_i − μ)² − n(X̄ − μ)².

Střední hodnota prvního součtu je nσ², protože E[(X_i − μ)²] = var X_i = σ². Protože E[X̄] = μ, je E[(X̄ − μ)²] = var X̄ = σ²/n, takže střední hodnota druhého členu je n · σ²/n = σ². Celkem E[∑ (X_i − X̄)²] = (n − 1)σ²; vydělením n dostaneme první rovnost, vydělením n − 1 rovnost E[s²] = σ². ∎

Laicky řečeno

Dělit se má n − 1, ne n (Besselova korekce). Jeden „stupeň volnosti“ spotřebujeme na odhad průměru. U malých výběrů je rozdíl znát — u pěti hodnot je dělení pěti o pětinu vedle —, u milionu hodnot nehraje roli.

s² = 1/n − 1 · ∑_i=1ⁿ (X_i − X̄)²

1/n − 1: z celkového součtu udělá průměr — ale dělí o jedničku menším číslem, protože odchylky od X̄ vycházejí soustavně menší než od μ; právě tohle vychýlení vyrovná
∑_i=1ⁿ: každé pozorování přispěje svou odchylkou; rozptyl je vlastnost celých dat, ne jedné hodnoty
X_i − X̄: jak daleko je pozorování od středu; μ neznáme, tak měříme od jeho odhadu X̄
²: čtverec — aby se odchylky nahoru a dolů neodečetly (jejich součet je vždy 0) a velké odchylky vážily víc

Průměrná čtvercová odchylka od průměru, opravená na to, že průměr jsme odhadli z týchž dat.

Příklad — výběrový rozptyl pěti čekání

Průměr je 2. Odchylky x_i − x̄: −0,8; 1,5; −1,6; 0,1; 0,8 (součet 0). Jejich čtverce sečtené: 0,64 + 2,25 + 2,56 + 0,01 + 0,64 = 6,10 (barvy podle vzorce výše).

s² = 1/4 · 6,10 = 1,525 min², kdežto dělení n dá 6,10/5 = 1,22 min². Směrodatná odchylka s = √1,525 ≈ 1,23 minuty.

Ověřme to: 2 000krát jsme hodili pěti kostkami a pokaždé spočítali oba odhady rozptylu. Skutečný rozptyl kostky je 35/12 ≈ 2,92. Průměr odhadů s dělením n skončil na 2,38 (míří na 4/5 · 2,92 ≈ 2,33), s dělením n − 1 na 2,97:

Průměr odhadů rozptylu přes 2 000 výběrů po pěti hodech dělení n: 2,38 dělení n − 1: 2,97

Vychýlení odhadu s dělením n je tedy E[θ̂] − θ = (4/5 − 1) · 35/12 = −7/12 ≈ −0,58 oka². Nestrannost ale není všechno: odhad může mířit v průměru přesně, a přesto hodně kolísat. Obojí spojuje jedna míra.

Věta — rozklad střední kvadratické chyby

Nechť θ ∈ ℝ je skutečná hodnota parametru a θ̂ jeho odhad s konečným rozptylem var θ̂. Střední kvadratická chyba odhadu θ̂ je číslo

MSE(θ̂) = E[(θ̂ − θ)²].

Pak platí

MSE(θ̂) = (E[θ̂] − θ)² + var θ̂,

tj. střední kvadratická chyba je součet čtverce vychýlení a rozptylu odhadu.

Důkaz. Označme m = E[θ̂]. Pak θ̂ − θ = (θ̂ − m) + (m − θ), kde m − θ je konstanta, a (θ̂ − θ)² = (θ̂ − m)² + 2(m − θ)(θ̂ − m) + (m − θ)². Z linearity střední hodnoty je smíšený člen 2(m − θ) · E[θ̂ − m] = 0, protože E[θ̂ − m] = m − m = 0. Zbude E[(θ̂ − m)²] + (m − θ)² = var θ̂ + (E[θ̂] − θ)². ∎

E[(θ̂ − θ)²] = (E[θ̂] − θ)² + var θ̂

E[(θ̂ − θ)²]: jak daleko je odhad od pravdy v průměru přes všechna možná data — to, co nás nakonec zajímá
(E[θ̂] − θ)²: vychýlení na druhou: soustavná chyba, kterou neodstraní žádné opakování — míříme vedle
var θ̂: rozptyl odhadu: jak moc se odhad mění s náhodou v datech — míříme správně, ale třeseme se

Celková chyba = soustavná chyba + rozkolísanost. Snížit jedno za cenu druhého se může vyplatit — to je dilema vychýlení a rozptylu.

3. Metoda maximální věrohodnosti

Definice — věrohodnostní funkce

Nechť Θ ⊆ ℝ^d je parametrický prostor, pro každé θ ∈ Θ je f(·; θ) hustota, nebo pravděpodobnostní funkce, a x₁, …, x_n ∈ ℝ (n ≥ 1) jsou naměřená data — realizace náhodného výběru z rozdělení f(·; θ). Věrohodnostní funkce je funkce L : Θ → [0, ∞),

L(θ) = ∏_i=1ⁿ f(x_i; θ).

Pro θ, ve kterých je L(θ) > 0, definujeme log-věrohodnost

ℓ(θ) = ln L(θ) = ∑_i=1ⁿ ln f(x_i; θ).

Data jsou pevná a proměnná je θ. U diskrétního rozdělení je L(θ) pravděpodobnost, že výběr nabude právě hodnot x₁, …, x_n, je-li parametr roven θ; součin je tam díky nezávislosti.

Laicky řečeno

Data jsou pevná, měníme parametr a ptáme se: „kdyby parametr byl θ, jak pravděpodobná by byla přesně tahle data?“ Pro nezávislá pozorování se pravděpodobnosti násobí. Pozor, L(θ) není pravděpodobnost parametru — přes θ nemusí dávat součet 1.

Definice — odhad maximální věrohodnosti

Nechť L : Θ → [0, ∞) je věrohodnostní funkce dat x₁, …, x_n. Odhad maximální věrohodnosti (MLE) je hodnota θ̂ ∈ Θ, pro kterou

∀θ ∈ Θ : L(θ̂) ≥ L(θ), tj. θ̂ = argmax_{θ ∈ Θ} L(θ).

Maximum nemusí existovat a nemusí být jediné; definice předpokládá, že existuje. Protože ln je na (0, ∞) rostoucí, platí pro L(θ̂), L(θ) > 0 ekvivalence L(θ̂) ≥ L(θ) ⇔ ℓ(θ̂) ≥ ℓ(θ), takže

θ̂ = argmax_{θ ∈ Θ} ℓ(θ) = argmax_{θ ∈ Θ} ∑_i=1ⁿ ln f(x_i; θ).

Chápeme-li θ̂ jako funkci dat, je to odhad ve smyslu definice výše: parametr, při kterém jsou naměřená data nejvěrohodnější.

Laicky řečeno

Vyberte parametr, se kterým jsou naměřená data nejpravděpodobnější. Logaritmus promění součin na součet — s tím se lépe počítá a počítači nepřetečou malá čísla.

Ze 20 e-mailů bylo 6 spam. Pro podíl spamu p je L(p) = p⁶(1 − p)¹⁴. Derivace logaritmu 6/p − 14/1 − p je nulová pro p̂ = 6/20 = 0,3 — přesně podíl spamu v datech (barvy podle vzorce níže). Obecně pro k úspěchů z n vyjde p̂ = k/n. Se 60 spamy z 200 je odhad stejný, ale vrchol je mnohem užší: data o parametru říkají víc.

ℓ(p) = k · ln p + (n − k) · ln(1 − p)

ℓ(p): log-věrohodnost, ln L(p); má maximum ve stejném bodě jako L, ale je to součet místo součinu, takže se dá snadno derivovat
k: počet spamů — každý spam přispěl do součinu činitelem p, logaritmus z k stejných činitelů udělá k-násobek
ln p: „odměna“ za jeden spam: roste s p, takže spamy táhnou odhad nahoru
(n − k): počet ostatních e-mailů — stejný důvod jako u k, jen pro druhý výsledek
ln(1 − p): „odměna“ za jeden ne-spam: klesá s p, ostatní e-maily táhnou odhad dolů; maximum je tam, kde se oba tahy vyrovnají

Log-věrohodnost Bernoulliho výběru x₁, …, x_n ∈ {0, 1} s k = ∑ x_i úspěchy z n a parametrem p ∈ (0, 1).

Příklad — odvození p̂ = k/n

Nechť 0 < k < n. Derivace na (0, 1): ℓ′(p) = k/p − n − k/1 − p. Položíme ji rovnou nule a vynásobíme p(1 − p) > 0: k(1 − p) = (n − k)p, tedy k = np a p̂ = k/n.

Je to maximum: ℓ″(p) = −k/p² − n − k/(1 − p)² < 0 na celém (0, 1), funkce je konkávní.

Pro 6 z 20: ℓ′(0,3) = 6/0,3 − 14/0,7 = 20 − 20 = 0. ✓

Věrohodnost podílu spamu p (vydělená svým maximem) 6 z 20 60 z 200

Příklad — jak úzký je vrchol

Porovnejme p = 0,4 s nejlepším p̂ = 0,3. Pro 6 z 20 odečteme ℓ(0,4) − ℓ(0,3) člen po členu (barvy podle vzorce ℓ(p) výše): ln L(0,4)/L(0,3) = 6 · ln 4/3 + 14 · ln 6/7 = 1,726 − 2,158 = −0,432, tedy poměr věrohodností e^−0,432 ≈ 0,65. Hodnota 0,4 je s daty pořád dobře slučitelná.

Pro 60 z 200 jsou oba exponenty desetkrát větší, takže i logaritmus poměru je desetkrát větší: −4,32 a poměr 0,013. Desetkrát víc dat a hodnota 0,4 je najednou asi 49krát méně věrohodná než předtím.

Totéž říká směrodatná chyba odhadu — směrodatná odchylka odhadu jako náhodné veličiny. Pro p̂ = k/n je var p̂ = p(1 − p)/n, takže √0,3 · 0,7/20 ≈ 0,102 a √0,3 · 0,7/200 ≈ 0,032: desetkrát víc dat zúží nejistotu √10 ≈ 3,16krát.

Rovnici ℓ′(p) = 0 jsme vyřešili ručně. U neuronové sítě s miliony parametrů to nejde a maximum se hledá krok za krokem — stoupáním ve směru derivace:

mle_gradientem(k, n, p, η, tolerance):
    opakuj:
        sklon ← k/p − (n − k)/(1 − p)      # ℓ′(p): kudy log-věrohodnost roste
        jestliže |sklon| < tolerance:      # vrchol: dál už stoupat nejde
            vrať p
        p ← p + η · sklon                   # krok do kopce, úměrný strmosti

Pro 6 z 20 se startem p = 0,5 a η = 0,005: sklon −16, takže p = 0,5 + 0,005 · (−16) = 0,42; pak sklon −9,85 a p = 0,371; pak 0,340, 0,322… Po 16 krocích je sklon pod 0,001 a p = 0,30001. Kroky se samy zkracují, protože blízko vrcholu je log-věrohodnost plochá. Trénování sítí je tentýž postup, jen „dolů“ po záporné log-věrohodnosti (díl Gradientní sestup).

Pro čekání na e-mail s exponenciálním rozdělením vyjde metodou maximální věrohodnosti λ̂ = 1/X̄. Z pěti naměřených čekání 1,2; 3,5; 0,4; 2,1 a 2,8 minuty je průměr 2 minuty a λ̂ = 0,5 za minutu.

Příklad — odvození λ̂ = 1/X̄

Exponenciální rozdělení s parametrem λ > 0 má hustotu f(x; λ) = λe^−λx pro x ≥ 0. Pro data x₁, …, x_n ≥ 0 je log-věrohodnost

ℓ(λ) = ∑ ln(λe^−λx_i) = n ln λ − λ ∑ x_i.

ℓ′(λ) = n/λ − ∑ x_i = 0 dává λ̂ = n/∑ x_i = 1/x̄; ℓ″(λ) = −n/λ² < 0, je to maximum. S našimi daty: λ̂ = 5/10 = 0,5 za minutu — v průměru jeden e-mail za 2 minuty.

4. Bayesovský odhad MAP

Definice — maximální aposteriorní odhad

Nechť Θ ⊆ ℝ^d je parametrický prostor, L : Θ → [0, ∞) věrohodnostní funkce dat x₁, …, x_n a π : Θ → [0, ∞) apriorní hustota parametru, tj. ∫_Θ π(θ) dθ = 1 — parametr chápeme jako náhodnou veličinu a π vyjadřuje, co o něm předpokládáme před pozorováním dat. Maximální aposteriorní odhad (MAP) je hodnota θ̂_MAP ∈ Θ, pro kterou

∀θ ∈ Θ : L(θ̂_MAP) · π(θ̂_MAP) ≥ L(θ) · π(θ), tj. θ̂_MAP = argmax_{θ ∈ Θ} L(θ) · π(θ).

Podle Bayesovy věty je aposteriorní hustota parametru po pozorování dat (je-li jmenovatel konečný a kladný)

π(θ | x₁, …, x_n) = L(θ) · π(θ)/∫_Θ L(θ′) π(θ′) dθ′;

jmenovatel na θ nezávisí, takže MAP je bod, ve kterém aposteriorní hustota nabývá maxima (modus aposteriorního rozdělení).

Laicky řečeno

Bayesova věta z dílu o podmíněné pravděpodobnosti pro parametry: aposteriorní ∝ věrohodnost × apriorní. MAP vybere nejpravděpodobnější parametr po zohlednění toho, co jsme si mysleli předem. Když dáme předem malou váhu extrémům (apriorní hustota úměrná p(1 − p)), vyjde podíl spamu 7/22 ≈ 0,318 — odhad se trochu stáhne ke středu. S přibývajícími daty vliv apriorního rozdělení mizí.

θ̂_MAP = argmax_θ [ ln L(θ) + ln π(θ) ]

ln L(θ): co říkají data — log-věrohodnost z metody maximální věrohodnosti; roste s počtem pozorování
ln π(θ): co jsme si mysleli předem; nezávisí na datech, a proto ho s přibývajícími daty první člen přehluší

Logaritmus součinu L(θ) · π(θ): MAP je MLE s přidaným členem za apriorní představu.

Příklad — MAP pro podíl spamu

Apriorní hustota π(p) = 6p(1 − p) na [0, 1] (rozdělení Beta(2, 2); šestka zajistí, že integrál je 1, na poloze maxima nezáleží). Pak

L(p) · π(p) = 6 · p⁶(1 − p)¹⁴ · p(1 − p) = 6p⁷(1 − p)¹⁵.

Derivace logaritmu po členech (barvy podle vzorce výše): 6/p − 14/1 − p + 1/p − 1/1 − p = 7/p − 15/1 − p = 0 dává p̂ = 7/22 ≈ 0,318. Obecně k + 1/n + 2: jako by k datům přibyl jeden spam a jeden ne-spam navíc.

Pro 60 z 200 vyjde 61/202 ≈ 0,302 — od MLE 0,3 už jen o 0,002 místo 0,018.

5. Interval spolehlivosti

Definice — interval spolehlivosti

Nechť X₁, …, X_n je náhodný výběr z rozdělení s parametrem θ ∈ Θ ⊆ ℝ, α ∈ (0, 1) a T₁, T₂ jsou statistiky, pro které T₁ ≤ T₂. Náhodný interval (T₁, T₂) je interval spolehlivosti pro θ o spolehlivosti 1 − α, právě když

∀θ ∈ Θ : P_θ(T₁ < θ < T₂) = 1 − α.

Platí-li rovnost jen v limitě, lim_n→∞ P_θ(T₁ < θ < T₂) = 1 − α (meze pak závisejí na n), jde o asymptotický (přibližný) interval spolehlivosti. Náhodné jsou meze T₁, T₂; parametr θ je pevné číslo.

Laicky řečeno

Místo jednoho čísla dáte rozmezí a k němu záruku: postup, kterým rozmezí počítáte, trefí skutečný parametr v 95 % případů. Náhodné jsou konce intervalu, ne parametr.

Pro střední hodnotu a dost velké n dává centrální limitní věta přibližný (asymptotický) 95% interval X̄ ± 1,96 · s/√n. Čtyřicetkrát jsme hodili 40 kostkami a z každého výběru spočítali interval. Svislá čára je skutečná střední hodnota 3,5:

40 intervalů spolehlivosti ze 40 výběrů po 40 hodechobsahuje μ: 38/40

Skutečnou hodnotu obsahuje 38 ze 40 intervalů — 95 %. Ve 20 000 opakováních to bylo 94,1 %, trochu pod slibovanými 95 %, protože σ odhadujeme z dat a n = 40 ještě není nekonečno.

X̄ ± 1,96 · s/√n

X̄: střed intervalu — nejlepší bodový odhad μ, kolem něj se nejistota rozkládá souměrně
1,96: kolik směrodatných chyb přidat na každou stranu, aby se trefilo 95 %: pro normované normální rozdělení je P(−1,96 < Z < 1,96) ≈ 0,95 (Φ(1,96) ≈ 0,975, hodnota ze statistických tabulek); pro 99 % by to bylo 2,576
s: výběrová směrodatná odchylka — jak moc kolísají jednotlivá pozorování; skutečné σ neznáme, tak dosadíme odhad (proto pokrytí vyšlo trochu pod 95 %)
√n: průměr kolísá √nkrát méně než jedno pozorování (var X̄ = σ²/n); čtyřikrát víc dat interval zúží na polovinu

s/√n je směrodatná chyba průměru; podle centrální limitní věty je X̄ přibližně normální, a proto stačí kvantil normálního rozdělení.

Příklad — první interval z obrázku

V prvním výběru 40 hodů vyšel průměr x̄ = 3,525 a s ≈ 1,768. Směrodatná chyba je 1,768/√40 = 1,768/6,325 ≈ 0,280, krát 1,96 je 0,548 (barvy podle vzorce výše).

Interval: (3,525 − 0,548; 3,525 + 0,548) = (2,977; 4,073). Obsahuje 3,5 — tenhle výběr se trefil.

Pokrytí 94,1 % je výsledek tohoto pokusu:

pokryti(pocet, n):
    trefy ← 0
    opakuj pocet-krát:
        x ← n hodů kostkou                      # nový náhodný výběr
        polovina ← 1,96 · s(x) / √n
        jestliže x̄ − polovina ≤ 3,5 ≤ x̄ + polovina:
            trefy ← trefy + 1                   # interval obsahuje skutečné μ
    vrať trefy / pocet                          # podíl intervalů, které se trefily

Častý omyl: „s pravděpodobností 95 % leží μ v intervalu (3,2; 3,9)“. U jednoho konkrétního intervalu μ buď uvnitř je, nebo není. Těch 95 % je vlastnost postupu — kolik intervalů z mnoha opakování se trefí. Tvrzení o pravděpodobnosti parametru dává až bayesovský přístup.

6. Odhady v umělé inteligenci

Trénování je odhad maximální věrohodnosti. Křížová entropie u klasifikace je záporný logaritmus věrohodnosti vydělený počtem příkladů a střední kvadratická chyba je totéž pro data s normálním šumem. Minimalizovat ztrátu = maximalizovat věrohodnost.
Regularizace je MAP. Penalizace vah λ‖w‖² (L2, weight decay) odpovídá normálnímu apriornímu rozdělení vah, L1 Laplaceovu. Apriorní představa „váhy mají být malé“ brzdí přeučení.
Vychýlení a rozptyl modelu. Model je odhad; složité modely mají malé vychýlení, ale velký rozptyl (přeučení), jednoduché naopak. Regularizace obětuje trochu vychýlení za menší rozptyl.
Testovací sada a interval spolehlivosti. Přesnost na testovacích datech je odhad skutečné přesnosti; bez intervalu spolehlivosti nepoznáte, jestli je rozdíl dvou modelů skutečný. Batch normalization odhaduje průměr a rozptyl z každé dávky a jazykové modely jsou natrénované jako MLE: maximalizují věrohodnost dalšího slova.

Věta — střední kvadratická chyba je MLE pro normální šum

Nechť n ≥ 1, σ > 0 je pevné, y₁, …, y_n ∈ ℝ jsou naměřené hodnoty a ŷ_i(w) ∈ ℝ, i = 1, …, n, předpovědi modelu s parametry w (σ na w nezávisí). Předpokládejme, že y_i = ŷ_i(w) + ε_i, kde ε₁, …, ε_n jsou nezávislé a ε_i ~ N(0, σ²) (normální rozdělení). Pak pro libovolné dvě volby parametrů w, w′ platí

L(w) ≥ L(w′) ⇔ ∑_i=1ⁿ (y_i − ŷ_i(w))² ≤ ∑_i=1ⁿ (y_i − ŷ_i(w′))²,

tj. maximalizovat věrohodnost je totéž jako minimalizovat součet čtverců chyb.

Důkaz. Při parametrech w má y_i hustotu 1/√2πσ² · exp(−(y_i − ŷ_i)²/2σ²), takže

−ℓ(w) = 1/2σ² ∑ (y_i − ŷ_i)² + n/2 ln(2πσ²).

Druhý člen na w nezávisí a činitel 1/2σ² je kladná konstanta, takže −ℓ(w) ≤ −ℓ(w′), právě když je součet čtverců pro w nejvýš takový jako pro w′. Protože ln je rostoucí, je −ℓ(w) ≤ −ℓ(w′) ekvivalentní s L(w) ≥ L(w′). ∎

Stejně se dá rozepsat regularizace. Dejme každé váze w_j, j = 1, …, d, nezávisle apriorní rozdělení N(0, τ²); pak −ln π(w) = ‖w‖²/2τ² + konstanta a minimalizovat záporný logaritmus L · π znamená minimalizovat

−ln L(w) + λ ‖w‖², λ = 1/2τ²

−ln L(w): obvyklá ztráta (křížová entropie, kvadratická chyba) — tlačí váhy k tomu, aby model seděl na trénovací data
λ: síla regularizace; malé τ (silná víra, že váhy jsou blízko nuly) znamená velké λ — tak se z apriorní představy stane jedno číslo, které ladíme
‖w‖²: součet čtverců vah — trest za velké váhy; pochází z exponentu normální hustoty, proto je to právě čtverec (z Laplaceova rozdělení by vyšla absolutní hodnota, L1)

L2 regularizace (weight decay) je MAP s normálním apriorním rozdělením vah.

7. Shrnutí

Statistika jde od dat k modelu: odhad je výpočet z dat, který má trefit neznámý parametr.
Dobrý odhad je nestranný (v průměru míří správně) a konzistentní (s daty se zpřesňuje); výběrový rozptyl dělí n − 1.
Metoda maximální věrohodnosti vybere parametr, se kterým jsou data nejpravděpodobnější; pro podíl je to k/n.
MAP přidá apriorní představu; ve strojovém učení je to regularizace.
95% interval spolehlivosti vznikne postupem, který skutečný parametr trefí v 95 % případů.

Máte na to jiný názor? Napište na support@coden-app.com.

Statistika a odhady parametrů: maximální věrohodnost, MAP a intervaly spolehlivosti

1. Výběr, statistika, odhad

2. Dobrý odhad: nestrannost a konzistence

3. Metoda maximální věrohodnosti

4. Bayesovský odhad MAP

5. Interval spolehlivosti

6. Odhady v umělé inteligenci

7. Shrnutí

Agent na vašem počítači, ovládaný z telefonu