Legge dei grandi numeri e teorema del limite centrale: perché le medie si comportano in modo così prevedibile

Media campionaria, legge dei grandi numeri e teorema del limite centrale con animazioni — perché la distribuzione normale è ovunque, da dove viene l’errore di ±3 % dei sondaggi e perché una stima due volte più precisa costa quattro volte più dati.

13 minuti Matěj Žalmánek 2026-10-15

Serie Basi di IA Parte 18 di 52

1. Mappa dell’intelligenza artificiale: che cos’è ciascuna cosa e come si incastra tutto
2. Breve storia dell’intelligenza artificiale: da Turing ai modelli linguistici
3. Dati, modello, addestramento, inferenza: i concetti di base su un unico esempio
4. Come leggere la notazione matematica: simboli, indici, sommatorie e quantificatori
5. Insiemi e relazioni: i mattoncini con cui si costruiscono le definizioni nell’IA
6. Funzioni e applicazioni: perché ogni modello di IA è una funzione
7. Logica e dimostrazioni: le regole con cui si ragiona nell’IA
8. Grafi e alberi: la struttura su cui poggiano la ricerca e le reti neurali
9. Algebra lineare per l’apprendimento automatico: vettori, matrici e perché l’IA soprattutto moltiplica
10. Derivate, gradiente e regola della catena: come un modello capisce in quale direzione imparare
11. Discesa del gradiente: come impara un modello
12. Che cos’è la probabilità: dal lancio di un dado agli assiomi di Kolmogorov
13. Probabilità condizionata e teorema di Bayes: come cambiare una stima quando scopri qualcosa di nuovo
14. Variabile aleatoria e funzione di ripartizione: una sola funzione che dice tutto sulla distribuzione
15. Funzione di densità e funzione di massa: perché una variabile continua ha probabilità zero in un punto
16. Valore atteso, varianza e covarianza: dove si trova una distribuzione, quanto è larga e che cosa è legato a che cosa
17. Panoramica delle distribuzioni di probabilità: Bernoulli, binomiale, Poisson, uniforme, normale ed esponenziale
18. Legge dei grandi numeri e teorema del limite centrale: perché le medie si comportano in modo così prevedibile
19. Statistica e stima dei parametri: massima verosimiglianza, MAP e intervalli di confidenza
20. Teoria dell’informazione: entropia, entropia incrociata e divergenza KL — da dove vengono le funzioni di perdita
21. Ricerca nello spazio degli stati: BFS, DFS, UCS e A* con animazioni
22. Giochi e avversari: minimax, potatura alfa-beta e Monte Carlo tree search
23. Soddisfacimento di vincoli: backtracking, propagazione dei vincoli e AC-3 su un sudoku e una mappa delle regioni ceche
24. Logica e sistemi basati sulla conoscenza: concatenazione in avanti e all’indietro, risoluzione e sistemi esperti
25. Pianificazione: STRIPS, il mondo dei blocchi, euristiche dal rilassamento e pianificazione negli agenti IA
26. Ricerca locale e ricottura simulata: un commesso viaggiatore tra i capoluoghi di regione cechi
27. Algoritmi genetici: popolazione, incrocio, mutazione e selezione su uno zaino per l’escursione
28. Strategie evolutive e programmazione genetica: dalla regola di un quinto alla legge di Keplero
29. Ottimizzazione con colonie di formiche: come una traccia di feromone trova un percorso breve
30. Ottimizzazione a sciame di particelle: inerzia, esperienza propria ed esperienza dello sciame
31. Neuroevoluzione: evoluzione dei pesi e della forma delle reti neurali e l’algoritmo NEAT
32. Insiemi fuzzy e funzioni di appartenenza: come scrivere «un po’ caldo»
33. Logica fuzzy e probabilità: perché «un po’ caldo» non significa «probabilmente caldo»
34. Logica fuzzy: t-norme, implicazioni e regole SE–ALLORA
35. Controllo fuzzy: Mamdani e Sugeno, dal ventilatore al pendolo inverso su un carrello
36. Clustering fuzzy: l’algoritmo fuzzy c-means e i punti tra i cluster
37. Sistemi neuro-fuzzy (ANFIS): regole fuzzy che imparano dai dati
38. Catene di Markov: matrice di transizione, distribuzione stazionaria e PageRank
39. Modelli di Markov nascosti: l’algoritmo di Viterbi e il casinò disonesto
40. Reti bayesiane: perché l’erba è bagnata e che cosa significa per l’irrigatore
41. Filtro di Kalman: come stimare da misure imprecise dove si trova un’auto e a che velocità va
42. Tipi di apprendimento automatico: supervisionato, non supervisionato, semi-supervisionato e altri
43. Prompt, contesto e RAG: come dare a un modello le informazioni giuste
44. Autoencoder variazionali (VAE): immagini nuove da uno spazio latente continuo
45. Reti generative avversarie (GAN): il falsario contro il detective
46. Modelli di diffusione: come il rumore puro diventa un’immagine
47. Processi decisionali di Markov: stati, azioni, ricompense ed equazioni di Bellman
48. Q-learning e DQN: imparare il valore delle azioni, dalla tabella alla rete neurale
49. Policy gradient e PPO: imparare direttamente la politica
50. Come funziona un agente IA: un modello linguistico in un ciclo con strumenti
51. Programmare con agenti IA: incarico, test e controllo
52. Valutazione e sicurezza dei sistemi di IA: come misurare e come sorvegliare

Programma completo della serie 52 di 83 argomenti pubblicati

Un singolo lancio di dado è puro caso. Ma la media di diecimila lanci è quasi certamente 3,5 — e con una precisione che sappiamo calcolare in anticipo. Questa parte parla di due teoremi che trasformano il caos delle singole prove in prevedibilità: la legge dei grandi numeri dice dove si avvicina la media, il teorema del limite centrale come oscilla attorno a quel bersaglio. Su di essi si reggono i sondaggi d’opinione, il controllo qualità, i test A/B e l’addestramento delle reti neurali.

Riprende le parti Valore atteso e varianza e Panoramica delle distribuzioni.

1. Media campionaria

Definizione — variabili indipendenti e identicamente distribuite

Le variabili X₁, X₂, … sono indipendenti e identicamente distribuite (in breve i.i.d.) se sono indipendenti tra loro e hanno tutte la stessa distribuzione.

Definizione — media campionaria

Per X₁, …, X_n la media campionaria è X̄_n = (X₁ + … + X_n) / n.

Teorema — valore atteso e varianza della media

Se le X_i i.i.d. hanno valore atteso μ e varianza σ², allora

E[X̄_n] = μ,   Var(X̄_n) = σ² / n,   deviazione standard σ / √n.

2. Legge dei grandi numeri

Teorema — legge (debole) dei grandi numeri

Se le X_i i.i.d. hanno valore atteso μ e varianza finita, allora per ogni ε > 0

lim_n→∞ P(|X̄_n − μ| ≥ ε) = 0.

La dimostrazione sta in una riga: per la disuguaglianza di Čebyšëv P(|X̄_n − μ| ≥ ε) ≤ σ² / (nε²), e questa quantità tende a zero al crescere di n. Per un dado, una tolleranza di 0,1 e 10 000 lanci, il limite vale 2,917 / 100 ≈ 0,029.

Dopo dieci lanci le medie delle quattro serie stanno tra 3,4 e 4,1, dopo 10 000 lanci tra 3,496 e 3,502. L’imbuto μ ± 2σ/√n si restringe esattamente come dice il teorema sulla varianza della media — e le curve ne escono solo eccezionalmente. Perché proprio 2σ e perché «solo eccezionalmente», lo dirà il prossimo teorema.

La legge dei grandi numeri non dice che il caso «si compensa». Se una moneta dà testa cinque volte di fila, croce non è «in ritardo» — la moneta non ha memoria. La media non si avvicina a 0,5 perché l’eccesso di teste venga recuperato, ma perché le migliaia di lanci successivi lo diluiscono.

3. Convergenza in distribuzione

Definizione — convergenza in distribuzione

Una successione di variabili Y₁, Y₂, … converge in distribuzione a una variabile Y se lim_n→∞ F_Yn(x) = F_Y(x) in ogni punto x in cui F_Y è continua.

4. Teorema del limite centrale

Teorema — teorema del limite centrale

Se le X_i i.i.d. hanno valore atteso μ e varianza 0 < σ² < ∞, allora

(X̄_n − μ) / (σ / √n) converge in distribuzione a N(0, 1).

La distribuzione di un singolo dado è piatta — nessuna campana. La media di due dadi è un triangolo, quella di cinque ricorda già una campana e quella di trenta quasi non si distingue da una normale. Le barre sono la distribuzione esatta, calcolata enumerando tutte le possibilità; tratteggiata, l’approssimazione normale:

Funziona anche con distribuzioni molto asimmetriche — per esempio l’attesa di un’e-mail, che ha distribuzione esponenziale. Una singola attesa è molto asimmetrica (asimmetria 2), la media di cinque attese lo è meno e quella di trenta è già quasi simmetrica (asimmetria 0,37):

Quanto sia buona l’approssimazione lo mostra una domanda concreta: con quale probabilità la media di 30 lanci di dado supererà 4? Il calcolo esatto su tutte le possibilità dà 0,0488. Il teorema del limite centrale dice: 4 sta (4 − 3,5) / (1,708/√30) ≈ 1,60 deviazioni standard sopra la media, quindi P ≈ 1 − Φ(1,60) ≈ 0,0544. Senza una sola somma su 6³⁰ possibilità, con un errore inferiore a sei millesimi.

5. A che cosa serve: l’errore di stima

Il teorema del limite centrale dice che una stima ottenuta con la media cade, nel 95 % dei casi, entro 1,96 σ/√n dal valore vero. Da qui viene la formula più usata della statistica:

• Un sondaggio d’opinione con 1 000 intervistati e un consenso intorno al 50 % ha un errore di 1,96 · √(0,25 / 1 000) ≈ ±3,1 punti percentuali. Ecco perché i sondaggi interpellano circa mille persone — per dimezzare l’errore ne servirebbero quattromila.
• L’accuratezza di un modello misurata al 90 % su 1 000 esempi di test è in realtà 90 % ± 1,9 punti percentuali. Un modello con il 91 % su un insieme della stessa dimensione, quindi, non è necessariamente migliore.

Da dove prende la statistica σ quando non lo conosce, e che cosa significa esattamente quell’intervallo, è il tema della prossima parte, su statistica e stime.

6. Quando i teoremi non valgono

• Varianza infinita o nessun valore atteso. La distribuzione di Cauchy ha code così pesanti da non avere affatto un valore atteso — e la media di n variabili di Cauchy ha esattamente la stessa distribuzione di una sola. Più dati non aiutano per niente. Altrettanto selvagge sono spesso le dimensioni delle città, i patrimoni o i crolli di borsa.
• Dati dipendenti. Mille risposte di persone della stessa via o mille fotogrammi dello stesso video non sono mille osservazioni indipendenti, e σ/√n sottostima di molto l’errore.
• Pochi dati e distribuzione asimmetrica. Il teorema è un risultato limite — per l’attesa esponenziale, dopo cinque osservazioni la distribuzione della media è ancora visibilmente asimmetrica.

7. I teoremi limite nell’intelligenza artificiale

• Discesa stocastica del gradiente. Il gradiente calcolato su un batch (minibatch) di B esempi è una media campionaria. Punta nella stessa direzione del gradiente su tutti i dati (legge dei grandi numeri), ma oscilla con una deviazione standard ∝ 1/√B. Un batch quattro volte più grande dimezza soltanto il rumore — per questo non conviene ingrandire i batch all’infinito.
• Metodi Monte Carlo. Quando qualcosa non si può calcolare esattamente — la ricompensa attesa nell’apprendimento per rinforzo, un integrale in alta dimensione —, si fa la media di tanti campioni casuali. La legge dei grandi numeri garantisce il risultato giusto, il teorema del limite centrale dice con quale precisione.
• La valutazione dei modelli e i test A/B si basano sull’errore 1,96 σ/√n: senza di esso non puoi sapere se il nuovo modello è davvero migliore o ha avuto solo fortuna.
• Inizializzazione delle reti. L’ingresso di un neurone è una somma di tanti pesi per attivazioni — per il teorema del limite centrale ha una distribuzione approssimativamente normale. Su questo si basano gli schemi di inizializzazione di Xavier e di He, che scelgono la varianza dei pesi in modo che il segnale, attraversando la rete, non si amplifichi né si spenga.

8. Riepilogo

• La media campionaria è una variabile aleatoria con valore atteso μ e deviazione standard σ/√n.
• Legge dei grandi numeri: al crescere di n la media si avvicina quasi certamente a μ.
• Teorema del limite centrale: la media di molte variabili indipendenti ha una distribuzione approssimativamente normale — qualunque sia la distribuzione delle singole variabili.
• L’errore di una stima ottenuta con la media è circa ±1,96 σ/√n; una stima due volte più precisa costa quattro volte più dati.
• Senza varianza finita o senza indipendenza, i teoremi non valgono.

La vedi diversamente? Scrivi a support@coden-app.com.