Valore atteso, varianza e covarianza: dove si trova una distribuzione, quanto è larga e che cosa è legato a che cosa

Il valore atteso come baricentro, la linearità, la varianza e la deviazione standard, la disuguaglianza di Čebyšëv, la covarianza e la correlazione — e perché una covarianza nulla non significa ancora indipendenza.

14 minuti Matěj Žalmánek 2026-10-15

Serie Basi di IA Parte 16 di 52

1. Mappa dell’intelligenza artificiale: che cos’è ciascuna cosa e come si incastra tutto
2. Breve storia dell’intelligenza artificiale: da Turing ai modelli linguistici
3. Dati, modello, addestramento, inferenza: i concetti di base su un unico esempio
4. Come leggere la notazione matematica: simboli, indici, sommatorie e quantificatori
5. Insiemi e relazioni: i mattoncini con cui si costruiscono le definizioni nell’IA
6. Funzioni e applicazioni: perché ogni modello di IA è una funzione
7. Logica e dimostrazioni: le regole con cui si ragiona nell’IA
8. Grafi e alberi: la struttura su cui poggiano la ricerca e le reti neurali
9. Algebra lineare per l’apprendimento automatico: vettori, matrici e perché l’IA soprattutto moltiplica
10. Derivate, gradiente e regola della catena: come un modello capisce in quale direzione imparare
11. Discesa del gradiente: come impara un modello
12. Che cos’è la probabilità: dal lancio di un dado agli assiomi di Kolmogorov
13. Probabilità condizionata e teorema di Bayes: come cambiare una stima quando scopri qualcosa di nuovo
14. Variabile aleatoria e funzione di ripartizione: una sola funzione che dice tutto sulla distribuzione
15. Funzione di densità e funzione di massa: perché una variabile continua ha probabilità zero in un punto
16. Valore atteso, varianza e covarianza: dove si trova una distribuzione, quanto è larga e che cosa è legato a che cosa
17. Panoramica delle distribuzioni di probabilità: Bernoulli, binomiale, Poisson, uniforme, normale ed esponenziale
18. Legge dei grandi numeri e teorema del limite centrale: perché le medie si comportano in modo così prevedibile
19. Statistica e stima dei parametri: massima verosimiglianza, MAP e intervalli di confidenza
20. Teoria dell’informazione: entropia, entropia incrociata e divergenza KL — da dove vengono le funzioni di perdita
21. Ricerca nello spazio degli stati: BFS, DFS, UCS e A* con animazioni
22. Giochi e avversari: minimax, potatura alfa-beta e Monte Carlo tree search
23. Soddisfacimento di vincoli: backtracking, propagazione dei vincoli e AC-3 su un sudoku e una mappa delle regioni ceche
24. Logica e sistemi basati sulla conoscenza: concatenazione in avanti e all’indietro, risoluzione e sistemi esperti
25. Pianificazione: STRIPS, il mondo dei blocchi, euristiche dal rilassamento e pianificazione negli agenti IA
26. Ricerca locale e ricottura simulata: un commesso viaggiatore tra i capoluoghi di regione cechi
27. Algoritmi genetici: popolazione, incrocio, mutazione e selezione su uno zaino per l’escursione
28. Strategie evolutive e programmazione genetica: dalla regola di un quinto alla legge di Keplero
29. Ottimizzazione con colonie di formiche: come una traccia di feromone trova un percorso breve
30. Ottimizzazione a sciame di particelle: inerzia, esperienza propria ed esperienza dello sciame
31. Neuroevoluzione: evoluzione dei pesi e della forma delle reti neurali e l’algoritmo NEAT
32. Insiemi fuzzy e funzioni di appartenenza: come scrivere «un po’ caldo»
33. Logica fuzzy e probabilità: perché «un po’ caldo» non significa «probabilmente caldo»
34. Logica fuzzy: t-norme, implicazioni e regole SE–ALLORA
35. Controllo fuzzy: Mamdani e Sugeno, dal ventilatore al pendolo inverso su un carrello
36. Clustering fuzzy: l’algoritmo fuzzy c-means e i punti tra i cluster
37. Sistemi neuro-fuzzy (ANFIS): regole fuzzy che imparano dai dati
38. Catene di Markov: matrice di transizione, distribuzione stazionaria e PageRank
39. Modelli di Markov nascosti: l’algoritmo di Viterbi e il casinò disonesto
40. Reti bayesiane: perché l’erba è bagnata e che cosa significa per l’irrigatore
41. Filtro di Kalman: come stimare da misure imprecise dove si trova un’auto e a che velocità va
42. Tipi di apprendimento automatico: supervisionato, non supervisionato, semi-supervisionato e altri
43. Prompt, contesto e RAG: come dare a un modello le informazioni giuste
44. Autoencoder variazionali (VAE): immagini nuove da uno spazio latente continuo
45. Reti generative avversarie (GAN): il falsario contro il detective
46. Modelli di diffusione: come il rumore puro diventa un’immagine
47. Processi decisionali di Markov: stati, azioni, ricompense ed equazioni di Bellman
48. Q-learning e DQN: imparare il valore delle azioni, dalla tabella alla rete neurale
49. Policy gradient e PPO: imparare direttamente la politica
50. Come funziona un agente IA: un modello linguistico in un ciclo con strumenti
51. Programmare con agenti IA: incarico, test e controllo
52. Valutazione e sicurezza dei sistemi di IA: come misurare e come sorvegliare

Programma completo della serie 52 di 83 argomenti pubblicati

La distribuzione di una variabile aleatoria dice tutto — ma «tutto» spesso è troppo. Per confrontare al volo due distribuzioni bastano pochi numeri: dove si trova la distribuzione, quanto è larga e se due variabili crescono insieme o vanno in direzioni opposte. Questi numeri si chiamano valore atteso, varianza e covarianza, e li incontrerai in ogni modello di apprendimento automatico — dalla funzione di perdita all’ottimizzatore Adam.

Riprende le parti Variabile aleatoria e Funzione di densità.

1. Valore atteso

Definizione — valore atteso di una variabile discreta

Se una variabile discreta X assume i valori x₁, x₂, … con funzione di massa p, il suo valore atteso è

E[X] = ∑_i x_i · p(x_i),

purché la serie converga assolutamente. Si indica anche con μ.

In termini fisici il valore atteso è il baricentro. Metti le probabilità come pesi su una leva: il fulcro la tiene in orizzontale solo nel valore atteso. Nella figura c’è il maggiore dei due numeri usciti su due dadi — il massimo. I numeri alti sono più frequenti (il sei è il massimo in 11 casi su 36, l’uno in uno solo), quindi il baricentro sta a destra del centro: E[max] = 161/36 ≈ 4,47.

Definizione — valore atteso di una variabile continua

Se X ha densità f, allora E[X] = ∫_−∞^∞ x · f(x) dx, purché l’integrale converga assolutamente.

2. Linearità del valore atteso

Teorema — linearità del valore atteso

Per variabili aleatorie X, Y con valore atteso finito e numeri a, b vale

E[aX + b] = a · E[X] + b,   E[X + Y] = E[X] + E[Y],

e questo anche se X e Y non sono indipendenti.

3. Varianza e deviazione standard

Definizione — varianza

Per una variabile X con valore atteso μ la varianza è

Var(X) = E[(X − μ)²].

Teorema — formula di calcolo della varianza

Var(X) = E[X²] − (E[X])².

Definizione — deviazione standard

La deviazione standard è σ = √Var(X).

4. Varianza di una somma: perché conviene lanciare due volte

Teorema — varianza di una funzione lineare e di una somma

Var(aX + b) = a² · Var(X). Se X e Y sono indipendenti, allora Var(X + Y) = Var(X) + Var(Y).

Confrontiamo due giochi con lo stesso valore atteso, 7. Nel primo lanci due dadi e li sommi: Var = 35/12 + 35/12 = 35/6 ≈ 5,83, σ ≈ 2,42. Nel secondo lanci una volta e raddoppi il risultato: Var = 2² · 35/12 = 35/3 ≈ 11,67, σ ≈ 3,42. La media è la stessa, ma il secondo gioco è parecchio più imprevedibile — con due dadi la sfortuna su uno è spesso compensata dalla fortuna sull’altro.

Sullo stesso principio si basano la diversificazione degli investimenti e il fatto che la media di più misurazioni oscilli meno di una misurazione sola. Quanto meno, esattamente, lo mostrerà la prossima parte, sulla legge dei grandi numeri.

5. Disuguaglianza di Čebyšëv

Teorema — disuguaglianza di Čebyšëv

Se X ha valore atteso μ e deviazione standard finita σ > 0, allora per ogni k > 0

P(|X − μ| ≥ kσ) ≤ 1 / k².

6. Covarianza e correlazione

Definizione — covarianza

Per variabili X, Y con valori attesi μ_X, μ_Y la covarianza è

Cov(X, Y) = E[(X − μ_X)(Y − μ_Y)].

Definizione — coefficiente di correlazione

La correlazione di variabili con deviazioni standard positive è ρ(X, Y) = Cov(X, Y) / (σ_X σ_Y). Vale sempre −1 ≤ ρ ≤ 1.

Il primo dado e la somma crescono insieme: Cov = 35/12 ≈ 2,92 e ρ ≈ 0,71. Il primo e il secondo dado sono indipendenti e i rettangoli si annullano esattamente: Cov = 0. E più esce alto il primo dado, più piccola è la differenza «secondo meno primo»: Cov ≈ −2,92, ρ ≈ −0,71.

Teorema — varianza di una somma in generale

Var(X + Y) = Var(X) + Var(Y) + 2 · Cov(X, Y). Se X e Y sono indipendenti, Cov(X, Y) = 0.

Attenzione, il contrario non vale: covarianza nulla non significa indipendenza. La differenza dei dadi D = primo − secondo e la loro somma S hanno covarianza Var(primo) − Var(secondo) = 0. Eppure sono dipendenti: se la somma è 12, la differenza deve essere 0. La covarianza misura solo il legame lineare.

7. Valore atteso e varianza nell’intelligenza artificiale

• Funzione di perdita. L’errore quadratico medio (MSE) è il valore atteso del quadrato dell’errore, E[(Y − ŷ)²]. La migliore stima costante è proprio il valore atteso di Y, e l’errore che rimane è la varianza.
• Standardizzazione degli input. Prima di passare i dati alla rete, li si trasforma in z = (x − μ) / σ — valore atteso 0, deviazione standard 1. L’apprendimento diventa così più rapido e stabile; dentro la rete fa lo stesso la batch normalization.
• Matrice di covarianza e PCA. Le covarianze di tutte le coppie di caratteristiche formano una matrice, e i suoi autovettori (vedi la parte sull’algebra lineare) indicano le direzioni in cui i dati variano di più.
• L’ottimizzatore Adam (dalla parte sulla discesa del gradiente) stima man mano il valore atteso del gradiente e il valore atteso del suo quadrato — e divide il passo per la radice di quest’ultimo. Dove il gradiente oscilla molto, fa passi più cauti.
• Bias e varianza del modello. L’errore di un modello si può scomporre in un errore sistematico (bias) e nella variabilità tra un insieme di addestramento e l’altro (varianza). I modelli semplici hanno un bias alto, quelli complessi una varianza alta.

8. Riepilogo

• Il valore atteso è una media pesata — il baricentro della distribuzione. È lineare, anche per variabili dipendenti.
• La varianza è la media dei quadrati degli scarti dalla media; la deviazione standard ne è la radice, nelle stesse unità dei dati.
• Le varianze di variabili indipendenti si sommano; per questo la somma di due dadi oscilla meno di un dado × 2.
• Disuguaglianza di Čebyšëv: oltre kσ dalla media sta al massimo 1/k² della probabilità.
• Covarianza e correlazione misurano il legame lineare tra due variabili; una covarianza nulla non significa ancora indipendenza.

La vedi diversamente? Scrivi a support@coden-app.com.