Panorama des lois de probabilité : Bernoulli, binomiale, Poisson, uniforme, normale et exponentielle
Les six lois les plus importantes avec leurs définitions, espérances et variances — la planche de Galton, le théorème limite de Poisson, la règle 68–95–99,7 et quand utiliser quelle loi.
Série Bases de l’IA Partie 17 sur 52
- Carte de l’intelligence artificielle : qu’est-ce qui est quoi et comment tout s’emboîte
- Brève histoire de l’intelligence artificielle : de Turing aux modèles de langage
- Données, modèle, entraînement, inférence : les notions de base sur un seul exemple
- Lire la notation mathématique : symboles, indices, sommes et quantificateurs
- Ensembles et relations : les briques dont sont faites les définitions en IA
- Fonctions et applications : pourquoi tout modèle d’IA est une fonction
- Logique et démonstrations : les règles selon lesquelles on raisonne en IA
- Graphes et arbres : la structure sur laquelle reposent la recherche et les réseaux de neurones
- Algèbre linéaire pour l’apprentissage automatique : vecteurs, matrices et pourquoi l’IA multiplie surtout
- Dérivées, gradient et règle de dérivation en chaîne : comment un modèle sait dans quelle direction apprendre
- Descente de gradient : comment un modèle apprend
- Qu’est-ce que la probabilité : du lancer de dé aux axiomes de Kolmogorov
- Probabilité conditionnelle et théorème de Bayes : comment réviser une estimation quand on apprend du nouveau
- Variable aléatoire et fonction de répartition : une seule fonction qui dit tout de la loi
- Fonction de densité et fonction de masse : pourquoi une variable continue a une probabilité nulle en chaque point
- Espérance, variance et covariance : où se situe une loi, quelle est sa largeur et ce qui varie avec quoi
- Panorama des lois de probabilité : Bernoulli, binomiale, Poisson, uniforme, normale et exponentielle
- Loi des grands nombres et théorème central limite : pourquoi les moyennes sont si prévisibles
- Statistique et estimation de paramètres : maximum de vraisemblance, MAP et intervalles de confiance
- Théorie de l’information : entropie, entropie croisée et divergence KL — d’où viennent les fonctions de perte
- Recherche dans l’espace d’états : BFS, DFS, UCS et A* en animations
- Jeux et adversaires : minimax, élagage alpha-bêta et Monte Carlo tree search
- Satisfaction de contraintes : backtracking, propagation de contraintes et AC-3 sur un sudoku et une carte des régions tchèques
- Logique et systèmes à base de connaissances : chaînage avant et arrière, résolution et systèmes experts
- Planification : STRIPS, monde des blocs, heuristiques par relaxation et planification dans les agents IA
- Recherche locale et recuit simulé : un voyageur de commerce à travers les chefs-lieux de région tchèques
- Algorithmes génétiques : population, croisement, mutation et sélection sur un sac à dos de randonnée
- Stratégies d’évolution et programmation génétique : de la règle du cinquième à la loi de Kepler
- Optimisation par colonies de fourmis : comment une piste de phéromone trouve un chemin court
- Optimisation par essaim de particules : inertie, expérience propre et expérience de l’essaim
- Neuroévolution : faire évoluer les poids et la forme des réseaux de neurones, et l’algorithme NEAT
- Ensembles flous et fonctions d’appartenance : comment écrire « un peu chaud »
- Logique floue et probabilité : pourquoi « un peu chaud » ne veut pas dire « probablement chaud »
- Logique floue : t-normes, implications et règles SI–ALORS
- Commande floue : Mamdani et Sugeno, du ventilateur au pendule inversé sur un chariot
- Clustering flou : l’algorithme fuzzy c-means et les points entre les clusters
- Systèmes neuro-flous (ANFIS) : des règles floues qui apprennent à partir des données
- Chaînes de Markov : matrice de transition, distribution stationnaire et PageRank
- Modèles de Markov cachés : l’algorithme de Viterbi et le casino malhonnête
- Réseaux bayésiens : pourquoi l’herbe est mouillée et ce que cela implique pour l’arroseur
- Le filtre de Kalman : comment estimer, à partir de mesures imprécises, où se trouve une voiture et à quelle vitesse elle roule
- Types d’apprentissage automatique : supervisé, non supervisé, semi-supervisé et plus
- Prompts, contexte et RAG : comment donner au modèle les bonnes informations
- Autoencodeurs variationnels (VAE) : de nouvelles images à partir d’un espace latent continu
- Réseaux antagonistes génératifs (GAN) : le faussaire contre le détective
- Modèles de diffusion : comment une image naît du bruit pur
- Processus de décision markoviens : états, actions, récompenses et équations de Bellman
- Q-learning et DQN : apprendre la valeur des actions, du tableau au réseau de neurones
- Policy gradient et PPO : apprendre directement la politique
- Comment fonctionne un agent IA : un modèle de langage en boucle avec des outils
- Programmer avec des agents IA : consigne, tests et vérification
- Évaluation et sécurité des systèmes d’IA : comment mesurer et comment surveiller
Programme complet de la série 52 sur 83 sujets publiés
- Ce que décrivent la loi de Bernoulli, la loi binomiale et la loi de Poisson, et quels liens les unissent.
- Quand utiliser la loi uniforme, la loi normale et la loi exponentielle, et ce que dit la règle 68–95–99,7.
- Quelles lois se cachent derrière la classification, les fonctions de perte et les modèles génératifs en IA.
Utile à connaître avant : Espérance, variance et covariance : où se situe une loi, quelle est sa largeur et ce qui varie avec quoi
Vous pouvez inventer une loi de probabilité à partir de zéro à chaque fois — mais vous n’y êtes pas obligé. En pratique, quelques situations reviennent sans cesse : oui ou non, un nombre de succès, un nombre d’événements par heure, une attente, une mesure entachée d’erreur. Pour chacune d’elles, il existe une loi toute prête, avec quelques paramètres, une espérance et une variance déjà calculées. Cette partie passe en revue les six plus importantes — et surtout, quand utiliser laquelle.
Elle fait suite à Fonction de densité et à Espérance et variance.
1. Loi de Bernoulli
Définition — loi de Bernoulli
Une variable X suit la loi de Bernoulli de paramètre p ∈ [0, 1], et l’on note X ~ B(p), si
P(X = 1) = p, P(X = 0) = 1 − p.
Une seule épreuve, deux issues : réussite (1) ou échec (0). Un pile ou face, un clic sur une publicité, spam ou pas spam. L’unique paramètre p est la probabilité de réussite.
L’espérance vaut p et la variance p(1 − p) — maximale pour p = 0,5, quand le résultat est le moins prévisible.
2. Loi binomiale
Définition — loi binomiale
Une variable X suit la loi binomiale de paramètres n ∈ ℕ et p ∈ [0, 1], X ~ B(n, p), si
P(X = k) = (k parmi n) · pk · (1 − p)n−k, k = 0, 1, …, n,
où (k parmi n) = n! / (k! (n − k)!) est le coefficient binomial.
C’est le nombre de succès en n épreuves indépendantes ayant toutes la même probabilité p. Le coefficient binomial compte de combien de façons on peut répartir k succès parmi les n épreuves. Sur dix lancers d’une pièce, on obtient exactement cinq fois face avec une probabilité de 252/1024 ≈ 0,246 — pas même une fois sur quatre. Huit faces ou plus, seulement avec une probabilité de 56/1024 ≈ 0,055.
Une variable binomiale est la somme de n variables de Bernoulli indépendantes ; par linéarité, son espérance vaut donc np et sa variance np(1 − p). La planche de Galton le montre joliment : à chacun des dix clous, la bille rebondit à gauche ou à droite, chaque rebond est une épreuve de Bernoulli, et la case où elle tombe correspond au nombre de rebonds vers la droite — B(10 ; 0,5).
Les billes s’accumulent au milieu en forme de cloche — et cette forme n’a rien d’un hasard. Comme nous le verrons avec la loi normale et dans la prochaine partie, la somme de nombreuses petites influences aléatoires donne toujours une cloche.
3. Loi de Poisson
Définition — loi de Poisson
Une variable X suit la loi de Poisson de paramètre λ > 0, X ~ P(λ), si
P(X = k) = e−λ · λk / k!, k = 0, 1, 2, …
C’est le nombre d’événements sur une durée donnée, quand ils arrivent indépendamment les uns des autres, en moyenne λ sur cette durée : les e-mails reçus en une heure, les requêtes adressées à un serveur en une seconde, les coquilles sur une page. Si un e-mail arrive en moyenne toutes les 2 minutes, on en attend λ = 2 en 4 minutes. Aucun n’arrive avec une probabilité de e−2 ≈ 0,135, exactement deux avec une probabilité de 0,271.
Particularité de la loi de Poisson : l’espérance et la variance sont toutes deux égales à λ.
Théorème — théorème limite de Poisson
Pour λ > 0 fixé et pour tout k, on a limn→∞ P(B(n, λ/n) = k) = e−λ λk / k!.
La loi de Poisson, c’est une loi binomiale avec un nombre énorme d’épreuves et une toute petite probabilité dans chacune. Découpez les 4 minutes en n courts intervalles ; dans chacun, un e-mail arrive avec une probabilité de 2/n. Plus le découpage est fin, plus la loi binomiale se rapproche de la loi de Poisson : l’écart total vaut 0,125 pour 5 intervalles, 0,024 pour 20 et 0,005 pour 100.
4. Loi uniforme
Définition — loi uniforme continue
Une variable X suit la loi uniforme sur l’intervalle [a, b], X ~ 𝒰([a, b]), si elle a pour densité
f(x) = 1 / (b − a) pour a ≤ x ≤ b, et 0 sinon.
Chaque portion de l’intervalle est aussi probable que les autres — le modèle « je ne sais rien, sauf les bornes ». L’attente d’un bus qui passe toutes les 10 minutes suit 𝒰([0, 10]). Le générateur de nombres aléatoires d’un ordinateur renvoie du 𝒰([0, 1]), et c’est à partir de lui que l’on fabrique les échantillons de toutes les autres lois.
L’espérance est le milieu de l’intervalle, (a + b) / 2, et la variance (b − a)² / 12. Pour le bus, vous attendez donc en moyenne 5 minutes, avec un écart type de √(100/12) ≈ 2,89 minutes.
5. Loi normale
Définition — loi normale
Une variable X suit la loi normale (ou loi de Gauss) d’espérance μ et de variance σ² > 0, X ~ 𝒩(μ, σ²), si elle a pour densité
f(x) = 1 / (σ√(2π)) · e−(x − μ)² / (2σ²), x ∈ ℝ.
La célèbre courbe en cloche : la plupart des valeurs autour de la moyenne μ, une symétrie des deux côtés, et plus on s’éloigne, plus elles se raréfient vite. C’est l’allure de la taille des gens, des erreurs de mesure, du bruit des capteurs — de tout ce qui résulte de l’addition de nombreuses petites influences indépendantes.
Définition — loi normale centrée réduite
𝒩(0, 1) est appelée loi normale centrée réduite. Si X ~ 𝒩(μ, σ²), alors Z = (X − μ) / σ ~ 𝒩(0, 1).
Toutes les lois normales n’en font qu’une, simplement décalée et étirée. Si vous retranchez la moyenne d’une valeur et divisez par σ, vous obtenez « à combien d’écarts types de la moyenne elle se trouve » — et pour cela, une seule table suffit pour toutes.
La loi normale obéit à la règle 68–95–99,7 : à moins de σ de la moyenne tombent 68,27 % des valeurs, à moins de 2σ 95,45 % et à moins de 3σ 99,73 %. Si la taille des hommes adultes a pour moyenne 175 cm et σ = 7 cm, 95 % d’entre eux mesurent entre 161 et 189 cm. L’inégalité de Bienaymé-Tchebychev de la partie précédente ne garantissait pour 2σ que 75 % — la loi normale est bien plus « resserrée ».
La densité de la loi normale n’a pas de primitive exprimable par une formule ; les pourcentages ci-dessus se calculent donc numériquement — ici par la méthode de Simpson, c’est-à-dire en additionnant des bandes très étroites.
6. Loi exponentielle
Définition — loi exponentielle
Une variable X suit la loi exponentielle de paramètre λ > 0, X ~ ℰ(λ), si elle a pour densité
f(x) = λ e−λx pour x ≥ 0, et 0 sinon.
C’est le temps d’attente jusqu’au prochain événement, quand les événements arrivent indépendamment, en moyenne λ par unité de temps. C’est l’attente d’un e-mail de la partie sur la densité : λ = 0,5 par minute, espérance 1/λ = 2 minutes, variance 1/λ² = 4.
La loi exponentielle et la loi de Poisson décrivent le même processus sous deux angles. Qu’aucun e-mail n’arrive en 4 minutes, c’est selon Poisson e−2 ≈ 0,135 — et selon la loi exponentielle P(X > 4) = e−0,5 · 4, le même nombre.
Théorème — absence de mémoire de la loi exponentielle
Pour X ~ ℰ(λ) et s, t ≥ 0, on a P(X > s + t | X > s) = P(X > t).
L’attente ne se souvient pas depuis combien de temps elle dure. Vous attendez un e-mail depuis 3 minutes, toujours rien — la probabilité d’attendre encore au moins 2 minutes reste e−1 ≈ 0,368, exactement comme si vous repartiez de zéro. Un bus qui suit son horaire ne se comporte pas ainsi ; la désintégration radioactive et l’arrivée de requêtes indépendantes, si.
7. Aide-mémoire : quelle loi pour quoi
| Loi | Ce qu’elle décrit | E[X] | Var(X) |
|---|---|---|---|
| B(p) | une seule épreuve oui/non | p | p(1 − p) |
| B(n, p) | nombre de succès en n épreuves | np | np(1 − p) |
| P(λ) | nombre d’événements sur une durée | λ | λ |
| 𝒰([a, b]) | « n’importe quoi entre a et b » | (a + b) / 2 | (b − a)² / 12 |
| 𝒩(μ, σ²) | somme de nombreuses petites influences | μ | σ² |
| ℰ(λ) | attente du prochain événement | 1/λ | 1/λ² |
8. Les lois de probabilité en intelligence artificielle
- Bernoulli et classification binaire. La régression logistique comme un réseau à une seule sortie prédisent le paramètre p d’une loi de Bernoulli — « quelle est la probabilité que ce soit un spam ». La fonction de perte (l’entropie croisée binaire) est l’opposé du logarithme de sa probabilité.
- La loi catégorielle est une loi de Bernoulli à plus de deux issues. Le softmax en sortie d’un modèle de langage renvoie précisément ses paramètres — la probabilité de chaque mot du vocabulaire.
- La loi normale est partout : les poids initiaux des réseaux sont tirés selon 𝒩(0, σ²), l’erreur quadratique moyenne correspond à l’hypothèse d’un bruit normal, et les modèles de diffusion génèrent des images en débruitant pas à pas un pur 𝒩(0, 1).
- Le dropout désactive pendant l’entraînement chaque neurone avec une probabilité de Bernoulli ; la loi uniforme est la source de tous les nombres aléatoires.
- Poisson et l’exponentielle modélisent le trafic : combien de requêtes arrivent sur un serveur, quand arrivera la suivante, combien de GPU il faut prévoir.
9. Résumé
- La loi de Bernoulli décrit une seule épreuve oui/non, la loi binomiale le nombre de succès en n épreuves indépendantes.
- La loi de Poisson compte des événements sur une durée ; c’est la limite de la loi binomiale pour de nombreuses épreuves à faible probabilité.
- La loi uniforme donne la même densité à tout l’intervalle ; la loi exponentielle mesure une attente et n’a pas de mémoire.
- La loi normale est une cloche déterminée par μ et σ ; dans ±σ, ±2σ et ±3σ se trouvent 68,27 %, 95,45 % et 99,73 % des valeurs.
- Choisir une loi, c’est choisir un modèle : ce qui décrit les données détermine aussi la fonction de perte du modèle.
Vous voyez les choses autrement ? Écrivez à support@coden-app.com.