Variable aléatoire et fonction de répartition : une seule fonction qui dit tout de la loi
Ce que sont une variable aléatoire, sa loi et sa fonction de répartition, ce qui distingue les variables discrètes des continues et comment estimer la fonction de répartition à partir des données.
Série Bases de l’IA Partie 14 sur 52
- Carte de l’intelligence artificielle : qu’est-ce qui est quoi et comment tout s’emboîte
- Brève histoire de l’intelligence artificielle : de Turing aux modèles de langage
- Données, modèle, entraînement, inférence : les notions de base sur un seul exemple
- Lire la notation mathématique : symboles, indices, sommes et quantificateurs
- Ensembles et relations : les briques dont sont faites les définitions en IA
- Fonctions et applications : pourquoi tout modèle d’IA est une fonction
- Logique et démonstrations : les règles selon lesquelles on raisonne en IA
- Graphes et arbres : la structure sur laquelle reposent la recherche et les réseaux de neurones
- Algèbre linéaire pour l’apprentissage automatique : vecteurs, matrices et pourquoi l’IA multiplie surtout
- Dérivées, gradient et règle de dérivation en chaîne : comment un modèle sait dans quelle direction apprendre
- Descente de gradient : comment un modèle apprend
- Qu’est-ce que la probabilité : du lancer de dé aux axiomes de Kolmogorov
- Probabilité conditionnelle et théorème de Bayes : comment réviser une estimation quand on apprend du nouveau
- Variable aléatoire et fonction de répartition : une seule fonction qui dit tout de la loi
- Fonction de densité et fonction de masse : pourquoi une variable continue a une probabilité nulle en chaque point
- Espérance, variance et covariance : où se situe une loi, quelle est sa largeur et ce qui varie avec quoi
- Panorama des lois de probabilité : Bernoulli, binomiale, Poisson, uniforme, normale et exponentielle
- Loi des grands nombres et théorème central limite : pourquoi les moyennes sont si prévisibles
- Statistique et estimation de paramètres : maximum de vraisemblance, MAP et intervalles de confiance
- Théorie de l’information : entropie, entropie croisée et divergence KL — d’où viennent les fonctions de perte
- Recherche dans l’espace d’états : BFS, DFS, UCS et A* en animations
- Jeux et adversaires : minimax, élagage alpha-bêta et Monte Carlo tree search
- Satisfaction de contraintes : backtracking, propagation de contraintes et AC-3 sur un sudoku et une carte des régions tchèques
- Logique et systèmes à base de connaissances : chaînage avant et arrière, résolution et systèmes experts
- Planification : STRIPS, monde des blocs, heuristiques par relaxation et planification dans les agents IA
- Recherche locale et recuit simulé : un voyageur de commerce à travers les chefs-lieux de région tchèques
- Algorithmes génétiques : population, croisement, mutation et sélection sur un sac à dos de randonnée
- Stratégies d’évolution et programmation génétique : de la règle du cinquième à la loi de Kepler
- Optimisation par colonies de fourmis : comment une piste de phéromone trouve un chemin court
- Optimisation par essaim de particules : inertie, expérience propre et expérience de l’essaim
- Neuroévolution : faire évoluer les poids et la forme des réseaux de neurones, et l’algorithme NEAT
- Ensembles flous et fonctions d’appartenance : comment écrire « un peu chaud »
- Logique floue et probabilité : pourquoi « un peu chaud » ne veut pas dire « probablement chaud »
- Logique floue : t-normes, implications et règles SI–ALORS
- Commande floue : Mamdani et Sugeno, du ventilateur au pendule inversé sur un chariot
- Clustering flou : l’algorithme fuzzy c-means et les points entre les clusters
- Systèmes neuro-flous (ANFIS) : des règles floues qui apprennent à partir des données
- Chaînes de Markov : matrice de transition, distribution stationnaire et PageRank
- Modèles de Markov cachés : l’algorithme de Viterbi et le casino malhonnête
- Réseaux bayésiens : pourquoi l’herbe est mouillée et ce que cela implique pour l’arroseur
- Le filtre de Kalman : comment estimer, à partir de mesures imprécises, où se trouve une voiture et à quelle vitesse elle roule
- Types d’apprentissage automatique : supervisé, non supervisé, semi-supervisé et plus
- Prompts, contexte et RAG : comment donner au modèle les bonnes informations
- Autoencodeurs variationnels (VAE) : de nouvelles images à partir d’un espace latent continu
- Réseaux antagonistes génératifs (GAN) : le faussaire contre le détective
- Modèles de diffusion : comment une image naît du bruit pur
- Processus de décision markoviens : états, actions, récompenses et équations de Bellman
- Q-learning et DQN : apprendre la valeur des actions, du tableau au réseau de neurones
- Policy gradient et PPO : apprendre directement la politique
- Comment fonctionne un agent IA : un modèle de langage en boucle avec des outils
- Programmer avec des agents IA : consigne, tests et vérification
- Évaluation et sécurité des systèmes d’IA : comment mesurer et comment surveiller
Programme complet de la série 52 sur 83 sujets publiés
- Qu’une variable aléatoire est une simple fonction qui associe un nombre au résultat d’une expérience.
- Ce qu’est la fonction de répartition, quelles sont ses propriétés et comment en tirer la probabilité d’un intervalle.
- Ce qui distingue les variables discrètes des continues, et comment estimer la fonction de répartition à partir des données.
Utile à connaître avant : Qu’est-ce que la probabilité : du lancer de dé aux axiomes de Kolmogorov, Fonctions et applications : pourquoi tout modèle d’IA est une fonction
Dans la partie Qu’est-ce que la probabilité, nous avons travaillé avec des événements : « la somme vaut 7 », « un six est sorti ». Mais la plupart du temps, ce qui nous intéresse n’est pas de savoir si quelque chose s’est produit, mais combien : combien de minutes on attendra le bus, combien vaudra une action, quelle température affichera le thermomètre. Pour cela, les mathématiques ont la variable aléatoire — et une fonction qui en dit absolument tout.
1. Variable aléatoire
Définition — variable aléatoire
Soit (Ω, 𝓕, P) un espace probabilisé. Une variable aléatoire est une fonction X : Ω → ℝ telle que, pour tout x ∈ ℝ, l’ensemble {ω ∈ Ω : X(ω) ≤ x} soit un événement, c’est-à-dire appartienne à 𝓕.
Une variable aléatoire n’a rien d’aléatoire et n’est pas une variable : c’est une simple fonction qui associe un nombre à chaque résultat de l’expérience. Le hasard est dans le résultat ω ; la variable se contente de le transformer en un nombre avec lequel on peut calculer. La condition de la définition garantit qu’on peut se demander « quelle est la probabilité que X ≤ x ? ».
Une même expérience peut porter plusieurs variables. Le lancer de deux dés a 36 résultats ; S(ω) est la somme des deux dés, N(ω) le nombre de six. Au résultat (3, 6), S associe le nombre 9 et N le nombre 1. La figure montre S comme une fonction : chaque case de gauche porte sa valeur, et la colonne de droite indique combien de cases tombent sur cette valeur.
2. Loi d’une variable aléatoire
Définition — loi d’une variable aléatoire
La loi d’une variable aléatoire X est la probabilité sur ℝ qui associe à un ensemble de valeurs B le nombre PX(B) = P(X ∈ B) = P({ω : X(ω) ∈ B}).
La loi dit comment la probabilité totale 1 se répartit entre les valeurs possibles. Pour la somme de deux dés, la valeur 7 reçoit six cases sur 36, soit 6/36 ; les valeurs 2 et 12 une seule chacune. Le nombre de six N suit une autre loi : 0 avec la probabilité 25/36, 1 avec 10/36 et 2 avec 1/36.
Dès qu’on connaît la loi, les résultats d’origine ω n’ont plus d’importance. Deux jeux complètement différents peuvent avoir des variables de même loi — et pour les calculs, elles sont alors indiscernables.
3. Fonction de répartition
Définition — fonction de répartition
La fonction de répartition d’une variable aléatoire X est la fonction FX : ℝ → [0, 1],
FX(x) = P(X ≤ x).
La fonction de répartition au point x répond à la question : « avec quelle probabilité obtient-on au plus x ? » Pour la somme de deux dés, F(7) = 21/36 ≈ 0,583 — une somme de 7 ou moins occupe 1 + 2 + 3 + 4 + 5 + 6 = 21 cases.
Pour la somme des dés, la fonction de répartition est un escalier. Entre les valeurs, rien ne change — F(7,5) vaut toujours 21/36, car une somme de 7,5 ne peut pas sortir. À chaque valeur possible, la fonction fait un saut exactement égal à la probabilité de cette valeur : en sept, de 6/36. Le point plein montre ce que vaut la fonction à l’endroit du saut ; le rond vide, la valeur dont elle s’approchait par la gauche.
Théorème — la fonction de répartition caractérise la loi
Deux variables aléatoires ont la même loi si et seulement si elles ont la même fonction de répartition.
Une seule fonction d’une seule variable contient absolument tout ce qu’on peut savoir de la loi. D’où son nom de fonction « de répartition » : elle décrit comment la probabilité se répartit le long de l’axe des nombres.
4. Propriétés de la fonction de répartition
Théorème — propriétés de la fonction de répartition
Toute fonction de répartition F
- est croissante (au sens large) : x ≤ y ⇒ F(x) ≤ F(y) ;
- a pour limites limx→−∞ F(x) = 0 et limx→+∞ F(x) = 1 ;
- est continue à droite : limy→x⁺ F(y) = F(x).
Et réciproquement : toute fonction ayant ces trois propriétés est la fonction de répartition d’une certaine variable aléatoire.
L’escalier ne fait que monter (les valeurs « au plus x » s’ajoutent, elles ne disparaissent pas), il part de zéro et finit à un (à gauche il n’y a rien, à droite il y a tout). La continuité à droite, c’est ce point plein en haut de la marche : F(7) inclut déjà le sept, puisque la définition contient un ≤.
Théorème — probabilité d’un intervalle
Pour a < b, on a P(a < X ≤ b) = F(b) − F(a).
De « au plus b », vous retirez « au plus a » et il reste « plus que a, mais au plus b ». Une somme de 5, 6 ou 7 : F(7) − F(4) = 21/36 − 6/36 = 15/36 ≈ 0,417 — sur la figure, le segment orange à droite.
5. Variables discrètes et continues
Définition — variable aléatoire discrète
Une variable aléatoire X est discrète s’il existe un ensemble fini ou dénombrable de valeurs {x1, x2, …} avec ∑i P(X = xi) = 1.
Les valeurs se comptent sur les doigts (quitte à compter sans fin) : la somme des dés, le nombre d’e-mails reçus en une heure, le mot qu’écrira un modèle de langage. La fonction de répartition est un escalier.
Définition — variable aléatoire continue
Une variable aléatoire X est continue si sa fonction de répartition FX est continue. Alors P(X = x) = 0 pour tout x ∈ ℝ.
Les valeurs remplissent tout un intervalle : un temps, une longueur, une température. La fonction de répartition n’a aucun saut — et un saut au point x serait justement P(X = x). C’est pourquoi chaque valeur prise isolément a une probabilité nulle, même si elle peut se produire.
Un exemple : le bus passe toutes les 10 minutes et vous arrivez à l’arrêt à un instant quelconque. Le temps d’attente X est continu et également probable partout entre 0 et 10 minutes, donc F(x) = x/10 pour 0 ≤ x ≤ 10. Attendre au plus 3 minutes a la probabilité F(3) = 0,3 ; attendre entre 3 et 5 minutes, F(5) − F(3) = 0,2. Mais attendre exactement 3 minutes — pas un milliardième de seconde de plus — a la probabilité 0. Comment calculer avec cela et ce que montre la fonction de densité, c’est le sujet de la prochaine partie.
6. Fonction de répartition empirique
Définition — fonction de répartition empirique
Pour des valeurs mesurées x1, …, xn, la fonction de répartition empirique est
F̂n(x) = (nombre de i tels que xi ≤ x) / n.
Souvent, on ne connaît pas la vraie fonction de répartition — on n’a que des données. La fonction de répartition empirique en est l’estimation à partir des données : la part des valeurs mesurées qui valent au plus x. Chaque mesure ajoute une marche de hauteur 1/n.
Nous avons simulé 10, 100 et 1 000 attentes du bus. La droite en pointillés est la vraie fonction de répartition x/10, l’escalier en couleur la fonction empirique tirée des données :
Avec dix mesures, l’estimation s’écarte de la réalité de jusqu’à 0,268, avec cent de 0,085 et avec mille de seulement 0,025. Que la fonction de répartition empirique épouse la vraie à mesure que les données s’accumulent, c’est ce qu’affirme le théorème de Glivenko-Cantelli — la garantie mathématique qu’une loi peut s’apprendre à partir des données.
7. Variables aléatoires en intelligence artificielle
- Les données sont des variables aléatoires. L’âge d’un client, le prix d’un appartement, la luminosité d’un pixel — un modèle d’apprentissage automatique suppose que les données d’entraînement sont des valeurs de variables aléatoires d’une loi inconnue, et cherche à estimer cette loi (ou une partie de celle-ci) à partir d’elles.
- Générer des nombres aléatoires de n’importe quelle loi. Ce que l’ordinateur sait surtout faire, c’est un nombre uniforme U entre 0 et 1. On prend le plus petit x pour lequel F(x) ≥ U, et on obtient une valeur de loi F. Pour U = 0,6 et la somme des dés : F(7) ≈ 0,583 ne suffit pas encore, F(8) = 26/36 ≈ 0,722 suffit — on obtient 8. C’est aussi ainsi qu’un modèle de langage choisit le mot suivant.
- Quantiles et médiane. La médiane est la valeur où F atteint 0,5 pour la première fois : pour la somme des dés, c’est 7. Quand on écrit d’un serveur que « 95 % des requêtes reçoivent une réponse en moins de 200 ms », on dit que F(200 ms) ≥ 0,95.
- Les modèles génératifs (modèles de diffusion, VAE) partent d’un bruit aléatoire — un vecteur de variables aléatoires de loi connue — et apprennent à le transformer en image ou en texte.
8. Résumé
- Une variable aléatoire est une fonction qui associe un nombre au résultat d’une expérience.
- La loi dit comment la probabilité se répartit entre les valeurs ; la fonction de répartition F(x) = P(X ≤ x) la détermine entièrement.
- F est croissante, va de 0 à 1, est continue à droite, et P(a < X ≤ b) = F(b) − F(a).
- Une variable discrète a une F en escalier ; une variable continue a une F sans sauts, et chaque valeur prise isolément a une probabilité 0.
- La fonction de répartition empirique estime F à partir des données et s’en rapproche à mesure que le nombre de mesures augmente.
Vous voyez les choses autrement ? Écrivez à support@coden-app.com.