Types d’apprentissage automatique : supervisé, non supervisé, semi-supervisé et plus
Apprentissage supervisé, non supervisé, semi-supervisé, auto-supervisé et par renforcement — avec des définitions précises, des explications en termes simples et des animations d’algorithmes réels.
Série Bases de l’IA Partie 42 sur 52
- Carte de l’intelligence artificielle : qu’est-ce qui est quoi et comment tout s’emboîte
- Brève histoire de l’intelligence artificielle : de Turing aux modèles de langage
- Données, modèle, entraînement, inférence : les notions de base sur un seul exemple
- Lire la notation mathématique : symboles, indices, sommes et quantificateurs
- Ensembles et relations : les briques dont sont faites les définitions en IA
- Fonctions et applications : pourquoi tout modèle d’IA est une fonction
- Logique et démonstrations : les règles selon lesquelles on raisonne en IA
- Graphes et arbres : la structure sur laquelle reposent la recherche et les réseaux de neurones
- Algèbre linéaire pour l’apprentissage automatique : vecteurs, matrices et pourquoi l’IA multiplie surtout
- Dérivées, gradient et règle de dérivation en chaîne : comment un modèle sait dans quelle direction apprendre
- Descente de gradient : comment un modèle apprend
- Qu’est-ce que la probabilité : du lancer de dé aux axiomes de Kolmogorov
- Probabilité conditionnelle et théorème de Bayes : comment réviser une estimation quand on apprend du nouveau
- Variable aléatoire et fonction de répartition : une seule fonction qui dit tout de la loi
- Fonction de densité et fonction de masse : pourquoi une variable continue a une probabilité nulle en chaque point
- Espérance, variance et covariance : où se situe une loi, quelle est sa largeur et ce qui varie avec quoi
- Panorama des lois de probabilité : Bernoulli, binomiale, Poisson, uniforme, normale et exponentielle
- Loi des grands nombres et théorème central limite : pourquoi les moyennes sont si prévisibles
- Statistique et estimation de paramètres : maximum de vraisemblance, MAP et intervalles de confiance
- Théorie de l’information : entropie, entropie croisée et divergence KL — d’où viennent les fonctions de perte
- Recherche dans l’espace d’états : BFS, DFS, UCS et A* en animations
- Jeux et adversaires : minimax, élagage alpha-bêta et Monte Carlo tree search
- Satisfaction de contraintes : backtracking, propagation de contraintes et AC-3 sur un sudoku et une carte des régions tchèques
- Logique et systèmes à base de connaissances : chaînage avant et arrière, résolution et systèmes experts
- Planification : STRIPS, monde des blocs, heuristiques par relaxation et planification dans les agents IA
- Recherche locale et recuit simulé : un voyageur de commerce à travers les chefs-lieux de région tchèques
- Algorithmes génétiques : population, croisement, mutation et sélection sur un sac à dos de randonnée
- Stratégies d’évolution et programmation génétique : de la règle du cinquième à la loi de Kepler
- Optimisation par colonies de fourmis : comment une piste de phéromone trouve un chemin court
- Optimisation par essaim de particules : inertie, expérience propre et expérience de l’essaim
- Neuroévolution : faire évoluer les poids et la forme des réseaux de neurones, et l’algorithme NEAT
- Ensembles flous et fonctions d’appartenance : comment écrire « un peu chaud »
- Logique floue et probabilité : pourquoi « un peu chaud » ne veut pas dire « probablement chaud »
- Logique floue : t-normes, implications et règles SI–ALORS
- Commande floue : Mamdani et Sugeno, du ventilateur au pendule inversé sur un chariot
- Clustering flou : l’algorithme fuzzy c-means et les points entre les clusters
- Systèmes neuro-flous (ANFIS) : des règles floues qui apprennent à partir des données
- Chaînes de Markov : matrice de transition, distribution stationnaire et PageRank
- Modèles de Markov cachés : l’algorithme de Viterbi et le casino malhonnête
- Réseaux bayésiens : pourquoi l’herbe est mouillée et ce que cela implique pour l’arroseur
- Le filtre de Kalman : comment estimer, à partir de mesures imprécises, où se trouve une voiture et à quelle vitesse elle roule
- Types d’apprentissage automatique : supervisé, non supervisé, semi-supervisé et plus
- Prompts, contexte et RAG : comment donner au modèle les bonnes informations
- Autoencodeurs variationnels (VAE) : de nouvelles images à partir d’un espace latent continu
- Réseaux antagonistes génératifs (GAN) : le faussaire contre le détective
- Modèles de diffusion : comment une image naît du bruit pur
- Processus de décision markoviens : états, actions, récompenses et équations de Bellman
- Q-learning et DQN : apprendre la valeur des actions, du tableau au réseau de neurones
- Policy gradient et PPO : apprendre directement la politique
- Comment fonctionne un agent IA : un modèle de langage en boucle avec des outils
- Programmer avec des agents IA : consigne, tests et vérification
- Évaluation et sécurité des systèmes d’IA : comment mesurer et comment surveiller
Programme complet de la série 52 sur 83 sujets publiés
- Cinq types d’apprentissage automatique selon le signal que le modèle reçoit en apprenant.
- Pourquoi quelques étiquettes et beaucoup de données non étiquetées peuvent suffire — et comment apprennent les modèles de langage.
- Comment un agent apprend à agir uniquement à partir de récompenses et de punitions.
Utile à connaître avant : Carte de l’intelligence artificielle : qu’est-ce qui est quoi et comment tout s’emboîte, Lire la notation mathématique : symboles, indices, sommes et quantificateurs
« Le modèle l’a appris. » Cette phrase sonne toujours pareil, mais elle recouvre des choses très différentes. Tantôt le modèle a appris à partir de milliers de photos sur lesquelles quelqu’un avait écrit ce qu’elles montrent. Tantôt il n’a reçu qu’un tas de données sans la moindre étiquette et devait y trouver un ordre. Et tantôt il a appris comme un chien au dressage — en essayant, et en recevant une récompense pour les bons gestes.
C’est pourquoi on classe l’apprentissage automatique selon le signal que le modèle reçoit pendant l’apprentissage. Nous allons parcourir les principaux types, de l’apprentissage supervisé jusqu’à l’apprentissage par renforcement. Pour chacun, vous trouverez une définition précise, une explication en termes simples et un graphique qui est le résultat réel d’un algorithme — rien n’est dessiné à la main.
1. Que signifie « une machine apprend »
Définition — apprentissage (T. Mitchell, 1997)
On dit qu’un programme apprend de l’expérience E par rapport à une classe de tâches T et une mesure de performance P si sa performance sur les tâches de T, mesurée par P, s’améliore avec l’expérience E.
Apprendre, c’est s’améliorer avec la pratique. La tâche T peut être « reconnaître le spam », la mesure P « combien d’e-mails sont bien classés » et l’expérience E « mille e-mails que quelqu’un a déjà triés ». Les types d’apprentissage diffèrent surtout par la forme de cette expérience E.
Définition — modèle et paramètres
Un modèle est une fonction fθ : 𝒳 → 𝒴 de l’espace des entrées 𝒳 vers l’espace des sorties 𝒴, déterminée par des paramètres θ ∈ ℝp.
L’apprentissage (entraînement) consiste à chercher les paramètres θ qui minimisent une fonction objectif J(θ) calculée sur les données — typiquement par descente de gradient θ ← θ − η ∇J(θ).
Un modèle est une machine pleine de boutons — les paramètres. Apprendre, c’est tourner les boutons jusqu’à ce que la machine fasse ce qu’on veut. La fonction objectif est un nombre qui dit à quel point elle se trompe encore ; la descente de gradient tourne toujours les boutons dans la direction où elle se trompe le moins.
Les principaux types d’apprentissage en bref — ils diffèrent par ce que contiennent les données :
Apprendre à répondre comme le professeur.
Trouver une structure dans les données.
Tirer parti aussi des données sans étiquette.
C’est ainsi qu’apprennent les modèles de langage.
Apprendre à agir.
2. Apprentissage supervisé (supervised learning)
Définition — apprentissage supervisé
On dispose d’un ensemble d’entraînement D = {(xi, yi)}i=1n de paires entrée–étiquette, tirées indépendamment d’une distribution inconnue P(X, Y), et d’une fonction de perte L(ŷ, y) ≥ 0.
On cherche le modèle qui minimise le risque empirique : θ* = argminθ (1/n) ∑i=1n L(fθ(xi), yi).
Le but n’est pourtant pas l’ensemble d’entraînement — le modèle doit bien fonctionner sur des données nouvelles issues de la même distribution (généralisation). C’est pourquoi la performance se mesure sur un ensemble de test mis de côté.
Comme un enfant avec un imagier : sous chaque image est écrit « chien » ou « chat ». Le modèle regarde des exemples avec la bonne réponse et s’ajuste pour viser juste. La fonction de perte est la pénalité pour chaque erreur. Et l’examen se passe sur des images qu’il n’a jamais vues — les réponses apprises par cœur ne comptent pas.
Selon la nature de l’étiquette y, on distingue deux tâches.
Classification
Définition — classification
Les étiquettes appartiennent à un ensemble fini de classes : y ∈ {1, …, K}. La perte courante est l’entropie croisée L = −∑k [y = k] log pθ(k | x).
Régression logistique pour deux classes : p(y = 1 | x) = σ(w⊤x + b), où σ(z) = 1 / (1 + e−z). La frontière de décision est la droite w⊤x + b = 0.
La classification répond à « dans quelle case ça va » : spam ou pas ? Chien, chat ou perroquet ? La régression logistique trace une ligne entre les classes et, pour chaque point, dit avec quelle certitude il se trouve de tel ou tel côté.
Le graphique montre 60 points de deux classes. La frontière part volontairement mal placée et la descente de gradient la déplace époque après époque jusqu’à séparer les classes :
Régression
Définition — régression
Les étiquettes sont des nombres réels : y ∈ ℝ. La perte courante est l’erreur quadratique moyenne MSE = (1/n) ∑i (f(xi) − yi)2.
Pour la régression linéaire f(x) = ax + b, le minimum de la MSE a une forme close : a = ∑(xi − x̄)(yi − ȳ) / ∑(xi − x̄)2, b = ȳ − ax̄ (méthode des moindres carrés).
La régression répond à « combien » : combien coûtera un appartement, quelle température fera-t-il demain. La régression linéaire fait passer une droite à travers les points de sorte que la somme des carrés des distances verticales — en pointillés sur la figure — soit la plus petite possible.
L’apprentissage supervisé fait tourner la plupart des applications pratiques : filtres anti-spam, reconnaissance faciale, diagnostic sur radiographies, estimation du prix d’un bien immobilier. Il a cependant une condition coûteuse — quelqu’un doit étiqueter les données. Et c’est souvent la partie la plus chère de tout le projet.
3. Apprentissage non supervisé (unsupervised learning)
Définition — apprentissage non supervisé
On dispose seulement d’un ensemble d’entrées D = {xi}i=1n ⊂ 𝒳, sans étiquettes. On cherche la structure de la distribution P(X) : des groupes, une représentation de faible dimension ou la densité p(x) elle-même.
On vous donne une boîte de photos sans légende et vous devez les trier. Personne ne vous dit selon quoi — vous remarquez vous-même que certaines ont été prises à la mer et d’autres à la montagne. Le modèle cherche les ressemblances et les motifs qui existent dans les données, même si personne ne les a nommés.
Partitionnement : k-means
Définition — k-means
Répartir les points en k groupes C1, …, Ck de centres μ1, …, μk de façon à minimiser la somme des carrés intra-groupe :
J = ∑j=1k ∑x ∈ Cj ‖x − μj‖2.
L’algorithme de Lloyd alterne deux étapes : (1) affecter chaque point au centre le plus proche, (2) déplacer chaque centre à la moyenne de ses points. Aucune étape n’augmente J, donc l’algorithme s’arrête — mais seulement dans un minimum local.
Vous plantez trois drapeaux dans une salle. Chaque personne va se placer près du plus proche. Puis vous déplacez chaque drapeau au milieu de son petit groupe. Les gens se répartissent à nouveau, les drapeaux bougent encore — et au bout de quelques tours, plus rien ne change. Les petits groupes sont les clusters.
Les centres (les croix) partent volontairement tous du coin inférieur gauche. Dès la première itération, ils filent vers leurs groupes, et après quatre itérations ils ne bougent plus.
Autres tâches non supervisées : la réduction de dimension (par exemple, l’ACP projette les données sur quelques directions où elles varient le plus — utile pour la visualisation comme pour la compression), la détection d’anomalies (ce qui ne ressemble à rien de connu — un paiement frauduleux, une panne de machine) et l’estimation de densité.
4. Apprentissage semi-supervisé (semi-supervised learning)
Définition — apprentissage semi-supervisé
On dispose d’un petit ensemble étiqueté DL = {(xi, yi)}i=1l et d’un grand ensemble non étiqueté DU = {xj}j=l+1l+u, où u ≫ l. Le but est le même qu’en apprentissage supervisé, mais on se sert aussi de DU pour l’atteindre.
Cela ne fonctionne que sous l’une des hypothèses suivantes :
- régularité — des points proches ont la même étiquette,
- clusters — les points d’un même groupe ont la même étiquette, la frontière entre classes passe par les zones peu denses,
- variété — les données se trouvent sur une surface de faible dimension et la distance doit se mesurer le long de celle-ci.
Vous avez dix mille photos, mais vous n’avez eu le temps d’en légender que dix. Les photos non étiquetées aident quand même : elles montrent à quoi « ressemblent » les données — où sont les petits groupes et où passe le vide entre eux. Les étiquettes se propagent ensuite d’elles-mêmes à travers les groupes.
Propagation d’étiquettes sur un graphe
Construire un graphe dans lequel chaque point est relié à ses k plus proches voisins (ici k = 4). À chaque tour, chaque point non étiqueté qui a un voisin étiqueté reçoit l’étiquette majoritaire de ses voisins étiquetés. Répéter tant qu’il reste des points non étiquetés.
Les données sont deux « lunes » de 40 points chacune. Seuls deux points ont une étiquette — un dans chaque lune, mis en évidence par un contour. Les autres sont gris :
Les étiquettes se propagent le long des lunes comme un feu dans l’herbe sèche, et en 10 tours tous les points sont correctement étiquetés. Si l’on ignorait les données non étiquetées et qu’on classait chaque point uniquement d’après celui des deux points étiquetés dont il est le plus proche, seuls 84 % seraient corrects : les extrémités des lunes sont plus proches du point étiqueté de l’autre lune que du leur. Ce qui fait la différence, c’est justement la forme des données, que l’on ne connaît que grâce aux points non étiquetés.
Les pseudo-étiquettes (self-training) fonctionnent de façon semblable : un modèle entraîné sur le petit ensemble étiqueté étiquette les données non étiquetées dont il est le plus sûr, puis continue d’apprendre à partir d’elles aussi.
5. Apprentissage auto-supervisé (self-supervised learning)
Définition — apprentissage auto-supervisé
Les données ne sont pas étiquetées, D = {xi}, mais à partir de chaque x on fabrique automatiquement une paire (x̃, t) = g(x) : x̃ est une partie ou une version abîmée de l’entrée et t ce qui y manque. Le modèle apprend de façon supervisée sur cette tâche prétexte (pretext task).
Prédiction du token suivant — c’est ainsi que l’on pré-entraîne les grands modèles de langage. Un texte est une suite de tokens x1, …, xT et on maximise
∑t=1T log pθ(xt | x1, …, xt−1).
Il y a bien un professeur, mais personne n’a dû le payer : les réponses sont cachées dans les données elles-mêmes. Vous masquez un mot dans une phrase et le modèle devine lequel c’était. Le texte d’Internet se corrige ainsi lui-même — et en chemin, le modèle doit assimiler la grammaire, des faits et un peu de raisonnement, sinon il devinerait mal.
Techniquement, l’apprentissage auto-supervisé est de l’apprentissage supervisé, mais les étiquettes ne coûtent rien — c’est pourquoi on peut l’appliquer à tout Internet. Pour les images, on utilise une astuce similaire : le modèle reçoit deux recadrages différents de la même photo et apprend qu’ils vont ensemble (apprentissage contrastif). Le résultat, appelé modèle de fondation, est ensuite affiné pour une tâche précise sur une petite quantité de données étiquetées.
6. Apprentissage par renforcement (reinforcement learning)
Définition — processus de décision markovien
L’environnement est un quintuplet (S, A, P, R, γ) : états S, actions A, probabilité de transition P(s′ | s, a), récompense R(s, a, s′) et facteur d’actualisation γ ∈ [0, 1).
L’agent choisit ses actions selon une politique π(a | s). Le but est de maximiser le retour espéré G = ∑t≥0 γt rt.
Le Q-learning apprend la valeur Q(s, a) — le retour espéré après l’action a dans l’état s — avec la règle
Q(s, a) ← Q(s, a) + α [r + γ maxa′ Q(s′, a′) − Q(s, a)].
Personne ne dit à l’agent quel est le bon coup. Il essaie, et le monde lui renvoie pour chaque pas une récompense ou une punition. Peu à peu, il retient quels coups paient et où — y compris ceux qui ne paient que dix pas plus tard. Le facteur d’actualisation γ indique à quel point les récompenses futures comptent pour lui par rapport aux récompenses immédiates.
L’agent (orange) se déplace sur une grille. Chaque pas coûte −1, l’arrivée rapporte +10 et le piège −10 ; on ne peut pas entrer dans les murs. Au départ, il ne sait rien. Après 600 épisodes de Q-learning (α = 0,5, γ = 0,95, avec une exploration aléatoire dans 20 % des pas), les flèches montrent la meilleure action apprise dans chaque case :
L’agent prend le chemin le plus court vers l’arrivée et contourne le piège. On voit comment il a appris grâce au retour moyen : sur les 50 premiers épisodes, il était de −11,1 (l’agent errait et tombait dans le piège), sur les 50 derniers déjà de −1,8 — l’écart par rapport à l’optimum vient de l’exploration aléatoire, que l’agent ne coupe pas pendant l’entraînement.
L’apprentissage par renforcement est derrière les programmes qui ont battu les champions du monde de go, derrière le pilotage de robots — et aussi derrière l’affinage des modèles de langage : le RLHF (apprentissage par renforcement à partir de retours humains) utilise comme récompense un modèle entraîné sur les réponses que les humains ont jugées meilleures.
7. Autres façons de classer
Le type de professeur n’est pas le seul critère. En voici quelques autres que vous rencontrerez :
Définition — apprentissage par transfert (transfer learning)
Les paramètres θ0 appris sur une tâche source servent de point de départ pour une tâche cible : θ* = argminθ Jcible(θ), cherché à partir de θ0, souvent seulement sur une petite partie des paramètres (affinage, fine-tuning).
Qui sait faire du vélo apprend plus vite la moto. Un modèle qui a déjà « vu le monde » n’a besoin que de quelques centaines d’exemples de votre tâche pour compléter son apprentissage.
Définition — apprentissage actif
Le modèle choisit lui-même quels x ∈ DU faire étiqueter — typiquement ceux où l’incertitude est la plus grande, par exemple avec l’entropie la plus élevée H(pθ(· | x)).
Au lieu qu’un humain étiquette tout, le modèle ne pose des questions que sur ce qu’il ne comprend pas. Le même résultat pour une fraction du travail.
Définition — modèles génératifs et discriminatifs
Un modèle discriminatif apprend directement p(y | x) ou une frontière de décision. Un modèle génératif apprend la distribution des données p(x), voire p(x, y), et sait en échantillonner de nouvelles données.
Un modèle discriminatif distingue un chien d’un chat. Un modèle génératif sait si bien à quoi ressemble un chien qu’il peut en dessiner un. Les modèles de langage comme les générateurs d’images sont génératifs.
Et encore l’apprentissage par lots ou en ligne (le modèle est entraîné une fois sur toutes les données, ou il apprend en continu de chaque nouvel exemple) et les modèles paramétriques ou non paramétriques (un nombre fixe de paramètres comme la régression logistique, ou un modèle qui grandit avec les données comme les k plus proches voisins).
8. Comparaison
| Type d’apprentissage | Données | Signal | Tâches typiques | Exemples d’algorithmes |
|---|---|---|---|---|
| Supervisé | (x, y) | bonne réponse | classification, régression | régression logistique, arbres de décision, réseaux de neurones |
| Non supervisé | x | aucun | partitionnement, réduction de dimension, anomalies | k-means, ACP, auto-encodeurs |
| Semi-supervisé | peu de (x, y) + beaucoup de x | quelques réponses | classification avec des étiquettes coûteuses | propagation d’étiquettes, pseudo-étiquettes |
| Auto-supervisé | x | fabriqué à partir des données | pré-entraînement des modèles de fondation | prédiction de token, masquage, apprentissage contrastif |
| Par renforcement | interaction avec l’environnement | récompense | jeux, robots, pilotage, RLHF | Q-learning, policy gradient, PPO |
9. Résumé
- Les types d’apprentissage diffèrent par l’expérience E que reçoit le modèle : des bonnes réponses, seulement des données, un peu des deux, des réponses fabriquées à partir des données, ou des récompenses pour ses actions.
- L’apprentissage supervisé est le plus direct, mais il exige des étiquettes coûteuses.
- Le non supervisé cherche une structure ; en semi-supervisé, les données non étiquetées aident à étendre quelques étiquettes à tout le reste.
- L’auto-supervisé fabrique les étiquettes à partir des données elles-mêmes — c’est sur lui que reposent les modèles de langage actuels.
- L’apprentissage par renforcement apprend à agir : essayer, collecter des récompenses et anticiper.
En pratique, les types se combinent. Un grand modèle de langage est pré-entraîné par apprentissage auto-supervisé, affiné de façon supervisée sur des réponses modèles, puis enfin par apprentissage par renforcement selon les évaluations humaines. Trois types d’apprentissage dans un seul modèle — celui avec lequel vous êtes peut-être en train de discuter.
Vous voyez les choses autrement ? Écrivez à support@coden-app.com.