Überblick über Wahrscheinlichkeitsverteilungen: Bernoulli-, Binomial-, Poisson-, Gleich-, Normal- und Exponentialverteilung

Die sechs wichtigsten Verteilungen mit Definitionen, Erwartungswerten und Varianzen — das Galtonbrett, der Poissonsche Grenzwertsatz, die 68–95–99,7-Regel und wann welche Verteilung passt.

14 Minuten Matěj Žalmánek 2026-10-15

Serie KI-Grundlagen Teil 17 von 52

1. Landkarte der künstlichen Intelligenz: was was ist und wie alles zusammenpasst
2. Eine kurze Geschichte der künstlichen Intelligenz: von Turing bis zu Sprachmodellen
3. Daten, Modell, Training, Inferenz: die Grundbegriffe an einem einzigen Beispiel
4. Mathematische Notation lesen: Symbole, Indizes, Summen und Quantoren
5. Mengen und Relationen: der Baukasten, aus dem Definitionen in der KI bestehen
6. Funktionen und Abbildungen: warum jedes KI-Modell eine Funktion ist
7. Logik und Beweise: die Regeln, nach denen KI schließt
8. Graphen und Bäume: die Struktur, auf der Suche und neuronale Netze stehen
9. Lineare Algebra für maschinelles Lernen: Vektoren, Matrizen und warum KI vor allem multipliziert
10. Ableitungen, Gradient und Kettenregel: wie ein Modell herausfindet, in welche Richtung es lernen soll
11. Gradientenabstieg: wie ein Modell lernt
12. Was ist Wahrscheinlichkeit: vom Würfelwurf zu den Kolmogorow-Axiomen
13. Bedingte Wahrscheinlichkeit und der Satz von Bayes: wie du deine Einschätzung änderst, wenn du etwas Neues erfährst
14. Zufallsvariable und Verteilungsfunktion: eine Funktion, die alles über eine Verteilung verrät
15. Dichtefunktion und Wahrscheinlichkeitsfunktion: warum eine stetige Zufallsvariable in einem Punkt die Wahrscheinlichkeit null hat
16. Erwartungswert, Varianz und Kovarianz: wo eine Verteilung liegt, wie breit sie ist und was womit zusammenhängt
17. Überblick über Wahrscheinlichkeitsverteilungen: Bernoulli-, Binomial-, Poisson-, Gleich-, Normal- und Exponentialverteilung
18. Gesetz der großen Zahlen und zentraler Grenzwertsatz: Warum sich Durchschnitte so vorhersagbar verhalten
19. Statistik und Parameterschätzung: Maximum Likelihood, MAP und Konfidenzintervalle
20. Informationstheorie: Entropie, Kreuzentropie und KL-Divergenz — woher Verlustfunktionen kommen
21. Zustandsraumsuche: BFS, DFS, UCS und A* mit Animationen
22. Spiele und Gegner: Minimax, Alpha-Beta-Suche und Monte Carlo Tree Search
23. Constraint Satisfaction: Backtracking, Constraint-Propagierung und AC-3 an Sudoku und einer Karte tschechischer Regionen
24. Logik und wissensbasierte Systeme: Vorwärts- und Rückwärtsverkettung, Resolution und Expertensysteme
25. Planung: STRIPS, die Blockwelt, Heuristiken aus Relaxierung und Planung in KI-Agenten
26. Lokale Suche und simulierte Abkühlung: ein Handlungsreisender durch die tschechischen Regionalhauptstädte
27. Genetische Algorithmen: Population, Kreuzung, Mutation und Selektion am Rucksack für die Wanderung
28. Evolutionsstrategien und genetische Programmierung: von der 1/5-Erfolgsregel zum Keplerschen Gesetz
29. Ameisenkolonieoptimierung: wie eine Pheromonspur einen kurzen Weg findet
30. Partikelschwarmoptimierung: Trägheit, eigene Erfahrung und die Erfahrung des Schwarms
31. Neuroevolution: Evolution der Gewichte und der Gestalt neuronaler Netze und der Algorithmus NEAT
32. Fuzzy-Mengen und Zugehörigkeitsfunktionen: wie man „etwas warm“ aufschreibt
33. Fuzzy-Logik und Wahrscheinlichkeit: warum „etwas warm“ nicht „wahrscheinlich warm“ bedeutet
34. Fuzzy-Logik: t-Normen, Implikationen und WENN–DANN-Regeln
35. Fuzzy-Regelung: Mamdani und Sugeno vom Ventilator bis zum Pendel auf dem Wagen
36. Fuzzy-Clustering: der Algorithmus fuzzy c-means und Punkte zwischen den Clustern
37. Neuro-Fuzzy-Systeme (ANFIS): Fuzzy-Regeln, die aus Daten lernen
38. Markow-Ketten: Übergangsmatrix, stationäre Verteilung und PageRank
39. Hidden-Markov-Modelle: der Viterbi-Algorithmus und das unehrliche Kasino
40. Bayessche Netze: warum das Gras nass ist und was das für den Rasensprenger bedeutet
41. Der Kalman-Filter: wie man aus ungenauen Messungen schätzt, wo ein Auto ist und wie schnell es fährt
42. Arten des maschinellen Lernens: überwacht, unüberwacht, halbüberwacht und mehr
43. Prompts, Kontext und RAG: wie man einem Modell die richtigen Informationen gibt
44. Variational Autoencoder (VAE): neue Bilder aus einem stetigen latenten Raum
45. Generative Adversarial Networks (GAN): der Fälscher gegen den Detektiv
46. Diffusionsmodelle: wie aus reinem Rauschen ein Bild wird
47. Markow-Entscheidungsprozesse: Zustände, Aktionen, Belohnungen und Bellman-Gleichungen
48. Q-Learning und DQN: den Wert von Aktionen lernen, von der Tabelle bis zum neuronalen Netz
49. Policy Gradient und PPO: die Strategie direkt lernen
50. Wie ein KI-Agent funktioniert: ein Sprachmodell in einer Schleife mit Werkzeugen
51. Programmieren mit KI-Agenten: Auftrag, Tests und Kontrolle
52. Bewertung und Sicherheit von KI-Systemen: wie man misst und wie man überwacht

Der ganze Lehrplan der Serie 52 von 83 Themen fertig

Du kannst dir eine Verteilung jedes Mal von Grund auf ausdenken — musst du aber nicht. Einige Situationen wiederholen sich in der Praxis immer wieder: ja/nein, eine Anzahl von Erfolgen, eine Anzahl von Ereignissen pro Stunde, Warten, eine Messung mit Fehler. Für jede davon gibt es eine fertige Verteilung mit wenigen Parametern, bereits berechnetem Erwartungswert und bekannter Varianz. Dieser Teil gibt einen Überblick über die sechs wichtigsten — und vor allem darüber, wann du welche verwendest.

Er baut auf den Teilen Dichtefunktion und Erwartungswert und Varianz auf.

1. Bernoulli-Verteilung

Definition — Bernoulli-Verteilung

Eine Zufallsvariable X ist Bernoulli-verteilt mit dem Parameter p ∈ [0, 1], geschrieben X ~ Ber(p), wenn

P(X = 1) = p,   P(X = 0) = 1 − p.

Der Erwartungswert ist p und die Varianz p(1 − p) — am größten bei p = 0,5, wenn das Ergebnis am wenigsten vorhersagbar ist.

2. Binomialverteilung

Definition — Binomialverteilung

Eine Zufallsvariable X ist binomialverteilt mit den Parametern n ∈ ℕ und p ∈ [0, 1], X ~ B(n, p), wenn

P(X = k) = (n über k) · p^k · (1 − p)^n−k,   k = 0, 1, …, n,

wobei (n über k) = n! / (k! (n − k)!) der Binomialkoeffizient ist.

Eine binomialverteilte Zufallsvariable ist die Summe von n unabhängigen Bernoulli-Variablen, daher ist wegen der Linearität der Erwartungswert np und die Varianz np(1 − p). Schön sieht man das am Galtonbrett: Eine Kugel prallt an jedem der zehn Nägel nach links oder nach rechts ab, jeder Abprall ist ein Bernoulli-Versuch, und das Fach, in dem sie landet, ist die Anzahl der Abpraller nach rechts — B(10; 0,5).

Die Kugeln häufen sich in der Mitte zu einer Glocke — und diese Form ist kein Zufall. Wie wir bei der Normalverteilung und im nächsten Teil sehen werden, ergibt die Summe vieler kleiner zufälliger Einflüsse immer eine Glocke.

3. Poisson-Verteilung

Definition — Poisson-Verteilung

Eine Zufallsvariable X ist Poisson-verteilt mit dem Parameter λ > 0, X ~ Po(λ), wenn

P(X = k) = e^−λ · λ^k / k!,   k = 0, 1, 2, …

Eine Besonderheit der Poisson-Verteilung: Erwartungswert und Varianz sind beide gleich λ.

Satz — Poissonscher Grenzwertsatz

Für ein festes λ > 0 und jedes k gilt lim_n→∞ P(B(n, λ/n) = k) = e^−λ λ^k / k!.

4. Gleichverteilung

Definition — stetige Gleichverteilung

Eine Zufallsvariable X ist gleichverteilt auf dem Intervall [a, b], X ~ U(a, b), wenn sie die folgende Dichte hat:

f(x) = 1 / (b − a) für a ≤ x ≤ b, sonst 0.

Der Erwartungswert ist die Mitte des Intervalls, (a + b) / 2, die Varianz (b − a)² / 12. Auf den Bus wartest du also im Schnitt 5 Minuten, mit einer Standardabweichung von √(100/12) ≈ 2,89 Minuten.

5. Normalverteilung

Definition — Normalverteilung

Eine Zufallsvariable X ist normalverteilt (gaußverteilt) mit dem Erwartungswert μ und der Varianz σ² > 0, X ~ N(μ, σ²), wenn sie die folgende Dichte hat:

f(x) = 1 / (σ√(2π)) · e^{−(x − μ)² / (2σ²)},   x ∈ ℝ.

Definition — Standardnormalverteilung

N(0, 1) heißt Standardnormalverteilung. Ist X ~ N(μ, σ²), dann gilt Z = (X − μ) / σ ~ N(0, 1).

Für die Normalverteilung gilt die 68–95–99,7-Regel: Im Abstand σ vom Mittelwert liegen 68,27 % der Werte, im Abstand 2σ 95,45 % und im Abstand 3σ 99,73 %. Haben erwachsene Männer im Mittel eine Körpergröße von 175 cm mit σ = 7 cm, dann sind 95 % von ihnen zwischen 161 und 189 cm groß. Die Tschebyscheff-Ungleichung aus dem letzten Teil garantierte für 2σ nur 75 % — die Normalverteilung ist viel „enger gebündelt“.

Die Dichte der Normalverteilung hat keine Stammfunktion in geschlossener Form, deshalb werden die Prozentzahlen oben numerisch berechnet — hier mit der Simpsonregel, also durch das Aufsummieren sehr schmaler Flächenstreifen.

6. Exponentialverteilung

Definition — Exponentialverteilung

Eine Zufallsvariable X ist exponentialverteilt mit dem Parameter λ > 0, X ~ Exp(λ), wenn sie die folgende Dichte hat:

f(x) = λ e^−λx für x ≥ 0, sonst 0.

Exponential- und Poisson-Verteilung beschreiben denselben Prozess von zwei Seiten. Dass in 4 Minuten keine E-Mail kommt, hat nach Poisson die Wahrscheinlichkeit e⁻² ≈ 0,135 — und nach der Exponentialverteilung ist P(X > 4) = e^{−0,5 · 4}, dieselbe Zahl.

Satz — Gedächtnislosigkeit der Exponentialverteilung

Für X ~ Exp(λ) und s, t ≥ 0 gilt P(X > s + t | X > s) = P(X > t).

7. Spickzettel: welche Verteilung wann

8. Verteilungen in der künstlichen Intelligenz

• Bernoulli und binäre Klassifikation. Die logistische Regression und ein Netz mit einem einzigen Ausgang sagen den Parameter p einer Bernoulli-Verteilung vorher — „mit welcher Wahrscheinlichkeit ist das Spam“. Die Verlustfunktion (binäre Kreuzentropie) ist der negative Logarithmus ihrer Wahrscheinlichkeit.
• Die kategoriale Verteilung ist Bernoulli für mehr als zwei Möglichkeiten. Der Softmax am Ende eines Sprachmodells liefert genau ihre Parameter — die Wahrscheinlichkeit jedes Worts im Vokabular.
• Die Normalverteilung ist überall: Die Anfangsgewichte von Netzen werden aus N(0, σ²) gezogen, der mittlere quadratische Fehler entspricht der Annahme normalverteilten Rauschens, und Diffusionsmodelle erzeugen Bilder, indem sie reines N(0, 1) schrittweise entrauschen.
• Dropout schaltet beim Training jedes Neuron mit einer Bernoulli-Wahrscheinlichkeit ab; die Gleichverteilung ist die Quelle aller Zufallszahlen.
• Poisson- und Exponentialverteilung modellieren Last: wie viele Anfragen bei einem Server eintreffen, wann die nächste kommt, wie viele GPUs nötig sind.

9. Zusammenfassung

• Bernoulli ist ein einzelner Ja/Nein-Versuch, die Binomialverteilung die Anzahl der Erfolge in n unabhängigen Versuchen.
• Die Poisson-Verteilung zählt Ereignisse pro Zeit und ist der Grenzfall der Binomialverteilung für viele Versuche mit kleiner Chance.
• Die Gleichverteilung gibt dem ganzen Intervall dieselbe Dichte; die Exponentialverteilung misst Wartezeiten und hat kein Gedächtnis.
• Die Normalverteilung ist eine Glocke, bestimmt durch μ und σ; in ±σ, ±2σ und ±3σ liegen 68,27 %, 95,45 % und 99,73 % der Werte.
• Eine Verteilung zu wählen heißt, ein Modell zu wählen: Was die Daten beschreibt, bestimmt auch die Verlustfunktion des Modells.

Siehst du das anders? Schreib an support@coden-app.com.