Serie
KI-Grundlagen
Eine Serie von der Gesamtkarte der künstlichen Intelligenz bis zu einzelnen Algorithmen. Jeder Teil lässt sich für sich lesen — exakte Definitionen für alle, die sie wollen, einfache Erklärungen für alle.
-
Lehrplan
Lehrplan der Serie KI-Grundlagen: von den Grundlagen bis zu Sprachmodellen und Agenten
Die Landkarte aller Artikel der Serie — Mathematik, Suche, maschinelles Lernen, Signalverarbeitung, neuronale Netze, LSTM, Transformer, generative Modelle und KI-Agenten.
-
Teil 1
Landkarte der künstlichen Intelligenz: was was ist und wie alles zusammenpasst
Künstliche Intelligenz, maschinelles Lernen, Deep Learning, Sprachmodelle und KI-Agenten — wie sie zusammenhängen, auf einer Seite. Der einführende Teil der Serie KI-Grundlagen.
-
Teil 2
Eine kurze Geschichte der künstlichen Intelligenz: von Turing bis zu Sprachmodellen
Turing-Test, Dartmouth-Konferenz, die goldenen Jahre, zwei KI-Winter und Expertensysteme, statistisches Lernen, Deep Learning und Sprachmodelle — eine Zeitleiste mit Links zu Teilen der Serie und die bittere Lektion aus siebzig Jahren Forschung.
-
Teil 3
Daten, Modell, Training, Inferenz: die Grundbegriffe an einem einzigen Beispiel
Der ganze Weg des maschinellen Lernens an der Schätzung eines Wohnungspreises: Daten und ihre Aufteilung, ein Modell mit Parametern, Training per Gradientenabstieg, Hyperparameter und die Lernrate, Auswertung, Inferenz und ein Glossar der Begriffe mit Links zu den Teilen der Serie.
-
Teil 4
Mathematische Notation lesen: Symbole, Indizes, Summen und Quantoren
Ein Glossar mit etwa vierzig Symbolen, mit dem du jede Definition der Reihe KI-Grundlagen liest — von Indizes und griechischen Buchstaben über ∑ und argmin bis ∀ und ∃. Mit Spickzettel am Ende.
-
Teil 5
Mengen und Relationen: der Baukasten, aus dem Definitionen in der KI bestehen
Mengen, Teilmengen, Mengenoperationen, kartesisches Produkt, Relationen, Äquivalenz und Ordnungen — mit Venn-Diagrammen, einer Relationsmatrix und dem, wozu das alles in der künstlichen Intelligenz gut ist.
-
Teil 6
Funktionen und Abbildungen: warum jedes KI-Modell eine Funktion ist
Definitionsmenge, Bild, Injektivität, Verkettung, Umkehrfunktion, Funktionen mehrerer Variablen und Konvexität — mit Graphen der Sigmoidfunktion, von ReLU und einer Verlustlandschaft.
-
Teil 7
Logik und Beweise: die Regeln, nach denen KI schließt
Aussagen, Junktoren und Wahrheitstabellen, die Falle mit der Implikation, Quantoren und Arten von Beweisen — und warum XOR die ersten neuronalen Netze stoppte.
-
Teil 8
Graphen und Bäume: die Struktur, auf der Suche und neuronale Netze stehen
Knoten und Kanten, Grade, Adjazenzmatrix, Wege und Komponenten, BFS und Dijkstra, Bäume, minimaler Spannbaum und der Berechnungsgraph eines Neurons — alles an einem Graphen mit sieben Städten.
-
Teil 9
Lineare Algebra für maschinelles Lernen: Vektoren, Matrizen und warum KI vor allem multipliziert
Vektoren, Skalarprodukt und Kosinus-Ähnlichkeit, Matrizen als Transformationen, die Determinante, eine Schicht eines neuronalen Netzes als Wx + b und Eigenvektoren — mit Abbildungen, die Code berechnet.
-
Teil 10
Ableitungen, Gradient und Kettenregel: wie ein Modell herausfindet, in welche Richtung es lernen soll
Die Ableitung als Änderungsrate, partielle Ableitungen, der Gradient und die Kettenregel — und Backpropagation Zahl für Zahl an einem einzelnen Neuron durchgerechnet.
-
Teil 11
Gradientenabstieg: wie ein Modell lernt
Lernrate, Zickzack in engen Tälern, Momentum, Adam, stochastischer Abstieg in Mini-Batches und lokale Minima — mit Animationen echter Trajektorien.
-
Teil 12
Was ist Wahrscheinlichkeit: vom Würfelwurf zu den Kolmogorow-Axiomen
Zufallsexperiment, Ergebnisraum, Ereignisse und Operationen mit ihnen, klassische und Häufigkeitswahrscheinlichkeit und die Axiome, auf denen alles Weitere aufbaut — am Beispiel zweier Würfel.
-
Teil 13
Bedingte Wahrscheinlichkeit und der Satz von Bayes: wie du deine Einschätzung änderst, wenn du etwas Neues erfährst
Bedingte Wahrscheinlichkeit, Produktregel, Unabhängigkeit, totale Wahrscheinlichkeit und der Satz von Bayes — und warum ein positiver Test auf eine seltene Krankheit nur 16,7 % bedeutet.
-
Teil 14
Zufallsvariable und Verteilungsfunktion: eine Funktion, die alles über eine Verteilung verrät
Was eine Zufallsvariable, eine Verteilung und eine Verteilungsfunktion sind, wie sich diskrete und stetige Zufallsvariablen unterscheiden und wie man die Verteilungsfunktion aus Daten schätzt.
-
Teil 15
Dichtefunktion und Wahrscheinlichkeitsfunktion: warum eine stetige Zufallsvariable in einem Punkt die Wahrscheinlichkeit null hat
Wahrscheinlichkeitsfunktion, Wahrscheinlichkeitsdichte und die Fläche unter der Kurve — warum eine Dichte keine Wahrscheinlichkeit ist, größer als 1 sein kann und wie ein Histogramm sie aus Daten schätzt.
-
Teil 16
Erwartungswert, Varianz und Kovarianz: wo eine Verteilung liegt, wie breit sie ist und was womit zusammenhängt
Der Erwartungswert als Schwerpunkt, Linearität, Varianz und Standardabweichung, die Tschebyscheff-Ungleichung, Kovarianz und Korrelation — und warum Kovarianz null noch keine Unabhängigkeit bedeutet.
-
Teil 17
Überblick über Wahrscheinlichkeitsverteilungen: Bernoulli-, Binomial-, Poisson-, Gleich-, Normal- und Exponentialverteilung
Die sechs wichtigsten Verteilungen mit Definitionen, Erwartungswerten und Varianzen — das Galtonbrett, der Poissonsche Grenzwertsatz, die 68–95–99,7-Regel und wann welche Verteilung passt.
-
Teil 18
Gesetz der großen Zahlen und zentraler Grenzwertsatz: Warum sich Durchschnitte so vorhersagbar verhalten
Stichprobenmittel, Gesetz der großen Zahlen und zentraler Grenzwertsatz mit Animationen — warum die Normalverteilung überall ist, woher der Umfragefehler von ±3 % kommt und warum eine doppelt so genaue Schätzung viermal so viele Daten kostet.
-
Teil 19
Statistik und Parameterschätzung: Maximum Likelihood, MAP und Konfidenzintervalle
Stichprobe, Schätzer, Erwartungstreue und warum die Stichprobenvarianz durch n − 1 teilt, die Maximum-Likelihood-Methode, die bayessche MAP-Schätzung und Konfidenzintervalle — und warum das Training eines neuronalen Netzes eine Parameterschätzung ist.
-
Teil 20
Informationstheorie: Entropie, Kreuzentropie und KL-Divergenz — woher Verlustfunktionen kommen
Information als Überraschung, Entropie und Huffman-Code, Kreuzentropie, KL-Divergenz und Informationsgewinn — und warum die Verlustfunktion von Sprachmodellen die Kreuzentropie ist.
-
Teil 21
Zustandsraumsuche: BFS, DFS, UCS und A* mit Animationen
KI-Grundlagen anschaulich: was ein Zustandsraum ist, wie BFS, DFS, UCS, gierige Suche und A* funktionieren, was eine Heuristik ist und was das mit maschinellem Lernen zu tun hat.
-
Teil 22
Spiele und Gegner: Minimax, Alpha-Beta-Suche und Monte Carlo Tree Search
Ein Spiel als Suchproblem, der Spielbaum, Minimax, Alpha-Beta-Suche, Bewertungsfunktionen und MCTS — am Beispiel Tic-Tac-Toe, wo sich alles ausrechnen lässt, und der Weg von Deep Blue zu AlphaZero.
-
Teil 23
Constraint Satisfaction: Backtracking, Constraint-Propagierung und AC-3 an Sudoku und einer Karte tschechischer Regionen
Variablen, Domänen und Constraints, der Constraint-Graph, Backtracking, die Heuristiken MRV und LCV, Forward Checking, AC-3 und Min-Conflicts — am Färben der tschechischen Regionen, an Sudoku und an acht Damen.
-
Teil 24
Logik und wissensbasierte Systeme: Vorwärts- und Rückwärtsverkettung, Resolution und Expertensysteme
Wissensbasis, Folgerung und Modellprüfung, Hornklauseln, Vorwärts- und Rückwärtsverkettung, Resolution, Prolog und Expertensysteme von MYCIN bis zu Wissensgraphen — an einem kleinen System, das ein Tier erkennt.
-
Teil 25
Planung: STRIPS, die Blockwelt, Heuristiken aus Relaxierung und Planung in KI-Agenten
Die Sprachen STRIPS und PDDL, Vorwärts- und Rückwärtsplanung, die Heuristiken hmax und hadd, die Sussman-Anomalie, hierarchische Planung und Neuplanen — vom Roboter Shakey bis zu KI-Agenten, die sich eine Aufgabenliste schreiben.
-
Teil 26
Lokale Suche und simulierte Abkühlung: ein Handlungsreisender durch die tschechischen Regionalhauptstädte
Das Optimierungsproblem, das Problem des Handlungsreisenden, der Bergsteigeralgorithmus mit der 2-opt-Nachbarschaft, lokale Minima und Neustarts, simulierte Abkühlung, Temperatur und Abkühlungsplan — auf einer Route durch dreizehn Regionalhauptstädte mit bekanntem Optimum.
-
Teil 27
Genetische Algorithmen: Population, Kreuzung, Mutation und Selektion am Rucksack für die Wanderung
Genom und Fitness, Turnierselektion, Ein-Punkt-Kreuzung, Mutation und Elitismus, das Schema-Theorem und vorzeitige Konvergenz — am Rucksackproblem mit bekanntem Optimum, vom Zelt bis zu FunSearch und AlphaEvolve.
-
Teil 28
Evolutionsstrategien und genetische Programmierung: von der 1/5-Erfolgsregel zum Keplerschen Gesetz
Die (1+1)-ES und die 1/5-Erfolgsregel, Population und Selbstadaptation auf der Rastrigin-Funktion, CMA-ES, Programme als Bäume, symbolische Regression, die in Planetendaten das dritte Keplersche Gesetz findet, und die Aufblähung von Programmen.
-
Teil 29
Ameisenkolonieoptimierung: wie eine Pheromonspur einen kurzen Weg findet
Stigmergie, das Doppelbrückenexperiment, Dorigos Ameisensystem, die Rolle der Parameter α, β und ρ und verbesserte Varianten — auf einer Rundreise durch die Regionalhauptstädte und auf 60 Städten, im Vergleich mit der simulierten Abkühlung.
-
Teil 30
Partikelschwarmoptimierung: Trägheit, eigene Erfahrung und die Erfahrung des Schwarms
Boids und Schwärme, der PSO-Algorithmus, die drei Komponenten der Geschwindigkeit, ein Lauf auf der Rastrigin-Funktion im Vergleich mit einer Evolutionsstrategie, die Rolle der Trägheit, die Stabilität eines Partikels, die Topologie des Schwarms und das No-free-Lunch-Theorem.
-
Teil 31
Neuroevolution: Evolution der Gewichte und der Gestalt neuronaler Netze und der Algorithmus NEAT
Neuron und Netz in Kürze, Evolution eines Reglers für das inverse Pendel auf einem Wagen, warum Evolution statt Gradient, XOR und verborgene Neuronen, NEAT mit historischen Markierungen und Speziation, was ohne Speziation passiert, und Nachfolger von HyperNEAT bis AmoebaNet.
-
Teil 32
Fuzzy-Mengen und Zugehörigkeitsfunktionen: wie man „etwas warm“ aufschreibt
Die scharfe Grenze und das Haufen-Paradox, Fuzzy-Menge und Zugehörigkeitsgrad, Formen von Zugehörigkeitsfunktionen, linguistische Variable, Träger, Kern und α-Schnitte, Zadeh-Operationen und die Modifikatoren „sehr“ und „etwas“ — an der Temperatur von kalt bis heiß.
-
Teil 33
Fuzzy-Logik und Wahrscheinlichkeit: warum „etwas warm“ nicht „wahrscheinlich warm“ bedeutet
Zufälligkeit und Vagheit, Bezdeks zwei Flaschen, die Axiome der Wahrscheinlichkeit gegen die Fuzzy-Zugehörigkeit, die Fréchet-Schranken, die Wahrscheinlichkeit eines Fuzzy-Ereignisses an einer Wettervorhersage und Wörter für Wahrscheinlichkeit als Fuzzy-Mengen.
-
Teil 34
Fuzzy-Logik: t-Normen, Implikationen und WENN–DANN-Regeln
Wahrheitsgrade, t-Normen und t-Konormen (Minimum, Produkt, Łukasiewicz), welche klassischen Gesetze überleben, residuierte Implikationen und die Auswertung von Regeln an einem Ventilator, der nach Temperatur und Feuchte gesteuert wird.
-
Teil 35
Fuzzy-Regelung: Mamdani und Sugeno vom Ventilator bis zum Pendel auf dem Wagen
Regler und Rückkopplung, Fuzzifizierung, Inferenz und Defuzzifizierung, Schwerpunkt, Bisektor und Mittelwert der Maxima, der Takagi-Sugeno-Regler, Regelflächen und ein Fuzzy-Regler, der den Stab auf dem Wagen hält.
-
Teil 36
Fuzzy-Clustering: der Algorithmus fuzzy c-means und Punkte zwischen den Clustern
K-means und seine scharfe Zuordnung, fuzzy c-means mit Zugehörigkeiten zu allen Clustern, der Fuzzifizierer m, Partitionskoeffizient und Xie-Beni-Index für die Wahl der Clusteranzahl — und warum Ausreißer hohe Zugehörigkeiten bekommen.
-
Teil 37
Neuro-Fuzzy-Systeme (ANFIS): Fuzzy-Regeln, die aus Daten lernen
Ein Sugeno-Fuzzy-System als fünfschichtiges Netz, hybrides Lernen mit kleinsten Quadraten und Gradient, Lernen einer Funktion aus verrauschten Daten, die Wahl der Regelanzahl und Überanpassung, die Lesbarkeit gelernter Regeln und die Verwandtschaft mit RBF-Netzen.
-
Teil 38
Markow-Ketten: Übergangsmatrix, stationäre Verteilung und PageRank
Die Markow-Eigenschaft, die Übergangsmatrix und die Entwicklung einer Verteilung an einem Wettermodell, die stationäre Verteilung und der Ergodensatz, Markows Vokalanalyse angewandt auf Máchas Máj, PageRank und Textgenerierung.
-
Teil 39
Hidden-Markov-Modelle: der Viterbi-Algorithmus und das unehrliche Kasino
Hidden-Markov-Modell, die drei Probleme nach Rabiner, Vorwärts-Algorithmus, Viterbi-Algorithmus, A-posteriori-Dekodierung und Baum-Welch-Algorithmus — an einem Kasino, das ab und zu heimlich den Würfel gegen einen gezinkten tauscht.
-
Teil 40
Bayessche Netze: warum das Gras nass ist und was das für den Rasensprenger bedeutet
Gemeinsame Verteilung und ihre Faktorisierung, bayessches Netz und Tabellen bedingter Wahrscheinlichkeiten, Inferenz durch Aufzählung, Wegerklären, d-Separation und approximative Inferenz durch Stichproben — am Netz bewölkt, Rasensprenger, Regen, nasses Gras.
-
Teil 41
Der Kalman-Filter: wie man aus ungenauen Messungen schätzt, wo ein Auto ist und wie schnell es fährt
Zwei Messungen kombinieren und die Kalman-Verstärkung, der Filter als laufender Mittelwert, das Zustandsraummodell, Vorhersage und Korrektur, ein Auto per GPS verfolgen und dabei die ungemessene Geschwindigkeit schätzen, die Rauschgrößen Q und R einstellen, Optimalität und nichtlineare Erweiterungen.
-
Teil 42
Arten des maschinellen Lernens: überwacht, unüberwacht, halbüberwacht und mehr
Überwachtes, unüberwachtes, halbüberwachtes, selbstüberwachtes und bestärkendes Lernen — mit exakten Definitionen, verständlichen Erklärungen und Animationen echter Algorithmen.
-
Teil 43
Prompts, Kontext und RAG: wie man einem Modell die richtigen Informationen gibt
Prompt und Kontextfenster, RAG Schritt für Schritt, eine von Grund auf geschriebene BM25-Suche über den Artikeln dieser Website, Deklination und Wortstämme, Fragen mit anderen Worten, die Größe der Abschnitte, das Zusammensetzen des Prompts und Prompt Injection.
-
Teil 44
Variational Autoencoder (VAE): neue Bilder aus einem stetigen latenten Raum
Generatives Modell mit latenter Variable, ein VAE von Grund auf mit Reparametrisierungstrick, ein geordneter latenter Raum, Ziffern aus Rauschen im Vergleich zum gewöhnlichen Autoencoder, der Einfluss von β und der Kollaps, Interpolation und wo VAEs eingesetzt werden.
-
Teil 45
Generative Adversarial Networks (GAN): der Fälscher gegen den Detektiv
Das Spiel von Generator und Diskriminator, ein GAN von Grund auf, der nicht sättigende Verlust, acht Cluster auf einem Kreis und Mode Collapse, Ziffern schärfer als beim VAE, aber nicht alle, und der Weg vom GAN zu Diffusionsmodellen.
-
Teil 46
Diffusionsmodelle: wie aus reinem Rauschen ein Bild wird
Der Vorwärtsprozess, der Rauschen hinzufügt, ein Netz, das das Rauschen schätzt, DDPM und DDIM von Grund auf geschrieben, acht Cluster ohne Moduskollaps, wie viele Sampling-Schritte nötig sind, ein Vergleich mit VAE und GAN auf Ziffern und der Weg zu Bildern nach Text.
-
Teil 47
Markow-Entscheidungsprozesse: Zustände, Aktionen, Belohnungen und Bellman-Gleichungen
Ein MDP an einer Gitterwelt mit Klippe, Ertrag und Diskont, Wertfunktion und Bellman-Gleichung, Wertiteration und Strategie-Iteration von Grund auf geschrieben, wie Diskont, Rutschen und Schrittkosten das optimale Verhalten verändern, und eine Kontrolle per Simulation.
-
Teil 48
Q-Learning und DQN: den Wert von Aktionen lernen, von der Tabelle bis zum neuronalen Netz
Temporal-Difference-Lernen, Q-Learning und SARSA beim Klippenlauf, ε-gierige Erkundung, on-policy und off-policy, DQN mit Erfahrungsspeicher und Zielnetz am inversen Pendel auf dem Wagen von Grund auf geschrieben, und warum das Lernen von DQN so leicht zusammenbricht.
-
Teil 49
Policy Gradient und PPO: die Strategie direkt lernen
Eine stochastische Strategie als Netz, REINFORCE und das Policy-Gradient-Theorem, Baseline und Vorteil, Actor-Critic, PPO mit Clipping von Grund auf geschrieben am Pendel auf dem Wagen, was ohne Clipping passiert, und wie PPO Sprachmodelle feinabgestimmt hat.
-
Teil 50
Wie ein KI-Agent funktioniert: ein Sprachmodell in einer Schleife mit Werkzeugen
Die Schleife Überlegung – Werkzeugaufruf – Ergebnis an einer echten Aufgabe über den Artikeln dieser Website, drei Vorgehensweisen und ihre Kosten in Tokens, warum der Kontext wächst, Plan und Gedächtnis, die Zuverlässigkeit langer Aufgaben mit und ohne Kontrolle und warum ein Agent Freigaben braucht.
-
Teil 51
Programmieren mit KI-Agenten: Auftrag, Tests und Kontrolle
Wie du einem Agenten einen Auftrag mit Akzeptanzkriterien schreibst, warum du in kleinen Schritten arbeiten solltest, ein Experiment mit Mutationstesten (wie viele Fehler Happy-Path-Tests, Randfälle und eigenschaftsbasierte Tests entdecken), wer die Tests schreiben sollte und worauf du achten solltest.
-
Teil 52
Bewertung und Sicherheit von KI-Systemen: wie man misst und wie man überwacht
Benchmarks und Messunsicherheit, wie die Auswahl anhand eines Testsatzes Ergebnisse aufbläht, Datenkontamination im Versuch, Arten von Risiken, der Befehlsfilter eines Agenten als Verbots- gegen Erlaubnisliste und Verteidigung in der Tiefe.