Dein KI-Stack erklärt: LLM, RAG, MCP, Skills und Agent als Körper

Die meisten Menschen, die mir von ihrem KI-Projekt erzählen, werfen in einem Satz fünf Begriffe durcheinander: LLM, RAG, MCP, Skills, Agent. Dann will jemand einen Agenten bauen und hat nie geklärt, was ein Skill eigentlich ist. Das geht selten gut. Mein Standpunkt: Ein KI-Stack ist eine Arbeitsteilung, und wer die Rollen nicht kennt, baut doppelt oder am falschen Ende.

Ich bin seit 1989 in der Kommunikationsbranche, betreibe seit dem Frühjahr 2026 mein eigenes RAG mit über 600 Blogartikeln und erkläre dir jede Rolle mit einem Bild, das jeder kennt: dem menschlichen Körper. Schauen wir mal, wo das Bild trägt und wo es hinkt.

Ich erkläre den KI-Stack immer als Arbeitsteilung: Das LLM denkt, RAG schlägt nach, MCP verbindet, Skills regeln das Wie, und der Agent handelt. Wer diese fünf Rollen trennt, sieht sofort, welches Teil in seinem Setup fehlt.

Warum taugt der Körper als Bild für einen KI-Stack?

Weil jeder sofort versteht, dass ein Gehirn allein noch keinen Handwerker macht. Ich teile den Stack in fünf Körperteile: Gehirn, Gehirn plus Bibliothek, Nervensystem, Muskelgedächtnis, Gehirn plus Hände. Ich bin mir nicht ganz sicher, ob dieses Bild Profis genauso hilft, aber mein Eindruck ist: Für Einsteiger ist es genau richtig.

Aber jedes Bild hat Kanten. Ein Körper wächst zusammen, ein KI-Stack wird zusammengesteckt, und genau darin liegt die Chance: Du kannst jedes Teil einzeln tauschen, prüfen und absichern. Ich sage dir bei jedem Teil dazu, wo der Vergleich nicht mehr passt.

Was ist ein LLM, und warum ist es nur das Gehirn?

Ein Large Language Model versteht, schreibt und schlussfolgert. Wenn du ChatGPT oder Claude öffnest und einfach losfragst, sprichst du mit dem Gehirn allein. Das ist erstaunlich gut, aber es weiß nur, was es im Training gelernt hat. Was in deinem Angebot von letzter Woche stand, weiß es nicht. Auch nicht, wie du ein Konzept deinen Kunden erklärst.

Dazu kommt eine technische Grenze: Das Context Window ist die Menge an Text, die ein Modell pro Anfrage im Blick behalten kann. Und wo Wissen fehlt, füllt das Modell Lücken manchmal mit Plausiblem auf. Das nennt man Halluzination, und sie klingt überzeugend, was sie gefährlich macht.

Das Bild hinkt an einer Stelle: Ein Gehirn lernt ständig weiter. Ein LLM ist nach dem Training eingefroren.

Was macht RAG, und warum ist es das Gehirn mit Bibliothek?

RAG steht für Retrieval-Augmented Generation. Bevor das Modell antwortet, sucht das System passende Inhalte in deinen Dokumenten und gibt sie als Kontext mit. Die Idee stammt aus einem Paper von Facebook AI Research aus dem Jahr 2020, das ein Sprachmodell mit einem durchsuchbaren Wikipedia-Index kombinierte und im Paper Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks nachzulesen ist. Seither hat sich das Prinzip in vielen Varianten weiterentwickelt, vom Hybrid-Retrieval bis zu iterativen Suchschleifen.

Bei mir sieht die Bibliothek so aus: Mein Blog liegt in Qdrant, einer Vektordatenbank auf meinem Hetzner-Server, die Embeddings kommen von Google Gemini, und ein Cron-Job hält alles aktuell. Wie ich das gebaut habe, steht in meinem Artikel über das eigene RAG. Seitdem antwortet Claude auf Basis dessen, was ich tatsächlich geschrieben habe.

Wo das Bild hinkt: Die Bibliothek ersetzt kein Verständnis. Zerschneidet das Chunking einen Absatz an der falschen Stelle oder findet die Suche den falschen Treffer, antwortet das Gehirn trotzdem selbstsicher. RAG senkt das Halluzinationsrisiko, es beseitigt es nicht.

Wie spielen die fünf Teile zusammen? Klick dich durch

Bevor ich die restlichen drei Teile im Detail erkläre, hier der Überblick zum Durchklicken. Mit „Weiter“ und „Zurück“ gehst du Szene für Szene durch den Stack, in jeder steht auch, wo das Körperbild nicht mehr trägt. Die letzte Szene zeigt, wie eine Anfrage durch alle fünf Teile läuft.

Was ist MCP, und warum ist es das Nervensystem?

Das Model Context Protocol hat Anthropic am 25. November 2024 als offenen Standard vorgestellt, um KI-Assistenten mit den Systemen zu verbinden, in denen Daten liegen. Statt für jede Datenquelle eine eigene Anbindung zu bauen, gibt es ein Protokoll mit zwei Seiten: MCP-Server stellen Daten oder Funktionen bereit, MCP-Clients wie Claude greifen darauf zu. Die Ankündigung von Anthropic erklärt das in wenigen Absätzen.

In meinem Alltag heißt das: In claude.ai hängt ein Connector namens „Prompt Rocker RAG“ mit zwei Werkzeugen, Suchen und Notiz ablegen. Claude entscheidet während der Session selbst, wann es sie nutzt. Wie weit das gehen kann, habe ich in meinem Beitrag zum MCP-Abo für Verlage durchgespielt.

Jetzt der Teil, den die meisten unterschätzen: Das Bild vom Nervensystem hinkt bei der Sicherheit. Nerven leiten nur weiter, ein MCP-Zugang öffnet dagegen Türen. Steht in einem Dokument oder einer Mail ein versteckter Befehl, spricht man von Prompt Injection, und ein Modell mit Zugriff auf deine Postfächer kann darauf hereinfallen. Meine Regel: Lesende Rechte großzügig, schreibende Rechte einzeln freigeben, und „Immer erlauben“ nur bei Werkzeugen, die nichts löschen oder versenden können.

Was sind Skills, und was hat das mit Muskelgedächtnis zu tun?

Ein Skill ist ein Ordner mit einer Datei namens SKILL.md. Darin stehen Anweisungen für eine wiederkehrende Aufgabe, optional ergänzt um Skripte und Vorlagen. Das Entscheidende ist Progressive Disclosure: Claude sieht zunächst nur Name und Beschreibung, lädt die ganze Anleitung erst, wenn die Aufgabe passt, und weitere Dateien nur bei Bedarf. Das beschreibt Anthropic in seinem Engineering-Beitrag zu Agent Skills so, und seit Dezember 2025 ist das Format ein offener Standard.

Bei mir steckt in so einem Skill mein Schreibstil samt Verbotsliste, Linkregeln und Prüfschritten. Er steht inzwischen in Version 3.8, weil ich ihn nach jedem Artikel nachschärfe. Eine Schritt-für-Schritt-Anleitung findest du in meinem Artikel über Claude Skills als echtes Handwerk.

Das Bild hinkt hier ordentlich, ehrlich gesagt. Muskelgedächtnis sitzt im Körper und lässt sich nicht öffnen. Ein Skill ist eine Textdatei, die du lesen, ändern, versionieren und weitergeben kannst. Das ist ein Vorteil, den der Körper nicht hat.

Was ist ein AI Agent, und wann brauchst du keinen?

Ein Agent bekommt ein Ziel statt einer Frage. Er plant die Schritte selbst, ruft Werkzeuge auf und prüft Zwischenergebnisse. Der Chatbot antwortet, der Agent handelt. Im Körperbild ist er „Gehirn plus Hände“, und das passt ziemlich genau.

Aber hier widerspreche ich dem Hype. Ich habe in einem eigenen Beitrag begründet, warum du wahrscheinlich keinen KI-Agenten brauchst. Wer seinen Prozess nicht von Hand mit einem Chatbot abbilden kann, scheitert auch mit einem Agenten, nur schneller. Ein Agent ist ein Verstärker für Abläufe, die schon funktionieren. Bei einem chaotischen Ablauf automatisierst du das Chaos.

Die Hände brauchen außerdem Grenzen: klare Aufgabe, begrenzte Rechte, ein Mensch, der vor dem Versenden oder Löschen freigibt. Und weil bei personenbezogenen Daten die DSGVO mitläuft, gehört die Frage „Wohin gehen die Daten?“ an den Anfang, nicht ans Ende.

Womit fängst du an?

Meine Reihenfolge, die ich auch EPU und KMU empfehle:

1. Prompt-Handwerk: Lerne, einem LLM klare Aufgaben zu geben, bevor du irgendetwas anbindest.
2. Eigenes Wissen anbinden: Starte mit einem kleinen RAG oder einem Projekt mit hochgeladenen Dokumenten.
3. Einen Connector einrichten: Ein einziges MCP-Werkzeug, zuerst nur mit Leserechten.
4. Den ersten Skill schreiben: Nimm eine Aufgabe, die du schon dreimal gleich erklärt hast.
5. Erst dann ein Agent: Wenn du merkst, dass du dieselbe Kette an Handgriffen zum hundertsten Mal tippst.

Das Körperbild ist eine Lernhilfe, kein Bauplan. Aber wer die fünf Rollen sauber trennt, baut den Rest ruhiger und weiß beim Fehler, wo er suchen muss.

Häufige Fragen zum KI-Stack