RAG-Systeme
Wie KI eigenes Wissen findet, bewertet und mit Quellen beantwortet.
RAG verbindet ein Sprachmodell mit einer eigenen Wissensbasis. Die KI sucht zunächst passende Informationen und formuliert daraus eine Antwort, statt nur auf ihr allgemeines Trainingswissen zurückzugreifen. Diese Seite erklärt die Bausteine – Chunks, Embeddings, semantische und hybride Suche – und zeigt am echten Assistenten Max von ibetmax.com, wie ein RAG-System in der Praxis funktioniert.
RETRIEVAL · KNOWLEDGE · GENERATION
Was ist RAG?
RAG steht für Retrieval-Augmented Generation – auf Deutsch etwa: durch Wissensabruf gestützte Antworterzeugung. Statt allein aus dem Trainingswissen zu antworten, sucht das System zuerst in einer eigenen Wissensbasis nach passenden Inhalten und formuliert erst dann die Antwort.
Retrieval – erst suchen
Zu jeder Frage werden die inhaltlich passendsten Wissensabschnitte aus der eigenen Wissensbasis herausgesucht – per Keyword-Suche, semantischer Suche oder beidem.
Knowledge – eigenes Wissen
Die Wissensbasis besteht aus geprüften eigenen Inhalten – etwa den Fachseiten dieses KI-Hubs. Sie kann jederzeit erweitert werden, ohne das Sprachmodell neu zu trainieren.
Generation – dann antworten
Das Sprachmodell erhält die gefundenen Wissensauszüge als Kontext und formuliert daraus eine Antwort – idealerweise mit nachvollziehbaren Quellenangaben.
Wichtig zu verstehen
RAG bedeutet nicht, dass das Modell die Wissensbasis neu lernt oder dauerhaft auswendig kennt. Es ruft bei jeder einzelnen Frage die passenden Informationen frisch ab – wie ein Mitarbeiter, der vor der Antwort kurz im richtigen Ordner nachschlägt.
Die Wissenswolke
Eine Frage aktiviert nicht die ganze Wissensbasis gleich stark, sondern nur die inhaltlich passendsten Bereiche. Die Animation zeigt den Kreislauf: Eine Frage erscheint, ein Impuls läuft durch die Wolke, die relevantesten Wissensknoten leuchten auf und fließen in die Antwort ein.
Der Grundablauf von RAG
Jede Frage durchläuft dieselbe Kette – vom Wissensabruf bis zur Antwort mit Quellen. Das Modell bekommt dabei nie die ganze Wissensbasis, sondern nur die besten Treffer.
Wie ein Bibliothekar
RAG arbeitet wie ein guter Bibliothekar: Er kennt nicht jedes Buch auswendig, weiß aber sehr genau, in welchem Regal und Kapitel die Antwort steht – und schlägt dort nach, bevor er antwortet.
Suche + Generierung getrennt
Retrieval und Generierung sind getrennte Schritte. Die Suche ist deterministisch prüfbar (welche Chunks, welche Scores), erst die Antwortformulierung ist generativ. Das macht Fehler auffindbar und das System testbar.
Aktuell ohne Neutraining
Neue Inhalte landen in der Wissensbasis, nicht im Modell. Eine neue oder geänderte Seite ist nach dem nächsten Wissensbuild sofort abrufbar – ganz ohne Fine-Tuning.
Was ist ein Chunk?
Ein Chunk ist ein abgegrenztes Wissensstück. Große Seiten oder Dokumente werden in kleinere Abschnitte zerlegt, damit die Suche gezielt die passende Information findet – statt ein ganzes Dokument zu treffen, in dem die Antwort irgendwo steckt.
Warum nicht ganze Dokumente?
Ganze Seiten sind für die Suche zu grob: Sie behandeln viele Themen gleichzeitig, verwässern die Ähnlichkeitswerte und sprengen den Kontext des Sprachmodells. Ein Chunk behandelt idealerweise ein klar begrenztes Thema.
Metadaten machen Chunks nützlich
Zu jedem Chunk gehören Überschrift, Quelle, URL und Keywords. So kann das System Treffer einordnen, Quellenlinks anbieten und die Herkunft jeder Antwort nachvollziehbar machen.
Saubere Grenzen
Chunks sollten nicht mitten im Satz abgeschnitten werden. Gute Systeme trennen an Überschriften und Absatzgrenzen – so bleibt jedes Wissensstück für sich lesbar und verständlich.
- Einzelsätze ohne Zusammenhang
- Kontext geht verloren – Antworten werden bruchstückhaft
- Viele Mini-Treffer verdrängen den eigentlich besten Abschnitt
- Mehrere Themen in einem Abschnitt – die Suche wird unscharf
- Das Modell erhält viel Irrelevantes als Kontext
- Ähnlichkeitswerte sinken, obwohl die Antwort enthalten ist
Praxisbeispiel aus diesem KI-Hub
Aus der Seite „KI-Einführung im Unternehmen" entstehen zum Beispiel eigene Chunks zu KI-Roadmap, Governance, Human in the Loop, Datenschutz, Schulung und Risikoklassen. Wer nach Governance fragt, bekommt den Governance-Abschnitt – nicht die ganze Seite.
Was ist ein Embedding?
Ein Embedding ist ein mathematischer Bedeutungs-Fingerabdruck eines Textes. Der Text wird in einen langen Zahlenvektor umgewandelt – und Texte mit ähnlicher Bedeutung erhalten ähnliche Vektoren, selbst wenn sie völlig andere Wörter benutzen.
„Die KI erfindet Fakten."
„Sprachmodelle können halluzinieren."
Kein einziges gemeinsames Wort – trotzdem fast dasselbe gemeint
Eine reine Keyword-Suche würde diese beiden Sätze nie einander zuordnen. Ihre Embeddings liegen im Bedeutungsraum aber nah beieinander – genau das macht semantische Suche möglich.
Zahlen statt Schlagwörter
Ein Embedding ist keine Liste von Schlagwörtern und keine lesbare Zusammenfassung. Es ist ein Vektor aus vielen Zahlen, der die Bedeutung des Textes als Position in einem hochdimensionalen Raum beschreibt.
Bedeutungsnähe messbar machen
Weil ähnliche Bedeutungen ähnliche Vektoren erhalten, lässt sich Bedeutungsnähe berechnen. Das ist die Grundlage jeder semantischen Suche – und damit das Herzstück moderner RAG-Systeme.
Nicht das Sprachmodell selbst
Das Embedding-Modell ist ein eigenes, spezialisiertes Modell nur für die Umwandlung von Text in Vektoren. Es formuliert keine Antworten – das übernimmt später das Sprachmodell.
So macht es Max
Max nutzt das Embedding-Modell text-embedding-3-small mit
1536 Dimensionen. „Dimensionen" heißt einfach: Jeder Text wird durch 1536
einzelne Zahlen beschrieben. Jede Zahl erfasst eine andere Facette der Bedeutung –
zusammen ergeben sie den Fingerabdruck. Mehr Dimensionen bedeuten feinere
Unterscheidungen, aber auch größere Datenmengen.
Wie wird Ähnlichkeit gemessen?
Die gebräuchlichste Methode heißt Cosine Similarity (Kosinus-Ähnlichkeit). Sie vergleicht die Richtung zweier Bedeutungsvektoren: Je ähnlicher die Richtung, desto ähnlicher ist wahrscheinlich die Bedeutung der beiden Texte.
Sehr ähnlich oder nahezu identisch – die Texte meinen praktisch dasselbe.
Stark verwandt – gleiches Thema, andere Formulierung oder Perspektive.
Teilweise verwandt – thematische Berührungspunkte, aber kein sicherer Treffer.
Eher unpassend – die Inhalte haben wenig miteinander zu tun.
Keine Schulnoten
Diese Werte sind Orientierung, keine allgemeingültigen Schwellen. Welche Mindestwerte gut funktionieren, hängt vom Embedding-Modell, der Sprache und den eigenen Inhalten ab – gute Schwellen müssen mit echten Fragen und echten Wissensinhalten getestet werden.
Keyword, semantisch oder hybrid?
Drei Suchverfahren, drei Stärken. Moderne RAG-Systeme kombinieren sie – so auch Max.
Findet gleiche Wörter
Vergleicht die Wörter der Frage mit den Wörtern der Chunks.
Stark bei präzisen Begriffen, Namen und Abkürzungen.
Beispiel: „Was ist Human in the Loop?" – der Begriff steht wörtlich im
Wissensabschnitt, die Keyword-Suche trifft sicher.
Findet gleiche Bedeutungen
Vergleicht Embeddings statt Wörter und erkennt Umschreibungen.
Beispiel: „Wann sollte ein Mensch eine KI-Entscheidung prüfen?" – kein
Fachbegriff in der Frage, trotzdem findet die semantische Suche den
Human-in-the-Loop-Abschnitt.
Verbindet beide Verfahren
Beide Scores werden gewichtet zu einem Gesamtwert kombiniert.
Bei Max aktuell: 75 % semantische Relevanz und
25 % Keyword-Relevanz ergeben das Hybrid-Ranking.
Warum die Kombination gewinnt
Semantik erkennt Umschreibungen und Alltagssprache. Keywords stärken präzise Begriffe, Eigennamen und Abkürzungen, die semantisch untergehen können. Hybrid Search reduziert die typischen Schwächen beider Einzelverfahren – und liefert stabilere Treffer über verschiedenste Frageformulierungen hinweg.
Braucht jedes RAG-System eine Vektordatenbank?
Nein. Eine Vektordatenbank ist ein Spezialwerkzeug für sehr große Wissensmengen – kein Pflichtbaustein.
Alle Vektoren direkt vergleichen
Max besitzt einen überschaubaren Wissensbestand. Deshalb werden alle Embeddings direkt geladen und bei jeder Frage vollständig miteinander verglichen – einfach, transparent und ohne zusätzliche Infrastruktur.
Vektordatenbanken für große Mengen
Bei hunderttausenden oder Millionen Chunks wird der Vollvergleich zu langsam. Dann helfen Vektordatenbanken mit speziellen Indexstrukturen, die die Suche drastisch beschleunigen.
Mögliche Systeme
Verbreitete Lösungen sind etwa Qdrant, Pinecone, Weaviate, Chroma oder Supabase Vector beziehungsweise pgvector für PostgreSQL. Mehr dazu im KI-Wiki.
Kernaussage
Für einige hundert Chunks ist eine einfache, transparente Lösung oft besser als unnötig große Infrastruktur. Werkzeuge sollten zum Problem passen – nicht umgekehrt.
So funktioniert Max auf ibetmax.com
Max ist der öffentliche KI-Assistent dieser Website – und ein echtes, produktives RAG-System. Jede Besucherfrage durchläuft diese Kette:
Die Wissensbasis
Zwölf freigegebene Wissensquellen aus dem öffentlichen KI-Hub – zerlegt in mehr als
200 Wissensabschnitte (Chunks) mit Überschrift, Quelle, URL und Keywords. Das
Embedding-Modell text-embedding-3-small beschreibt jeden
Abschnitt mit 1536 Dimensionen.
Die Suche
Keyword-Suche und semantische Suche laufen parallel; das Hybrid-Ranking gewichtet
75 % Semantik und 25 % Keywords. Die besten drei bis fünf Chunks werden dem
Sprachmodell gpt-4.1-nano als Kontext übergeben.
Es gibt bewusst keine Vektordatenbank – der Bestand ist klein genug für den
direkten Vollvergleich.
Die Schutzschichten
Offtopic-Erkennung vor dem Modellaufruf, Rate Limit gegen Missbrauch, Schutz vor Prompt-Injection, serverseitige Quellenkontrolle mit Deduplizierung – und ein ehrliches „No-Match" statt einer erfundenen Antwort, wenn das Wissen nicht reicht. Eine dauerhafte Chat-Historie gibt es nicht.
Ein Beispiel: Human in the Loop
Was passiert bei einer echten Frage? Nehmen wir: „Wann sollte ein Mensch eine KI-Entscheidung prüfen?"
Die Frage enthält keinen Fachbegriff
„Human in the Loop" kommt in der Frage nicht vor. Eine reine Keyword-Suche hätte es hier schwer – die semantische Suche erkennt aber die Bedeutungsnähe zu Begriffen wie menschliche Kontrolle, Human Oversight, Entscheidung freigeben und Governance.
Aliase stärken Fachbegriffe
Wissensabschnitte können zusätzliche Suchbegriffe (Aliase) tragen – etwa „menschliche Aufsicht" oder „Entscheidung prüfen" für den Human-in-the-Loop-Chunk. So finden auch alltagssprachliche Fragen den fachlich richtigen Abschnitt.
Das Hybrid-Ranking sortiert
Chunks zu Human in the Loop, Human Oversight und KI-Governance erhalten die höchsten kombinierten Werte und werden dem Sprachmodell übergeben. Die Antwort nennt anschließend genau diese Seiten als Quellen.
Die Lehre daraus
Unterschiedliche Formulierungen können dieselbe Bedeutung haben. Embeddings erkennen diese Bedeutungsnähe, Keywords sichern präzise Begriffe ab – und das Ranking bringt beides in eine belastbare Reihenfolge.
Wie reduziert RAG Halluzinationen?
Wichtig vorweg: RAG verhindert Halluzinationen nicht vollständig. Aber es senkt das Risiko deutlich – wenn mehrere Schutzschichten zusammenspielen. Eine Antwort gilt als „grounded", wenn sie durch die bereitgestellten Wissensauszüge gestützt wird.
Die Schutzschichten von Max
- Antworten entstehen nur anhand der gelieferten Wissensauszüge
- Mindestschwellen: Zu schwache Treffer werden gar nicht erst verwendet
- Klare Offtopic-Fragen erreichen das Sprachmodell überhaupt nicht
- Reicht das Wissen nicht, kommt ein ehrliches No-Match statt einer Vermutung
- Quellenlinks werden serverseitig von PHP kontrolliert und dedupliziert
- Das Modell darf keine Links erfinden – nur geprüfte Quellen erscheinen
- Feste Systemregeln definieren Rolle, Grenzen und Antwortverhalten
- Tests mit direkten Fragen und Umschreibungen sichern die Qualität
- Menschliche Qualitätsprüfung bei jeder Erweiterung der Wissensbasis
Grounding
Grounding heißt: Die Antwort ist in geprüftem Wissen verankert statt frei formuliert. Je näher die KI an belegten Quellen arbeitet, desto belastbarer wird das Ergebnis – die Prüfung durch den Menschen ersetzt das trotzdem nicht.
Datenschutz & Sicherheit
Ein öffentliches RAG-System braucht klare Regeln. So ist das Max-System aufgebaut:
API-Key nur serverseitig
Der OpenAI-Schlüssel liegt ausschließlich in einer geschützten Konfigurationsdatei auf dem Server – er erreicht nie den Browser.
Wissensdateien geschützt
Die Rohdaten der Wissensbasis sind nicht direkt öffentlich abrufbar – nur der kontrollierte Endpunkt liefert Antworten aus.
Keine Chat-Historie
Gespräche werden nicht dauerhaft gespeichert. Für das Rate Limit wird die IP-Adresse nur in gehashter Form kurzzeitig verarbeitet.
Keine sensiblen Daten eingeben
Nutzerfragen werden zur Verarbeitung an OpenAI übertragen. Deshalb gilt: keine personenbezogenen oder vertraulichen Daten in den Chat eingeben.
Öffentliche Quellen
Alle Wissensquellen stammen aus dem öffentlichen KI-Hub dieser Website – es fließen keine internen oder vertraulichen Inhalte ein.
Details zum Datenschutz
Alle rechtlichen Informationen stehen in der Datenschutzerklärung von ibetmax.com.
Wie lernt Max neue Inhalte?
Max „lernt" eine neue Seite nicht wie ein Mensch dauerhaft auswendig. Die Seite wird in Chunks zerlegt, mit Embeddings versehen und dann bei passenden Fragen gezielt abgerufen. Der Ablauf ist ein kontrollierter Build-Prozess:
Neue oder geänderte KI-Hub-Seite erstellen und inhaltlich prüfen
Quelle freigeben – die Seite wird in die Quellenliste der Wissensbasis aufgenommen
Wissensbuild ausführen – die Seite wird automatisch in Chunks zerlegt
Neue Chunks prüfen – sinnvolle Grenzen, keine Navigations- oder Dekorationstexte
Embeddings erzeugen – jeder neue Chunk erhält seinen Bedeutungs-Fingerabdruck
Inkrementell arbeiten – nur neue oder geänderte Abschnitte werden neu eingebettet
Tests ausführen – echte Fragen müssen die neuen Inhalte in den Top-Treffern liefern
Gemeinsam veröffentlichen – Wissens- und Embedding-Daten werden immer zusammen aktualisiert
Live prüfen – Kontrollfragen an Max bestätigen, dass die neuen Inhalte ankommen
Übrigens: Diese Seite ist selbst Teil der Wissensbasis
Die RAG-Seite, die du gerade liest, wurde nach ihrer Veröffentlichung selbst in Max' Wissensbasis aufgenommen. Wer Max nach RAG, Chunks oder Embeddings fragt, bekommt Antworten – mit dieser Seite als Quelle.
Embeddings sichtbar machen
Der Max Knowledge Graph übersetzt 250 Wissensbausteine und ihre semantischen Beziehungen in eine interaktive Wissenskarte.
Erst suchen. Dann antworten. Immer mit Quellen.
RAG macht aus einem Sprachmodell ein System, das mit eigenem, geprüftem Wissen arbeitet. Die Bausteine sind überschaubar – Chunks, Embeddings, Ähnlichkeit, Ranking – und genau deshalb lässt sich jedes Ergebnis nachvollziehen, testen und verbessern.
Ein gutes RAG-System ist kein Zauberkasten, sondern ein ehrlicher Bibliothekar mit sehr gutem Gedächtnis für Bedeutungen.