Ein allgemeines Sprachmodell kennt Ihre aktuelle interne Anleitung nicht automatisch. RAG ergänzt eine Anfrage um passende Informationen aus Ihren Quellen. Wie gut das funktioniert, hängt stark von der Suche ab.
RAG in einem Satz
Retrieval-Augmented Generation bedeutet, dass eine Anwendung vor oder während der Antwort passende Informationen abruft und dem Sprachmodell als Kontext bereitstellt. Der Begriff beschreibt ein Architekturprinzip, kein einzelnes Produkt.
Die grundlegende Idee wurde unter anderem in der Forschungsarbeit zu Retrieval-Augmented Generation untersucht. Für Unternehmen ist besonders interessant, dass sich ein aktueller Dokumentenbestand abfragen lässt, ohne bei jeder Änderung das Sprachmodell neu zu trainieren.
Der Ablauf an einer Servicefrage
Eine Mitarbeiterin fragt: «Welches Wartungsintervall gilt für unsere Maschine der Baureihe M, Revision 3?» Die Anwendung identifiziert zunächst relevante Suchbegriffe und sucht in den freigegebenen Unterlagen.
Sie findet einen Abschnitt aus dem aktuellen Handbuch sowie eine ergänzende Serviceanweisung. Diese Passagen werden zusammen mit der Frage an das Sprachmodell gegeben. Das Modell formuliert daraus einen Antwortentwurf. Die Oberfläche zeigt die verwendeten Quellen, damit die Mitarbeiterin sie prüfen kann.
Dieses Beispiel ist schematisch. In einer produktiven Anwendung müssen zusätzlich Modellzuordnung, Dokumentversion, Berechtigungen und widersprüchliche Angaben behandelt werden.
Warum das Zerlegen von Dokumenten wichtig ist
Suchsysteme arbeiten häufig mit Abschnitten statt mit kompletten Handbüchern. Ein Abschnitt sollte genug Zusammenhang enthalten, um sinnvoll interpretierbar zu sein. Zu kleine Teile können eine Zahl von ihrer Einheit trennen. Zu grosse Teile bringen viel irrelevanten Text in den Kontext.
Die richtige Einteilung hängt vom Material ab. Eine technische Tabelle, ein Vertrag und eine FAQ brauchen nicht dieselbe Verarbeitung. Anthropic zeigt beim Contextual Retrieval, wie zusätzlicher Kontext für einzelne Textabschnitte die Suche unterstützen kann. Daraus folgt keine pauschale Erfolgsgarantie für einen beliebigen Unternehmensbestand.
Vektorsuche ist nur ein Teil der Lösung
Bei der Vektorsuche werden Texte als Zahlenrepräsentationen verglichen. So lassen sich inhaltlich ähnliche Passagen finden, auch wenn Frage und Dokument verschiedene Wörter verwenden. Das ist hilfreich, aber nicht für jede Anfrage ausreichend.
Artikelnummern, exakte Vertragskennungen oder Versionscodes verlangen häufig eine präzise Suche und Filter. In vielen Anwendungen werden daher mehrere Suchverfahren kombiniert. Ob das nötig ist, entscheidet ein Test mit Ihren Fragen, nicht eine allgemeine Rangliste der Technologien.
Was RAG nicht automatisch löst
Eine gefundene Passage kann veraltet sein. Eine Antwort kann zwei Quellen falsch verbinden. Eine wichtige Einschränkung kann im abgerufenen Ausschnitt fehlen. Auch ein Quellenlink beweist nicht, dass jede Aussage der Antwort von dieser Quelle getragen wird.
RAG braucht ausserdem ein Berechtigungskonzept. Eine technische Verbindung zum Fileserver bedeutet noch nicht, dass jeder Benutzer alle dort gefundenen Inhalte sehen darf. Die Zugriffskontrolle muss spätestens vor der Weitergabe von Inhalten an das Modell wirksam sein.
RAG, langer Kontext oder Fine-Tuning?
Bei wenigen überschaubaren Dokumenten kann es reichen, diese direkt als Kontext bereitzustellen. RAG wird interessant, wenn der Bestand grösser wird, häufiger wechselt oder gezielt eingeschränkt werden muss.
Fine-Tuning verändert das Verhalten eines Modells anhand von Trainingsbeispielen. Es kann für bestimmte Aufgaben oder Ausgabeformate geeignet sein. Es ist aber kein verlässlicher Ersatz für eine gepflegte, aktuelle und berechtigungsgesteuerte Informationsquelle.
Beginnen Sie mit der einfachsten Architektur, die Ihre Anforderungen erfüllt. Jede zusätzliche Suchstufe, Datenbank oder Modellkomponente erhöht auch den Aufwand für Tests und Betrieb.
So sieht ein sinnvoller Pilot aus
Wählen Sie einen begrenzten Bestand und sammeln Sie Fragen, deren Antworten eine Fachperson überprüfen kann. Ergänzen Sie Fragen, die absichtlich nicht beantwortbar sind, sowie Fälle mit ähnlichen Produkten oder alten Versionen.
Prüfen Sie Suche und Antwort getrennt. Wenn die richtige Quelle nicht gefunden wird, hilft eine schönere Formulierung wenig. Wenn die Quelle stimmt, die Antwort aber falsch ist, liegt die nächste Untersuchung bei Kontext und Generierung.
Die RAG-Testanleitung von einclick führt diese Prüfung weiter. Unsere KI-Beratung in Zürich und der Schweiz hilft dabei, aus dem Architekturprinzip eine Anwendung mit klarer Aufgabe und überprüfbaren Grenzen zu machen.
