KI-Agenten und Technik
Was ist RAG? Definition und Praxisbeispiel
Auch: Retrieval-Augmented Generation, semantische Suche
Kurz erklärt
RAG (Retrieval-Augmented Generation) ist ein Verfahren, bei dem ein KI-Modell vor der Antwort passende Stellen aus euren Dokumenten sucht und mitliest. So antwortet es mit eurem Wissen statt nur mit seinem Training. Die Antwort ist nur so gut wie die Quellen, die es findet.
Warum es zählt: RAG bringt euer eigenes Wissen in KI-Antworten, ohne ein Modell neu zu trainieren.
- 01
Frage
Eine Person oder ein Agent fragt
- 02
Suchen
Passende Stellen in euren Quellen
- 03
Mitgeben
Die Stellen gehen ans Modell
- 04
Antworten
Antwort mit Quelle und Datum
Warum ist RAG wichtig für dein Unternehmen?
Ein Sprachmodell kennt eure Preise, Kunden und Entscheide nicht. RAG löst das ohne Training: Bei jeder Frage sucht ein System die passenden Abschnitte, meist über semantische Suche, und legt sie dem Modell vor. Das Modell formuliert daraus eine Antwort, im besten Fall mit Quellenangabe.
Die Grenze liegt in den Quellen. RAG findet, was ähnlich klingt, nicht was gilt: Liegen ein altes und ein neues Strategiepapier nebeneinander, kann das alte gewinnen. Darum braucht RAG gepflegte Quellen mit klarem Stand, sonst wiederholt die KI überholte Annahmen, sogar mit Quellenangabe.
RAG im Detail
Semantische Suche
Semantische Suche findet Inhalte nach ihrer Bedeutung statt nach exakten Wörtern. Wer nach «Kündigungsfrist» sucht, findet auch «Vertragsende mit drei Monaten Vorlauf». Sie ist die Grundlage für RAG und für viele KI-Assistenten im Unternehmen.
Klassische Suche vergleicht Wörter. Semantische Suche wandelt Texte in Zahlenreihen um, sogenannte Embeddings, und vergleicht deren Bedeutung. So findet sie Antworten über Sprachen, Synonyme und Tools hinweg.
Praxisbeispiel: Der Assistent zitiert die alte Strategie
Eine Firma baut einen internen Assistenten mit RAG über SharePoint und Confluence. Eine Mitarbeiterin fragt, welche Märkte 2027 Priorität haben. Der Assistent antwortet «USA» und verlinkt sauber ein Strategiepapier vom letzten Jahr, obwohl inzwischen «Strategie 2027: Fokus DACH-Mittelstand, keine US-Expansion» gilt.
Das Team markiert das alte Papier als ersetzt und verweist darin auf den neuen Entscheid. Der Assistent liest gültige Entscheide zuerst und nennt bei jeder Antwort Quelle und Datum. Jetzt findet die Mitarbeiterin den richtigen Stand und sieht, seit wann er gilt.
3 häufige Fehler, die du vermeiden solltest
Alles indexieren
Mehr Dokumente heisst nicht bessere Antworten. Entwürfe, Kopien und Veraltetes landen genauso in der Antwort.
Quellen verstecken
Ohne Quellenangabe kann niemand prüfen, woher eine Antwort stammt. Zeigt Quelle und Datum bei jeder Antwort.
RAG für ein Gedächtnis halten
RAG liest bei jeder Frage neu und merkt sich nichts. Was entschieden wurde, muss deshalb in den Quellen stehen.
Schritt für Schritt
- 1
Die Fragen sammeln
Welche Fragen soll der Assistent beantworten? Daraus folgen die nötigen Quellen.
- 2
Quellen auswählen und bereinigen
Nehmt nur gepflegte Quellen auf und markiert, was ersetzt ist.
- 3
Quelle und Datum anzeigen
Jede Antwort verweist auf die Stellen, aus denen sie stammt.
- 4
Mit echten Fragen testen
Prüft regelmässig, ob die Antworten dem aktuellen Stand entsprechen.
Bring einen wichtigen Entscheid mit.
In 30 Minuten mit Marc oder Simon zeigen wir, wo eure Arbeit heute vom Entscheid abweicht.
Company Brain kennenlernenWeiterlesen im PM Lab
Artikel, die das Thema vertiefen.
Verwandte Begriffe
- KI-Gedächtnis →Ein KI-Gedächtnis ist der Teil eines KI-Systems, der Wissen über ein einzelnes Gespräch hinaus behält.
- Halluzination →Eine Halluzination ist eine Aussage einer KI, die überzeugend klingt, aber falsch oder nicht belegt ist.
- Knowledge Graph →Ein Knowledge Graph speichert Wissen als Netz: Dinge wie Kunden, Projekte und Entscheide sind Knoten, ihre Beziehungen sind Kanten.