RAG ist eine der wichtigsten Techniken, um KI im eigenen Betrieb sinnvoll einzusetzen. Dieser Beitrag erklärt, wie sie funktioniert und warum sie zuverlässiger ist als ein reines Sprachmodell.
Das Problem ohne RAG
Ein Sprachmodell kennt nur, was in seinen Trainingsdaten steckt. Über die internen Dokumente eines Betriebs weiss es nichts. Fragt man trotzdem, formuliert es eine plausibel klingende Antwort, die falsch sein kann. Für betriebliche Fragen ist das ungeeignet.
Wie RAG funktioniert
Bei RAG werden die eigenen Dokumente aufbereitet und durchsuchbar gemacht. Auf eine Frage sucht das System zuerst die passenden Textstellen. Diese Stellen gibt es dem Sprachmodell als Grundlage mit. Das Modell formuliert daraus eine Antwort und verweist auf die Quelle. Die Antwort stützt sich damit auf Ihre Inhalte, nicht auf allgemeines Wissen.
Warum das wichtig ist
RAG macht Antworten nachvollziehbar und aktuell. Nachvollziehbar, weil die Quelle genannt wird. Aktuell, weil neue Dokumente laufend ergänzt werden können, ohne das Modell neu zu trainieren. Für Verwaltung und KMU ist das die Grundlage für einen verlässlichen KI-Wissensassistenten.
Grenzen
RAG kann nur finden, was in den hinterlegten Dokumenten steht. Fehlt eine Information, sollte das System das offen sagen, statt zu raten. Auch bei RAG bleibt die Prüfung wichtiger Antworten sinnvoll.
Passende Leistungen und Themen
Diese Seiten führen das Thema weiter: