Retrieval-Augmented Generation, zu Deutsch etwa abrufgestützte Generierung. Der Assistent ruft zuerst relevante Passagen aus Ihren Dokumenten ab und generiert dann eine Antwort ausschließlich aus diesen Passagen, mit Quellenangabe.

Erfindet der Assistent Antworten, wenn er etwas nicht weiß?

Genau das soll RAG verhindern. Antworten werden aus abgerufenen Passagen aufgebaut und tragen eine Quellenangabe zum Originaldokument, sodass jeder nachprüfen kann, woher eine Aussage stammt.

Kann das System gescannte PDFs und deutschsprachige Dokumente lesen?

Ja. Die Pipeline von Vandri enthält OCR für gescannte Dateien und verarbeitet Dokumente in verschiedenen Sprachen, nicht nur Englisch.

Respektiert das System, wer was sehen darf?

Ja. Der Abruf ist berechtigungsbewusst, mit rollenbasiertem Zugriff und Audit-Logs, sodass der Assistent jedem Nutzer nur das zeigt, worauf er zugreifen darf. Alles läuft innerhalb der EU-Datenresidenz.

RAG über Unternehmensdaten \ Vandri

Das Problem, das RAG löst

Ein allgemeiner Chatbot weiß viel über die Welt und nichts über Ihr Unternehmen. Fragen Sie ihn nach Ihrer Rückgabepolitik, Ihrem Versicherungsprodukt oder den Ausschreibungsunterlagen des letzten Jahres, und er wird entweder sagen, dass er es nicht weiß, oder, schlimmer, eine selbstbewusste, erfundene Antwort liefern.

Alle Dokumente einfach in einen Prompt zu stopfen, ist auch keine Lösung. Es ist zu viel, es ändert sich ständig, und das meiste davon ist für eine einzelne Frage irrelevant.

RAG ist die praktische Antwort darauf. Statt zu hoffen, dass das Modell Ihre Dateien auswendig gelernt hat, lässt man es im Moment der Frage in ihnen suchen und aus dem Gefundenen antworten.

Wie RAG funktioniert, Schritt für Schritt

Ingest. Ihre Dokumente werden eingelesen und in Passagen zerlegt. Das umfasst PDFs, gescannte Dateien (per OCR), SharePoint-Bibliotheken, ERP-Exporte und mehr.
Index. Jede Passage wird in einen Vektor umgewandelt und in einem Suchindex gespeichert. Vandri nutzt dafür Qdrant.
Retrieval. Stellt jemand eine Frage, findet das System die dafür relevantesten Passagen.
Generation. Das Sprachmodell formuliert eine Antwort ausschließlich aus diesen abgerufenen Passagen und nennt, aus welchem Dokument welche Aussage stammt.

Der entscheidende Teil ist Schritt vier. Weil die Antwort aus abgerufenem Text aufgebaut ist und Quellenangaben trägt, kann die lesende Person nachklicken und die Quelle prüfen. Genau das macht das Ergebnis vertrauenswürdig genug für den Einsatz im Arbeitsalltag.

Warum Grounding wichtiger ist als das Modell

Ein verbreiteter Irrtum ist, zu glauben, der Assistent sei nur so gut wie das dahinterliegende Sprachmodell. In der Praxis, bei Unternehmensdaten, zählen Retrieval und Grounding mehr als die Wahl des Modells.

Ein brillantes Modell mit schwachem Retrieval liefert flüssige, selbstbewusste Antworten aus den falschen Dokumenten. Ein solides Modell mit exzellentem Retrieval und Quellenangaben liefert Antworten, auf die sich Ihr Team verlassen kann. Ingestion, Chunking, OCR-Qualität und Berechtigungsverwaltung richtig hinzubekommen, ist der größte Teil der Arbeit, und genau dort entscheiden sich Enterprise-RAG-Projekte über Erfolg oder Scheitern.

Der RAG-Stack von Vandri nutzt fortschrittliches Retrieval mit Quellenangaben und OCR, sodass Antworten aus Ihren Dokumenten stammen und nicht aus Vermutungen.

Berechtigungen sind Teil des Produkts

Wenn zehn Personen den Assistenten befragen können, muss er respektieren, was jede von ihnen sehen darf. Ein Finanzdokument sollte niemandem angezeigt werden, der die Datei nie direkt öffnen dürfte.

Das ist kein Detail, das man später ergänzt. Berechtigungsbewusstes Retrieval, rollenbasierter Zugriff und Audit-Logs müssen von Anfang an eingebaut sein. Vandri setzt das innerhalb der EU-Datenresidenz um, nach den Grundsätzen der DSGVO und ISO 27001. Bei sensiblen Daten ist das der Unterschied zwischen einer Demo und etwas, das Sie tatsächlich produktiv einsetzen können.

Wie sich das in der Praxis zeigt

Zwei unserer produktiven Systeme zeigen das Muster:

BlueBox, für Sava RE. Ein RAG-Assistent über mehr als 2.000 Versicherungsdokumenten, direkt integriert in das CRM der Vertreter. Ein Mitarbeiter stellt eine Frage und bekommt in Sekunden eine Antwort mit Quellenangabe, ohne das gewohnte Tool zu verlassen.
AIDE, für die Universität Maribor. Ein KI-Intranet über das SharePoint der Fakultät. Mitarbeitende stellen eine Frage, und das System antwortet aus den echten Dokumenten, statt dass Menschen durch Ordner suchen.

Beide folgen demselben Prinzip. Der Assistent ersetzt nicht die Quelle der Wahrheit. Er macht sie in normaler Sprache beantwortbar, mit einem Link zurück zum Original.

Wofür sich ein RAG-Assistent eignet

RAG passt gut, wenn:

Sie einen großen, wachsenden Bestand an Dokumenten haben, aus denen Menschen Antworten brauchen.
Die Antworten bereits in Ihren Dateien existieren, nur schwer zu finden sind.
Verschiedene Personen unterschiedliche Dinge sehen sollen.
Sie Antworten nachprüfen und ihnen vertrauen müssen, sodass Quellenangaben zählen.

Er passt schlechter, wenn das Wissen nirgendwo schriftlich vorliegt, oder wenn eine Frage eine echte Echtzeitberechnung statt eines Dokumenten-Lookups braucht. In solchen Fällen funktioniert ein anderer Ansatz, oder eine Kombination, besser. Wir sagen Ihnen, welcher.

Wie Vandri das umsetzt

Wir fangen eng gefasst an. Einen Dokumentenbestand und eine Nutzergruppe auswählen, die Quelle anbinden, und einen Assistenten ausliefern, der für diesen Umfang gut antwortet. Dann beobachten wir echte Fragen, beheben, was das Retrieval verpasst, und erweitern. Sie bekommen in Wochen etwas Brauchbares, nicht ein Jahresprojekt, das nie fertig wird.

Suchen Sie einen Assistenten, der Ihre Dokumente kennt?

Sagen Sie uns, wo Ihr Wissen liegt, ob SharePoint, ein ERP-System, ein gemeinsames Laufwerk oder tausende PDFs. Wir sagen Ihnen ehrlich, ob RAG das richtige Werkzeug ist und was die erste Version abdecken sollte. Gespräch vereinbaren oder unsere Projekte ansehen.

RAG über Ihre Unternehmensdaten: eine KI, die aus Ihren eigenen Dokumenten antwortet