Was RAG bedeutet
RAG kombiniert zwei Komponenten, die normalerweise getrennt arbeiten: eine Suchmaschine und ein Sprachmodell. Wenn jemand eine Frage stellt, antwortet das System nicht direkt mit dem, was das Modell während des Trainings gespeichert hat. Zuerst sucht es relevante Informationen in einer externen Quelle (einer Datenbank, einer Dokumentensammlung oder dem offenen Web), danach nutzt es diese Ergebnisse, um die Antwort zu bauen.
Der Unterschied zu einem Modell, das nur aus seinen Trainingsdaten antwortet, ist zentral. Ein Sprachmodell ohne Retrieval kennt nur, was es bis zum Stichtag seines Trainings gelernt hat, und kann nicht angeben, woher eine bestimmte Angabe stammt, weil es im Moment der Antwort keine Quelle abfragt. Ein Modell mit RAG dagegen ruft im Moment jeder Frage aktuelle Informationen ab, kann sich auf konkrete Dokumente beziehen und erlaubt, seine Wissensbasis zu korrigieren oder zu erweitern, ohne neu trainiert zu werden.
Deshalb wird RAG mit den Systemen assoziiert, die Links neben ihren Antworten zeigen. Diese Fähigkeit, Quellen zu zitieren, kommt genau aus dem Retrieval-Schritt, nicht aus einem anderen Mechanismus.