Was ist Retrieval Augmented Generation (RAG)?
Retrieval Augmented Generation (RAG) ist eine Technik, die bessere generative KI-Ergebnisse liefert, indem sie Unternehmen ermöglicht, automatisch die aktuellsten und relevantesten unternehmensinternen Daten für ein bestehendes LLM bereitzustellen. Statt ein Modell aufwendig neu zu trainieren, reichert RAG die Eingabeaufforderung zur Laufzeit mit den passenden Fakten an.
Ein Modell der künstlichen Intelligenz (KI) ist nur so gut wie der Korpus, anhand dessen es trainiert wird. Um sein ganzes Potenzial zu entfalten, braucht es keine generischen Informationen, sondern den richtigen Kontext und eine große Menge an Fakten. Ein LLM von der Stange ist nicht immer auf dem neuesten Stand, hat keinen verlässlichen Zugang zu Ihren Daten und keinen Einblick in Ihre Kundenbeziehungen. RAG schafft hier Abhilfe.
Mit RAG können Unternehmen dafür sorgen, dass KI-Modellen die jüngsten internen Informationen zur Verfügung stehen. Dazu gehören nicht nur strukturierte Daten, etwa aus Tabellenkalkulationen oder Datenbanken. Abgerufen werden vielmehr alle verfügbaren Daten, einschließlich unstrukturierter Inhalte: E-Mails, PDFs, Chat-Protokolle, Social-Media-Posts und weitere Informationsarten. Das Ergebnis ist ein optimierter KI-Output.
Definition: Retrieval Augmented Generation (RAG) ist ein KI-Verfahren, das ein Large Language Model mit einem Abrufsystem kombiniert. Vor der Antwortgenerierung sucht ein Retriever relevante Dokumente aus einer externen Wissensquelle und übergibt sie als Kontext an das Sprachmodell.