Wat is Retrieval-Augmented Generation (RAG)?

Grote taalmodellen (LLM's), de kracht achter generatieve AI, kunnen veel, van het beantwoorden van ingewikkelde vragen tot het creëren van originele content. Bedrijven staan echter voor een belangrijke uitdaging met LLM's: databeperkingen. Dat is waar retrieval-augmented generation (RAG) kan helpen.

Dankzij RAG kunnen bedrijven hun data verbinden met LLM's, wat bedrijven mogelijkheden voor kunstmatige intelligentie biedt die betrouwbaarder, relevanter en actueler zijn. Zodra bijvoorbeeld de koppeling van interne gegevens met RAG is gemaakt, kunnen autonome AI-agents klantenservicereacties geven die rekening houden met eerdere vragen, of marketingbriefings genereren op basis van de huidige merkrichtlijnen.

Laten we eens kijken naar wat RAG precies is, welke voordelen het voor je bedrijf kan opleveren, hoe het werkt en hoe je aan de slag kunt.

Wat we zullen bespreken:

• Wat is Retrieval Augmented Generation (RAG)?
• Wat zijn de voordelen van door ophalen versterkt genereren?
• Hoe werkt door ophalen versterkt genereren (RAG)?
• Wat zijn de verschillende soorten RAG?
• Wat is een LLM-agent met een RAG-architectuur?
• Hoe retrieval-augmented generation je teams kan helpen
• Voorbeelden van retrieval-augmented generation per sector
• Aan de slag met retrieval-augmented generation

Retrieval-augmented generation is een techniek die betere generatieve AI-resultaten oplevert door bedrijven automatisch de meest actuele en relevante bedrijfseigen data aan een bestaand LLM te laten verstrekken.

Een AI-model is slechts zo goed als de data waarmee het wordt getraind. Een sterke AI heeft de juiste context en grote hoeveelheden feitelijke data nodig, en geen algemene informatie. Een kant-en-klaar LLM is niet altijd up-to-date en heeft ook geen betrouwbare toegang tot je data of begrip van je klantrelaties. Hier biedt RAG echt een uitkomst.

Via RAG kunnen bedrijven AI-modellen laten putten uit de meest actuele interne informatie. En dan hebben we het niet alleen over gestructureerde data zoals een spreadsheet of een relationele database. Dit betreft het ophalen van alle beschikbare data, inclusief ongestructureerde data: e-mails, pdf's, chatlogs, berichten op sociale media en andere soorten informatie die kunnen leiden tot een betere AI-output.

Retrieval-augmented generation is een kosteneffectieve aanpak die je AI-strategie een boost geeft door werknemers- en klantervaringen van hogere kwaliteit te bieden. Enkele van de belangrijkste zakelijke voordelen van het gebruik van een RAG-model zijn:

• Snelheid en relevantie: Door toegang te bieden tot de meest actuele interne bedrijfsgegevens, helpt RAG LLM's om meer geschikte reacties te genereren. Nieuwe informatie en leren van eerdere interacties betekent vaak een toename van de kwaliteit.
• Meer vertrouwen: Een belangrijke uitdaging bij kant-en-klare LLM's kunnen hallucinaties zijn: het geven van antwoorden die onnauwkeurig of onjuist zijn. Een RAG LLM, die een bestaand model voorzien van de bedrijfseigen informatie van een bedrijf, verkleint de kans hierop door het genereren te gronden op doorgelichte en up-to-date bedrijfsdata.
• Meer controle: Kant-en-klare LLM's worden doorgaans getraind op een ondoorzichtige en verreikende set databronnen. Met een RAG-LLM kun je meer controle krijgen door algemene data aan te vullen met informatie uit door jou aangewezen bronnen.
• Verbeterde zoekfunctie: De bedrijven van vandaag worstelen met een stortvloed aan inzichten, interacties en informatie uit veel verschillende bronnen. RAG verbetert zoekfuncties door de voordelen van AI toe te passen op bedrijfsdata.

RAG maakt gebruik van semantisch zoeken om relevante informatiefragmenten op te halen uit elke databron, inclusief het interne klantgegevensplatform van een bedrijf, dat informatie bevat die buiten de LLM valt waarop de LLM is getraind. Deze fragmenten worden vervolgens gebruikt om generatieve AI-antwoorden te leveren die de kennisbank van het bedrijf bevatten; een resultaat dat soms wordt aangeduid als 'grounded AI-generatie'. Gegronde AI-generatie kan je helpen betere AI-antwoorden te krijgen .

De kernelementen van RAG zijn:

• Voorbewerking en indexering: RAG AI begint met de schat aan waardevolle ongestructureerde data van een bedrijf: klantnotities, e-mails, pdf's, chatlogs, enz., en deze met elkaar te verbinden ('voorverwerking en indexering').
• Retrievers en ophalen: Vervolgens gebruikt RAG krachtige semantische zoektools ('retrievers') om de interne gegevens van het bedrijf te doorzoeken en te vinden ('retrieve') wat er nodig is voor een specifieke zoekopdracht.
• Gegronde AI-generatie en -verbetering: Ten slotte neemt de RAG LLM de opgehaalde informatiefragmenten op in de responsgeneratie om het meest relevante antwoord te geven ('grounded AI generation and augmentation').

Retrieval-augmented generation omvat verschillende benaderingen voor het organiseren, verbinden en ophalen van data. Deze zijn vaak vergelijkbaar en bestaan uit:

• Vectorgebaseerde RAG: RAG kan werken in combinatie met een gespecialiseerd type database, een vectordatabase genaamd, om informatie op te slaan in een numerieke indeling die logisch is voor AI.
• Kennisgrafieken: Met kennisgrafieken worden gegevens georganiseerd rond knooppunten en relaties, waardoor RAG AI verbanden kan leggen die vergelijkbaar zijn met hoe mensen dat doen.
• Gecombineerde RAG: Er wordt meer dan één retriever tegelijk uitgevoerd en de resultaten worden vervolgens gecombineerd. Zo kan het ene model de zwakke punten van het andere model opvangen en kunnen reacties met elkaar worden vergeleken.

Een LLM-agent met RAG-architectuur gaat uit van de retrieval-augmented generation-techniek en een groot taalmodel. Het 'agent'-gedeelte verwijst naar het toevoegen van een autonome agent, ook wel een AI-agent genoemd.

AI-agents zijn een geavanceerde vorm van AI die zelfstandig taken kunnen uitvoeren en gaandeweg kunnen leren. Ze zijn gemaakt met behulp van een agentbuilder en zijn gebaseerd op machine learning en natuurlijke taalverwerking (NLP). Wanneer een agent is gebouwd op LLM's en een RAG-architectuur, kan deze zich bezighouden met genuanceerde en contextbewuste interacties die specifiek zijn voor het bedrijf, terwijl hij zich voortdurend aanpast en verbetert.

RAG kan zorgen voor optimale efficiëntie en meer succes in je hele organisatie door LLM's, een cloudgebaseerde data-engine, een CRM-systeem (Customer Relationship Management) en conversationele AI bij elkaar te brengen. Met deze combinatie kun je een hele reeks krachtige AI-agents bouwen die zijn afgestemd op de behoeften van elke afdeling. Deze gaan verder dan eenvoudige chatbots en fungeren als zeer capabele digitale assistenten die zijn geïntegreerd in de workflows, die voortdurend nieuwe informatie verwerken en continu blijven leren.

Hoe ziet dit eruit in de praktijk? Enkele voorbeelden:

• Klantenservice: Met een service-AI-agent kun je een snellere, efficiëntere en behulpzamere klantenservice bieden, die wordt aangestuurd door je CRM-platform. Met behulp van de gegevens die via de RAG-techniek zijn gekoppeld, kan een AI-agent gepersonaliseerde interacties aangaan, proactieve ondersteuning bieden op basis van verwachte behoeften en service via meerdere kanalen beheren.
• Sales: Met een sales-AI-agent die in je CRM is geïntegreerd, kun je de groei van de pipeline en de omzet versnellen. Een AI-agent kan het autonoom nurturen van inkomende leads voor zijn rekening nemen, evenals het coachen van verkopers, waardoor de productiviteit en capaciteiten van je salesteam worden verhoogd.
• Marketing: Een platform met een marketing-AI-agent kan de klantbetrokkenheid verdiepen en de productiviteit van het team verhogen. Met een AI-agent kunnen marketeers gepersonaliseerde content en aanbiedingen genereren op verschillende contactmomenten, slimmere campagnes inzetten die klanten gedurende de hele levenscyclus van de klant bereiken en deze autonoom optimaliseren op basis van de nieuwste campagne-KPI's.
• Commerce: Een commerce-AI-agent die deel uitmaakt van een uniform platform kan de verkoop stimuleren door uniforme klantgegevens te gebruiken om gepersonaliseerde winkelervaringen te bieden, relevante content te leveren en bestellingen te stroomlijnen. Het kan ook aan de achterkant helpen met taken zoals het optimaliseren van de voorraad en het genereren van product-/servicebeschrijvingen.

De voordelen van RAG zijn van toepassing op bedrijven van alle soorten omvang en sectoren. De combinatie van AI en interne klantgegevens kan ervaringen verbeteren en zowel werknemers als klanten ondersteunen van kleine bedrijven en start-ups tot bedrijven van elke grootte.

Een AI-agent voor een financiële dienstverlener kan bijvoorbeeld gebruikmaken van klantinformatie om relevante inzichten voor medewerkers te verkrijgen en aanbevelingen op maat te maken op basis van de specifieke financiële doelen van een individu. Een AI-agent in de gezondheidszorg kan vragen van een patiënt beantwoorden en helpen bij het plannen van de beste zorgverlener voor zijn of haar behoeften.

In de maakindustrie kan een autonome agent worden gebruikt om apparatuur te monitoren en productieprocessen te optimaliseren. En in de auto-industrie kan een RAG AI-agent over de hele linie helpen, van het maken van promoties op basis van realtime voorraadniveaus tot het proactief opsporen van problemen met voertuigonderhoud.

Met de juiste technologie hoeft aan de slag te gaan met RAG niet duur of omslachtig te zijn.

Als basis heb je een geïntegreerd platform nodig met een krachtige data-engine die een breed scala aan bronnen en bestandstypen aankan. Het moet ook alle data met elkaar verbinden, zodat het optimaal werkt voor retrievers, bijvoorbeeld met een vectordatabase. Je platform moet een geavanceerde agentbuilder hebben, zoals Agentforce heeft, die je de mogelijkheid biedt om autonome AI-agents te bouwen en aan te passen om je personeel en klanten te ondersteunen.

Een belangrijk aspect om te onthouden als je erin duikt, is dat het succes van RAG verweven is met de kwaliteit van het door jou gekozen LLM. Om het juiste RAG LLM te combineren, zul je een model moeten gebruiken van hoge kwaliteit met betrouwbare, nauwkeurige en getrouwe contextuele genereermogelijkheden. Bedenk goed dat het menselijke element cruciaal blijft. Hoe beter de zoekopdracht, hoe beter de respons, dus help je personeel te begrijpen hoe ze een goede prompt moeten schrijven.

Uiteindelijk draait het bij retrieval-augmented generation allemaal om het rendement op je AI-investering. Door je data te koppelen met generatieve AI, geef je AI-agents een flinke upgrade, waardoor hun reacties en uitvoeringen persoonlijker, relevanter en actueler worden.

Agentforce, de agentische laag van het Salesforce-platform, gebruikt deze technologie bijvoorbeeld om bedrijven te helpen snel meer werk te verzetten. De Atlas Reasoning Engine is het brein achter Agentforce en gebruikt RAG om informatie te analyseren en te bepalen hoe verzoeken of taken het beste kunnen worden voltooid.

LLM-agents met RAG-architectuur kunnen voordelen bieden voor je hele bedrijf, waardoor je sterkere klantrelaties kunt opbouwen, activiteiten kunt optimaliseren, marketing- en verkoopprestaties kunt verbeteren en efficiënt kunt groeien.