Wat is RAG (retrieval-augmented generation)?

Waarom RAG nodig is

Een taalmodel zoals dat achter ChatGPT, Claude of Gemini weet veel, maar niets over jouw bedrijf. Het kent je prijzen niet, je garantievoorwaarden niet en je interne procedures niet. En wat het wel weet, kan verouderd zijn. Vraag je zo'n model toch naar die informatie, dan kan het een antwoord verzinnen dat overtuigend klinkt maar niet klopt. Dat heet een hallucinatie.

RAG lost dat op door het model bij elke vraag de juiste informatie mee te geven. Het model hoeft het antwoord dan niet uit zijn geheugen te halen, maar kan het lezen in jouw documenten.

Hoe werkt RAG?

RAG werkt in vijf stappen:

1. Voorbereiden: je documenten, zoals handboeken, productinformatie, contracten en veelgestelde vragen, worden in kleine stukken verdeeld en opgeslagen in een zoekindex. Vaak is dat een vector database, die stukken tekst kan vinden op betekenis in plaats van alleen op exacte woorden.
2. Vraag: een gebruiker stelt een vraag, bijvoorbeeld "Wat is de garantietermijn op product X?"
3. Zoeken: het systeem zoekt de stukken tekst die het beste bij de vraag passen.
4. Antwoorden: het taalmodel krijgt de vraag én de gevonden stukken, en schrijft een antwoord op basis van die stukken.
5. Bronvermelding: een goed RAG-systeem laat zien uit welk document het antwoord komt, zodat de gebruiker het kan controleren.

Voorbeelden van RAG in bedrijven

• Klantenservice: een AI-assistent beantwoordt klantvragen op basis van je kennisbank en voorwaarden.
• HR: een assistent beantwoordt vragen van medewerkers op basis van het personeelshandboek en de cao.
• Sales: een assistent zoekt in eerdere offertes en productdocumentatie om een voorstel voor te bereiden.
• Juridisch en compliance: een assistent doorzoekt contracten en beleidsstukken en vat de relevante passages samen.
• Techniek en service: een assistent helpt monteurs met handleidingen en storingsoplossingen.

RAG of fine-tuning?

Voor de meeste bedrijfstoepassingen is RAG de betere keuze. Fine-tuning is vooral nuttig als een model een bepaalde stijl of taak moet beheersen, niet om het nieuwe feiten te leren.

Waar hangt de kwaliteit van RAG van af?

• De kwaliteit van je documenten: verouderde of tegenstrijdige documenten geven verouderde of tegenstrijdige antwoorden.
• Hoe documenten worden opgedeeld: te grote stukken bevatten ruis, te kleine stukken missen context.
• De zoekfunctie: als het systeem de verkeerde stukken vindt, geeft het model een verkeerd antwoord.
• Toegangsrechten: een medewerker mag alleen antwoorden krijgen uit documenten die hij of zij ook zelf mag inzien.
• Onderhoud: iemand moet de documenten actueel houden.

Zie het als een slimme collega met een goede bibliotheek: hoe beter de bibliotheek, hoe beter het antwoord.

RAG en AI-agents

RAG wordt steeds vaker gecombineerd met agentic AI. Een AI-agent gebruikt RAG om informatie op te zoeken, en voert daarna een actie uit. Een klantenservice-agent zoekt bijvoorbeeld eerst het retourbeleid op in de kennisbank, controleert dan de bestelling in de webshop en maakt vervolgens een retour aan. RAG zorgt dat de agent volgens jouw regels werkt, en niet volgens algemene kennis van het internet.

Een voorbeeld

Een groothandel heeft 400 productbladen, een retourbeleid en een lijst met veelgestelde vragen. Een klant vraagt in de chat: "Is product X geschikt voor buitengebruik, en kan ik het terugsturen als het niet past?" Het RAG-systeem vindt het productblad van product X en het retourbeleid. Het taalmodel combineert die twee en antwoordt dat het product geschikt is voor buitengebruik volgens de specificaties, dat retourneren binnen 30 dagen kan, en verwijst naar beide documenten. De klant krijgt direct een kloppend antwoord, en de medewerker hoeft niets op te zoeken.

RAG en privacy

Bij RAG blijven je documenten in je eigen omgeving of in een omgeving die je zelf kiest. Alleen de relevante stukken gaan bij een vraag naar het taalmodel. Let op drie dingen: waar de zoekindex staat, of het taalmodel je gegevens niet gebruikt om te trainen (bij zakelijke versies meestal niet, maar controleer het), en of de toegangsrechten van gebruikers worden gerespecteerd.

Hoe begin je met RAG?

1. Kies één toepassing met een duidelijke verzameling documenten, zoals de kennisbank van de klantenservice.
2. Ruim de documenten op: verwijder oude versies en wijs per onderwerp een eigenaar aan.
3. Bouw een eerste versie en test met echte vragen.
4. Meet hoe vaak het antwoord klopt, en verbeter de documenten en de zoekfunctie.
5. Breid uit naar andere documenten of afdelingen.

Lees meer over de praktische kant op onze pagina RAG implementeren in je bedrijf.