Wat elk van de twee doet
Beide lossen hetzelfde probleem op: het model kent je bedrijf alleen via wat er in zijn contextvenster staat, en dat venster is beperkt en tijdelijk. Ze liggen op een ander niveau. RAG is een manier van ophalen. Geheugen is een systeem dat bepaalt wat bewaard wordt, het bijwerkt en het later terughaalt, en dat terughalen gebeurt vaak met RAG. In de praktijk vergelijken mensen meestal een RAG-opzet over documenten met een geheugen van gesprekken; de tabel gaat over die twee opzetten.
| Onderdeel | RAG over documenten | Geheugen |
|---|---|---|
| Bron | Documenten die er al zijn: wiki, handleidingen, contracten, tickets | Vooral wat er gebeurt terwijl de AI werkt: gesprekken, correcties, besluiten |
| Wanneer geschreven | Bij het indexeren van documenten | Tijdens of na een taak |
| Typische vraag | “Wat staat er in onze retourregeling?” | “Hoe wil deze klant zijn updates?” |
| Omgaan met verandering | Opnieuw indexeren als het document verandert | Het oude feit bijwerken of ongeldig maken |
| Typische fout | Vindt een verouderde of bijna-passende passage | Onthoudt iets dat nergens anders staat, of houdt een verlopen feit vast |
Het engineeringteam van Anthropic beschrijft twee manieren om kennis in het venster te krijgen. Up-front retrieval, de klassieke RAG-opzet, zoekt met embeddings vooraf de relevante stukken. Bij just-in-time retrieval laadt de agent data via tools terwijl hij werkt, bijvoorbeeld door bestanden op pad te openen of een query te draaien, zonder dat alles vooraf geïndexeerd hoeft te zijn. Wat vaak agentic RAG heet, lijkt op dat tweede patroon.
Geheugenproducten voegen een stap toe die een eenvoudige RAG-opzet niet heeft: beslissen wat het bewaren waard is. Mem0 haalt feiten en entiteiten uit de berichten die je stuurt en geeft later alleen de relevante terug. Zep bewaart feiten in een graaf met tijd: spreekt nieuwe data een eerder feit tegen, dan wordt het oude ongeldig gemarkeerd met een tijdstip, in plaats van er stilletjes naast te blijven staan.
Het misverstand: “we hebben RAG, dus de AI onthoudt”
Een team indexeert zijn documenten, hangt ze aan een chatbot en verwacht dat de AI weet hoe het team werkt. Dan verbetert iemand de AI (“we noemen nooit een prijs in de eerste mail”) en de volgende dag maakt hij dezelfde fout. Aan het ophalen lag het niet. De correctie stond in een gesprek, en in deze opzet zitten gesprekken niet in de index. Je zou ze kunnen indexeren, maar dan heb je de geheugenvraag alsnog: welke zin uit welk gesprek geldt nog?
Andersom gebeurt het ook. Het persoonlijke chatgeheugen weet veel over hoe één persoon werkt, maar kan geen vraag beantwoorden over het contract in SharePoint als dat contract nooit beschikbaar is gemaakt.
Zo kies je
- Vooral vaste, geschreven kennis (beleid, productdocumentatie, handleidingen): RAG over die documenten.
- Kennis die alleen in hoofden en gesprekken bestaat (voorkeuren, uitzonderingen, lessen uit fouten): geheugen.
- Allebei, wat voor een team normaal is: één laag die bestaande documenten leest en ook bewaart wat geleerd wordt, met een duidelijke regel welke bron wint als ze elkaar tegenspreken.
Een voorbeeld van zo’n regel. In de prijslijst (document) staat dat de opstartkosten €500 zijn. Vorige week besloot het team die voor bestaande klanten te laten vallen, en dat zei iemand tegen de AI (geheugen). Een goede regel: een recentere, expliciete correctie van een bevoegd persoon wint van een ouder document, maar de AI noemt beide en vraagt het document bij te werken. Zonder regel kiest het model wat toevallig het hoogst scoort bij het ophalen.
Op dat derde punt zit het lastige. Staat het geheugen in ieders eigen ChatGPT- of Claude-account en de documenten in een losse RAG-index, dan weet niemand welke versie geldt, en heeft niemand anders iets aan de correcties van één persoon. De soorten geheugen staan in Welke soorten geheugen hebben AI-agents?, de teamkant in Hoe geef je een team één gedeeld AI-geheugen?
Wat dit voor een team betekent
Vaak bouwt iemand een RAG-index voor één tool, terwijl elke assistent daarnaast zijn eigen geheugen houdt. Het resultaat is een stel halve geheugens die niet van elkaar weten. Een collega in Cursor krijgt de regel niet die jouw Claude leerde, en de RAG-index achter je supportbot kent geen van beide.
Waar Bombos past
Bombos doet beide in één gedeelde laag. Het leest wat er al ligt (mail, documenten, pakketten, repo’s) en bewaart wat het team leert, ook regels die de AI klaarzet voor de volgende vraag. Het ophalen combineert gelijkenis, trefwoorden, nabijheid in een context graph en regels die alleen in een bepaalde context gelden, en bij elk antwoord zie je waarop het rust. Dezelfde laag staat open voor elke AI-tool van het team, in onze cloud of op je eigen server.
Vragen die hierbij horen
Wat is agentic RAG?
Ophalen waarbij de agent zelf beslist wanneer en wat hij zoekt, met tools tijdens de taak, in plaats van één zoekactie vooraf. Anthropic beschrijft een verwant patroon, just-in-time retrieval, en noemt Claude Code als een mengvorm: CLAUDE.md wordt vooraf geladen, bestanden worden op het moment zelf gezocht met glob en grep.
Kan ik een vectordatabase als geheugen gebruiken?
Ja, veel geheugenproducten bewaren herinneringen in een doorzoekbare index. Het verschil zit in wat erin gaat: een stap die gesprekken omzet in feiten, en een regel voor wat er gebeurt als een nieuw feit een oud feit tegenspreekt.
Is context engineering hetzelfde als RAG?
Nee. Context engineering is het bredere werk van kiezen wat er in het contextvenster komt: instructies, tools, voorbeelden, opgehaalde documenten en geheugen. RAG is één techniek daarbinnen.
Waarom niet gewoon alles in het venster van 1 miljoen tokens plakken?
Omdat nauwkeurigheid en recall dalen naarmate het venster voller raakt, wat Anthropic context rot noemt, en omdat het venster de volgende sessie weer leeg is.
