Elk bedrijf heeft hetzelfde probleem in een andere vorm: het antwoord bestaat, maar niemand vindt het. De actuele prijslijst staat in een SharePoint-map, de uitzonderingsregel op een Confluence-pagina uit 2024, het technische detail in een gesloten ticket en de echte uitleg in het hoofd van een collega. Nieuwe medewerkers stellen steeds dezelfde vragen; ervaren collega’s beantwoorden ze steeds opnieuw.
Een kennisassistent op basis van retrieval-augmented generation (RAG) belooft dat op te lossen: vraag het in gewone taal en krijg een antwoord uit je eigen documenten, met een link naar de bron. De vraag is er: in het Anthropic-onderzoek van 2026 noemde 41% van de technische leiders kennisbeheer een van de meest effectieve toepassingen van AI-agents (Anthropic).
Tegelijk is de interne chatbot het AI-project dat het vaakst in een la belandt. De demo maakt indruk, daarna daalt het gebruik – omdat antwoorden verouderd zijn, autorisaties lekken of niemand kan beoordelen of een antwoord klopt. Deze gids beschrijft de architectuur die die fouten voorkomt, wat het in 2026 kost en hoe je het invoert.
Hoe RAG werkt, in gewone taal
- Inlezen. Connectoren halen documenten op uit je systemen en houden ze gesynchroniseerd, inclusief wijzigingen en verwijderingen.
- Verwerken en opknippen. Documenten worden omgezet in schone tekst en verdeeld in passages die koppen, tabellen en context bij elkaar houden.
- Indexeren. Elke passage wordt opgeslagen met een embedding (een numerieke weergave van betekenis) en met trefwoorden en metadata zoals bron, datum, taal en toegangsrechten.
- Zoeken. Bij een vraag vindt het systeem de meest relevante passages die de vraagsteller mag zien.
- Herordenen. Een tweede, preciezer model zet de kandidaten in volgorde, zodat het beste bewijs bovenaan staat (reranking).
- Antwoorden. Het taalmodel schrijft het antwoord uitsluitend op basis van die passages en citeert ze.
- Loggen en evalueren. Vragen, gevonden bronnen, antwoorden, feedback, latency en kosten worden vastgelegd, zodat je kwaliteit kunt meten.
Het model is maar stap zes. Het grootste deel van de kwaliteit – en van het werk – zit in de andere zes.
Referentiearchitectuur
| Laag | Wat het doet | Typische keuzes | Kernbeslissing |
|---|---|---|---|
| Connectoren | Synchroniseren vanuit Confluence, SharePoint, Google Drive, Notion, ticketsysteem, CRM | Standaard-API’s, MCP-servers | Incrementele synchronisatie en doorvoeren van verwijderingen |
| Verwerken en opknippen | Maakt van pdf’s, presentaties en tabellen schone passages | Lay-outbewuste parsers | Tabellen en koppen bij elkaar houden |
| Index | Slaat passages op om te zoeken | Postgres met pgvector, OpenSearch, Qdrant | Hybride zoeken: semantisch plus trefwoord |
| Autorisaties | Filtert resultaten op wat de gebruiker mag zien | Synchronisatie van toegangslijsten, SSO-groepen | Afdwingen bij het zoeken, nooit alleen in de prompt |
| Model | Schrijft het antwoord | Cloudmodellen (OpenAI, Anthropic, Google) of EU- en zelf gehost (Mistral) | Vervangbaar houden achter een gateway |
| Vangrails | Alleen antwoorden uit bronnen, anders weigeren | Systeeminstructies, outputcontroles | Een duidelijke route voor ‘dat weet ik niet’ |
| Evaluatie en monitoring | Meet kwaliteit, kosten en latency | Langfuse, Helicone, eigen dashboards | Testset vanaf dag één |
| Interface | Waar mensen hun vraag stellen | Teams, Slack, intranet, zijbalk in het ticketsysteem | Daar waar mensen al werken |
Autorisaties zijn het lastige deel
Koppelingen en toegangsbeheer nemen doorgaans 40–60% van het budget van een RAG-project in beslag (ment.tech). De reden is simpel: als de assistent personeelsdossiers, notulen van de directie of salarisgegevens kan lezen, stelt iemand vroeg of laat de vraag die ze naar boven haalt. Autorisaties moeten worden afgedwongen op het moment van zoeken, op basis van de echte rechten in het bronsysteem. Het model vragen ‘deel geen vertrouwelijke informatie’ is geen toegangsbeheer.
Zoekkwaliteit is belangrijker dan de modelkeuze
De meeste foute antwoorden komen niet door een zwak model, maar door de verkeerde passages. Bewezen verbeteringen: hybride zoeken (semantische gelijkenis plus exacte trefwoorden, belangrijk voor artikelnummers en namen), reranking, filters op metadata (land, productlijn, geldigheidsdatum) en opknippen zodat een tabel bij zijn kop blijft.
Bronvermelding en ‘dat weet ik niet’
Elk antwoord hoort naar zijn bronnen te linken, zodat gebruikers het met één klik kunnen controleren. Even belangrijk: als het zoeken niets relevants oplevert, moet de assistent dat zeggen en voorstellen wie je het kunt vragen, in plaats van te improviseren. Een eerlijk ‘dat weet ik niet’ wekt meer vertrouwen dan een vloeiende gok.
Connectoren via MCP
Het Model Context Protocol is de standaard geworden om AI-systemen aan bedrijfstools te koppelen. Sinds december 2025 valt het onder de Agentic AI Foundation van de Linux Foundation (MCP-blog), en er zijn meer dan 10.000 publieke MCP-servers (Digital Applied). Dat scheelt werk aan connectoren, maar elke server heeft een beveiligingsreview nodig. Hoe je ze veilig koppelt, lees je in ons artikel over MCP-integraties.
Toepassingen per team
Dezelfde architectuur bedient heel verschillende teams. Wat verandert, zijn de bronnen, het autorisatiemodel en de definitie van een goed antwoord.
| Team | Typische vragen | Belangrijkste bronnen | Wat het laat werken |
|---|---|---|---|
| Klantenservice | ‘Welke garantie geldt voor model X in België?’ | Helpcenter, beleid, productdata, opgeloste tickets | Actueel beleid, citaten die medewerkers kunnen plakken |
| Sales en presales | ‘Ondersteunen we single sign-on? Welke referentieklanten hebben we in de logistiek?’ | Productdocumentatie, security-antwoorden, cases | Goedgekeurde formuleringen, versiedata |
| HR en onboarding | ‘Hoe vraag ik ouderschapsverlof aan?’ | Personeelshandboek, beleid, formulieren | Strikte scheiding van personeelsdossiers |
| IT-servicedesk | ‘Hoe verbind ik mijn nieuwe laptop met de VPN?’ | Runbooks, eerdere tickets | Stapsgewijze antwoorden, links naar formulieren |
| Techniek en service | ‘Aanhaalmoment voor deze module? Onderhoudsinterval?’ | Handleidingen, specificaties, servicerapporten | Tabelbewuste verwerking, exacte waarden, on-premise-optie |
RAG of fine-tuning?
In eerste gesprekken komt vaak de vraag of je ‘het model niet gewoon op onze data kunt trainen’. Voor bedrijfskennis is het antwoord meestal nee. Fine-tuning verandert hoe een model schrijft, classificeert of een formaat volgt; feiten leert het er niet betrouwbaar van, het kan geen bron noemen en het moet bij elke documentwijziging opnieuw. Erger nog: het kent geen autorisaties – wat in het model zit, is beschikbaar voor iedereen die het gebruikt.
RAG houdt kennis buiten het model, actueel en herleidbaar. Fine-tuning kan later een rol spelen, bijvoorbeeld om een kleiner, goedkoper model jouw antwoordformaat te laten volgen – maar als optimalisatie, niet als fundament.
Kopen of bouwen?
Ingebouwde assistenten – Microsoft Copilot, assistenten in Confluence, Notion of je ticketsysteem – werken goed als vrijwel alle kennis in één suite met het bijbehorende autorisatiemodel staat. Microsoft Copilot Studio kost bijvoorbeeld $200 per 25.000 credits (CloudZero).
Een assistent op maat is zinvol als:
- kennis verspreid staat over meerdere systemen die geen enkele leverancier afdekt;
- autorisaties complex zijn, bijvoorbeeld per land, klant of project;
- je meerdere talen met gelijke kwaliteit nodig hebt;
- data in de EU of op eigen servers moet blijven;
- antwoorden tot acties moeten leiden, zoals een ticket aanmaken of een CRM-record bijwerken;
- je meetbare nauwkeurigheid per domein nodig hebt in plaats van een algemene indruk.
De simpele ‘chat met onze documenten’-bot wordt standaardwaar. De waarde van maatwerk zit in wat een generieke tool niet doet: jouw autorisaties, jouw bronnen, jouw kwaliteitsmeting.
Wat het in 2026 kost
| Niveau | Typische omvang | Europa | VS | Doorlooptijd |
|---|---|---|---|---|
| Starter | 1–3 bronnen, bronvermelding, web- of chatwidget | €7.000–14.000 plus €180–380 per maand | $15.000–30.000 | Proof of concept in ongeveer 2 weken |
| Business | 5–10 bronnen, autorisaties, CRM-koppeling | €14.000–28.000 | $40.000–75.000 | Productie in 4–8 weken |
| Enterprise | Multi-tenant, compliance, acties in ERP of CRM | €28.000–45.000 | $80.000–150.000 en meer | 2–4 maanden met ERP of CRM |
Bronnen: LSI Analytics voor Europa, ment.tech voor de VS.
De gebruikskosten voor tokens en hosting liggen doorgaans op €180–700 per maand (LSI Analytics); op grotere schaal geeft een gemiddelde agent $50–500 per maand uit aan modellen (Lets-Viz). Je houdt ze voorspelbaar door eenvoudige vragen naar goedkopere modellen te sturen, veelgestelde antwoorden te cachen en budgetten met waarschuwingen in te stellen. Zie ons artikel over de LLM-gateway en kostenbeheersing.
Kwaliteit meten met evals
Verzamel vóór de lancering 100–200 echte vragen van de teams die de assistent gaan gebruiken, met het juiste antwoord en het brondocument, bevestigd door de inhoudelijke eigenaar. Die testset is je kwaliteitscontract.
| KPI | Vraag die het beantwoordt |
|---|---|
| Trefkans bij het zoeken | Stond het juiste document bij de bovenste resultaten? |
| Juistheid van het antwoord | Klopt het antwoord volgens de inhoudelijke eigenaar? |
| Juistheid van de citaten | Ondersteunen de geciteerde passages het antwoord echt? |
| Terechte weigeringen | Zegt de assistent ‘dat weet ik niet’ als het antwoord niet in de bronnen staat? |
| Autorisatietests | Ziet iemand zonder toegang geen enkel spoor van afgeschermde inhoud? |
| Latency en kosten per antwoord | Snel en betaalbaar genoeg voor dagelijks gebruik? |
| Gebruik en feedback | Komen mensen terug, en wat melden ze? |
Draai de set opnieuw na elke wijziging aan prompts, modellen, opknippen of bronnen. Zonder testset is elke ‘verbetering’ een gok. De methode staat uitgebreid in ons artikel over AI-evaluaties.
Privacy en hosting in Europa
Europese kopers letten erop waar hun AI vandaan komt: volgens cijfers van Deloitte houdt 77% van de bedrijven rekening met het land van herkomst van de AI-leverancier en maakt 66% zich zorgen over afhankelijkheid van buitenlandse AI (DEV Community). In Duitsland zijn eisen rond gegevensbescherming voor 66% van de bedrijven die al AI gebruiken de grootste drempel (Bitkom).
Je hebt drie hoofdopties:
- Cloudmodel met gegevensverwerking in de EU en een verwerkersovereenkomst – de snelste start, met de sterkste modellen.
- In de EU gehoste model-endpoints – het model draait in een Europese regio, met contractuele afspraken over datagebruik.
- Zelf gehoste open-weight modellen (bijvoorbeeld Mistral) op eigen of Europese servers – maximale controle, meer beheerwerk.
Wat je ook kiest: indexeer niet alles (personeelsdossiers en persoonsgegevens horen zelden in een algemene assistent), leg bewaartermijnen voor logs vast en zorg dat verwijderingen in het bronsysteem ook in de index doorkomen – anders wordt het recht op verwijdering onder de AVG een probleem. Voor de zelf gehoste route: zie private en on-premise LLM’s.
Veelgemaakte valkuilen
- Verouderde bronnen. Als niemand eigenaar is van de inhoud, herhaalt de assistent vol overtuiging de prijzen van vorig jaar. Geef elke bron een eigenaar en een reviewdatum.
- Lekkende autorisaties. Zoeken zonder toegangsfilter is een datalek dat wacht op de juiste vraag.
- Alles indexeren. Meer documenten betekent geen betere antwoorden. Begin met de bronnen die mensen echt nodig hebben en die worden onderhouden.
- Kapotte tabellen en scans. Prijslijsten en specificaties staan vaak in tabellen; slechte verwerking maakt er ruis van.
- Geen testset. Zonder testset kan niemand zeggen of een wijziging heeft geholpen of geschaad.
- Prompt injection via documenten. Een geüpload bestand of webpagina kan instructies voor het model bevatten. Behandel inhoud als data, beperk tools en houd gevoelige acties achter menselijke goedkeuring.
- Geen adoptieplan. Zet de assistent waar mensen werken, geef een training van 30 minuten en publiceer wat hij wel en niet kan beantwoorden.
- Lock-in. Houd index, prompts en testsets in je eigen accounts, zodat je van model of leverancier kunt wisselen.
Invoering in 6–8 weken
- Week 1–2: afbakenen. Kies één team en één domein (bijvoorbeeld klantenservice of technische sales), zet bronnen en eigenaren op een rij en verzamel de testvragen.
- Week 2–4: bouwen. Connectoren, verwerking, hybride index, autorisaties, eerste antwoorden met bronnen; meten tegen de testset.
- Week 4–6: pilot. Tien tot dertig echte gebruikers, dagelijkse feedback, wekelijkse evaluatieruns, verbeteringen aan bronnen en opknippen.
- Week 6–8: lancering en overdracht. Openstellen voor het hele team, monitoring, kostenwaarschuwingen en een maandelijkse inhoudsreview inrichten.
Conclusie
Een kennisassistent staat of valt met onopvallende details: welke bronnen hij leest, wie ze actueel houdt, of autorisaties worden afgedwongen en of kwaliteit wordt gemeten. Zit dat goed, dan wordt de modelkeuze een detail dat je later kunt aanpassen. Zit het fout, dan produceert zelfs het beste model zelfverzekerde onzin.
Wil je een realistische inschatting voor jouw bronnen, autorisaties en hostingeisen? Plan een gratis check van 15 minuten. We vertellen je of een ingebouwde assistent volstaat of waar een RAG-oplossing op maat zich terugverdient. Meer over ons werk aan AI-agents en systeemintegratie.