Waarom een goede AI-tekst een groter risico is dan een slechte

De onderwijssector wantrouwt AI, en terecht. Maar dat wantrouwen richt zich vaak op het verkeerde probleem.

Uit de enquête van Beter Onderwijs Nederland van begin dit jaar blijkt dat driekwart van de respondenten AI niet vertrouwt. Dat wantrouwen is een gezonde reactie op technologie met zoveel impact, en het is precies wat je verwacht van een sector die zijn werk serieus neemt.

Veel van dat wantrouwen richt zich op het materiaal zelf, de output. Maar het echte risico zit in hoe die output tot stand komt. De vraag verschuift van "klopt dit?" naar "kan ik nagaan waar dit antwoord vandaan komt?"

Als AI een output genereert, kan die betrouwbaar ogen: logisch, vloeiend, overtuigend. En tegelijk volledig verzonnen en zonder bronnen zijn. Controleerbaarheid ontbreekt. En wat je niet kunt controleren, kun je niet vertrouwen.

Dit artikel gaat over het verschil tussen betrouwbaarheid en controleerbaarheid.

AI is een te zelfverzekerde collega

De meeste educatieve uitgevers werken met een collectief van docent-auteurs: docenten die naast hun baan schrijven, freelance, onder tijdsdruk, per hoofdstuk betaald. Sinds een jaar of twee gebruiken veel van die auteurs ChatGPT bij het schrijven. Niet uit luiheid, maar uit tijdgebrek. En terecht, want bij veilig gebruik doet AI sommige dingen sneller dan een mens: ordenen, verzamelen, structureren. Daar hoort het ook ingezet te worden. Maar altijd controleerbaar.

Het materiaal komt binnen bij de redacteur. Die leest het, kijkt het na en keurt het goed. Daar gaat het mis, en niet door slordigheid. De redacteur let nog op de fouten van vroeger: een kromme zin, een verkeerd niveau, slordigheid. Maar de risico's die er nu spelen hebben een andere aard. En daar is de manier van werken niet op ingesteld.

Waarom de bronfouten er niet worden uitgehaald:

• Overduidelijke stijlfouten worden nauwelijks gemist. Een spelfout, een kromme zin, een bewering die rammelt springt eruit. Dat is de expertise waar een redacteur een carrière lang op is getraind.

• AI maakt geen lelijke fouten. AI produceert vloeiende, zelfverzekerde, goed geformuleerde hallucinaties.

• Er staat geen bron bij. AI vermeldt niet waar informatie vandaan komt, en stelt hallucinaties als feiten.

• De vorm bedekt de inhoud. Een verzonnen jaartal of een niet bestaand citaat krijgt dezelfde gezaghebbende toon als echte informatie. De redacteur leest iets dat in zijn vorm klopt, en neemt aan dat de inhoud dus ook klopt. Menselijk, niet slordig.

En dit is het inzicht dat breed ontbreekt: hoe beter AI wordt, hoe onzichtbaarder de fouten, hoe groter het risico. Een paar jaar geleden produceerde AI nog houterige teksten, en was het niet moeilijk om fouten te herkennen of vast te stellen dát er AI in het spel was. Nu schrijft het als een bekwame collega, en verdwijnen de fouten in een zee aan vloeiende zinnen.

Deloitte Australië ondervond dit vorig jaar op pijnlijke manier. In een door AI meegeschreven overheidsrapport stonden citaten en bronnen die niet bestonden. Ze werden niet opgemerkt voordat het stuk werd opgeleverd, en het bureau betaalde een deel van de rekening terug. Een topbureau, vol slimme mensen, met alle reden tot zorgvuldigheid. En het gebeurde alsnog, omdat de verzonnen bronnen te goed geformuleerd waren om op te vallen.

Vertaal dat naar lesmateriaal, en de inzet is hoger. Een rapport gaat naar één opdrachtgever. Lesmateriaal gaat naar duizenden leerlingen, docenten en ouders die aannemen dat wat er staat klopt.

Waarom "beter lezen" geen oplossing is

De reflex in de sector is voorspelbaar: beter controleren. Scherper lezen, een extra redactieronde, meer mensen die ernaar kijken. Dat werkt niet, en het is de moeite waard om te begrijpen waarom dat niet werkt. Want het verklaart waarom ook uitgevers die zorgvuldig werken deze fouten missen.

Beter lezen helpt tegen zichtbare fouten. Het helpt niet tegen fouten die er goed uitzien, want daar is lezen het verkeerde instrument. Je kunt een verzonnen bron niet uit een tekst halen tenzij je ze allemaal naloopt. Zo'n bron ziet er precies zo uit als een legitieme. En dat is een andere handeling dan beoordelen of een tekst loopt.

Er komt een tweede probleem bij. Een studie uit 2025 op Zweedse en Australische scholen liet zien dat het controleren en bijwerken van zwakkere AI-output zoveel tijd kan kosten dat de tijdwinst voor het gebruik ervan grotendeels verdampt. En daar zit de valstrik: de tijdwinst is direct en zichtbaar, de controlekosten zijn onzichtbaar en komen later. Bij elke keuze tussen die twee wint de snelheid, omdat de rekening voor de overgeslagen controle pas veel later wordt opgemaakt.

Het punt is dat AI alleen werkt als je de herkomst van bronnen kan nagaan. In het productieproces is dat nergens iemands taak. Zelfs in de wetenschappelijke uitgeverij, met peer review en integriteitsteams, erkennen uitgevers als Elsevier dat de bestaande controle hiervoor tekortschiet.

Kwaliteit is niet genoeg

Kwaliteit blijft belangrijk. Er komt alleen een tweede vraag bij: kan ik nagaan waar de bron vandaan komt? Controleerbaarheid is geen kwestie van beter je best doen; het is een kwestie van je proces zo inrichten dat elke aangehaalde bron aantoonbaar herleidbaar is.

Om dat inzichtelijk te maken gebruik ik bij VergeLabs een vast model: de Denkstroom. Kenniswerk doorloopt vier fasen, en in elke fase is er een risico dat de traceerbaarheid van de bron verloren gaat. De meeste organisaties bewaken alleen de laatste fase, de vraag of het eindproduct klopt, en laten de eerste drie ongemoeid. Juist daar ontstaat het probleem, en juist daar is het achteraf het moeilijkst te traceren en te corrigeren.

Zo werkt de Denkstroom

De vier fasen zijn geen waarschuwingen maar meetpunten. Je legt je eigen productieproces ernaast en stelt per fase één vraag. Waar het antwoord ontbreekt, zit een lek.

En elke ingreep is een ingebedde automatisering, geen prompt. Een auteur die onder tijdsdruk een hoofdstuk schrijft gaat geen bronnenlijst bijhouden, hoe goed het voornemen ook is. Broncontrole, verificatie en oordeel horen in het systeem te zitten. Alleen zo gebeurt de controle ook echt.

Bron: is er een fundament?

De toets. Kun je bij elke feitelijke bewering aanwijzen op welke bron de bewering rust, en bestaat die bron werkelijk?

Wat er misgaat. Achteraf uitzoeken wat geverifieerd is en wat verzonnen kost zoveel tijd dat de controle in de praktijk niet gebeurt. Elke fase hierna bouwt voort op informatie die niemand heeft gecontroleerd.

De ingreep. Niet de auteur houdt de bronnen bij, maar het systeem geeft geen antwoord zonder bron. In een correct systeem komt elk antwoord uit een vastgestelde bronnenset, met de exacte referentie erbij. Wat niet in de bronnen staat levert geen antwoord op, maar een "weet ik niet". De herkomst wordt niet achteraf gereconstrueerd. De herkomst is de voorwaarde om überhaupt iets te produceren.

Bewerking: draagt het fundament nog?

De toets. Dekken de bronnen de tekst na redigeren of herschrijven nog wel?

Wat er misgaat. Anders dan bij de broncontrole ontbreekt hier niets. De bron staat er nog, netjes vermeld en geverifieerd op validiteit. Alleen is de bewering tijdens het redigeren of herschrijven veranderd, en dekt de bron de bewering niet meer.

Het verschil tussen de twee fasen wordt duidelijk met één voorbeeld. Stel, in een hoofdstuk staat een percentage over scholen zonder AI-beleid, met een verwijzing naar een internationaal onderzoek.

• Bij de bron gaat het mis als het onderzoek niet bestaat. AI heeft de verwijzing verzonnen en niemand heeft de bron nagelopen.

• Bij de bewerking gaat het mis als het onderzoek wél bestaat en spreekt over enkele landen, terwijl er na het herschrijven naar een specifieker niveau wordt verwezen, "Nederlandse scholen" bijvoorbeeld. De verwijzing klopt, de bron is echt, en de bewering is toch niet meer gedekt.

Let op welke aanpassingen gevaarlijk zijn. Corrigeren en proeflezen raken de dekking niet, want de bewering blijft gebaseerd op een geverifieerde bron. Redigeren en herschrijven raken de dekking wel, want daar verandert de formulering.

Van alle vier de fasen is de bewerking om twee redenen de meest fragiele en meest risicovolle. Ten eerste: alles ziet er goed uit. Er staat een echte bron bij een bewering die dezelfde bron niet meer dekt, en bij een eindcontrole valt niets op.

Ten tweede: als niemand kan zien wat er met de tekst is gebeurd, valt er ook niets meer te corrigeren. Een verzonnen bron valt eerder op en sneuvelt vóór publicatie. Een bewering die niet meer door de bron wordt ondersteund en tot in het gedrukte werkboek belandt, krijg je er alleen uit met een herdruk.

De ingreep. Het systeem onthoudt welke passage op basis van welke bron is goedgekeurd, of dat nu één zin is of een hele alinea. Wordt die passage herschreven, dan vervalt de goedkeuring en moet de nieuwe tekst opnieuw tegen de bron worden gelegd. Niemand hoeft iets bij te houden of terug te zoeken. Een herschreven passage staat vanzelf weer op onbevestigd, en dat is zichtbaar bij de goedkeuring.

Oordeel: wie heeft de inhoud getoetst, en waarop?

De toets. Is vastgelegd wie de inhoud heeft beoordeeld, met welke vakkennis, en waarop de beoordeling zich richtte?

Wat er misgaat. Het toezicht bestaat alleen op papier. Drie varianten komen alle drie voor:

• Niemand toetst, omdat iedereen aanneemt dat een ander de toets deed.

• Iemand zonder de vakkennis toetst, zoals een redacteur die een historische bewering laat staan omdat een redacteur geen historicus is.

• Er wordt getoetst, maar de toets wordt nergens vastgelegd, waardoor achteraf niet aantoonbaar is dát de toets plaatsvond.

De ingreep. De toets zit in het werkproces in plaats van ernaast. De beoordelaar krijgt de bron ernaast, en de beoordeling wordt op dat moment vastgelegd.

Deze fase is niet volledig te automatiseren, en juist daarom bestaat de fase. Het systeem kan vaststellen dat een bron een bewering dekt. Het systeem kan niet vaststellen dat een bron de bewering weliswaar dekt, maar de lezer op het verkeerde been zet, bijvoorbeeld doordat er selectief is geciteerd of het bereik is opgerekt. Daar is vakkennis voor nodig.

Met een goed ingericht systeem wordt dit werk overzichtelijker en sneller. Het systeem toont bij elke bewering de passage uit de bron waarop de bewering steunt, zodat de beoordelaar die twee naast elkaar legt in plaats van de hele bron door te nemen. Wat zonder systeem een middag kost, kost dan seconden per bewering.

De AI-verordening is hier streng: menselijk toezicht dat neerkomt op afstempelen telt niet als toezicht. Dat geldt voor leermiddelen die onder de hoog-risicocategorie vallen. Een goedkeuring zonder inhoudelijke toets is gevaarlijker dan geen toets: de schijn van controle verdringt de kritische blik die er anders wel was geweest.

Publicatie: wie keurt goed, en waarop?

De toets. Keurt er iemand het materiaal goed voordat het naar de drukker, het platform of het klaslokaal gaat, en ziet die persoon daarbij de uitkomst van de eerste drie fasen?

Wat er misgaat. Er wordt goedgekeurd terwijl niemand het risico kan overzien. Een goedkeuring die standhoudt betekent dat de herkomst bekend is en de inhoud getoetst.

De ingreep. Goedkeuren kan alleen op basis van de eerste drie fasen. De goedkeuring is gekoppeld aan de herkomst, de bewerking en de toets, en staat nooit los van dat bewijs.

En de goedkeuring geldt alleen zolang tekst en bron ongewijzigd blijven. Wordt een passage later nog aangepast, of verdwijnt een bron, dan vervalt de goedkeuring voor die passage. Een herdruk met wijzigingen vraagt dus om een nieuwe goedkeuring.

Het model levert geen scoring op maar een overzicht per fase: is de traceerbaarheid intact gebleven of niet. Eén lekkende fase maakt het materiaal onverdedigbaar, hoe goed de andere drie er ook voorstaan. Je begint dus bij de fase die lekt, en niet bij de fase die het snelst op te lossen is.

Wat je deze week kunt doen

De hele Denkstroom inrichten is een project. Vaststellen hoe groot je risico is, kost een middag.

Pak één hoofdstuk uit een titel in productie waar een auteur AI bij gebruikte, en zoek er tien feitelijke beweringen in op: een jaartal, een cijfer, een citaat, een verwijzing naar een onderzoek.

Kies bewust de beweringen die wél een bron hebben.

Die stap gaat tegen het gevoel in, en precies daar zit de opbrengst. Beweringen zonder bron vallen vanzelf op. De beweringen met een keurige verwijzing zijn de beweringen die niemand nog naloopt.

Open per bewering de bron en zoek de passage waarop de bewering steunt. Er zijn drie uitkomsten:

• De bron bestaat niet of is niet te vinden. Dan lekt de bron-fase.

• De bron bestaat, maar de passage zegt iets anders dan de tekst: een ander bereik, een andere periode, een voorzichtiger formulering. Dan lekt de bewerking-fase.

• De bron bestaat en dekt de bewering, maar deugt niet: verouderd, van een twijfelachtige uitgave, of zelf met AI gemaakt. Dan lekt de oordeel-fase.

Tel de tweede categorie apart. Dat is het getal dat ertoe doet, want dat zijn de fouten die je huidige controle niet vindt en ook niet kán vinden. Er staat immers een echte bron bij.

En wat je vindt is een ondergrens. Tien beweringen uit één hoofdstuk, met de hand nagelopen, terwijl een titel er duizenden bevat. Niemand heeft de tijd om die allemaal langs te lopen, en daarom hoort de controle in het systeem en niet in de agenda van een redacteur.