Een docent wil snel feedback schrijven op dertig verslagen. De chatbot kan dat, mits hij de verslagen krijgt. Dus de tekst gaat erin, met de naam van de leerling bovenaan en soms een opmerking uit het zorgdossier erachter, omdat dat de feedback beter maakt. Niemand heeft kwaad in de zin. Toch heeft de school dan leerlinggegevens aan een leverancier gegeven die er geen overeenkomst voor heeft.
De Autoriteit Persoonsgegevens (AP) kent dit patroon uit andere sectoren. Ze ontving meldingen van datalekken doordat medewerkers persoonsgegevens van patiënten of klanten met een AI-chatbot deelden. Vaak gebeurde dat op eigen initiatief van de medewerker, in strijd met de afspraken. Haar advies aan organisaties: maak duidelijke afspraken, en leg uit welke gegevens medewerkers wel en niet mogen invoeren.
Waarom een afspraak niet genoeg is
Een afspraak werkt zolang iemand eraan denkt. In de week van de rapportvergadering denkt niemand eraan, want het doel van de docent is het werk af te krijgen. Een regel in een handboek verandert daar niets aan.
Hier komen twee lagen van TRACES samen.
TRACES zijn de zes lagen waarop je een AI-systeem toetst: Trail, Retrieval, Approval, Constraints, Expertise, Storage. Ontbreekt een laag, dan zit daar een risico.
Constraints. Wat het systeem technisch niet kán, is sterker dan wat het niet mág. "Docenten hebben de instructie om geen namen in te voeren" is een verzoek. Een omgeving waarin docenten alleen inloggen met een schoolaccount, op een tool met een verwerkersovereenkomst, is een grens. Kennisnet adviseert om accounts centraal te beheren en te voorkomen dat medewerkers of leerlingen buiten het zicht van de school zelf accounts aanmaken.
Storage. Waar komt een gegeven terecht als het eenmaal is ingevoerd? Kennisnet waarschuwt dat ingevoerde gegevens bij een AI-dienst kunnen belanden bij het trainen van het model, en adviseert tools zo privacyvriendelijk mogelijk in te stellen, bijvoorbeeld zodat prompts niet door de leverancier als trainingsdata mogen worden gebruikt. Of dat voor jullie tool geldt, staat in de verwerkersovereenkomst, en het is volgens artikel 28 van de AVG ook de plek waar het vastgelegd hoort te zijn.
Constraints vangt de fout vooraf. Storage bepaalt hoe groot de schade is als er toch iets doorheen komt.
Een hulpmiddel: drie bakken
Niet alles hoeft dicht. Veel docentenwerk gaat helemaal niet over personen: een les opzetten, een toets in vier moeilijkheidsgraden, een uitleg in eenvoudiger taal. Het helpt om dat expliciet te scheiden. Een docent leest in tien seconden af in welke bak een opdracht valt.
Bak 1 · Mag overal. Er staat niets in over een persoon. Lesopzet, voorbeeldopgaven, uitleg van een begrip, een mail aan een anonieme doelgroep.
Bak 2 · Alleen in de schoolomgeving. Werk waar leerlinggegevens bij horen, in een tool waarvoor de school een verwerkersovereenkomst heeft en een DPIA heeft gedaan. Wat daarvoor nodig is, staat in het artikel over wat een schoolbestuur vraagt voordat docenten een AI-tool krijgen. Bestaat zo'n omgeving niet, dan bestaat bak 2 niet.
Bak 3 · Nooit. Dossiers, zorgaantekeningen, adviezen over een leerling, en alles wat de school als vertrouwelijk aanmerkt.
Veel opdrachten kunnen met één stap van bak 2 naar bak 1: de persoonsgegevens vervangen.
Gegevens vervangen vóór de opdracht
Kennisnet adviseert de invoer van persoonsgegevens en vertrouwelijke data te vermijden en waar mogelijk anonieme of fictieve gegevens te gebruiken. Dat sluit aan bij artikel 5 van de AVG, die vraagt om gegevens die beperkt zijn tot wat nodig is voor het doel. Voor feedback op een verslag is de naam van de leerling niet nodig. De tekst wel.
Een verzonnen voorbeeld.
- Zo niet: "Geef feedback op het verslag van Sanne de Vries, 3B, die vorig jaar een achterstand opliep na haar ziekte."
- Zo wel: "Geef feedback op het onderstaande verslag van een leerling in klas 3. Let op de opbouw van de conclusie."
De tweede opdracht levert dezelfde feedback op. Wat er ontbreekt, deed er voor het antwoord niet toe.
Eén kanttekening. Een tekst zonder naam is niet automatisch anoniem. Staan er in het verslag zelf details die één leerling aanwijzen, zoals een bijzonder voorval of een eigen situatie, dan blijft de tekst herleidbaar, en hoort hij in bak 2. Een docent die twijfelt, laat het stuk in bak 2 of 3. Dat vraagt geen jurist.
Als het toch misgaat
Het gebeurt, ook in een school met goede afspraken. Zorg dat een docent dan niet hoeft te twijfelen of melden wel mag. Spreek vooraf af bij wie het gemeld wordt, en dat een melding nooit tot een uitbrander leidt. Volgens de AP is het melden van zo'n lek bij haar en bij de betrokkenen in veel gevallen verplicht, en een school die het pas na weken hoort, kan dat niet meer op tijd doen. Een docent die zonder gedoe kan zeggen "ik heb vanochtend een bestand in de verkeerde tool gezet", is voor de school meer waard dan een docent die zwijgt.
Wat een school kan inrichten
- Eén lijst met goedgekeurde tools, en één plek waar docenten die vinden. Wie een tool nodig heeft die er niet op staat, kan een aanvraag doen. Zonder zo'n route zoeken docenten zelf.
- Schoolaccounts, geen privé-accounts. Dan zit de verwerkersovereenkomst er al omheen.
- Instellingen vooraf. Dat prompts niet voor training worden gebruikt, stel je in als beheerder, niet als docent.
- Een sorteerkaart van één A4. De drie bakken, met voorbeelden uit de eigen school, bij elke werkplek.
- Uitleg voor het team. Dat sluit aan bij de AI-geletterdheid die Kennisnet noemt: iedereen die AI gebruikt, moet voordelen én risico's begrijpen.
Wat je deze week kunt doen
- Vraag in het team welke AI-tools docenten nu gebruiken, en waarvoor. Vraag het zonder oordeel.
- Neem tien recente opdrachten uit het dagelijkse werk en leg ze in de drie bakken.
- Schrijf bij elke opdracht in bak 2 en 3 op welke gegevens eruit kunnen, en wat er dan overblijft.
- Controleer bij de tool die het meest gebruikt wordt of er een verwerkersovereenkomst ligt, en of docenten met een schoolaccount inloggen.
- Hang de sorteerkaart op, en bespreek hem één keer in een teamvergadering.
De Ketencheck op deze site laat zien waar in de keten van een leermiddel de herkomst van een bewering verloren gaat. Voor leerlinggegevens geldt dezelfde vraag, maar dan op de ingang.
Bronnen
- Kennisnet, Privacy en AI: hier moeten scholen op letten (bijgewerkt 22 september 2025). kennisnet.nl
- Autoriteit Persoonsgegevens, Let op: gebruik van AI-chatbot kan leiden tot datalekken. autoriteitpersoonsgegevens.nl
- Verordening (EU) 2016/679 (AVG), artikel 5 lid 1 sub c en artikel 28. eur-lex.europa.eu