Docenten gebruiken AI allang. De vraag voor een bestuur is meestal niet óf, maar welke tool, onder welke voorwaarden en voor wie. En die vraag komt vaak op het verkeerde moment binnen: een docent heeft iets gevonden, een leverancier heeft een aanbod gedaan, en het bestuur moet in één vergadering ja of nee zeggen.
Dan gaat het gesprek over de tool. Is hij goed, is hij handig, wat vinden de docenten ervan? Het bestuur tekent echter niet voor de tool. Het tekent voor wat er met de gegevens van leerlingen en collega's gebeurt, voor wat er onder de naam van de school bij een klas terechtkomt, en voor wie dat kan uitleggen als een ouder ernaar vraagt. Dat staat niet in de demo. Het staat in een document, of nergens.
Waarom het antwoord zo vaak ontbreekt
De oorzaak is zelden onwil. Een docent kan beoordelen of een tool bruikbaar is voor de les. Een ICT-coördinator kan beoordelen of hij technisch draait. Wat tussen die twee in valt, is de vraag wie het risico draagt en waar dat staat vastgelegd. Zonder vaste vragen beantwoordt iedereen de vraag die bij zijn eigen rol past, en de rest blijft onbeantwoord.
Kennisnet schrijft het voor AI in het onderwijs zo op: voor je AI-toepassingen kunt inzetten, moet je informatiebeveiliging en privacy op orde zijn. Dat is een voorwaarde vooraf, geen taak voor na de aankoop.
Zes vragen, per laag
VergeLabs toetst elk AI-systeem met TRACES.
TRACES zijn de zes lagen waarop je een AI-systeem toetst: Trail, Retrieval, Approval, Constraints, Expertise, Storage. Ontbreekt een laag, dan zit daar een risico.
Hieronder staat per laag de vraag die een bestuur schriftelijk aan de leverancier kan stellen, en welk stuk in de eigen school erbij hoort. Het eerste deel is voor de leverancier. Het tweede deel is werk voor het bestuur zelf, en dat wordt het vaakst vergeten.
T · Trail. Wat legt de tool vast van wat docenten ermee doen, en kan de school dat inzien? Voor de school hoort daar de vraag bij wie die logboeken kan lezen, en wanneer. Een spoor dat niemand opent, helpt niemand.
R · Retrieval. Uit welke bronnen antwoordt de tool, en wat doet hij als het antwoord daar niet in staat? Een docent die lesmateriaal laat maken, wil een verwijzing kunnen nalopen. Voor de school hoort daar een afspraak bij over wat een docent met een antwoord zonder bron doet: niet gebruiken, tot het is nagezocht.
A · Approval. Waar bevestigt een mens de inhoud voordat die een leerling bereikt? In een school is dat vaak de docent zelf, en dat is prima, mits er een afspraak ligt. Zonder afspraak gaat iedereen ervan uit dat een ander het nakeek.
C · Constraints. Wat kan de tool technisch niet, ook als een docent erom vraagt? Denk aan gegevens verwerken buiten de afgesproken omgeving. Voor de school hoort daar centraal accountbeheer bij, want Kennisnet adviseert accounts centraal te beheren, zodat medewerkers of leerlingen niet buiten het zicht van de school zelf accounts aanmaken.
E · Expertise. Welke beslissing blijft bij de docent? Het cijfer, de beoordeling, het advies over een leerling. Schrijf dat op, want de tool maakt het werk lichter en neemt het oordeel niet over.
S · Storage. Waar staan de gegevens, mogen ze voor het trainen van modellen worden gebruikt, en staat dat in de verwerkersovereenkomst? Hier ligt voor een school het meeste vast, omdat de AVG er regels voor heeft.
Wat de wet en de onderwijssector hier al vragen
Drie dingen hoeft een bestuur niet zelf te bedenken.
De verwerkersovereenkomst. Wie persoonsgegevens laat verwerken door een leverancier, mag volgens artikel 28 van de AVG alleen een verwerker kiezen die voldoende garanties biedt, en legt de verwerking vast in een bindende overeenkomst. Kennisnet adviseert om alleen AI-diensten te gebruiken waarvan de afspraken over persoonsgegevens in een verwerkersovereenkomst staan. Voor het onderwijs zijn er modelovereenkomsten van het Privacyconvenant Onderwijs, die Kennisnet in het normenkader aanwijst.
De DPIA. Artikel 35 van de AVG verplicht tot een gegevensbeschermingseffectbeoordeling vóór de verwerking, als die waarschijnlijk een hoog risico voor betrokkenen oplevert, zeker bij nieuwe technologie. Kennisnet zegt het praktischer: voer een DPIA uit als een AI-toepassing persoonsgegevens verwerkt.
De docenten zelf. Artikel 4 van de AI-verordening verplicht organisaties die AI-systemen inzetten om maatregelen te nemen voor de AI-geletterdheid van hun personeel. Een tool uitrollen zonder uitleg voor wie hem gebruikt, is dus niet af.
Of een bepaalde toepassing onder een hoger risico valt, hangt van de toepassing af. Een tool die lessen voorbereidt, is wat anders dan een tool die uitslagen van leerlingen beoordeelt. Zoek dat per tool na, en reken niet op een algemene vrijbrief.
Zo lees je de antwoorden
Geef elk antwoord een van drie oordelen: aanwezig, half of afwezig. Aanwezig is concreet en terug te vinden in een document. Half is mondeling toegezegd, of de functie bestaat maar de uitleg ontbreekt. Afwezig is een ontwijkend antwoord, zoals "wij nemen privacy zeer serieus", of helemaal geen antwoord.
Eén afwezig op Storage of Constraints is voor een school genoeg om te stoppen. Dat zijn de lagen waar leerlinggegevens het gebouw verlaten, en daar kan een goed gesprek niets aan veranderen. Een afwezig op Retrieval of Trail is eerder een voorwaarde voor een pilot: in een kleine groep, met afspraken, en met een datum waarop het bestuur opnieuw kijkt.
Wie wil zien waar de keten van een eigen leermiddel het zwakst is, kan de Ketencheck op deze site gebruiken. Die loopt de vier fasen van SEAL langs: Source, Edit, Approve en Launch. Daarmee weet je welke van de zes lagen voor jullie het zwaarst weegt.
Wat je deze week kunt doen
- Zet de AI-tools op een rij die docenten nu gebruiken, officieel of niet. Vraag het ze gewoon.
- Kies er één, en stuur de leverancier de zes vragen in één mail. Vraag om antwoorden op papier, met een verwijzing naar documentatie of contract.
- Zoek uit of er een verwerkersovereenkomst ligt, en of er een DPIA is gedaan. Staat een van beide er niet, dan is dat het eerste agendapunt.
- Zet de antwoorden in een tabel met drie kolommen: laag, antwoord, oordeel.
- Leg het besluit vast op één vel: wie mag de tool gebruiken, waarvoor, onder welke afspraken, en wanneer het bestuur terugkijkt.
Bronnen
- Kennisnet, Privacy en AI: hier moeten scholen op letten (bijgewerkt 22 september 2025). kennisnet.nl
- Kennisnet, Kansen en risico's van generatieve AI in het onderwijs. kennisnet.nl
- Normenkader informatiebeveiliging en privacy voor het onderwijs, deelproject 2.8, met verwijzing naar de modelverwerkersovereenkomsten van het Privacyconvenant Onderwijs. normenkaderibp.kennisnet.nl
- Verordening (EU) 2016/679 (AVG), artikel 28 en 35. eur-lex.europa.eu
- Verordening (EU) 2024/1689 (AI-verordening), artikel 4. eur-lex.europa.eu