Wie ondertekent, die blijft

Een AI-model schrijft in seconden wat een adviseur, redacteur of onderzoeker vroeger in dagen schreef. Of het gedegen is, kan alleen iemand beoordelen die het vak verstaat en de expertise in huis heeft om te oordelen. Die ervaring en dat oordeelsvermogen kan AI niet nabootsen. En precies dat is voortaan het enige waarvoor een opdrachtgever nog betaalt.

Het overkwam nota bene Deloitte. Het adviesbureau leverde vorig jaar een doorlichting op van een geautomatiseerd sanctiesysteem voor uitkeringen aan het Australische ministerie van Werkgelegenheid. Prijs 440.000 Australische dollar, omgerekend zo'n 270.000 euro. Een onderzoeker van de universiteit van Sydney las het rapport en stuitte op verwijzingen naar publicaties die niet bestaan, plus een citaat uit een vonnis dat nooit is uitgesproken. Deloitte zette stilletjes een gecorrigeerde versie online, gaf in een bijlage toe dat het een AI-model had laten meeschrijven en betaalde een deel van het bedrag terug.

De affaire is een relevant voorbeeld. Deloitte verkoopt, zoals elk adviesbureau, geen rapporten en analyses maar vertrouwen. De tekst zelf had het ministerie voor een paar euro aan AI-tokens kunnen genereren, met hetzelfde model en vermoedelijk zelfs dezelfde verzinsels. Waar de opdrachtgever voor betaalt is de expertise, de kennis en vooral de controle en zekerheid dat het rapport betrouwbaar was. En door de controlestap over te slaan, verloor het precies dat vertrouwen.

Iedereen gebruikt dezelfde AI

Wat hier misging, is het probleem overal waar denkwerk het product is. AI-modellen zijn in twee jaar spotgoedkoop geworden en de onderlinge verschillen tussen leveranciers worden steeds kleiner. De uitgeverij, het adviesbureau, de redactie en het onderzoeksteam werken met dezelfde technologie als hun lezers, hun klanten en hun studenten. Een degelijk onderbouwde tekst was decennialang het product zelf. Vandaag de dag laat iedereen die zelf schrijven.

Opdrachtgevers vragen in aanbestedingen steeds vaker hoe er met AI wordt gewerkt en wie dat controleert. Lezers leggen een artikel naast wat ze in tien seconden zelf kunnen genereren. Docenten beoordelen werkstukken zonder te weten of de student of ChatGPT ze heeft geschreven.

Routinewerk wordt steeds makkelijker en goedkoper geautomatiseerd en klanten zijn in steeds mindere mate bereid om hiervoor te betalen. Wat overblijft zijn de momenten waarop iemand echt moet nadenken. Daar betaalt een opdrachtgever alleen voor als aantoonbaar is dat er een expert aan te pas kwam.

Twee tot drie op de tien momenten

Hoeveel van het werk werkelijk om oordeel vraagt, valt in de praktijk mee. Wie een workflow van een redactie of een adviespraktijk stap voor stap naloopt, komt bij tien stappen zelden meer dan twee of drie momenten tegen waarop ervaring, expertise en controle het verschil maken. De overige stappen zijn zaken als verzamelen, ordenen en toetsen aan vaste regels en kaders. Die stappen kan AI niet alleen in bijna alle gevallen overnemen, het doet ze vaak ook beter, accurater en sneller dan een persoon. Bovendien scheelt het uren van experts die werk doen ter waarde van 100 tot 250 euro per uur.

Dat vraagt wel dat je eerst weet hoe het werk echt loopt, en daar gaat het meestal al mis. Op papier is het proces overzichtelijk. Het redactiestatuut stelt dat een manuscript binnenkomt, wordt beoordeeld en vervolgens wordt geredigeerd. In de praktijk komt het via vijf kanalen binnen en is de helft van de gevallen een uitzondering. De kennis die de doorslag geeft, zit bovendien in het hoofd van die ervaren collega, die weet dat een bepaalde auteur altijd te lange inleidingen schrijft of dat een bepaalde bron eerder onbetrouwbaar bleek. Deze kennis staat in geen enkel statuut. Wie AI afstemt op die papieren werkelijkheid, maakt een systeem voor een organisatie die niet bestaat. Dat verklaart ook het cijfer dat onderzoekers van MIT vorig jaar publiceerden. Zo'n 95 procent van de generatieve AI-projecten bij bedrijven levert niets meetbaars op, en dat ligt zelden aan de technologie en bijna altijd aan de voorbereiding. Niemand heeft uitgezocht hoe het werk werkelijk in elkaar zit voordat het systeem werd gebouwd.

Het tweede gevaar is een omgekeerde rolverdeling. In een productiebedrijf is het doel dat de machines zoveel mogelijk output creëren. De menselijke interventie bestaat uit steekproefsgewijs controleren en goedkeuren. Veel organisaties nemen die benadering voor denkwerk over. Het model schrijft het advies of het artikel, een medewerker leest het na en zet er een akkoord onder. Dat nalezen slijt. Wie wekenlang teksten controleert waar niets mis mee lijkt, gaat vanzelf vluchtiger lezen, tot de controle verloren gaat. Bij Deloitte kwam zo een verzonnen vonnis door de controle heen. Daar komt bij dat het oordeel in denkwerk geen productcontrole moet zijn. Het oordeel is het product. Een organisatie die dat bewust of onbewust aan AI overlaat, automatiseert precies dat deel van het werk waarvoor de klant betaalt.

Bij de projecten die wel slagen, is die rolverdeling omgedraaid. Het model verzamelt bronnen, ordent het materiaal en zet een eerste opzet klaar. De adviseur of redacteur houdt daardoor tijd over voor het werk waar zijn ervaring nodig is: wegen of de conclusie houdbaar is en beslissen wat er uiteindelijk de deur uitgaat. En tekent af.

Brussel trekt deze lijn door

De Europese AI-verordening maakt deze werkwijze de komende jaren de norm. De eerste verplichtingen gelden al, de zwaardere eisen zijn via de omnibus uitgesteld, niet geschrapt. Organisaties die AI in hun kernproces gebruiken, moeten straks kunnen laten zien hoe dat proces verloopt, wie er controleert en waar conclusies en adviezen vandaan komen.

Organisaties die hun AI-toepassingen nu al zo inrichten, krijgen die verantwoording er gratis bij. Elke uitkomst heeft een bron, elke beslissing een beslisser. Organisaties die dit nalaten, moeten het achteraf reconstrueren, op het moment dat een toezichthouder of een opdrachtgever erom vraagt.

Wat een organisatie hier morgen mee kan

Een organisatie die wil beginnen, hoeft geen AI-strategie te schrijven. Eén proces is genoeg om te leren hoe het werkt, en de eerste stappen kosten een week.

• Kies één proces, het werk dat het vaakst terugkomt, zoals het klantrapport of de manuscriptbeoordeling.

• Kijk een middag mee met de mensen die het werk doen en noteer vooral de uitzonderingen, want die staan nergens beschreven.

• Verdeel de stappen in routine en oordeel. Wordt de uitkomst anders als een ervaren collega ernaar kijkt, dan is het oordeel. De rest is routine.

• Geef het model één routinestap, met als regel dat elke uitkomst een bron heeft.

• Laat één medewerker eindverantwoordelijk zijn voor alles wat de deur uitgaat.

• Leg vast wat is besloten, ook waar AI bewust buiten blijft. Dat document is straks het antwoord op de aanbestedingsvraag.

• Meet vrijgekomen denktijd en het aantal correcties. Stijgt het eerste en daalt het tweede, pak dan het volgende proces.

Wie zijn AI-toepassingen inricht zoals hierboven beschreven, heeft de drie zaken die de verordening vraagt al, als bijproduct van het gewone werk. De bron zit bij elke uitkomst, de naam bij elke beslissing, en de werkwijze is vastgelegd op de dag dat die werd bedacht. Er hoeft niemand apart voor te gaan zitten.

Wie het niet doet, moet hetzelfde achteraf reconstrueren, uit mailboxen en uit geheugens, op het moment dat een toezichthouder of een opdrachtgever erom vraagt. Dat is hetzelfde werk, maar dan duurder, onder tijdsdruk en met een lezer die al wantrouwig is.

Wat er overblijft

De slotsom is dat voor de denkende beroepen de intrede van AI minder bedreigend is dan de krantenkoppen suggereren, en tegelijk is de toepassing dwingender dan in de meeste andere branches.

AI onderscheidt een organisatie niet meer, daarvoor is het te goedkoop en te breed beschikbaar geworden. Het verschil zit bij de mensen die ermee werken. Zij weten wat er in hun vak klopt en wat niet, en zij staan voor de uitkomst. Organisaties die dat kunnen laten zien, per bron en per beslissing, hebben iets wat een concurrent niet kan kopiëren — en houden een voorsprong die met AI niet is in te halen.

Deloitte weet inmiddels wat er gebeurt als niemand voor de uitkomst staat. Organisaties die hun controle wel op orde hebben, kunnen dat laten zien zodra een opdrachtgever ernaar vraagt. En die vraag komt steeds vaker vóór de gunning.