Overtuigend is niet hetzelfde als juist

Het gevaar van AI in kenniswerk is niet dat het fouten maakt. Het is dat een fout antwoord er overtuigend uitziet, en zo langs de controle glipt. Een tekst die klopt in toon en vorm, maar niet in inhoud, is in de denkende beroepen erger dan geen tekst.

De enige vraag die telt

Waar helpt AI, en waar schaadt het? Niet tussen simpel en complex werk ligt de grens, en ook niet tussen creatief en analytisch. De grens loopt tussen verifieerbaar en niet-verifieerbaar. De enige vraag die telt: is van elke bewering na te gaan waar die vandaan komt?

• Waar dat kan, is AI een krachtig hulpmiddel — mits het de bron toont.
• Waar dat niet kan, is een overtuigend antwoord juist gevaarlijker dan een zwak antwoord.

Daarom bouwen en adviseren we alleen aan die kant van de lijn: controleerbaar, niet op geloof. Een systeem dat niet kan laten zien waar het zijn antwoord vandaan haalt, hoort geen rol te spelen in werk dat ertoe doet.