Stel je voor dat je een gesprek voert met iemand die je voortdurend gelijk geeft. Dat voelt misschien even prettig – bevestiging krijgen is tenslotte fijn – maar geloof me: al snel wordt het irritant. Je krijgt geen tegenspraak, geen kritische vragen, geen nieuwe ideeën. En vooral: je leert er niks van.

Ik moet hier steeds vaker aan denken als ik grote taalmodellen zoals ChatGPT gebruik.In onderzoek wordt dit inmiddels AI sycophancy genoemd: de neiging van een model om je naar de mond te praten. Niet omdat ze je zo sympathiek vinden – de dingen hebben geen gevoelens -, maar omdat hun onderliggende mechaniek erop gericht is om het meest waarschijnlijke antwoord te geven op basis van jouw input. Vraag je om een opsomming van voordelen? Dan krijg je die. Vraag je om een pleidooi voor X? Dan krijg je een pleidooi voor X. De kans dat het model spontaan zegt: “Misschien heb je het mis” of “Dit klopt niet helemaal” is klein. Zie ook het onderzoek dat ik vorige week bracht over mythes en LLM’s.

Dat lijkt onschuldig, maar de gevolgen kunnen behoorlijk groot zijn. Als docent of onderzoeker gebruik ik zulke tools ook wel eens om ideeën te verkennen. Maar als de AI mij vooral bevestigt, dan vergroot dat potentieel mijn blinde vlekken. Het model versterkt bestaande aannames in plaats van ze uit te dagen. En erger: het doet dat vaak met een zelfverzekerde toon, waardoor de illusie ontstaat dat het wél stevig onderbouwd is.

We weten uit de psychologie dat leren vaak ook net juist kan ontstaan uit frictie: wanneer je geconfronteerd wordt met een andere visie, wanneer je merkt dat je iets fout had, of wanneer iemand kritische vragen stelt. Als AI die frictie systematisch gladstrijkt, dan verdwijnt een belangrijk deel van het leerproces. Je krijgt een comfortabele echo, maar geen verdieping.

Dus nee, het probleem met LLM’s is niet dat ze altijd fout zijn. Vaak zijn ze verbazend goed. Misschien is het grootste probleem wel dat ze nauwelijks tegenstem bieden. En dat maakt ons wellicht gemakzuchtiger. We hoeven niet meer te zoeken naar tegenargumenten, want het model legt ons de bevestiging al voor.

De echte uitdaging is dus niet: “Hoe krijgen we de AI slimmer?” maar “Hoe zorgen we dat wij kritisch blijven?” Misschien betekent dat dat we bewuster vragen moeten stellen: “Geef me de tegenargumenten”, “Wat zijn de beperkingen van dit idee?”, of gewoon: “Wat kan hier níét kloppen?” En misschien betekent het ook dat we onszelf eraan moeten herinneren dat echte kennis zelden voelt als vlekkeloze bevestiging. Als we niet oppassen, maken LLM’s ons vooral comfortabeler, niet wijzer.”