Tijdens mijn blogverlof brak er in de VS een klein schandaal uit rond miljoenen dollars die gepompt werden in een AI-toepassing in Los Angeles en die nu verloren zijn gegaan voor het onderwijs.

Het kan behoorlijk leerrijk worden voor de rest van de wereld, want het verhaal klinkt zeer herkenbaar en zag ik ook al dichter bij huis gebeuren.

De AI-tool die het bedrijf zou aanleveren, werd aangeprezen als een krachtige, gebruiksvriendelijke online tool voor leerlingen en ouders om de lessen in de klas aan te vullen, hulp te vinden bij de inhoudelijke problemen van kinderen en het zou gezinnen helpen bij aanwezigheid, cijfers, vervoer en andere belangrijke zaken, allemaal in 100 talen en op hun mobiele telefoon. Klinkt goed, he?

Maar… experts geven aan dat dit vandaag echt nog niet mogelijk is met de huidige technologie. In het artikel op The74Million.org, wordt de vergelijking gemaakt met McDonalds:

De fastfoodgigant gaf onlangs toe dat een klein experiment met een chatbot bij hun drive-thru vensters geleid had tot ruzies met klanten, zoals een waarbij een vrouw boos probeerde de bot ervan te overtuigen dat ze een karamelijsje wilde terwijl het meerdere stapels boter aan haar bestelling toevoegde. (check het verhaal hier bij de BBC)

Als McDonald’s, met een geschatte waarde van 178,6 miljard dollar, niet een dergelijke eenvoudige chatbot werkend kan krijgen om lunchbestellingen op te nemen met generatieve AI, dan is de technologie niet waar we haar nodig hebben.

Overpromise and underdeliver komt vaak voor in onderwijs, vrees ik…

Daarbij aansluitend is er ook nog veel dat we niet weten en dat tot zeer ongewenste neveneffecten kan leiden. Zo blijken Amerikaanse leerlingen met Aziatische roots vaker negatiever beoordeeld te worden door AI-software dat hun testen beoordeelde, maar de onderzoekers konden nog niet ontdekken waarom dit het geval is.