Deze blogpost verscheen eerst op dieponderzoek.nl.

De Albert Heijn op het Amsterdamse Leidseplein wordt tijdens schoolpauzes overstroomd door leerlingen van het nabij gelegen Barlaeus Gymnasium. Het personeel is dan altijd extra alert. Vorige week zag ik een medewerker boos uithalen naar een scholier: “dat is niet jouw bonuskaart, dat is fraude”. Nu weet ik natuurlijk niet waarom de scholier andermans bonuskaart gebruikte, maar het is een daad die we juist zouden moeten aanmoedigen: zo zorgt hij ervoor dat Albert Heijn zijn gedrag niet kan tracken. Hij ontsnapt aan datasurveillance.

Van zelf gebruiken naar gebruikt worden 
De digitale wereld verandert voortdurend en dat vraagt om steeds andere vaardigheden. Op het Parenting for a Digital Future blog van de London School of Economics and Political Science verscheen een blogpost over digitale geletterdheid in de tijd van algoritmen en AI. Onderwijssocioloog Neil Selwyn stelt dat digitale vaardigheden vroeger steeds gingen over hoe mensen betere gebruikers van technologie konden worden:

“During the 1980s this took the form of ‘computer literacy’ and ‘computer skills’ such as learning basic programming commands and how to format floppy disks. In the 1990s, attention turned to ‘internet literacy’ and ‘web skills’ such as navigating hypertext and building web-pages. The 2000s and 2010s then saw the rise of ‘cyber safety’ and ‘21st century skills’ such as online communication, creativity and collaboration. Most recently, we have seen calls for ‘media & information literacy’ skills relating to dealing with viral content, misinformation and fake news.”

Maar de nieuwste technologieën worden niet zozeer door ons gebruikt, zij worden op ons gebruikt. Systemen en software houden ons alledaagse gedrag bij, ze monitoren ons, verzamelen onze data en gebruiken die data om beslissingen te nemen. Algoritmen dicteren nu al het leven van jonge mensen, schrijft Selwyn. Ze bepalen welke advertenties peuters te zien krijgen op YouTube en wie aangenomen wordt op een universiteit.

Algoritme-wijs
Deze ontwikkelingen maken dat mediawijsheid nu ook moet gaan over algoritme-wijsheid. Dat is niet alleen noodzakelijk voor de positie van jongeren later op de arbeidsmarkt, maar ook voor hun burgerschap. Burgers moeten weten hoe overheden geautomatiseerde beslissingen maken (zie de Toeslagenaffaire in Nederland). Het opnemen van algoritme-wijsheid in het curriculum is belangrijk om te voorkomen dat er een kloof ontstond tussen jongeren die dit wel begrijpen en de kwetsbare jongeren die dit niet doen.

Algoritme-geletterdheid zou bijvoorbeeld kunnen inhouden:

• recognising when data-driven automated systems are being used;

• having a basic understanding of how these data-driven automated systems work – what Tania Bucher describes as an ‘algorithmic imaginary’;

• knowing how to work with algorithmic systems – for example, writing with a natural language processing tool so that it helps (rather than hinders) your creativity;

• knowing how to work around algorithmic systems – for example, using obfuscation tactics to avoid dataveillance;

• recognising when human input and outsight is required – for example, knowing when to override an automated decision, or push back against algorithmic bias and automated discrimination.

‘Oude’ digitale vaardigheden zoals programmeren of verstandig wachtwoorden kiezen zijn veel makkelijker te doceren dan algoritme-geletterdheid. Zelfs informatici weten immers niet goed hoe bepaalde systemen werken. Opvoeders als leraren en ouders zullen dus samen met kinderen en jongeren moeten leren over deze wereld.

Toepassingen
Er zijn al voorbeelden van programma’s, Selwyn noemt het project ‘The Algorithmic You’ van de University of Toronto project en een Search Reflection Assignment waarin studenten reflecteren op hoe zoekmachines hun onderzoek beïnvloeden. Het is daarbij belangrijk om te bekijken hoe wijs jongeren al zijn op dit vlak, zie de protesten van studenten tegen algoritmische ongelijkheid in tentamenbecijfering.

Beeld gegenereerd met Dall-E 2.