De Sint bracht me gisteren in mijn schoentje een leuk cadeau, weliswaar met een embargo-lintje rond, maar nu iedereen toegang heeft tot de nieuwe PISA-resultaten, wil ik je wel enkele dingen meegeven die ik er uit gehaald heb.
Pisa, moet dat nu?
De voorbije weken kon je niet naast de groeiende kritiek op PISA kijken. Er werden vragen gesteld bij de methodologie, de verenging van het curriculum die hun blik zou meegeven, … Ik vermoed dat de kritiek enkel maar zal toenemen, niet noodzakelijk omwille van de inhoud, wel omdat het zo een groot verhaal geworden is.
Het onderzoek van de OESO is relevant en kan een belangrijk element in beleid zijn, maar het is slechts een van de elementen. Landen vergelijken is niet eenvoudig, en alhoewel PISA met echt veel zaken probeert rekening te houden (het stuk rond de methodologie hier is in deze zeer relevant), toch is het onmogelijk om de complexiteit van een samenleving te vatten. Dus gebruik naast PISA ook andere vergelijkende testen zoals PIRLS, TIMMS,… en bekijk vooral de complexiteit van onderwijssystemen via deze prima bronnen voor vergelijkende pedagogiek.
De relativiteit van rankings
Het ding is, ik ga straks in deze blogpost wel een deel van de rankings meegeven, maar als je in het document kijkt, dan blijken er vaak geen significante verschillen te bestaan tussen landen die dicht bij elkaar in de lijst staan. Er is bijvoorbeeld geen significant verschil te merken tussen de resultaten voor wiskunde tussen Finland, Nederland, Estland, Canada, Polen, Belgium, Duitsland of Vietnam.
Verder is er veel nuance die door naar de rankings te kijken verloren gaat. Finland daalt voor wiskunde, maar blijkt vooral ook in resultaat achteruitgegaan te zijn, idem voor Nederland en België. Nederland staat dan wel boven de Finnen, maar gewoon omdat de resultaten minder gedaald zouden zijn.
Pisa-cijfers bekend maken is zoals verkiezingsavond.
Op verkiezingsavond zijn er zelden verliezers. Vandaag lijkt misschien Finland er eentje, maar de score voor wetenschappen en taal zijn nog steeds top, enkel voor wiskunde scoren ze opvallend slechter. De uitleg van Pasi Sahlberg als komt dit omdat de Finse jongeren nu computers hebben ontdekt, houdt volgens mij wel geen steek. Alsof in de andere landen jongeren geen internet hebben?
De komende dagen verwacht ik me aan een hernieuwde discussie over het belang van een brede graad. Voor- en tegenstanders kunnen in deze resultaten munitie vinden. Tegenstanders kunnen wijzen op de achteruitgang van Finland en andere Scandinavische landen en de positieve score van Duitsland. Voorstanders zullen op de effectieve daling van Nederland en België wijzen en het succes van Polen en Canada. Nog andere voorstanders van de brede eerste graad en zo laat mogelijk kiezen, hebben de voorbije dagen al gesteld dat je hiervoor gewoon niet naar Pisa mag kijken (alhoewel verschillende verdedigers dit wel in het verleden al deden). Nog anderen zullen op de ongelijkheid wijzen. Ik ben hier zelf ook zeer nieuwsgierig naar, maar de Sint bracht maar enkel het eerste deel (al meer dan 500 pagina’s), er zijn nog 5 delen van het Pisa-rapport onder andere over economische vaardigheden, ongelijkheid,… Na vandaag heb ik dus nog veel leeswerk voor de boeg. Het zal trouwens niet de enige discussie zijn…
Grote vrees
Het voorbije weekend twitterde Pasi Sahlberg dat hij vreesde dat er in Finland nu ook GERM dreigde, Global Educational Reform Movement. Lees hier de verschillende kenmerken die Wilfred Rubens samenvatte. Ik deel zijn vrees. Wil je nog lezen waarom we beter niet nu Shangai lessons kopen en waarom we Finnish lessen niet moeten weggooien, check dit artikel. Binnenkort biedt de OESO scholen zelf testen aan waarmee ze zich kunnen vergelijken met de rest van de wereld. Dit is volgens mij geen fijne evolutie. De kans op een globaal curriculum dreigt, net als een verschraling van teaching to the test en een overdreven focus op meten is weten.
Als je de inleiding bij dit stuk las en mijn blog volgt, dan weet je dat ik niet per se tegen meetbaarheid ben, topman Schleicher heeft gelijk dat je zonder data gewoon een andere persoon met een mening bent. PISA geeft veel data, maar alle dataverzamelingen en analyses vereenvoudigen de werkelijkheid. Bekijk het dus als een zeer belangrijke bron, naast de andere.
Tot slot: wat nu?
Wat doen landen die goed scoren het beste? Ondanks alle relativiteit van de lijstjes die straks volgen, doet het Nederlandse en Vlaamse onderwijs op bepaalde vlakken het echt niet slecht, op andere vlakken een pak minder (ik vermoed bvb dat ongelijkheid nog steeds hoog scoort hier in Vlaanderen). Begin dit jaar werd op een studiedag van de VLOR een presentatie gegeven door McKinsey met mogelijke stappen die onderwijs nog verder kunnen verbeteren. Check de presentatie hier. Hebben zij de wijsheid in pacht? Wellicht niet, maar qua inspiratie interessant. Een volgende minister van onderwijs weet wat gedaan…
Epiloog: de belangrijkste rankings uit deel 1
Voor wie naar beneden scrolde, bekijk aub de teksten hierboven ook voor de relativering, dank je!
Kijken we voor wiskunde en landen dan is dit het lijstje:
- Shanghai-China
- Singapore
- Hong Kong-China
- ChineseTaipei
- Korea
- Macao-China
- Japan
- Liechtenstein
- Switzerland
- Netherlands
- Estonia
- Finland
- Canada
- Poland
- Belgium
Misschien valt je op dat het lijstje qua China een beetje raar is. Het land China zou wellicht niet aan de top staan, maar de verschillende regio’s scoren wel goed. Een ander probleem is dat onderwijs in België tot de gemeenschappen behoort, waardoor België als eenheid een vertekend beeld geeft. Als we kijken naar de scores voor Vlaanderen voor wiskunde in de ranking, krijg je opeens een wel heel ander beeld:
- Shanghai-China 613
- Singapore 573
- Hong Kong-China 561
- Chinese Taipei 560
- Korea 554
- Macao-China 538
- Japan 536
- Liechtenstein 535
- Flemish community (Belgium) 531
- Switzerland 531
- Trento (Italy) 524
- Friuli Venezia Giulia (Italy) 523
- Netherlands 523
- Veneto (Italy) 523
- Estonia 521
- Finland
Vrij vertaald, dan scoort Vlaanderen op Liechtenstein na (aantal inwoners 36304 in 2011) als beste regio in Europa voor wiskunde.
Kijken we voor taal dan krijgen we dit:
- Shanghai-China
- Hong Kong-China
- Singapore
- Japan
- Korea
- Finland
- Ireland
- Chinese Taipei
- Canada
- Poland
- Estonia
- Liechtenstein
- New Zealand
- Australia
- Netherlands
- Belgium
- Switzerland
- Macao-China
Als we kijken naar Vlaanderen apart, blijkt er weer wat nuance:
- Shanghai-China 570
- Hong Kong-China 545
- Singapore 542
- Japan 538
- Korea 536
- Massachusetts (united States) 527
- Australian Capital Territory (Australia) 525
- Finland 524
- Ireland 523
- Chinese Taipei 523
- Canada 523
- Connecticut (united States) 521
- Veneto (Italy) 521
- Trento (Italy) 521
- Lombardia (Italy) 521
- Western Australia (Australia) 519
- Friuli Venezia Giulia (Italy) 518
- Flemish community (Belgium) 518
- Poland 518
- Victoria (Australia) 517
- Estonia 516
- Liechtenstein 516
- new South Wales (Australia) 513
- New Zealand 512
- Australia 512
- Netherlands 511
Voor wetenschappen ten slotte, scoort België niet zo best:
- Shanghai-China
- Hong Kong-China
- Singapore
- Japan
- Finland
- Estonia
- Korea
- Viet Nam
- Poland
- Canada
- Liechtenstein
- Germany
- Chinese
- Netherlands
- Ireland
- Australia
- Macao-China
- New Zealand
- Switzerland
- Slovenia
- United Kingdom
- Czech Republic
- Austria
- Belgium
Ook Vlaanderen scoort hier relatief wat minder goed
- Shanghai-China
- Hong Kong-China
- Singapore
- Japan
- Finland
- Estonia
- Korea
- Western Australia (Australia)
- Australian Capital Territory (Australia)
- Trento (Italy)
- Friuli Venezia Giulia (Italy)
- Veneto (Italy)
- Lombardia (Italy)
- Viet Nam
- Massachusetts (united States)
- Poland
- new South Wales (Australia)
- Canada
- Liechtenstein
- Germany
- Chinese Taipei
- Netherlands
- Ireland
- Australia
- Connecticut (united States)
- Macao-China
- Flemish community (Belgium)
Fijn om via deze website zo goed de ontwikkelingen i.v.m. Pisa te kunnen volgen. Het valt me op dat er in de media toch erg dramatisch wordt gedaan over de dalende resultaten van Vlaanderen. Nu heb ik toevallig zeer recent voor het eerst gehoord over het principe ‘regression to the mean’. Heb je misschien voldoende zicht op de onderzoeksmethodieken van Pisa om in te schatten of dat fenomeen hier ook van toepassing zou kunnen zijn, m.a.w. of de dalende resultaten ook los zouden kunnen staan van het in de tussentijd gevoerde beleid?
Regression to the mean speelt bij elke meting van gedrag. Stel dat de ‘ware ‘wiskundecompetentie van Vlaanderen 500 is. En stel dat beleid, leraars, leerlingen, … 100 jaar niet veranderen. Omdat geen enkele test een perfecte meting van het concept inhouden, zal PISA 100 jaar lang dan licht verschillende scores opleveren. De meeste van die scores zullen dicht bij de 500 liggen, en zeldzamer zullen er ook scores die verder van die 500 liggen bekomen worden. De testscores zullen een normaalverdeling rond die ware waarde vormen. Daarom: als een jaar 510 uitzonderlijk gemeten wordt is de kans heel groot dat de meting het jaar erop dichter bij het gemiddelde lijkt. Dus zakt. Voor lzge scores, omgekeerd dus stijgt. Dus los van reële echte veranderingen zullen heel lage scores de negiing hebben te stijgen, en hoge te dalen. Ook goed uitgelegd op
Dit betekent natuurlijk niet dat alle PISA evoluties enkel dit zijn. Er *is* gewijzigd beleid, immigratie, etc. Maar dt fenomeen verklaart wel een deel van de evoluties.
http://en.wikipedia.org/wiki/Regression_toward_the_mean
Interessante info.
Maar hebt u link naar de volledige resultaten? Geïnteresseerd niet enkel naar gemiddelden, maar ook naar info mbt spreiding (SD) van de gemeten variabelen.
Ik neem ook aan dat alle variabelen normaal verdeeld waren?
Je kan op de site van de OESO de volledige dataset downloaden, check Link.
Pingback: Lectuur op zaterdag: nog even PISA, NSA en kerst, iPad of boek voor kinderen,… | X, Y of Einstein?
Pingback: Kijktip voor vanavond: Vrankx over de bijlesindustrie en examenstress in HongKong | X, Y of Einstein?