Om PISA-resultat, betyg och raka felaktigheter

Jag har i tidigare inlägg ondgjort mig över hur SKL:s tidning Dagens Samhälle ofta rapporterar om skolan och i synnerhet hur de väljer att presentera – och göra nyheter av – diverse skolstatistik (se exempel här och här). Med anledning av chefredaktören Mats Edmans krönika i det senaste numret av tidningen har jag nu fått anledning att göra det igen.

I sin krönika driver Edman tesen att den debatt om kunskapstapp som brutit ut i samband med att resultaten av PISA 2012 presenterades, baseras på en överdriven bild av resultatnedgången och att de svenska grundskoleeleverna i själva verket presterar ännu bättre för var år som går.

Edman pekar dels på det faktum att de diagram som figurerat i många artiklar (se exempel här) utgår från en bruten skala, dvs en skala som inte börjar vid noll på y-axeln, dels på det faktum att resultatnedgången i PISA för svensk del endast handlar om cirka 6 procent per undersökt ämnesområde. Därefter går Edman vidare i sitt resonemang och pekar på att den svenska betygsstatistiken, som till skillnad från PISA är ett totalurval och inte ett stickprov merivärde grundskolaom endast ett tusental elever, snarare visar att eleverna konstant presterar högre betyg år för år, vilket bör vara ett tecken på att de lämnar grundskolan med allt bättre kunskaper.[1]

Jag vill inte ta i för mycket i mitt kommande kritiska omdöme över Edmans krönika, men låt mig säga att jag febrilt sökte efter en skämskudde vartefter jag läste.

Om vi börjar bakifrån: Det måste ändå anses vara välbelagt att de svenska grundskolebetygen utsatts för en betydande betygsinflation sedan det kriterierelaterade betygsystemet infördes i grundskolan 1998. Betygsättningen är generösare på konkurrensutsatta marknader, det finns indikationer på att den även kan vara än mer generös vid fristående skolor (och de nationella proven tycks också rättas mer generöst vid dessa, se bilaga 4) dessutom motsvaras de förbättrade betygsresultaten inte av förbättrade prestationer i den högre utbildningen (se sammanfattning och vidare referenser här).

När dessa resultat paras med de försämrade resultaten i de internationella mätningarna samt i svenska motsvarigheter tycks det svårt att hävda att det svenska betygsystemet skulle ge information om hur olika elevkullars kunskaper förhåller sig till varandra.

Vad det gäller de redovisade graferna kring resultatutvecklingen i PISA menar Edman att det är vilseledande att inte hela skalan visas för y-axeln. Det kan tyckas vara en rimlig invändning och jag har sett flera göra den på till exempel Facebook (det är väl också sådant som lärs ut i matematiken, att det är ett av de vanligaste knepen för att vilseleda med statistik).

Till saken hör dock att i just det här fallet är denna typ av redovisning inte så tokig. Det Edman inte har förstått (eller undviker att uppmärksamma) är att resultaten i PISA-studierna normeras så att medelvärdet för respektive ämnestest ska hamna på, eller ligga så nära, 500 poäng som möjligt samt med en standardavvikelse om 100 poäng. Det betyder att cirka 68 % av samtliga elevers resultat i respektive ämne för respektive år hamnar mellan 400 och 600 poäng. Sannolikheten att ett helt land därmed skulle prestera 0 poäng är alltså obefintlig (den är faktiskt 0,00005 % enligt nationalekonomen Jonas Vlachos). För att lyckas skulle det i princip krävas att alla deltagande elever lämnade in blanka prov. I grafen nedan redovisas hur samtliga OECD-länder presterat i matematik år 2012. Av grafen framgår att inget av dessa länders medelvärde låg under 400 poäng.

pisa2012_2

Man skulle kunna göra en liknelse mellan den brutna PISA-skalan och en bruten skala som redovisar den vuxna befolkningens skostorlek. Skostorleken är normalfördelad i befolkningen och det finns ingen vuxen som har fötterna i behåll som har fötter i skostorlek 0. Det tycks därför meningslöst att låta en graf som ska beskriva skostorlekens utveckling över tid starta på 0, i synnerhet om man vill åskådliggöra en medelvärdesökning om två storlekar över tid. En sådan ökning är mycket betydelsefull i och med att majoriteten av befolkningens skostorlek återfinns inom ett förhållandevis litet spann men syns dåligt med en obruten skala.[2]

I grund och botten är väl detta en fråga om tycke och smak. Sifforna är vad de är, oavsett i vilken form de visas. Det viktiga enligt min åsikt är dock att vi inte förminskar innebörden av den resultatnedgång som syns för svensk del, samt att vi förstår den i rätt perspektiv. Inget annat land uppvisar en lika negativ trend som Sverige över tid och det är en viktig indikation på att något inte står rätt till i det svenska skolsysystemet:

PISA2012

Källa: Skolverket (2013)

Med detta sagt ska det också sägas att Edman har rätt på en punkt. I sin krönika säger han att,

Om den långa betygsstatistiken för perioden 1998–2011 inte indikerar en faktisk kunskapsutveckling utan är missvisande har vi gigantiska problem med statistikunderlagen.

Och ja, det får man nog säga att vi har.


[1] Edman lånar det här resonemanget direkt från SKL själva, se här och här.

[2] Den som har data över skostorlekar får gärna återkomma med en analys på området!

Annonser
Taggad , , , , , , , , , ,

7 thoughts on “Om PISA-resultat, betyg och raka felaktigheter

  1. Jonas Vlachos skriver:

    Jag uttryckte mig slarvigt. Noga räknat är det knappt 0,00003% av eleverna i hela populationen som kan förväntas skriva så svaga resultat. Att ett helt land skulle hamna så lågt är, i ordets rätta bemärkelse, osannolikt. Tack för ett bra inlägg!

  2. Håkan Broström skriver:

    Det är väl klart att de svenska nationella proven mäter något annat än både TIMSS och PISA. Som matematikadjunkt mellan åren 1980-1994 hade vi särskild kurs kvar då vi i TIMSS 1995 (advanced) låg i topp i fysik och medel i matematik har vi fallit till medel i fysik och näst sist i matematik i TIMSS 2008 (adv). Från TIMSS 1995 till TIMSS 2003 blev resultaten i åk 8 sämre än i årskurs 7 1995. Dessutom ersattes vi fysikadjunkter av 4-9 lärare på högstadiet och matematikens innehåll förändrades från det mer traditionella där kopplingen till fysik med algebra och geometri var stark (även om det inte räknades i fysik så mycket på högstadiet förberedde matematiken detta dvs. var ett led in på ”natur”) till en mer ”förståelseinriktad” variant med sjunkande krav på räknetekniska färdigheter men även på beräkningar där enheter var grund för tänkandet. Allt följer Standards i USA där just Jeremy Kilpatrick 2001 dömde ut de kvalitativa studier som låg till grund för elevdiskussioner och han föreslog just mer longitudinella studier med hypotesprövningar. Problemet är att de svenska nationella proven mäter den typ av ”öppna frågor” som är på mycket låg teknisk färdighetsnivå. Det som ses som förbättringar är en form av anpassning rent språkligt sett och även anpassning till ren logik med mycket enkla tal och samband i en form av teckenlära. Även om ”rubrikerna” är lika har det i Sverige skett en omdefinition och i kursplan 2011 finns algebra redan med från lågstadiet. Kalifornien bröt sig ur resten av USA 1995 och hävdade i likhet med oss fysikadjunkter att det var dags för en återgång till räkneläran och beräkningsgeometrin i åk 1-6 med tydliga färdighetskrav. De reagerade mot just ”öppna problem” och att det inte klart och tydligt angavs att multiplikationstabell skulle vara avklarad i åk 3 och beräkningar av volymer och areor i årskurs 6. Det som skiljer Sverige från andra länder är just mycket låga krav på räknefärdigheter. Matematikdelegationen 2004 sänkte kraven ytterligare vilket ingen vettig riktig matematiklärare (fysikadjunkt) kunde drömma om.

    Problemet är just de nationella proven som blir viktigare och viktigare och nu är matematikböckerna VDN-märkta för att visa på deras anpassning både till kursplan 2011 och de nationella proven. I princip kan man säga att det är samma gäng hela högen. Det som då blir det intressanta är det ständigt faller i både TIMSS och PISA men stiger i de nationella proven. Under 1980-1994 var pojkarnas resultat signifikant bättre än flickornas hela tiden men efter 1994 faller pojkarna och även elever från lägre SES-miljöer. Förklaringen är att ”matematiken” mer blir språkövningar och premierar anpassningsförmåga och prudentlighet. Det finns alltså ett ”kvinnligt” beteende som gynnas men tittar man på ”natur” blir det ombytta roller likafullt. Kort och kan sägas att den svenska matematiken har krypit in på ”natur” och att den särskilda kursen börjar där.

    Det har bildats en egen svensk skolmatematik helt enkelt.

    mvh Håkan

  3. pontusbackstrom skriver:

    Hej Håkan och tack för din intressanta kommentar! Jag delar helt den beskrivning du gör av matematikens förändring. Detta har ju också uppmärksammats från universitetshåll, där man anser att matematiken i ungdomsskolan inte möter universitetens förväntningar:

    http://ncm.gu.se/pdf/namnaren/1015_06_2.pdf

    Det tycks också finnas ytterligare ett fenomen som är intressant att uppmärksamma i detta sammanhang. Samtidigt som den svenska skolmatematiken ska vara förståelseinriktad, så tycks eleverna bli allt sämre på att förstå matematik. Detta är nog tätt förbundet med det faktum att de tekniska förmågor som väl ska läras ut, lärs ut som mekaniskt räknande där eleven inte förstår vad varför man ska göra som man gör.

    Detta har som bekant Skolinspektionen pekat på i sina kvalitetsgranskningar.

    Det finns också ett intresant projekt vid Umeå universitet som kanske intresserar dig i detta sammanhang. De har studerat den så kallade ”kompetensmålsreformen” i matematiken:

    http://www.vr.se/franvetenskapsradet/konferenserochseminarier/konferenserochseminarier/resultatdialog/medverkandeprojekt/medverkandeprojekt2013/nationellamatematikprovharsvageffektsomkatalysatorforutbildningsreform.5.49e6aaba13ef4cb9623470a.html

    Mvh, Pontus

    • Håkan Broström skriver:

      Jo-KTH är inne på det som ”vi” gamla lärare alltid hade som utgångspunkt och det är att komplexitetsgraden måste vara så pass hög att procedurererna har ett syfte utanför sig själva. Det som görs mer och mer är att man ”bevisar” att regeln är korrekt. Exempelvis kan eleverna bevisa triangelns area men de kan inte beräkna den då de inte fattat begreppet höjd. Problemet ligger i att svensk skolmatematik har efterapat Standards för mycket som inte alls har fysikämnet i tankarna. Geometri är i grunden protofysik. Matematikämnet har gått mer och mer mot logik och elever ska förklara varför vilket är självklart. Guy Brousseau (1997) menar att regeln och frågan smälter ihop och frågan är själva regelföljandet. Det är som Dienes strukturerade materiel under 1970-talet. Varför jag betonar fysikämnet är att där ses matematiken som ett medel och elever men också civilingenjörsstudenter är tillämpare. Vi förhäver oss i förståelsebegreppet och då vi fysikadjunkter plockades bort via lärarreformen 1988 kan man se att även vår matematik försvinner just utifrån verktygsfunktionen. Piaget hade en alltför romantisk inställning till den reflexiva abstraktionen och Dewey påpekar att det praktiska tänkandet gäller långt upp i systemet. Vi är ”konkret operationella” betydligt längre än vi tror. Det går att se algebran som en ”struktur” mycket tidigt men det skapar bara problem. Exempelvis är talteorins införande för tidigt ett sådant. Vi vill vara vetenskapliga till varje pris. Lgr 80 tonade ner räknandet i fysik och då Lpo 94 infördes fick inte fysikämnet någon upprättelse. Matematiken blev mer och mer ett eget område och just färdighetsaspekten tonas ner. Den gamle folkskolläraren hade sina tillämpningar där just tittandet på enheterna skapar en form av tänkande som blir strukturellt. Även Vygotskij är inne på att komplexitetysgraden måste komma upp på en nivå som är så hög att det måste till ett tänkande som styr procedurerna. Riktigt vad detta är kommer vi aldrig åt men fullt klart har svenska elevers färdigheter blivit så låga i och med att kapitelindelningen men även matristänkandet är och förblir en form av kognitiv psykologi som letar hjärnans ”konstruktioner”. Hela förfallet kommer från konstruktivism som endast fungerar då man redan kan det som ska läras. Brousseau dömet helt ut Polyas ”metakognition” då det är till för rena matematiker. Problemet ät att rena matematiker fått för stort inflytande och Sverige har en ny form av mängdlära fast talteori och topologi dominerar.

      Nu kommer samma visa som under 1970-talet (internationellt i vissa kretsar) där då lärarna inte anses förstå storheterna bakom kursplan 2011. Det är en form av filosofi som endast finns i rena matematikers huvuden som nu fortplantats till matematikdidaktiker som fortplantar det till eleverna som fortplantar det till läraren som…

      mvh Håkan

      • Håkan Broström skriver:

        En tanke som kom farande är att vi i Sverige har en syn på att matematiken ska vara lustfylld. Asiatiska elever tycker inte alls att den är speciellt ”rolig”. Stacey&MacGregor (1999?) konstaterade också att de elever som inte var speciellt förtjusta i matematiken hade högre resultat på proven. Även då jag går till mig själv var det så under min gymnasietid. Alla ”visa att”-uppgifter hoppade jag över och det var nog först på C-nivån på universitetet jag började inse en viss form av ”skönhet”. Dock inte i kursen abstrakt algebra som jag tyckte var ett onödigt tjafsande… men då jag tvingades till undervisning på 4-9-lärarutbildningen var jag tvingad till att ”gilla läget”. Nu – först nu insåg jag ”finessen”…. Jag införde en variant av detta även för 1-7 läraremen slutade 2004 på lärarutbildningen och har sedan dess insett mer och mer att det inte alls var så lyckat då risken är stor att de lärarstuderande överför detta till sin egen undervisning. Nu 2013 är jag helt övertygad om att det är här förfallets orsak ligger. Allt ligger i viljan att vetenskapliggöra fel saker. Matematikdidaktiken blir kontraproduktiv helt enkelt och måste sluta med att leta ”strukturer” som näppeligen inte kan finnas utan det blir bara rena procedurer med en form av ”dialog” där det triviala skryts upp. Brousseau och Sierpinska har gett det namnet den dubbla Jourdain-effekten.

        Risken är att det blir en form av ”sekterism” likt Pythagoras talmytisism. Det går att hitta ”lustfyllda” övningar där då eleven verkligen tycker sig vara professorsaktig och jag påminner mig den ”lille kemisten” i årskurs 7 som fått några kemilådor i presenter. Efter ett tag blev det enerverande då denne trodde sig veta det mesta men… Det blev ett PROBLEM att få honom att förstå att man måste utgå från det som redan är ”fakta” enligt periodiska systemet som säger det det säger och inget mer.

        Wittgenstein kom fram till att ‘förståelse’ är något som endast finns som beledsagar ett regelföljande. Även om jag med integralkalkyl bevisar klotets volym följer jag ju bara en algoritmisk metod som är inlärd MEN för mig sitter kvar då jag har det som en ”bild”… Wittgenstein har en poäng om just roten ur två som vi kan med en passare fälla ner på ”tallinjen” som vi uppfattar som en linje dvs. geometriskt men ett irrationellt tal kan bara stängas in med Dedekinds snitt och det finns då ett ”hål” eller en punkt som inte finns men då är ju antalet ”hål” mäktigare i mängd än alla punkter i och med att de irrationella talen inte går att numrera. Likafullt fyller de ut hela tallinjen. Vaddå ”fyller ut”? Var kom begreppet ”fyller ut” i från?

        Varför är det viktigt att de går att numrera eller inte att numrera? Jo för att Cantor hittade ett ”bevis”. Går matematiken att ”förstå”? Fysiker är ändå ärliga. Ingen förstår att vi bara är avbildningar av ett tvådimensionellt hologram vid händelsehorisonten. Det som tycker sig förstå detta ska söka hjälp.

        Att ”förstå” är ett samhällsvetenskapligt begrepp och finns inte i fysik där det gäller att Förklara och Förutsäga med hjälp av matematik. De fyra F:en saknade fysikens två F. Vi kanska ska stryka begreppet förståelse och stora delar av ”pratmatten” som verkar vara de okunnigas syjunta. Wittgenstein riktigt hatade att matematiken använde sig av för mycket prosa.

        Håkan

  4. […] Det råder PISA-hysteri i svensk skoldebatt. Med rätta, för PISA ger viktig information om vissa delar av kunskapsutvecklingen i svensk skola som Sveriges egna uppföljningssystem inte förmår fånga och mäta. Läs ett intressant blogginlägg om detta här. […]

Kommentera

Fyll i dina uppgifter nedan eller klicka på en ikon för att logga in:

WordPress.com Logo

Du kommenterar med ditt WordPress.com-konto. Logga ut / Ändra )

Twitter-bild

Du kommenterar med ditt Twitter-konto. Logga ut / Ändra )

Facebook-foto

Du kommenterar med ditt Facebook-konto. Logga ut / Ändra )

Google+ photo

Du kommenterar med ditt Google+-konto. Logga ut / Ändra )

Ansluter till %s

%d bloggare gillar detta: