Om den växande klyftan mellan prestation och förståelse i AI-eran.
När man frågar studenter om deras bruk av GenAI får man oftast svar som:
«Jag lär mig mycket mer med AI.»
«AI hjälper mig att förstå svåra begrepp.»
«Jag hade aldrig klarat kursen utan ChatGPT.»
Dessa svar gäller inte bara här på NTNU, utan man ser samma trend över hela världen. Man borde som undervisare vara glad över detta. Studenterna lär sig och förstår mer. Men samtidigt finns det en annan sida av detta. Kan vi lita på att studenternas uppfattning av sin egen förståelse, deras metakognition.
Svaret kan vara att vi borde bli oroliga. Inte för att AI inte hjälper studenter. Tvärtom. Problemet är att AI verkar vara betydligt bättre på att förbättra prestation än på att förbättra studenters förmåga att avgöra vad de faktiskt kan. Detta framgår i en artikel av Fernandes et al. «AI makes you smarter but none the wiser «[1], där de har studerat just detta.
Fysikens gamla problem
I fysikutbildningen har vi länge känt till att det finns en avgörande skillnad mellan att kunna räkna och att förstå. En student kan lära sig att använda Schrödingerekvationen utan att förstå vad en vågfunktion representerar. En annan kan lösa integraler mekaniskt utan att ha någon intuitiv känsla för varför integration fungerar. I stället för att förstå hur man applicerar de grundläggande principerna på ett problem, används en algebraisk problemlösningsstrategi där man anpassar den till de sökta och givna storheterna.
Så vi har sedan tidigare ett gammalt problem, men nu har vi en ny utmaning. Det nya är att AI gör det möjligt att passera genom utbildningen med betydligt mindre kognitiv friktion än tidigare. Det man behöver komma ihåg är att man lär sig som bäst när man måste anstränga sig och reflektera över problemet. På samma sätt när man styrketränar, det är motståndet som mest utbyte. På samma sätt är kognitiv friktion inte dålig. Många av de insikter som verkligen fastnar uppstår just när man kör fast.
När rätt svar blir för billiga
I studien, «AI makes you smarter but none the wiser» [1], fick hundratals deltagare lösa logiska resonemangsproblem med hjälp av ChatGPT. Resultatet var på ytan imponerande: de presterade klart bättre än jämförbara grupper som inte hade stöd av AI. Men samtidigt överskattade de sin egen prestation kraftigt. I genomsnitt trodde de att de hade löst ungefär fyra fler uppgifter korrekt än de faktiskt hade gjort. Något som forskarna beskriver som en metakognitiv frånkoppling.
Metakognition handlar om vår förmåga att bedöma vårt eget tänkande, något som inte är samma sak som intelligens. Det är förmågan att veta när man förstår och när man inte gör det. Och just den förmågan verkar AI inte stärka, snarare tvärtom.
Den obekväma frågan som måste ställas
Anta att en student säger:
«ChatGPT hjälpte mig att förstå termodynamiken.»
Hur vet vi att det är sant? Det låter kanske som en provocerande fråga. Men forskningen ger oss goda skäl att ställa den.
I studien AI makes you smarter but none the wiser fann forskarna att användarna blev bättre på uppgifterna samtidigt som deras självbedömning blev mindre träffsäker. Prestationsökningen och känslan av kompetens följdes inte åt. Det betyder att den subjektiva upplevelsen av förståelse inte längre är särskilt pålitlig. Det som känns som lärande kan i vissa fall vara något annat. Nämligen effektiv tillgång till någon annans resonemang.
High School elever som lärde sig mindre
Ännu mer bekymmersam är en stor studie från University of Pennsylvania [2]. Nästan tusen High School school-elever fick använda GPT-4-baserade matematikassistenter under träning. Under själva övningarna steg resultaten dramatiskt. Men när AI-stödet togs bort visade det sig att elever med fri ChatGPT-liknande hjälp presterade sämre än elever som aldrig haft någon AI alls.
Här ser vi en oroväckande trend:
De presterade bättre när AI:n var närvarande. De presterade sämre när den försvann.
Forskarna drog slutsatsen att många elever använde systemet som en krycka snarare än som ett pedagogiskt stöd. De kom fram till lösningarna, men byggde inte motsvarande förståelse av de underliggande matematiska idéerna.
För universitet borde detta vara en varningsklocka. Utbildningens mål borde inte vara att studenterna ska kunna lösa uppgifter tillsammans med ChatGPT. Utbildningens mål är att studenten ska kunna lösa uppgifter när ChatGPT inte finns där och vara kritisk till de lösningar man får.
Google-effekten har fått en bror
Redan långt före dagens språkmodeller visste psykologer att människor har svårt att skilja sin egen kunskap från extern hjälp.
Fisher och Oppenheimer [3] visade att människor ofta tillskriver sig själva mer av framgången än de borde när de har fått hjälp utifrån. Extern assistans kan skapa en illusion av större egen kompetens än vad som faktiskt finns («Illusion of mastery»). Detta var problematiskt redan när hjälpen bestod av Google. Med generativ AI blir effekten sannolikt starkare.
Jag har berört problematiken med «illusion of mastery» tidigare (https://www.ntnu.no/blogger/fysikkforfakirer/2020/08/18/hur-att-se-inspelade-forelasningar/) och ska komma tillbaka till den i framtiden.
Där Google gav oss information, ger ChatGPT oss resonemang.
Google svarade på frågor, medan ChatGPT hjälper oss att formulera tankar som låter som våra egna.
Detta gör att gränsen mellan min egen kunskap och maskinens kunskap blir betydligt svårare att urskilja. Detta blir extra tydligt om man inte har lärt sig att vara kritisk, att inte ha förvärvat betydande metakognition.
Det verkliga hotet mot utbildningen
När AI diskuteras fokuserar debatten ofta på fusk, men detta är sannolikt fel fokus. Det stora problemet är inte att studenter lämnar in AI-genererade texter eller lösningar. Det stora problemet är risken att studenter gradvis förlorar förmågan att upptäcka sina egna kunskapsluckor.
Detta är något som framförts tidigt i utvecklingen av generativ AI, där forskare vid Microsoft Research [4] har argumenterat för att generativ AI ställer mycket höga krav på användarens metakognition: man måste kunna värdera svar, upptäcka fel, bedöma osäkerhet och avgöra när modellen har rätt och när den har fel. Men just dessa färdigheter är något som utvecklas genom lång träning och återkoppling, något som sker under universitetsstudier.
Om AI tar över en för stor del av ”tänkandet” och resonerandet riskerar även den träningen att försvinna.
Vad kan vi göra?
Den enkla lösningen är inte att förbjuda AI. Det vore ungefär som att förbjuda miniräknare eller internet som hjälpmedel. Men vi behöver kanske börja undervisa och examinera annorlunda.
När en student presenterar ett svar, borde nästa fråga vara: Hur vet du att det är rätt? Eller ännu bättre: Kan du förklara resonemanget utan hjälpmedel? Om studenten verkligen har förstått något bör kunskapen överleva även när AI:n lämnar rummet.
Om förståelsen däremot försvinner samtidigt som chatbotfönstret stängs, då har vi antagligen förväxlat prestation med lärande.
Slutord
Det finns en ironi i den forskning som nu växer fram om AI och människor.
AI verkar faktiskt göra människor bättre på många kognitiva uppgifter. Samtidigt verkar den göra oss mindre träffsäkra när vi bedömer vår egen kompetens. Det är därför jag blir en smula misstänksam när någon säger: «AI hjälpte mig att förstå kursen.» Kanske har studenten rätt. Men forskningen antyder att just den personen är ovanligt dåligt placerad för att avgöra saken.
Och det är kanske den mest fascinerande frågan i hela AI-revolutionen: inte om maskinerna kan tänka. Utan om vi fortfarande kan avgöra när vi själva gör det.
- Daniela Fernandes, Steeven Villa, Salla Nicholls, Otso Haavisto, Daniel Buschek, Albrecht Schmidt, Thomas Kosch, Chenxinran Shen, Robin Welsch, AI makes you smarter but none the wiser: The disconnect between performance and metacognition, Computers in Human Behavior, Volume 175, 2026, 108779, https://doi.org/10.1016/j.chb.2025.108779.
- H. Bastani,O. Bastani,A. Sungu,H. Ge,Ö. Kabakcı, & R. Mariman, Generative AI without guardrails can harm learning: Evidence from high school mathematics, Proc. Natl. Acad. Sci. U.S.A. 122 (26) e2422633122, https://doi.org/10.1073/pnas.2422633122 (2025)
- Fisher, Matthew, and Daniel M. Oppenheimer. «Harder than you think: How outside assistance leads to overconfidence.» Psychological Science 32.4 (2021): 598-610. https://doi.org/10.1177/0956797620975779
- https://www.microsoft.com/en-us/research/articles/the-metacognitive-demands-and-opportunities-of-generative-ai/







