As valid as it can be?: The assessment of prior learning in higher education
Tova Stenlund
Lektor Peter Nyström, Professor Widar Henriksson
Professor Patricia Murphy
Umeå universitet
2011-06-01
As valid as it can be?: The assessment of prior learning in higher education
Institutionen för tillämpad utbildningsvetenskap
Abstrakt
Bedömning av reell kompetens (assessment of prior learning på engelska) är en företeelse som har uppmärksammats i stora delar av världen, däribland Sverige, under de senaste åren. Bedömning av reell kompetens handlar om hur människors kompetens, oavsett om det är formell (exempelvis utbildning) eller informell kompetens (exempelvis yrkeskompetens), kan identifieras, värderas och erkännas. Den exakta definitionen av bedömningen har diskuterats under åren och regeringens senaste förslag på definition lyder; Validering är en process som innebär en strukturerad bedömning, värdering, dokumentation och erkännande av kunskaper och kompetens en person besitter oberoende hur de har förvärvats (DS 2003:23). Inom högre utbildning används den här typen av bedömning för både antagning och tillgodoräknande inom en kurs eller ett program. Eftersom resultatet av bedömningen får stora konsekvenser för individens framtida yrkesliv är det speciellt viktigt att bedömningen har god kvalitet. För att beskriva mätningars eller bedömningars kvalitet används konceptet validitet (enkelt förklarat är validitet att mäta det som är avsett att mätas) och innebörden i konceptet har förändrats under åren. Validitet som tidigare var uppdelad i olika typer av validitet är idag ett mer unisont koncept med begreppsvaliditet som det sammanhållande temat där fokus ligger på tolkningen som baseras på utfallet av mätningen eller bedömningen. Syftet med den här avhandlingen är främst att undersöka validiteten i bedömning av reell kompetens inom högre utbildning. Avhandlingen innehåller fyra studier (I IV) och en kappa. De fyra studierna i den här avhandlingen är alla fokuserade på validiteten, i synnerhet på hot mot validiteten, i den här typen av bedömning inom högre utbildning. En modern syn på validitet har genomgående använts som teoretisk grund för studierna i avhandlingen. Studie I är en forskningsöversikt som undersöker forskningen som har bedrivits inom området mellan åren 1990-2007 och resultatet analyserades sedan utifrån ett modernt validitetsperspektiv. Det övergripande resultatet visade att majoriteten av forskningen inom det här området kan beskrivas som teoretiska studier, som exempelvis beskrivningar och jämförelser av procedurer för den här typen av bedömning, kritiska analyser och diskussioner om kvalitet i den här typen av bedömning. Resultatet visade också att det till stor del saknas empiriska studier som undersöker och utvärderar olika aspekter av validitet i bedömningen av reell kompetens. Resultatet av studie I inspirerade till empiriska studier av en svensk procedur för bedömning av reell kompetens. Den här proceduren används bland annat för antagning till och tillgodoräknande i den svenska yrkeslärarutbildningen baserad på reell kompetens. Det finns ett antal olika yrkesområden att söka till och för att bli antagen till och få tillgodoräkna sig poäng i programmet så krävs det att den sökande har tillräcklig erfarenhet och kompetens inom yrket i fråga. I studie II, III och IV undersöks de olika delarna av den här specifika bedömningsproceduren och dess validitet.Studie II undersöker proceduren ur deltagarnas (det vill säga de som har sökt till yrkeslärarutbildningen och grundat sin ansökan på reell kompetens) perspektiv. En enkät konstruerades för att få information om deltagarnas erfarenheter av bedömningsproceduren och cirka 330 av dem som sökt till yrkeslärarutbildningen genom den här specifika proceduren för bedömning av reell kompetens svarade på enkäten. Resultaten visade att det verkar finnas hot mot validiteten i såväl administrationen av bedömningen som i konsekvenserna av bedömningen. Exempelvis finns det skillnader mellan hur mycket hjälp de sökande har fått för att beskriva sin reella kompetens och en negativ konsekvens av bedömningen är att en del av deltagarna upplever att bedömningen saknar trovärdighet och rättvisa. Studie III handlar om validiteten i de antagningsbeslut som tas grundande på bedömningen av reell kompetens i den här specifika proceduren. Studien undersöker cirka 600 individers antagningsbeslut till yrkeslärarutbildningen grundade på reell kompetens. Åtta olika universitet är representerade i studien. Resultatet visar bland annat att det finns skillnader mellan de olika universiteten som kan ifrågasätta validiteten och trovärdigheten i de här besluten och att förbättringar behövs för att besluten ska räknas som valida. Studie IV fokuserar på reliabiliteten (det vill säga graden av överensstämmelse i en upprepad mätning av samma objekt) i bedömningen av reell kompetens inom högre utbildning. Studie IV undersöker både överensstämmelsen mellan bedömare (inter-rater reliability) och överensstämmelsen för bedömare som upprepar sin egen bedömning (intra- rater reliability). Resultaten visar att överensstämmelsen mellan bedömare är svag och sämre än överensstämmelsen för en upprepad bedömning av samma bedömare. En slutsats i den här studien är att reliabiliteten i den här typen av bedömning behöver undersökas ytterligare och att det krävs åtgärder för att den ska bli bättre.Den generella slutsatsen i den här avhandlingen är att det verkar finnas brister i bedömningen av reell kompetens inom högre utbildning och att den inte är så valid som den borde vara. Det är viktigt att uppmärksamma betydelsen av kvalitet, i termer av validitet, i den här typen av bedömningar. Vidare studier är nödvändiga inom området och bedömningen har potential att nå en högre grad av validitet om förbättringar genomförs.
As valid as it can be?: The assessment of prior learning in higher education
Assessment of prior learning (APL) represents the task to identify and acknowledge an individual s knowledge and skills regardless of how it has been obtained. In higher education this type of assessment is primarily used for the purpose of awarding access, credits or advanced standing. Because of the impact the results from APL have on the future working career for individuals claiming APL, it is of great importance that these result of APL is valid. The question of interest in this thesis is to what extent APL in higher education is a valid assessment.The thesis is written in the field of educational measurement and comprises four papers and an extensive introduction with summaries of the papers. The most recent views of validity theory were used as the general theoretical framework in all papers, and all papers are concerned with APL in higher education. Study I reviews the research area of APL in higher education from a validity perspective. The general conclusion from the review is that the majority of the studies conducted in this area primarily provide theoretical rationales and theories for a variety of APL practices, and that there is a need for empirically based studies examining and evaluating validity of APL. Studies II, III and IV are empirical studies based on, and exemplified with, an APL scheme related to higher education in Sweden. Study II examines validity issues identified from claimants (individuals or students claiming APL) view of APL. The claimants experiences from the specific APL scheme were examined using a questionnaire developed for that purpose. Conclusions drawn from the results are that possible threats to validity may exist in the administration of APL procedures, as well as in consequences of APL. Study III focuses on validity of admission decisions based on APL. The study examines decisions made by different higher education institutions for approximately 600 individuals applying for higher education based on their prior learning. The results show that the existing practice of APL needs improvements in order to obtain validity and trustworthiness in the decisions made in relation to APL. Finally, Study IV focuses on reliability in APL related to higher education. The study provides data of inter- and intra-rater reliability among judges in the specific APL scheme. The results show a lack of especially inter-rater reliability, and a conclusion is that reliability in this type of assessment should be further investigated. The general conclusion from this thesis is that there is a need to take validity issues in APL seriously, and that APL in higher education may not be as valid as it could be.