Arbetsrapport 2018-1

7 som nekas ersättning, så kan det finnas andra personer som inte hindras på samma sätt. Vi kommer i rapporten beskriva problemet genom att konstruera en kausal modell, där vi har fullständig kontroll över hur data genereras, och sedan tillämpa en metod för maskininlärning på dessa data för att se om det finns en risk att den genererar snedvridna utfall. Vi kommer också att presentera några olika sätt att analysera om utfallet från en maskininlärningsmetod är rättvist utifrån ett likabehandlingsperspektiv. Avsikten är inte att kategori- sera olika maskininlärningsmodeller utifrån hur väl de återskapar faktiska utfall. Avsikten är att påvisa att det lätt uppstår problem med olika behand- ling av personer om inte metoden på ett genomtänkt sätt hanterar proces- sen som genererar data och de underliggande strukturer som orsakar fel- aktiga utbetalningar. 1.2 Disposition I kapitel två diskuterar vi olika metoder som föreslagits av forskare för att identifiera om inlärningsmodeller är ”rättvisa” i sin kategorisering av personer eller om det finns någon skevhet som skulle kunna uppfattas som att personer behandlas olika. I kapitel tre diskuterar vi kausalitet, problem med confounding och vilka förutsättningar som behöver vara uppfyllda för att en övervakad maskin- inlärningsmodell ska kunna generera resultat som inte är skeva. Kapitlet beskriver också hur analysdata har genererats. I kapitel fyra genomförs den empiriska analysen som syftar till att testa effekterna på träffsäkerhet och likabehandling av att begränsa kontrollen till de med högst risk, att bredda urvalet eller att genomföra kontroller utifrån en stratifiering. Kapitel fem sammanfattar slutsatserna från analysen.