Arbetsrapport 2018-1

8 2 Rättvisa Myndigheter ska behandla sina kunder på ett likvärdigt och rättssäkert sätt. I detta avsnitt ska vi diskutera några olika metoder som har föreslagits inom forskningslitteraturen för att avgöra om prediktiva modeller ger utfall som avspeglar de verkliga riskerna för att det ska vara fel. Det finns lag- regler som begränsar hur vissa känsliga personuppgifter kan användas vid analyser. Det finns också lagregler som innebär ett förbud mot att behandla människor olika utifrån vissa egenskaper. Det finns sju sådana diskrimine- ringsgrunder (kön, könsöverskridande identitet eller uttryck, etnisk tillhö- righet, religion eller annan trosuppfattning, funktions-nedsättning, sexuell läggning och ålder). En följd av diskriminerings-förbudet är att myndigheter inte får lägga sådana egenskaper till grund för att följa upp personer i olika utsträckning. Men som den fortsatta analysen kommer att påvisa kan ute- lämnandet av sådana variabler paradoxalt nog skapa indirekt diskrimine- ring. Det senare är en betydande komplikation och kräver en metod för att upptäckas och därtill en medveten strategi för att hanteras. Låt oss gå igenom ett exempel: Säg att vi vill öka träffsäkerheten i ett kontrollsystem. Vi tror inte att män och kvinnor skiljer sig åt i risken att lämna in felaktiga ansökningar. Att utelämna kön från beräkningen kan därför upplevas som oproblematiskt. Vi tror i stället att förekomst av läs- och skrivsvårigheter är en viktig förklaring till att människor gör fel vid ansökan. Denna variabel kan vi inte mäta, men vi antar att personer med läs- och skrivsvårigheter i genomsnitt har lägre sannolikhet att studera vidare på högskolan och därför tenderar att ha tillgång till en mer begrän- sad arbetsmarknad och färre jobb att söka. Att ha färre jobb att söka är förenat med högre konkurrens och då vanligtvis lägre lön i genomsnitt. 4 Vi använder därför lön som en förklarande variabel för risken att göra fel. Men det är också så att arbetsmarknaden tenderar att vara könsuppdelad och att kvinnor i genomsnitt har lägre löner än män. Genom att inkludera lön i den prediktiva modellen riskerar vi därför att följa upp fler kvinnor än män, trots att kön inte har något att göra med risken för att göra fel. Denna typ av skensamband kan lätt uppträda när en prediktion byggs på enbart korrelationer, utan stöd av en genomarbetad kausal modell. För att hantera ett sådant skensamband kan en lösning vara att inkludera kön i modellen. Men en sådan lösning kanske inte är möjlig om skensambandet uppstår för variabler som inte är tillåtna att inkludera i modellen eller inte är möjliga att mäta. Men risken för sådan indirekt diskriminering måste ändå identifieras på något sätt. Vi kommer inte göra någon särskillnad mellan olika typer av variabler i denna rapport utan utarbetar en generell metod som är användbar för alla personegenskaper. Vi använder kön för att illustrera problematiken. 4 Detta är förstås en generalisering men används här som en liknelse som är förhållandevis lätt att relatera till.