Nya AI-förordningen - vad gäller nu?

Varför behövs en AI-förordning?

De senaste åren har användningen av AI inom olika delar av samhället ökat snabbt. Inom rekrytering har AI blivit ett verktyg för att kunna hantera stora kandidatvolymer, minska mänskliga felbedömningar och effektivisera urvalsprocesser. Men med tekniken har också riskerna blivit tydliga.

Studier har visat att vissa AI-system som används för rekrytering riskerar att istället förstärka befintliga fördomar – exempelvis genom att favorisera kön, etnicitet eller ålder på ett systematiskt sätt. Algoritmer som tränats på historiska data från organisationer med ojämställd representation har kunnat reproducera samma snedvridningar i framtida urval. Flera uppmärksammade fall, där AI-drivna system har diskriminerat kandidater har väckt både allmänhetens och lagstiftarnas oro.

Det är mot denna bakgrund AI Act har växt fram. EU:s mål är att säkra en teknik som är transparent, rättvis, säker och som respekterar individers rättigheter.

AI i rekrytering = högrisk enligt AI Act

AI Act bygger på ett riskbaserat tillvägagångssätt där AI-system delas in i fyra riskkategorier: oacceptabel, hög, begränsad och minimal risk. System som används för att fatta beslut i rekryteringsprocesser (till exempel urval, poängsättning eller analys av kandidaters beteende) omfattas av hög risk. Det innebär att användningen regleras med tydliga krav på dokumentation, övervakning, transparens och rättvisa.

Det är inte förbjudet att använda AI i rekrytering, men det ställs högre krav än tidigare. Några exempel är att:

Automatiserade urvalssystem måste vara transparenta – kandidater ska förstå att AI används och kunna begära insyn i hur beslut fattats.
Mänsklig kontroll är obligatorisk – det får inte ske beslut som påverkar människor utan att en människa kan granska och ifrågasätta beslutet.
Datakvalitet och icke-diskriminering ska säkerställas – AI får inte tränas på skeva datamängder som kan leda till snedvridna resultat.
Allt måste dokumenteras – från träningsdata till beslutslogik och riskbedömningar.

Kort sagt så får AI inte användas som en svart låda. Den måste kunna förklaras, vara rättvis och kontrollerbar.

Vad får man göra – och vad får man inte?

Rekryteringsföretag får fortfarande använda AI för att effektivisera processer, till exempel genom att:

Screena och rangordna CV:n
Analysera svar från kandidater i tester eller intervjuer
Förbättra matchning mellan kandidat och roll

Däremot blir det otillåtet eller starkt begränsat att:

Låta AI fatta beslut helt utan mänsklig inblandning
Använda AI-modeller där urval sker utifrån känsliga variabler (exempelvis kön, etnicitet eller ålder) – även om dessa inte är explicit inmatade
Använda manipulerande system, till exempel AI som tolkar mikroansiktsuttryck utan vetenskaplig grund

Vad innebär det för rekryteringsföretag?

Företag som använder eller utvecklar AI inom rekrytering behöver anpassa sina processer och verktyg:

1. Identifiera var AI används – i vilka delar av processen och i vilka verktyg.
2. Kartlägga risker – är tekniken rättvis, transparent och förklarlig?
3. Skapa dokumentation – hur fungerar systemet, vilken data används, hur utvärderas effekten?
4. Införa mänsklig övervakning – varje kandidat ska ha möjlighet att förstå och ifrågasätta bedömningar.
5. Säkerställa att kandidatupplevelsen är etisk och respektfull – märk tydligt ut när AI används.

AI Act innebär inte ett förbud mot AI i rekrytering – tvärtom. Det är en vägvisare mot ansvarsfull, etisk och transparent användning. För rekryteringsbranschen innebär det ett paradigmskifte där tillit, rättvisa och kandidatens rättigheter blir lika viktiga som effektivitet. De företag som lyckas förena dessa perspektiv kommer stå starkast i den nya AI-eran.